Meta는 1월 6일자 회사 블로그 게시물에서 밝힌 바와 같이 Facebook, Instagram, 스레드 등 플랫폼 전반에 걸쳐 AI로 생성된 콘텐츠에 관한 새로운 규정을 시행할 계획입니다. 이러한 조치는 디지털 콘텐츠의 진위 여부와 투명성에 대한 우려가 커지고 있는 상황을 해결하기 위한 것입니다.
발표에 따르면, 메타데이터 또는 의도적인 워터마킹을 통해 AI가 생성한 것으로 인식되는 모든 콘텐츠에는 눈에 띄는 라벨이 표시될 예정입니다. 또한, 사용자는 라벨이 표시되지 않은 콘텐츠 중 AI 제작으로 의심되는 콘텐츠에 플래그를 지정할 수 있는 옵션이 제공되어 커뮤니티가 콘텐츠 중재 노력에 기여할 수 있게 됩니다.
이 이니셔티브는 AI 생성 콘텐츠가 등장하기 전의 초기 관행을 연상시키는 콘텐츠 검토에 대한 Meta의 진화하는 접근 방식을 반영합니다. 사용자가 위반 사항을 신고할 수 있도록 권한을 부여하고 콘텐츠 라벨링의 투명성을 보장함으로써 Meta는 플랫폼의 무결성을 유지하는 것을 목표로 합니다.
2024년을 내다보며 Meta는 방대한 사용자 기반을 활용하여 콘텐츠 검토 기능을 강화할 계획입니다. 사용자가 AI로 생성된 콘텐츠에 플래그를 지정할 수 있도록 함으로써 Meta는 크라우드소싱의 힘을 활용하여 디지털 콘텐츠의 진위 여부에 대한 새로운 과제를 해결합니다.
블로그 게시물에 따르면
“디지털 방식으로 제작되거나 변경된 사실적인 동영상이나 사실적인 사운드의 오디오가 포함된 오가닉 콘텐츠를 게시할 때 이 공개 및 라벨링 도구를 사용하도록 요구할 것이며, 이를 위반할 경우 페널티를 부과할 수 있습니다.”
AI 생성 콘텐츠에 대한 탐지 기능 강화
Meta의 플랫폼을 사용하는 크리에이터는 잠재적인 영향을 피하기 위해 콘텐츠에 AI가 생성한 것으로 표시해야 합니다. Meta는 자사 도구를 사용하여 생성된 콘텐츠에 워터마킹 및 라벨링을 구현하고 있지만, 대규모로 AI가 생성한 오디오 및 비디오 콘텐츠를 감지하는 데는 한계가 있음을 인정하고 있습니다.
이 문제를 해결하기 위해 Meta는 구글, OpenAI, 마이크로소프트, 어도비, 미드저니, 셔터스톡과 같은 업계 파트너와 협력하고 있습니다. 이들과 함께 보이지 않는 워터마크를 탐지하고 콘텐츠 진위 확인을 강화하는 방법을 개발하기 위해 노력하고 있습니다.
그러나 메타는 현재 딥페이크 기술을 포함한 AI가 생성한 오디오 및 비디오 콘텐츠를 대규모로 탐지하는 데는 한계가 있음을 인정합니다. 이는 진화하는 디지털 콘텐츠의 진위 여부와 무결성 환경을 해결하기 위해 지속적인 노력이 필요하다는 점을 강조합니다.