아이디어 구상부터 다양한 도구를 활용한 창작 방식의 향상에 이르기까지, 생성형 AI는 크리에이터가 자신을 표현하는 방법을 변화 시키고 있습니다. 이와 동시에 시청 중인 콘텐츠가 변형되었거나 합성된 콘텐츠인 경우, 이를 투명하게 공개하기를 원하는 시청자도 늘고 있습니다.
오늘 유튜브는 생성형 AI를 포함해 변형 되었거나 합성된 미디어로 만들어진 사실적인 콘텐츠인 경우, 크리에이터가 이를 시청자에게 알릴 수 있도록 유튜브 크리에이터 스튜디오(Creator Studio) 내의 새로운 도구를 공개했습니다. 사실적인 콘텐츠는 시청자가 실제 인물, 장소, 장면, 사건 등으로 오해할 수 있는 경우를 포함합니다. 다만 명확히 비현실적이거나, 애니메이션이거나, 특수 효과를 포함하거나, 제작에 도움을 받기 위해 생성형 AI를 사용한 콘텐츠의 경우 크리에이터에게 관련 정보 표시를 요구하지 않습니다.
이는 유튜브가 지난 해 11월 발표한 책임감 있는 AI 혁신에 대한 접근 방식을 기반으로 합니다. 유튜브가 발표한 접근 방식은 관련 정보에 대한 공개 요청 및 라벨, 업데이트된 개인정보 관련 요청 프로세스, 책임감을 기반으로 한 유튜브의 AI 제품 및 기능 구축이 포함됩니다.
동영상 플레이어의 라벨 표시 예시
새로운 라벨은 시청자 대상으로 투명성을 강화하고, 크리에이터와 시청자 간의 신뢰를 형성하기 위한 목적으로 도입되었습니다. 이러한 정보 공개가 필요한 콘텐츠의 몇 가지 예는 다음과 같습니다.
- 사실적인 인물의 모습 또는 음성 사용: 디지털 방식으로 콘텐츠를 변형하여 특정 인물의 얼굴을 타인의 얼굴로 바꾸거나 특정 인물의 음성을 합성으로 생성해 동영상에 내레이션을 추가한 경우
- 실제 사건 또는 장소 영상 변형: 실제 건물에 화재가 난 것처럼 보이게 만들거나 실제 도시 경관을 변형하여 사실과 다르게 보이도록 변형한 경우
- 사실적인 장면 생성: 토네이도가 실제 마을을 향해 이동하는 모습 등 가상의 주요 사건을 사실적으로 묘사한 경우
유튜브는 크리에이터가 창작 과정에서 다양한 방식으로 생성형 AI를 활용한다는 점을 잘 알고 있습니다. 따라서 스크립트 작성, 콘텐츠 아이디어 구상, 자동 자막 생성 등 생산성 향상을 위해 생성형 AI가 사용된 경우에는 크리에이터에게 이러한 정보 공개를 요구하지 않습니다. 또한, 합성된 미디어가 비현실적이거나 사소한 부분만 변형된 경우도 마찬가지입니다. 여기에 포함되는 사례는 다음과 같습니다.
- 애니메이션 또는 허구적인 세계에서 유니콘을 타는 인물의 모습 등 명확히 비현실적인 콘텐츠
- 색상 조정 또는 조명 필터
- 흐리게 처리한 배경 또는 빈티지 효과와 같은 특수 효과
- 뷰티 필터 또는 기타 시각 효과
설명 섹션 내 라벨 표시 예시
더 많은 예시는 고객 센터에서 확인할 수 있습니다. 대부분의 영상에서는 동영상 설명 섹션에 라벨이 표시되며 건강, 뉴스, 선거, 금융과 같이 민감한 주제를 다루는 경우 영상 내에 더 눈에 띄는 라벨이 추가적으로 표시됩니다.
모바일 유튜브 앱을 시작으로 곧 데스크톱과 TV에서도 향후 몇 주 내에 모든 유튜브 화면과 동영상 포맷에 걸쳐 라벨이 표시될 예정입니다. 유튜브는 커뮤니티 구성원들이 새로운 프로세스와 기능에 익숙해질 수 있도록 충분한 시간을 갖는 한편, 향후에는 이러한 정보를 지속적으로 공개하지 않는 크리에이터에 대해 시정 조치를 고려할 예정입니다. 또한, 변형 되었거나 합성된 콘텐츠가 시청자에게 혼란을 줄 가능성이 있을 경우, 크리에이터가 라벨을 표시하지 않은 경우에도 유튜브가 상황에 따라 라벨을 추가할 수 있습니다.
더욱 중요한 것은 디지털 콘텐츠의 투명성을 높이기 위해 업계 전반에 걸쳐 협력을 이어가는 유튜브의 노력입니다. C2PA(Coalition for Content Provenance and Authenticity) 운영 위원회 활동도 이러한 노력의 일환입니다.
아울러 이전에 발표한 바와 같이 유튜브는 AI를 기반으로 생성되거나 기타 방식으로 합성, 변형된 콘텐츠가 얼굴이나 목소리 등 신원 확인이 가능한 개인을 모방한 경우, 콘텐츠의 삭제를 요청할 수 있도록 개인정보 관련 요청 프로세스를 업데이트하기 위해 노력하고 있습니다. 이 프로세스를 전 세계적으로 어떻게 도입할 것 인지에 대한 자세한 내용도 곧 공유할 예정입니다.
크리에이터는 유튜브의 핵심이며 시청자가 생성형 AI의 세계를 이해하고, 수용하며, 적응하도록 돕는 데 계속해서 중요한 역할을 할 것입니다. 이는 끊임없이 진화하는 과정이 될 것이며, 유튜브도 지속적으로 학습하고 발전해 나갈 것입니다. 이러한 투명성 강화 조치가 AI 기술이 계속해서 인간의 창의성에 힘을 실어줄 수 있는 방식을 우리 모두가 더욱 잘 이해하는 데 도움이 되기를 바랍니다.