생성형 AI는 유튜브에서 창의력이 꽃필 수 있도록 돕고, 플랫폼에서 시청자와 크리에이터의 경험을 변화시킬 수 있는 잠재력을 지니고 있습니다. 하지만 생성형 AI가 제공하는 기회는 커뮤니티를 보호해야 할 유튜브의 책임과 균형을 이루어야 합니다. 콘텐츠가 어떻게 생성되었는지 여부와는 무관하게 유튜브에 업로드되는 모든 콘텐츠에는 유튜브의 커뮤니티 가이드가 적용됩니다. 하지만 동시에 AI가 가져올 수 있는 새로운 위험에 대비하기 위한 새로운 접근 방식이 필요하다는 점도 인지하고 있습니다.
이러한 노력들은 아직 초기 단계에 있지만, 경험을 통해 계속해서 접근 방식을 발전시켜 나갈 계획입니다. 앞으로 몇 달간, 그리고 다가오는 새해에 유튜브가 출시할 새로운 기능을 소개해 드립니다.
공개 요건과 새로운 콘텐츠 라벨
유튜브는 건전한 정보 생태계를 유지하는 것이 모두에게 유익하다고 생각합니다. 유튜브는 시청자를 오도하거나 심각한 피해를 초래할 수 있는 기술적으로 조작된 콘텐츠를 금지하는 정책을 오랫동안 시행해 왔습니다. 그러나 AI의 강력하고 새로운 형식의 스토리텔링은 특히 영상이 변경되었거나 합성되었다는 사실을 시청자들이 인지하지 못하는 경우 혼동을 야기할 수 있는 콘텐츠를 생성하는 데에 이용될 가능성이 있습니다.
이러한 우려에 대응하기 위해 유튜브는 앞으로 몇 달에 걸쳐 시청자가 합성된 콘텐츠를 시청할 때 이를 알려주는 업데이트를 도입합니다. 구체적으로, AI 도구 사용 등을 통해 변형되었거나 합성된 사실적인 콘텐츠를 제작한 크리에이터에게 이러한 사실을 공개하도록 요청할 예정입니다. 이를 위해 크리에이터가 콘텐츠를 업로드할 때, 해당 콘텐츠가 변형되었거나 합성된 내용을 포함하고 있음을 알리는 새로운 옵션을 제공할 계획입니다. 일어나지 않은 사건을 사실적으로 묘사하는 AI로 생성된 영상 또는 누군가가 실제로 하지 않은 말이나 행동을 보여주는 콘텐츠가 그 예시에 해당될 수 있습니다.
이는 특히 선거, 진행 중인 분쟁, 공중 보건 위기, 공직자와 같은 민감한 주제를 다루는 콘텐츠에 있어 더 중요합니다. 콘텐츠의 변형 및 합성 여부를 지속적으로 공개하지 않는 크리에이터는 콘텐츠 삭제, 유튜브 파트너 프로그램 정지 등과 같은 불이익을 받을 수 있습니다. 유튜브는 새로운 업데이트를 도입하기 전, 크리에이터들이 이러한 새로운 요구사항을 이해할 수 있도록 긴밀히 협력할 예정입니다.
유튜브는 두 가지 방법을 통해 변형 또는 합성 가능성이 있는 콘텐츠를 표시할 예정입니다. 우선, 콘텐츠의 일부가 변형 또는 합성되었음을 알리는 새로운 라벨이 콘텐츠의 설명 패널에 추가되며, 민감한 주제를 다루는 일부 콘텐츠의 경우 동영상 플레이어에 더욱 눈에 띄는 라벨을 적용할 예정입니다.
 |
| (좌) 설명 패널에 라벨이 추가된 예시, (우) 동영상 플레이어에 라벨이 추가된 예시 |
이러한 라벨만으로 피해 위험요소를 완화하기에 충분하지 않은 경우도 있으며, 일부 합성 콘텐츠는 라벨의 여부와 관계없이 커뮤니티 가이드를 위반하면 플랫폼에서 삭제됩니다. 예를 들어, 사실적인 폭력 행위를 보여주는 합성 영상이 시청자에게 충격이나 혐오감을 불러일으키기 위한 의도로 제작된 경우, 라벨의 여부와 관계없이 삭제될 수 있습니다.
앞으로 새로운 업데이트가 적용되기 시작하면서 유튜브의 생성형 AI 제품 및 기능으로 제작된 콘텐츠에도 합성 또는 변형되었다는 라벨이 붙어 명확하게 표시될 예정입니다.
 |
| 유튜브 AI 드림 스크린 기능으로 생성된 콘텐츠에 라벨이 추가된 예시 |
크리에이터, 시청자, 아티스트를 위한 새로운 옵션
유튜브는 크리에이터, 시청자 및 아티스트를 포함한 커뮤니티로부터 새로운 기술이 미칠 영향에 대한 피드백을 지속적으로 받고 있습니다. 특히 당사자의 허락 없이 타인의 얼굴이나 음성을 디지털로 생성하거나, 이를 통해 그들의 견해를 잘못 전할 수 있는 경우에 더욱 그렇습니다.
따라서 앞으로 몇 달 안에 AI로 생성되거나 다른 방식으로 합성 또는 변형된 콘텐츠에서 얼굴이나 음성을 포함해 신원 파악이 가능한 개인을 모방한 경우 개인 정보 침해 신고 절차에 따라 콘텐츠 삭제를 요청할 수 있도록 조치할 예정입니다. 유튜브에서 이러한 모든 콘텐츠가 삭제되는 것은 아니며, 해당 요청을 평가할 때에는 다양한 요소를 고려하게 됩니다. 여기에는 패러디 또는 풍자 콘텐츠인지, 요청을 접수한 사용자를 고유하게 식별할 수 있는지, 공직자 또는 유명인이 등장하는지 등이 포함될 수 있으며, 이러한 경우에는 더 높은 기준이 적용될 수 있습니다.
음악 파트너사가 아티스트의 고유한 노래나 랩 보컬을 모방한 AI로 생성된 음악 콘텐츠의 삭제를 요청할 수 있는 방법도 도입합니다. 이러한 삭제 요청의 승인 여부를 결정하는 데에는 해당 콘텐츠가 뉴스로 보도되거나 콘텐츠 속 음성이 분석 또는 비평의 대상이 되는지 등 다양한 요소가 고려될 것입니다. 삭제 요청은 유튜브의 초기 AI 음악 실험 과정에 참여하는 아티스트를 대표하는 음반사 또는 배급사에 지원되며, 향후 더 많은 음반사와 배급사를 위해 액세스를 확대해 나갈 계획입니다.
콘텐츠 검토를 위한 AI 기술
유튜브에서는 언제나 인력과 머신러닝 기술의 조합을 바탕으로 커뮤니티 가이드를 시행하고 있으며, 전 세계적으로 2만 명 이상의 검토자가 구글 전반에서 활동하고 있습니다. 구글 시스템에서 AI 분류기는 위반 가능성이 있는 콘텐츠를 대규모로 감지할 수 있도록 지원하며, 검토자는 콘텐츠가 실제로 정책을 위반했는지 확인합니다. AI는 콘텐츠 검토 시스템의 속도와 정확성을 계속해서 향상시키고 있습니다.
AI는 새로운 형태의 위반을 식별하는 데에 있어 분명한 효과를 보여주고 있습니다. 새롭게 등장한 위험 요소의 경우, 유튜브 시스템에서 이를 이해하고 대규모로 식별할 수 있는 맥락이 상대적으로 부족합니다. 하지만 생성형 AI를 활용하면 AI 분류기가 학습하는 정보 세트를 빠르게 확장할 수 있어 이러한 콘텐츠를 훨씬 더 신속하게 식별하고 포착할 수 있습니다. 시스템의 속도와 정확성이 개선되면 검토자들에게 노출되는 유해한 콘텐츠의 양도 줄어듭니다.
책임감을 기반으로 구축하는 AI 도구 및 기능
유튜브는 크리에이터들을 위한 새로운 AI 도구를 개발하는 과정에서 기존의 중대한 책임 과제들을 해결할 때 취했던 접근 방식을 그대로 따르고 있습니다. 그건 바로 1등이 되기 위해 노력하는 것보다는 시간을 들여 제대로 하는 것이 옳다는 원칙입니다.
유튜브는 대규모의 콘텐츠 검토를 위해 수년 간 진행해 온 인력 및 기술 투자를 바탕으로 유튜브를 더욱 발전시킬 방안을 신중하게 모색하고 있습니다. 여기에는 유튜브의 AI 도구가 플랫폼에 허용되지 않는 유형의 콘텐츠를 생성하지 못하도록 안전 장치를 개발하는 지속적인 노력을 포함합니다.
필연적으로 일부 악의적인 행위자들은 이러한 안전장치를 우회하려는 시도를 할 것입니다. 이에 유튜브는 사용자 의견과 학습을 기반으로 보호 기능을 지속적으로 개선할 계획입니다. 유튜브의 시스템이 새로운 문제에 대처할 수 있도록 조직 내에서도 인텔리전스 데스크와 같은 전담 팀에서 적대적 테스트 및 위협 감지에 주력하고 있습니다.
곧 실현될 AI 혁신
우리는 생성형 AI를 통해 유튜브에서 새로운 형태의 혁신과 창의성을 구현하기 위한 여정을 막 시작하고 있습니다. 유튜브는 AI 기술이 가지고 있는 잠재력에 높은 기대감을 가지고 있으며, 앞으로 나올 기술들이 향후 수년간 크리에이티브 산업 전반에 반향을 일으킬 것이라고 확신합니다. 이러한 새로운 전환점에서 유튜브는 AI 기술이 제공하는 이점과 커뮤니티의 지속적인 안전 보장 사이에서 균형을 맞추기 위해 노력하고 있습니다. 이를 위해 앞으로 크리에이터와 아티스트를 비롯한 크리에이티브 산업 전반의 구성원들과 협력하여 모두에게 도움이 되는 미래를 구축해 나가겠습니다.
작성자: 제니퍼 플래너리 오코너(Jennifer Flannery O'Connor), 유튜브 프로덕트 매니지먼트 VP & 에밀리 목슬리(Emily Moxley), 유튜브 프로덕트 매니지먼트 VP