책임감 있는 AI 개발을 위한 유튜브의 노력
인공지능(AI)은 크리에이터들이 혁신적이고 흥미로운 방식으로 자신을 표현할 수 있도록 도우며 새로운 가능성의 세계를 열고 있습니다. 유튜브는 크리에이터와 파트너들이 이처럼 변화하는 환경에서 지속적으로 성장할 수 있도록 노력하고 있습니다. 이는 AI의 창의적 잠재력을 활용하는 동시에 얼굴과 목소리를 포함한 ‘라이크니스(likeness)’ 혹은 '초상'이 어떻게 표현되는지 제어하는데 필요한 도구를 제공하는 것을 의미합니다. 이를 위해 유튜브는 크리에이터와 파트너들을 보호하는 동시에 새로운 기회를 제공할 새로운 '라이크니스' 관리 기술을 개발했습니다.
유튜브가 개발 중인 도구는 다음과 같습니다.
- 첫째, Content ID 내에서 합성된 노래를 식별할 수 있는 새로운 기술을 개발했습니다. 이를 통해 파트너들은 유튜브 상에서 자신의 노래 목소리를 모방하는 AI 생성 콘텐츠를 자동으로 감지하고 관리할 수 있습니다. 유튜브는 현재 파트너들과 함께 이 기술을 개선하고 있으며, 내년 초에 파일럿 프로그램 런칭을 계획하고 있습니다.
- 둘째, 유튜브는 크리에이터와 배우부터 음악가와 운동선수에 이르기까지 다양한 분야의 사람들이 유튜브에서 자신의 얼굴을 나타낸 AI 생성 콘텐츠를 감지하고 관리할 수 있는 새로운 기술을 적극적으로 개발하고 있습니다. 이 기술은 최근 선보인 개인 정보 보호 업데이트와 더불어 AI가 유튜브에서 사람을 묘사하는 데 사용되는 방식을 관리하는 강력한 도구 세트가 될 것입니다.
이 두 가지 새로운 기능은 다양한 권리 문제를 대규모로 해결하기 위해 기술 중심의 접근 방식을 개발해 온 유튜브의 경험을 토대로 구축되었습니다. 2007년부터 Content ID는 매년 수십억 건의 소유권 주장을 처리하면서 유튜브에서 저작권 소유자에게 전체 카탈로그에 대한 세밀한 제어권을 제공했으며, 아티스트와 크리에이터에게는 저작물 재사용을 통해 수십억 달러의 새로운 수익을 창출할 수 있도록 했습니다. 유튜브는 AI 시대에도 이와 동일한 수준의 보호와 권한 부여를 제공하기 위해 최선을 다하고 있습니다.
권한 없는 접근으로부터 콘텐츠를 보호하고 선택권을 부여합니다
유튜브는 플랫폼에 업로드된 콘텐츠를 활용해 머신 러닝 및 AI 애플리케이션을 포함한 유튜브와 구글 제품 전반에서 크리에이터와 시청자의 제품 경험을 개선해왔습니다. 유튜브는 크리에이터가 동의한 약관에 따라 이를 수행합니다. 여기에는 트러스트 & 세이프티(Trust & Safety) 조직의 운영 강화, 추천 시스템 개선, 자동 더빙과 같은 새로운 생성형 AI 기능 개발이 포함됩니다. 앞으로도 유튜브는 구글 또는 유튜브 전반에서 AI 기반 도구 개발을 위해 사용되는 유튜브 콘텐츠가 책임감 있게 활용되도록 최선을 다할 것입니다.
유튜브 콘텐츠를 무단으로 활용하려는 다른 당사자 등과 관련해서는 유튜브는 승인되지 않은 방식으로 크리에이터 콘텐츠에 접근하는 것이 유튜브의 서비스 약관을 위반하고 크리에이터의 결과물에 대한 대가로 유튜브가 크리에이터에게 제공하는 가치를 훼손한다는 점을 명확히 밝혔습니다. 유튜브는 허가받지 않은 접근을 탐지하고 방지하는 시스템에 대한 투자를 지속하는 한편, 무단으로 콘텐츠를 활용하는 사람들의 접근을 차단하고, 제3자가 이러한 약관을 준수하도록 하기 위한 조치를 계속 이어 나갈 것입니다.
그럼에도 불구하고 생성형 AI 환경이 계속 진화함에 따라 크리에이터가 AI 도구를 개발하는 과정에서 제3자 회사와 협업하는 방법에 대한 더 많은 제어권을 원할 수 있다는 것도 알고 있습니다. 그래서 유튜브는 크리에이터에게 제3자가 유튜브 플랫폼에서 자신의 콘텐츠를 사용하는 방법에 대한 선택권을 제공하는 새로운 방법을 개발하고 있습니다. 연말에 더 많은 내용을 공유할 예정입니다.
AI 도구를 활용하고, 커뮤니티 가이드를 준수할 수 있도록 지원합니다
쇼츠를 위한 실험적인 ‘드림 스크린(Dream Screen)’과 같은 유튜브의 새로운 생성형 AI 도구는 크리에이터에게 흥미로운 가능성을 열어주며, 이를 통해 크리에이터는 자신의 창의성을 표현하고 혁신적인 방식으로 시청자의 참여를 유도할 수 있습니다. 크리에이터는 이러한 도구를 활용해 어떤 결과물을 만들지 방향성을 설정하고, 어떤 결과물을 외부에 공유할지 결정하면서 전체 창작 과정을 제어할 수 있습니다.
유튜브는 언제나 안전하고 책임감 있는 커뮤니티를 만드는 것에 의의를 두며, 이는 AI로 생성된 콘텐츠에도 동일하게 적용됩니다. 유튜브의 모든 콘텐츠와 마찬가지로 AI로 생성한 창작물도 유튜브의 커뮤니티 가이드를 준수해야 합니다. 크리에이터는 게시된 콘텐츠가 출처와 관계 없이 이러한 기준을 충족하는지 확인할 궁극적인 책임을 지닙니다.
크리에이터들이 정책을 잘 이해하고 준수할 수 있도록 지원하기 위해 유튜브는 AI 도구에 보호 장치를 통합해 잘못 사용될 가능성을 방지했습니다. 이는 유튜브의 정책을 위반하거나 민감한 주제를 다루는 프롬프트(prompt)를 차단할 수 있음을 의미합니다. 유튜브의 주요 목표는 창의성을 강화하는 것이지만, 크리에이터들이 AI로 생성한 콘텐츠를 게시할 때에도 다른 콘텐츠와 마찬가지로 주의 깊게 검토할 것을 권장합니다. 특히 이러한 제품의 경우 초기에는 시행착오가 있을 수 있다는 것을 알고 있기에 크리에이터들의 소중한 피드백을 수렴하고자 합니다.
인간의 창의성을 향상합니다
유튜브는 점점 진화하는 AI가 인간의 창의성을 대체하는 것이 아니라 향상해야 한다고 믿습니다. 또한, 유튜브는 파트너와 협력하여 다가올 미래의 발전이 그들의 목소리를 더욱 널리 퍼뜨릴 수 있도록 돕기 위해 최선을 다하고 있으며, 우려 사항을 해결하고 공통 목표를 달성하기 위한 안전장치를 지속적으로 개발할 것입니다. 초창기부터 유튜브는 크리에이터와 기업이 유튜브에서 활발한 커뮤니티를 구축할 수 있도록 지원하고자 노력해 왔으며, 앞으로도 책임감 있는 혁신이 꽃필 수 있는 환경을 조성해 갈 것입니다.
작성자: 암자드 하니프(Amjad Hanif), 유튜브 크리에이터 프로덕트 부문 VP