YouTube、AIが生成した顔や声を検出するツールを追加へ

YouTube同社のクリエイター製品担当バイスプレジデントのアムジャド・ハニフ氏は、AIが生成した俳優やミュージシャンなどのアーティストの似顔絵を検出するツールを構築していると書いている。ブログ投稿今週。ハニフ氏はまた、YouTubeがAIツールの責任ある開発に「取り組んでいる」と繰り返し表明した。

新しいツールの最初は、2007 年に開始された著作権で保護された音楽を識別するシステムである Content ID 内の「合成歌唱」識別です。Mashable は 2016 年に次のように報告しました。YouTubeは権利者に数十億ドルを支払ったContent ID を通じて、ハニフ氏はこの投稿でそのことを繰り返しました。

この新技術は、AIが生成したミュージシャンに似た声を検出できるようだ。パイロットプログラムは来年開始される予定だ。

関連項目:

YouTubeは俳優、クリエイター、スポーツ選手などの顔を映すAI生成コンテンツを検出する技術も開発している。

この発表に加えて、ハニフ氏は YouTube と Google (YouTube を所有する) に対し、アップロードされたコンテンツを使用して機械学習と AI ツールの開発を通じて「コンテンツ エクスペリエンスを向上させる」ことを呼びかけました。同社はこれを「責任を持って行う」ことに「コミット」しているが、詳細は明らかにされていない。この投稿では、このサイトが次のような YouTube 独自の生成 AI ツールの使用に対する保護措置を実装しているとも述べています。ドリームスクリーン、ポリシーに違反する特定のプロンプトを防ぐなど（ただし、どのプロンプトが明示的に示されていない）。

YouTube は、サードパーティのアプリがスクレイピングなどのクリエイター コンテンツの特定の使用を禁止する YouTube の利用規約を遵守することを（もう一度）保証することにも取り組んでいます。

「私たちはパートナーと協力して、将来の進歩が彼らの声を確実に増幅させることに全力を尽くしており、懸念に対処し、共通の目標を達成するためにガードレールの開発を続けていきます」とハニフ氏は書いた。