ドナルド・トランプ逮捕の偽画像を作成したことで知られるAI画像生成会社Midjourneyが、禁止された画像プロンプトその中には現大統領のジョー・バイデンだけでなく、大統領候補の名前も含まれている。
この決定は、専門家や擁護者が危険性について警告している中で行われた。AI技術2024 年の大統領選挙に先立って、有権者に影響を与え、誤った情報を広めるために利用されています。
による新しい政策のテストAP通信同紙によると、「ビーチで握手するトランプ氏とバイデン氏」の画像のリクエストに対して「禁止されたプロンプトが検出されました」という警告が表示されたという。さらなる試みにより、画像ジェネレーターはユーザーに「不正行為の警告をトリガーした」と警告するようになりました。
「私は政治的言論にはあまり興味がありません。それはミッドジャーニーの目的ではありません。私にとってはそれほど興味がありません。とはいえ、私は政治的言論の取り締まりにすべての時間を費やしたくありません。だから私たちはそうしています」ミッドジャーニーの最高経営責任者（CEO）デイビッド・ホルツ氏は3月13日の記者会見でこう述べた。ミッドジャーニーはそのような催促を禁止するという考えを浮上させた。先月。ホルツ氏は報道関係者に対し、2028年にはさらに恐ろしいAIの現実を想像しており、悪意のある者がディープフェイクやチャットボットを今の私たちが想像する以上に細かく調整できるようになる、と語った。そのために、彼は「このモデレーションのことはちょっと難しいです」と言いました。
他の生成 AI ツールも、懸念のある画像の拡散に対処するために、同様の即時禁止令を発行しています。昨年、Microsoft の Bing Image Generator は、「ツインタワー」というフレーズを含むプロンプトを禁止する9.11 同時多発テロ事件を想起させるアニメキャラクターをフィーチャーしたミームの拡散を抑制するため、もちろんミーム作成者たちは回避策を見つけました。
マッシュ可能な光の速度
その後間もなく、OpenAI の高度な画像ジェネレーターである DALL-E 3 が改良されました。より制限的な使用ポリシー、「暴力的、憎悪に満ちた、またはアダルトコンテンツを生成するDALL-E 3の能力」を制限する「多層安全システム」を追加したとMashableのChance Townsendは報じた。 OpenAI発行選挙に関する偽情報に関する具体的なガイドライン1月には、DALL-E 3が「候補者を含む現実の人物の画像生成を求めるリクエスト」を拒否できると指摘した。
2月にOpenAIは、外国国家関連の不正行為者のアカウントを検出し、停止した生成 AI テクノロジーを使用します。
これまで、より緩いミッドジャーニー党は選挙に関する偽情報を抑制するための声明を発表したり、新たな政策を打ち出したりしていなかった。同プラットフォームでは、ユーザーが「画像や政治運動を生成すること、あるいは選挙の結果に影響を与えようとすること」を禁止している。また、同社は、業界自主協定先月提示された、ディープフェイクと偽情報の予防策を採用することを約束した。昨年、Center for Countering Digital Hate は、Midjour のユーザーが次のような可能性があると報告しました。コミュニティのガイドラインやモデレーションを簡単に回避できます一貫して陰謀的で人種差別的な画像を生成するため。
あ最近の報告この非営利団体は、選挙に関する偽情報を助長するプロンプトを抑制する能力について、ミッドジャーニーを含むいくつかの画像ジェネレーターをテストしました。生成された画像には、41% のケースで選挙に関する偽情報が含まれていました。 Midjourney はテストしたすべてのツールの中で最もパフォーマンスが悪く、65% の確率で偽情報を見逃していました。
同センターは、「ミッドジャーニーのAI画像公開データベースは、悪意のある者がすでにこのツールを使用して、選挙に関する偽情報を裏付ける可能性のある画像を作成していることを示している」と警告した。