ディープフェイクは、「最良の」、あるいは「最も効果的な」ものであっても非常に不安を引き起こすという点で、ウイルスの突然変異に少し似ています。昨年、テキストを吐き出すチャットボットが広くリリースされ、生成型 AI が主流になった後、ソーシャル メディアではアルゴリズムで生成された画像や音声がそれに合わせて大量に登場しました。そのため、AI が勝利を記録し続ける一方で、敗者は誰もが現実を把握していました。
プラス面としては、いくつかのディープフェイクそうではないようです彼らは誰かを騙すことを目的としていたのです。一部は均等です実に風変わりな。残念なことに、倫理的に言えば、ウイルスのようなものははるかにグレーな領域にあります。
これらは、ディープフェイクが安心できるほど偽物ではないために話題になった、2023 年上半期のディープフェイクです。これらを楽しんで、エンターテイメントとして自由に共有してください。ただし、デマを広めるために使用しないでください。世界にはすでに十分すぎるほどの嘘が存在します。
1. 想像上のトランプ逮捕
世界中がドナルド・トランプ前大統領の逮捕を待ちわびる中、ジャーナリストでありベリングキャットの創設者であるエリオット・ヒギンズは創造性を発揮することを決意した。ヒギンズ氏はAI画像生成ソフト「ミッドジャーニー」を使って、オレンジ色のジャンプスーツを着て逮捕に激しく抵抗したり、ニューヨーク市警から逃走したり、刑務所内でさまざまな活動を行ったりするトランプ氏の画像を作成した。
ツイートは削除された可能性があります
実際、トランプ氏は4月20日に法執行機関に自首し、マンハッタン地方検事局から顔写真撮影を省略することを許可された。そのため、AI ファンタジーの現実版を期待していた人々は、罪状認否の非劇的な現実に失望した可能性が高い。
2. うますぎる「バレンシアガ教皇」
3月に巨大な白いダウンジャケットを着たフランシスコ法王の画像が拡散したとき、インターネットは法王のおしゃれな服装のアップグレードを見て大喜びした。残念ながら偽物でした。バレンシアガ風のパファーを着た教皇の姿は、作成されましたMidjourney を使用している 31 歳の建設作業員によるものです。
マッシュ可能な光の速度
ツイートは削除された可能性があります
しかし、その画像は多くの人を騙すほど現実的であり、その中にはクリッシー・テイゲンも含まれていた。ツイートした, 「法王のダウンジャケットは本物だと思っていて、何も考えませんでした。テクノロジーの未来で生き残れるわけがありません。」聞こえていますよ、クリッシー。
3. ハリー・ポッターがバレンシアガに仕える（ではない）現実
同じ月にこのファッション ハウスが 2 回言及されていることから、ジェネレーティブ AI とバレンシアガは密接に関連しているようです。しかし今回、ミッドジャーニーはハリー・ポッターのキャラクターたちにバレンシアガの扱いを与えた。 「君はバレンシアガだよ、ハリー」暗いトランス音楽を聴きながら、くすぶっているハグリッドが頬がこけ、不機嫌そうに口をとがらせながらハリー・ポッターに言う。
ツイートは削除された可能性があります
ビデオでは、主要登場人物全員が何らかの形でやさぐれており、かみそりのように鋭い頬骨と、真剣になりすぎたファッションキャンペーンを彷彿とさせる枯れた表情をしています。 Demonflyingfox が作成したこの YouTube ビデオは「バレンシアガのハリー・ポッター」と呼ばれており、実際に人々をだまして本物だと思わせることを意図したものではありませんでした。しかし、バレンシアガのモデルとしてハリー・ポッターのキャラクターのトーン、美しさ、レンダリングを釘付けにする方法は、Midjourney のようなツールが達成できることの顕著な例です。
4. 実現しなかったウィークエンドとドレイクのコラボレーション
2023年4月、ザ・ウィークエンドとドレイクは「ハート・オン・マイ・スリーブ」というファイアシングルをリリースした。彼らがそうしなかったことを除けば。それはゴーストライターという匿名のクリエイターによって AI によって生成されました。この曲が急速に広まったのは、そのキャッチーさのためではなく（そしてキャッチーであるため）、生成 AI が音楽業界にもたらすやっかいな著作権問題のためです。
この曲の作成にどのようなテクノロジーが使用されたかは不明ですが、音声ディープフェイクを作成するのは驚くほど簡単です。テキスト読み上げや既存のオーディオ クリップを使用して、基本的に誰かの声を複製し、言いたいことを言うようにするツールは数多くあります。
この曲は最終的に、著作権侵害のため YouTube、Spotify、Apple Music、その他のストリーミング サービスから削除されました。ザ・ウィークエンドとドレイクのレコードレーベル、ユニバーサル・ミュージック・グループはビルボードへの声明で次のように述べた。
当社のアーティストの音楽を使用した生成 AI のトレーニング (これは、当社の契約違反および著作権法の違反の両方に相当します) および DSP 上で生成 AI で作成された侵害コンテンツの利用可能性は、歴史のどちら側にあるのかという疑問を引き起こします。音楽エコシステムのすべての利害関係者は、アーティスト、ファン、人間の創造的表現の側、またはディープフェイク、詐欺、アーティストへの正当な報酬の拒否の側にいたいと考えています。
5. 国防総省のデマ事件での爆発
まったく無害だったバレンシアガの教皇とは異なり、国防総省の爆発の偽画像生成 AI が極悪人の手に渡るといかに危険かを示しています。 5月には、国防総省近くで起きたとみられる爆発による火災と立ち上る煙の画像がツイッター上で拡散した。
ツイートは削除された可能性があります
この画像は地元の警察によってディープフェイクであることがすぐに暴かれた。しかし、この偽写真は実際に影響を及ぼし、株式市場の一時的な下落を引き起こした。建物前のぼやけたフェンスと不均一な柱のサイズに基づいて、画像が AI で生成されたかデジタル処理されたものであることは明らかでした。しかし、生成AIがさらに進化するにつれて、ディープフェイクを見分けるのは難しくなるだろう。