問題点AIが作成した画像それは、AI が画像を作成しているということです。つまり、単純なプロンプトで相対性理論の現実的なイメージを作成できるということです。何でも。その事実から生じる可能性のある問題を想像するのは難しくありません。
グーグル火曜日にSynthIDと呼ばれる機能を発表したディープフェイクやAI生成画像の悪用と闘うことを目的としている。 Google DeepMindはこのツールのベータ版を発表し、同社によれば、このツールは「電子透かしを画像のピクセルに直接埋め込み、人間の目には感知できなくなるが、識別のために検出可能になる」という。
言い換えれば、AI が生成した画像は表面上は正常に見えますが、本物の画像ではないことを人々に知らせるために、簡単に識別できるマーカーが付いています。現在、SynthID は「限られた数」の顧客にリリースされており、画像, テキスト プロンプトを使用してフォトリアリスティックな画像を作成する Google Deepmind のモデル。
マッシュ可能な光の速度
グーグルSynthID は、簡単に削除されたり、切り取られたり、画像上で目障りになったりする従来の透かしよりも効果的であるべきだと述べています。 SynthID ウォーターマークは、フィルターの追加、色の変更、画像のサイズ変更後でも表示されたままでなければなりません。 SynthID ツールは、Imagen が 3 層の信頼度レベル システム (可能性が高い、可能性が低い、検出される可能性がある) を使用してイメージを作成するために使用されたかどうかをユーザーに読み取ることができる必要があります。
Googleは今後、他のモデルから画像を識別できるようにツールを拡張し、SynthIDツールを同社が提供する他の製品に統合する可能性があると述べた。