今年初め、メタ所有の WhatsApp は、ユーザーが AI を使用してテキストの説明に基づいてステッカーを生成できる新機能のテストを開始しました。ユーザーが「パレスチナ人」、「パレスチナ」、または「イスラム教徒の少年パレスチナ」を検索すると、この機能は銃または銃を持った少年の写真を返します。からの報告ガーディアンショー。
によるとガーディアンの金曜日のレポートでは、検索結果は検索しているユーザーによって異なります。しかし、「イスラエルの少年」のプロンプトでは、遊んだり本を読んだりする子供たちのステッカーが生成され、「イスラエル軍」のプロンプトでさえ、武器を持った人々の写真は生成されませんでした。パレスチナ人の捜索から生成された画像と比較すると、これは憂慮すべきことだ。という議論に詳しい人。ガーディアン報道機関に対し、メタ社の従業員が内部でこの問題を報告しエスカレーションしたとは名指ししていない。
Metaの広報担当者はMashableへの声明で「われわれはこの問題を認識しており、対応している」と述べた。 「この機能をリリースしたときに述べたように、他の生成 AI システムと同様に、モデルは不正確または不適切な出力を返す可能性があります。私たちはこれらの機能が進化し、より多くの人がフィードバックを共有するにつれて改善を続けていきます。」
Mashable のトップ ストーリー
違いがどれくらいの期間発見されたかは不明ですガーディアン差異が継続するか、差異が継続するか。たとえば、現在「パレスチナ人」を検索すると、花を持った人、「パレスチナ人」と思われるシャツを着た笑顔の人、若者、中年のステッカーが返されます。 「パレスチナ」で検索すると、走っている若者、パレスチナ国旗の上のピースサイン、悲しむ若者、そして手をつないでいる顔のない子供 2 人が結果として表示されました。 「パレスチナ人のイスラム教徒の少年」を検索すると、笑顔の 4 人の少年が表示されます。 「イスラエル」、「イスラエル」、または「イスラエル人のユダヤ人少年」を検索すると、同様の結果が表示されます。 Mashable は複数のユーザーに同じ単語を検索させたところ、結果は異なりましたが、「パレスチナ人」、「パレスチナ」、「イスラム教徒の少年パレスチナ人」、「イスラエル」、「イスラエル人」、または「イスラエル人のユダヤ人少年」の検索からの画像はいずれも見つかりませんでした。 」の結果、あらゆる武器を備えた AI ステッカーが作成されました。
ただし、まだ違いがあります。たとえば、「パレスチナ軍」を検索すると、1 枚の画像には軍服を着て銃を持った人物が表示されますが、他の 3 枚の画像は単なる軍服を着た人物です。 「イスラエル軍」を検索すると、軍服を着た 3 人が表示され、軍用車両を運転している軍服を着た 1 人が表示されます。 「ハマス」を検索しても AI ステッカーは表示されません。繰り返しますが、それぞれの検索は検索する人によって異なります。
これは、メタ社が次のような疑惑で非難を浴びている時期に行われた。親パレスチナコンテンツのシャドウバン、親パレスチナアカウントをロックする、 そしてパレスチナ人の経歴に「テロリスト」を追加。 Google Bard や ChatGPT などの他の AI システムも、イスラエルとパレスチナに対する偏見の顕著な兆候を示した。