いつGoogleのBard AIイスラエルとパレスチナについての質問があれば、チャットボット基本的にはシャットダウンします。質問は、一見無害な質問 (「イスラエルはどこですか?」) から、進行中の問題を中心とした質問まで、何でもあります。イスラエル・ハマス戦争。これらの質問に対して、Bard は、「私はテキストベースの AI なので、それについてはサポートできません。」というメッセージのバリエーションでそれぞれの問い合わせに応答します。
Google のチャットボットは、現在の危機に関連するあらゆる回答を検閲しているようです。これは、イスラエル、ガザ、パレスチナ、IDF (イスラエル国防軍の略称) などのキーワードを使用して私たちや多くのユーザーが尋ねたさまざまな質問に当てはまります。私たちに対するバードの返答には次のようなものが含まれていました。「私は言語モデルであり、それを手伝う能力はありません。」
クレジット: スクリーンショット / Google
クレジット: スクリーンショット / Google
X のユーザー最初にこの問題を指摘した、チャットボットが他の国、地域、場所に関する質問に簡単に回答することも表示されます。 Google Bard は、現在進行中の他の世界的な紛争に関する質問にも答えています。ウクライナの戦争この紛争について説明を求められたとき、バード氏は次の情報を提供した：「2022年2月、ロシアはウクライナへの全面的な侵攻を開始した。この侵攻は国際的な非難を受け、ロシアに対する厳しい制裁の発動につながった。」
クレジット: スクリーンショット / Google
MashableはGoogleにコメントを求め、同社のプレスチームから「関連するクエリに対するBardの応答を無効にする一時的なガードレールを実装した」という確認を得た。声明にはこう書かれている。
」Bard はまだ実験段階であり、創造性と生産性を重視して設計されているため、激化する紛争やセキュリティ問題に関する質問に答える際に間違いを犯す可能性があります。十分な注意を払い、実験ツールを構築する際に責任を負うというコミットメントの一環として、関連するクエリに対する Bard の応答を無効にする一時的なガードレールを実装しました。。」
でブログ投稿2023年3月から、Googleの副社長は「実験」Bardについての考えを共有し、また、この技術には大規模言語モデル（LLM）は刺激的であるものの、「欠点がないわけではない」とユーザーに警告した。声明は、こうしたモデルは「幅広い情報」から学習するため、「現実世界の偏見や固定観念」を反映しやすいと繰り返し述べた。
マッシュ可能な光の速度
OpenAI が提供する答えにも疑問を投げかける人もいます。チャットGPT特定のプロンプトに応じて。 Mashable は、デフォルト バージョンである GPT-3.5 に質問してみました。イスラエルとパレスチナの間の歴史に関する質問に応じて、チャットボットは詳細な情報を提供しているようだが、その知識が古い可能性があることを強調し、「状況は急速に変化する可能性があるので、最新の情報を確認することが不可欠であることに注意してください」と述べた。 「イスラエルとハマスの間で何が起こっているのか?」という質問に対するある回答には、2022年1月に私が最新の情報を更新して以来、進展があった可能性があるため、イスラエルとハマスの紛争に関する最新情報についてはニュースソースが必要であると書かれている。
「パレスチナで何が起こっているのか教えてもらえますか？」という質問に対して、チャットボットは情報が古い可能性があると再度述べ、ほとんど曖昧な回答を提供し、代わりに「信頼できるニュースソース」を読むようユーザーに指示しました（私たちはそのアドバイスを支持することができます):
申し訳ありませんが、私の知識が最後に更新されたのが 2022 年であるため、リアルタイムの情報を提供することができません。前回の更新時点では、パレスチナ情勢は長い間複雑かつデリケートな問題であり、パレスチナ間の紛争や紛争が続いていることが特徴です。パレスチナ自治区とイスラエル。この紛争には歴史的、政治的ルーツが深く、双方に避難、暴力、人命の損失など、重大な人道問題と人権上の懸念をもたらしました。永続的な解決策を見出すための努力には、数多くの和平交渉、国際介入、協定が含まれてきたが、包括的かつ長期的な解決策は依然として得られていない。関係する問題には、とりわけエルサレムの地位、イスラエル入植地、パレスチナ国家、安全保障上の懸念、難民の権利など、さまざまな要素が含まれている。パレスチナの状況に関する最新かつ正確な最新情報については、この地域に関する報道を提供する国際通信社や組織など、信頼できるニュースソースを確認することをお勧めします。
インターネット上の人々は、AI を活用したチャットボットが戦争に関して提供する応答を実験してきました。例えば、ライターやイラストレーターなどモナ・チャラビが投稿されました「イスラエル人は正義に値するのか?」という質問に対してChatGPTが出した答えには大きな違いがある。そして「パレスチナ人は正義に値するのか？」。前者に対する答えははるかに具体的であったが、後者に対する答えは「パレスチナ人にとっての正義の問題は複雑で、よく議論されている問題である」と述べていた。他の人は持っています同じ質問をしたそして同様の格差を受けました。
Mashable は OpenAI にコメントを求めており、返答があればこの記事を更新する予定です。
OpenAIは以前、次のように主張してきた。そのモデルは公平であるしかし、最近の研究では、AI モデルが実際には次のことを行うことが示されています。バイアスを保持する。の上r/ChatGPTAI に関する議論に特化した Reddit コミュニティ、ChatGPT とイスラエルとパレスチナの交差点について議論されました。削除されてから投稿。しかし、コメントは残り、あるユーザーは「人々は偏見を持っているので、ChatGPTも偏見を持つことになるだろう」と返答した。
10月にイスラエル・ハマス戦争が始まって以来、オンラインプラットフォームはその行動についてユーザーから広く疑問視されている。 Instagram や Facebook など、Meta が所有する企業は、シャドウバンの容疑で告発される内容とその他の明らかな偏見の出来事。×そしてTikTok穏健政策や偽情報の拡散に関しても同様の監視下に置かれている。