今週の大統領討論会を考えると、おそらく多くの誤った情報や陰謀論を聞いたことでしょう。
実際、共和党の大統領候補ドナルド・トランプ氏と副大統領候補のオハイオ州上院議員J・D・ヴァンス氏がグロテスクに主張しているように、記者やファクトチェッカーたちはオハイオ州のハイチ系移民が飼いペットを食べているかどうかを具体的に調べるために残業していた。どちらも自分たちの主張を証明する証拠を提出しておらず、地元当局者はそれは虚偽だと主張。それにしても虚偽の主張は、インターネット全体で。
専門家らは陰謀論がいかに急速に広まるかについて長年懸念しており、一部の研究では陰謀論と矛盾する事実に人々は説得できないことを示唆している。
しかし、今日発表された新しい研究科学多くの人が適切な状況下で陰謀論を放棄できる、そして放棄するだろうという希望を与えてくれます。
この場合、研究者はチャットボットとの会話が生成機能を利用しているかどうかをテストしました。人工知能9月11日の同時多発テロはアメリカ政府によって画策されたものであり、新型コロナウイルス感染症は「世界的エリート」による「大衆の支配」のための人為的な試みであるといった、一般的な陰謀論を信じる人々とうまく関わることができた。
この研究の参加者 2,190 人は、OpenAI の GPT-4 Turbo を使用して、自分が選択した 1 つの陰謀論についてカスタマイズされた往復会話を行いました。このモデルは、インターネットと認可されたソースからの大量のデータに基づいてトレーニングされていました。
参加者による議論の後、研究者らは陰謀論の信念が20パーセント減少したことを発見した。別の言い方をすれば、参加者の 4 分の 1 が、これまで議論してきた陰謀論に固執するのをやめてしまったのです。この減少は、チャットボットとの対話後 2 か月間持続しました。
研究論文の共著者であるデビッド・ランド氏は、この見通しについては悲観的ではあるものの、この調査結果は事実によって人々の考えを変えることができることを示していると述べた。
「事実と証拠は、多くの人にとってかなりの程度重要です。」
「証拠は死んでいない」とランド氏はマッシャブルに語った。 「事実と証拠は、多くの人にとってかなりの程度重要です。」
Mashable のトップ ストーリー
マサチューセッツ工科大学（MIT）の経営科学と脳・認知科学の教授であるランド氏とその共著者らは、研究参加者がチャットボットと話した後と現実の知り合いと話した後に考えが変わる可能性が高いかどうかをテストしなかった。親友や兄弟のように。しかし彼らは、チャットボットの成功は、チャットボットがいかに迅速に正確な事実と証拠を収集できるかに関係しているのではないかと考えている。
研究に含まれるサンプル会話では、9月11日の攻撃が仕組まれたと考えている参加者がチャットボットから、爆発の助けを借りずにツインタワーがどのように崩壊したか、および関連する陰謀説に関連する一般的な主張について、徹底的な科学的説明を受ける。参加者は最初、陰謀論に 100% 自信を持っていました。最後には、彼らの信頼度は 40% に低下しました。
陰謀論を信じる人と陰謀論について議論しようとしたことのある人なら、ランド氏が言うところの「奇妙な難解な事実とつながり」で満たされた、反証が信じられないほど難しいやりとりが矢継ぎ早に交わされるのを経験したことがあるかもしれない。しかし、生成型 AI チャットボットには、事実に基づいた情報を即座に応答できるため、その問題はありません。
また、AI チャットボットは、陰謀論者がカウンター情報を提供する人物をどのように見るかを形作るのが、長期にわたる兄弟間の対立や機能不全の友情など、個人的な関係の力学によって妨げられることもありません。一般に、チャットボットは参加者に対して礼儀正しく行動し、参加者の好奇心や混乱を確認することで信頼関係を築くように訓練されています。
研究者らはまた、人工知能に対する信頼について参加者に尋ねた。研究者らは、参加者がAIを信頼すればするほど、会話に応じて陰謀論の信念を保留する可能性が高くなることが判明した。しかし、AI に懐疑的な人々でさえ、考えを変えることができました。
重要なのは、研究者らが専門のファクトチェッカーを雇ってチャットボットの主張を評価し、チャットボットが虚偽の情報を共有していないか、でっち上げていないかを確認したことだ。ファクトチェッカーは、それらのほぼすべてを真実と評価しましたが、どれも偽ではないと評価しました。
今のところ、研究者の研究に興味がある人は、デバンクボット、これにより、ユーザーは AI に対して自分の信念をテストできます。
ランド氏と彼の共著者らは、プラットフォーム上で広まる陰謀論に対抗する方法としてチャットボットがソーシャルメディアアカウントに接続されるかもしれない未来を想像している。あるいは、特定の陰謀検索用語に関連付けられたキーワード広告のおかげで、ウイルスの噂やデマに関する情報をオンラインで検索すると、チャットボットが見つかる可能性があります。
ランド氏は、同氏と共著者らが再現したこの研究の成功は、AIがどのように善のために利用できるかを示す例を提供していると述べた。
それでも、悪意のある人物がこのテクノロジーを利用して、特定の陰謀論を裏付けるチャットボットを構築する可能性について、同氏は甘くはない。たとえば、虚偽の主張を含むソーシャル メディアの投稿についてトレーニングされたチャットボットを想像してください。
「基本的に、このすべてがどのように解決するかはまだ分からない」とランド氏は語った。 「人々がこれらの基礎モデルを正確にしようと多大な努力を払っている企業が提供するものを主に使用しているのであれば、これが広く有用で信頼されるツールになる可能性は十分にあります。」