マーク・ザッカーバーグの AI に対するビジョンは、当初、彼が叙事詩で共有したものよりもいくらか不気味なものでした6,000語のマニフェストFacebookの将来について。
投稿の中で、ザッカーバーグ氏はテロリストのプロパガンダを検知するために人工知能をどのように利用できるかについて簡単に触れている。
「現在、私たちはAIを使用してテロに関するニュース記事と実際のテロリストのプロパガンダの違いを見分ける方法を模索し始めています。これにより、テロ組織への勧誘のために当社のサービスを利用しようとする者を迅速に排除できるようになります。」と彼は述べた。書きました木曜日に公開された投稿で。
これは、AI の十分に単純な応用のように聞こえますが、ザッカーバーグ氏や他の経営陣が過去に議論した内容と一致していますが、CEO が最初に書いたものとは異なります。
Facebookでの公開に先立って多くの報道機関と共有されたこの書簡の初期バージョンでは、ザッカーバーグ氏はこのアイデアをさらに推し進めた。同氏は、AIの「長期的な期待」は、AIを「プライベートチャンネルを使って攻撃を計画しているテロリストなど、誰も気づかなかったリスクを特定する」ために利用できることだと書いている。
マッシュ可能な光の速度
以下は、からの引用の拡大版ですAP通信（私たちのものを強調してください）。
AI の長期的な期待は、すでに起こっているリスクよりも迅速かつ正確にリスクを特定することに加えて、誰も気付かなかったリスクも特定できる可能性があることです。プライベートチャンネルを利用して攻撃を計画しているテロリストも含む、怖くて自分で報告できない人をいじめる人々、その他地域的および世界的な問題。これらのシステムを開発するには何年もかかります。
これは、木曜日に共有された最終版で説明された内容とは異なります。最終版では、AIとテロに関連したプライベートなコミュニケーションについては言及されていませんでした。 Facebookの広報担当者は、上記の引用は書簡の以前のバージョンに掲載されていたが、その後「改訂」されたことを認めた。改訂されたセクションは次のとおりです。
今後を見据えて、人々の安全を守るための最大のチャンスの 1 つは、コミュニティ全体で何が起こっているかをより迅速かつ正確に理解するための人工知能を構築することです...今後、コミュニティが関連するリスクを特定できる必要があるケースはさらに多くなります。精神的健康、病気、犯罪。
その後、AP通信は記事を修正し、プライベートチャンネルの監視に関する文を削除した。オリジナルのスクリーンショットを以下に示します。
クレジット: AP 経由のスクリーンショット
ザッカーバーグ氏は、WhatsAppのエンドツーエンド暗号化を賞賛したのと同じ書簡の中で、AIが「プライベートチャネル」の監視に使える可能性を示唆していることと、ユーザーのプライバシー保護の重要性は相反するものであるように思われる。プロパガンダと報道を区別するために AI を使用することと、プライベートなコミュニケーションを監視するために AI を使用することとの間には違いがあり、額面通りに受け取れば、「プライバシーを侵害する」ことなく Facebook ユーザーの安全を守りたいという CEO の書簡の中で述べられた願望に反することになる。
おそらくそれが、公開される前に手紙から削除された理由です。 （さらなるコメントを求めてFacebookに連絡しました。）しかし、ザッカーバーグ氏がそれをメディアと共有された最終近くの草案に掲載するほど真剣に検討したという事実は、ユーザーのプライバシーが彼のFacebookの長期ビジョンにどのように適合するかという疑問を引き起こしています。
この投稿は、Facebook マニフェストに関する AP の当初の報道の改訂を反映するために、太平洋標準時午前 10 時 55 分に更新されました。