Facebook の自殺予防 AI は、重要な一歩を踏み出しました。
この技術は、パターン認識を使用して、自殺や自傷行為を考えている人がいつ現れるかを判断するもので、友人が助けが必要であると誰かに警告する前に、人々に連絡を取ることができるようになりました。
フェイスブック最初に導入された今年初めに AI ベースの自殺予防ツールを開発しました。しかし、これまで、これらのツールを使用するには、ユーザーまたはその友人が助けを求める必要がありました。同ソーシャルネットワークは現在、この技術が進歩し、誰かが自傷行為や自殺の危険にさらされている可能性があることを検知した場合、たとえ誰も報告していなくても、積極的に介入できるところまで進歩したとソーシャルネットワークは述べている。
現在、システムが「自殺念慮が含まれている可能性がある」投稿や Facebook ライブブロードキャストを特定すると、それらの投稿は Facebook の特別な訓練を受けたレビュー担当者にルーティングされ、その後、最初の対応者に連絡できるようになります。
「このことの重要な点は、何かが報告される前であってもプロアクティブな検出を開始できることです」と Facebook 製品管理担当副社長の Guy Rosen 氏は述べています。
マッシュ可能な光の速度
Facebook が助けを必要としている人を検出した場合に表示されるものの例。 クレジット: フェイスブック
これは、依然としてユーザーやその友人に頼って助けを求めていたFacebookの以前のツールからの大きな変化だ。このステップを排除することは、同社がこれまで見逃されていた可能性のあるケースを特定できるだけでなく、支援を必要とする人々に以前よりも早く連絡できることを意味します。
ローゼン氏によると、システムの初期テストはすでに有望で、Facebook のプロアクティブな検出ツールにより、先月だけで 100 件以上の健康チェック (Facebook が地域の初期対応者に警告したケース) が行われました。
今回、これらのツールは初めて米国外でも利用できるようになり、Facebook はこれらのツールを全世界に拡大しています (EU 諸国を除く)。
Facebookが現在AIを自殺予防に活用していると発表している方法は、プロアクティブな検出だけではない。同社はまた、AI を使用して、どのレポートが最も深刻で最初に注意が必要かを特定しています。
このツールは、AIを活用して自傷行為や自殺の危険にさらされている人々に手を差し伸べるというFacebookの探求だけでなく、ソーシャルネットワークを構築するというマーク・ザッカーバーグのビジョンにとっても大きな前進となる。もっとコミュニティのようなもの。これは、多くの人々が同社に対する不信感を強めている現在、Facebook の AI がいかに永久の力として機能するかを示す強力な例でもある。