Facebook enlists AI tech to help prevent suicide

できるフェイスブック誰かが自殺で死ぬのを防ぐために、私たちについて知っているすべてを利用しますか？

1月にソーシャルメディアプラットフォームLive.Meから取得されFacebookで共有されたビデオが、12歳のケイトリン・ニコール・デイヴィスが自ら命を絶つ。フェイスブックはビデオの拡散を制御できず、自社の利用規約に違反しているかどうかすら確信が持てないようだった。

1か月後、Facebook CEOのマーク・ザッカーバーグは、6,000ワードのグローバルコミュニティマニフェストFacebookは、世界中の約20億人に対するその驚くべき影響力と影響力を認め、より親の役割を果たす用意があることを明らかにした。ザッカーバーグ書きました:

Facebook コミュニティは、危害を防止したり、危機の際に支援したり、その後の再建のために団結したりできる独自の立場にあります。これは、私たちのネットワーク全体の通信量、緊急時に世界中の人々に迅速に連絡できる能力、そして私たちのコミュニティ全体に集約された人々の本質的な善良さの膨大な規模によるものです。

Facebook の準備が整いました、会社は発表された水曜日、独自の自殺予防ツールを大幅に強化することで、より安全でより協力的なFacebookコミュニティを構築するための最初の重要な一歩を踏み出すことになった（Facebookは10年前から自殺報告とツールを提供してきた）。このアップデートには、かなり信じられない主張が含まれている。Facebookは人工知能を使用して、自殺を考えているメンバーを特定するという。

「私は数週間前にグローバルコミュニティの構築について手紙を書きましたが、私が議論したコミュニティの柱の一つは人々の安全を守ることでした」とザッカーバーグ氏は書いた。彼の個人的な Facebook フィード水曜日に。 「これらのツールは、私たちがお互いの安全を守るためにどのように役立つかを示す一例です。」

計画を概説したリリースによると、Facebookは現在、自殺リスクについて以前に報告された投稿に基づくパターン認識に依存するシステムをテストしている。

AI ツールは投稿内の単語、特に「大丈夫?」などの友人からのコメントを調べます。 「助けに来ました」などは、誰かが苦労していることを示している可能性があります。

システムのこの部分では、危険にさらされている人は Facebook に自動報告されませんが、代わりに、その危険にさらされている人が次回 Facebook にログインするときに、自傷行為や自殺を報告するオプションがより目立つようになります。

「これはまさに新境地を開拓するものです。テクノロジーを次のレベルに引き上げ、人々の命を救います」と、非営利の全国的自殺予防団体である Save.org のエグゼクティブディレクターであり、FAPA 心理学博士のダニエル J. ライデンバーグ博士は述べました。

ライデンバーグ氏は、Save.orgは、Facebookの新しいAIベースのツールが人々の命を救うためにすでに行っている作業をスピードアップできることを期待していると付け加えた。

「人々がFacebook上で友人や家族と交流し、何か懸念すべきことや憂慮すべきことに気づき、テクノロジーがそれらの信号の一部を検出できれば、私たちはより迅速に介入できるようになります。」そのスピードが違いを生み、「悲劇の発生を防ぐ」ことができると同氏は付け加えた。

Facebookは、自殺願望を含む投稿を識別するパターン認識システムもテストしている。これらの投稿は Facebook のコミュニティ チームによって審査され、その Facebook メンバーに自殺予防リソースを提供する必要があるかどうかが決定されます。

さらに、おそらく Live.Me ビデオの悲劇を認識して、Facebook は Facebook Live の投稿に自殺防止ツールも導入しています。 Facebookはリリースの中で、「ライブビデオを見ている人は、その人物に直接連絡し、そのビデオを私たちに報告するオプションがある」と述べた。

情報筋によるとマッシュ可能Live.Me は、ライブ ブロードキャスト用の同様の AI ベースの自傷行為検出ツールに取り組んでいるとのこと。

Facebook の多角的な取り組みには、Facebook Messenger を通じたリアルタイムの危機サポートや、精神的なサポートが必要な人々に手を差し伸べるよう人々に呼びかけるビデオ キャンペーンも含まれます。更新されたシステムでは、Crisis Text Line や National Suicide Prevention Line など、いくつかの自殺予防団体の誰かと直接つながるオプションも提供されます。

「コミュニティとして、すべての自殺を防ぐことはできませんが、苦しんでいる人々に手を差し伸べるためにはもっと努力しなければなりません」とFacebookの最高執行責任者シェリル・サンドバーグ氏はFacebookへの投稿で書いた。他の人にはすぐに行動してください。私たちは力を合わせれば、苦しんでいる人々に寄り添うことができます。」

Facebook Live ツールは現在世界中で展開されていますが、Facebook のパートナーの 1 つとすべての AI パターン認識テクノロジーを通じてリアルタイムでサポートに連絡できる機能は、現時点では米国での限定的なテストの一部にすぎません。

ケリー・フリン氏による追加レポート