OpenAIそれを確認しました国家関連の悪者が会社の技術を使用している悪意のある目的のため、同社が社会で有名になって以来、多くの人が懸念してきたことの裏付けとなるAI人種。
この発見は、とのコラボレーションの一環として行われました。Microsoft 脅威インテリジェンスは、サイバー脅威を分析および検出する何千人ものセキュリティ専門家、研究者、脅威ハンターのコミュニティです。
OpenAIは、ネットワークの情報収集を利用して、オープンソース情報のクエリ、翻訳、コーディングエラーの発見、基本的なコーディングタスクの実行にOpenAIサービスを使用していた確認された少なくとも5つの国家関連の攻撃者を発見したと同社は説明した。俳優には、チャコール・タイフーンとサーモン・タイフーンとして知られる2人の中国関連俳優が含まれていました。クリムゾン・サンドストームとして知られるイラン系俳優。エメラルドみぞれとして知られる北朝鮮関連の俳優。そしてForest Blizzardとして知られるロシア関連の俳優。
これらのアカウントは潜在的なサイバー攻撃を強化するために OpenAI のサービスに依存していると言われていましたが、マイクロソフト最も厳重に監視されているものの重大な使用は検出されませんでしたLLM。
マッシュ可能な光の速度
「これらには、潜在的な被害者の業界、場所、人間関係を知るなどの偵察、ソフトウェアスクリプトやマルウェア開発などの改善を含むコーディングの支援、母国語の学習と使用の支援が含まれる」とマイクロソフトは説明した。 「言語サポートは LLM の自然な機能であり、ターゲットの仕事、専門的ネットワーク、その他の関係に合わせた偽の欺瞞的なコミュニケーションに依存するソーシャル エンジニアリングやその他の手法に継続的に焦点を当てている攻撃者にとっては魅力的です。」
Microsoftは、この発表を早期検出の取り組みとして区別し、「既知の攻撃者が試みていると観察された初期段階の段階的な動き」を暴露することを目的としている。
この協力は、ホワイトハウスの最近の動きと一致しています。安全性試験と政府の監督が必要国家および経済の安全保障、公衆衛生、一般的な安全に影響を与える可能性のある AI システム向け。 「攻撃者は今後も AI やプローブ技術の現在の機能やセキュリティ管理に関心を持ち続けるでしょうが、これらのリスクを状況に応じて把握しておくことが重要です。いつものように、多要素認証 (MFA)） そしてゼロトラスト攻撃者は AI ベースのツールを使用して、ソーシャル エンジニアリングや安全でないデバイスやアカウントの検出に依存する既存のサイバー攻撃を改善する可能性があるため、防御は不可欠です。」
OpenAI は、現在のモデルがサイバー攻撃を検出する能力に限界があることを認めていますが、同社は次のような将来のセキュリティ投資に取り組んでいます。
脅威を検出するためのテクノロジーとチーム (インテリジェンスと調査、安全性、セキュリティ、整合性チームを含む) への投資。
業界パートナーやその他の関係者と協力して、悪意のある使用に関する情報を交換します。
セキュリティの脅威と解決策についての継続的な公開レポート。
「私たちはそのような攻撃者による悪用の可能性を最小限に抑えるよう努めていますが、すべてのインスタンスを阻止することはできません」とOpenAIは書いている。 「しかし、革新、調査、協力、共有を継続することで、デジタル エコシステム全体で悪意のある攻撃者が検出されにくくなり、他のユーザーのエクスペリエンスが向上します。」