OpenAIを利用してより多くの悪者を排除していますAIモデル。そして、同社としては初めて、政治的影響力活動に使用されたロシア、中国、イスラエルのアカウントを特定して削除した。
によると新しいレポート同プラットフォームの脅威検出チームからの報告により、同プラットフォームは、プロパガンダを満載したボット、ソーシャルメディアスクラバー、偽記事生成ツールなど、秘密の影響力活動に従事する5つのアカウントを発見し、停止した。
「OpenAIは、悪用を防止するポリシーの施行と、AI生成コンテンツに関する透明性の向上に取り組んでいる」と同社は書いている。 「それは、背後にいる関係者の本当の身元や意図を明らかにすることなく、世論を操作したり政治的結果に影響を与えようとする秘密影響力作戦（IO）の探知と妨害に関して特に当てはまります。」
関連項目:
停止されたアカウントには、「悪い文法」と呼ばれるロシアの電報作戦の背後にいるアカウントや、イスラエルの企業STOICを支援しているアカウントが含まれる。 STOIC は OpenAI モデルを使用して、イスラエルの現在の軍事包囲を称賛する記事やコメントを生成する、その後、メタ プラットフォーム、X などに投稿されました。
マッシュ可能な光の速度
OpenAIによると、この秘密攻撃者のグループは「さまざまな言語での短いコメントや長い記事の作成、ソーシャルメディアアカウントの名前や経歴の捏造、オープンソース調査の実施、単純なコードのデバッグ、テキストの翻訳と校正です。」
2月にOpenAIは、いくつかの「外国の悪役」アカウントを停止した潜在的なサイバー攻撃を強化するために OpenAI の翻訳およびコーディング サービスを使用するなど、同様に不審な行為を行っていることが判明しました。この取り組みは Microsoft Threat Intelligence と協力して行われました。
一連の世界的な選挙に向けてコミュニティが盛り上がる中、多くの人がAIを利用した偽情報キャンペーンに注目している。米国では、有名人のディープフェイクAI動画や音声、さらには大統領候補者、連邦政府がテクノロジーリーダーに次のことを呼びかけることにつながった。彼らの蔓延を阻止する。そして、からの報告は、デジタルヘイト対策センター多くの AI 指導者が選挙の誠実さを公約しているにもかかわらず、AI の音声クローンは依然として悪意のある者によって簡単に操作されていることを発見しました。
