私たちはそれを言いました前に、そして私たちはそうします言うそれまた: 権限のない当事者に読み取られたくない内容を ChatGPT に入力しないでください。
OpenAI が昨年 ChatGPT をリリースして以来、AI チャットボットの欠陥が悪意のある者によって武器化されたり、機密データや個人データにアクセスするために操作されたりする可能性がかなりの数ありました。そして、この最新の例は、セキュリティ パッチがリリースされた後でも問題が依然として残る可能性があることを示しています。
による報告によると、ピーピーコンピュータ, OpenAI は最近、ChatGPT がユーザーのデータを未承認の第三者に漏洩する可能性がある問題の修正を公開しました。このデータには、ChatGPT とのユーザーの会話や、ユーザーの ID やセッション情報などの対応するメタデータが含まれる場合があります。
ただし、セキュリティ研究者によると、ヨハン・レーベルガー最初にこの脆弱性を発見し、その仕組みを説明したのは、OpenAI の修正には依然として大きなセキュリティ ホールが存在します。本質的に、セキュリティ上の欠陥は依然として存在します。
ChatGPTデータ漏洩
Rehberger は、最近リリースされ好評を博した OpenAI を活用することができました。カスタム GPTChatGPT からデータを抽出した独自の GPT を作成する機能。 iPhone が App Store でモバイル アプリケーションに革命を起こしたのと同じように、カスタム GPT が AI アプリケーションとして販売されているため、これは重要な発見でした。 Rehberger がこのカスタム GPT を作成できれば、悪意のある攻撃者がすぐに欠陥を発見し、ターゲットからデータを盗むためのカスタム GPT を作成できるようです。
マッシュ可能な光の速度
レーバーガー氏は自分が最初だと言う連絡しましたOpenAIは4月に「データ抽出技術」について話した。彼は 11 月にもう一度 OpenAI に連絡し、カスタム GPT を作成してプロセスを実行する方法を正確に報告しました。
水曜日、レーベルガー更新情報を投稿しました彼のウェブサイトへ。 OpenAI はリークの脆弱性を修正していました。
「この修正は完璧ではありませんが、正しい方向への一歩です」とレーバーガー氏は説明しました。
この修正が完璧ではない理由は、Rehberger 氏が発見した脆弱性を通じて ChatGPT が依然としてデータを漏洩しているためです。 ChatGPT は依然としてだまされてデータを送信する可能性があります。
「いくつかの簡単なテストでは、情報の断片が漏洩する可能性があることが示されています」とRehberger氏は書き、さらに「この方法では少量しか漏洩せず、速度が遅く、ユーザーにとってより顕著である」と説明した。残りの問題に関係なく、レーバーガー氏は、これは「確実に正しい方向への一歩」であると述べた。
しかし、セキュリティ上の欠陥は依然として iOS および Android 用の ChatGPT アプリに完全に残っており、修正版はまだ更新されていません。
ChatGPT ユーザーは、カスタム GPT を使用する際には常に警戒する必要があり、未知のサードパーティからこれらの AI アプリを渡す必要がある可能性があります。