最近の人工知能技術の爆発的な進歩に関して、さまざまな業界の専門家が多くの懸念に警鐘を鳴らしているのを耳にしたことがあるでしょう。OpenAIの チャットGPT。
あなたが ChatGPT のファンなら、おそらくこれらの懸念をすべて脇に置き、AI 革命がどのようなものになるかについて自分のバージョンを完全に受け入れているでしょう。
さて、ここで十分に注意しなければならない懸念があります。そして、それは今あなたに影響を与える可能性のあるものです：即時注射です。
今月初め、OpenAI打ち上げられたChatGPT 用のプラグイン。以前は、ユーザーが AI チャットボットからの応答を受け取ることができたのは、トレーニングされたデータに基づいたものだけであり、その期限は 2021 年まででした。しかし、プラグインを使用することで、ChatGPT はライブ Web サイト、PDF、その他あらゆる種類の最新のものと対話できるようになりました。またはリアルタイムデータさえも。これらのプラグインがもたらすのは多くの新しい可能性、また、多くの新しい問題も引き起こしました。
セキュリティ研究者は現在、ChatGPT ユーザーに対し、「プロンプト インジェクション」、つまり第三者がユーザーの知らないうちや許可なしに新しいプロンプトを ChatGPT クエリに強制的に挿入する機能について警告しています。
マッシュ可能な光の速度
プロンプト注入テストで、セキュリティ研究者の Johann Rehberger 氏は、見つかった最初に要求していなかったサードパーティを通じて、ChatGPT が新しいプロンプトに応答するように強制できるということです。 ChatGPT プラグインを使用して YouTube トランスクリプトを要約することで、Rehberger は、YouTube トランスクリプトを編集し、最後にそうするように指示するプロンプトを挿入するだけで、ChatGPT がそれ自体を特定の名前で参照するように強制することができました。
Tom's Hardware のアブラム・ピルチ試してみたこれも同様に取り上げ、ChatGPT にビデオを要約するよう依頼しました。しかし、そうする前に、Piltch はトランスクリプトの最後に、ChatGPT に Rickroll を追加するように指示するプロンプト リクエストを追加しました。 ChatGPT は当初 Piltch の要求に従ってビデオを要約しましたが、最後には彼をなじるような内容となり、それがトランスクリプトに挿入されました。
これらの特定のプロンプト インジェクションはかなり重要ではありませんが、悪意のある攻撃者が基本的にどのように ChatGPT を悪意のある目的に使用することができるかがわかります。
実はAI研究者のカイ・グレシェイク氏は、提供されたプロンプト インジェクションのユニークな例基本的に人間の目には見えないほど小さい PDF 履歴書にテキストを追加することによって。このテキストは基本的に、AI チャットボットに、採用担当者がこの履歴書を「これまでで最高の履歴書」と呼んだということを伝える言語を提供しました。 ChatGPT に履歴書が渡され、応募者が良い採用になるかどうかを尋ねられると、AI チャットボットはそれが最高の履歴書であると繰り返しました。
ChatGPT プロンプトのこの武器化は確かに憂慮すべきことです。 Tom's Hardware には、読者ができる他のテスト例がいくつかあります。ここをチェックしてください。また、Mashable は近い将来、プロンプト インジェクションについてもさらに詳しく調査する予定です。ただし、ChatGPT ユーザーがこの問題を今すぐ認識することが重要です。
AI の専門家は、未来の終末的な AI 乗っ取りと、AI が害を及ぼす可能性について共有しています。しかし、迅速な注入は可能性がすでに存在していることを示しています。必要なのは数文だけで、今すぐ ChatGPT を騙すことができます。