OpenAI の作成者チャットGPT、AI チャットボットに関する批判を明らかに聞いています。つまり、学生が ChatGPT を使用して宿題をしたり、レポートを書いたりすることに懸念を表明した教育関係者です。
火曜日、OpenAI解放された新しい AI 分類ツールは、これらの懸念に直接対処することを目的としています。この無料の Web ツールは、テキストのブロックが人間によって書かれたのかコンピューターによって書かれたのかをユーザーが判断できるようにするために、OpenAI によって作成されました。
ツールの使い方は簡単です。AI 分類器にアクセスするだけですをクリックしてログインし、確認したいテキストのブロックをコピーして貼り付けます。次に、分類器はテキストを、AI によって生成された可能性が高い、可能性がある、不明瞭、可能性が低い、または非常に低いというスケールでランク付けします。
テキストをコピー＆ペーストして、それが人間によって書かれたものであるかどうかを確認します。 クレジット: OpenAI / Screengrab
これは、AI によって書かれたテキストに関するいくつかの懸念に対処するのに非常に役立つように思えますが、OpenAI は注意点があることを明確に示しています。たとえば、OpenAI によると、「分類子は完全に信頼できるものではない」とのことです。
マッシュ可能な光の速度
「英語テキストの『チャレンジ セット』に対する評価では、分類器は AI が書いたテキスト (真陽性) の 26% を「AI が書いた可能性がある」と正しく識別しましたが、人間が書いたテキストは 9% を AI が書いたと誤ってラベル付けしました（誤検知）」と同社は声明で述べた。ブログ投稿。
OpenAI が発表の中で言及した分類器には、他にも制限があります。たとえば、1,000 ワード未満のテキストでは分類器の動作が大幅に低下します。場合によっては、人間が書いたコンテンツをコンピュータによって作成されたテキストとして誤って認識してしまうことがあります。そして、実際にうまく機能するのは英語のテキストでのみです。
テキストがコンピュータで生成されたときの検出に役立つツールをリリースしたのは OpenAI が初めてではない。実際、同社自体がリリースした最初の分類ツールではありません。ただし、OpenAI によれば、以前のツールよりも「信頼性が大幅に向上」しています。そして、そのようなツールが AI 分野のリーダーの一人によって継続的に開発されているということは非常に注目に値します。
それでも、教師や教育者が教室での不正行為を検出するために AI 検出ツールに自信を持って依存できるようになるまでには、かなりの道のりが必要です。