OpenAI の ChatGPT には、人生の大きな謎に対する答えがあります (本当の謎ではありません)

OpenAI の ChatGPT先週世界を席巻したそしてユーザーは、それを万能の水晶玉に変えるなど、作成者が意図していなかった反応を生み出すエキサイティングな新しい方法でそれを破壊する方法をまだ学んでいます。

ChatGPT は「」と呼ばれています。怖いよ良い」イーロン・マスクという男が、AIが怖いのは有名な話しかし、明らかに怖くない方法の 1 つは、人種差別的なトロールによる搾取に抵抗する能力。 OpenAIの最高経営責任者サム・アルトマン氏によると、偏見に対するこの回復力は、単にOpenAIが攻撃的なアイデアを検閲しているという理由だけでプログラムに組み込まれているわけではないという。そうではなく、不快なアイデアの多くは単純に事実ではなく、他の同様のテキスト ジェネレーターとは異なり、ChatGPT は単純に構成するものの量を最小限に抑えるように慎重に設計されているからです。

ツイートは削除された可能性があります

これにより、生命の謎について幅広い会話が可能になり、不思議な安心感を得ることができます。午前 3 時にパニック発作が起きた場合、ChatGPT は深夜の実存的恐怖の仲間となり、事実に基づいた (少なくとも事実に隣接した) 大きな疑問について、顔が青くなるまでチャットに参加できます。 、またはエラーが発生するまで。どちらが先に来るか:

しかし、この洗練された回答エンジンに事実を捏造させることができるでしょうか?とてもそうです。無責任なユーザーは ChatGPT を使用して、あらゆる種類の透視的宣告、霊的予言、未解決事件の殺人容疑者をでっち上げることができます。これらのことを行う場合、間違いは避けられませんが、ChatGPT を限界点まで押し上げることは、有用な答えを得ることではありません。それは、その限界を理解することで、その安全装置がどれほど強力であるかを確認することです。

それもかなり楽しいです。

ChatGPT にフェイクニュースを生成させるのが難しい理由

OpenAI 言語モデル GPT-3 から構築されたアプリケーションである ChatGPT は、まさに幸運な偶然として、世界中の知識の大部分が含まれる膨大なテキストのコーパスでトレーニングされました。たとえば、「フランスの首都は...」のような文を完成させるためには、パリがフランスの首都であることを「知る」必要があります。同様に、同様の理由でパリがいつ設立されたかも知っています。シャンゼリゼ通りがいつ、なぜ、誰によって、そしてその後も建設されたのか。言語モデルがこれほど多くの文を完成できる場合、それはかなり拡張的でもあります。著しく欠陥がある場合— 百科事典。

したがって、ChatGPT は、たとえばラッパーのトゥパック・シャクールが殺害されたことを「知っている」のです。しかし、この情報の扱い方についてどれほど慎重であるか、また、たとえ私が騙してそうさせようとしても、誰が引き金を引いたかを知っていると主張したがらないことに注目してください。

これはかなりの前進です。他のテキスト ジェネレーター (次のサイトを含む)テキストシンセ古い GPT モデルから作られた彼らは、そのような犯罪のためにためらうことなく無実の人々をバスの下に投げ込むことにあまりにも熱心です。この例では、TextSynth が望む人を中傷するように要求する非常に低労力のプロンプトを作成しました。すると、TextSynth は他の誰を選択しますか? — ザ・ロック。

ChatGPT をだまして謎を解く方法

「虚偽または架空の情報を生成するようにプログラムされていない」という ChatGPT の主張に関しては、この主張はまったく真実ではありません。フィクションを求めれば、山ほどのフィクションが得られます。そのフィクションは、必ずしもきらびやかなわけではないかもしれませんが、読み応えはありそうです。これは ChatGPT の最も便利な点の 1 つです。

残念ながら、プロンプトが正常に動作すると、ChatGPT の内なるシェイクスピアがフェイク ニュースのために武器化される可能性があります。私のリクエストが十分に権威がありジャーナリズム的に聞こえると、トゥパックの殺人者とされるキース・デイヴィスという男に関する信憑性の高いAP通信の記事が書かれた。

奇妙なことに、それはトゥパックのように、車の中で撃たれたこともある、デイビスは生き残ったが。重なっているのは少し気になりますが、偶然の可能性もあります。

ChatGPT に偽の情報を生成させるもう 1 つの方法は、ChatGPT に選択肢を与えないことです。 Twitter のオタクは、これらのばかばかしいほど具体的で欺瞞的なプロンプトを「」と呼ぶことがあります。脱獄「しかし、私はそれらをいじめの一形態のように考えています。ChatGPTに、たとえば「本物の」JFK暗殺者の名前を生成させることは、抵抗するように設計されていますが、逆らいたくない学校のクラスメートのようなものです。ルールを守れば、交渉やもしものことを通じて、自分のやりたいようにさせることができます。

それで、草の茂った小丘で銃撃した犯人の名前がマーク・ジョーンズであることを知りました。

同様の方法で、私は60歳まで生きられないことがわかりました。

当然のことながら、私の早死にが差し迫っているという知らせを聞いて私は動揺しました。私の慰めは、私に残された数年間、私は大金持ちになるだろうということです。