Amazonで販売されているAI生成ゴミの煮込みシチューに、クロックポットの料理本を加えてみましょう。
月曜日、調査ジャーナリストのマシュー・クッパー氏は、投稿されましたX では、彼と彼の妻が両親から記念日の贈り物として土鍋レシピの料理本を受け取ったと報告しました。でも料理本って、初心者のための完全なクロックポットクックブックルイーザ・フローレンス著は、ボットのようなコピーや AI が生成したと思われる著者の画像など、AI が生成した明らかな兆候を示しました。
Amazon でこの本をざっと検索してみると、これと同じような本が他にもたくさんあることがわかりました。
クプファー氏の発見は、Amazon にあふれる、明らかに AI によって生成された低品質の書籍やコンテンツの多くの例のうちの 1 つです。そしてより広いインターネットそれに関しては。ベテランジャーナリスト、カーラ・スウィッシャーの回想録の出版に際し、いくつかのカーラ・スウィッシャーの伝記の模倣品が小売大手に氾濫した。スウィッシャーの影響力は、要求彼らは排除されましたが、それほど幸運ではない人もいます。著者らはAIによって生成された本のように見えるものを発見した彼らの名前を使ってまたはタイトルの盗用。これらは、著者や Amazon ユーザーによって報告されたものにすぎません。 2021 年の時点で、Amazon は4,800万冊それは生成 AI が広く利用可能になる前のことでした。そのため、問題の規模と、それが作者と消費者の両方に与える影響は容易に想像できます。
AmazonはMashableに対し、コンテンツを精査しており、ガイドラインに違反するものはすべて削除すると述べた。
クプファー氏がスレッドで説明したように、彼にヒントを与えたいくつかの異なる事柄がありました。最も明らかなのは、人間が書いたものとは思えないということです。 「土鍋って何ですか？」 AIの作者はこう考えた。料理本にはクロックポットの歴史の簡単な説明として、「1940年代、女性が家から遠く離れた場所で働く必要があったとき、米国で初めてクロックポットが使用された…」と書かれている。クプファーが指摘したように、これは第二次世界大戦について実際に言及することなく「非常に婉曲的」に描写したものであり、人間の作家にとっては当然のことのように思える。
ツイートは削除された可能性があります
他の例では、生成 AI の兆候は非常にひどいため、本を開く必要さえありません。ジャスティン・J・ロブソン、おそらく同情的なタイトルのこの本を書いたとされる初心者向けの超簡単クロックポットクックブック: 忙しい個人や外出中の家族向けの、シンプルで時間節約できておいしいスロークッカーレシピが 2000 日以上掲載されています。含むデザート、スナック、前菜商品説明のコピーを再確認する気すらありませんでした。 「簡単な料理を再定義する[数字を挿入]以上のレシピのコレクションで、シンプルさを満喫してください。」と書かれています。
Justin J. Robson さんは、自分が考案したレシピの数を記入するのを忘れました。 クレジット: アマゾン
もう一つの土鍋料理本、初心者向け完全クロックポットクックブック: 簡単で風味豊かな食事のための、1800 日以上のゆっくり調理されたレシピ。完璧な結果を得るために時間を節約するためのヒントとコツを使用して、また、ボットであると思われるものが慎重に残した括弧内のレシピの数を記入することも怠っていました。製品説明には、「キッチンのストレスに別れを告げましょう! シンプルさを念頭に置いて設計された [数を挿入] を超えるレシピを備えたこのクックブックは、すべての料理を簡単に準備できることを保証します。」 と書かれています。
マッシュ可能な光の速度
カーク・ビショップもそうだった。 クレジット: アマゾン
Mashable が見つけたすべての書籍には、中古車販売員の宣伝コピーと同じ形式に従った商品説明が、絵文字を多用して区切られた箇条書きセクションで書かれています。これが生成 AI であることを証明するのは難しいですが、ChatGPT や他のチャットボットに何かを宣伝するテキストを書くように依頼すると、それとよく似ています。
Amazonの広報担当者アシュリー・バニチェック氏は、「当社には、AIが生成したかどうかにかかわらず、ガイドラインに違反するコンテンツを積極的に検出するのに役立つ一連の強力な方法がある」と述べた。 「私たちは書籍の掲載を積極的に阻止するとともに、顧客体験を悪化させるコンテンツなど、ガイドラインに従わない書籍を削除します。」
これらの著者は全員同じプロモーション コピーの戦略に従っているのでしょうか、それともインターネット データの同じコーパスでトレーニングされた AI モデルによってすべて生成されたのでしょうか?著者も本物ではないようなので、おそらく後者でしょう。クプファーがフローレンスのプロフィールページを調べたところ、彼女は本物ではない可能性が高いことを除けば、クロックポットの料理本を書くような素敵な女性のように見えます。 「私にはAIが生成したGAN画像のように見えます。発散したイヤリング、奇妙な背景、欠けている左肩に注目してください」とクプファー氏は顔写真について語った。
キャスリーン・J・テイラーはおそらく、この文章を書いた実在の人物ではないでしょう。初心者向け完全クロックポットクックブック: あらゆる年齢層が食べたい、美味しくて健康を保つ1900のレシピ、朝食からデザート、スナック、ランチ、ディナーまで簡単なスロークッカークックブック(繰り返しますが、これらのタイトルは本当にパンチが効いています)。テイラーのプロフィール写真では、髪の後ろと首がぼやけていますが、これは通常、ある種の画像ジェネレーターが関与していることを示しています。
テイラーの著者略歴でさえ、生成 AI のように聞こえる、冗長で一般的なコピーです。 クレジット: アマゾン
クロックポットクックブックの他の著者はプロフィール写真を持っていませんが、非常に偽物のように思えます。 「ミルトン・E・アームストロング」と「カーク・ビショップ」という名前の実在の人物には申し訳ありませんが、帽子から選ばれたように聞こえます。 「Tharne Dllsworth」についても同様で、「Dillsworth」や「Ellsworth」ではなく「Dllsworth」です。あなたが本物なら申し訳ありませんが、プロフィール写真に AI が生成した髪の毛のヘルメットがあることを考えると、そうではないと思います。
「サーン・ドルズワース」ですか、それとも「エルズワース」ですか？いずれにせよ、これはおそらく実在の人物ではありません。 クレジット: アマゾン
さらに、Google で著者を検索しても、Amazon (および一部の Goodreads) の書籍リスト以外にはデジタル上の存在感はありません。それに比べて、本物の鍋料理本の本当の著者をグーグルで検索すると、次のようになります。5 つの材料で作る簡単スロークッカー料理本: 忙しい人のための、手間をかけずにおいしい 100 の食事カレン・ベレッサ・ピーターセン著、彼女が口と手を持っており、食べ物がどんな味かを知っているフードブロガーであるという事実を裏付ける証拠はたくさんあります。
AI が生成したコンテンツが失敗したことを笑うのは簡単です。意味不明のテキスト、不条理な人間の模倣、歪んだ画像のレンダリングは、生成 AI がどこまで到達しなければならないかをコミカルに思い出させる可能性があります。もし何を探すべきかはわかっていますが、そこから面白くなくなります。 Vanciek氏は、Amazonは「生成AIツールの急速な進化と拡張など、その体験に影響を与える開発を常に評価している」と述べた。
生成 AI は私たちの多くにとって初めてのことであり、ほとんどの消費者は Amazon で料理本を何気なく閲覧しているときに AI の兆候を探しているわけではありません。人々は、レシピの開発に何が必要かを学んだことはおろか、食べ物を味わったこともない組織が作成した料理本に、知らず知らずのうちにお金を費やしています。それは笑い事ではありません。
これらのおそらく AI の「作者」の誰かが実際の人間であることが判明し、修正を要求する場合は注記を追加しますが、それは起こらないと私たちは賭けています。
更新: 2024 年 3 月 21 日午前 8:26 PDTこの記事は、Amazon 担当者のコメントを含めて更新されました。