米連邦取引委員会は火曜日、Operation AI Complyと呼ばれる新たな法執行活動を発表した。一斉摘発の一環として、同社は次のような行為を行った複数の企業に対して措置を講じた。人工知能欺瞞的な製品やサービスを「スーパーチャージ」すること。
この事件には、AIが生成した偽レビュー、「世界初のロボット弁護士」、オンライン店頭のスキームなどが関与していた。
のFTCは声明で次のように述べた。AIによる問題解決と自動化が時間とお金を節約し、電子商取引の場合は収入の増加につながるという約束に誘惑されて、消費者は数千万ドルを失ったという。
結局、両社は主張を履行せず、顧客を騙していることに気づいた。
「AI ツールを使用して人々を騙したり、誤解させたり、詐欺したりすることは違法です。」言ったリナ・M・カーン氏、同庁の議長。 「FTCの執行措置は、帳簿上の法律からAIが除外されていないことを明らかにしている。」
関連項目:
AI ライティング サービスを提供した会社 Rytr に対する FTC の訴状では、加入者がユーザーの入力に根拠のない偽のレビューを効果的に生成する方法が説明されています。 FTCは、AIが生成したレビューには多くの場合、特定の製品の購入に関心のある消費者を欺くような虚偽の情報が含まれていたと述べた。 Rytr の購読者の中には、不正確な可能性のあるレビューを何千件も作成した人もいました。
マッシュ可能な光の速度
FTCは、Rytrが「消費者と誠実な競合他社の両方に損害を与える大量の偽レビュー」を広める可能性のあるサービスを提供していたと主張した。 FTCは、将来的にRytrが消費者のレビューや推薦文の生成に関連するサービスの広告、宣伝、マーケティング、販売を禁止することを提案した。代理店AI生成の偽レビューの禁止8月に。
AIコンプライ作戦の一環として、FTCはDoNotPayに対して訴訟を起こした。DoNotPayは自社のAIロボットが「弁護士なしで暴行を訴える」のに役立ち、「完全に有効な法的文書をすぐに作成できる」と消費者に告げた。同社はこのサービスを「世界初のロボット弁護士」と宣伝したが、AIチャットボットを人間の弁護士と比較するテストは実施しなかった。弁護士も常駐していなかった。
その代わりに同社は、中小企業のウェブサイトに連邦法や州法への違反がないかチェックできると顧客に伝えたが、この機能は効果的ではなかった。
DoNotPayは声明でMashableに対し、FTCの苦情は「数百人」の顧客が利用し、「長い間廃止されていた」サービスに関連していると述べた。同社は責任を認めずに訴訟を解決したと指摘した。
FTCはまた、TikTok、Walmart、Amazon、Etsyなど、オンラインストアを開設しようとする人々を食い物にした3社に対しても告訴した。これらの企業は通常、収益を増やす可能性がある独自のソフトウェアと AI を活用したオンライン ストアを開始するのに多額の手数料を請求しました。一部の顧客は売れなかった在庫を購入する必要がありました。
ある企業、FBA Machineは、「リスクのない」「7桁規模のビジネス」を運営できると顧客に約束した。初期投資を回収できなかった顧客への返金を誤って保証しており、FTCによるとその額は数万ドルから数十万ドルに及ぶという。この計画により、顧客は合計で 1,600 万ドル近くの損失を被りました。
別の企業であるアセンド・イーコムは、自社の「最先端」AI ツールのおかげで、最終的には月収 5 桁を生み出す店舗を開設できると顧客に語った。 FTC は、このスキームにより顧客から少なくとも 2,500 万ドルがだまし取られたと推定しています。
更新: 2024 年 9 月 25 日、午前 11 時 55 分 (協定世界時)この記事は DoNotPay からの声明を含めて更新されました。