AIの専門家、技術者、ビジネスリーダーらは、AI研究所に対し「より強力なシステム」のトレーニングを一時停止するよう求めている1,000人以上の請願者の中に含まれている。GPT-4。」
の公開書簡この論文は、変革テクノロジーのリスクを軽減する非営利団体であるFuture of Life Instituteによって水曜日に発表された。署名者のリストには、アップルの共同創設者スティーブ・ウォズニアック氏、スペースX、テスラ、ツイッターのイーロン・マスクCEO、スタビリティAIのCEOエマド・モスタク氏、人道的テクノロジーセンターのエグゼクティブディレクターのトリスタン・ハリス氏、AI研究機関ミラの創設者ヨシュア・ベンジオ氏が名を連ねている。
「高度なAIは地球上の生命の歴史に重大な変化をもたらす可能性があり、相応の注意とリソースをもって計画、管理されるべきである」と書簡には書かれている。 「残念ながら、このレベルの計画と管理は実現していません。ここ数か月間、AI 研究所は、誰にも、その作成者さえも理解できない、より強力なデジタル マインドの開発と導入を目指して制御不能な競争に巻き込まれています。」 、予測、または確実に制御します。」
OpenAI、Microsoft、Google などの企業は、生成 AI モデルの開発に全速力で取り組んでいます。 AI 市場を追い詰めるという野望に後押しされて、新しい進歩や製品リリースがほぼ毎日発表されています。しかし書簡には、倫理、規制、安全性への懸念を考慮するには、すべての出来事があまりにも急速に進んでいると書かれている。
マッシュ可能な光の速度
「私たちは自問しなければなりません。機械にプロパガンダと虚偽を情報チャンネルに氾濫させるべきでしょうか？やりがいのある仕事も含め、すべての仕事を自動化すべきでしょうか？最終的には数を上回り、賢く、時代遅れになり、私たちに取って代わられるかもしれない人間以外の心を開発すべきでしょうか？私たちは文明の制御を失う危険にさらされていますか？」
公開書簡では、AI実験を6か月間一時停止するよう求めており、この実験は「その効果がプラスであり、リスクが管理可能であると確信できる場合にのみ開発されるべきである」としている。 AI研究所はこの時間を利用して、第三者による監査が可能な安全プロトコルを共同で開発するよう推奨している。停止しない場合は、政府が介入して一時停止を課すべきである。
同時に嘆願書では、政策立案者に対し、AIシステムの監視と追跡、現実のコンテンツと生成されたコンテンツの区別、AIモデルの監査と認証、「AIによる危害」に対する法的責任、公的資金提供などを専門とする規制当局との関与を求めている。 AI研究と「AIが引き起こす劇的な経済的・政治的混乱（特に民主主義）に対処する」ための機関。
この書簡は、すべてのAI開発を全面的に停止せよと言っているわけではない。ブレーキを踏むと言っているだけです。 AI 革命がすべての人にとって安全で有益なものとなるよう、社会は適切なインフラストラクチャを構築するために迅速なタイムアウトを必要としています。 AIの長い夏を楽しみましょう」と手紙は結んでいる。「準備をせずに秋に突入しないでください。」