今週、OpenAIの「スーパーアライメント」チーム（同社の安全問題を監視するチーム）の共同責任者、ジャン・ライク氏が辞任した。 X（旧Twitter）のスレッドでは、安全リーダーが OpenAI を辞めた理由を説明、彼がそれを含めて会社のリーダーシップに同意しなかったその「中核的優先事項」については「かなり長い間」「限界点」に達するまで続いた。
翌日、OpenAIのCEOであるサム・アルトマン氏と社長兼共同創設者のグレッグ・ブロックマン氏は、同社は安全性を重視していないとのライク氏の主張に反応した。
ライケ氏は、とりわけ、近年、OpenAIの「安全文化とプロセスが輝かしい製品よりも後回しになっている」と述べ、彼のチームは安全作業を遂行するためのリソースの入手に苦労していると述べた。
「AGI（汎用人工知能）の影響について、私たちは信じられないほど真剣に取り組むのが遅れて久しい」とライケ氏は書いた。 「私たちはできる限り彼らに備えることを優先しなければなりません。」
アルトマンが最初に反応した金曜日のライクの再投稿で、OpenAIには「やるべきことがまだたくさんある」、そして「それに全力で取り組んでいる」というライクの発言は正しいと述べた。彼はもっと長い記事が来ると約束した。
土曜日、ブロックマンは彼自身とアルトマンの両方からの共通の返答をXに投稿した。
ツイートは削除された可能性があります
ブロックマン氏とアルトマン氏はライク氏の働きに感謝の意を表した後、辞任を受けて質問を受けたと述べた。彼らは 3 つのポイントを共有しました。1 つ目は、OpenAI が「世界がそれに向けてよりよく準備できるように」AGI についての意識を高めたことです。
マッシュ可能な光の速度
「私たちはディープラーニングのスケールアップによる信じられないほどの可能性を繰り返し実証し、その影響を分析し、そのような呼びかけが普及する前にAGIの国際的なガバナンスを求め、AIシステムの壊滅的なリスクを評価する科学の先駆者となった」と彼らは書いている。
2 番目のポイントは、これらのテクノロジーを安全に展開するための基盤を構築しているということであり、従業員が「[Chat]GPT-4 を安全な方法で世界に提供する」ために行った作業を例として挙げました。二人はそれ以来――OpenAI が ChatGPT-4 をリリース2023 年 3 月 — 同社は「展開から学んだ教訓に応じて、モデルの動作と不正行為の監視を継続的に改善してきました」。
3番目のポイントは？ 「未来は過去よりも困難になるだろう」と彼らは書いている。 OpenAI は新しいモデルをリリースするにつれて安全性の取り組みを強化し続ける必要がある、とブロック氏とアルトマン氏は説明し、同社の見解を引用した。準備の枠組みそれを助ける方法として。 OpenAIのサイトのページによると、このフレームワークは、発生する可能性のある「壊滅的なリスク」を予測し、それらの軽減を目指すものだという。
その後、ブロックマン氏とアルトマン氏は、OpenAI のモデルがより世界に統合され、より多くの人々がモデルと対話する未来について話し合います。彼らはこれを有益なことだと考えており、これを安全に実行できると信じているが、「しかしそれには膨大な量の基礎作業が必要になるだろう」としている。このため、同社はリリーススケジュールを遅らせ、モデルが「安全バーに達する」可能性がある。
「私たちは、考えられる将来のシナリオをすべて想像することはできないことを承知しています」と彼らは語った。 「そのため、非常に緊密なフィードバック ループ、厳格なテスト、あらゆる段階での慎重な検討、世界クラスのセキュリティ、安全性と機能の調和が必要です。」
首脳らは、OpenAIは今後も安全性に関して研究を続け、政府や関係者と協力していくと述べた。
「AGIへの道を進むための実証済みの戦略は存在しません。私たちは、経験に基づいた理解が今後の方向性を知るのに役立つと考えています」と彼らは結論づけています。 「私たちは、大きな利益をもたらすことと、深刻なリスクを軽減することに取り組むことの両方を信じています。私たちはここでの役割を非常に真剣に受け止めており、私たちの行動に対するフィードバックを慎重に検討しています。」
ライク氏の辞任と言葉は、次の事実によってさらに悪化する。OpenAI の主任科学者 Ilya Sutskever 氏今週も辞めた。「#イリヤは何を見た」は X のトレンドトピックとなり、OpenAI のトップリーダーが何を知っているかについての憶測を示唆しました。から判断すると、ネガティブ 反応 に 今日の 声明ブロックマンとアルトマンから聞いても、その憶測は何一つ払拭できなかった。
現時点で、同社は次のリリースに向けて準備を進めています。チャットGPT-4o、音声アシスタント。