火曜日にメタは発表したラマ2、その大規模な言語モデルの新しいバージョン。
OpenAI のような LLM には大きな注目が集まっていますGPT-4どちらが力を発揮するのかチャットGPTそしてGoogleのパルム2これが Bard の原動力となっていますが、生成 AI の分野で競争するための Meta の努力を忘れてはいけません。クローズド モデルである GPT-4 や PaLM 2 とは異なり、Llama 2 はオープンソースです (詳細は以下を参照)。すでに特定のベンチマークで同様のスコアを獲得しており、おそらく一般からの意見があればさらに改善されるでしょう。
メタの LLM スリーパーヒットについて知っておくべきことは次のとおりです。
Llama 2 は、主要な競合他社とは異なり、オープンソースです
Meta は Llama 2 をオープンソースにし、研究および商用利用を無料にしました。これは、一般の人々に革新的なテクノロジーを形作り、その恩恵を受ける機会を増やすためです。
「企業、新興企業、起業家、研究者に、自分たちで構築するのが困難な規模で開発されたツールへのアクセスを提供し、他の方法ではアクセスできないコンピューティングパワーに裏付けられたツールへのアクセスを提供することで、エキサイティングな実験や革新を行う機会の世界が開かれます。そして最終的には経済的、社会的に恩恵を受ける」と述べた。ブログ投稿発売を発表。
マッシュ可能な光の速度
GoogleとOpenAIは、パラメータ数の詳細やモデルのトレーニングに使用されたデータなど、独自のLLMがどのように開発されているかについての詳細を共有していない。逆に、Llama 2 には以下から自由にアクセスできます。ハグフェイス、アマゾン ウェブ サービス、および Microsoft Azure が含まれており、開発者はそのコードとデータにアクセスできるため、モデルを構築および改善することができます。 Llama 2 には 3 つの異なる事前トレーニング済みモデル サイズ (70 億、130 億、700 億パラメータ) があり、すべてアクセスできます。
Microsoft Azure は Llama 2 の「優先パートナー」です
Meta は Llama 2 のリリースと同時に、パートナーシップMicrosoft のクラウド コンピューティング プラットフォーム Azure を利用します。今週から、Azure の顧客はアプリケーションを構築するためのオプションとして Llama 2 を使用できるようになります。はい、Llama 2 を直接ダウンロードできますが、Azure の AI プラットフォームを通じて、LLM と連携するために特別に設計された微調整、安全性、推論機能を利用できます。
このパートナーシップは、AI の民主化という 2 つのテクノロジー巨人の公的立場と一致しています。 Azure は有料サブスクリプションですが、Microsoft は AI を活用した Bing および Edge ツールを無料で使用できるようにしました。そして、これらのツールは OpenAI の GPT-4 を利用しています。多額の投資マイクロソフトから。つまり、Microsoft は生成 AI に熱心に取り組んでおり、それを実現するために強力なパートナーシップを活用しているということです。 Meta にとって、Microsoft パートナーシップは、Azure 開発者が Llama 2 を使用するための貴重なチャネルです。
Llama 2 と ChatGPT の比較
背景はこれくらいにして、Llama 2 は実際に ChatGPT を最高の LLM の座から奪うことができるのでしょうか?短い答えはまだ出ていませんが、最終的には出てくるかもしれません。
メタでは研究論文では、さまざまな学術ベンチマークにおける Llama 2 のパフォーマンスを、OpenAI の GPT-3.5 および GPT-4、Google の PaLM および PaLM 2 などの他のモデルと比較しました。Llama 2 は、一般知識、小学校の算数、または数学を測定するデータセットではそれほど高いスコアを獲得しませんでした。しかし、メタは人間による評価を使用した別の研究を実施し、興味深い結果が得られました。人間は、さまざまなモデルを比較して、「有用性」に関する 4,000 件のプロンプトを採点しました。この結果では、Llama 2 が ChatGPT を破り、ChatGPT の 32.5 パーセントに対して 35.9 パーセントの「勝利」を獲得しました。
これらのスコアはクローズド モデルに対して測定されますが、他のオープンソース モデルのベンチマーク比較に関しては、Llama 2 がそれらを上回りました。 Meta の LLM は、他のオープンソース モデル (MPT および Falcon) を全面的に上回りました。
大まかに言えば、Llama 2 のインテリジェンスは GPT-3.5 と同等と評価されており、チャットボット形式の ChatGPT よりもわずかに役立つと評価されています。理論的には、開発者コミュニティの努力により、Llama 2 は今後さらに改善されるでしょう。