注目を集めながらNvidiaの新しいグラフィックスカード(そして正当な理由があります - これらは非常に強力です)、同社は、最終的にはさらに大きなニュースになる可能性のあるものをリリースしました。それは、Project Digits と呼ばれるパーソナル AI スーパーコンピューターです (そのほうがかっこいいため、今後は単に Digits と呼びます)。
Digits は、ほぼすべての机に収まる、Mac mini のような小さなパーソナル コンピュータです。キーボードとモニターに接続し、電源に接続すれば準備完了です。
しかし、その中身はかなり特別なものです。 Digits は、最大 1 ペタフロップスの AI パフォーマンスを実現する Nvidia の新しい GB10 Grace Blackwell スーパーチップを搭載しています。Nvidia は MediaTek と協力してチップのエネルギー効率を高めました。つまり、チップの実行には標準規格から得られるような電力が必要になります。電源コンセント。
GB10 は、128 GB の RAM と最大 4 TB の NVMe ストレージと組み合わされています。これらすべてにより、開発者は最大 2,000 億パラメータの大規模言語モデル (LLM) を実行できるようになります。 Nvidia ConnectX テクノロジーを使用すると、2 台の Digits コンピューターをペアにして、最大 4,050 億パラメータのモデルを実行することもできます。
この内容のほとんどは、AI アプリ開発ビジネスに携わっていない人にとってはおそらくほとんど意味がありません。しかし、たとえば、ChatGPT 3.5 には 1,750 億のパラメータがありました (ChatGPT 4 ははるかに大きいですが、正確な数はわかりません)。一方、Meta の最も強力な LLM である Llama 3 には 4,050 億のパラメータがあります)。これは、クラウド インフラストラクチャに依存せずに、非常に強力な LLM を自宅で実行できることを意味します。
マッシュ可能な光の速度
「すべてのデータサイエンティスト、AI研究者、学生の机にAIスーパーコンピューターを置くことで、彼らはAIに取り組み、AIの時代を形作ることができるようになる」とNvidiaの創設者兼最高経営責任者（CEO）のジェンセン・ファン氏は書面での声明で述べた。
Digits を使用する開発者は、Nvidia NGC カタログおよび Nviia Developer ポータルで入手可能な開発キット、オーケストレーション ツール、フレームワーク、モデルを含む Nvidia の AI ソフトウェア ライブラリにアクセスできるようになります。また、Nvidia NeMo フレームワークと Nvidia RAPIDS ライブラリにもアクセスできます。
ここでの最大のニュースは、おそらく価格だろう。 Digits は 5 月に 3,000 ドルから発売されます。このような資金があれば、多くの中小企業や研究者が利用できるようになり、AI アプリの作成やテストに使用できるようになるはずです。
それでも高すぎると思われる場合は、試してみてくださいNvidiaのJetson。これは昨年12月に発売された249ドルのAIホームコンピュータで、最大80億のパラメータを処理できる。
Mashable は CES 2025 でライブ会場に登場します!今週は最もワイルドで最も重要な出来事をすべて取り上げますので、引き続きご覧ください再度チェックインする私たちと一緒に。 CES の最優秀製品を決定する際に、私たちのチームが検討するために、あなたが代表する製品を提出したいですか?こちらです詳しい方法については。