from AINEWS
AIハードウェアの新興企業セレブラスは、企業向けに提供されるNvidiaのGPUに匹敵する可能性のある新しいAI推論ツールを発表した。セレブラスのウェハースケール・エンジンをベースとするこのツールは、Llama 3.1 8Bで1,800トークン/秒、Llama 3.1 70Bで450トークン/秒という驚異的なパフォーマンスを誇る。
この進化は、成長するジェネレーティブAI市場を開拓し、トレーニングから推論のコストとスピードに重点を移しています。セレブラスは、Nvidiaが支配するエンタープライズ市場で課題に直面しているが、その高速AI推論機能は、AIアプリケーションの新たなフロンティアを開く可能性がある。
*Disclamer:本キュレーションはAINEWSからピックおよび自動生成されました。正確な内容や詳細を知りたい方はリンク先の元コンテンツをご覧ください。
Curated. ニュースレター