SambaNova Systemsのプレスリリース

プレスリリース配信「VFリリース」
リリース検索
プレスリリース検索
リリースの業界で検索
リリースの種類で検索


クラシックコミュニケーションからのお知らせ
【重要】配信サービス統合に関するお知らせ
現在ご利用頂いております「VFリリース」につきまして、ユーザビリティの向上、機能追加、品質向上を目的とし、2012年4月1日(日)に「ValuePress!」と配信サービスを統合させて頂く運びとなりました。

配信サービス統合に関する詳細はこちらをご覧下さい。
(2012-03-19 00:00:00)
【重要】経営統合のお知らせ
クラシックコミュニケーション株式会社は、株式会社バリュープレスと平成24年3月1日付けでPR総合支援企業に向けた経営統合を行うことを決定致しました。

詳細はこちらをご覧下さい。


(2012-02-28 12:00:00)
リリースの「業界検索」機能を強化しました。

VFリリース内の「業界検索」機能を強化しました。

(2012-01-17 16:00:00)
Grow!ボタンを設置しました。

ソーシャル環境を調査を目的に「Grow!」ボタンを設置しました。

(2012-01-17 10:00:00)

 
vf_release RSS Feed
Clip to Evernote  このエントリーをはてなブックマークに追加  Check    
2025年02月17日 10時 [コンピュータ・通信機器サービス]

SambaNova Systems

SambaNova、DeepSeek-R1 671Bを最速・最高効率(注1)で提供開始

SambaNovaは、DeepSeek-R1 6710億パラメータモデルの推論を効率的に実行するためのハードウェア要件を40ラック(320基のGPU)から1ラック(SambaNova独自のAIアクセラレータであるRDUが16基)に集約し、最新GPUの3倍の速度、5倍の効率を実現


@カリフォルニア州パロアルト、2025年2月13日 ― 最も効率的なAI半導体と最速のモデル(注2)を提供する生成AI企業であるSambaNovaは、本日DeepSeek-R1 671BがSambaNova Cloud上で198トークン/秒で稼働していることを発表しました。この速度と効率は他のプラットフォームでは実現できません。

DeepSeek-R1はAIのトレーニングコストを10分の1に削減しましたが、高い推論コストと非効率性が普及の障壁となっていました。SambaNovaはこの障壁を取り除き、リアルタイムでコスト効率の高い大規模推論を開発者や企業向けに提供します。

SambaNovaのCEO兼共同創業者であるロドリゴ・リヤンは「SN40L RDU半導体によって駆動されるSambaNovaは、DeepSeekを198トークン/秒/ユーザーという最速の速度(注1)で実行できるプラットフォームです。この速度は単一ラックで最新GPUの5倍に達し、年末までにはDeepSeek-R1向けのキャパシティを100倍に拡張します」と述べています。

DeepLearning.AIの創設者であり、AI Fundのマネージング・ゼネラル・パートナー、スタンフォード大学コンピュータサイエンス学科の客員教授でもあるアンドリュー・ン博士は次のようにコメントしています。 「SambaNovaの驚異的な速度で、蒸留されたバージョンではなく、フルサイズのDeepSeek-R1 671Bモデルを実行できることは、開発者にとって画期的です。R1のような推論モデルは、優れた出力を得るために多くの推論トークンを生成する必要があり、従来のLLMよりも処理時間が長くなります。したがって、このようなモデルの高速化は特に重要です。」

Artificial Analysisの共同創業者であるジョージ・キャメロン氏は「Artificial Analysisは、SambaNovaのクラウド上で稼働する6710億パラメータのDeepSeek-R1 Mixture of Expertsモデルの独自ベンチマークを実施し、195トークン/秒以上の出力速度を記録しました。これは、これまでに測定したDeepSeek-R1の中で最速の出力速度(注1)です。推論モデルにおいては、高速な出力が特に重要であり、推論トークンの出力速度が向上することで、応答の品質を向上させることができます。SambaNovaの高い出力速度は、レイテンシーに敏感なユースケースでの推論モデルの活用を支援します」と述べています。

SambaNovaがDeepSeekの最大の課題を解決:大規模推論の実現
DeepSeek-R1は、AIのトレーニングコストを10分の1に削減し、AIの発展を加速させました。しかし、推論時に必要な計算量が大幅に増大するため、GPUベースの推論の非効率性がDeepSeek-R1の普及を妨げ、多くの開発者にとって手の届かない存在となっていました。

SambaNovaはこの問題を解決しました。独自のデータフローアーキテクチャと3層メモリ設計により、SambaNovaのSN40L Reconfigurable Dataflow Unit(RDU)チップは、DeepSeek-R1 671Bを実行するためのハードウェア要件を、40ラック(最新GPU320基)から1ラック(16基のRDU)に削減し、コスト効率の高い推論を実現します。

SambaNova CEOのロドリゴ・リヤンは「DeepSeek-R1は最も先進的なフロンティアAIモデルの一つですが、GPUの非効率性がその可能性を制限していました。しかし、本日をもって状況は一変します。推論コストを劇的に削減し、ハードウェア要件を40ラックから1ラックへと縮小し、最高速で効率的なDeepSeek-R1を提供します(注1)」と述べています。

Blackbox AIのCEO、ロバート・リズク氏は「Fortune 500企業のエンジニアリングチームを含む1,000万人以上のユーザーが、Blackbox AIを活用してコードの作成や製品開発を変革しています。SambaNovaとの提携は、自律型コーディングエージェントのワークフローを加速させる上で極めて重要です。SambaNovaの半導体は、フルサイズのDeepSeek-R1 671Bモデルを効率的に提供できる唯一無二の性能を誇り、蒸留版よりも圧倒的に高い精度を実現します。数百万のユーザーを支えるために、これ以上のパートナーは考えられません」と述べています。

近日公開:世界で最も効率的なDeepSeek API 現在のグローバルキャパシティの100倍
SambaNovaのチーフアーキテクトであるスムティ・ジャイラットは「DeepSeek-R1は、SambaNovaの三層メモリアーキテクチャに最適なモデルです。R1は6710億パラメータを持つ、これまでに公開された最大のオープンソース大規模言語モデルであり、その動作には膨大なメモリが必要となります。従来のGPUはメモリの制約を受けますが、SambaNova独自のデータフローアーキテクチャにより、メモリとデータ通信のボトルネックを克服し、近い将来にはラック全体で毎秒20,000トークンという前例のないスループットを達成できる見込みです。」と述べています。

SambaNovaは、今後の需要の増加に対応するため、計算能力の大幅な拡張を進めています。本年末までに、DeepSeek-R1向けのグローバルな計算リソースを現在の100倍以上に拡大する予定です。これにより、SambaNovaのRDUは、推論モデル向けの最も効率的なエンタープライズソリューションとなります。

SambaNova CloudでR1の早期アクセスを提供開始
DeepSeek-R1 6710億パラメータのフルモデルが、すべてのユーザー向けに提供開始されました。また、一部の選定ユーザーにはAPI経由での利用も可能です。今すぐ体験するには、cloud.sambanova.ai にアクセスしてください。

(注1)Artificial Analysis社調べ
(注2)SambaNova Systems調べ

SambaNova Systems について
最先端の生成AI機能を企業内に迅速に展開するために、SambaNovaに注目が集まっています。 SambaNovaのエンタープライズスケールのために構築されたAIプラットフォームは、次世代の生成AIコンピューティングのための技術的バックボーンです。
カリフォルニア州パロアルトに本社を置くSambaNova Systemsは、業界の著名人や、サン/オラクルおよびスタンフォード大学のハードウェアおよびソフトウェア設計の専門家によって、2017年に設立されました。投資家には、SoftBank Vision Fund 2、BlackRock、Intel Capital、GV、Walden International、Temasek、GIC、Redline Capital、 Atlantic Bridge Ventures、Celestaなどが含まれています。sambanova.aiをご覧いただくか、info@sambanova.aiまでご連絡ください。Linkedinで SambaNova Systems をフォローしてください。


提供元:valuepressプレスリリース詳細へ



Clip to Evernote  このエントリーをはてなブックマークに追加  Check    

添付ファイル

関連URL

SambaNova Systemsのプレスリリース一覧

2025年03月06日 [サービス]
SambaNova、ソフトバンクと協業し、アジア太平洋地域全体で高速AI推論の提供を拡大

2025年02月17日 [サービス]
SambaNova、DeepSeek-R1 671Bを最速・最高効率(注1)で提供開始

2025年01月20日 [研究・調査報告]
AIリーダーシップ調査が示す準備不足:多くの企業がAIの膨大な電力需要に未対応

2024年11月19日 [製品]
オークリッジ国立研究所、セキュアでエネルギー効率の高いAI研究を拡大するためにSambaNovaを選択

2024年11月19日 [製品]
テキサス先端計算センター(TACC)、SambaNova AIを採用し科学研究を加速




関連するプレスリリース一覧(新着順)

2025年09月15日 AVING NEWS [コンピュータ・通信機器企業の動向]
韓国科学技術情報通信部と情報通信産業振興院のAI半導体海外実証事業で日本に進出するDOUZONE BIZONとFuriosaAIが注目を集める

2025年09月12日 株式会社サードウェーブ ドスパラ [コンピュータ・通信機器告知・募集]
【ドスパラ】動画編集者必見!「うっかり違反」を防止する著作権を学べるセミナー開催 ゲストに現役弁護士の北川貴啓氏 9月24日(水)20時より開催 参加者募集中

2025年09月12日 株式会社JAPANNEXT [コンピュータ・通信機器製品]
JAPANNEXTが32インチ VAパネル搭載 FWXGA(1366x768)解像度の液晶モニターを23,980円で9月12日(金)に発売

2025年09月12日 株式会社JAPANNEXT [コンピュータ・通信機器製品]
JAPANNEXTが55インチ IPSパネル搭載 USBメモリ再生対応の大型4K液晶モニターを69,980円で9月12日(金)に発売

2025年09月11日 株式会社ベルテクノス [コンピュータ・通信機器告知・募集]
【モバシティ】iPhone 17シリーズ特集記事を公開 9月19日の発売日にあわせ“オンライン完結の乗り換え”を提案

2025年09月11日 株式会社ベルテクノス [コンピュータ・通信機器企業の動向]
【専門職からの相談が急増】クラウドPBXが士業・研究・コンサル職で再注目|6月比で約3倍に拡大


  VFリリース・アクセスランキング
1位 株式会社デジタルコマース
終了間近!FANZAブックス「10円セール」第5弾を開催!「10円クエスト」報酬の3シリーズ全話も10円に!【8月21日まで】
2位 ZETA株式会社
IRリリース動画配信サービス「IRTV」にてZETAの注目製品とその優位性を解説した動画が公開
3位 株式会社小学館
『BANANA FISH』連載開始40周年特別企画!全話無料やLINEスタンプ化など超豪華キャンペーン開催!|フラコミlike!
4位 株式会社エー・アンド・デイ
【展示会出展情報】A&Dは、分析機器・科学機器総合展「JASIS 2025」に出展し、新製品の水分計や分析天びんなどをご案内いたします。
5位 株式会社レンタス
はじめてアプリ「ニコパス」から予約した方の中から抽選で、200名様にPayPayポイント1,000円分プレゼント!
>>もっと見る