オープンソースAIは本番運用で通用するのか。IBMとTogether AIが総額2億4,000万米ドルの複数年契約を結び、IBM Cloud上にNVIDIA HGX B300システムを用いた大規模推論クラスターを構築します。提供開始は2027年第1四半期の予定です。NVIDIA Spectrum-X Ethernetと組み合わせ、前世代比で30倍のAIファクトリー処理能力を狙います。Together AIはこのクラスターでオープンソース・モデル向け推論サービスを展開します。月間400兆トークンを処理する同社の成長を、IBMとNVIDIAのインフラが後押しします。
エンタープライズ推論の量産体制へ IBM Cloud×NVIDIA×Together AIの布陣
本取り組みは、IBM Cloud上での推論専用の大規模クラスターとして初の事例と位置づけられています。NVIDIA HGX B300システムとSpectrum-X Ethernetネットワーキングが、高速かつ拡張性の高い推論処理を支えます。Together AIは、オープンかつモジュール型スタックを信条に、推論、トレーニング、ファインチューニング、エージェント型ワークフローまでをカバーするプラットフォームを提供しています。CEOのVipul Ved Prakash氏は、最先端性能と低いトークン・コストを両立するには、高速で信頼性が高い拡張可能な基盤が不可欠だと述べました。IBM Cloudのゼネラル・マネージャーであるアラン・ピーコック氏は、企業がエージェント型AIを大規模導入する競争を背景に、エンタープライズ向けAIインフラでTogether AIのイノベーションを加速させると語っています。NVIDIAのディオン・ハリス氏は、AIファクトリーを企業インフラと捉え、IBM Cloud上のB300とSpectrum-XがリアルタイムAIに必要な性能、効率、拡張性を提供すると強調しました。
Together AIは、AI Native Cloudの拡大に向けて企業価値83億米ドルで8億米ドルのシリーズCを実施し、100万人超の開発者を支えています。IBMとNVIDIAは、ハイブリッド環境やGPUネイティブなデータ分析、非構造化データ抽出、オンプレミスおよびクラウド基盤、コンサルティングまで協業を広げています。今回の大規模クラスターは、エンタープライズ市場でのオープンソースAI活用を一段と実用レベルへ押し上げる狙いがあります。企業は提供開始時期に合わせ、推論ワークロードの適合性評価とトークンコストの試算、レイテンシ要件の定義を事前に進めると移行が円滑です。モデル更新やスケール戦略を含む運用設計を整え、ベンチマークとSLAで効果検証を行う体制づくりが重要になります。
見解として、オープンソースAIの本番推論に特化した大規模クラスターは、性能とコストの両立を求める企業需要に合致します。提供開始までの準備期間を活かしたワークロード選別とSLA設計が成果を左右します。
詳しくは「日本IBM」の公式ページまで。 レポート／DXマガジン編集部
