Inference Hardware
GPUをやめたら、
返事が14倍速くなった。
OpenAIが新しいAPI階層「Ultrafast」をプレビュー公開した。Cerebras製の推論専用チップにGPT-5.6 Solを載せ替えることで、応答速度は通常比最大14倍、毎秒750トークンに達するという。
GPUラックから、
1枚のウエハーへ
Ultrafastの速さの正体は、モデルの改良ではなく載せる「土台」の違いにある。
OpenAIは2026年8月13日、公式ブログで新API階層「Ultrafast」のプレビュー公開を発表した。標準的なGPUクラスタではモデルを複数のGPUラックに分割して処理するが、UltrafastはCerebras製の「Wafer-Scale Engine」を使う。皿サイズの1枚のシリコンウエハーからそのまま切り出したこのチップは、44GBのSRAMをチップ上に持ち、モデル全体を1枚に収められるため、GPU構成で起きがちなメモリ帯域のボトルネックを避けられるとCerebrasのプレスリリースは説明する。
結果、GPT-5.6 SolはUltrafastモードで最大毎秒750トークン、標準比で最大14倍の応答速度を実現した。OpenAIは2026年6月にもBroadcomと共同開発の独自チップ「Jalapeño」を投入しており、GPU一辺倒からの脱却は今回が初めてではない。
数字で見る、
「体感」の正体
Humanity's Last Examという難関ベンチマークの完走時間が、そのまま体感差になった。
Ultrafastモードは、Humanity's Last Exam(HLE)の全2,500問を11時間11分で完走したとされる。同条件でのClaude Fable 5は78時間27分、つまり7倍近い開きだ。さらにOpenAI自身の比較では、Claude Opus 4.8のFastモード比でも5倍、Claude Fable 5比では11倍速いという。ベンチマークのスコア自体が上がったわけではなく、「同じ答えにどれだけ早くたどり着けるか」が変わった点が今回のポイントだ。
誰に、どう効くのか
エンジニアにとっては、対話的なコーディング支援やカスタマーサポートなど、応答待ちがそのままユーザー体験に響く用途で恩恵が大きい。OpenAIによれば、プレビュー期間中はコーディング・コマース・金融リサーチ・サポート業務などで顧客が実運用テストを進めているという。
一方でバッチ処理中心の使い方(夜間の大量要約、非対話的なデータ処理など)では、応答速度より総処理時間・コストの方が効くため、14倍という数字の恩恵は薄い。現時点では限定プレビューで招待制のため、今すぐ全ユーザーが使えるわけではない点も踏まえておきたい。
速さは、賢さの代わりにはならない。
だが、待たされる理由は減った。
次に何をすべきか
招待の可否を確認する
限定プレビューのため、まずはOpenAIのアナウンスやAPIダッシュボードでアクセス可否を確認する。
対話的な用途から検証する
コーディング支援・サポートチャットなど、応答待ちがボトルネックになっている箇所から優先的に試す。
価格・レート制限を別途確認する
速度の裏でAPI価格や利用上限が標準モードと異なる可能性がある。本番導入前に料金体系を確認する。
Cerebras依存という
もう一つの側面
Ultrafastはあくまで限定プレビューであり、一般提供の時期や最終的な価格は未確定だ。また、この速度はCerebrasという単一の外部チップベンダーへの依存の上に成り立っている。今回のGPT-5.6 SolやDevinのSWE-1.7など、複数のAI企業が同時期にCerebrasへ相乗りし始めている状況は、供給集中というリスクの裏返しでもある。速さを追う競争が、そのまま特定ハードウェアベンダーへの依存を強める競争にもなっている点は見ておきたい。