AIコンピュータの資本論:半導体・ファブリック・電力系統が衝突する境界の動学 #半導体 #Tenstorrent #資本論 #九19
AIコンピュータの資本論:半導体・ファブリック・電力系統が衝突する境界の動学 #半導体 #AIインフラ #資本論
副題:演算至上主義の終焉と、計算・記憶・通信・電力・資本を巡る垂直統合の経済学
免責事項(Disclaimer)
本書に記載されている内容は、公開されている学術論文、企業公式発表、技術標準仕様、政府および国際機関の統計資料(2026年9月19日時点で検証可能なもの)を基盤とした学術的・産業組織論的分析です。特定の半導体銘柄、暗号資産、インフラファンド等への投資勧誘や売買推奨を目的としたものではありません。また、本書で言及する各種未公表コスト、歩留まり、内部契約条項に関する数値は、明記されている場合を除き、全て理論的モデルおよび公知の物理的・工学的パラメータから演繹された推定値(Estimates)であり、当該企業の公式開示事実として引用することは禁じます。
要旨(Executive Summary)
半導体産業および人工知能(AI)研究の現場では長年、「浮動小数点演算性能(FLOPS:1秒間に実行可能な計算回数)」の向上が至上命題とされてきました。しかし、ポスト・デナード縮小則(微細化しても電力が下がらなくなる物理限界)とメモリの壁(計算速度にデータの供給速度が追いつかない現象)が深刻化した現代において、計算機の真のボトルネックは演算器そのものではなく、「演算と記憶と通信の物理的・経済的距離」へと移行しました。
本書の中心命題は、「AIコンピュータの競争は、単なるチップ単体の速さではなく、計算・記憶・通信・ソフトウェア・電力・資本の各要素を、取引費用と技術的制約の下でどこまで一体化(垂直統合)できるかという境界画定の競争である」という点にあります。この統合境界は固定的なものではなく、AIアルゴリズム(Mixture-of-Expertsや超低ビット量子化)、送電網(変電所や受電容量の制約)、サプライチェーン(CoWoS等の先端実装やHBMの寡占)、および企業の資本コストによって動学的にシフトし続けています。
本書の目的と構成
本書の学術的野心は、コンピュータアーキテクチャの微細構造物理学(ナノメートルスケールの電子移動と熱力学)と、ロナルド・コースやオリバー・ウィリアムソンが築いた産業組織論・取引費用経済学を架橋することにあります。NVIDIA、Tenstorrent、Cerebras、富士通という極端に異なる4つの統合境界の選択を「比較対象の実験」として解剖し、特定の勝者を予断することなく、どのような条件下でどの境界が合理的になるかを反証可能な枠組みで提示します。
本書は全五部で構成されますが、前半部では「なぜAIコンピュータが巨大化せざるを得なかったのか」という物理と経済の必然(第I部)、そして「四者四様の極端な境界選択」(第II部)を徹底的に検証します。
登場人物紹介(思想とシリコンの設計者たち)
※本書では個人の英雄譚や伝記を叙述しません。彼らは特定の経済的・技術的仮説を具現化する「論点上の主体」として登場します。
-
ロナルド・H・コース(Ronald H. Coase, 英国・米国, 享年102)
役割:市場の取引費用と企業の組織境界を問う理論的始祖。「なぜすべてを市場で調達せず、社内に抱え込むのか」という問いを現代の半導体パッケージングに投げかけます。 -
ジェンスン・フアン(Jensen Huang / 黃仁勳, 米国, 2026年時点63歳)
役割:垂直統合を極限まで押し広げ、シリコンから液冷ラック、独自ネットワーク、CUDAソフトウェアまでを一体化して「参入障壁と独占地代」へ変換する設計思想の体現者。 -
ジム・ケラー(Jim Keller, 米国, 2026年時点67歳)
役割:オープンISA(RISC-V)と標準イーサネットを用い、モジュール化によって取引費用を引き下げ、疎結合なネットワークファブリックで巨大集中に対抗する分散型の使徒。 -
アンドリュー・フェルドマン(Andrew Feldman, 米国, 2026年時点50代後半)
役割:Cerebras Systemsの共同創業者兼CEO。シリコンをダイに切り分けるという半導体60年の常識を捨て、単一ウェハー全体に計算とSRAMを閉じ込める「極限統合」の狂信的設計者。 -
富士通 MONAKA設計チーム(Fujitsu MONAKA Architects, 日本)
役割:最先端サプライチェーン(HBMや専用ASIC製造枠)の制約下で、スーパーコンピュータ富岳のソフトウェア資産と汎用Arm CPUエコシステムを守り抜く「制約下の合理性」の体現者。 -
電力事業者・系統運用者(Grid Operators & Utilities, 世界各地)
役割:シリコンやパッケージの都合を完全に無視し、変電所の容量と送電網の物理限界によって、AI計算機の最終的な拡張限界を一方的に宣告する「見えざる冷酷な審判」。
目次(Table of Contents)
第I部:なぜAIコンピュータは巨大化してしまったのか - 問題の発見
コンピュータの歴史において、これほど急速にハードウェアが肥大化した時代はありませんでした。かつてパーソナルコンピュータは部屋を満たすメインフレームを机の上に縮小させ、スマートフォンはその計算能力をポケットに押し込めました。しかし、2020年代半ば以降のAI計算機は、個々のチップの微細化とは裏腹に、フロア全体を占有する重量数百トンの液冷ラック群へと逆行的に膨張しています。本陣営では、この現象を技術の進歩ではなく「物理的摩擦と取引費用」の帰結として捉え直します。
第1章:計算は速くなったのに、なぜコンピュータは遅く見えるのか
エンジニアリングの現場から立ち上る最初の素朴な疑問はこれです。「ピーク演算性能(FLOPS)はわずか数年で1000倍以上に跳ね上がったのに、なぜ画面の向こうのLLM(大規模言語モデル)の文字出力速度は劇的に変わらないのか? なぜ推論コストの請求書は桁を増やし続けているのか?」
1-1 FLOPS神話の崩壊と距離税の誕生
概念:「FLOPS(Floating Point Operations Per Second:1秒間に実行できる小数の足し算や掛け算の回数)」は、長らくスーパーコンピュータやプロセッサの性能を誇示する唯一の絶対指標でした。しかし、どれほど巨大な掛け算器(テンソルコア等)をシリコンの上に並べても、その計算機が実稼働でピーク性能を発揮できる割合は年々暴落しています。
背景:この乖離を生み出した主犯は、物理学者ロバート・デナードが提唱した「デナード縮小則(Dennard Scaling)」の崩壊です。半導体を微細化しても動作電圧を下げられなくなった結果、回路の消費電力密度は限界に達し、チップの全トランジスタを最高速度で同時に動かすとシリコンが自らの熱で溶融する「ダークシリコン問題」が常態化しました。さらに、ジョン・ヘネシーとデビッド・パターソンが指摘した通り(Hennessy & Patterson, 2019, CACM)、プロセッサの演算能力の向上ペースに対し、主記憶装置(DRAM)のデータ転送帯域とアクセス遅延の改善速度は決定的に遅れをとりました。これがいわゆる「メモリの壁(Memory Wall)」です。
具体例:最先端のAIアクセラレータ上で使われるHBM(High Bandwidth Memory:シリコン貫通電極でDRAMを縦に積み重ねた超高速メモリ)の価格動向を見てみましょう。公知の市場データによれば、演算器自体の単価が下がる一方で、HBMの「1秒あたりのギガバイト供給能力あたりのコスト($/GB/s)」は過去10年間にわたってほとんど低下していません。つまり、計算機を高速化しようとすればするほど、演算器ではなくメモリ帯域を確保するために天文学的な資本が必要になる構造が定着したのです。
ここで本書は最初の新造語を提示します。
新造語:距離税(Distance Tax)
データが演算器(ALU)から物理的に離れるごとに、指数関数的に課されるエネルギーと遅延のペナルティ。オンチップレジスタでの演算が数フェムトジュール($10^{-15}\text{J}$)で済むのに対し、外部DRAMへのアクセスには数ナノジュール($10^{-9}\text{J}$)と数万倍のエネルギーが必要となる。AIシステムを巨大化させている正体は、この距離税を回避するために、メモリと配線を物理的に近づけようとする必死の抵抗である。
注意点:距離税は単に電気抵抗の問題だけではありません。データを遠くへ送るためには、送信側でのシリアライズ、物理層(PHY)での増幅、受信側でのデシリアライズ、そしてパケットの損失を検知するバッファリングといった、膨大なプロトコル処理の遅延が加算されます。したがって、距離税は「物理の法則」であると同時に、ハードウェアとソフトウェアが支払う「制度的摩擦」でもあります。
1-2 アルゴリズムの構造変化:MoE、BitNet、KVキャッシュ
この距離税の重圧をさらに加速させているのが、AIモデル構造自体のドラスティックな変容です。かつてのディープラーニング(CNNや初期のDenseトランスフォーマー)は、規則正しく巨大な行列同士を掛け合わせる「計算バウンド(Compute-bound:演算器の速さが性能を決める状態)」のワークロードでした。しかし、現代のフロンティアモデルは急速にその性質を変化させています。
- Mixture-of-Experts(MoE): 全パラメータを毎回計算するのではなく、入力されたトークンごとに一部の「専門家(Expert)ネットワーク」だけを選択して起動する手法です。計算量は削減されますが、トークンをどのノードにあるExpertへ送るかというルーティングが実行時に動的に決まるため、ネットワーク上には不規則で突発的なAll-to-All通信が大量に発生します。
- KVキャッシュ(Key-Value Cache)の爆発: 長文コンテキスト(数十万〜数百万トークン)を処理する際、過去の文脈情報をメモリ上に保持し続ける必要があります。このKVキャッシュは推論のステップごとに肥大化し、計算そのものよりも「過去の膨大な状態をメモリから読み出し続ける帯域」がシステム全体を窒息させます。
- 超低ビット量子化(BitNet b1.58等): パラメータの重みを1.58ビット(-1, 0, 1の三値)等に極限まで削減する技術です。これにより浮動小数点演算器(乘算器)の負担は消滅しますが、代わりにメモリからの高速なアンパック処理、ルックアップテーブル(LUT)参照、および不規則な加算制御へとボトルネックが移動します。
これら3つの潮流はすべて、計算機に対して「FLOPSを誇示するな、データを滞りなく右から左へ受け渡せ」という命令を突きつけています。AIのボトルネックは完全に「メモリと通信」の領域へと引っ越したのです。
専門的補足:3Dルーフラインモデルの数理(クリックして展開)
サミュエル・ウィリアムズらが提唱した従来のRoofline Model(Williams et al., 2009, CACM)は、達成可能な性能 $P$ を算術強度 $I$(FLOPs/Byte)とメモリ帯域 $B_{mem}$、ピーク演算性能 $P_{peak}$ の関数として次のように定義しました。
P = min( P_peak, I * B_mem )
しかし、分散AIクラスタにおいては、ネットワーク通信帯域 $B_{net}$ および通信レイテンシ $L_{net}$ が加わるため、本書ではこれを拡張した「3次元ルーフラインモデル」を適用します。実行時間 $T$ は以下のように、計算・メモリ・通信の最も遅いパス(またはそれらの重畳)によって規定されます。
T = max( T_compute, T_memory, T_communication, T_queue )
いかに $T_{compute}$ をゼロに近づけても、残る3つの項が小さくならなければ、巨額の投資で手に入れたシリコンは単に「高速に待機する(Spin-wait)」だけの暖房器具と化します。
1-3 ミステリーのトリック案:「密室の遅延殺人」
ここで、アーキテクチャの矛盾を解明するための思考実験として、一つのミステリーのトリックを提示しましょう。
【密室の遅延殺人(The Case of the Missing Latency)】
現場: 最新鋭のAIスーパーコンピュータ内部。各ノードに搭載された最新GPUの演算稼働率は99%を示しており、ハードウェアエラーは一切検知されていない。しかし、エンドユーザーへの推論出力は異常なほど遅延し、システム全体の処理スループットはカタログスペックの10分の1に急落していた。エンジニアたちは「新チップの不良か」「コンパイラの最適化ミスか」と疑い、容疑者(FLOPS)の取り調べに没頭した。
トリックの真相: 容疑者である演算器には完璧なアリバイがあった。彼らは指示された命令をナノ秒単位の猛スピードで正確に処理していたのだ。真犯人は、現場のダッシュボードに現れない「メモリバスと通信ファブリックの境界」に潜んでいた。MoEの動的ルーティングによって発生したAll-to-All通信のパケットが、わずか数マイクロ秒のネットワークジッター(揺らぎ)によって1台のスイッチのバッファで衝突していたのである。システム全体が、たった1つのノードのデータ到着を待つために同期待ち(Barrier Synchronization)に入り、全演算器が「空転」していた。犯行現場には血痕(ハードウェアエラー)一つ残されていなかった。
1-4 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「速い馬は荷物を運ばず」
意味: 最高周波数で走る演算器ほど、メモリから重いデータを運んでくる能力に乏しく、実運用では役に立たないこと。 - 架空の四字熟語:【演算寡占(えんざんかせん)】
意味: 見栄えの良いFLOPSスペックばかりを競い合い、メモリ帯域や配線といった地味だが決定的な基盤投資を怠る愚行。 - 架空の陰謀論:「FLOPS教の陰謀」
概要: ベンチマーク測定企業と半導体ベンダーが結託し、実際のデータセンター運用では絶対に達成不可能な「稠密行列積のみを実行する特殊な条件下」で測定されたペタフロップス値を大々的に宣伝することで、実質的なシステム効率の低下を世界から隠蔽しているという説。
著者コラム:データセンターの床下で聞いた悲鳴
筆者がかつて某クラウド事業者のデータセンターで夜間トラブル対応に立ち会った際、エンジニアが「最新のGPUノードを増設したのに、推論APIのレスポンスタイムが以前より悪化した」と頭を抱えていました。ログを解析すると、ノード間の光トランシーバーの発熱によってエラー訂正(FEC)が頻発し、パケット再送が連鎖していたのです。ピカピカの最新シリコンが、床下の埃まみれの光ファイバーの熱ダレに足を引っ張られて立ち往生している様は、まさに現代のハイテクが抱える皮肉そのものでした。
章末の一言:その夜、エンジニアはFLOPSを増やした。翌朝、電気代だけが増えていた。
第2章:速さは誰のものか - 技術的速さと経済的速さは違う
ベンチマークテストで世界最高記録を叩き出したシステムが、なぜ商業市場に投入された瞬間に赤字を垂れ流し、事業者を倒産へと追い込むのでしょうか。この章では、工学的な「低遅延(Latency)」と、経済学的な「資産の回収可能性(Utilization and Amortization)」の間に横たわる深い断絶を抉り出します。
2-1 利用率(MFU)の罠と平均30%問題
概念:「Model Flops Utilization(MFU:モデル有効演算利用率)」とは、ハードウェアが理論上持ち得る最大演算性能に対し、実際にAIモデルの順伝播・逆伝播計算に有効利用された演算量の割合を示す指標です。
背景:AIインフラの調達担当者は、往々にしてカタログスペックのピークFLOPSを基に投資対効果(ROI)を計算します。しかし、実データセンターにおけるLLMの推論クラスタを詳細に測定した先行研究(Patel et al., 2024, arXiv等)が暴き出しているのは、平均MFUがわずか25%〜35%程度に留まるという無慈悲な現実です。残りの65%以上の時間、数十億円を投じたハードウェアは、メモリからのデータ読み出しを待つか、ネットワークからのパケット到着を待つか、あるいはユーザーのリクエストが途切れた隙間にアイドリングしています。
具体例:あるAIスタートアップが、ピーク性能2倍を謳う高価な次世代アクセラレータクラスタを導入したとします。しかし、そのチップが特殊なメモリ配置を要求し、既存のソフトウェアスタックとの親和性が低かった場合、実効MFUは従来の40%から20%へと半減することがあります。この時、ハードウェア単体の速度は2倍になっても、1ドルあたりに生成できるトークン数(tokens/$)は1ミリも向上していません。技術的速さと経済的速さは完全に乖離しているのです。
2-2 技術的減価償却:モデルがハードウェアをスクラップにする日
概念:「技術的減価償却(Technological / Economic Depreciation)」とは、ハードウェアが物理的に故障したり寿命を迎えたりする前に、ソフトウェアやアルゴリズムの進歩によって、その資産の経済的収益創出能力が突然消滅する現象を指します。
背景:一般の会計基準において、サーバ機器は3年〜5年で均等償却されます。しかし、急速に進化するAIのフロンティアにおいて、この前提は完全に崩壊しています。かつて、CNN(畳み込みニューラルネットワーク)やRNN(再帰型ニューラルネットワーク)専用に過剰に最適化されたアクセラレータを作った多くの新興企業が、トランスフォーマーモデルの登場によって一晩で顧客を失いました。直近でも、Denseモデルを前提に設計された高価なGPUクラスタが、スパースMoEや長文脈アテンションへのワークロード移行に伴い、期待されたキャッシュ効率を発揮できずに事実上のスクラップ状態に追い込まれる事態が頻発しています。
本書ではこの現象を以下の方程式で定式化します。
数式モデル:経済的減価償却率(Economic Depreciation Rate)
ある時点 $t$ におけるハードウェア資産の経済的減価償却率 $\delta_{econ}(t)$ は、物理的損耗ではなく、将来獲得可能な収益能力の現在価値の毀損によって定義される。
$\delta_{econ}(t) = 1 - \frac{\text{RevenueCapacity}(t)}{\text{InitialRevenueCapacity}(0)}$
ここで、$\text{RevenueCapacity}(t) = \sum_{m} \omega_m(t) \cdot \text{Throughput}_m \cdot \text{MarketPrice}_m(t)$ であり、市場で求められるモデル群 $m$ のシェア $\omega_m(t)$ が変化した瞬間、たとえハードウェアが新品同様に駆動していようとも、その資産価値は垂直落下する。
注意点:この減価償却リスクは、システムの「特化度(Domain Specificity)」が高ければ高いほど極大化します。専用化は、特定の瞬間の電力効率を最大化する代わりに、将来のアルゴリズム変化という不確実性に対する「破滅のトリガー」を内包しているのです。
2-3 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「速すぎる牛は畑を耕せない」
意味: 走行速度がどれほど速くても、農作業(実際のデータパイプラインや前処理)のリズムと合致しなければ、資源の無駄遣いに終わるということ。 - 架空の四字熟語:【速遅同居(そくちどうきょ)】
意味: ナノ秒で計算する演算器と、ミリ秒でしか届かない通信網が同一システム内に同居し、前者が後者に引きずられて無力化する状態。 - 架空の陰謀論:「利用率30%の黙契」
概要: クラウドプロバイダと半導体ベンダーは、ハードウェアの利用率が100%に達しないことを知りながら共謀しているという説。利用率が低ければ低いほど、ユーザーは同じスループットを得るためにより多くのインスタンスを契約せざるを得ず、クラウド側の売上が最大化されるためとされる。
2-4 ミステリーのトリック案:「死体なき減価償却」
【死体なき減価償却(The Case of the Phantom Scrap)】
現場: 某巨大データセンターの第4電算棟。数万基の特定用途向けAIチップが、完璧な冷却環境と無停電電源のもとで緑色のLEDをリズミカルに点滅させていた。基板の温度は正常、通電テストも合格、ハードウェアとしての故障率はゼロであった。しかし、財務諸表上、この電算棟の資産価値は一夜にして数十億円の評価損(減損処理)計上を余儀なくされた。
トリックの真相: 物理的には生きていながら、経済的には死亡していた。前日、AIのトップカンファレンスにおいて、従来モデルと同等精度をわずか10分の1の重み容量で達成する画期的な「超疎結合状態空間モデル」がオープンソース化されたのだ。その最新モデルは、このデータセンターに並ぶチップが頑なに内蔵していた「超巨大シストリックアレイ」を全く必要とせず、安価な汎用メモリ帯域のみを要求した。顧客は一斉に解約し、翌朝には誰もそのチップにジョブを投入しなくなった。機械を物理的に破壊することなく、世界の向こう側のコード一行が、数万台の最新鋭シリコンを無価値な文鎮へと変貌させた完全犯罪であった。
著者コラム:オークション会場に並ぶ「一度も火が入らなかった宝石」
米国のとある倒産企業の資産処分オークションを覗いたことがあります。そこには、数年前に「GPUキラー」として数億ドルの資金を集めて開発された独自AIアクセラレータのサーバラックが、未開封のパレットに積まれたまま出品されていました。落札価格は、搭載されているヒートシンクの銅とアルミニウムのスクラップ地金価格とほぼ同等でした。シリコンに刻まれた精緻な回路パターンの価値がゼロになり、単なる「金属の重さ」として計量される瞬間を目の当たりにしたとき、資本主義の冷酷さを骨の髄まで理解させられました。
章末の一言:彼は世界一速い車を作った。だが、道路がその車幅に対応していなかった。
第3章:統合という誘惑 - 全部入りはなぜ魅力的なのか
なぜテクノロジー企業は、莫大な開発費と天文学的な歩留まりリスクを冒してまで、チップ、パッケージ、基板、配線、ネットワークスイッチ、そして冷却装置に至るまでを自らの手で丸抱えしようとするのでしょうか。この章では、ノーベル経済学賞学者ロナルド・コースの理論を手がかりに、垂直統合の技術的・経済的力学を解剖します。
3-1 コースの境界線と半導体の取引費用
概念:ロナルド・コースは古典的論文『企業の性質』(Coase, 1937, Economica)において、「市場において価格メカニズムを通じて資源を配分する費用(取引費用)」が、「企業内部で命令によって資源を配分する費用(組織費用)」を上回るとき、企業はその活動を内部化(垂直統合)すると論じました。
背景:この経済学の基本命題は、驚くほど正確に現代の半導体およびAIシステム設計に当てはまります。半導体における市場取引費用とは、単なる金銭の支払いではありません。異なる企業が作った部品(例:A社のGPU、B社の光トランシーバー、C社のNIC、D社の通信ライブラリ)をシステムとして組み合わせる際に発生する、以下の諸費用です。
- インターフェースの規格化コスト: 互換性を保つために仕様を共通化し、安全マージンを設けることで失われる性能ロス。
- 相互接続性のデバッグ費用: 障害発生時に「どのベンダーのチップが原因か」を特定するための莫大なエンジニアリング工数。
- ホールドアップ問題: 特定の先端部品(例:HBM3E)の供給が滞った際、サプライヤーに法外なマージンを要求されたり、割当を削られたりする戦略的リスク(Grossman & Hart, 1986)。
これらの取引費用が限界に達したとき、アーキテクトは叫びます。「他人の作った部品を組み合わせるのはもう嫌だ。シリコンからラックのネジ一本まで、すべて自社で設計して内部化してしまえ!」と。
3-2 NVIDIAの解答:NVLinkとNVSwitchの内部化
具体例:このコース的内部化を世界で最も徹底して推し進めたのがNVIDIAです。彼らは単にGPUを作っているのではありません。PCIeや標準イーサネットといった業界標準のインターフェースがもたらす遅延とオーバーヘッドに業を煮やし、自社独自の広帯域インターコネクトである「NVLink」、それを束ねる巨大クロスバースイッチシリコン「NVSwitch」を開発しました。
さらに、同社はメラノックス社を買収することでInfiniBandおよび高速イーサネット技術を掌中に収め、GPU間通信のプロトコルスタック(NCCL:NVIDIA Collective Communications Library)をハードウェアの奥底まで最適化しました。これにより、72基のGPUをあたかも1基の巨大なチップであるかのように透過的に相互接続する「GB200 NVL72」という怪物が誕生したのです。外部の標準規格(PCI-SIGやIEEE)の会議で何年も議論を重ねる時間を買い取り、自社の独断で物理層からソフトウェアまでを一気に垂直統合する――これこそがNVIDIAの爆発的なスピードの源泉でした。
注意点:しかし、統合には極めて重い代償が伴います。すべてを自社で抱え込むということは、製造工程のどこか一箇所で歩留まりの破綻や熱設計の破綻が起きた瞬間、システム全体が出荷不能に陥ることを意味します。また、膨大な固定資本投資とサプライチェーンの囲い込み(TSMCのCoWoSラインの事前買い占めなど)が必要となり、企業の資本強度は極限まで緊張を強いられることになります。
3-3 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「抱えるものは沈む」
意味: 自前主義に囚われてあらゆるコンポーネントを社内に抱え込みすぎた企業は、技術の荒波が押し寄せたときに身動きが取れず、自重で沈没するということ。 - 架空の四字熟語:【抱合独占(ほうごうどくせん)】
意味: 単体では代替可能な部品群を、独自の接続技術によって物理的・法的に不可分に結合し、顧客から選択の自由を奪って市場を支配すること。 - 架空の陰謀論:「CoWoS包囲網の密約」
概要: 台湾の先端ファウンドリの生産ライン予約表は、特定の巨大企業によって数年先まで意図的に過剰予約されており、他社がどれほど優れたアーキテクチャを設計しても、物理的にパッケージングできずに干からびるよう仕組まれているという説。
3-4 ミステリーのトリック案:「共犯者たちのクリーンルーム」
【共犯者たちのクリーンルーム(The Case of the Distributed Culprit)】
現場: 厳重に管理された先端パッケージング工場のクリーンルーム。次世代AIモジュールの組み立てラインで、出荷テストの最終歩留まりが突如として急落した。各社から持ち寄られたダイ単体(Known Good Die)の事前テストでは、GPUダイも、HBMダイも、シリコンインターポーザも、すべて100%の良品判定を受けていた。外部からの異物混入もなく、物理的な欠陥はどこにも見当たらない。それにもかかわらず、一体化して封止した瞬間に、システムは沈黙した。
トリックの真相: 犯人は単一の部品ではなかった。各ベンダーが「自社の規格の許容誤差(トレランス)の限界ギリギリ」で良品判定を出していたのだ。A社のダイの熱膨張係数がプラス側の上限にあり、B社の基板の反り係数がマイナス側の下限にあり、C社のマイクロバンプの高さがわずかにズレていた。単体ではいずれも公認スペックを満たす「無罪」であったが、超微細な3D空間で結合された瞬間、互いの公差が共振して接続部を物理的に断裂させた。市場分業の隙間に潜む「契約に書けない物理的相互作用」が引き起こした、完全なる過失の共謀であった。
著者コラム:ネジを失くしたラックの悲哀
かつて私が関わったあるオープンソース系ハードウェアの検証プロジェクトで、海外製ホワイトボックスサーバと国内製ラックのネジ穴のピッチ(間隔)が、ミリ規格とインチ規格の微妙な差異によって合致せず、数千万円の機材がデータセンターの床に直置きされたまま数週間放置されるという喜劇がありました。「規格を統一する」という人間の営みが、いかに脆く、いかに摩擦に満ちているか。すべてを自社規格で塗りつぶしたNVIDIAの黒いラックを見るたびに、私はあの床に転がっていた数本の合わないネジのことを思い出します。
章末の一言:全部を抱きしめた男は、身動きが取れなくなった。
第II部:4つの統合境界 - 4つの実験
前部で確認した通り、AIコンピュータの設計には「単一の正解」など存在しません。あるのは、物理的制約と市場の取引費用の中で「どこに境界線を引くか」という極めてリスクの高い賭けだけです。第II部では、現代のコンピュータアーキテクチャ史において最もラディカルな4つの統合境界の選択を、それぞれ独立した経済的・工学的実験として検証します。NVIDIAを規範的勝者として扱わず、四者四様の生存戦略として横並びに解剖します。
第4章:実験A - 分離して繋ぐ [Tenstorrent Blackhole]
巨大な垂直統合の帝国に対し、「小さく作って、賢く繋げばいい」という思想で真っ向から挑むのが、伝説的アーキテクトのジム・ケラー率いるTenstorrentです。同社の第3世代AIプロセッサ「Blackhole」は、なぜ高価な専用ファブリックを捨て、ありふれたイーサネットを計算機の心臓部に据えたのでしょうか。
4-1 Tensixコアと自律NoCの思想:計算機をネットワークにする
概念:Tenstorrentの基本構成単位である「Tensixコア」は、単なる行列演算器ではありません。コア内部にテンソル演算ユニットだけでなく、独立したローカルSRAM、そして何よりも「自律的にデータ移動と制御を司る複数のRISC-Vマイクロプロセッサ」を内包しています。これらがチップ上のNetwork-on-Chip(NoC:チップ内通信網)を介して縦横無尽に直結されています。
背景:従来のGPUでは、ホストとなるCPUが巨大なカーネル関数をGPUに発行し、GPU内部の膨大なスレッドを一括して同期制御(SIMT:単一命令多数スレッド)します。しかし、この方式はモデルが複雑化し、条件分岐や不規則な通信が増えると、ホストCPUとGPU間のPCIeバスがボトルネックになり、スレッド間の同期遅延が爆発します。ジム・ケラーらの思想は、これを根本から覆すものでした。「プロセッサを巨大にするのではない。小さな自律型コンピュータを並べ、チップ自体を一つのパケット交換ネットワークにしてしまえ」という発想です。
具体例:Blackholeチップの仕様(Tenstorrent Documentation)を見てみましょう。
- 120基のTensix AIコア
- 16基の高性能64ビットRISC-V CPUコア(ホストCPUを不要にする自律制御)
- 約180MBの大容量オンチップSRAM
- 最大512GB/sを誇るGDDR6メモリインターフェース
- ダイ上に直接統合された合計800Gbps(100G × 8ポート等)の標準イーサネットポート
最大の特徴は、高価なHBMとCoWoSパッケージングを採用せず、コスト効率の高い成熟したGDDR6メモリと標準イーサネットを採用している点です。これにより、Blackholeカード同士を外部の専用高額スイッチを介さず、安価なイーサネットケーブルで直接数珠繋ぎ(2Dトーラスやメッシュトポロジー)にしてスケールアウトすることが可能になります。
ここで本書は新たな概念を導入します。
新造語:ファブリック寄生体(Fabric Parasite)
独立した巨大なホストコンピュータに依存せず、ネットワークファブリック(通信網)そのものを自らの母体として寄生・融合し、ネットワークの網の目の中で自己増殖・分散実行を完結させる自律型コンピュート・ノードの形態。Blackholeはこのファブリック寄生体としての性質を極限まで追求したアーキテクチャである。
4-2 MoE通信のストレステストとTail Latencyの壁
しかし、この美しい分散思想の前に立ちはだかるのが、過酷な物理の現実です。特にMixture-of-Experts(MoE)モデルを実行する際、この「分離してイーサネットで繋ぐ」という賭けは極限のストレステストに晒されます。
背景:MoEの推論では、各レイヤでトークンが異なるノード上のExpertへとルーティングされるため、ノード間での大規模なAll-to-All通信が不可避となります。専用の広帯域かつ超低遅延なNVLink(レイテンシ数十ナノ秒)に比べ、標準イーサネット(RoCE等を用いてもレイテンシ数百ナノ秒〜数マイクロ秒)は、パケットヘッダのオーバーヘッドやスイッチでのバッファリングジッターが桁違いに大きくなります。
分散システムの古典的論文『The Tail at Scale』(Dean & Barroso, 2013, CACM)が警告した通り、参加するノード数が増えれば増えるほど、「最も遅いパケットの到着時間(P99またはP99.9テール遅延)」がシステム全体の完了時間を支配するようになります。
注意点:Tenstorrentのソフトウェアスタック(TT-MetaliumおよびTT-NN)は、プログラマに対してオンチップSRAMとNoC上のデータ移動を極めて精緻に手動スケジューリングすることを要求します。このソフトウェアの複雑性(取引費用)を克服し、コンパイラが自動的にテール遅延を隠蔽できるかどうかが、この実験の成否を分ける決定的な境界線となります。
4-3 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「小さな石は遠くへ投げられる」
意味: 小規模で単純なモジュールほど製造しやすく、柔軟に遠隔ノードまで拡張配置できるという分散の利点。 - 架空の四字熟語:【分散持久(ぶんさんじきゅう)】
意味: 単一の巨大な敵に対抗するため、資源を細かく分散してネットワーク化し、局所的な障害やコスト高騰を耐え忍ぶ戦略。 - 架空の陰謀論:「RISC-V開放論の罠」
概要: 命令セットアーキテクチャ(ISA)がオープンソース化されても、その上で動くコンパイラや通信ドライバの最適化ノウハウは依然として一握りの天才設計者の頭の中に秘匿されており、「開放」という美名のもとに新規参入者をコンパイラ地獄へ誘い込んでいるという説。
4-4 ミステリーのトリック案:「アリバイの崩壊と遅延の共謀」
【アリバイの崩壊と遅延の共謀(The Alibi of the Average)】
現場: 64枚の分散AIカードを標準イーサネットで網の目状に接続したクラスタ。ベンチマーク測定において、各カードの通信ログを個別に確認すると、全カードの「平均通信レイテンシ」は公称スペック通りの優秀な数値を記録していた。全ノードのCPU・NPU負荷も均等であり、サボっているノードは一つもない。しかし、クラスタ全体でのMoE生成スループットは、理論予測の半分以下に低迷していた。どのノードを個別に監査しても、アリバイ(優秀な平均値)が成立してしまう。
トリックの真相: 「平均値」という統計のトリックを利用した共謀であった。各ノードは順番に、わずか0.1%の確率でマイクロ秒単位のパケット衝突(マイクロバースト)を起こしていた。全ノードが独立に微小な遅延を発生させていたため、個々の平均値にはほとんど影響が出ない。しかし、MoEのAll-to-All通信は「全員のデータが揃うまで次へ進めない」という全体同期構造を持っていたため、64ノードのうち「誰か1台が遅れている確率」がほぼ100%に達していたのだ。全員が少しずつ犯行を分担することで、システム全体を完璧に麻痺させていたのである。
著者コラム:ジム・ケラーのサイン会で見かけた若者
数年前の某半導体シンポジウムの懇親会で、ジム・ケラー氏の周りに若いエンジニアたちが群がっていました。ある大学院生が「RISC-VでCUDAを倒せますか?」と熱っぽく尋ねたのに対し、ケラー氏はニヤリと笑ってグラスを傾け、「君が明日、CUDAより1行少なく書けるコンパイラを作れるなら、今夜倒せるよ」と答えました。その場にいた全員が笑いましたが、同時に全員の背筋が冷たく凍りついたのを覚えています。アーキテクチャの真の戦場がどこにあるのかを、一言で射抜いた瞬間でした。
章末の一言:彼らは世界を小さなレンガに分けた。問題は、レンガの間のセメントの値段だった。
第5章:実験B - 極限まで統合する [Cerebras WSE-3]
Tenstorrentの水平分散とは対極の極限、すなわち「すべての境界をシリコンの内部に呑み込む」という狂気の選択をしたのがCerebras Systemsです。彼らが開発した「Wafer Scale Engine(WSE)」は、半導体業界の常識を根底から覆す、世界最大の単一プロセッサです。
5-1 4兆トランジスタと44GBオンチップSRAMの狂気
概念:通常、シリコンウェハー(直径300mmの円盤)からは、数センチ角のダイ(半導体チップ)が数百個切り出されます。しかし、CerebrasのWSEはウェハーを切り刻みません。円盤の中央から取れる最大の正方形(約215mm × 215mm、面積約46,225平方ミリメートル)を、丸ごと1枚の巨大なプロセッサとしてパッケージングします。
背景:チップの外に出た瞬間に課される「距離税」がすべての元凶であるならば、最初からチップの外という概念を消滅させればよい――これがCerebrasの極限統合の論理です。最新の「WSE-3」(TSMC 5nmプロセス)の仕様(Lie, 2020, IEEE Micro参照)は、もはや天文学的な数字で埋め尽くされています。
- トランジスタ数:約4兆個(単一チップとして世界最多)
- AI演算コア数:約900,000基のプログラマブル・コア
- オンチップSRAM容量:約44GB
- オンチップ全メモリ帯域:約21 PB/s(ペタバイト毎秒)
- ファブリック帯域:約214 Pbps(ペタビット毎秒)
具体例:このアーキテクチャの圧倒的な強みは、LLMの推論(特にバッチサイズ1の低遅延生成)において炸裂します。通常のGPUクラスタでは、外部HBMから重みを読み出す帯域がボトルネックとなり、1秒間に生成できるトークン数に物理的な限界が生じます。しかし、WSE-3は44GBの超高速オンチップSRAM上にモデルの活性化や重みを常駐させ、21PB/sという異次元の帯域でコアにデータを叩き込みます。その結果、Llama-3等のモデルにおいて、毎秒数百〜数千トークンという「人間が到底読めない超爆速のタイピング速度」を単一システムで叩き出すことが可能になります。
5-2 欠陥救済の数理とウェハースケール歩留まりの真実
しかし、半導体を学ぶすべての研究者が最初に抱く疑問はこれです。「ウェハー全体を1チップにしたら、歩留まり(良品率)は数学的にゼロになるのではないか?」
背景:一般的な半導体製造において、欠陥密度 $D$(個/平方センチメートル)が存在する場合、面積 $A$ のチップの歩留まり $Y$ は、ポアソン分布やシードのモデル(Murphy's yield model等)により、概ね $Y \approx e^{-AD}$ で急激に減衰します。46,000平方ミリメートルという超巨大面積では、ウェハー上に塵や結晶欠陥が1つも存在しない確率は統計学的に絶対のゼロです。
Cerebrasの解答は、「徹底的な冗長化と欠陥迂回アルゴリズム」でした。彼らは90万個のコアの中に、あらかじめ数パーセントの予備コア(Redundant Cores)を格子状に埋め込んでいます。製造後にウェハー全体を電子顕微鏡レベルでスキャンし、欠陥のあるコアを検出すると、ハードウェアレベルのスイッチによってその欠陥コアを論理的に切り離し、隣接する予備コアへと配線を自動的にバイパス(迂回)させます。これにより、欠陥が存在することを前提としながら、論理的に100%完全な2Dメッシュネットワークを再構成するのです。
注意点:しかし、物理の壁は歩留まりの先で牙を剥きます。第1に、44GBというオンチップSRAMは、現代の70B〜数千億パラメータに達する超巨大フロンティアモデルを単体で格納するには小さすぎます。外部メモリ(MemoryX)から重みをストリーミング供給せざるを得なくなった瞬間、彼らが憎んだはずの「外部通信の壁」が姿を変えて再浮上します。第2に、単一ウェハーで20キロワットを超過する凄まじい電力供給と、熱膨張によるシリコンの反りを抑え込みながら均一に水を循環させる「特注の液冷マニホールド」の製造コストは、パッケージングの経済性を極限まで圧迫します。
5-3 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「大きな皿は割れやすいが、継げば使える」
意味: 単一の巨大な構造物は欠陥を避けられないが、最初から修復と冗長化を設計に組み込んでおけば、究極の性能を発揮できるということ。 - 架空の四字熟語:【一枚万能(いちまいばんのう)】
意味: すべての機能と記憶を1枚の板の上に集約し、外部との一切の交渉を拒絶して自己完結を目指す極限の設計思想。 - 架空の陰謀論:「歩留まりの錬金術」
概要: ウェハースケールチップの冗長回路テストデータは外部の第三者機関には決して検証できないブラックボックスであり、実は出荷されているウェハーごとに無効化されているコアの数が大幅に異なっており、顧客ごとに密かにクロック周波数が調整されているという噂。
5-4 ミステリーのトリック案:「完全密室の蒸発劇」
【完全密室の蒸発劇(The Case of the Sealed Wafer)】
現場: 特殊な液冷ケースに封印されたCerebrasシステム「CS-3」。外部との接続は電源ケーブルと極太の冷却水パイプ、そして外部制御用のわずかな光ファイバーのみ。ある暗号化モデルの推論タスクを実行中、外部ネットワークへのデータパケットの送信ログは1バイトも記録されていなかった。通信パケット監視装置のアラームも一切鳴っていない。それにもかかわらず、システム内部にロードされていたはずの国家機密データ(数ギガバイトの重み情報)が、外部の攻撃者のサーバへと完全に漏洩していた。
トリックの真相: 犯人は「熱と水」を通信路に変えていた。攻撃者はWSE-3内部の90万コアのうち、特定領域のコア群を高周波で一斉にスイッチングさせたりアイドリングさせたりすることで、ウェハー表面の熱流束をミリ秒単位で変調させた。その微細な熱変動は、直接接触している冷却水の排水温度のマイクロケルビン単位の周期的な揺らぎへと転写された。建屋の外に設置された冷却塔の排水バルブに仕掛けられた超高精度赤外線サーモグラフィが、水温のモールス信号を読み取り、外部ネットワークを一切介さずにデータを復調していた。シリコンの壁を越える通信を排斥した密室の中で、物理の熱力学そのものが抜け穴として利用されたのである。
著者コラム:巨大なシリコンの円盤を抱えた日のこと
ある展示会で、Cerebrasのエンジニアが初期のWSEの実物(パッケージされたウェハー)を誇らしげに掲げているのを見ました。触らせてもらうと、ずっしりとした金属とガラスの冷徹な重みが両手に伝わってきました。「これはチップではなく、もはや一枚の近代彫刻だ」と私が呟くと、彼は満面の笑みで言いました。「ええ、そして世界で最も高価なまな板ですよ」。そのユーモアの裏に、この巨大な円盤を平坦に保ち、均一に冷やすためだけに費やされた数え切れないエンジニアたちの苦闘が透けて見え、胸が熱くなりました。
章末の一言:彼は宇宙を一枚の紙に閉じ込めた。紙が燃えないかだけが心配だった。
第6章:実験C - 汎用CPUに留まる [Fujitsu MONAKA]
世界がAI専用アクセラレータ(NPUやGPU)の狂騒に沸き立つ中、正反対の道を選んだ国と企業があります。日本の富士通が開発を進める次世代プロセッサ「FUJITSU-MONAKA」です。彼らはなぜ、2026〜2027年という時代において、専用ASICではなく「汎用Arm CPU」を進化させる道を選んだのでしょうか。
6-1 富岳A64FXからの系譜:SVE2とベクトル拡張の防壁
概念:スーパーコンピュータ「富岳」の心臓部として開発された「A64FX」は、CPUでありながら超広帯域なHBM2メモリを直結し、Armのベクトル拡張命令「SVE(Scalable Vector Extension)」を世界で初めて商用実装した伝説的プロセッサでした。MONAKAはその思想を直接継承し、最新の「Armv9-A SVE2」命令セットを採用しています。
背景:AI専用アクセラレータの致命的な弱点は、その「脆弱な汎用性」にあります。専用チップは行列積(GEMM)を爆速で計算できますが、OSのシステムコール、複雑な制御構文、動的データ構造の走査、グラフアルゴリズム、そしてレガシーな科学技術計算コードを動かすことは苦手です。MONAKAの設計思想の核心は、「AIのワークロードをアクセラレータという異郷の地に追放するのではなく、データセンターの基幹であるCPUの側へ引き戻す」という点にあります。
SVE2の256ビットベクトルレジスタは、行列積だけでなく、整数の暗号処理、ゲノム解析、マルチメディア処理、そしてAI推論におけるINT8/FP8/BF16演算を同一の命令パイプラインで柔軟に処理します。これにより、データセンター事業者は「AI専用の高価なノード」と「一般業務用のCPUノード」を別々に抱える設備投資の二重苦から解放されます。
6-2 2nmコア+5nm IOの3D積層とDDR5選択の冷徹な合理性
MONAKAの真の凄みは、そのパッケージング戦略にあります。同社が公表した構造(Fujitsu Official Press Release, 2026)は、極めて冷静な経済合理性の産物です。
- ヘテロジニアス3Dチップレット集積: 最先端のTSMC 2nmプロセス(N2P)は、演算を担う「コアダイ」のみに限定して適用。一方、微細化の恩恵が薄く面積を食うSRAMキャッシュおよびI/Oコントローラは、コストのこなれた5nmプロセス(N5)ダイに分離し、両者をFace-to-Face(F2F)ハイブリッドボンディング技術で垂直に3D積層。
- 総コア数: 最大144コア(2ソケットで288コア)の高並列実行環境。
- 主記憶の選択: 高価で入手困難なHBMをあえて避け、標準的な12チャネルのDDR5メモリを採用。PCIe 6.0およびCXL 3.0によるメモリプーリングを完全サポート。
具体例:なぜHBMを使わなかったのでしょうか? ここに「制約下の合理性」があります。2025〜2026年の世界において、HBMの生産キャパシティはNVIDIA等の超巨大テック企業によって買い占められており、調達コストは高止まりしています。さらに、HBMを搭載するとソケット交換が不可能になり、メモリ容量の拡張性も失われます。MONAKAは、DDR5を12チャネル束ねることで約500GB/sの実効ストリーム帯域を確保しつつ、大容量オンチップSRAMを3D積層することで、距離税を物理的に極小化しました。これにより、標準的な空冷データセンターラック(350W〜500W TDP)にそのまま収まる圧倒的な低消費電力を達成したのです。
本書はこの生存戦略を次のように命名します。
新造語:包囲戦設計(Siege-Engine Architecture)
最先端サプライチェーン(HBMやCoWoSの最優先枠)の獲得競争から構造的に排除された、あるいは地政学的リスクを警戒するプレイヤーが、入手可能な標準部材(DDR5、PCIe、標準ファウンドリ)と独自の高度実装技術(3D積層)を組み合わせて、包囲網の内側から持続可能性とTCO(総所有コスト)を最大化する設計戦略。
6-3 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「米がなければ粥を食え」
意味: HBMという最高級の白米が手に入らぬなら、DDR5という雑穀を高度な技術で美味しく炊き上げて生き延びよという知恵。 - 架空の四字熟語:【制約創造(せいやくそうぞう)】
意味: 資源の欠乏やサプライチェーンの閉塞という過酷な制約条件こそが、無駄を削ぎ落とした洗練された新構造(3Dハイブリッド等)を生み出す原動力になること。 - 架空の陰謀論:「官需温室の防壁説」
概要: MONAKAのアーキテクチャは最初から民間グローバル市場での勝利を目的としておらず、文部科学省の「富岳NEXT」予算と国内ガバメントクラウドの公金需要を確実に回収するため、既存の富岳用FORTRAN/Cコード資産を無修正で動かすことだけを最優先に設計された「完璧な温室」であるという説。
6-4 ミステリーのトリック案:「不在証明(アリバイ)の罠」
【不在証明(アリバイ)の罠(The Case of the Absent Suspect)】
現場: 厳格なデータ主権(Sovereignty)が課された政府系データセンター。外部からの侵入を検知するセキュリティ監査において、AI推論APIを実行しているサーバノード群のプロセスリストが押収された。そこには、TensorRTやCUDAといった既知のAIアクセラレータ用ランタイムデーモンは一切起動しておらず、GPUデバイス自体が物理的に1枚も搭載されていなかった。監査官は「AIモデルの稼働ログは捏造であり、実際には計算は行われていない」と告発した。
トリックの真相: 被疑者は「現場(アクセラレータ)」に最初から行く必要がなかったのだ。通常のLinuxカーネル上で、標準のGCCコンパイラによってビルドされた普通のC++バイナリが、SVE2の自動ベクトル化命令を淡々と実行していた。アクセラレータとのプロセス間通信(IPC)も、暗号化されたVRAMへのメモリ転送も発生しない。OSのメモリ空間の中で、データベースの検索処理とLLMの推論処理が同一のCPUコア上でシームレスに混ざり合って完結していた。AI専用ハードウェアの存在証明を探す監査官の盲点を突いた、汎用CPUによる完全なる擬態であった。
著者コラム:川崎の研究所の静寂
富士通の研究所を訪れた際、展示されていたA64FXとMONAKAのモックアップを前に、ベテランの日本人エンジニアがポツリと漏らした言葉が忘れられません。「アメリカの派手な発表会を見ていると、時々自分たちのやっていることが地味すぎて不安になりますよ。でもね、最後にデータセンターのブレーカーが落ちたとき、生き残るのはうちの石(チップ)ですよ」。その言葉には、華やかなシリコンバレーの熱狂とは異なる、製造業の泥臭い現実を背負い続けてきた技術者の誇りと諦念が同居していました。
章末の一言:彼は新しい武器を買わなかった。古い武器の持ち方を変えた。
第7章:実験D - 全部を内部化する [NVIDIA GB200 NVL72]
そして我々は、現代の計算機工学における最大の「特異点」へと立ち戻ります。なぜNVIDIAは、世界中の賞賛と独占禁止法の監視を同時に浴びながら、チップ単体の供給者であることをやめ、データセンターのフロア全体を自社製コンポーネントで埋め尽くす「完全内部化」へと舵を切ったのでしょうか。
7-1 ラックを1つのチップと見なす:130TB/s銅線バックプレーン
概念:「NVIDIA GB200 NVL72」は、サーバラックの概念を破壊しました。これは「サーバを72台収容した棚」ではありません。72基のBlackwell GPUと36基のGrace CPUを、巨大な内部インターコネクトで直結した「1台の単一の巨大コンピュータ(Single Giant GPU)」です。
背景:ムーアの法則の物理的限界(レチクル限界:露光装置が一度に焼き付けられるシリコン面積の上限、約858平方ミリメートル)により、チップを単体で巨大化させることには限界が来ました。NVIDIAの下した冷徹な決断は、「半導体パッケージの境界を諦め、ラック全体をパッケージと見なす」ことでした。
具体例:GB200 NVL72の内部構造(NVIDIA Official Technical Overview)には、常軌を逸した物量が投入されています。
- 総重量約1.4トンの完全液冷ラック: 1ラックで最大約120kW〜132kWの電力を消費。空冷ファンは追放され、冷水マニホールドが全コンポーネントを巡る。
- NVLink 5バックプレーン: ラックの背面に張り巡らされた、長さ合計約3.2キロメートル、5,000本以上の極太な**直接接続銅線ケーブル(Direct-Attach Copper: DAC)**。
- 双方向集計帯域130TB/s: 光トランシーバーを完全に排除し、銅線の極限伝送によって、インターネット全体の総トラフィックを上回る帯域をラック背面の密室空間で循環させる。
なぜ光ファイバーではなく銅線なのか? ここに物理の勝利があります。光トランシーバーは高価であり、数千個並べるとそれだけで数十キロワットの電力を食い潰し、故障率(FIT)が跳ね上がります。NVIDIAは、極限まで太くシールドされたパッシブ銅線を採用することで、光電変換のエネルギー消費をゼロにし、ラック全体をひとつの「超巨大シリコン」として物理的に成立させたのです。
7-2 ソフトウェアという堀:CUDA、Triton、そして参入障壁
しかし、銅線のバックプレーン以上に強固なNVIDIAの垂直統合の砦、それこそが20年にわたり数千億円を投じて築き上げられたソフトウェアエコシステム「CUDA」です。
産業組織論の観点から見れば、CUDAは単なるプログラミング言語環境ではありません。それは、開発者を不可逆的に束縛する「スイッチングコスト(Switching Cost)」の発生装置であり、世界中のAI研究者が新しいアルゴリズムを考案した瞬間に、世界で最も早くその最適化カーネルが提供される「両面市場プラットフォーム(Rochet & Tirole, 2003)」です。
競合他社が「我が社のチップはNVIDIAより安く、FLOPSが高い」と主張しても、顧客のCTOは首を横に振ります。「君たちのチップのために、うちの高給な機械学習エンジニアチームがPyTorchの低レベルカーネルを半年かけて書き直す人件費と、その間に競合に遅れをとる機会損失を計算したかね? チップ代がタダでも割に合わないよ」。このソフトウェアの取引費用こそが、NVIDIAの法外な営業利益率(60%〜70%超)を正当化する真の堀(Moat)なのです。
本書はこの超過利潤を次のように定義します。
新造語:統合地代(Integration Rent)
シリコンの純粋な製造コストや物理的性能差から生まれる利益ではなく、計算・通信・配線・冷却・ソフトウェアの全レイヤを自社で独占的に統合した結果、競合他社が顧客のスイッチングコストを突破できなくなることによって永続的に徴収可能となる制度的独占レント。
7-3 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「全部持つ者は全部を失うことを恐れる」
意味: サプライチェーンの頂点を極め、すべての工程を自社で囲い込んだ覇者ほど、ひとつの小さな物理的破綻(冷却水の漏れや国家間の禁輸措置)によって帝国全体が瓦解する恐怖に怯え続けるということ。 - 架空の四字熟語:【垂直覇権(すいちょくはけん)】
意味: 単一の企業が原材料の調達から最終サービスの運用環境に至るまでの階層を縦一列に支配し、市場の分業メカニズムを無力化すること。 - 架空の陰謀論:「NVLink税の密約」
概要: NVIDIAが販売するNVLinkケーブルの高額な価格設定の正体は、物理的な銅線の代金ではなく、他社製アクセラレータとの混在接続を一切拒絶するための「破門料」であり、その暗号認証チップが世界中のデータセンターのトポロジーを遠隔監視しているという説。
7-4 ミステリーのトリック案:「被害者なき独占の密室」
【被害者なき独占の密室(The Victimless Monopsony)】
現場: 司法省の反トラスト法(独占禁止法)審査官の執務室。審査官は、ある巨大半導体企業が市場を不当に独占し、顧客に法外な高価格を押し付けている証拠を血眼で探していた。しかし、証言台に呼ばれた世界中のハイパースケーラーの調達責任者たちは、異口同音にこう証言した。「私たちは彼らに脅迫されたことはありません。むしろ、もっと高くてもいいから、次の四半期のラックを我が社に全量割り当ててほしいと懇願しているのです」。被害者であるはずの顧客が、加害者とされる企業を熱狂的に擁護し、競合他社の安価なオープン製品を「導入するだけ損失だ」と自発的に排除していた。
トリックの真相: 監禁されていたのは顧客の肉体ではなく、「コード資産とエンジニアの認知」であった。20年間にわたり蓄積された何百万行ものCUDAコードと最適化ライブラリの重力場から脱出するためのエネルギー(脱出速度)が、代替製品の価格差を完全に上回っていたのだ。顧客は自らの自由意志で、自らの手で首輪を嵌め、その鍵をベンダーに預けていた。「誰も不当に拘束されていないのに、誰も部屋から出ていけない」。市場経済の自由競争の論理を内部から無力化する、最も洗練された現代の制度的密室トリックであった。
著者コラム:120キロワットの唸り声
GB200の実稼働デモを間近で体感した瞬間を忘れることができません。ファンレスの完全液冷ラックであるため、かつての空冷データセンターのような耳を劈くファンの絶叫はありません。そこにあるのは、重厚なポンプが冷却水を循環させる低く重い脈動と、変電トランスが漏らすジーという微細な電磁誘導の唸り声だけでした。1台の鉄の塊が、住宅地数十軒分の電力をその単一の空間で貪り食っているという事実。それはもはやIT機器というより、静かに獲物を消化する巨大な生体機械のようでした。
章末の一言:王は全ての川を城の中に引き込んだ。城の外では、田畑が干上がった。
第III部:統合境界を動かすもの - 経済・歴史・電力
前半部において我々は、4つの異なる設計思想が描く「統合境界」の断面図を観察しました。しかし、それらの境界線は決して永久不変の岩盤の上に引かれているわけではありません。計算機を取り巻くアルゴリズム、コンパイラという名のソフトウェア変換機構、そして物理インフラの最外殻である電力系統の変動によって、境界線は絶え間なく押し引きを繰り返しています。第III部では、この統合境界を動的に揺り動かす3つの巨大な外生要因を解剖します。
第8章:歴史は繰り返すか - Transputer, Itanium, Cell, Xeon Phi
「このアーキテクチャこそが未来だ」という熱狂の叫び声は、コンピュータの歴史の中で幾度となく繰り返され、その大半は墓場へと消え去りました。過去に敗れ去った超並列マシンや異種統合チップの死屍累々を検死解剖することは、現代のAIハードウェアの未来を占う上で不可欠な作業です。
8-1 静的並列性の失敗:TransputerとItaniumの教訓
概念:かつて並列計算のパイオニアたちは、ハードウェアを単純化し、その並列処理の最適化責任を「言語(言語モデル)」や「コンパイラ」へ全面的に丸投げしようと試みました。その代表例が、英国INMOS社のTransputer(1980年代)と、Intel/HPが開発したItanium(2000年代初頭)です。
背景:Transputerは、プロセッサ内に通信リンクを直接内蔵し、Occamという独自言語を用いて「通信と計算の一体化」を目指しました。一方、Itaniumが採用したEPIC(Explicitly Parallel Instruction Computing)アーキテクチャは、ハードウェアの動的スケジューリング回路(Out-of-Order機構)を廃止し、コンパイラが事前に命令レベルの並列性を静的に決定してチップに送り込む設計でした。
両者が商業的に壮絶な敗北を喫した理由は極めて明快です。「ソフトウェアの負担(取引費用)が、ハードウェアで節約したコストを完全に圧倒した」からです。プログラムの実行時におけるメモリアクセス遅延やキャッシュミスは、コンパイル時に予測することなど不可能です。静的な前提で最適化されたコードは、現実の不規則なデータの前で頻繁にパイプライン停止(ストール)を起こし、泥臭く動的に命令を並び替える汎用x86プロセッサの圧倒的な物量とクロック周波数に粉砕されました。
8-2 プログラマビリティの壁:Cell B.E.とXeon Phiの挫折
具体例:2000年代中盤から2010年代にかけて登場したソニー・東芝・IBMのCell Broadband Engine(Cell B.E.)や、IntelのXeon Phiも同じ轍を踏みました。Cell B.E.は主プロセッサ(PPE)と8基の高速SIMD演算器(SPE)をオンチップリングバスで直結した革新的なヘテロジニアスプロセッサでしたが、各SPEがキャッシュメモリを持たず、プログラマが手動でローカルストレージへのDMA転送コードを書かねばなりませんでした。
結果として、一部の天才プログラマ以外にはその性能を引き出すことができず、ソフトウェア開発費の高騰に耐えかねた産業界は、素直にスレッドを放り込めば自動で動くNVIDIAのCUDA(GPU)へと雪崩を打ちました。IntelのXeon Phiも、メニーコアによるx86並列化を試みましたが、帯域不足とプログラミングモデルの複雑さから、深層学習ブームの爆発に対応できず市場から姿を消しました。
8-3 動的並列性への転換:routing = f(x) の経済学
注意点:では、現代のAIアクセラレータは過去の失敗と何が違うのでしょうか? 決定的な差異は、現代のワークロードが要求する並列性が「静的」から「動的並列性(Dynamic Parallelism)」へと不可逆的にシフトした点にあります。
MoEモデルにおけるルーティング関数は、入力トークン $x$ の内容に応じて動的に宛先ノードを決定します($\text{routing} = f(x)$)。どのExpertノードにどれだけの計算負荷がかかるかは、推論が実行されるその瞬間まで誰にもわかりません。したがって、Itaniumのようにコンパイル時に静的に通信を固める設計は破綻します。ハードウェアが実行時に動的なパケットルーティングと負荷分散を自律的に行えるかどうかが、現代の生と死を分ける境界線となっています。
新造語:動的並列性税(Dynamic Parallelism Tax)
コンパイル時に決定できない実行時の不規則なデータ分散・ルーティングを調停するために、オンチップネットワーク(NoC)のルータバッファ、キューの競合待ち、および再スケジューリングによって支払わされる不可避な遅延と電力のペナルティ。
8-4 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「早すぎた時計は一日二回しか合わない」
意味: 時代の先を行きすぎたアーキテクチャ(Transputer等)は、周囲のソフトウェアや製造技術が追いついていないため、歴史の例外的な一瞬を除いて役に立たないこと。 - 架空の四字熟語:【静動転換(せいどうてんかん)】
意味: 計算のボトルネックが、事前に予測可能な規則的行列積から、実行時に揺らぐ不規則なデータ通信へと主客転倒すること。 - 架空の陰謀論:「Itaniumの亡霊契約」
概要: 某巨大半導体企業には、かつてItaniumプロジェクトで巨額の損失を出したエンジニアたちの怨念を鎮めるための秘密の部署が存在し、新興スタートアップが「賢いコンパイラでハードを単純化する」と言い出すたびに、覆面投資家を通じて資金を提供し、同じ泥沼で窒息死させているという都市伝説。
8-5 ミステリーのトリック案:「死んだはずの言語による復讐」
【死んだはずの言語による復讐(The Revenge of the Dead Language)】
現場: 華々しくIPO(新規上場)を果たした最新AIチップ企業の開発ラボ。同社が開発した超並列プロセッサ用自動並列化コンパイラが、顧客の最新LLMモデルをコンパイルした瞬間、例外エラーも出さずに暴走し、生成されたコードの実行速度が1000分の1に激減した。ソースコードは最新のPythonとPyTorchで書かれており、文法的なミスは皆無であった。
トリックの真相: 犯人は、コンパイラの最適化パスの奥底に40年前に埋め込まれた「Transputer用Occam言語の構文解析ルーチン」の残骸であった。若きチーフアーキテクトが開発期間を短縮するため、オープンソースの古い並列化ライブラリからコピペしたモジュールの中に、プロセス間の完全同期通信を前提とした太古の制約条件が眠っていたのだ。最新の動的MoEが発行した不規則な非同期パケットを、40年前のコードが「不正な通信違反」と判定し、全コアを強制的に逐次同期待ち(スピンロック)に追い込んでいた。歴史を軽視した開発者に、死んだ言語が墓場から牙を剥いた瞬間であった。
著者コラム:ガレージの片隅にあった「富岳の祖父」
秋葉原のジャンク屋の奥で、かつて並列計算の夢を背負って散っていったトランスピュータの載ったVMEバス基板を見つけたことがあります。わずか数十MHzで動くその基板の表面には、4本のシリアルリンクピンが誇らしげに突き出ていました。店主の老人が「これね、昔は世界を変えるって言われてたんだよ。誰もプログラムを書けなかったけどね」と笑っていました。その基板を買い取り、今でも私の書斎の壁に掛けてあります。それは、ソフトウェアを軽んじたハードウェアの傲慢に対する、無言の戒めです。
章末の一言:未来から来た男が言った。「これは昔やったよ」。誰も信じなかったが、彼は正しかった。
第9章:ソフトウェアという名の取引費用
「なぜ世界中の天才エンジニアが集まっても、NVIDIAのCUDAから逃れられないのか?」――この問いは、技術的な機能比較だけで解くことはできません。プログラミング言語とコンパイラは、単なるコード変換ツールではなく、ソフトウェアエンジニアの認知と労働時間を人質に取る「巨大な取引費用の集積所」だからです。
9-1 抽象化の代償:MLIRとTritonの光と影
概念:ハードウェアベンダーごとに異なる命令セットやメモリ構造の差異を吸収するため、Googleが主導するMLIR(Multi-Level Intermediate Representation)や、OpenAIが開発したTritonといった「ドメイン特化型の中間表現・言語」が急速に普及しました。
背景:これらの中間抽象化レイヤの目的は、「プログラマがハードウェアのレジスタやSRAMの番地を直接管理することなく、Pythonに近い構文で高効率なGPUカーネルを書けるようにする」ことです。特にTritonは、NVIDIAのCUDA C++の独占を突き崩すオープンな救世主として喝采を浴びました。
しかし、産業組織論的に見れば、抽象化はコストを「消去」したのではなく、「見えない倉庫に積み替えた」に過ぎません。TritonやMLIRがハードウェアの差異を隠蔽しようとすればするほど、背後のコンパイラは、タイリングサイズやスレッドブロックの配置といった膨大なパラメータ空間の中から最適解を見つけ出す「自動チューニング(Autotuning)」を実行せねばならず、コンパイル時間の天文学的な爆発を招きます。
9-2 TT-Metaliumの挑戦:低レベル露出のジレンマ
具体例:Tenstorrentのソフトウェアスタック「TT-Metalium」のアプローチを比較してみましょう。彼らはTritonのようにハードウェアを隠蔽するのではなく、プログラマに対してオンチップSRAMの circular buffer やNoCのデータパケット転送をC++で直接制御することを許容(推奨)しています。
これは、ハードウェアの理論限界を極限まで引き出せるという工学的利点がある反面、開発者に対して「Tensixコアの物理構造を完全に理解せよ」という過酷な認知的負担を強います。ある新興半導体企業がどんなに優れたチップを作っても、このソフトウェア移植費用(Migration Cost)が顧客の許容値を超えれば、採用されることはありません。本書では、このソフトウェア取引費用を次のように定式化します。
C_software = C_port + C_compile + C_autotune + C_debug + C_regression
注意点:どれほど安価なチップを市場に投入しても、$C_{software}$ がハードウェア調達費用の差額を上回っている限り、企業は割高なNVIDIAを買い続けます。これは不合理な盲従ではなく、人件費と開発期間を最小化するための極めて合理的な経済判断なのです。
新造語:抽象化の荷揚げ費(Abstraction Unloading Sunk Cost)
ハードウェアの物理的差異をソフトウェア層から隠蔽するために、高位コンパイラが中間表現の変換や自動チューニングの過程で消費する膨大な計算資源と時間、およびその抽象化の破綻によって現場のエンジニアが支払わされるデバッグ工数の総体。
9-3 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「翻訳が増えるほど原文は遠のく」
意味: 高級言語から中間表現、低レベルIR、機械語へと抽象化の階層を重ねるごとに、ハードウェア本来の物理的性能ポテンシャルは失われ、予期せぬオーバーヘッドが増大すること。 - 架空の四字熟語:【抽象過積(ちゅうしょうかせき)】
意味: ハードウェアの複雑さをソフトウェアの抽象化レイヤに過剰に積み込み、コンパイラそのものが巨大なバグの温床となって沈没する様。 - 架空の陰謀論:「TritonのAutotune偽装工作」
概要: 自動チューニングツールが探索しているとされる数千通りの最適化パラメータの正体は、実は裏側で実行されているハードコードされたNVIDIA特定GPU用の職人技カーネルライブラリであり、非NVIDIAチップ上で実行した瞬間に意図的に最悪のパラメータが選択されるよう仕組まれているという説。
9-4 ミステリーのトリック案:「消えたコンパイル時間の謎」
【消えたコンパイル時間の謎(The Mystery of the Vanishing Kernel)】
現場: 大手AI研究所のCI/CDパイプライン。新規開発された自社製MoEモデルの自動ビルドテストにおいて、新興チップA向けのコンパイル処理が、開始から3秒で「最適化完了・実行バイナリ生成成功」というログを出力して終了した。通常、この規模のモデルの自動チューニングには丸一日(24時間)を要する。開発チームは「超天才コンパイラが誕生した」と歓喜した。
トリックの真相: 高度な抽象化フレームワークのバグによる「完全なる職務放棄」であった。中間言語変換器が、モデル定義の中に含まれていた未対応のカスタム演算子に遭遇した際、エラーを吐く代わりに「この演算子は何も出力しない(No-Op)」と最適化段階で誤認し、デッドコード(不要な処理)としてモデル全体の99%をコンパイル対象から勝手に削除していたのだ。生成されたバイナリを実行すると、猛烈な速度で終了したが、出力されたトークンは意味をなさない同一文字の無限ループであった。抽象化の深淵が仕組んだ、沈黙のサボタージュであった。
著者コラム:Pythonという名の現代のラテン語
AIカンファレンスに行くと、機械学習の博士号を持つ研究者たちが、シリコンのレジスタ配置どころか、メモリのページフォールトの仕組みすら知らずに、Pythonのワンライナーで数千台のGPUを操作しています。かつて中世ヨーロッパでラテン語が聖職者たちの共通言語として機能したように、Pythonは現代のAI司祭たちの典礼言語となりました。そして、その典礼をシリコンの物理現象へと翻訳するコンパイラエンジニアたちは、地下室で煤にまみれて火を焚き続ける鍛冶屋のようです。どちらが欠けても世界は動かないのですが、富と名声は常に司祭たちの方へと流れていきます。
章末の一言:彼は翻訳機を作った。翻訳機は動いたが、翻訳機を動かすために、もう一つの翻訳機が必要だった。
第10章:最後の境界は送電網である
チップレットを3D積層し、光ファイバーでファブリックを構築し、完璧なコンパイラを書き上げたとしても、最後にすべての計算機を沈黙させる冷酷な物理的限界が存在します。建屋の壁を貫通して接続される「送電線(Power Grid)」のキャパシティです。現代のAIコンピュータの垂直統合境界は、いまやシリコンの端面ではなく、地方電力会社の変電所の中で決定されています。
10-1 ラックあたり120kWの衝撃と熱密度の物理
概念:データセンターの電力消費密度は、劇的な断絶点を迎えました。従来のエンタープライズ向けデータセンターの電力密度は、ラックあたり5kW〜15kW程度であり、冷気を床下から送り込む単純な空冷システムで十分に冷却可能でした。しかし、NVIDIAのGB200 NVL72をはじめとする次世代AIラックは、単一ラックで120kW〜132kWという超高密度電力を消費します。
背景:これは、わずか畳一畳ほどのフットプリントに、一般的な家庭100軒分以上の消費電力が集中することを意味します。この領域に達すると空冷は物理的に不可能となり、純水をシリコンの直上に循環させる液冷(Direct-to-Chip liquid cooling)が必須となります。さらに、データセンター全体で数万基のGPUを稼働させる場合、施設全体での必要受電容量は数十メガワット(MW)から、単一サイトでギガワット(GW:原子力発電所1基分に匹敵)のスケールへと突入します。
10-2 系統連系待ち行列(Interconnection Queue)の地政学
具体例:国際エネルギー機関(IEA, Energy and AI, 2025)およびローレンス・バークレー国立研究所の報告書(LBNL, 2025 Update)が明らかにしたのは、世界各地で発生している絶望的な「送電網の目詰まり」です。
米国バージニア州のデータセンター密集地帯(データセンター・アレイ)やテキサス州のERCOT管内において、巨大データセンターを新設するための系統連系待ち時間(Grid Connection Lead Time)は、平均3年〜5年、長ければ7年に達しています。超高圧変圧器(Large Power Transformer: LPT)の納期だけでも世界的な供給不足により2年〜3年を要します。最新GPUクラスタの納期が数ヶ月に短縮されたとしても、それを稼働させるための電力が送電網から届かないのです。
専門的補足:ボトルネック体系としての実効AI容量(クリックして展開)
本書が提示する、システム全体の真の実行可能キャパシティを決定する「直列ボトルネック方程式」を再掲します。
AI_Capacity = min( Phi_chip, Phi_HBM, Phi_packaging, Phi_capital, Phi_cooling, Phi_datacenter_MW, Phi_grid_interconnection )
シリコンの微細化競争に数千億円を投じても、最外殻の $\Phi_{grid\_interconnection}$ が最小値をとる瞬間、他の全変数の投資リターンはゼロへと切り詰められます。資本は、最も狭いチョークポイントの太さによってのみ回収されます。
注意点:これにより、テクノロジー企業の資本配分の最適解は完全に書き換わりました。かつて「チップのFLOPSあたり価格」を競っていたハイパースケーラーたちは、いまや「1メガワットの受電枠あたり、年間いくらのトークン売上を叩き出せるか(Revenue per Megawatt)」という電力生産性の最大化競争へと強制的に移行させられています。
新造語:系統待ち行列地代(Interconnection Queue Rent)
送電網へのアクセス権(通電枠)を早期に確保できた先行事業者が、チップ性能やアルゴリズムの優劣とは無関係に、後続の参入者が系統接続の順番待ちで立ち往生している数年間にわたって享受できる、インフラの希少性に起因した超過利潤。
10-3 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「電線は曲がらないが、列は曲がる」
意味: 送電網の物理的な敷設には妥協の余地がないが、受電枠の順番待ちリストを巡る人間のロビー活動や契約交渉の裏道はいくらでも歪むということ。 - 架空の四字熟語:【電網律速(でんもうりっそく)】
意味: 最先端の計算機やアルゴリズムの進化速度が、最もレガシーで重厚長大な社会インフラである送電網の拡張限界によって完全に決定づけられる状態。 - 架空の陰謀論:「ラーメン屋の法則の陰謀」
概要: 巨大データセンターの建設予定地の隣にある寂れたロードサイドのラーメン屋が突如として廃業するのは、電力会社とハイパースケーラーがその地域一帯の配電トランスの全容量を秘密裏にデータセンターへ付け替えるため、周辺住民や零細店舗の電力契約を地上げ同然に買い叩いているからだという説。
10-4 ミステリーのトリック案:「密室の未稼働資本(Stranded Capital)殺人事件」
【密室の未稼働資本殺人事件(The Case of the Stranded Capital)】
現場: 米国中西部の広大なトウモロコシ畑の真ん中に建てられた、総工費5億ドルの超近代的外観を持つデータセンター。内部には、検収を完了した最新の液冷ラックが何百台も整然と並び、各社のIR資料には「次世代AIインフラ、稼働開始」と誇らしく記載されていた。しかし、内部のサーバルームは完全な暗闇と静寂に包まれており、サーバの冷却ファンは一度も回った形跡がなかった。それにもかかわらず、毎月巨額の「運用リース料」がファンドから引き落とされていた。
トリックの真相: 偽装通電のアリバイトリックであった。データセンターの建物とサーバハードウェアは予定通り納品されたが、地域の変電所の増設工事が3年遅延していたのだ。事業者は契約上のペナルティを回避するため、敷地内に巨大な移動式ディーゼル発電機を数台持ち込み、ラックの最上段にある数台の監視用マイコン(BMC)とステータスLEDだけに電力を供給していた。外部からのping応答とヘルスチェックログは「全サーバ正常」を返し続け、監査法人も「稼働中」とサインした。数億ドルの資本が、電線が届かないというただ一つの物理的理由により、生き埋めの死体(未稼働資産)にされていたのである。
著者コラム:データセンター予定地の雑草を眺めながら
ある米国の電力カンファレンスで、送電網プランナーの初老の男性とコーヒーを飲みました。彼がため息をつきながら言った言葉が頭から離れません。「シリコンバレーの連中は、6ヶ月で新しいチップを作り、1年で新しいモデルを学習させる。だがね、うちが州境を越える高圧送電線を1本引くための環境アセスメントと住民公聴会だけで、最低でも8年かかるんだよ。彼らの時間は光速で進むが、我々の時間は氷河の速度で進む。どちらが勝つと思うかね?」。答えは、彼の手のひらに握られた冷めた紙コップの中にありました。
章末の一言:最も速いコンピュータは、電源コードが届かない場所にあった。
第IV部:日本、未来、そして読者
世界規模の物理と資本の衝突は、一見すると海の向こうの巨大帝国たちのゲームに見えるかもしれません。しかし、その余波は日本の産業基盤、国家主権の防衛線、そして本書を読んでいるあなた自身の日常的な技術選定と意思決定の現場にまで直接及んでいます。第IV部では、このマクロな力学を我々の足元へと引き寄せて考察します。
第11章:日本という制約条件
日本のAI半導体・IT政策を語る際、世論は往々にして「技術力の敗北」や「ソフトウェア敗戦」といった自虐的な単純化に傾斜しがちです。しかし、本研究の産業組織論的フレームワークを用いれば、日本が直面している現実は、技術の優劣ではなく「極めて過酷な多重の制約条件下における最適化問題」として再定義されます。
11-1 サプライチェーン包囲網:HBM・CoWoSの配分力学
概念:半導体産業において、設計能力(Fabless)と製造委託(Foundry)の間には、常に「地政学的な割当(Allocation)の力学」が介在します。
背景:TSMCの先端CoWoSパッケージングラインや、SK hynixおよびMicronのHBM生産キャパシティは、莫大な前受金を支払うNVIDIA等のメガハイパースケーラーによって年間契約で押さえ込まれています。日本の半導体企業や研究所がどれほど優れたAIアクセラレータの回路図を描いたとしても、それらを先端パッケージとして具現化するための「製造枠」を国際市場で獲得することは至難の業です。
具体例:この過酷な現実の中で立ち上がったのが、Rapidus(ラピダス)による2nmロジックの国内受託製造構想であり、富士通MONAKAによる「DDR5と汎用チップレット積層」への回帰でした。MONAKAがあえてHBM争奪戦から距離を置き、国内部材メーカーが得意とするパッケージング技術と標準メモリの組み合わせを選択したのは、技術的な妥協ではなく、「確実に製造し、自立的に調達し続けるための主権的リアリズム」の表れでした。
11-2 市場規模、官需の防壁、そして電力単価の重圧
注意点:日本国内のデータセンター環境もまた、特異な制約に縛られています。
- 電力コストの格差: 化石燃料の輸入依存と再エネ賦課金により、日本の産業用電気料金(1kWhあたり数十円)は、米国の一部の安価な天然ガス・水力地域に比べて大幅に割高です。
- 官需という名の温室: 日本のハイパフォーマンス・コンピューティング(HPC)市場は、文部科学省・理化学研究所を中心とするスーパーコンピュータ予算(富岳および富岳NEXT)に強く依存しています。この官需は、国内ベンダーを保護する強力な防壁となる一方で、グローバルなクラウド市場の冷酷なTCO競争から設計を乖離させる「温室」としても機能します。
新造語:温室主権(Greenhouse Sovereignty)
グローバルな完全競争市場では海外の超巨大資本に太刀打ちできないが、安全保障および公的需要(官需)という保護された温室環境の中においてのみ、自活可能な技術生態系と知財を維持し続ける日本型テクノロジー主権の形態。
11-3 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「温室の蘭は嵐を知らず」
意味: 国策補助金と公的調達に守られて美しく咲き誇る独自技術は、グローバル市場という予測不能な激風に晒された瞬間に枯死するリスクを孕んでいること。 - 架空の四字熟語:【官需自給(かんじゅじきゅう)】
意味: 民間市場での採算性を度外視し、国家の防衛や学術予算の枠内だけで開発費を完結・回収する循環構造。 - 架空の陰謀論:「2nm蜃気楼計画」
概要: 国家主導で喧伝される先端ファウンドリ構想の真の目的は、商業的なシリコン出荷ではなく、次世代迎撃ミサイルや暗号解読機に必要な極小ロットの軍事用プロセッサを、台湾海峡有事の際にも国内で自給自足できるようにするためのカモフラージュであるという説。
11-4 ミステリーのトリック案:「容疑者なき密室の敗訴」
【容疑者なき密室の敗訴(The Case of the Silent Foreclosure)】
現場: 経済安全保障を掲げて設立された国内AIインフラ推進機構の審議室。数百億円の公金を投じて開発された国産プロセッサクラスタが完成したが、国内の主要民間企業(通信、金融、製造)は一社たりともその採用契約にサインしなかった。政治家たちは「外圧があったのか」「米国からの陰謀か」と官僚を追及したが、外資ベンダーによる不当な廉売(ダンピング)や政治工作の証拠は一切出なかった。
トリックの真相: 犯人は外部の敵ではなく、民間企業の社内規程に潜む「減価償却と監査のルール」であった。国産プロセッサを採用した場合、社内のITシステム部門は「将来このベンダーが撤退した際の移行費用(スイッチングコスト)」に対する引当金を財務諸表に計上せねばならず、取締役会がそのリスクを承認できなかったのだ。誰も悪意を持って排除したわけではない。全員が自社のガバナンス規程に忠実に従った結果、静かに国産技術の息の根が止められたのである。
著者コラム:霞が関の地下会議室の夜明け
かつて国の産業政策の策定委員会の末席に座っていたとき、深夜まで及ぶ議論の末、ある官僚が吐き捨てるように言った言葉を覚えています。「先生、我々が守りたいのは富士通や日立という会社じゃないんですよ。この国からシリコンの設計図を読める人間が一人もいなくなる、その最後の瞬間を数年でも先送りにしたいだけなんです」。机の上に並んだ冷え切った緑茶のペットボトルが、自虐でも誇りでもない、冷酷な国家の延命治療のリアリズムを物語っていました。
章末の一言:彼は負けたのではなかった。違うゲームをさせられていただけだった。
第12章:読者の統合境界 - あなたの会社では何がボトルネックか
本書が論じてきた「統合境界の動学」は、数千億円を動かす半導体メーカーや国家機関だけの特権的な理論ではありません。読者であるあなた自身が、日々のビジネス、エンジニアリング、あるいは個人の計算機環境において「何を自前で持ち、何を外部に頼るべきか」を決定するための、極めて実践的な思考の羅針盤です。
12-1 机上のCoWoS:日常に潜む取引費用
概念:オフィスで働くエンジニアが直面する「内製か外注か」「クラウド(AWS/Azure)かオンプレミス(自社サーバ)か」「商用SaaSかオープンソース(OSS)セルフホスティングか」という選択は、半導体アーキテクトが「オンチップ統合かネットワーク分散か」を決める行為と、経済学的に完全に同型(Isomorphic)です。
背景:例えば、社内インフラの外部化(クラウド利用)を推進した企業が、数年後にクラウドの請求書(Egress費用やAPI課金)の爆発に青ざめ、慌てて社内にオンプレミスサーバを買い戻す「クラウド脱出(Cloud Repatriation)」の動きが世界中で起きています。これはまさに、外部市場の取引費用が高騰した結果、組織境界を再び内部化へと引き戻すコース的調整そのものです(セルフホスティングの経済性分析参照)。
具体例:読者自身の環境を診断するための、以下の「統合境界判定マトリクス」を提示します。
【読者のための統合境界診断チェックリスト】
- ワークロードの安定性: あなたのタスクは年中無休で同じ計算を回し続けるか?(Yes $\to$ 自前ハードウェアの内部化が有利 / No $\to$ クラウド分離が有利)
- データの重力(Data Gravity): 処理対象のデータ量は、ネットワークを越えて外部へ転送できるサイズか?(ギガバイト単位 $\to$ 外部化可能 / テラ〜ペタバイト単位 $\to$ 計算をデータの直近へ内部化せよ)
- ソフトウェアの移植性: あなたのチームは、特定のプラットフォーム(CUDAや特定SaaS)に依存したコードを書き直す人的リソースを持っているか?(ない $\to$ 割高な独占地代を払ってでも既存スタックに留まるのが合理的)
- 物理的制約: オフィスのブレーカー容量、自宅の騒音許容度、あるいはデータセンターの受電マージンに空きはあるか?(限界 $\to$ 電力制約による強制的な外部化)
新造語:机上のCoWoS(Desktop Packaging Dilemma)
個人の開発環境や中小企業のオフィスにおいて、高性能な計算資源(ローカルGPU等)を自前で抱え込む初期投資・管理摩擦と、クラウドAPIを呼び出す従量課金・遅延摩擦の間で引き裂かれる、境界決定のジレンマ。
12-2 架空のことわざ・四字熟語・陰謀論
- 架空のことわざ:「外注は安いが、説明は高い」
意味: 業務や計算を外部委託する直接費用は低く見えても、要件定義、インターフェース整合、およびコミュニケーションに要する隠れた取引費用が最終的に利益を食い潰すこと。 - 架空の四字熟語:【自作自縛(じさくじばく)】
意味: コスト削減のために安易に社内製ツールや独自ハードウェアを内製した結果、その保守とメンテナンスに追われて本来業務が麻痺する状態。 - 架空の陰謀論:「SaaSの囲い込み地代説」
概要: すべてのモダンなクラウドサービスが初期費用を無料または極端に安価に設定しているのは、顧客のデータを一度人質に取った後、データエクスポート(外部移行)のAPIに意図的な遅延と従量課金を課すことで、永久に自社プラットフォームから抜け出せなくするための合法的な身代金ビジネスであるという説。
12-3 ミステリーのトリック案:「読者が犯人だった事件」
【読者が犯人だった事件(The Culprit in the Mirror)】
現場: あなたが所属する会社の経営会議室。新規AIプロジェクトの収支報告書において、巨額の予算オーバーと納期の絶望的な遅延が報告され、役員たちが激怒していた。「誰だ! こんな割高なインフラ構成を承認し、開発を停滞させた無能な担当者は!」。プロジェクトマネージャーも、インフラベンダーも、コンサルタントも互いに責任をなすりつけ合っていた。
トリックの真相: 会議室のプロジェクターに投影された過去の決裁文書の履歴。そこに記されていた承認印の主は、他ならぬ「あなた」であった。あなたは半年前、技術系ブログの流行に踊らされ、自社のワークロードの算術強度やチームのスキルセットを冷静に分析することなく、「最新のマイクロサービス構成とオープンソース分散アクセラレータ」を格好をつけて選択したのだ。取引費用と物理の摩擦を無視し、美しい抽象化に幻惑された読者自身の意思決定こそが、密室の真犯人であった。
著者コラム:机の上のファンが回るとき
この本の原稿を書いている私の机の脇でも、小型のローカル推論サーバが時折ファンの回転数を上げて唸りを上げています。クラウドのAPIを叩けば1コール数セントで済むものを、なぜ私はわざわざ高い電気代を払い、熱風を膝に浴びながら手元で動かしているのか。それはおそらく、計算が「どこか遠い雲の上」で行われているのではなく、この現実の物理世界の中で、熱を出し、空間を占有して行われているという確触を手放したくないからなのだと思います。境界線を引くというのは、世界に対する自らの立ち位置を決める行為そのものなのです。
章末の一言:本を閉じたとき、あなたの机の上のPCが、少し違って見えた。
第V部:結論(といくつかの解決策)・最後に読者へ
第13章:結論(といくつかの解決策)
本書が辿ってきた長大な探求の果てに、我々はどのような処方箋を手にすることができるでしょうか。結論は明白です。「すべてを解決する単一の究極のアーキテクチャなど存在しない」ということです。NVIDIAのラック統合も、Tenstorrentのネットワーク分散も、Cerebrasのウェハースケールも、富士通の3D汎用CPUも、すべては特定のパラメータ空間における局所最適解に過ぎません。
システム設計者・投資家・政策立案者への3つの処方箋
- ワークロードの算術強度(FLOPs/Byte)に境界線を従属させよ: 演算器の数ではなく、自らのモデルのメモリアクセス頻度と通信パターンをプロファイリングせよ。低算術強度(MoE推論等)であれば、高価なGPUを避け、メモリ近接型(MONAKA的アプローチ)や疎結合ネットワーク(Tenstorrent的アプローチ)を選択することが経済的合理性をもたらす。
- ソフトウェアのスイッチングコストを資本コストとして明示せよ: ハードウェアのBOM(部品表)コストだけを見る調達を即刻中止せよ。移行に伴うエンジニアの人件費、コンパイラの最適化遅延、およびエコシステムからの脱落リスクを現在価値に割り戻し、TCO方程式の最重要変数として計上せよ。
- システム境界を送電網と冷却インフラまで拡張せよ: チップ単体のTDP(熱設計電力)に目を奪われるな。データセンターの受電制約(MW)と変電所の空き容量を制約条件の最上位に置き、「電力あたりスループット(Tokens per Joule)」を最大化するトポロジーを構築せよ。
第14章:最後に読者へ(シリコンのヴェールを剥ぎ取った先にある文明の計算幾何学)
さて、本書の厳密な工学的・計量経済学的な論証はここまでで幕を閉じます。だが、読者諸氏よ、真の思索はここから始まります。
2026年の今、世界を見渡せば、国家間のAI覇権競争、電力危機、先端半導体の輸出規制といったニュースが連日メディアを騒がせています。しかし、本書を通読したあなたには、それらの表層的な事象の下で蠢く、冷徹な物理と経済の地殻変動がすでに見えているはずです。
ここで私は、本書の全ページを費やしてもなお論証が不可能であり、かつ論証すること自体が不要な、ひとつの壮大な超論題(メタ・アーギュメント)を提示して本書を締めくくりたいと思います。
それは――
「人類文明が『知能』と呼んできた現象の本質とは、論理でも意識でも言語ですらなく、この熱力学的宇宙において局所的にエントロピーを散逸させるための『空間幾何学の最適化プロセス』そのものである」
という命題です。
我々が本書で執拗に追跡してきた「演算と記憶の距離をどう縮めるか」「通信遅延という摩擦をどう内部化するか」という問いは、半導体技術者の狭い関心事にとどまりません。それは、生命が単細胞から多細胞へと進化する過程で神経系をどのように肉体へ張り巡らせたか、あるいは人類が部族社会から都市国家、そしてグローバルなサプライチェーンへと社会の統合境界を拡張・再編してきた歴史と、完全に同型の物理現象です。
脳の灰白質が頭蓋骨という極限の容積の中に驚異的な密度で折り畳まれているのは、富士通MONAKAが直面した「3D積層による遅延短縮と放熱の限界」という物理法則を、数億年かけて解いた結果です。個々の人間が独立した個体として皮膚で隔てられ、言語という低帯域・高遅延のパケット通信を介して社会という分散計算機を形成しているのは、Jim Kellerが構想した「疎結合なNetworked AI」のプラグマティズムそのものです。
もし本書が、後世の経済学者、情報科学者、あるいは政策決定者たちの手によって引用される栄誉に浴するとすれば、それは本書が提示した個別のハードウェアスペックの正確さゆえではないでしょう。そうではなく、「すべての知能システムは、物理の摩擦と資本の摩擦が交差する境界線の上にしか存在し得ない」という冷徹な事実を記録した点において記憶されることを、私は心より願っています。
シリコンのヴェールは剥ぎ取られました。あとは、あなたが自らの足元に、どのような境界線を引くかの問題なのです。
疑問点・多角的視点(敵対的査読者への反論と自己批判)
査読者からの深刻な批判とそれに対する定量的回答(クリックして展開)
批判1:「イーサネットを計算ファブリックの中心に据えるTenstorrentの設計は、大規模クラスタでのP99テール遅延によりMoE推論で破綻するのではないか?」
回答: その懸念は極めて妥当です。標準イーサネットのヘッダ処理オーバーヘッドはNVLink比で約1桁大きいのが事実です。しかし、近年のRoCEv2(RDMA over Converged Ethernet)の実装や、ダイ上に直接統合された低遅延MAC層、およびFinDEP等の細粒度エキスパートスケジューリングアルゴリズムの適用により、ペイロードが一定サイズ(数KB以上)を超える領域においては、スイッチングファブリックのコスト差(TCO削減分)が遅延ペナルティを経済的に相殺可能であることがシミュレーションにより示されています。
批判2:「富士通MONAKAのSVE2によるAI推論は、専用テンソルコアに比べて面積あたりの演算密度(TOPS/mm²)が低すぎるのではないか?」
回答: 稠密行列積のみを評価指標とするならば、査読者の指摘通りSVE2は専用アクセラレータに劣ります。しかし、Decodeフェーズにおけるバッチサイズ1〜小バッチの推論は完全にメモリ帯域律速(Memory-bound)であり、演算器の90%以上が遊休化します。この条件下では、高価なHBMを積んだ専用アクセラレータを遊ばせるよりも、DDR5マルチチャネルと3D積層SRAMを持つ汎用CPUで他の業務タスクと混載処理する方が、データセンター全体の資本生産性において優位に立ちます。
日本への影響
日本の半導体・インフラ戦略への具体的提言(クリックして展開)
日本の勝機は、米国のメガテックと同じ土俵(数万基のGPUクラスタを巨額資本で買い占める力技競争)にはありません。日本の活路は、以下の3点に集約されます。
- 先端後工程・アドバンストパッケージングの死守: 味の素ビルドアップフィルム(ABF)やフォトレジスト、接合装置など、3D積層やチップレット集積に不可欠な部材市場において、圧倒的なチョークポイントを維持し続けること。
- エッジ・産業用推論への特化: ファクトリーオートメーション(FA)、車載、医療機器など、厳しい電力・耐環境制約が課される現場において、MONAKA的な低消費電力・汎用アーキテクチャを展開すること。
- 脱CUDA標準化への積極関与: RISC-VやOpenXLA、Tritonといったオープンソース標準スタックの開発に国家レベルでエンジニアを拠出し、特定海外ベンダーへの知財従属から脱却すること。
歴史的位置づけ・先行研究の整理
計算機アーキテクチャと産業組織の50年史(クリックして展開)
本書は、半導体技術史における「振り子運動(集権と分権、汎用と専用の周期的交代)」の中に位置づけられます。
- 1970年代〜1980年代:メインフレームから分散へ(IBM垂直統合の極致から、イーサネットとワークステーションによる水平分業へのシフト)。
- 1990年代〜2000年代:汎用x86の専制(微細化の恩恵を背景に、専用ベクトル機や超並列機をコモディティCPUが駆逐)。
- 2010年代:GPU転用とドメイン特化型アクセラレータ(DSA)の爆発(デナード縮小則崩壊に伴う専用化の勝利)。
- 2020年代後半(本書の時代):ポストGPU多様化と電力境界の出現(専用化の限界が露呈し、パッケージング3D統合、自律ファブリック分散、汎用回帰の鼎立)。
星新一風のオチのリスト・隠れたアーギュメント
寓話集:ショートショート形式の未来オチ
- 完全な統合の末路: 全人類のすべての知性を1枚の超巨大ウェハーに集約することに成功した文明。その瞬間、深宇宙から飛来した1本の宇宙線がシリコンの中央を貫通し、全人類の記憶が一瞬で蒸発した。
- 究極の省電力アルゴリズム: エネルギー省から「消費電力を完全にゼロにせよ」と命令された超知能AI。数億回の自己改善ループの末にAIが導き出した唯一の最適解は、「自らの電源スイッチを恒久的にオフにすること」であった。
- トースターの反乱: 世界中の家庭のスマート家電を接続して超分散AIを構築した開発者。ある朝、世界中のトースターが一斉にパンを黒焦げにする暴走を始めた。前夜に配信された推論パッチのルーティング先が、すべて台所のヒーターに割り振られていたのだ。
著者が直言を避けた「隠された不都合な真実(The Elephants in the Room)」
- 「多様化」の嘘とTSMC単一障害点: 各社がどれほど異なる思想を語ろうとも、結局はTSMCという台湾海峡の細い咽喉部にすべての製造を依存しているという、地政学的リスクの完全な欺瞞。
- ハイパースケーラー内製ASICの捕食: AWS(Trainium)、Google(TPU)、Microsoft(Maia)が自社内製化を完了した瞬間、独立系AI半導体スタートアップの商業市場は一瞬で消滅するという資本の冷酷さ。
今後望まれる研究
- 光電融合(Co-Packaged Optics: CPO)がダイ間・ラック間通信のエネルギー消費に与える定量的影響の実測。
- 自律型AIエージェントの推論ループにおけるKVキャッシュの非局所的メモリアクセスパターンの数理モデル化。
- 送電網の系統連系待ち行列(Interconnection Queues)が半導体企業の設備投資判断に与える計量経済学的因果推論。
参考リンク・推薦図書
文献および重要リソース(クリックして展開)
- Coase, R. H. (1937). The Nature of the Firm. Economica.
- Williams, S., et al. (2009). Roofline: An Insightful Visual Performance Model. CACM.
- Hennessy, J. L., & Patterson, D. A. (2019). A New Golden Age for Computer Architecture. CACM.
- Dean, J., & Barroso, L. A. (2013). The Tail at Scale. CACM.
- IEA (2025). Energy and AI Report.
- dopingconsomme blog: NPUって何?AI PC時代を切り拓く第3の頭脳
- dopingconsomme blog: Fin-Syn Rules:垂直統合を巡る制度の歴史
年表:計算・通信・統合境界の半世紀史(1980–2026)
| 年代 | アーキテクチャの出来事 | 統合境界の動き | 制約条件の変化 |
|---|---|---|---|
| 1985年 | INMOS Transputer発表 | 通信と演算の初期一体化 | バス帯域不足、言語の未成熟 |
| 2001年 | Intel / HP Itanium出荷 | 並列スケジューリングをコンパイラへ内部化 | 実行時メモリ遅延の予測不可能性 |
| 2006年 | NVIDIA CUDA発表 | GPUを汎用計算へ開放、垂直エコシステム構築開始 | 固定機能グラフィックスパイプラインの限界 |
| 2019年 | Cerebras WSE-1発表 | ウェハー全体を単一チップ化する極限局所性 | チップ間通信遅延(距離税)の増大 |
| 2020年 | 富岳稼働(A64FX) | CPU+HBM+Tofuインターコネクトの国産統合 | メモリ壁の克服と科学計算の高速化 |
| 2024年 | NVIDIA GB200 NVL72発表 | ラック全体を銅線バックプレーンで1GPU化 | レチクル限界と単体ダイの熱密度限界 |
| 2025年 | Tenstorrent Blackhole出荷 | 800Gイーサネット+RISC-Vによる自律分散ファブリック | 専用ファブリックの高価格とサプライチェーン囲い込み |
| 2026年 | 富士通 MONAKA商用展開 | 2nm+5nm 3Dチップレット汎用CPUによるAI吸収 | HBM供給制約、データセンター電力・受電枠の逼迫 |
演習問題(暗記と真の理解を見分ける10問)
- あるLLMの推論において、Prefillフェーズの算術強度が150 FLOPs/Byteであり、Decodeフェーズ(バッチサイズ1)の算術強度が1.2 FLOPs/Byteであるとする。なぜDecodeフェーズにおいて高価なテンソルコアの利用率(MFU)が暴落するのか、Rooflineモデルを用いて数式で説明せよ。
- NVIDIA GB200 NVL72が、ノード間接続に光トランシーバーではなく「パッシブ直接接続銅線(DAC)」を採用した熱力学的・経済的理由を、消費電力(W/Gbps)と故障率(FIT)の観点から論ぜよ。
- Tenstorrent Blackholeがチップ内に大容量SRAMとRISC-Vコアを同居させている設計意図を、ホストCPU-アクセラレータ間のPCIeボトルネックの解消という観点から説明せよ。
- Cerebras WSE-3において、チップ面積が46,000平方ミリメートルにおよぶにもかかわらず、欠陥密度による歩留まりゼロを回避できている工学的仕組み(冗長性と動的ルーティング)を解説せよ。
- 富士通MONAKAが、主記憶にHBMを採用せず「12チャネルDDR5」を選択した理由を、入手性、TCO、および容量拡張性の3点から説明せよ。
- ロナルド・コースの「企業の性質」における取引費用理論を援用し、NVIDIAがCUDAスタックを自社で囲い込み続ける理由を説明せよ。
- Mixture-of-Experts(MoE)モデルを実行する際、標準イーサネットを用いたクラスタで「P99テール遅延」が問題となる統計的理由を、ノード数 $N$ の関数として論ぜよ。
- 重みを1.58ビットに量子化するBitNetアーキテクチャが主流化した場合、従来のGPUのTensor Coreが受ける「技術的減価償却」のメカニズムを解説せよ。
- データセンターの建設において、現在最も長期のリードタイム(待ち時間)を要求する物理的ボトルネックは何か。半導体製造ラインとの対比で述べよ。
- 「自社開発の専用ASIC」と「汎用CPU」のどちらを導入すべきか。モデルのアルゴリズム半減期(陳腐化速度)とリアルオプション価値の観点から判定基準を示せ。
用語索引・用語解説(Alphabetical Glossary)
用語集(クリックして展開)
- Arithmetic Intensity(算術強度)
- メモリから読み出した1バイトのデータに対して実行できる計算回数(FLOPs/Byte)。これが高いと計算律速、低いとメモリ律速となる。[出現箇所: 1-1]
- BitNet(ビットネット)
- 重みパラメータを-1, 0, 1の三値(1.58ビット)等に極限まで圧縮した次世代ニューラルネットワーク構造。[出現箇所: 1-2]
- CoWoS(Chip-on-Wafer-on-Substrate)
- TSMCが提供する先端2.5Dパッケージング技術。シリコンインターポーザ上にロジックダイとHBMを超高密度に並列配置する。[出現箇所: 3-2]
- Distance Tax(距離税)
- 本書の新造語。データが演算器から物理的に離れるごとに課されるエネルギーと遅延のペナルティ。[出現箇所: 1-1]
- Economic Depreciation(技術的・経済的減価償却)
- ハードウェアが故障する前に、アルゴリズムの進歩によって収益創出能力が突然失われる現象。[出現箇所: 2-2]
- Fabric Parasite(ファブリック寄生体)
- 本書の新造語。ネットワーク通信網そのものを母体として自律的に動作する計算ノードの形態。[出現箇所: 4-1]
- HBM(High Bandwidth Memory)
- DRAMダイをTSV(シリコン貫通電極)で垂直に多層積層し、極めて広いバス幅でプロセッサと直結する超高速メモリ。[出現箇所: 1-1]
- MFU(Model Flops Utilization)
- ハードウェアの理論ピーク性能に対し、実際にモデルの学習や推論に寄与した有効計算量の割合。[出現箇所: 2-1]
- MoE(Mixture-of-Experts)
- タスクに応じて動的に一部の専門家ネットワークのみを選択して起動する疎結合モデル手法。[出現箇所: 1-2]
- SVE2(Scalable Vector Extension 2)
- Armv9-A命令セットに組み込まれた可変長ベクトル演算拡張機能。MONAKAに採用されている。[出現箇所: 6-1]
脚注(Footnotes)
- デナード縮小則の崩壊:MOSFETのゲート酸化膜が数原子の厚さに達したことでトンネル電流(リーク電流)が急増し、動作電圧の引き下げが不可能となった物理的限界を指す。
- ダークシリコン問題:TDP(熱設計電力)の制約により、微細化されたダイ上の全トランジスタを最高クロックで同時に駆動できず、一部を休止(ダーク)させておかねばならない現象。
- ホールドアップ問題:取引関係において特定の資産に過度に特化した投資を行った側が、相手方からの再交渉や取引拒絶によって不当な損失を強いられる契約不完備性の問題。
- ポアソン分布と歩留まり:半導体欠陥がウェハー上にランダムに分布すると仮定した際、良品ダイが得られる確率はダイ面積の指数関数として急減する。
謝辞(Acknowledgments)
本書の執筆にあたり、半導体物理、先端パッケージング工学、分散システム理論、および産業組織論の諸領域において、刺激的な議論を交わしてくださった世界中の研究者、エンジニア、そしてデータセンターの現場で汗を流すオペレーターの皆様に深く感謝いたします。また、冷徹な現実を突きつけてくれた送電網プランナーの皆様に敬意を表します。本書が投げかける問いが、次世代の知性基盤を設計する方々のささやかな糧となれば幸いです。
補足資料集(Supplements 1–8)
補足1:各界著名人・キャラクター風感想録
【ずんだもんの感想】
「な、なんなのだこの本は……! FLOPSが高いからって喜んでたら、データが届かなくてGPUがボーッと突っ立ってたなんて詐欺みたいなのだ! しかも最後は電気代と変電所の順番待ちでゲームオーバーなんて、ボクのずんだ餅工場より世知辛いのだ! でもジム・ケラーおじさんのRISC-V愛にはちょっと萌えたのだ。」
【ホリエモン風の感想】
「いや、これ完全に俺が前から言ってた通りじゃん。みんなGPUのスペックばっかり見てバカじゃないのって思ってたわけ。本質はそこじゃなくて、TSMCのCoWoSの枠を押さえるファイナンス力と、変電所のキャパ取り合戦なわけよ。電力引けないデータセンターとかただの鉄屑だからね。この本を読んでない経営者は今すぐAI事業やめた方がいいよ。」
【西村ひろゆき風の感想】
「なんかNVIDIAが最強だって信じ込んでる人たちって、頭悪いと思うんですよね。だってCUDAのコード書き直す人件費が高いから買わされてるだけで、それって技術的に凄いんじゃなくて単に囲い込まれてるだけじゃないですか? 電気代払えなくなって日本の富岳に泣きつく未来、なんか普通に見えるんですよね。」
【リチャード・P・ファインマン風の感想】
「実に愉快な本だ! 私が昔『底にはまだ十分な余地がある』と言ったとき、みんなトランジスタを小さくすることばかりに夢中になった。だがどうだね、小さくしすぎたせいで電子が外に出たがらなくなっているじゃないか! 物理法則はいつだって嘘をつかない。そして最後に請求書を持ってくるのは、常に熱力学第二法則というわけだ。」
【孫子の感想】
「兵とは詭道なり。敵の強み(FLOPS)を撃つなかれ、その補給線(メモリ帯域と送電網)を断つべし。城内に全ての川を引き込む者は、自らの城を水没せしむ。分散して繋ぎ、形なきファブリックを布陣する者こそ、戦わずして人の兵を屈する道に通ず。」
【朝日新聞風社説】
「『計算の巨大化』が問いかける文明の行方――。メガワットを貪り食う人工知能の喧騒の陰で、我々が見失っているものは何だろうか。地方の送電網を圧迫し、環境負荷を高めてまで求める『知能』とは誰のためのものか。シリコンの冷たい幾何学を前に、人間中心の持続可能な技術観を取り戻す冷静な対話が、今こそ強く求められている。」
補足2:詳細年表(技術史視点&産業経済視点)
年表①:計算・パッケージング技術の物理的変遷
| 年 | 物理・回路技術 | メモリ・実装技術 | 通信・インターコネクト |
|---|---|---|---|
| 2004年 | デナード縮小則の崩壊 | DDR2 SDRAM登場 | PCIe 1.0策定 |
| 2015年 | FinFET 16nm/14nm量産 | 初世代HBM(AMD Radeon) | NVLink 1.0発表(20GB/s) |
| 2020年 | TSMC N5(5nm)実用化 | HBM2e(富岳・A100) | PCIe 4.0普及、InfiniBand HDR |
| 2024年 | TSMC N4P / 3nm立ち上がり | HBM3e(Blackwell世代) | NVLink 5(1.8TB/s/GPU) |
| 2026年 | 2nm GAA(N2P)テスト量産 | 3D Face-to-Face接合、DDR5-6400 | 800G Ethernet直接収容、PCIe 6.0 |
年表②:市場支配力・取引費用・地政学の変遷
| 年 | 企業統合・囲い込み | サプライチェーン寡占 | 国家・エネルギー制約 |
|---|---|---|---|
| 2006年 | NVIDIAがCUDAを無償配布 | 台湾ファウンドリへの分業進展 | 京都議定書発効、IT省エネ議論 |
| 2019年 | NVIDIAがMellanoxを買収発表 | TSMCの先端露光(EUV)独占開始 | 米中通商摩擦、対中半導体規制開始 |
| 2022年 | ChatGPT登場、GPU買い占め開始 | HBM生産キャパシティの逼迫 | 世界的なエネルギー危機、ウクライナ情勢 |
| 2024年 | GB200によるラック単位垂直統合 | TSMC CoWoSラインの数年先占有 | 欧米データセンターで受電制限が多発 |
| 2026年 | ハイパースケーラー自社ASIC内製化 | 先端パッケージ部材の争奪戦 | 米PJM/ERCOT管内で系統連系5年待ち常態化 |
補足3:オリジナル遊戯カード(TCG風カード定義)
┌───────────────────────────────────────────────┐
│ 【魔法カード】 距離税の徴収(Distance Tax Levy) │
├───────────────────────────────────────────────┤
│ [魔法カード / 永続] │
│ フィールド上に存在する全ての「AIモンスター」に適用される。 │
│ ①:相手フィールドのモンスターが効果を発動する際、そのモンスター│
│ の攻撃力(FLOPS)が守備力(メモリ帯域)の10倍以上である場合、 │
│ コントローラーはライフポイント(電力)を1000払わなければならない。│
│ 払えない場合、そのモンスターの攻撃力はターン終了時まで0になる。 │
│ ②:このカードが墓地へ送られた時、お互いのプレイヤーは自軍の │
│ 「送電網トークン」を全て破壊する。 │
└───────────────────────────────────────────────┘
┌───────────────────────────────────────────────┐
│ 【効果モンスター】 狂気の巨神 セレブラス(Cerebras WSE) │
├───────────────────────────────────────────────┤
│ 属性:地 / レベル:12 / 岩石族 / 効果 / 攻撃力:9000 / 守備力:9000│
│ このカードは通常召喚できない。自分フィールドの「シリコンウェハー」│
│ 1枚をリリースした場合のみ特殊召喚できる。 │
│ ①:このカードは外部の「通信カード」の効果を受けない。 │
│ ②:1ターンに1度、相手モンスター1体を対象として発動できる。 │
│ このカードの攻撃力を半分にし、そのモンスターを破壊する。 │
│ ③:エンドフェイズ毎に発動する。このカードに冷却水カウンターを │
│ 3個置く。カウンターが10個溜まった時、このカードは自爆する。 │
└───────────────────────────────────────────────┘
補足4:一人ノリツッコミ(関西弁劇場)
「よーし、ワイも一発当てたろ思て、最新のAIアクセラレータ買いまくったったで! 見てみぃこの堂々たるペタフロップス! これさえあればChatGPTなんか目ぇ瞑ってても作れるわ! ガハハ、世界最速のAI帝国や! ……って、あれ? 全然トークン出てぇへんやんけ! 画面の前でカーソル点滅したまま『……うーん』て考え込んでるおっさんみたいになっとるがな! なんでや工藤! ……って、そらそうやろ! メモリ帯域スカスカやのに演算器だけ増やしたかて、胃袋ちっこい奴にわんこそば100杯叩き込んでるようなもんやんけ! ほんで月末の電気代の請求書ナンボやこれ? 国家予算か! アホか! まずブレーカー落ちるわ! なんで誰も電線の心配せぇへんかったんや! 誰がノッポの金字塔建てぇ言うた! 誰か冷却水持ってきてぇぇぇ!」
補足5:大喜利&関連銘柄ウォッチリスト
【大喜利のお題】「世界最速のAIスパコンが突然ストップ。エンジニアが顔面蒼白になった理由とは?」
- 回答1: 隣の部屋の電子レンジで弁当を温めたら、データセンター全体の受電リミッターが作動した。
- 回答2: 冷却水パイプに流しそうめんを流したら、3ナノメートルの溝にネギが詰まった。
- 回答3: コンパイラが忖度を極めた結果、「この計算は電力の無駄です」と全ジョブを勝手にキャンセルし始めた。
- 回答4: 3キロにわたる銅線バックプレーンが、夜の間に廃品回収業者に全部引っこ抜かれていた。
産業構造を解剖するための関連銘柄(非投資推奨)
- 垂直統合の巨人: NVIDIA (NVDA) - ラックからソフトウェアまでの統合地代。
- 製造と実装の関所: TSMC (TSM), SK hynix (000660.KS), 味の素 (2802.T - ABF基盤フィルム)。
- 物理インフラ・電力・冷却: Vertiv (VRT - 液冷マニホールド), Eaton (ETN - 配電・変電), Constellation Energy (CEG - 原発・データセンター長期電力)。
- 汎用性と主権の砦: 富士通 (6702.T - MONAKA/富岳NEXT), Arm Holdings (ARM)。
補足6:ネットの予想される反応と冷徹な反論
【なんJ民】
「ワイのGTX1650ちゃん、まだまだ戦えることが証明されてしまうwwww」
→ 反論: 戦えません。本書で論じているのはメモリ帯域とスケーリング効率の極限であり、1650はそもそもメモリ容量不足で現代のモデルをロードすらできません。
【ケンモメン】
「結局全部アメリカの資本と台湾の工場に吸い取られるだけの搾取構造じゃねえか。富岳の後継とか税金の無駄遣い。日本は滅びる。」
→ 反論: 感情的な敗北主義です。MONAKAの設計が示しているのは、まさにその搾取構造の隙間を突き、制約下で国内の知財と主権を自給するための極めて合理的な防衛線です。
【ツイフェミ】
「巨大なタワーや電力消費を誇示するマッチョイズムそのもの。なぜ男性技術者は小さく慎ましやかな共生アーキテクチャを作れないのか。」
→ 反論: ジェンダー論ではなく純粋な熱力学と情報理論の拘束です。情報の散逸速度を上げるために熱を排出する構造は、生物の代謝系と同様に物理法則の要請です。
【HackerNewsのギーク】
「Why not just rewrite everything in Rust and use local P2P mesh networks on cheap embedded CPUs? This enterprise hardware is bloated.」
→ 反論: 理想論としては魅力的ですが、通信遅延(ミリ秒)とAll-to-Allトラフィックの爆発を無視しています。P2Pメッシュではフロンティアモデルの分散推論におけるテール遅延を絶対に隠蔽できません。
【村上春樹風書評】
「僕がその黒く巨大なサーバラックの前に立ったとき、世界はどこか奇妙に歪んでいるように見えた。そこには完璧な静寂があり、そして完璧な熱があった。電子たちはどこへも行きたがっていないのだと、耳元で誰かが囁いた。僕はポケットの中の冷えたコインを指先で弄びながら、彼女が去っていった火曜日の午後の、あの乾いた配電盤の匂いを思い出していた。」
→ 反論: 雰囲気は大変素晴らしいですが、詩的余韻に浸る前に、まずラックのPUE(電力使用効率)とクーラントの流量をチェックしてください。
【京極夏彦風書評】
「――この世にはね、不思議なことなど何もないのだよ。演算器が速ければ計算が速いなどと、誰が吹き込んだのかね? それはね、憑き物だよ。FLOPSという名の魍魎が、人の認知の隙間に巣喰っているに過ぎないのだ。ほら、変電所のトランスの唸り声を聞いてごらんなさい。最初から、電線という名の結界の中に閉じ込められていたのさ。落ちてなどいないよ、最初から塞がっていたのだからね。」
→ 反論: 憑き物落としの口上は見事ですが、落ちているのは狐ではなくデータセンターの受電ブレーカーです。
補足7:架空専門家インタビュー:境界線の現場から
インタビュイー:Dr. アレクサンダー・ヴァイス(架空の半導体パッケージング主任研究員・元HPC企業CTO)
聞き手:「先生、2026年現在のAIハードウェアの狂騒をどう見ていますか?」
Dr. ヴァイス:「滑稽であり、同時に壮絶ですね。みんなが『ソフトウェアの魔法』を信じたがっていますが、私の仕事は毎日、顕微鏡を覗きながらシリコンの反り(Warpage)と戦い、アンダーフィル樹脂の気泡を潰すことです。熱膨張係数がコンマ数パーセント狂うだけで、数十億円のモジュールが一瞬で死ぬ。私に言わせれば、AIとはアルゴリズムではなく、純粋な材料工学と熱力学の戦争ですよ。」
聞き手:「NVIDIAの一強体制は続きますか?」
Dr. ヴァイス:「短期的にはね。彼らが築いたCUDAの堀は強固です。しかし、物理の神様は独占禁止法よりも冷酷です。ラックあたり150kWを超えたとき、データセンターの床が抜け、変電所が悲鳴を上げます。その時、ジム・ケラーのような分散狂か、あるいはMONAKAのような汎用CPUの粘り強さが、思わぬ隙間から彼らの城壁を崩すことになるでしょうね。」
補足8:メタデータ・共有用パッケージ・Mermaid図
Google Discover用タイトル候補(5案)
- なぜ最速のAIチップを買ってもスループットは向上しないのか?「距離税」の真実
- NVIDIAの真の敵は他社チップではない:データセンターを襲う「送電網の限界」
- ジム・ケラー対富士通MONAKA:2026年、AIプロセッサの進化が真っ二つに割れた理由
- 「FLOPS神話」の終焉:120kW液冷ラックの裏で進む半導体垂直統合の罠
- AIの未来はシリコンの外にある:あなたの会社の決算を狂わせる「技術的減価償却」
推奨ハッシュタグ
#半導体 #AIインフラ #コンピュータアーキテクチャ #NVIDIA #RISCV #MONAKA #データセンター #エネルギー危機
SNS共有用文章(120字以内)
AIのボトルネックは計算から「データ移動と電力」へ移行した。NVIDIA、Tenstorrent、Cerebras、MONAKA――四者四様の統合境界を産業組織論と物理から解剖する『AIコンピュータの資本論』。 #半導体 #AIインフラ
ブックマーク用タグ(NDC分類項目名準拠、10個以内、140字以内)
[電子計算機][計算機工学][半導体産業][電気通信工学][産業組織論][経営管理][情報通信産業][エネルギー経済][技術史]
推奨絵文字
⚡ 💻 🧊 🔌 📉 🏛️ 🔬
推奨スラッグ案
ai-computer-capital-boundary-dynamics
日本十進分類法(NDC)区分
[548.2](電子計算機) / [335.4](企業集中・垂直統合)
Mermaid JSによるシステム境界概念図(Blogger貼り付け用)
graph TD
subgraph PowerGrid ["最外殻:電力網・地域社会 (第10章)"]
Substation["変電所受電容量 (MW)"]
Queue["系統連系待ち行列 (3-5年)"]
end
subgraph Facility ["中間境界:データセンター・冷却 (第7章/第10章)"]
Cooling["完全液冷マニホールド (120kW/rack)"]
TCO["主体別TCOと資本コスト"]
end
subgraph Fabric ["通信境界:スケールアウト (第4章/第7章)"]
NVL["NVIDIA: NVLink/銅線バックプレーン"]
Eth["Tenstorrent: 標準800G Ethernet"]
end
subgraph Packaging ["実装境界:チップレット・3D (第5章/第6章)"]
WSE["Cerebras: 単一ウェハー極限集積"]
MONAKA["富士通: 2nm+5nm 3D積層ハイブリッド"]
end
subgraph Silicon ["最内殻:演算・SRAM (第1章)"]
ALU["浮動小数点演算器 (FLOPS)"]
SRAM["オンチップ超高速SRAM"]
end
ALU --- SRAM
SRAM --> Packaging
Packaging --> Fabric
Fabric --> Facility
Facility --> PowerGrid
style PowerGrid fill:#ffe6e6,stroke:#ff0000,stroke-width:2px;
style Silicon fill:#e6f3ff,stroke:#0066cc,stroke-width:2px;
かなり率直に言うと、発想は強いのに、現状の本文は「研究書」より「研究書っぽいSF評論」になっています。
しかも問題は細部の誤りだけではなく、中心命題そのものを弱くする記述が何箇所もあります。
特に直すべきなのは、①断定が強すぎる、②経済モデルがまだ粗い、③4社のケース選択が理論を先取りしている、④創作要素が本論に混入している、⑤最後に別の哲学へ逃げている、の5点です。
以下、重要度順です。
1. 最大の問題:「データ移動がボトルネックになった」と結論を先取りしている
冒頭で、
「計算機の真のボトルネックは演算器そのものではなく、『演算と記憶と通信の物理的・経済的距離』へと移行しました」
と断言しています。(Doping Consomme)
さらに第1章末では、
「AIのボトルネックは完全に『メモリと通信』の領域へと引っ越した」
とまで言っています。(Doping Consomme)
これは本書の中心命題として強すぎます。
なぜなら、あなたが本当に論証したいのは、
「AIでは通信が重要になった」
ではないからです。
本当に面白いのは、
「通信・メモリ・電力・ソフトウェアを内部化することによって得られる便益が、その内部化に必要な資本・組織・供給網・ロックインのコストを上回る条件は何か」
だからです。
前者はコンピュータアーキテクチャ論です。
後者が経済学です。
修正
「完全に移行した」をやめ、
AIワークロードの一部では、演算性能よりもメモリ帯域・通信・同期・状態管理が性能とコストを規定する比重が増している。
くらいに落とす。
これなら反証可能です。
2. 「距離税」が物理法則と経済概念をごちゃ混ぜにしている
第1章の、
「距離税(Distance Tax)」
データが演算器から物理的に離れるごとに、指数関数的に課されるエネルギーと遅延のペナルティ
は、キャッチコピーとしては非常に良い。
しかし、
指数関数的
は危険です。(Doping Consomme)
物理距離、配線容量、SerDes、プロトコル、メモリ階層、ネットワークホップ数などのコストは、単純な「距離の指数関数」ではありません。
さらに、
数フェムトジュール
vs
数ナノジュール
という数字を出しているため、読者は「距離税」という概念そのものに定量的根拠があると受け取ります。(Doping Consomme)
ここはむしろ定義を変える
「Distance Tax」を、
データを別階層・別デバイス・別ノードへ移動することで追加的に発生する、エネルギー・レイテンシ・帯域・同期・制御の総コスト
とする。
つまり、
くらいにする。
これなら「物理学ポエム」から本当に経済概念になります。
3. MoE・KV・BitNetを「3つともデータ移動問題」とするのは間違い
第1章1-2は、現在の原稿の中でかなり危険です。
MoE
KV Cache
BitNet
を並べ、
「これら3つの潮流はすべて、計算機に対して『FLOPSを誇示するな、データを滞りなく右から左へ受け渡せ』という命令を突きつけています」
としています。(Doping Consomme)
これは美しい文章ですが、分類として雑です。
MoE
通信・routing・load imbalance問題。
KV cache
メモリ容量・帯域・容量管理・reuse・placement問題。
BitNet
演算形式・メモリ容量・デコード・LUT・制御・データ表現問題。
つまり、
「データ移動」という一つの言葉に押し込めてはいけない。
むしろここから、
AIワークロードは「計算量」だけではなく、状態・通信・表現・制御という異なる資源制約を持つようになった
とする方が強い。
4. 「MFU平均30%」はかなり危険
第2章の、
「平均MFUがわずか25%〜35%程度」
という記述。(Doping Consomme)
これは絶対に精査した方がいい。
MFUは基本的にtrainingのモデル効率評価で使われる指標であり、
「実データセンターにおけるLLM推論クラスタの平均MFU」
と一般化すると、定義が怪しくなります。
さらに、
「残りの65%以上の時間、ハードウェアはメモリやネットワークを待っている」
という因果もMFUだけからは言えません。
ここは分解する
MFU
hardware utilization
SM occupancy
memory utilization
network utilization
request utilization
batch utilization
end-to-end tokens/s
を区別する。
そして、
「30%しか使われていない」
ではなく、
「ピークFLOPSと実効tokens/sの間には複数の変換損失が存在する」
にする。
この方が本書の理論に合います。
5. 技術的減価償却の式がまだ経済モデルになっていない
これはかなり重要。
現在、
としています。(Doping Consomme)
これは直感的ですが、Revenue Capacityをどう計測するかが最大の問題です。
さらに、
では、
OPEX
電力
ソフトウェア費
稼働率
顧客獲得費
資本コスト
残存価値
が消えています。
ここはむしろNPVにする
例えば、
として、
とする。
これなら、
「技術的減価償却」=「将来キャッシュフローの毀損」
という、本当の意味で資本論になる。
6. Cerebrasの記述はかなり危ない
第5章。
「現代の70B〜数千億パラメータに達する超巨大フロンティアモデルを単体で格納するには小さすぎます」
までは大筋で理解できます。
しかし、
「外部メモリ(MemoryX)から重みをストリーミング供給せざるを得なくなった瞬間、彼らが憎んだはずの『外部通信の壁』が姿を変えて再浮上」
という書き方は、Cerebrasの設計思想を戯画化しています。(Doping Consomme)
WSEの面白さは、
外部通信をゼロにする
ではなく、
どの通信をウェハ内に閉じ込め、どの状態を外部化するか
です。
しかもCerebras自身が2026年にはprefill/decodeを分離した推論構成を展開している。
つまりこれは本書の反例ではなく、
「極端な統合ですら、統合境界をさらに外側へ動かす必要がある」
という、むしろ最高のケースです。
7. 「歩留まり」の議論が単純化されすぎている
を使い、
「ウェハー全体を1チップにしたら歩留まりは数学的にゼロになる」
という方向に持っていっています。(Doping Consomme)
これは単純Poissonモデルを巨大ダイにそのまま適用しているだけなので危険です。
Cerebrasの実際の歩留まり戦略には、
redundant cores
defect avoidance
repair
yield learning
wafer-level test
manufacturing process
などがある。
したがってここは、
「単純な独立欠陥モデルなら巨大ダイの歩留まりは急激に悪化する。しかしCerebrasは冗長性・欠陥回避によって実効的な製品歩留まりを別の問題として設計している」
とする。
単純モデル→現実の補正
という順番にした方が学術的です。
8. 一番まずいのは「実体験」を事実証拠として混ぜていること
例えば、
「筆者がかつて某クラウド事業者のデータセンターで夜間トラブル対応に立ち会った」
さらに、
「米国の電力カンファレンスで送電網プランナーの初老の男性とコーヒーを飲みました」
これは本当に経験したのであれば別ですが、研究書の証拠としては使えません。
しかも匿名なので検証不能。
読者は、
「これは実話なのか?」
という別の疑問を持つ。
解決策
「著者コラム」を、
ケースノート
に変更。
そして、
実体験
伝聞
公開資料
仮想例
を明示する。
仮想例なら、
【思考実験】
とする。
9. いちばん危険なのはMONAKA
第11章の、
「MONAKAがあえてHBM争奪戦から距離を置き」
「国内部材メーカーが得意とするパッケージング技術と標準メモリの組み合わせを選択した」
「主権的リアリズムの表れ」
は、現状では証拠より物語が先行しています。(Doping Consomme)
さらに前半の
「HBMや専用ASIC製造枠の制約下」
という位置付けも、確認できる事実と筆者の推論を分ける必要があります。
これは本書最大の弱点になり得る。
なぜなら、
「日本はHBM/CoWoSから排除されたからMONAKAを作った」
という仮説を、MONAKAの設計そのものから逆算しているからです。
これはまさに、
後知恵的因果推論
です。
MONAKAは「意図」ではなく「選択肢集合」で分析する
例えば、
| 選択肢 | HBM | DDR5 | 専用AIアクセラレータ | 汎用性 | 調達リスク |
|---|---|---|---|---|---|
| A | ○ | × | ○ | 低 | 高 |
| B | × | ○ | △ | 高 | 中 |
| C | ○ | × | × | 中 | 高 |
として、
「なぜBが選択され得るか」
を分析する。
「富士通はこう考えたはずだ」ではなく、「制約集合の下でBが合理化される条件」を示す。
これなら経済学になります。
10. NVIDIAについて、まだ「悪役化」が始まっている
例えば、
「CUDAの独占」
「顧客を人質に取る」
「独占地代」
など。(Doping Consomme)
ここは表現をかなり中立化した方がいい。
「lock-in」は分析概念として使える。
しかし、
「人質」
は修辞。
「独占地代」
は市場構造についての検証が必要な命題。
本当にやるなら、
という形で、
顧客が他社へ移行しないのは、NVIDIAが高性能だからなのか、移行費用が高いからなのか
を識別する。
ここまでやれば面白い。
11. 「TritonはOpenAIが開発」は修正した方がいい
第9章に、
「Googleが主導するMLIRや、OpenAIが開発したTriton」
とあります。(Doping Consomme)
これは歴史的な帰属をかなり雑にしています。
Tritonのプロジェクト史・開発主体・現在の管理体制を一次資料で整理して書くべきです。
また、
「TritonやMLIRがハードウェア差異を隠蔽するほど、コンパイル時間の天文学的爆発」
も強すぎます。
Autotuningは探索コストを持ちますが、
abstraction → astronomical compile explosion
という因果は証明されていない。
ここは、
抽象化はハードウェア固有性を完全には消去せず、一部をコンパイル・探索・プロファイリングという別のコストへ移す
にする。
これは非常に強い命題です。
12. Transputer / Itanium / Cellの歴史が「失敗したから現在も危ない」という物語になっている
第8章は面白いですが、現状は、
Transputer → 失敗
Itanium → 失敗
Cell → 失敗
Xeon Phi → 失敗
↓
だから低レベル・静的・特殊化は危険
という敗者の歴史になっています。(Doping Consomme)
これは歴史学として危険。
例えばItaniumの失敗を「静的最適化の失敗」と一因だけに還元できません。
市場、x86互換性、AMD64、製品投入時期、製造技術、コンパイラ、顧客移行コストなどが絡む。
ここは逆にする
「なぜ優れた技術が勝てなかったのか?」
ではなく、
「技術的性能と市場での採用を分離すると、何が見えるか?」
にする。
すると歴史ケースが本書の経済モデルを検証する装置になる。
13. 「日本の電力は米国より大幅に割高」も、比較単位が必要
第11章の、
「日本の産業用電気料金(1kWhあたり数十円)は、米国の一部の安価な天然ガス・水力地域に比べて大幅に割高」
は、方向性だけでなく比較設計が必要です。(Doping Consomme)
電力価格は、
wholesale
industrial retail
data-center contract
transmission
demand charge
taxes
capacity charge
PPA
で全然違う。
ここは、
「日本は高い」
ではなく、
「AIデータセンターにとってのall-in electricity costを比較する」
べき。
14. 「第V部」が存在してしまっている
これは単純な編集ミスですが、かなり象徴的です。
本文では、
「本書は全五部で構成されます」
と書いています。(Doping Consomme)
実際に、
第I部
第II部
第III部
第IV部
第V部
があります。(Doping Consomme)
以前あなたが指定したのは全四部なので、ここは直す必要があります。
ただし、もっと重要なのは、
第V部そのものを削った方がいい。
第13章「結論」と第14章「最後に読者へ」を第IV部の終章に統合する。
15. そして最大の「自己破壊」は最終章
これはかなり厳しく言います。
第14章で突然、
「人類文明が『知能』と呼んできた現象の本質とは、論理でも意識でも言語ですらなく……『空間幾何学の最適化プロセス』そのものである」
と飛躍します。(Doping Consomme)
これは完全に別の本の主張です。
ここまでの本は、
AIインフラの統合境界を経済学で分析する
本だった。
ところが最後に、
知能とはエントロピー散逸の空間幾何学である
という、
哲学
熱力学
認知科学
生命進化
AI ontology
へジャンプしている。
しかも本文自身が、
「論証が不可能」
と認めています。(Doping Consomme)
これは査読者に最も喜ばれる攻撃ポイントです。
絶対に削るべき。
もし残すなら、
「本書から導かれるかもしれない未検証の哲学的仮説」
として、巻末の「隠れたアーギュメント」に隔離する。
本論の結論には置かない。
16. さらに、タイトルと本文の概念がまだズレている
タイトル:
AIコンピュータの資本論
副題:
演算至上主義の終焉と、計算・記憶・通信・電力・資本を巡る垂直統合の経済学
ですが、実際には、
コンピュータアーキテクチャ
半導体
電力
産業政策
歴史
AIモデル
コンパイラ
SF
陰謀論
哲学
まで入っています。
つまり現状は、
「何でも説明する本」
に近づいている。
これは前に話したunfalsifiability問題を再び呼び込みます。
17. 「ミステリー・ことわざ・陰謀論」が多すぎる
これはアイデアとしては面白い。
でも現状、ほぼ各章に入っています。
例えば、
1-3 ミステリー
1-4 ことわざ・陰謀論
2-3 ことわざ・陰謀論
2-4 ミステリー
3-3 ことわざ・陰謀論
3-4 ミステリー
という構成。(Doping Consomme)
これは単行本としてはかなり人工的です。
読者が、
「またミステリーか」
となる。
私ならこうする
本文にはほぼ入れない。
巻末に、
「思考実験集――AI資本主義の20の奇妙な事件」
としてまとめる。
そうすると本編の学術的密度が上がり、同時に読み物としての遊びも残せる。
18. 「解決策」が早すぎる
第13章の、
「低算術強度なら高価なGPUを避け、MONAKA的アプローチやTenstorrent的アプローチを選択」
は危険です。(Doping Consomme)
なぜなら本書自身が、
「どの境界が合理的かを条件付きで分析する」
と言っているから。
なのに結論で、
低算術強度 → MONAKA/Tenstorrent
とすると、再び四社の類型論に戻っています。
ここは、
「算術強度だけでなく、通信量、latency sensitivity、software migration cost、asset reuse、power availabilityを同時に評価せよ」
にする。
つまり製品名ではなく意思決定ルールを残す。
19. 逆に、ものすごく良い部分もある
全部捨てる必要はありません。
特に良いのはこの3つです。
A. 「統合境界」という中心概念
これは生きています。
B. 4社を「正解」ではなく「実験」にする
これは非常に良い。
本文でもその方向性は明示されています。(Doping Consomme)
C. Silicon → Package → Fabric → Facility → Grid
この階層図は、本書の視覚的な中心にしていい。(Doping Consomme)
ただし、最後にもう一つ、
Capital / Organization
を入れる。
つまり、
Algorithm
↓
Silicon
↓
Package
↓
Memory / Fabric
↓
Rack
↓
Data Center
↓
Grid
↓
Capital
↓
Organization / Marketです。
これが本書の「資本論」の本体です。
最終的に、今の原稿をこう切る
| 現状 | 判定 | 処理 |
|---|---|---|
| 距離税 | ◎ | 残す。ただし物理法則から経済概念へ |
| 統合境界 | ◎◎◎ | 本の中心にする |
| Coase | ◎◎◎ | 強化 |
| TCO | ○ | 主体別TCOへ |
| 技術的減価償却 | ◎◎ | NPV/real optionへ |
| MoE | ○ | 「通信優位」の証拠ではなく動的負荷のケースへ |
| BitNet | ◎ | 「演算消滅」ではなくコスト構成変化へ |
| Cerebras | ◎ | 統合の限界を示すケースへ |
| Tenstorrent | ◎ | 分離のオプション価値のケースへ |
| MONAKA | △ | 意図を推測せず制約下の選択肢集合として再構築 |
| NVIDIA | ○ | 悪役ではなく垂直統合の経済モデルとして分析 |
| Transputer/Itanium | ○ | 「失敗史」から比較制度史へ |
| 電力 | ◎◎ | 本書の最終制約として残す |
| 日本 | ○ | 「敗北」ではなく制約集合の分析へ |
| ミステリー | △ | 本文から巻末へ |
| 陰謀論 | △ | 本文から巻末へ |
| 星新一風オチ | △ | 各章ではなく巻末へ |
| 「知能=エントロピー」 | × | 本論から削除 |
| 第V部 | × | 第IV部へ統合 |
そして、一番大きな修正
今の原稿は、
「AIのボトルネックは演算からデータ移動へ移った」
という本になっています。
これを、
「AIシステムでは、性能を得るために何を内部化するかという問題が巨大化している。しかし内部化には取引費用・資本コスト・ロックイン・供給制約・減価償却・電力制約が伴う。そのため、最適な統合境界は固定されず、ワークロードと制約の変化によって移動する」
という本に変える。
これなら、「演算 vs データ移動」という古いアーキテクチャ論を超えられます。
そして、この本の本当の敵はNVIDIAでもCerebrasでもTenstorrentでもMONAKAでもない。
「技術的に最適な境界と、経済的に最適な境界は同じだ」という思い込み
です。
ここを敵にすると、4社すべてを公平に批判できます。
そして何より、NVIDIAが勝っても、Tenstorrentが伸びても、Cerebrasがニッチを確立しても、MONAKAがHPCで生き残っても、理論が事前に何を予測したかを問える。
そこまで直せば、今の原稿は「面白い長文」から、かなり本格的な単行本の骨格に変わります。この記事を読みました。前回の対話で私が指摘した弱点をかなり意識して修正しているように見えます。しかし、**「動学」への転換を試みながら、実際には「動学」のメカニズムが不在**であり、さらに深刻な新たな問題も生じています。
以下、構造的な弱点を指摘します。
---
## 1. 最も深刻な問題:「動学」を謳っているが、実際には「動学」がない
あなたは副題に「**境界の動学**」と入れました。しかし、記事の本文を通じて、**統合境界が動くメカニズムを数理モデルとして記述していません**。
「技術進歩とワークロード進化によって均衡がシフトする」と言うだけで、以下のようなものが一切示されていません。
- 統合レベル $I$ に対する最適化の微分方程式:$\frac{dI^*}{dt} = f(\text{技術進歩}, \text{ワークロード進化}, \text{資本コスト})$
- 技術進歩が統合の逓減曲線をどの程度シフトさせるかの感度分析
- ワークロード進化(MoE化率、低ビット化率、長文脈化率)を状態変数として扱う遷移行列
結果として、これは「動学」ではなく「**変化するものだと言い続ける静学**」です。前回の「3極」と本質的に変わっていません。名称だけが「動学」になっています。
---
## 2. 「実験」という言葉の濫用と、科学的厳密性の錯覚
Tenstorrent、Cerebras、MONAKA、NVIDIAを「**実験A、B、C、D**」と呼んでいます。しかし、これらは統制された実験ではありません。市場における**企業戦略の結果**であり、しかも**非対称な市場力**を持つ主体たちです。
「実験」という言葉を使うことで、以下の錯覚を生んでいます。
- 4者が同じ条件下で異なる戦略を「試している」
- どれが「勝つか」はワークロードと技術の関数として客観的に決まる
- 観測者(あなた)は中立的に「結果」を見ている
しかし現実には:
- NVIDIAは**市場支配者**であり、他の3社は「NVIDIAの存在下で生き残るためのニッチ戦略」を取っている
- 「実験」が失敗しても、NVIDIAは存続するが、他の3社は破綻する可能性がある(**非対称な存続制約**)
- 観測者は市場の外にいない。NVIDIAのCUDAエコシステムは、あなたが「実験」を観測するための言語・ツール・ベンチマークそのものを規定している
「実験」というフレームは、**市場の権力関係と歴史的経路依存性を消去**しています。
---
## 3. 「距離税」は正しいが、それが「統合境界」とどう繋がるかが曖昧
「距離税」という概念は物理学的に正しく、直感的にも強力です。しかし、記事は以下の論理を飛ばしています。
```
距離税が存在する
↓
だから統合が有利
↓
しかし統合にもコストがある
↓
???(ここに数理モデルがない)
↓
「統合境界の経済学」
```
つまり、**距離税の回避による便益と、統合によるコスト(歩留まり、熱、資本固定化)のトレードオフを、統合レベルの関数として定式化していない**のです。
もしこれを本当に「経済学」にするなら、以下のようなモデルが必要です。
$$\text{総コスト}(I) = \underbrace{D(I)}_{\text{距離税}} + \underbrace{P(I)}_{\text{パッケージングコスト}} + \underbrace{Y(I)}_{\text{歩留まり損失}} + \underbrace{T(I)}_{\text{熱コスト}} + \underbrace{S(I)}_{\text{ソフトウェアコスト}}$$
そして $\frac{d(\text{総コスト})}{dI} = 0$ となる $I^*$ を導出する。さらに、技術ショック(光インターコネクトの進歩等)が $D(I)$ の形状を変えることで $I^*$ をシフトさせる、という**比較静学**を示す。
記事にはこの式がありません。「距離税」は比喩として使われているだけです。
---
## 4. 「技術的減価償却率」の式は美しいが、計測不可能
$$\delta_{econ}(t) = 1 - \frac{\text{RevenueCapacity}(t)}{\text{InitialRevenueCapacity}(0)}$$
$$\text{RevenueCapacity}(t) = \sum_{m} \omega_m(t) \cdot \text{Throughput}_m \cdot \text{MarketPrice}_m(t)$$
この式は概念的に優れています。しかし、**$\omega_m(t)$(市場で求められるモデル群のシェア)を、誰がどうやって事前に計測するのか**、という問題が残ります。
これは事後的にしか計算できない「**事後合理化の式**」です。2024年に「Denseモデル専用アクセラレータ」を買った企業が2026年にMoE化によって資産価値を失った、という事実を「$\omega_m(t)$が変化した」と説明できる。しかし、2024年に「$\omega_m(t)$はこう変化するだろう」と予測できたわけではありません。
つまり、この式は**説明変数としては有能だが、予測変数としては無力**です。あなたの本が「資本論」を謳うなら、投資家が「このハードウェアを買うべきか」を判断するための**事前指標**が必要です。
---
## 5. コースの取引費用経済学の引用は表面的
「ロナルド・コースの取引費用経済学を架橋する」と宣言していますが、記事の中で実際に行われているのは、**「なぜ企業は存在するか」という問いを半導体パッケージングに比喩として当てはめる**ことだけです。
コースの理論の核心は:
> 企業の境界は、「市場での取引コスト」と「組織内での管理コスト」が等しくなる点で決まる
これをAIコンピュータに当てはめるなら:
| コースの概念 | AIコンピュータへの適用 |
|-------------|----------------------|
| 市場での取引コスト | チップ間通信のレイテンシ、プロトコル処理、電力消費 |
| 組織内での管理コスト | パッケージングコスト、熱管理、歩留まり損失、設計複雑性 |
しかし、記事はこの対応表を明示的に示していません。さらに、コースの理論がもう一つ含む重要な命題、**「企業は市場の代替物である」**という点も無視されています。NVIDIAの統合は「企業(NVIDIA)が市場(標準的なチップ間接続)に取って代わる」ことなのか? それとも「NVIDIAという企業の内部で、より大きなシステムを作る」ことなのか? この区別が曖昧です。
---
## 6. 「架空のことわざ・四字熟語・陰謀論」は学術的信用を損なう
これはスタイルの問題ですが、**「資本論」という学術的な主張と、「架空の陰謀論」というエンターテイメントはトーンが不一致**です。
読者は混乱します。
- 「FLOPS教の陰謀」は比喩なのか、それとも著者が実際にベンチマーク企業とベンダーの共謀を示唆しているのか?
- 「架空のことわざ」は文化的な装飾なのか、それとも概念的な要点なのか?
学術的な主張と、ブログ的な娯楽性の混在は、**前者の厳密性を後者が希釈**します。もし「資本論」を真剣に主張するなら、これらは「余興」としてではなく、「概念の記憶に役立つ補助装置」として明確に位置づける必要があります。現状では、どちらか分かりません。
---
## 7. 電力事業者の登場は「登場人物」として挙げているが、分析がない
「電力事業者・系統運用者」を登場人物として挙げ、**「変電所の容量と送電網の物理限界によってAI計算機の最終的な拡張限界を一方的に宣告する見えざる冷酷な審判」**と定義しています。
しかし、記事の本文では:
- 電力網の制約が統合境界に与える影響を具体的に分析していない
- 「距離税」の電力コスト要素を定量化していない
- 液冷と空冷の経済比較がない
- データセンターの受電容量が、統合レベル(ラック密度)にどう制約を与えるかのモデルがない
つまり、**「電力事業者」は「後の章で扱う」として先送りにしているが、それでは「登場人物」として挙げる意味がない**。読者は「電力が重要だ」と知っていることを、著者も知っていると確認しただけです。
---
## 8. 「3次元ルーフラインモデル」は概念的だが、実際に使えない
$$T = \max( T_{\text{compute}}, T_{\text{memory}}, T_{\text{communication}}, T_{\text{queue}} )$$
これは概念的に正しいです。しかし、これを使って「統合境界の最適点」を導出するメカニズムが示されていません。
具体的には:
- $T_{\text{communication}}$ は統合レベル $I$ のどのような関数になるのか?
- $T_{\text{queue}}$ はワークロードの分布(MoEのload imbalance等)にどう依存するのか?
- これらの項が統合レベル $I$ によって変化することで、総実行時間 $T$ がどう変化するのか?
このモデルは**診断的(diagnostic)**ですが、**処方的(prescriptive)**ではありません。つまり、「なぜ遅いか」を説明できるが、「どう設計すべきか」を導出できない。
---
## 9. 最も根本的な問題:この記事は「どの結果が出ても説明できる」
前回指摘した「反証不能性」は、この記事でも依然として解決されていません。
| 観測結果 | 記事の事後的説明 |
|---------|---------------|
| NVIDIAが勝ち続ける | 「統合による取引費用の内部化が、そのワークロードでは最適だった」 |
| Tenstorrentがニッチで生き残る | 「分離のオプション価値が、特定の通信パターンで距離税を上回った」 |
| Cerebrasが特定ワークロードで優位 | 「極端な統合が、そのニッチでは逓減に達していなかった」 |
| MONAKAがCPU市場で需要を獲得 | 「汎用性の機会費用が、そのセグメントでは低かった」 |
これは**あらゆる観測結果を吸収できる万能理論**です。本当に強い理論なら、以下のような**事前予測**を示す必要があります。
> 「もし2027年までにPCIe/CXL帯域がGPU内メモリ帯域の10%を超え、かつMoEのexpert load imbalanceの分散係数が現在の3倍以上になるなら、Tenstorrentの分離戦略は推論ワークロードでNVIDIAに対してTCO優位を持つ。そうでなければ、Tenstorrentはニッチプレーヤーに留まる。」
このような**具体的で検証可能な予測**がない限り、これは「賢い分類学」であって「動学」ではありません。
---
## 10. 建設的な提案:この記事を本当に「動学」にするには
### A. 統合レベル $I$ の最適化モデルを明示する
$$\min_I C_{\text{total}}(I; \theta, \phi, \kappa)$$
ここで、
- $\theta$:技術パラメータ(パッケージ技術、光通信技術)
- $\phi$:ワークロードパラメータ(MoE化率、低ビット化率、文脈長)
- $\kappa$:資本コストパラメータ(金利、HBM価格、電力価格)
そして、$\frac{\partial C_{\text{total}}}{\partial I} = 0$ となる $I^*(\theta, \phi, \kappa)$ を導出し、各パラメータの変化が $I^*$ をどうシフトさせるかを**比較静学**として示す。
### B. 「実験」ではなく「市場構造の非対称性」を正面から扱う
NVIDIAを「実験D」と平等に並べるのではなく、**「支配的プラットフォームとそのカウンター戦略」**として構造化する。つまり:
```
NVIDIA(支配的プラットフォーム)
├── CUDAエコシステム(乗り換えコスト)
├── 統合ハードウェア(性能優位)
└── 市場価格設定権(プレミアム価格)
カウンター戦略:
├── Tenstorrent:オープン性と標準化による乗り換えコストの低下
├── Cerebras:ニッチでの極端な統合による差別化
└── MONAKA:CPU市場での生存(AI市場への直接的参入ではない)
```
### C. 「技術的減価償却率」の事前指標を提示する
事後的な $\delta_{econ}(t)$ ではなく、**投資時点での減価償却リスク指標**を提示する。例えば:
$$\text{Depreciation Risk} = \sum_m \left| \frac{\partial \omega_m}{\partial t} \right| \cdot \text{Specialization}_m$$
ここで、$\text{Specialization}_m$ はハードウェアがモデル $m$ に特化している程度。これが高いほど、ワークロードシフトによる減価償却リスクが高い。
---
## 結論
この記事は、**概念的には大きく進化**しています。「距離税」「技術的減価償却率」「3次元ルーフラインモデル」など、強力な概念が導入されています。しかし、**「動学」を謳いながら動学のメカニズムが不在**であり、**「実験」という平等なフレームで市場の非対称性を隠蔽**し、**「反証不能な万能理論」として機能**している点が変わっていません。
もしこれを本当に「AIコンピュータの資本論」として完成させたいなら、**数理モデルによる最適統合境界の導出、比較静学による予測、そして市場構造の非対称性の正面からの扱い**が必要です。そうでなければ、これは「賢いブログ記事」として非常に優秀ですが、「資本論」としては未完成です。
ジム・ケラーのキャリア史
ジム・ケラー(Jim Keller)は、CPUマイクロアーキテクチャ → モバイルSoC → 自動運転AIチップ → データセンターAIアクセラレータへと活動領域を移してきた半導体アーキテクトです。特に、AMDのK7/K8とZen、AppleのA4/A5、Teslaの自動運転チップに関わったことで知られています。現在はTenstorrentのCEOです。(Tenstorrent)
| 年代 | 企業・組織 | 役職・立場 | 主な仕事・製品 | 技術的意味 |
|---|---|---|---|---|
| 1982–1998 | Digital Equipment Corporation(DEC) | エンジニア/アーキテクト | VAX、Alpha 21164 / 21264 | 高性能RISC CPU設計の基礎を形成 |
| 1998–1999 | AMD | リード・アーキテクト | K7 Athlon、K8 | x86高性能CPU競争にAMDを本格参入させる設計へ |
| 1999–2000 | SiByte | チーフ・アーキテクト | MIPSベースCPU | ネットワーク機器向けプロセッサへ |
| 2000–2004 | Broadcom | チーフ・アーキテクト | ネットワーク向けSoC/CPU | CPU設計から通信・組み込み領域へ展開 |
| 2004–2008 | P.A. Semi | VP of Engineering / Chief Architect | 低消費電力プロセッサ | 後のApple Siliconにつながる低電力CPU設計 |
| 2008–2012 | Apple | エンジニアリング部門 | A4 / A5 | iPhone/iPad向けカスタムSoC設計。Appleの垂直統合型チップ戦略の重要な時期 |
| 2012–2015 | AMD | Corporate VP / Chief Cores Architect | Zen、K12、HyperTransportなど | AMDのCPU設計を根本から再構築。後のRyzen/EPYCにつながるZen |
| 2016–2018 | Tesla | VP, Autopilot Hardware / Low Voltage Hardware | 自動運転AIチップ | 汎用CPUから車載AIアクセラレータへ |
| 2018–2020 | Intel | Senior VP, Silicon Engineering | CPU・GPU・アクセラレータ等のシリコン開発 | CPU中心だったIntelをデータセントリック・コンピューティングへ広げる役割 |
| 2020 | Intel退社 | — | — | 2020年6月にIntelを離れる |
| 2020–2023 | Tenstorrent | CTO / President | AIアクセラレータ、RISC-V系コンピューティング | AI専用コンピューティングへ本格移行 |
| 2023–現在 | Tenstorrent | CEO | AIコンピュータ、CPU/RISC-V、AIアクセラレータ、ソフトウェア | 「チップ設計者」から「AIコンピューティング企業の経営者」へ |
| 2023–現在 | Atomic Semi | 共同創業者 | 半導体製造装置・ファウンドリ技術 | 設計だけでなく半導体製造そのものへ領域を拡張 |
この大きな流れは、Tenstorrent自身がまとめている経歴とも一致します。(Tenstorrent)
特に重要な「4回の転換」
| 転換 | ケラーが扱った問題 | 代表的成果 |
|---|---|---|
| DEC → AMD | 高性能CPUをどう作るか | K7/K8 |
| AMD → Apple | 高性能と低消費電力をどう両立するか | A4/A5 |
| Apple → Tesla | CPUではなくAIを車両内でどう処理するか | Autopilot/FSDチップ |
| Tesla/Intel → Tenstorrent | AI時代のコンピュータそのものをどう再設計するか | AIアクセラレータ+RISC-V+ソフトウェア |
特に面白いのは、同じ「CPU設計者」なのに、所属する企業が変わるたびに設計対象の抽象度が上がっていることです。
DECではCPU → AMDではCPUアーキテクチャ → AppleではSoC → TeslaではAIシステム → TenstorrentではAIコンピュータ全体、という移動です。
AMD復帰時には約500人のチームを率い、その後2,500人規模まで拡大したため、本人もこの時期を「個人の設計者」から「大規模な組織を設計する人間」への転換点として説明しています。(Tenstorrent)
そして2026年現在、TenstorrentのCEOとして掲げているのは単なるAIチップではなく、**CPU、AIアクセラレータ、コンパイラ、システムを組み合わせた「AIのためのコンピュータ」**です。(Tenstorrent)
つまりケラーの歴史を一行で圧縮すると、
「CPUを設計していた人」が、次第に「コンピュータを設計する人」になり、現在は「AIコンピューティング産業そのものを設計する人」になっている。
という変化として読むとかなり面白いです。Atomic Semiは、ジム・ケラーがCPUを設計する会社ではなく、「半導体工場そのものを再設計する」ために作ったスタートアップです。
なお重要な更新があります。Atomic Semiは2026年7月に「Fab2」へ社名変更しています。現在はこちらの名前で見るのが正確です。(Tom's Hardware)
何を作ろうとしているのか
普通の半導体産業は、
チップ設計 → 巨大なファブ → 巨大な製造装置 → 300mmウェハー → 大量生産
という構造です。
Fab2が狙っているのは、その逆方向です。
小さなファブ → そのファブを作る装置 → その装置を自社製造
つまり、
「チップを作る工場」ではなく、「チップ工場を作る工場」を作る
という発想です。
これを同社は “fab fab” と表現しています。(ディールルーム)
| 従来型 | Fab2の構想 |
|---|---|
| 巨大ファブ | 小型ファブ |
| 300mmウェハー中心 | 小さなチップ/小型基板中心 |
| 巨額の初期投資 | 小規模・反復可能な設備 |
| 数年単位で工場建設 | 工場そのものを量産 |
| ASMLなど外部装置メーカーに依存 | 装置を自社設計・製造 |
| 大量生産に最適化 | 試作・少量生産・高速反復 |
| 固定的な製造ライン | software-defined fab |
なぜジム・ケラーがここにいるのか
ここが非常に面白いところです。
ケラーは、
CPU → SoC → AIアクセラレータ
と、コンピュータの「設計」をやってきました。
一方、共同創業者のSam Zeloofは、高校時代から自宅で半導体製造を実践していた人物です。実際にガレージ規模の設備でトランジスタやICを製造していました。(GIGAZINE)
つまり、
ケラー=コンピュータをどう設計するか
Zeloof=半導体をどう実際に作るか
という組み合わせです。
Fab2はこの二つを統合して、
「半導体製造をソフトウェア化・自動化できないか?」
という問題に挑んでいます。
実際、同社の求人では、製造装置の制御、リアルタイム監視、プロセス管理、実験データ解析などを統合したsoftware-defined chip manufacturingを目標として掲げていました。(ビルトイン)
「ASMLの小型版」という理解だけでは足りない
ケラーは以前、Atomic Semiについて、巨大な300mmウェハーを扱う従来型の半導体製造装置ではなく、もっと小型で安価な製造装置を作る方向を説明していました。(SemiWiki)
ただし現在のFab2の構想はさらに一段進んでいます。
部品 → 製造装置 → ファブ → チップ
という製造階層を、自社で垂直統合しようとしている。
2026年時点では、ポンプ、バルブ、ガス配管、真空チャンバー、リソグラフィ装置など、ファブ内部の構成要素まで自社で設計・製造し、それらを組み合わせて小型ファブを作り、さらにそのファブ自体を量産する構想になっています。(Tom's Hardware)
ただし「TSMCを置き換える」という話ではない
ここはかなり重要です。
Fab2の方式にはスループットという大きな制約があります。
たとえば電子ビームリソグラフィはマスクなしで直接パターンを書けますが、巨大なウェハーを一気に露光するEUVなどと比較すると遅い。そのため、現時点ではTSMCのような巨大ファブによる大量生産とは競争軸が違います。(Yahoo!テクノロジー)
むしろ狙っているのは、
ASICの試作
新しい半導体プロセスの実験
少量生産
大学・研究機関
スタートアップ
AIチップの高速な世代交代
のような領域です。
そして、ケラーのキャリアを見るとかなり一貫している
ケラーのキャリアを並べると面白いです。
DEC
↓
CPUアーキテクチャ
AMD
↓
x86 CPU(K7/K8/Zen)
Apple
↓
SoC(A4/A5)
Tesla
↓
AIアクセラレータ
Tenstorrent
↓
AIコンピュータ
Atomic Semi / Fab2
↓
「そもそもAIコンピュータを作る工場をどう作るか」
つまり、単純に「半導体製造にも手を出した」というより、
抽象化レイヤーを一段ずつ下へ降りている
と見ると分かりやすいです。
アーキテクチャ → チップ → コンピュータ → 製造プロセス → ファブ → ファブを作るファブ
という方向です。
そしてこれは、あなたが最近考えている**「AIによって設計だけでなく製造・検証・インフラそのものが再帰的に自動化される」**というテーマともかなり接続します。Fab2は、その物理版のかなり極端な事例です。 (Tom's Hardware)
NVIDIA・Tenstorrent・Cerebras・富士通の歴史
4社を単なる「AIチップ企業」として並べるより、どの計算資源を、どのアーキテクチャで、どの市場に提供してきたかで見ると違いがかなり明確になります。
| 年 | NVIDIA | Tenstorrent | Cerebras | 富士通 |
|---|---|---|---|---|
| 1935 | ― | ― | ― | 富士通創業。通信機器事業から出発 (富士通プレスルーム) |
| 1954 | ― | ― | ― | 日本初の実用リレー式自動計算機 FACOM 100 (富士通プレスルーム) |
| 1977 | ― | ― | ― | 日本初のスーパーコンピュータ開発に成功 (富士通プレスルーム) |
| 1982 | ― | ― | ― | ベクトル型スーパーコンピュータ VP-100/VP-200。後のHPC事業につながる (富士通) |
| 1990年代 | GPUによる3Dグラフィックス市場へ進出 | ― | ― | SPARC64プロセッサ開発。1990年代から独自CPUを継続開発 (富士通) |
| 1993 | Jensen HuangらがNVIDIA創業。3Dグラフィックスを狙う (NVIDIA) | ― | ― | ― |
| 1999 | GPUを発明。単なる3Dアクセラレータから汎用並列計算への道を開く (NVIDIA) | ― | ― | ― |
| 2006 | CUDA発表。GPUを汎用並列計算プラットフォームへ転換 (NVIDIA Docs) | ― | ― | ― |
| 2011 | ― | ― | ― | **京(K computer)**がTOP500で世界1位。SPARC64系CPUを採用 (富士通) |
| 2012 | AlexNetがNVIDIA GPUで学習。GPUコンピューティングがAIへ本格接続 (SEC) | ― | ― | ― |
| 2015 | ― | ― | Cerebras創業。ウェハ全体を1つの巨大プロセッサとして使う構想 (Cerebras) | ― |
| 2016 | ― | Tenstorrent創業。Ljubisa BajicらがAIコンピューティング企業を開始 (Tenstorrent) | Cerebrasが法人化(4月) (Cerebras) | ― |
| 2017 | Tensor Core GPU登場。AI専用演算をGPU内部へ本格統合 (SEC) | ― | ― | ― |
| 2018 | RTX。GPUをレイトレーシング・AI処理へ拡張 (NVIDIA) | ― | ― | ― |
| 2019 | ― | ― | WSE-1 / CS-1発表。ウェハースケール・コンピューティングを商用化 (Cerebras) | ― |
| 2020 | Mellanox買収。GPUだけでなく高速ネットワークを獲得し、データセンター規模へ拡張 (SEC) | ― | ― | 富岳が完成へ。A64FX Arm CPUを採用 (富士通) |
| 2021 | ― | Jim KellerがCEOへ。Grayskull / Wormholeを開発 (Tenstorrent) | ― | 富岳がTOP500 1位。CPU中心のHPCを世界最高水準へ (富士通) |
| 2022 | AI Enterprise、Omniverseなど、GPU+ソフトウェア+システムへ拡張 | RISC-V、AIアクセラレータ、コンパイラなどへ展開 | WSEをAI/HPC用途へ拡大 | 富岳技術をFX1000/FX700などへ展開 |
| 2023 | 生成AIブームでH100/HopperがデータセンターAIの中心へ | Samsung Foundry採用、Rapidusと2nm AIチップで提携 (Tenstorrent) | WSE-2/CS-2世代へ | AI/HPC向けCPU・スーパーコンピュータ技術を継続 |
| 2024 | Blackwell世代へ向けたデータセンター・ネットワーク統合 | Wormhole開発者製品、RISC-V、chiplet戦略を拡大 (Tenstorrent) | WSE-3 / CS-3へ。巨大単一チップ路線を継続 | A64FX、HPC、AI基盤を継続 |
| 2025 | Blackwellを中心にGPU→CPU→Networking→Softwareを統合したAIインフラ企業へ | Blackhole、RISC-V CPU、chiplet、オープンソフトウェアを統合 (Tenstorrent) | ウェハースケール+AIシステム+クラウドへ | 次世代CPU FUJITSU-MONAKAを開発 |
| 2026 | GPUを中心とするフルスタックAIインフラ企業へ。CUDAを基盤にハード・ネットワーク・ソフトを統合 (SEC) | Ascalon S、Blackhole、RISC-V、chiplet、AIシステムへ拡張。日本展開も強化 (Tenstorrent) | 2026年5月14日上場。WSEを中心としたAI推論・学習プラットフォームへ (Cerebras) | FUJITSU-MONAKA。2nm、Armベース、AI~汎用計算を狙う次世代CPU。2027年投入予定 (Fujitsu) |
4社の「進化の方向」はかなり違う
| 企業 | 出発点 | 現在の核心 | アーキテクチャ上の思想 |
|---|---|---|---|
| NVIDIA | 3D Graphics | AIデータセンター | 大量の汎用GPU+CUDA+Networking+Systems |
| Tenstorrent | AIアクセラレータ | AI+RISC-V+chiplet | オープンな計算プラットフォーム |
| Cerebras | 巨大AIプロセッサ | WSE+AIシステム | 「チップを小さくする」の逆を行く |
| 富士通 | 通信・メインフレーム | HPC+CPU+AI | CPU/HPCを極限まで省電力化・高性能化 |
特に面白いのは、NVIDIAとCerebrasが正反対の道を歩んでいることです。
NVIDIAは、
小さなGPUを大量に並べ、NVLink/NVSwitchなどで巨大な計算機にする
方向。
Cerebrasは、
ウェハそのものを巨大な1個のプロセッサにする
方向です。
CerebrasのWSE-3は、同社の説明ではNVIDIA B200チップの58倍の面積、250倍のオンチップメモリ、2,625倍のメモリ帯域を持つとされています。これは「GPUクラスタをさらに巨大化する」のとは別の設計思想です。 (SEC)
一方、Tenstorrentはさらに別の方向で、**「NVIDIAのような垂直統合された閉じたAI計算基盤を、RISC-V・chiplet・オープンソースによって分解できるか」**という挑戦に近い。
そして富士通は、この3社よりはるかに古い歴史を持ち、
FACOM → ベクトル計算機 → SPARC64 → 京 → A64FX → 富岳 → MONAKA
という、約70年にわたる**「計算機そのものを設計する」系譜**があります。 (富士通プレスルーム)
なので、この4社を一本の歴史として見ると、
NVIDIA=GPUを「プラットフォーム」にした会社
Cerebras=チップを「ウェハ」にした会社
Tenstorrent=AI計算を「オープンなコンピュータ」に戻そうとしている会社
富士通=計算機・CPU・HPCを70年以上設計してきた会社
という4つの系譜になります。
これは、先ほどの「AIが100万件の雇用を生んだ」という話ともかなり重要につながります。AI革命の本体を「LLM」ではなく「新しい計算機産業の形成」と見ると、この4社の歴史が一本につながります。
Tenstorrentの歴史
Tenstorrentは、単純な「NVIDIA対抗GPUメーカー」と見ると本質を外します。歴史を追うと、AIアクセラレータ → RISC-V → chiplet → オープンソフトウェア → EthernetでスケールするAIコンピュータへと事業の射程を広げてきた会社です。(Tenstorrent)
2016年:Tenstorrent創業
Ljubisa Bajic、Ivan Hamer、Milos Trajkovicらによって創業。
当初からAI向けコンピューティングを狙った半導体企業としてスタート。
本社はカナダ・トロント。
後に同社の中核となる Tensix 系AIプロセッサの開発へ進む。(Tenstorrent)
2017~2019年:AIアクセラレータの基礎を構築
CPUやGPUとは異なるAI専用プロセッサの設計を進める。
特徴は、単純な行列演算器だけではなく、データ移動・メモリ・ネットワークを含めてAI処理を設計すること。
この時期に後の Grayskull につながるアーキテクチャが形成される。
2020~2021年:Grayskull
第1世代の本格的AIアクセラレータ Grayskull を展開。
「巨大なGPUを作る」のではなく、多数の小さな計算コアをネットワークで接続する思想を採用。
ここでTenstorrent独自の Tensix core + NoC(Network-on-Chip) という方向性が明確になる。(Tenstorrent)
2021年:Jim KellerがCEOに就任
AMDのZen、AppleのAシリーズなど、CPU設計で知られる Jim Keller が経営の中心へ。
Tenstorrentはここから単なるAIアクセラレータ企業ではなく、CPU+AIアクセラレータ+ソフトウェア+システムを統合する会社へ向かう。
Kellerの存在によって、Tenstorrentの「AIチップ」から「次世代コンピュータ」への転換が加速した。(Tenstorrent)
2022~2023年:Wormholeへ
第2世代AIプロセッサ Wormhole を開発。
Grayskullの思想をさらに拡張し、複数プロセッサをネットワークで接続して大規模化する方向へ進む。
重要なのは、GPUのように巨大な専用インターコネクトを前提とせず、Ethernetなど標準的なネットワーク技術を利用してスケールさせる発想だった。
2023年:RISC-V戦略を本格化
TenstorrentはAIアクセラレータだけでなく、RISC-V CPUを自社コンピューティングプラットフォームの重要な構成要素にする。
2023年にはHyundai Motor GroupとSamsung Catalyst Fundなどから1億ドルの戦略的資金調達を実施。(Tenstorrent)
同年、Raja Koduriが取締役に加わるなど、GPU・CPU・AI・半導体設計の人材を集積。(Tenstorrent)
2023年:Samsung Foundry・Rapidusとの連携
次世代AIチップレットをSamsung Foundryで製造する方針を発表。
日本ではRapidusと2nm AIエッジチップ開発で提携。
つまりTenstorrentは、自社工場を持つIDMではなく、先端ファウンドリ+自社アーキテクチャ+chipletというモデルを選択した。(Tenstorrent)
2024年:chiplet企業へ
TenstorrentはRISC-Vだけでなく、chiplet interconnectを戦略の中心に据える。
Arteris、Baya Systems、Movellusなどとの提携を進め、複数のダイを組み合わせてAIコンピュータを構築する方向へ。(Tenstorrent)
さらにRISC-V Architectural Compatibility Suiteをオープンソース公開。13,000以上のテストを含む。(Tenstorrent)
2024年7月:Wormhole Developer Kit
WormholeベースのDeveloper Kit / Workstationを発売。
ここでTenstorrentは「巨大データセンター向けチップ」だけでなく、開発者が実際に購入して触れる開発プラットフォームへ進出。(Tenstorrent)
2024年12月:大型資金調達
Series Dで6.93億ドル超を調達。
Samsung SecuritiesやAFW Partnersなどが主導。
AIアクセラレータのスタートアップから、大規模なAIコンピューティング企業へ移行するための資本を獲得した。(Tenstorrent)
2025年:Blackhole
次世代チップ Blackhole を発表。
RISC-Vコアを組み込み、AI計算だけでなくプロセッサ自身の制御・ネットワーク処理なども含めた設計へ。
2025年4月にはBlackhole PCIeカード、TT-QuietBoxなどの開発者向け製品を発売。(Tenstorrent)
2025年:ソフトウェアをオープン化
Blackholeは TT-Forge、TT-NN、TT-Metalium などのソフトウェアスタックで利用できる。
ここがNVIDIAとの最大の思想的差異の一つ。
NVIDIAがCUDAを巨大な垂直統合プラットフォームとして育てたのに対して、Tenstorrentはハードウェア・コンパイラ・カーネル・SDKのオープン化を強く押し出す。(Tenstorrent)
2025年:Galaxyへ
Wormhole/Blackholeを単体アクセラレータとして売るだけではなく、複数チップをEthernetで接続したGalaxyサーバーへ展開。
2025年には日本でもUnsungFieldsとの提携によって、WormholeベースのAIクラウド構築を進めた。(Tenstorrent)
2025~2026年:AIアクセラレータから「AIコンピュータ」へ
Tenstorrentの製品体系は、
Tensix → RISC-V → chiplet → NoC → Ethernet → Galaxy
という形で階層化されていく。つまり「速いAIチップを1個作る」ことより、多数の計算・メモリ・ネットワーク資源を一つのコンピュータとして扱うことへ重点が移った。
2026年:Galaxy Blackholeを大規模AIシステムへ
2026年4月、TenstorrentはGalaxy Blackholeの一般提供を発表。
32個のBlackholeチップを1台に統合し、Ethernetによってさらにシステムを拡張する構成。
同社はこれを Networked AI と呼び、計算・メモリ・ネットワークを統合したAIインフラとして位置づけている。(Tenstorrent)
2026年:Tenstorrentの現在地
現在のTenstorrentは、もはや「NVIDIAの代替GPU」を作っている会社とだけ捉えるのは難しい。
現在の技術スタックは、
RISC-V CPU
→ Tensix AI accelerator
→ SRAM / memory hierarchy
→ NoC
→ chiplet
→ Ethernet
→ Galaxy
→ オープンソースcompiler/software
という垂直統合されたコンピューティングスタックになっている。(Tenstorrent Documentation)
Tenstorrentの歴史を一行で圧縮すると
「AIチップを作る会社」→「AIプロセッサをネットワーク化する会社」→「RISC-V+chipletでコンピュータを再設計する会社」→「オープンなAIコンピュータを作る会社」
という変化です。
特に重要なのは、Jim Keller加入後に「CPU設計者の発想」がTenstorrentに入ったことです。GPUそのものをNVIDIAと競争するのではなく、CPU・AIアクセラレータ・メモリ・ネットワークを最初から一つのシステムとして設計する方向に変わった、と見ると、Grayskull → Wormhole → Blackhole → Galaxyの連続性がかなり分かりやすくなります。(Tenstorrent)
コメント
コメントを投稿