VRAMからの解放とメモリ階層の再設計:AFM 3がもたらすポストGPU時代の計算機アーキテクチャ #AI #Apple #Semiconductor
VRAMからの解放とメモリ階層の再設計:AFM 3がもたらすポストGPU時代の計算機アーキテクチャ #AI #Apple #Semiconductor 不揮発性記憶(NAND)への知能沈没がもたらすエッジAIの民主化と、垂直統合型ロックインの地政学 本書の要旨 現代の人工知能(AI)開発は、グラフィックス・プロセッシング・ユニット(GPU)と高帯域メモリ(HBM)という、極めて高価かつ電力を浪費する物理層の呪縛に囚われています。本書は、2026年現在のAI半導体の限界を、計算機アーキテクチャの歴史から再定義し、ソフトウェアとハードウェアの協調設計(コ・デザイン)によってその呪縛を突破する道筋を論じます。 その中心に位置するのが、Appleが発表した第3世代のオンデバイスAI基盤「AFM 3 Core Advanced」です。本作は、200億パラメータ級の巨大モデルを、メインメモリ(DRAM)ではなく安価な不揮発性ストレージ(NANDフラッシュ)に配置し、必要最小限のエキスパートのみをミリ秒単位でオンデマンドに引き出す「不揮発的思考(Non-volatile Cogitation)」を実現しました。本書は、この「知能を沈める」という思想が、いかにして従来の計算機科学のパラダイムを塗り替え、シリコンバレーの覇権図を書き換えるのかを精緻に論証します。 本書の目的と構成 本書の目的は、単なる最新ガジェットの技術解説ではありません。ハードウェアとアルゴリズムの境界が消失しつつある現代において、「知能を実行するための最小物理コストとは何か」を科学的に突き詰めることにあります。 全九部で構成される本プロジェクトのうち、前半部分となる本稿(第一部から第四部)では、まず現行システムが直面している「VRAM(ビデオメモリ)の物理的・経済的限界」を暴き、次にAFM 3が採用した「NANDストリーミング」の内部挙動を分析します。そして、かつて葬り去られたIntel Optaneなどのストレージ・クラス・メモリ(SCM)の亡霊を呼び戻し、不揮発性ストレージ(NAND)を計算の主軸に据える「ランタイム中心主義」への移行プロセスを完了します。 登場人物紹介(2026年時...