ノイマン型アーキテクチャとは、CPU、メモリ、入出力装置を備え、プログラムとデータを同じメモリ領域に格納して順次実行するコンピュータの基本構造です。現代の多くのAI処理を支える基盤技術ですが、AIの高速化においてはデータ転送のボトルネックが課題となっています。
ノイマン型アーキテクチャとは
ノイマン型アーキテクチャとは、1945年にジョン・フォン・ノイマンらが提唱した、現代のコンピュータの基礎となるハードウェア設計概念です。
詳しく解説
コンピュータを「演算装置」「制御装置」「記憶装置」「入力装置」「出力装置」の5つの基本要素に分け、プログラム（命令）とデータを同一のメモリ（記憶装置）に格納して逐次処理する仕組みを持ちます。この構造は汎用性が高く、あらゆるソフトウェアを柔軟に実行できるため、長年にわたり主流のコンピュータ設計として採用されてきました。しかし、AIの学習や推論など膨大な並列計算を行う現代においては、CPUとメモリの間でデータを往復させる際の転送速度が処理性能の限界を引き起こす「ノイマン・ボトルネック」が大きな課題となっています。
具体例・使われ方
一般的なPCやサーバー、スマートフォンだけでなく、AIモデルの学習や実行を行っている多くの汎用GPUを搭載したシステムも、基本的にはノイマン型アーキテクチャをベースにした周辺回路やメモリ構成の上で動作しています。
似た用語との違い
プログラムとデータを同じメモリに置くノイマン型に対し、それぞれ別のバスとメモリを用意する「ハーバード型アーキテクチャ」という方式が存在します。ノイマン型は汎用的なAI処理ソフトの切り替えや開発の容易さに優れていますが、ハーバード型は命令とデータを同時に読み出せるため特定の組込み処理などで有利です。
注意点
ノイマン型アーキテクチャ自体はAI専用に設計されたものではないため、ディープラーニングのように大規模な並列演算を必要とする処理では、メモリ帯域がボトルネックとなりエネルギー効率や処理速度が低下しやすい点に注意が必要です。