ソフトエラー
ソフトエラーとは、宇宙線中性子や放射性物質からのアルファ線などが半導体メモリやプロセッサに衝突し、回路の物理的な破損を伴わずにデータが一時的に反転する現象です。AIの学習や推論における計算ミスを引き起こす要因となります。
AIハードウェアに関するAI用語を5件掲載しています。意味や使い方、関連用語を一覧から確認できます。
ソフトエラーとは、宇宙線中性子や放射性物質からのアルファ線などが半導体メモリやプロセッサに衝突し、回路の物理的な破損を伴わずにデータが一時的に反転する現象です。AIの学習や推論における計算ミスを引き起こす要因となります。
推論速度とは、学習済みのAIモデルが入力データを受け取ってから予測や生成などの処理結果を出力するまでにかかる速さのことです。主に遅延時間(レイテンシ)や単位時間あたりの処理量(スループット)で評価され、リアルタイム性が求められる対話型AIや自動運転、エッジデバイスでの実用性を左右する重要な指標となります。
ベアメタルとは、ハイパーバイザなどの仮想化レイヤーを介さず、物理サーバーのハードウェアを直接利用するシステム環境です。AI開発やディープラーニングにおいては、GPUやメモリの性能を限界まで引き出し、処理遅延を最小限に抑えられるため、大規模な機械学習モデルの計算基盤として高く評価されています。
ノイマン・ボトルネックとは、CPUとメモリ間のデータ転送速度がプロセッサの演算速度に追いつかず、システム全体の性能が制限される現象です。AIの発展に伴い、LLMなどの大規模モデル処理における大きな課題となっています。
ワイヤボンディングとは、半導体チップの電極と外部基板の端子を細い金属ワイヤで電気的に接続する実装技術です。AIアクセラレータや各種電子機器の半導体パッケージングにおいて長く使われてきた標準的な手法です。低コストで信頼性が高い一方、AI処理に必要な高密度化や高速伝送への対応には限界があり、先進的パッケージング技術への移行が進んでいます。