積和演算
積和演算(MAC)とは、乗算(掛け算)を行った結果を、特定の値に加算(足し算)していく計算処理のことです。ディープラーニングの重み付けや行列積の計算において大量に実行されるため、AI処理の高速化を左右する最も基本的な演算子となっています。GPUやNPUなどのハードウェアでは、積和演算を効率的に処理する専用ユニットが備わっています。
ハードウェアに関するAI用語を197件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は8ページ目です。
積和演算(MAC)とは、乗算(掛け算)を行った結果を、特定の値に加算(足し算)していく計算処理のことです。ディープラーニングの重み付けや行列積の計算において大量に実行されるため、AI処理の高速化を左右する最も基本的な演算子となっています。GPUやNPUなどのハードウェアでは、積和演算を効率的に処理する専用ユニットが備わっています。
ブレイン・マシン・インターフェース(BMI)は、脳と外部機器を直接接続し、脳信号を用いてコンピュータやロボットなどを操作する技術です。医療や福祉分野での身体機能の再建から、エンターテインメントや業務効率化まで幅広い応用が期待されています。近年は人工知能や機械学習との融合により、脳信号の解読精度が劇的に向上しています。
メモリバスとは、AIの学習や推論を実行するプロセッサとメインメモリの間でデータを転送するための伝送路です。データ転送の帯域幅を決定づける主要な要素であり、近年の巨大なAIモデルにおいて処理速度を左右する重要なボトルネックとなります。
NVLinkは、NVIDIA社が開発したGPU間を高速で接続するための独自インターフェース技術です。従来のPCIe接続に比べて極めて広い帯域幅を持ち、複数のGPUを密に連携させて1つの巨大な仮想GPUとして機能させることができます。大規模言語モデル(LLM)などの大規模なAIモデルの学習や推論を高速化するために不可欠な基盤技術です。
GPU仮想化は、物理的な1台のGPUリソースを分割または集約し、複数の仮想マシンやコンテナで効率的に共有する技術です。リソースの無駄を省き、高価なGPUの利用効率を最大化できるため、AIモデルの開発やディープラーニング、クラウドサービスなど幅広い環境で導入が進んでいます。
ニューロモーフィック・チップとは、人間の脳の神経回路網を模倣して設計された次世代の半導体プロセッサです。従来のコンピュータとは異なり、イベント駆動型で並列処理を行うことで、極めて低い消費電力でのAI処理やリアルタイム学習を実現する技術として注目を集めています。
NVIDIAは、画像処理や並列計算に優れたGPUを中心とするアメリカの主要な半導体メーカーです。独自の並列計算プラットフォームであるCUDAや高性能な半導体技術を提供し、ディープラーニングや生成AIの開発を支える世界的なインフラ基盤として重要な役割を果たしています。
INT8とは、AIモデルの重みや活性値を通常の32ビット浮動小数点数から8ビット整数へ変換し、精度を保ったまま高速化と省メモリ化を実現する量子化技術です。
ニューロモルフィック・チップとは、人間の脳の神経回路網(ニューロンとシナプス)を模倣した次世代の半導体プロセッサです。従来のコンピュータとは異なり、情報処理とメモリ保持を同じ場所で行うことで、圧倒的な超低消費電力とリアルタイム処理を実現します。エッジAIやセンサーデータの即時処理などでの活用が期待されています。
汎用型量子コンピュータとは、特定の計算だけでなく任意のアルゴリズムを実行可能な次世代の量子計算機です。物理的エラーの訂正機構を備え、現在のスーパーコンピュータを大きく超える処理能力を実現すると期待されています。
NISQデバイスとは、量子エラー訂正を持たない数十から数千量子ビット程度の小〜中規模な過渡期の量子コンピュータです。ノイズの影響を受けるため万能ではありませんが、量子機械学習や最適化問題などで古典コンピュータと協調して実用的な計算を行う研究が進められています。
GPUパススルーとは、ホストOSを介さず仮想マシンに物理GPUを直接割り当てる技術です。これにより仮想化環境でも高い描画性能やAIの機械学習・推論処理速度を実現し、クラウド上で効率的な演算リソースの活用が可能になります。
アクチュエータとは、制御システムからの電気信号を受けて物理的な運動や力を生み出す駆動装置のことです。AIやロボット工学において、頭脳であるAIが導き出した判断を現実世界に反映させるための手足として不可欠な役割を担っています。
TSV(シリコン貫通ビア)は、シリコンダイを垂直に貫通する電極を用いて複数のチップを立体的に接続する技術です。AIの進化に伴い膨大なデータを高速かつ省電力で処理するため、GPUやHBMなどのAI半導体において不可欠な基盤技術として広く活用されています。
混在精度演算とは、ディープラーニングのモデル訓練や推論において、FP32などの高精度なデータ型とFP16などの低精度なデータ型を組み合わせて計算を行う技術です。計算速度の向上とメモリ消費量の削減を同時に実現し、モデルの予測精度低下を最小限に抑えながら学習効率を劇的に高めることができます。
AI半導体とは、機械学習やディープラーニングの膨大な計算を効率的に処理するために特化した半導体チップです。従来の汎用的なCPUに比べ、並列処理能力や省電力性に優れており、生成AIの開発やデータセンター、エッジデバイスにおいて不可欠な基盤技術として急速に普及しています。
ニューロモーフィック・コンピューティングとは、人間の脳の神経回路網構造や情報処理の仕組みを模倣した次世代のコンピュータ技術です。従来のフォン・ノイマン型アーキテクチャの限界を超える省電力性と超並列処理を実現し、エッジAIの進化を支える技術として期待されています。
メモリボトルネックとは、プロセッサの処理速度に対してメモリのデータ転送速度が追いつかず、システム全体の性能向上が制限される現象です。特に膨大なパラメータを高速に処理するAIやディープラーニングの分野において、GPUの演算能力を十分に引き出せない大きな要因となっており、ハードウェア設計やモデル最適化における重要な課題となっています。
量子アニーリングマシンは、量子力学の現象を利用して膨大な選択肢の中から最適な組み合わせを見つけ出す特殊な計算機です。物流の効率化や金融ポートフォリオの最適化など、従来のコンピュータでは解くのが難しい複雑な組合せ最適化問題を高速に処理する目的で開発されています。
ハーバード型アーキテクチャとは、プログラム命令用のメモリとデータ用のメモリを物理的または論理的に独立して配置する計算機構造のことです。命令の読み込みとデータの読み書きを同時に処理できるため処理効率が高く、高速化が求められるDSPや最新のAIアクセラレータなど幅広いプロセッサ設計で応用されています。
AIインフラとは、人工知能の開発や機械学習モデルの訓練、大規模言語モデルの推論などに必要な計算資源、データセンター、ネットワーク機器、ストレージなどの総称です。膨大なデータを高速に処理するため、通常のシステムとは異なる高度な基盤が求められます。
混合精度演算とは、AIの学習や推論においてFP16(半精度浮動小数点数)とFP32(単精度浮動小数点数)などの異なる数値精度を組み合わせて計算する手法です。計算速度の向上とメモリ使用量の削減を達成しながら、モデルの予測精度低下を最小限に抑えることができます。ディープラーニングの計算を効率化する標準技術です。
サイドチャネル攻撃とは、システムの計算処理に伴って発生する処理時間、消費電力、電磁波などの物理的な副作用を観測・解析することで、内部の秘密情報やデータを不正に割り出す攻撃手法です。AI領域では、エッジAI機器などで動作する機械学習モデルの構造やパラメータ、推論データを特定・盗用する脅威として注目されています。
光学センサーとは、光の物理量を電気信号に変換して検出するデバイスです。AIの分野ではカメラやLiDARなどの基盤技術として、自動運転や画像認識システムにおける外界の視覚情報の取得に不可欠な役割を担っています。