数値表現のAI用語一覧

BF16

BF16とは、Googleが開発した16ビットの浮動小数点数形式です。AIのディープラーニングにおいて、学習と推論の高速化とメモリ削減を実現しながら、従来のFP16で問題になりがちだった数値のオーバーフローを防ぐことができるため、現代の大規模言語モデルの訓練などで広く採用されています。