ビット反転
ビット反転とは、コンピュータ上のデータ最小単位である「0」と「1」が意図せず、あるいは意図的に入れ替わる現象や操作のことです。AI分野では、モデルの量子化誤差やハードウェアの故障、さらには意図的な敵対的攻撃の文脈で重要となります。
安全性のAI用語一覧
5件安全性に関するAI用語を5件掲載しています。意味や使い方、関連用語を一覧から確認できます。
運行設計領域
運行設計領域（ODD）とは、自動運転システムが安全に作動するためにあらかじめ設定された条件の範囲のことです。道路の種類、天候、速度、時間帯などの環境条件が定義され、AIはこの領域内でのみ自動運転を行います。
ブランドセーフティ
ブランドセーフティとは、企業の広告や生成AIの出力が、不適切・有害なコンテンツと結びつくのを防ぎ、ブランド価値を守る取り組みです。AI分野では、対話型AIの差別発言やハルシネーションによる信用失墜を防ぐため、AIアライメントやコンテンツフィルタリングなどの技術を用いて多層的な防御策を講じます。
形式検証
形式検証とは、数学的な手法を用いてAIやソフトウェアの仕様が正しいことを厳密に証明するプロセスです。AIのブラックボックス性を補う安全性の保証手段として、自動運転や医療などの高信頼性が求められる領域で注目されています。
ミニマム・リスク・マヌーバー
ミニマム・リスク・マヌーバーとは、自動運転システムに異常が発生した際や安全な運行が困難になった場合に、事故を回避するために自動で行われる最小限のリスクを伴う退避行動のことです。危険を最小限に抑えながら車両を安全に停止させる技術として、自動運転の安全性確保に不可欠な機能です。