説明可能AI
説明可能AI（XAI）とは、AIの予測や判断のプロセスを人間が理解できるように説明する技術やアプローチのことです。ブラックボックス化しやすい機械学習モデルの透明性を高め、結果の根拠を明確にすることで、医療や金融などの重要分野でも安心して利用できるようにします。
倫理のAI用語一覧
5件倫理に関するAI用語を5件掲載しています。意味や使い方、関連用語を一覧から確認できます。
説明可能性
説明可能性とは、AIの出力結果や予測の根拠を人間が理解できる形で提示できる性質のことです。ブラックボックス化しやすい機械学習モデルの判断プロセスを可視化し、信頼性の向上や公平性の担保、規制への対応において重要な役割を果たしています。
ガードレール
ガードレールとは、生成AIが不適切な出力や有害なコンテンツを生成しないように制限をかける安全装置のことです。ハルシネーションや機密情報の漏洩を防ぎ、安全で信頼性の高いAI利用を実現するために導入されています。
アライメント問題
AIアライメント問題とは、人工知能の目標や行動が人間の意図や倫理観、価値観と一致するように制御することが困難であるというAI安全性における課題です。AIの性能が向上するほど、予期せぬ行動や誤った最適化のリスクが高まるため、重要な研究分野となっています。
AIリテラシー
AIリテラシーとは、人工知能の基本的な仕組みや特性を理解し、日常生活や仕事で適切に活用するための知識とスキルのことです。生成AIなどの急速な普及に伴い、その限界やリスクを正しく把握し、安全に使いこなす能力として重要性が高まっています。