説明可能性のAI用語一覧

ブラックボックス

AIや機械学習モデルにおいて、入力と出力の関係性は確認できるものの、内部でどのような計算や判断が行われているのか人間には内部構造が直接見えない状態を指します。特にディープラーニングなどの複雑なモデルで顕著に見られます。