AI安全性のAI用語一覧

アライメント問題

AIアライメント問題とは、人工知能の目標や行動が人間の意図や倫理観、価値観と一致するように制御することが困難であるというAI安全性における課題です。AIの性能が向上するほど、予期せぬ行動や誤った最適化のリスクが高まるため、重要な研究分野となっています。