Constitutional AI（憲法AI）とは、AIモデルの安全性や倫理性を確保するために、人間が事前に定めた「憲法（原則集）」に基づいてAI自身にフィードバックや修正を行わせる手法です。従来のRLHFに伴う人手やコストの削減を図りつつ、有害な出力の抑制とモデルの適切なアライメントを実現する技術として注目されています。
Constitutional AIとは
Constitutional AIとは、人間が定めた規範や原則（憲法）に基づき、AIが自らの出力を評価・修正することで安全性を高める技術です。
詳しく解説
Constitutional AIは、AI開発企業であるAnthropicによって提唱されたアライメント技術です。従来のAI調整では、大量の人間が出力を評価するRLHF（人間からのフィードバックによる強化学習）が主流でしたが、莫大な人手とコストがかかる課題がありました。Constitutional AIでは、まず明文化された原則（憲法）を定義し、大規模言語モデルがその原則に従って自己の回答を自己批判・修正します。その後、AI自身が評価データを作成して学習を進めるRLAIF（AIからのフィードバックによる強化学習）を組み合わせることで、人間の介入を最小限に抑えつつ効率的で一貫性のある安全対策を可能にします。
具体例・使われ方
利用例として、ユーザーから倫理的に問題のある質問や有害なリクエストが入力された際の挙動が挙げられます。AIは定めた原則に照らし合わせ、「不適切な指示には従わないが、なぜ回答できないかを礼儀正しく説明する」といった安全な出力へと自ら修正します。これにより、安全で有益な対話型AIの開発において、不適切な表現の排除やプライバシー配慮の自動化に活用されています。
似た用語との違い
従来のRLHFは人間の評価者が1つひとつの回答に良し悪しをフィードバックするのに対し、Constitutional AIは人間が定めた倫理原則に基づいてAI自身が評価と修正を行います。つまり、RLHFの評価プロセスの一部を自動化し、RLAIFへと進化させた応用手法と言えます。
注意点
Constitutional AIは人間の負担を大幅に減らせる一方で、最初に設定する「原則（憲法）」の設計が不適切だと、AIの判断も偏ってしまうリスクがあります。また、あらゆる文脈や文化的背景に対応できる完全な原則の作成は難しく、予期せぬバイアスや過度の回答拒否が生じる可能性にも注意が必要です。