バイアス
バイアスとは、AIや機械学習において予測値と正解値の間に生じる系統的なずれ、またはデータの偏りによって生じる予測の不公平性のことです。統計学的にはモデルの表現力不足による誤差を指し、AI倫理では人間社会の偏見を反映した差別的な判定を指します。公平なAIを構築するには、学習データの選定から評価まで各段階でバイアスを監視・排除する対策が重要です。
AI倫理のAI用語一覧
49件AI倫理に関するAI用語を49件掲載しています。意味や使い方、関連用語を一覧から確認できます。
公平性
AIにおける公平性とは、アルゴリズムや機械学習モデルが特定の属性（性別、人種、年齢など）に基づいて不当な偏見や差別的な予測・判断を行わない状態を指します。学習データに含まれるバイアスを削減し、すべてのユーザーや対象者に対して均等かつ適切な利益や機会の分配を行うことが求められます。
アルゴリズムバイアス
アルゴリズムバイアスとは、AIシステムや機械学習モデルが、学習データの偏りや設計上の問題により、特定のグループに対して不公正で差別的な判断や予測を出力してしまう現象を指します。AI倫理の観点から社会的影響が大きく、公正性の確保が重要な課題となっています。
データバイアス
データバイアスとは、AIの学習用データに偏りがあることで、出力結果や判断に不公正な歪みが生じる現象です。歴史的な偏見や収集方法の偏りが原因となり、機械学習モデルの精度低下や公平性の欠如を引き起こすため、AI倫理の観点からも重要な課題となっています。
セーフティフィルター
セーフティフィルターとは、生成AIにおいて有害や不適切なコンテンツの入力・出力を検知し、自動的に遮断・修正する安全制御機構です。差別的発言、犯罪の助長、個人情報漏洩などのリスクを防ぐためのガードレールとして機能し、ユーザーからの入力プロンプトとAIの出力データの双方をリアルタイムで監視してシステムの安全性を担保します。
誤情報
AI分野における誤情報とは、生成AIなどが事実とは異なる不正確な情報を誤って生成・拡散してしまう現象やそのデータを指します。もっともらしい嘘を出力するハルシネーションとも深く関連し、情報の信頼性を損なう重大な課題として対策が進められています。
プライバシー
AI開発や利用において、個人の個人情報や機密データを保護するための概念と技術です。機械学習モデルの学習データに個人情報が混入することや、生成AIが機密情報を漏洩するリスクを防ぐために、厳格なデータ管理とプライバシー保護技術が求められています。
商用利用
商用利用とは、生成AIやソフトウェア、データなどを企業活動や利益を目的とする事業で利用することを指します。AIモデルや学習データのライセンス条件によって商用利用の可否が異なり、違反すると法的なトラブルにつながるため事前の確認が不可欠です。
ブラックボックス問題
AI（特にディープラーニング）の意思決定プロセスや予測の根拠が、人間にとって複雑すぎてブラックボックス（不透明）になってしまう問題。これにより、AIが出した結論の信頼性や公平性の検証が難しくなり、医療や金融などの重要分野での導入において、説明責任や安全性の観点から大きな課題となっています。
セキュリティホール
セキュリティホールとは、ソフトウェアやAIシステムにおける設計上の欠陥やプログラムの不具合によって生じる安全上の弱点のことです。攻撃者がこの弱点を悪用することで、不正アクセスや情報の漏洩、システムの乗っ取りなどの被害が発生する危険性があります。AIモデルにおいてはプロンプトインジェクションやデータ汚染などの新たな脅威に関連して注目されています。
フィルターバブル
フィルターバブルとは、AIやアルゴリズムが個人の好みや過去の閲覧履歴に合わせて情報を取捨選択し提供した結果、ユーザーが自分と異なる意見や新しい情報から隔離され、偏った情報空間に囲まれてしまう現象のことです。
AI倫理
AI倫理とは、人工知能の研究・開発・利用において、人類の福祉や人権を損なわないよう守るべき道徳的・倫理的な指針や原則のことです。AIがもたらすプライバシー侵害やバイアスによる不当な差別、意思決定の透明性の欠如といった社会的課題に対処し、安全で公平なテクノロジー社会を実現するためのガイドラインとして重要視されています。
アライメント
AIアライメントとは、人工知能の目的や行動を人間の意図、価値観、および倫理的な基準に一致させる技術やプロセスのことです。大型言語モデルなどのAIが誤った情報や有害なコンテンツを出力しないように制御し、人間の安全と利益に沿って安全に機能させるために重要なAI倫理の研究分野となっています。
透明性
AIの透明性とは、モデルの予測根拠や内部の仕組みが人間にとって理解しやすく開示されている状態を指します。ブラックボックス問題への対策として、信頼性向上や説明責任の観点からAI開発において不可欠な要素となっています。
説明可能なAI
XAIとは、AIの予測や判断の根拠を人間が理解できるように説明する技術やアプローチのことです。ブラックボックス化しやすいディープラーニングなどのモデルにおいて、透明性を高め、信頼性や公平性を確保するために重要視されています。
ヘイトスピーチ
人工知能や大規模言語モデルにおけるヘイトスピーチとは、人種、宗教、性別、国籍などに基づいて特定の集団や個人を攻撃・差別する表現を指します。AIが差別的な出力をしないよう、有害性検出モデルを用いたフィルタリングやアライメント技術による対策が不可欠です。
データプライバシー
データプライバシーとは、個人に関する情報がどのように収集、共有、利用されるかを管理し、個人の権利を守る考え方です。AI開発においては、学習データに含まれる個人情報の保護やプライバシー侵害を防ぐために非常に重要な要素となります。
アジャイルガバナンス
アジャイルガバナンスとは、変化の激しいAI技術の発展スピードに合わせて、柔軟かつ迅速にルールや規制を更新・適応させていく管理手法です。従来の固定的な規制に代わり、リスク評価と改善を継続的に行うことで、イノベーションと安全性の両立を目指します。
AIガバナンス
AIガバナンスとは、人工知能の安全かつ倫理的な開発と利用を目的とした管理体制やルールの総称です。AIリスク管理やAI法規制の整備が進む中、企業はコンプライアンス遵守と社会的責任を果たすために不可欠な枠組みとして導入を進めています。
スーパーインテリジェンス
スーパーインテリジェンスとは、科学的創造性や全般的な知恵、社会的スキルなど、ほぼ全ての分野において最も優れた人間の知性を遥かに凌駕する仮想上の人工知能です。汎用人工知能の先の段階として議論されており、技術的特異点（シンギュラリティ）との関連や、安全に制御するための技術倫理的な研究が世界中で進められています。
リスクアセスメント
リスクアセスメントとは、AIシステムの開発や運用に伴って生じる潜在的な危険や不利益を特定し、その影響度や発生確率を分析・評価する一連のプロセスです。公平性の欠如、誤情報の生成、情報漏洩などの問題を事前に把握し、適切な対策を講じることで、安全かつ信頼性の高いAI活用を実現するために不可欠な取り組みです。
コンプライアンス
AIにおけるコンプライアンスとは、開発や運用において国内外の法律や業界ガイドラインを遵守する取り組みです。著作権侵害やプライバシー保護、公平性の確保など、多岐にわたる法的・倫理的リスクに対応するために不可欠なプロセスとなっています。
オプトイン
オプトインとは、AI開発やデータ収集において、あらかじめユーザーからの明確な同意を得る仕組みです。プライバシー保護やデータガバナンスの観点から、AIモデルの学習データ利用や個人情報の収集で重要視されています。
利用規約
利用規約とは、AIサービスを提供する事業者と利用者の間で交わされるルールを定めた合意文書です。生成AIの普及に伴い、入力データの機械学習への利用可否や、出力された生成物の著作権の帰属、商用利用の可否など、AI特有の重要な権利や免責事項が規定されています。トラブル回避やセキュリティ確保のため、サービス利用前の確認が不可欠です。