AIモデルの学習や運用において外部への漏洩が許されない、個人情報や知的財産、企業の機密情報などの総称。AIの利用拡大に伴い、モデルへの入力や学習データに機密データが含まれることによる情報漏洩リスクへの対策が重要視されており、データ匿名化や安全な実行環境の整備が必要です。
機密データとは
機密データとは、許可された者以外への開示や公開が、法的な規制、契約、または組織の内部規定によって制限されている極めて秘匿性の高い情報のことです。
詳しく解説
人工知能（AI）技術の発展に伴い、大規模言語モデルなどの学習や推論にどのような情報を入力するかが重要な課題となっています。機密データには、顧客の個人情報、医療記録、企業の財務情報、未公開のソースコード、特許関連の技術文書などが含まれます。これらがAIモデルの学習データとして無防備に取り込まれると、AIが生成する回答を通じて第三者に情報が漏洩するリスク（データ漏洩）が生じます。このため、データ送信時の暗号化だけでなく、データ匿名化の実施や、学習にデータを使用しない設定の適用、社内専用のプライベート環境でのAI構築など、極めて厳格な管理が求められています。
具体例・使われ方
具体例としては、製薬会社が新薬開発AIに入力する独自の化合物データ、金融機関が不正検知AIに分析させる顧客の取引履歴、医療機関が診断支援AIの精度向上のために提供する患者のカルテ情報などが挙げられます。また、企業が自社専用の対話型AIを構築する際に、外部に公開できない社内規定や業務マニュアルを学習させる場合、これらはすべて機密データとして扱われます。
似た用語との違い
「個人情報」は生存する特定の個人を識別できる情報に限定されますが、「機密データ」は個人情報だけでなく、企業の営業秘密や国家の機密事項など、個人に紐づかない重要な組織情報も幅広く含みます。また、「暗号化データ」は技術的に保護された状態のデータを指すのに対し、「機密データ」はデータそのものの重要度や取り扱い制限の格付けを示す言葉です。
注意点
外部のAIシステムやAPIサービスを利用する際、「入力データを取り込まない」と明記されている設定（オプトアウト）を選択していても、サーバーへのデータ送信自体は発生するため、インフラの脆弱性による漏洩リスクを完全に排除することはできません。また、AIが一度機密データを学習（ファインチューニングなど）してしまうと、そのデータのみをモデルから完全に消去することは技術的に困難であるため、入力前の段階で確実に排除するなどの予防策が不可欠です。