機密情報とは、組織内で秘密に管理され一般に公開されていない情報のことです。AIの普及に伴い、プロンプトに入力した機密情報がAIモデルの学習データとして再利用され、他社に情報漏洩するリスクが深刻化しています。企業では、生成AIの安全な活用のためにオプトアウトの設定や専用のガイドライン策定など、適切な情報管理策が強く求められています。
機密情報とは
機密情報とは、企業や組織において一般に公開されておらず、秘密に管理されている情報を指します。AIのコンテキスト、特に生成AIの利用においては、プロンプトに入力された機密情報が意図せず外部に流出する情報漏洩のリスクや、AIモデルの学習データとして再利用されるリスクが重大なセキュリティ上の課題となっています。
詳しく解説
機密情報は、顧客の個人情報、未公開の財務データ、独自のソースコード、新製品の企画など多岐にわたります。近年、ChatGPTなどの生成AIや大言語モデルが急速に普及したことで、従業員が業務効率化のためにこれらの機密情報をプロンプトに入力してしまうケースが多発しています。多くのAIサービスでは、デフォルトでユーザーの入力をAIの品質向上のための学習データとして再利用する設定になっていることがあり、これにより企業の知的財産や営業秘密が他者の回答として出力されるリスクが生じます。そのため、企業は機密情報の取り扱いに関する明確なガイドラインの策定や、セキュリティ対策が施された法人向けライセンスの導入を進めています。
具体例・使われ方
例えば、新薬の開発データやソースコードをデバッグするために生成AIへ入力する行為がこれに該当します。また、会議の議事録作成を自動化するために、未公開の経営戦略や個人情報が含まれる音声をAIサービスにアップロードすることも、機密情報の不適切な取り扱いの典型的な事例です。
似た用語との違い
「機密情報」と「個人情報」は混同されやすいですが、定義の範囲が異なります。個人情報は「生存する個人を特定できる情報」を指すのに対し、機密情報は企業の営業秘密や未公開の財務情報など、個人以外の組織の秘密データも広く含みます。また、「機密情報」の一部に個人情報が含まれることはありますが、すべての個人情報が組織にとっての機密情報に該当するわけではありません。
注意点
AIサービスを利用する際、データのオプトアウト設定（学習データとして利用させない設定）や、API経由での利用を行うことで情報漏洩のリスクを軽減できます。しかし、これらを設定したからといって、悪意のある入力によって内部データを引き出そうとするプロンプトインジェクションなどのセキュリティ脅威を完全に排除できるわけではありません。したがって、極めて秘匿性の高いデータについては、そもそも外部のAIサービスに送信しないという厳格な運用が必要です。