生成AIに文章を入力するとき、「学習に使われない設定（オプトアウト）にしているから、情報は漏れない」と考えていませんか。たしかにオプトアウトは大切な設定ですが、それだけで安心できるわけではありません。
このコラムは、「生成AIを業務で使うときに知っておきたい4つのリスク」で紹介した4つのうち、「漏らす・漏れる」を掘り下げる記事です。
オプトアウトとは
多くの生成AIサービスには、入力した内容をAIの学習（モデルの改善）に使わせない設定があります。これをオプトアウトと呼びます。逆に、学習に使うことを許可する設定がオプトインです。
「自分が入れた情報が、AIの賢さの材料として使われ、別の人への回答に出てきてしまうのでは」という心配に対して、オプトアウトは有効な手立てです。ただし、ここで注意したいのは、「学習に使わない」ことと「どこにも残らない」ことは別だということです。
オプトアウトしても、守りきれないこと
1. 一時的な保存は残ることがある
学習に使わない設定にしていても、サービスの運用のために、入力した内容が一定の期間、システム上に保存されることがあります。学習に使われないことと、まったく保存されないことは、同じではありません。
2. 外部連携やAPIから漏れることがある
オプトアウトが効くのは、あくまでそのAIサービスへの入力に対してです。AIを別のツールやシステムとつなげて使う（外部連携やAPI連携）場合、つないだ先でどう扱われるかは、オプトアウトの設定ではコントロールできません。
3. 出力した成果物から漏れることがある
AIが作った要約や文章（出力した成果物）の中に、入力した機密情報がそのまま含まれてしまうこともあります。できあがった成果物を、確かめずに社外に共有したり、別のシステムに登録したりすれば、そこから情報が広がってしまいます。
なぜ、オプトアウトだけでは足りないのか
オプトアウトは「学習への利用」に対する対策です。一方で、情報が漏れる経路は、学習利用だけではありません。どこに保存されるのか、誰に渡りうるのか（第三者提供）、どのくらいの期間残るのか——こうした点は、オプトアウトとは別に、一つひとつ把握しておく必要があります。
つまり、「オプトアウトしたから大丈夫」ではなく、「そもそも、何を入れてよくて、何を入れてはいけないのか」を決めておくことが出発点になります。
対策：入力の段階と、データの扱いの両方で守る
入力の段階で守る
- 入れてはいけない情報を決める：顧客の個人情報、社外秘の資料、契約に関わる情報などは、外部のAIサービスに入力しない、というルールをつくります。
- 機密区分ごとに、使ってよい範囲を決める：情報の重要度に応じて、「このAIサービスには、この区分までなら入れてよい」という線引きをします。
- マスキングやフィルタリングを使う：どうしても入力が必要な場合は、個人名や固有の情報を伏せる（マスキングする）、入力前に機密情報が含まれていないか確認する、といった仕組みを取り入れます。
データの扱いの面で守る
- 保存先・学習利用・第三者提供を把握する：使っているサービスが、入力した内容をどこに保存し、学習に使うのか、第三者に渡ることがあるのかを確認します。
- 保持期間を管理する：どのくらいの期間データが残るのかを把握し、不要になったものは残さないようにします。
- 暗号化・匿名化・仮名化を検討する：保存するデータの暗号化や、個人を特定できないようにする処理を取り入れます。個人情報はマスキング、特に機密性の高い情報については、準同型暗号や秘密計算といった、暗号化したまま扱える技術があることも知っておくとよいでしょう。
- 委託先を管理する：AIサービスを外部に委託して使う場合は、委託先が適切にデータを扱っているかを確認します。
まとめ
オプトアウトは、生成AIを安全に使うための大切な設定ですが、それだけで情報漏えいを防げるわけではありません。一時的な保存、外部連携、出力した成果物など、学習利用とは別の経路からも情報は漏れうるからです。
「オプトアウトしたか」だけでなく、「何を入れてよいか」「データがどこに、どのくらい残るか」まで含めて考えることが、情報を守る近道になります。
「生成AIに何を入れてよいのか、社内のルールをどう決めればいいかわからない」という段階からでも大丈夫です。SecureHatters では、AIの利用を含めたセキュリティの課題の整理から、ルールづくり・運用まで、セキュリティコンサルティングでご支援します。お問い合わせから、お気軽にご相談ください。