「会社として、生成AIは使ってはいけないことにしました」。そう決めたのに、社員が個人のアカウントで、こっそり使っている――。そんな状況を、シャドーAIと呼びます。
このコラムでは、「生成AIを業務で使うときに知っておきたい4つのリスク」のうち、「統制の外で使われる」を掘り下げて、「禁止」ではなく「統制」で守る考え方を紹介します。
シャドーAIとは
シャドーAIとは、会社が把握していない、あるいは承認していない生成AIが、仕事で使われている状態のことです。「影(シャドー)」のように、会社の目の届かないところで使われていることから、そう呼ばれます。
これは、次のような困りごとにつながります。
- 何が、どこに入力されているか分からない:機密や個人情報が、会社の知らないところで、外部のサービスに送られているかもしれません。
- 未承認のAIを、業務に使っている:安全かどうかの確認がされていないAIが、仕事に入り込みます。
- あとから確かめられない(監査できない):問題が起きたときに、何が起きたのかを、記録から追えません。
禁止しても、なくならない
「それなら、全面的に禁止すればよい」と考えたくなるところですが、禁止しても、シャドーAIは消えません。生成AIは便利で、仕事の負担が軽くなるため、禁止されても、見えないところで使い続ける人が出てきます。
さらに、禁止はかえってシャドーAIを生んでしまう、という報告もあります。使ってよいAIが用意されていなければ、使いたい人は、自分で探して使うしかないからです。
そうなると、会社は、何が使われているのかをいっそう把握できなくなります。ここで大切になるのが、「使わせない」から「統制する」への発想の切り替えです。
対策:使ってよい環境を用意して、見える形にする
統制のポイントは、次の5つです。
- 使ってよいAIを指定する:会社として承認したAIを決めて、「このAIなら使ってよい」と示します。承認済みのAI以外は使わないルールにします。
- 申請と審査の流れをつくる:新しいAIを使いたいときは、申請して、安全面を審査してから使う、という流れを用意します。例外を認める場合の手続きも決めておきます。
- 教育と周知をする:何を入力してはいけないのか、なぜルールがあるのかを、社員に伝えます。理由が分かれば、守られやすくなります。
- 利用状況を見える形にする:誰が、どのAIを、どのくらい使っているのかを、把握できるようにします。
- 定期的に点検する:ルールが守られているか、使われているAIが変わっていないかを、定期的に見直します。
この5つは、特別な技術がなくても、会社の決まりとして始められるものです。入力する内容のルール(オプトアウトしていれば安心?)や、AIが出した答えの確認(ハルシネーションと出力チェック)とあわせて、全体の統制の一部にします。
便利で、安全に使える環境をつくる
これからの会社の課題は、AIを使わせないことではなく、便利で、かつ安全に使える環境をつくることです。社員が「会社が用意したAIのほうが使いやすい」と思えれば、こっそり使う理由が減ります。
統制は、社員を縛るためのものではなく、会社と社員の両方を守るための仕組みです。
まとめ
シャドーAIは、禁止しても消えません。承認済みのAIの指定、申請と審査、教育、利用状況の可視化、定期的な点検といった「統制」で、便利で安全に使える環境をつくることが、会社に求められています。
「生成AIの社内ルールを、どう決めて、どう運用すればいいか分からない」という段階からでも大丈夫です。SecureHatters では、AIの利用ルールやガイドラインづくりを含めた、セキュリティの課題の整理から、運用まで、セキュリティコンサルティングでご支援します。社員への周知や教育は、セキュリティトレーニングもご覧ください。お問い合わせから、お気軽にご相談ください。