シャドーAIは「禁止」すると増える?統制で守るという考え方

「会社として、生成AIは使ってはいけないことにしました」。そう決めたのに、社員が個人のアカウントで、こっそり使っている――。そんな状況を、シャドーAIと呼びます。

このコラムでは、「生成AIを業務で使うときに知っておきたい4つのリスク」のうち、「統制の外で使われる」を掘り下げて、「禁止」ではなく「統制」で守る考え方を紹介します。

シャドーAIとは

シャドーAIとは、会社が把握していない、あるいは承認していない生成AIが、仕事で使われている状態のことです。「影(シャドー)」のように、会社の目の届かないところで使われていることから、そう呼ばれます。

これは、次のような困りごとにつながります。

  • 何が、どこに入力されているか分からない:機密や個人情報が、会社の知らないところで、外部のサービスに送られているかもしれません。
  • 未承認のAIを、業務に使っている:安全かどうかの確認がされていないAIが、仕事に入り込みます。
  • あとから確かめられない(監査できない):問題が起きたときに、何が起きたのかを、記録から追えません。

禁止しても、なくならない

「それなら、全面的に禁止すればよい」と考えたくなるところですが、禁止しても、シャドーAIは消えません。生成AIは便利で、仕事の負担が軽くなるため、禁止されても、見えないところで使い続ける人が出てきます。

さらに、禁止はかえってシャドーAIを生んでしまう、という報告もあります。使ってよいAIが用意されていなければ、使いたい人は、自分で探して使うしかないからです。

そうなると、会社は、何が使われているのかをいっそう把握できなくなります。ここで大切になるのが、「使わせない」から「統制する」への発想の切り替えです。

対策:使ってよい環境を用意して、見える形にする

統制のポイントは、次の5つです。

  • 使ってよいAIを指定する:会社として承認したAIを決めて、「このAIなら使ってよい」と示します。承認済みのAI以外は使わないルールにします。
  • 申請と審査の流れをつくる:新しいAIを使いたいときは、申請して、安全面を審査してから使う、という流れを用意します。例外を認める場合の手続きも決めておきます。
  • 教育と周知をする:何を入力してはいけないのか、なぜルールがあるのかを、社員に伝えます。理由が分かれば、守られやすくなります。
  • 利用状況を見える形にする:誰が、どのAIを、どのくらい使っているのかを、把握できるようにします。
  • 定期的に点検する:ルールが守られているか、使われているAIが変わっていないかを、定期的に見直します。

この5つは、特別な技術がなくても、会社の決まりとして始められるものです。入力する内容のルール(オプトアウトしていれば安心?)や、AIが出した答えの確認(ハルシネーションと出力チェック)とあわせて、全体の統制の一部にします。

便利で、安全に使える環境をつくる

これからの会社の課題は、AIを使わせないことではなく、便利で、かつ安全に使える環境をつくることです。社員が「会社が用意したAIのほうが使いやすい」と思えれば、こっそり使う理由が減ります。

統制は、社員を縛るためのものではなく、会社と社員の両方を守るための仕組みです。

まとめ

シャドーAIは、禁止しても消えません。承認済みのAIの指定、申請と審査、教育、利用状況の可視化、定期的な点検といった「統制」で、便利で安全に使える環境をつくることが、会社に求められています。

「生成AIの社内ルールを、どう決めて、どう運用すればいいか分からない」という段階からでも大丈夫です。SecureHatters では、AIの利用ルールやガイドラインづくりを含めた、セキュリティの課題の整理から、運用まで、セキュリティコンサルティングでご支援します。社員への周知や教育は、セキュリティトレーニングもご覧ください。お問い合わせから、お気軽にご相談ください。