「安全なAI」は存在しない。完全に防ぐより、減らして管理する

生成AIを安全に使うために、どんな対策をすれば、リスクをなくせるのでしょうか。結論から言うと、リスクを完全になくすことはできません。「安全なAI」は、存在しないと考えておいたほうがよいでしょう。

このコラムは、「生成AIを業務で使うときに知っておきたい4つのリスク」から続けてきたシリーズのまとめです。残るリスクと、それでも安全に使うための考え方を整理します。

対策をしても、残るリスク

対策をしても、次のようなリスクは残ります。

  • 幻覚・誤情報(ハルシネーション):AIは、もっともらしい間違いを、つねに起こしうるものです。(くわしくはこちら)
  • プロンプトインジェクション:読み込ませた文書に紛れた命令に、AIが引っ張られる問題は、完全には防げません。(くわしくはこちら)
  • 利用者の過信:「AIが言うのだから正しい」と思い込み、確認しなくなります。
  • シャドーAI:会社が把握していないAIの利用は、禁止しても消えません。(くわしくはこちら)
  • ベンダー内部の不透明さ:AIサービスを提供する会社の内部で、データがどう扱われているかは、利用者からは見えにくいままです。

つまり、守りを固めても、「危険が残る」ことを前提に使う必要があります。

だから、完全に防ぐより、「減らして、管理する」

リスクをゼロにできないなら、AIを使わないのが正解なのでしょうか。そうとも限りません。禁止すれば、かえってシャドーAIが増える、という報告もあります。

大切なのは、危険が残ることを認めたうえで、リスクを減らし、管理しながら使うことです。1つの対策で完璧に防ごうとするのではなく、いくつもの対策を重ねます。これを多層防御と呼びます。ひとつの層が破られても、ほかの層で止める、という考え方です。

6つの視点を重ねる

生成AIの守りは、次の6つの視点で整理できます。

視点主な対策
入力のチェック機密情報の入力制限、個人情報のマスキング、社外秘データの持ち込み禁止
出力のチェック人の確認(Human-in-the-loop)、事実確認、機密の混入確認、公開前のレビュー、著作権の確認
権限・アカウントの保護最小権限、多要素認証(MFA)、共有アカウントの禁止、APIキーの保護、利用者の棚卸し
データの保護・プライバシー保存データの暗号化、学習利用の制御、保持期間の管理、匿名化・仮名化、委託先の管理
外部連携・ツール実行プラグインや連携先の制限、読み取り専用から始める、高リスク操作は別に承認、実行ログ、サンドボックスでの検証
利用の統制・シャドーAI対策承認済みAIのみ利用、利用ルールの整備、例外の申請、利用状況の可視化、定期的なレビュー

それぞれの視点は、これまでのコラムで掘り下げています。

まとめ

生成AIのリスクは、ゼロにはできません。幻覚、プロンプトインジェクション、利用者の過信、シャドーAI、ベンダー内部の不透明さは、残る前提で考えます。だからこそ、入力・出力・権限・データ・連携・統制の6つの視点を重ねて、リスクを減らし、管理しながら使う「多層防御」が大切です。

「うちの場合、どこから手をつければよいのか」という段階からでも大丈夫です。SecureHatters では、AIの利用を含めたセキュリティの課題の整理から、ルールづくり・運用まで、セキュリティコンサルティングでご支援します。お問い合わせから、お気軽にご相談ください。