生成AIは、文章を作るだけでなく、メールを送ったり、ファイルを操作したり、ほかのシステムを呼び出したりと、自分で動くことができる使い方が広がっています。こうした、AIに動かせる仕組みを、AIエージェントやプラグインなどと呼びます。
便利な反面、AIが勝手に動いてしまうと、困ることもあります。このコラムでは、「生成AIを業務で使うときに知っておきたい4つのリスク」のうち、「勝手に動く」の考え方を紹介します。
何がリスクなのか
AIエージェントやプラグインで起きやすいリスクは、主に次の2つです。
- 過剰な権限：AIに、必要以上に大きな権限を渡してしまう。
- 利用者の名前での実行：AIの操作が、そのまま利用者本人の名義で実行される。AIが誤った動きをしても、記録の上では、人が操作したことになってしまう。
AIが、誤って（あるいは、文書に隠れた命令に引っ張られて）動いたとき、AIに大きな権限があれば、その分だけ、被害も大きくなります。
基本は、通常のセキュリティ対策と同じ
ここで大切なのは、AIだからといって、特別な新しい対策が要るわけではないことです。権限やアカウントの守り方の基本は、これまでのセキュリティ対策と同じです。
- 最小権限：必要な操作だけを許可し、それ以上は渡しません。
- 多要素認証（MFA）：アカウントの乗っ取りを防ぎます。
- アカウントを個人ごとに管理する：共有のアカウントは使わず、誰の操作かが分かるようにします。
- 管理者権限を制限する：強い権限を持つ人と範囲を、できるだけ絞ります。
- APIキーを守る：AIや外部サービスとつなぐための鍵（APIキー）は、漏れないように管理します。
- ログを取る：誰が、いつ、何をしたかを記録しておきます。
- 定期的に棚卸しをする：使われていないアカウントや、不要な権限が残っていないかを確かめます。
AIに動かせるときに、とくに気をつけたいこと
そのうえで、AIが外部のツールやシステムとつながって動く場合は、次の点を加えて考えます。
- つなぐ先を制限する：使ってよいプラグインやAPIの連携先を、あらかじめ決めておきます。
- できる操作を明確にする：AIに、どの操作まで許すのかをはっきりさせます。
- 読み取り専用から始める：最初は「見るだけ」にして、書き換えや削除ができる権限は、慣れてから、必要なものだけ足します。
- 高リスクの操作は、別に承認する：削除、送信、支払いなど、取り返しのつきにくい操作の前には、人が確認して承認する流れにします。
- 実行のログを残して、あとから確認する：AIが何をしたかを、記録から追えるようにします。
- サンドボックスで試す：本番の環境で動かす前に、影響が外に出ない、隔離した環境で動作を確かめます。
ここで注意したいのは、「AIにやってはいけないと指示する」だけでは、確実には止められないことです。人の確認が仕組みとして入っているツールかどうかを、選ぶときに確かめましょう。
まとめ
AIエージェントやプラグインが、過剰な権限を持ったり、利用者の名前で勝手に動いたりすると、被害が大きくなります。守り方の基本は、最小権限、MFA、個人ごとのアカウント、ログ、棚卸しといった、通常のセキュリティ対策と同じです。そのうえで、つなぐ先の制限、読み取り専用から始める、高リスクの操作は別に承認する、サンドボックスで試す、といった点を加えます。
「AIに、どこまで操作させてよいか、決め方が分からない」という段階からでも大丈夫です。SecureHatters では、AIの利用を含めたセキュリティの課題の整理から、ルールづくり・運用まで、セキュリティコンサルティングでご支援します。お問い合わせから、お気軽にご相談ください。