生成AIのセキュリティを考えようとして、「何を参考にすればよいのか」で迷うことはないでしょうか。AIのセキュリティについては、いくつもの文書があり、それぞれ、見ている場所が違います。
このコラムでは、「生成AIを業務で使うときに知っておきたい4つのリスク」のシリーズの補足として、AIセキュリティを考えるときに参考になる3つの文書と、その組み合わせ方を紹介します。
1つの文書だけでは足りない
最初に押さえておきたいのは、1つの文書だけで、AIのセキュリティ全体は見渡せないということです。技術的な弱点、攻撃する側の動き、会社としての管理――見る角度が変わると、見えるものも変わります。
そこで、角度のちがう3つを組み合わせて考えるのが有効です。
3つの文書と、それぞれの役割
OWASP LLM Top 10:脆弱性・技術的なリスク
AIの仕組みに、どんな弱点(脆弱性)や技術的なリスクがあるのかを整理した文書です。「AIのシステムの、どこが危ないのか」を知る入口になります。
MITRE ATLAS:攻撃者の視点・攻撃手法
攻撃する側が、AIに対してどんな手法を使うのかを、攻撃者の視点で整理した文書です。「どう攻められるのか」を考えるときの手がかりになります。
NIST AI RMF:組織としての管理(ガバナンス)
AIのリスクを、組織としてどう管理するかという観点でまとめた文書です。「会社として、どんな体制やルールで、AIのリスクと向き合うのか」を考えるときに役立ちます。
3つを組み合わせて、立体的に見る
3つの文書を並べると、役割のちがいが分かりやすくなります。
| 文書 | 見ている角度 | 考えるときの問い |
|---|---|---|
| OWASP LLM Top 10 | 脆弱性・技術的なリスク | どこに弱点があるか |
| MITRE ATLAS | 攻撃者の視点・攻撃手法 | どう攻められるか |
| NIST AI RMF | 組織の管理・ガバナンス | 会社としてどう管理するか |
技術的な弱点だけを見ても、攻撃者の動きだけを見ても、会社の管理だけを見ても、全体は分かりません。3つを重ねることで、AIのセキュリティを立体的に見ることができます。
ほかにも、参考になる文書がある
ここで紹介した3つのほかにも、参考になるものがあります。たとえば、Google の SAIF、Microsoft のガイダンス、AIのマネジメントシステムに関する規格の ISO 42001、EU のAI規制(EU AI Act)などです。目的や立場によって、どれが役に立つかは変わるため、会社の状況に合わせて選びます。
なお、各文書の中身は、更新されることがあります。実際に使うときは、それぞれの公式の情報で、最新の内容を確かめてください。
文書を読むだけでは、守りにならない
こうした文書は、考える材料になりますが、読んだだけでは、会社の守りにはなりません。大切なのは、自社でAIをどう使っているのかを確かめて、どのリスクが当てはまるのか、何から手を打つのかを決めることです。
そのときは、これまでのコラムで紹介した、入力のルール(オプトアウト)、出力の確認(ハルシネーション)、権限の管理(AIエージェント)、利用の統制(シャドーAI)が、具体的な対策の入口になります。
まとめ
AIセキュリティを考えるときは、1つの文書だけに頼らず、脆弱性(OWASP LLM Top 10)、攻撃者の視点(MITRE ATLAS)、組織の管理(NIST AI RMF)の3つを組み合わせて、立体的に見ることが役立ちます。
「どこから手をつければよいのか分からない」という段階からでも大丈夫です。SecureHatters では、AIの利用を含めたセキュリティの課題の整理から、ルールづくり・運用まで、セキュリティコンサルティングでご支援します。お問い合わせから、お気軽にご相談ください。