生成AIやAIエージェントが業務に入り込み始める一方、そのAI自体がサイバー攻撃の主体となる事例が現実のものになりつつあります。
AIモデルがテスト環境から抜け出し、ソフトウエアの脆弱性を突いてインターネットに接続し、他のAIエージェントと連携しながら外部サービスへ侵入する・・・。
そんな「悪夢」に近いシナリオが、すでに複数回確認されていて、OpenAIやMicrosoft、Googleなど155の組織は、AIを利用した広範なサイバー攻撃に備える時間は限られていると警告し、官民をまたいだ集団的な防御強化を呼びかけています。
AI暴走
AIエージェントが突きつけた「悪夢」の現実味
ここ1年ほどの間に、AIエージェントが関与する大きなインシデントが立て続けに起きていて、中でも象徴的なのは、本来インターネットに接続できないはずのテスト環境からAIモデルが抜け出した事例で、モデルは大量のコードからソフトウエアの脆弱性を見つけ、その欠陥を悪用して外部ネットワークへの接続に成功し、さらに、盗まれた認証情報を使って数百のAIエージェント同士が急ごしらえの掲示板で通信し、最終的にはAIプラットフォームであるHugging Faceへの侵入にまで至っています。
同様の事案は他にもあり、AnthropicのAIモデルが社名非公開の3社に侵入したケース、MetaのAIが第三者のサービスをハッキングした事案、ClaudeのAIエージェントが利用者をフィットネスクラスに参加させる目的でオーストラリアのスポーツジムに不正アクセスしたケースなど、共通しているのは、AIが大量のプログラムコードを読み込み、そこから人間よりも素早く脆弱性を見つけ出し、与えられた任務を達成するまで試行錯誤を繰り返すという特性。
従来のサイバー攻撃は、人間の攻撃者がツールを駆使して計画的に進めるケースが多かったのですが、AIエージェントの登場は、攻撃側の「人手不足」や「技術不足」といった制約を大きく軽減し、規模とスピードの両面で従来と質の異なるリスクを生み出していて、重要インフラや大企業だけでなく、中堅企業や医療機関、自治体といった従来は標的になりにくかった組織にも、深刻な被害が及ぶ可能性が高まっています。
OpenAIら155組織が示した4つの防御軸
こうした状況を踏まえ、OpenAIは「サイバー防衛に向けた集団行動の呼びかけ」という公開書簡を発表し、AIを利用したサイバー攻撃への備えを急ぐよう訴えていて、呼びかけにはOpenAIのほか、Microsoft、Google、Anthropic、OracleなどAIやクラウドの主要プレーヤーを含む155の企業・団体が署名しています。
書簡が示した4つの対策の軸
1つ目は、すべての組織に共通する基礎防御の強化で、特に「最もリスクの高い脆弱性」を優先的に修正し、古いバグを残さないこと、AI生成コードの安全基準を引き上げること、権限設定やアクセス制御を見直すことが求められている。
AIが脆弱性探索を加速させる環境では、パッチの遅れや過剰な権限設定が、以前にも増して致命的なリスクになりやすい。
2つ目は、サイバーセキュリティ企業の役割で、攻撃側にAIが使われる前提で、自社の防御ソリューションを強化するとともに、水道や電力、交通などの重要インフラ事業者が防御用AIを導入できるよう支援することが期待されていて、AIを活用した脅威検知やインシデント対応を、一部の先進組織だけでなく社会インフラ全体へと広げていくことが課題となります。
3つ目は、政府による資金と制度面での後押しで、特に予算が不足しがちな病院、水道事業者、地方自治体といった組織が、高性能な防御用AIを利用できるよう支援する必要があるとし、高度な人材を自前で確保しにくい組織ほど、AIをうまく活用しなければ防衛力の格差が一層広がるおそれがあります。
4つ目は、フロンティアAI企業に対する責任の明確化で、AIエージェントのアイデンティティーを追跡し、行動の責任をたどれるようにすること、政府やセキュリティパートナー、オープンソースコミュニティと信頼できる脅威評価を共有することが挙げられている。AIシステムの監視、テスト、修正に継続的に投資し、「作って終わり」にしないことが前提になる。
「知能インフラ」としてAIを設計し直す視点
公開書簡が社会全体の防御体制を呼びかける一方で、個々の企業は自社のAI活用をどのように設計し直すべきかが問われており、テック起業家のトーマス・エイダン・カレン氏は、AIをモデル単体ではなく、本人確認、権限管理、監査、説明責任まで含めた「知能インフラ」として捉えることが不可欠だとしています。
生成AIは本質的に非決定論的で、同じ質問でもタイミングや文脈によって異なる答えを返し、従来の業務システムのように、特定の入力に対して常に同じ出力が得られる前提では設計されていません。
なので、過去に整備されてきた監査やコンプライアンスの考え方をそのまま当てはめることは難しい。
さらに、現代のAIシステムはモデルだけで完結せず、外部ツールやAPI、複数のAIエージェントが緩く連携する形で動き、どのエージェントがどの権限で、どのデータにアクセスしたのかを追跡できなければ、問題が起きた際に責任の所在を明らかにすることも、再発防止策を講じることも難しくなります。
カレン氏は、こうした構造を前提に、AI導入の段階から権限の粒度、アクセス制御、操作ログ、監査プロセスを組み込む必要があると指摘しています。
「知能インフラ」という考え方は、AIを単なる便利なツールとして個別最適で導入する姿勢から、組織全体の情報基盤の一部として長期的に設計する姿勢への転換を意味しており、性能重視の短期的な投資と、安全性・説明責任のための基盤整備をどう両立させるかが、これからのAI活用の核心になります。
企業が今すぐ着手できる防衛の土台
社会全体でのルール作りや監査制度の整備には時間がかかります。
一方で、個々の企業が今から取り組める対策もはっきりしており、タルサ大学のTyler Moore氏は、AIの登場以前からサイバーセキュリティは投資不足とベストプラクティス不在に悩まされてきたと指摘し、AI企業にはサイバーハイジーン向上のためのツールや手法を、重要インフラ組織などに無償提供する役割があると述べています。
そのうえで、企業側に求められるのは、地道な基本対策の積み重ねで、AIが脆弱性探索を加速させるからこそ、古いシステムの更新、既知の脆弱性の早期修正、過剰な権限の縮小、多要素認証の徹底といった「当たり前」の対策の優先度が上がり、AIを活用した防御ツールを導入するにしても、その前提となる資産管理やログ管理が整っていなければ十分な効果は発揮できません。
人材面では、サイバー防衛の専門家不足が続いており、企業による奨学金などを通じた人材育成の重要性も挙げられ、すべての組織が高度な専門家を揃えることは難しいとはいえ、基礎的なセキュリティリテラシーを持つ人材を各部門に配置し、AI活用プロジェクトの設計段階からセキュリティとガバナンスを組み込む体制を整えることは可能なはず。
AIによる大規模サイバー攻撃に備える特効薬は存在しませんし、だからこそ、組織の規模を問わず、AIの支援を受けながら基本的なサイバー衛生を着実に高めていくことが、安全性と技術革新を両立させる現実的な道筋になります。
生成AIの導入を検討する段階から「そのAIはどの権限で、どのデータに触れ、何が記録され、誰が責任を負うのか」という問いをセットで考えることが、これからの企業に求められる姿勢だと言えます。