自衛のためのサイバー攻撃の仕組み講座（AI時代・エンジニア水準）

区分4 AIとエージェントを狙う攻撃★★

No.13 攻撃者がAIで速くなった所と、守る側がAIで追いつく方法

攻撃者がAIで速く安くなったのは、新しい攻撃が生まれたからではなく、これまで人手と時間がかかっていた作業が安くなったからです。守る側もAIで追いつけます。この回はさらっと読んで、区分5の「守りを回す仕組み」へのつなぎにしてください。数字は2026年10月時点の公式発表のものです。
目次
  1. 第0章 前提知識
  2. 第1章 攻撃者がAIで速く安くなった所
  3. 第2章 守る側がAIで追いつく方法
  4. 自分の環境を点検する
  5. 確認問題

第0章 前提知識

① 言葉の意味

② この回の立ち位置 さらっと

AIの話は、派手な事例に引っ張られがちです。 この回は、「何が速くなったか」と「それでも変わらないこと」を仕組みの水準で分けます。

攻撃の手順やAIの悪用の具体的なやり方は、扱いません。 説明できる側に立つために必要なのは、どの作業が安くなったかの地図だけです。

第1章 攻撃者がAIで速く安くなった所

① 「文章」と「量」の壁が下がった 必ず覚える

AIが一番得意なことは、自然な文章を大量に作ることです。 攻撃者にとって、文章を書く作業は大きな手間でした。

作業 以前 AIがある今
日本語の詐欺文を作る 不自然な言い回しで見抜かれやすかった 自然な文が一瞬で何通りも作れる
相手ごとに文面を変える 手作業なので数に限りがあった 相手の公開情報に合わせて数千通り作れる
偵察の整理 人が資料を読んで整理した 大量の情報を要約・分類できる
他の言語・業界への展開 翻訳と下調べが必要だった 言語や業界の壁が低い

つまり、「不自然な日本語で見抜く」という古い目印は使えなくなりました。 見抜く手がかりは、文面ではなく送り主・URL・求めている動作に移っています（No.04で詳しく扱いました）。

② 作業の自動化が進んだ事例 必ず覚える

2025年11月、Anthropic は自社の報告で、AI（Claude Code）を使った大規模な攻撃の企てを公表しました。 報告によると、次の点が特徴です。

ここから分かることは3つあります。

  1. 人手のかかっていた中間の作業（探す・試す・整理する）が自動化されている
  2. 一方で、AIの幻覚や判断の間違いは、攻撃にも影響する
  3. 守りの観点では、AIに道具を持たせる使い方（No.10・No.11）自体が、攻撃者の道具にもなる

3つ目は、あなたの普段の道具と同じ構造だと意識してください。

③ 速くなったのは「見つけて悪用するまで」 必ず覚える

脆弱性（ソフトの弱点）が公開されてから、悪用されるまでの時間は短くなっています。 AIは、修正の差分の読解や、設定の確認の自動化を手伝うため、公開された弱点を試す作業が安くなります。

守る側にとっての意味は1つです。 「そのうち更新しよう」の待ち時間が、そのまま危険な時間になる。

更新の速さを、人の気合いではなく仕組みで決めておく必要があります（区分5で扱います）。

④ 変わらないこと さらっと

AIが加わっても、攻撃の骨格は変わりません。

だから「AIの攻撃は防げない」という話は、半分間違いです。 速さと量が上がったので、基本の抜けが見つかる確率が上がった、が正確です。

第2章 守る側がAIで追いつく方法

① 人の速さで競わない 必ず覚える

攻撃の速さに、人が目で追って対抗するのは難しいです。 追いつく方法は、繰り返しの作業を自動化して、人は判断に回ることです。

守りの作業 AIにできること 人が残す判断
設定の棚卸し 設定ファイルを読んで、強すぎる権限を表にする どれを弱めるか
依存の確認 ロックファイルを読み、既知の問題を一覧にする 更新の優先順位
コードの点検 変更箇所を読んで、弱点らしい所を指摘する（Claude Code の /security-review など） 指摘が本当かの確認
ログの読み取り 大量のログから、普段と違う動きを拾う 本当に攻撃かの判断
怪しいメールの仕分け 送り主・URL・求める動作を整理する 返信するかどうか

Anthropic の報告も、守る側がセキュリティの運用でAIを試すことを勧めています。

② AIを使うときの3つの線 必ず覚える

守りにAIを使うときは、AI自身を弱点にしないための線を引きます。

  1. 渡さない物を決める：利用者の名前・記録の中身・鍵は、クラウドのAIに渡さない。id と件数など、中身を持たない形に変えて調べる
  2. 書き込みの権限は渡さない：点検役のAIには、読み取りだけを渡す
  3. AIの答えは裏を取る：幻覚があるので、「問題なし」の答えを根拠にしない。重要な指摘は人が実物で確認する

③ 3つの順番 さらっと

何から手を付けるか迷ったときは、次の順です。

  1. 認証を強くする（パスキー・2段階認証。No.06）
  2. 更新と控えの仕組みを作る（No.14）
  3. AIによる点検と検知を足す（No.15）

AIは、土台が固まった上で効きます。土台が抜けたままAIの点検を足しても、見つかった問題を直す人手が足りなくなります。

自分の環境を点検する

読むだけの点検です。

  1. 自分の環境で「更新が遅れている部品」を3つ挙げる（OS・WordPress のプラグイン・npm の依存など）
  2. それぞれ、更新の頻度を決める（例：週1回、毎月）
  3. 1つだけ、AIに点検を頼める作業を選ぶ。そのとき、渡す物と渡さない物を書き出す

頼み方の例：「このフォルダの設定ファイルを読んで、強すぎる権限を表にして。読むだけで、書き換えない。鍵や個人名は出力に含めない」

AIで安く速くなったのは、文章・偵察・試す作業。攻撃の骨格は変わらず、基本の抜けが見つかる確率が上がった。守る側は、繰り返しの作業をAIに任せて人は判断に回る。AIには読み取りだけ、渡さない物を決め、答えは裏を取る。

確認問題

問1　AIの普及で、詐欺メールを見抜く手がかりとして使いにくくなったのはどれですか？

問2　Anthropic の2025年11月の報告で、AIによる攻撃の限界として挙げられている点はどれですか？

問3　守りのためにAIに設定の点検を頼むとき、最も適切なのはどれですか？

出典（2026年10月時点で確認）：Anthropic「Disrupting the first reported AI-orchestrated cyber espionage campaign」（https://www.anthropic.com/news/disrupting-AI-espionage）／IPA「情報セキュリティ10大脅威 2026」（https://www.ipa.go.jp/security/10threats/10threats2026.html）／MITRE ATLAS（https://atlas.mitre.org/）／OWASP Top 10 for LLM Applications 2025（https://genai.owasp.org/llm-top-10/）

← 前へ次へ →