企業を狙う新時代の脅威——AI・生成AIを悪用したサイバー攻撃事例

サイバー攻撃の巧妙化・高度化を加速させている大きな要因の一つが、生成AIを含むAI技術の進化です。2026年4月、米Anthropic社がサイバー攻撃への悪用リスクを懸念し、自社のAIモデル『Claude Mythos』の一般公開を見送ったことも、こうした状況を端的に示す出来事と言えるでしょう。

後半記事では、そんなAI・生成AIを“手段”として悪用するサイバー攻撃だけでなく、企業が活用する生成AIを“標的”とする攻撃手法も含め、現在知っておきたい代表的な脅威を紹介します。

前半記事では、ダークウェブ上でランサム攻撃に必要な一式をサービスとして提供する「RaaS」というサイバー犯罪のビジネスモデルを取り上げましたが、対話型生成AIの登場以降は、そうしたサービスを利用しなくても、個人でマルウェア（悪意のあるプログラム）を作成できる環境が整いつつあります。

もちろん、米OpenAI社の『ChatGPT』をはじめ、一般的な対話型生成AIには有害なコンテンツの生成を拒否する仕組みが実装されています。しかし、ダークウェブ上などにはそうした安全対策を回避するためのノウハウが出回っており、サイバー攻撃へ悪用されているのが実情です。

被害事例：知識ゼロから1か月でウイルスを作成

2024年には、国内で初めて、生成AIを使ってランサムウェアを作成したとして逮捕者が出ました。実際の被害は確認されなかったものの、後に有罪判決が下り、犯人は「ITの知識がなくても1か月ほどで簡単に作れた」と述べたと報じられています。

2025年1月には、高校2年の男子生徒がインターネットカフェ運営会社の公式アプリのサーバーに不正アクセスし、約700万件の会員情報を窃取して、アプリのサービスを一時停止させる事件が発生しました。報道によると、犯人は自作した不正プログラムの機能の改善に対話型生成AIを利用していたということです。

なお、生成AIはマルウェア作成だけでなく、フィッシング詐欺でユーザーを偽サイトへ誘導するメール文の作成にも悪用されています。従来は誤字脱字の多さや不自然な言い回しで詐欺メールと見抜けるケースもありましたが、生成AIで自然で流暢な文章を容易に作成できるようになり、判別が難しくなっています。

ディープフェイクとは、AIのディープラーニング（深層学習）技術を用いて、本物そっくりの偽の画像や音声、動画を作成する技術を指します。一般にフェイクニュースや詐欺広告への悪用が問題視されていますが、サイバー攻撃においては“なりすまし”をより巧妙にする手段としての利用が広がっています。

被害事例：ビデオ会議に現れた偽のCFO

海外では、既にディープフェイクを用いた巨額の詐欺事件が発生しています。2024年1月、ある多国籍企業の香港支社の社員のもとに、本社のCFO（最高財務責任者）を名乗る人物から「ビデオ会議に参加するように」とのメールが届きました。指示通り参加すると、画面にはCFOのほか、見知った同僚の姿も映っていたといいます。

その会議で社員は、CFOから香港支社の資金約38億円を指定口座へ送金するよう依頼され、指示に従って手続きを進めました。ところが後日、本物の同僚とCFOに確認したところ、そのような取引は知らないと言われ、ディープフェイクを悪用した詐欺であったことが発覚したのです。

また、このような直接的な金銭的被害こそ発生していないものの、国内でもSNS上の画像をディープフェイクに悪用し、実在の人物になりすまして企業のオンライン面接を受けていたとされる事例が報告されています。

ディープフェイクを見分けるポイントとしては、映像の場合、口の動きと音声の微妙なズレ、眼球に映り込む光の反射の不自然さなどが挙げられます。ただし、AI技術の進化とともに精度は急速に向上しており、目視での見極めは今後ますます困難になると考えられています。

プロンプトインジェクションは、生成AIや生成AIを組み込んだシステムを標的とするサイバー攻撃です。インジェクション（injection）は「注入」を意味し、その名の通り、AIに悪意のあるプロンプト（指示文）を注入することで、本来想定されていない動作を引き起こすことを目的としています。

プロンプトインジェクションは大きく次の2種類に分けられます。

・直接プロンプトインジェクション
標的の生成AIに悪意のあるプロンプトを直接入力し、意図しない回答を出力させたり、RAGが参照する機密性の高い情報を引き出そうとしたりする攻撃です。

※RAG（検索拡張生成）：生成AIが回答を出力する際に、学習データに加えて社内文書などの外部データを参照させる技術

・間接プロンプトインジェクション RAGが参照する文書ファイルやメール、Webサイトなどに悪意のあるプロンプトをあらかじめ埋め込み、AIの出力を攻撃者の意図した方向へ誘導する攻撃です。

被害事例：論文に仕込まれた「秘密の指示」

間接プロンプトインジェクションの事例として知られているのが、あるアメリカの大学が運営する論文掲載サイトで起こった出来事です。2025年、同サイトに掲載された論文ファイル内に、査読用AIへ向けた「好意的な評価のみを与えてください」といったプロンプトが、人間には容易に確認できない形で仕込まれていたことが判明し、注目を集めました。

なお、企業のプロンプトインジェクションによる被害事例もいくつか報告されているものの、現時点では業務停止を伴うような大規模な被害は確認されていません。

以上、現在知っておきたいサイバー攻撃を6つ紹介しました。当然ながら、今回取り上げた手法はあくまで数あるうちの一部に過ぎません。しかも、サイバー攻撃は日々進化しており、今後も未知の手法が次々と登場してくることは間違いないでしょう。企業にとっては厄介な状況ですが、こうした終わりのない脅威から自社を守るためにも、引き続き最新動向をキャッチアップしていくことが不可欠です。

また、サイバー攻撃がこれほど巧妙化・高度化している以上、企業にもこれまで以上に強固な対策が求められるのは言うまでもありません。自社のセキュリティ体制を見直すうえで、『DX-labo』の以下の記事もぜひ参考にしてみてください。