AIを活用したフィッシング攻撃の背景

従来の標的型メール攻撃では、攻撃者は手作業で会社の組織図やSNS情報を調査し、説得力のあるメール本文を作成していました。この過程には時間と人手がかかるため、攻撃の規模は限定的でした。

一方、生成AIモデルの登場により、攻撃者は数秒で数千通の個人化されたフィッシングメールを生成できるようになりました。メール本文の自然さや文法的正確さも従来比で飛躍的に向上し、従業員の判別が困難化しています。

AI生成フィッシングメールの特徴と手口

大規模言語モデルによる自動メール生成

攻撃者がChatGPTやClaudeのような大規模言語モデルに「日本の中堅製造業の経理部員に送信する緊急金銭振込メールを作成せよ」と指示すると、数秒で数パターンの自然なメール本文が生成されます。この生成メールには個人的なミスがなく、従来の自作メールで見られた文法的な不自然さや段落の乱れがありません。

さらに攻撃者は「日本の大手銀行のドメインになりすまして」「会長の署名スタイルに合わせて」といった条件を付加することで、組織内の信頼を悪用するメールを秒単位で生成できます。

ディープフェイク動画による経営層なりすまし

ビジネスメール詐欺の効果をさらに高めるため、攻撃者はディープフェイク技術を用いて経営層の音声や映像を生成しています。「会長から緊急電話があった」という名目で、実は合成された音声ファイルを従業員に聞かせ、振込指示を強化するという手口が報告されています。

ディープフェイク生成の精度が高まった結果、従業員が「会長からの電話だから間違いない」と判断してしまい、詐欺に応じる確度が劇的に上昇しています。特にVoIP環境で通話を受けた場合、発信者の認証が困難なため、検証なく受け取ってしまう傾向があります。

実際に報告されているAI活用攻撃事例

2024年以降、複数の国内企業がAI生成フィッシングメール、またはディープフェイク音声を用いたビジネスメール詐欺の被害を受けています。

事例1：AI生成メールによる大量配信型フィッシング

ある大手IT企業の営業部門には、一日のうちに同じ送信元アドレスから複数パターンの異なるフィッシングメールが到着しました。件名や本文が微妙に異なり、一見すると複数の攻撃者による同時攻撃に見えました。

後の分析で判明したのは、攻撃者が自分たちが準備した大規模言語モデルに「営業向けの緊急連絡メールを50パターン生成せよ」と指示し、その50パターンすべてを機械的に配信していたということです。従業員の一部が件名の違いに気づかず、リンクをクリックしてしまいました。

事例2：ディープフェイク音声を用いたBEC詐欺

ある製造業の経理部員は、会長からの着信を受け、「新規取引先への緊急振込が必要」という指示を受けました。会長の声紋が本物と酷似していたため、疑問を持たず振込手続きを進めてしまいました。

振込後、実は合成された音声だったことが判明しました。攻撃者は事前に公式動画から会長の音声を抽出し、ディープフェイク音声生成ツールで「振込指示メッセージ」を作成していました。通話の際に会長が通常と異なる話し方をしていた可能性もありますが、会長の実名と声紋という確実な信頼要素の前に、従業員の判断力は働きませんでした。

従来のセキュリティ対策が効きにくい理由

AI生成フィッシングメールは従来のメール検知システムにとって新たな脅威です。メール検知システムは一般的に以下の方法で不正メールを検知してきました。

スパムフィルタリングとキーワード検知は、既知の悪質なキーワードやフレーズを検出する仕組みです。しかしAI生成メールはこうした既知のパターンを避けるように文を変える能力があり、フィルタを回避するメールが増加しています。

ドメイン検証（SPF、DKIM、DMARC）も、正規ドメインからのメールのなりすましを防ぐしくみですが、細部が異なるドメイン詐称メール（1文字違いドメインなど）には対応できません。

重要なのは「人的判断」です。従来は従業員の注意深さと訓練により、疑わしいメールを識別してきました。しかしAI生成メールが自然で説得力を持つようになると、この人的防御も限界を迎えます。

AI攻撃への対策構築

多層防御の重要性の再認識

AI生成フィッシングメールに対応するには、「人・技術・プロセス」の3層防御を強化する必要があります。人的訓練だけでなく、技術的検知の多層化と、組織プロセスの厳格化が同時に必要です。

金銭振込に関するルール強化

ビジネスメール詐欺は金銭を目的とするため、振込指示が来た場合は必ず別の手段で本人確認を取るというプロセスを絶対化することが重要です。「会長からのメール」「通常と同じメールアドレス」という判断基準では不十分で、メールと電話、対面など複数の手段による確認が必須になります。

ディープフェイク検知技術の導入

音声や映像のなりすまし対策として、ディープフェイク検知ソリューションの導入を検討する企業が増えています。これらのツールは、合成された音声や映像の微細な不自然さを自動検知します。ただし完璧ではなく、検知技術と人的確認の両立が現実的です。

従業員訓練の内容刷新

標的型メール訓練に「AI生成メールの識別」という要素を加える企業が増えています。従来の「文法的な誤り」「不自然な敬語」といった訓練内容では、自然で正確なAI生成メールには対応できません。

新しい訓練では「送信元ドメインの確認方法」「重要指示時の別手段確認」「メールの内容的矛盾を見つけるチェックリスト」といった、AI生成メールの巧妙さを前提とした内容に刷新することが重要です。

よくある質問

まとめ

AI技術の悪用により、フィッシング攻撃の精度と規模が劇的に向上しています。AI生成メールは文法的な誤りがなく、ディープフェイク音声は発信者認証を無力化します。従来の従業員訓練や従来のメール検知システムだけでは対応が困難な新時代に入ったと認識する必要があります。

対応策は技術的検知の強化だけではなく、組織プロセスの厳格化（金銭振込時の別手段確認）、従業員訓練の内容刷新、そして多層防御の実装が同時に必要です。特にビジネスメール詐欺対策として、経営層を含めた組織全体が「電話や対面での確認を徹底する」というシンプルながら有効なルール定着が、現状では最も実効的な対策といえます。

参考：FBI IC3 Business Email Compromise Report 2024、IPA「情報セキュリティ10大脅威2026」、複数セキュリティベンダーのAI攻撃分析レポート