最新セキュリティマネジメント（第64回） 生成AIが作る「偽物の上司」に注意

　2024年、英エンジニアリング大手アラップの香港拠点で、2億香港ドル（当時のレートで約40億円）に及ぶ詐欺被害が発生した。「極秘取引」を装うメールを受けた従業員が、ビデオ会議で送金を指示されたのだ。会議には英国拠点の最高財務責任者（CFO）や同僚が映っていた。従業員は5つの口座へ15回に分けて送金してしまう。会議で本物だったのは、その従業員ただ1人。他の参加者は生成AI（Generative AI）で作られた偽物、ディープフェイクだった。ディープフェイクは見破りにくい上、最近では手軽に、安価に利用できるようになってきている。中小企業も狙われかねない。今回はこのような詐欺の手口と対策を概説する。

ディープフェイク詐欺とは？

　ディープフェイクとは、「ディープラーニング」（深層学習）と「フェイク」（偽造）を組み合わせた言葉だ。AIや機械学習を用いて、実在する人物の顔や声を模倣し、偽造する技術をさす。実際には本人が言っていない言葉を、言ったように見せかけられる。

　この技術を悪用し、経営者や上司になりすまして送金などを指示するのが、ディープフェイク詐欺である。

なぜだまされ、なぜ容易にだませるのか

　生成AIが普及した今、詐欺への悪用が増えている。企業の社長や役員、上司などの顔や声を偽造し、ビデオ会議や電話を通じて送金や口座変更などの指示を出す、といったやり口だ。その他、人事担当者を装って個人情報を聞き出したり、IT管理者を装ってパスワードを聞き出したりする例もある。独立行政法人情報処理推進機構（IPA）は「情報セキュリティ10大脅威 2026」を公表した。組織向けの3位には「AIの利用をめぐるサイバーリスク」が初めて入っている。

1．だまされやすい理由

　最新のAI技術を使えば、本人の声や表情の細かな癖まで再現できるため、偽物だと見破りにくい。人は、文章よりも音声や動画の内容を直感的に信じてしまう傾向があるといわれる。顔や声が本人のものだと思えば、内容を疑わなくなりがちだ。

　加えて、役員や上司という上位の人間から「至急」「極秘」などと言われれば、社員は急かされて冷静な判断が難しくなる。普段の承認手続きを省略し、送金などを実行してしまう。

　また、テレワークの普及により、上役と直接対面せずに大きな案件を動かす機会が増えた。この変化も、なりすましが疑われにくくなった一因といえる。

2．容易にだませる理由

　ディープフェイクの技術は進歩している。数秒から数分程度の音声サンプルがあれば、特定の人物の話し方を再現できるとされる。音声サンプルは講演動画や通話録音などから集められる。こうした生成技術はクラウドサービスなどで手軽に、安価に使えるようになってきた。詐欺の実行コストが下がっているのだ。

3．さまざまな手口

　攻撃者は、講演動画などの公開情報や盗み出した内部情報を基に、社内の指示系統を推測する。その上で、財務面などの上役と見られる人物の顔や声を偽造する。社内の案件情報を盗み、本物の案件の一部であるかのような指示を出して、疑われにくくするやり口も見られる。

詐欺だけでは終わらない被害

　ディープフェイクによる被害は、お金や情報を奪う詐欺ばかりではない。攻撃者が自社の役員の顔と声で偽の発言をさせたり、偽の不祥事の動画を作ったりして、会社の信用を傷つけるケースもある。eKYC（電子的本人確認）での顔認証を突破されたり、リモートでの採用面接でなりすましをされたりする悪用も懸念されている。

今すぐできる最初の一手

　これまで述べたように、ディープフェイクで作られた偽の顔や声は見破りにくく、技術的な検知も容易ではない。そこで現実的なのが、業務ルールによる歯止めだ。幹部の顔や声による指示だけでは、重要な案件を動かせないようにする。たとえ「至急」「極秘」であっても例外は認めない。低コストで始められる。ITの問題ではなく、業務の進め方の問題として捉えたい。

表1　「偽物の上司」からの指示を止める4つのルール

1．正規の連絡先へ折り返す

　具体的には、まず、電話やビデオ会議での指示をうのみにせず、安全な別の経路で確認するようにしよう。社内で正規に登録されている上役の連絡先へ折り返し連絡し、内容を再確認するのがよい。その際、あらかじめ上役と決めておいた合言葉を使うのも効果がある。

　ただ、合言葉が外部へ漏えいしないよう、端末や情報共有システム上には保存せず、紙や口頭で共有しよう。また、結果的に本物の上役だったとしても、疑った社員を非難しない企業文化を育てたい。

2．承認ルールを工夫する

　高額の送金や、口座変更後の初回の送金など、リスクが高いときには必ず複数人の承認を求めるルールを設けるのもよい。あるいは、変更後の口座はすぐには利用せず、一定の期間は待機する方法も考えられる。

3．事後対処を決めておく

　詐欺が実際に発生した場合の対処も、あらかじめ決めておきたい。初動が早ければ、被害金を回収できる可能性が高くなる。まず送金元の金融機関へ連絡し、送金停止や組戻しを要請しよう。その次に警察や専門調査機関、弁護士などに連絡・相談するとよい。

　証拠を保全するため、通話記録や会議録画などを残しておくのも欠かせない。当該詐欺を社内や取引先に周知して二次被害を防ぐとともに、原因を振り返って再発防止に向けた対策を考えよう。

4．情報システム部門の役割

　情報システム部門にも打ち手がある。上記のような承認ルールを、ワークフローシステム上に組み込むのがその1つだ。できれば、自社の役員の顔や声を生成AIで模倣したサンプルを作りたい。従業員に見聞きさせ、その精巧さや見破りにくさを実感してもらおう。「百聞は一見にしかず」である。

　前述の折り返し連絡などの業務手順を、実際にやってみる訓練も実施したい。ディープフェイクと組み合わせて悪用される社内情報の漏えいも防ぎたい。認証の強化や、社内外を問わず全ての通信を検証するゼロトラストの考え方を進めるのも有効だろう。

よくある質問（FAQ）

Q1．ディープフェイクを見破るツールを導入すれば防げますか？

　検知ツールは研究と製品化が進んでいるが、それだけに頼るのは危険だ。生成技術と検知技術はいたちごっこの関係にあり、新しい生成手法には検知が追いつかない。導入と運用のコストも中小企業には重い。まずは、幹部の顔や声による指示だけでは重要な案件を動かさないという業務ルールを整えたい。検知ツールは、その補完と位置付けるのが現実的である。

Q2．中小企業でも本当に狙われますか？

　規模の小ささは安全の根拠にならない。生成ツールが安価に使えるようになり、攻撃側の手間とコストが大きく下がったためだ。加えて、取引先を足がかりに大企業へ侵入する経路として、中小企業が狙われる場合もある。IPAの「情報セキュリティ10大脅威 2026」でも、組織向けの2位に「サプライチェーンや委託先を狙った攻撃」が入った。「AIの利用をめぐるサイバーリスク」は3位である。

Q3．ルールを作っても、経営層が「至急だから」と例外を求めてきたらどうしますか？

　例外を認めた時点で、ルールは機能しなくなる。攻撃者が使う言葉こそ「至急」「極秘」だからだ。経営層が率先して手順を守る姿勢を示したい。併せて、承認ルールをワークフローシステムに組み込み、個人の判断に依存させないようにする。急ぎの案件ほど、折り返し連絡の一手間が会社を守る。

※掲載している情報は、記事執筆時点のものです。