英エンジニアリング大手のアラップは5月、詐欺グループが仕組んだ偽のテレビ会議にだまされ、2億香港ドル（約40億円）の詐欺被害に遭ったことを明らかにした。本物そっくりの社内会議が人口知能（AI）を使って設定され、参加した経理担当社員は指示されるがまま、詐欺グループの管理口座に大金を振り込んだ。生成AIの進化で詐欺が巧妙化。今後は日本が標的になる頻度が増える見通しだ。
「『秘密の取引』について話がある」
香港の警察当局やアラップによると、同社香港オフィスの経理担当社員のもとに最近、アラップ最高財務責任者（CFO）と名乗る人物からこんな1通のメールが届いた。「秘密の取引」について、社内会議への参加を依頼するものだった。
突然の事で経理担当社員は戸惑った。だが会議には複数の同僚も参加しており、安心してしまった。担当者は会議後、偽のCFOからの指示とは知らず、指定口座に約40億円もの大金を振り込むに至った。
会議に参加していた同僚は全てAIで作られた「ディープフェイク」による偽物だった。
従来、偽動画の作成は「GAN（敵対的生成ネットワーク）」と呼ばれる技術を使うのが一般的だった。偽画像をつくる「詐欺AI」と、それを見抜く「探偵AI」の2つのAIが競い、詐欺AIが能力を高めて偽画像の精度を上げる仕組みだ。
だが最近は英スタビリティーAIなど新興勢力の台頭で、偽画像の品質がさらに上がった。同社が2022年に公開したAI「ステーブルディフュージョン」には、拡散モデルと呼ぶ新技術を採用した。
同技術は実際の画像データにノイズを加え、元画像に復元する過程を通じ、生成AIを鍛える仕組み。そうしてできた生成AIが、より質の高い偽画像を作ることを可能にする。
英国では6月、キャメロン外相がウクライナの前大統領になりすました人物にだまされ、偽のテレビ会談を行ったことが明らかになった。これも画像系生成AIの飛躍的な進化が背景にあり、同氏は「失態」と悔やんだ。
関係者を装い、偽の送金指示をメールなどで行うサイバー攻撃は「BEC（ビジネスメール詐欺）」と呼ばれる。米セキュリティー大手のプルーフポイントによると、未遂も含めBECは現在、世界で月間約6600万件が確認されているという。
急増するのが日本だ。日本は23年、前年比35%増と伸び率が世界でトップだった。日本を含め韓国（31%増）やアラブ首長国連邦（29%増）など言語が難解とされる国でBECの上昇が際立つのが最近の特徴だ。
背景について、プルーフポイントのスミット・ダーワン最高経営責任者（CEO）は「従来、（日本など）これらの国では言語が壁となり、『デジタル詐欺師』からは守られてきた。だが生成AIの進化で言語の壁が崩れてきた」と警鐘を鳴らす。
日本でのBECの急増は今後、偽のテレビ会議などを利用した大がかりなAI詐欺の増加を示唆する。
対策として、社内でサイバー攻撃への意識を高めるほか、送金業務は何重にもチェックするなど体制整備が不可欠だ。プルーフポイントではAIを使い、メール文面から詐欺の意図を読み取って排除したり、普段やり取りの少ない人物からの請求書の受領など、異常行動を検知するためにAIの活用を積極化している。（寺岡篤志）
鄭重声明：本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。
