意見：偽造動画詐欺がこれまでにないほど愛と信頼を利用しています

AIによる詐欺が増えてきており、サイバー犯罪者たちはディープフェイク技術を使って、被害者を操作する説得力のあるビデオや画像を作成しています。ブラッド・ピットに協力していると信じていたフランスの女性から、高品質のディープフェイクによって説得された被害者まで、現実と欺瞞の境界があいまいになってきています。AIツールが進化するにつれて、リスクも同様に進化しています。

多くの人々が今年の1月にニュースで目にしたでしょう：フランスの女性は、彼女がお金をブラッド・ピットに渡していると信じ、彼と1年以上も交際していたと思い込んでいたために、詐欺師に85万ドル以上を騙し取られました。

詐欺師たちは、高度な生成型人工知能を用いて「セルフィー」を作成し、証拠を捏造しました。53歳で離婚中のデザイナー、アンヌという彼らの犠牲者を、緊急な医療ニーズを抱えた偽のピットの悲劇的な物語に説得しました。彼らは、彼の資金がアンジェリーナ・ジョリーからの離婚によって凍結されていると主張しました。

アンヌは、数百万の嘲笑、侮辱、仮想攻撃に直面しつつも、勇敢でリスキーな決断を下し、自分の話を公にしました。彼女はフランスのYoutubeショーで、「私は馬鹿のように支払った… 彼を疑うたびに、彼は私の疑いを消し去ることができた」と語りました。BBCが報道したように。「私はただ騙された、それを認めます、そしてそのために私は前に出てきたのです、なぜなら私だけではないからです。」

彼女だけではありません。数ヶ月後、スペインの警察は、ブラッド・ピットを装って他の2人の女性をだました5人を逮捕しました。数日前には、中国の男性もまた騙されました。彼は、オンラインの彼女が医療行為とビジネス資金のためにお金が必要だと信じ込まされました。

被害者たちは、ネット上では手に入らないパーソナライズされたビデオや写真を受け取り、それが彼らの詐欺師たちの精巧な嘘をさらに確信させました。

最近のEntrustからの報告によれば、ディープフェイクの試みが5分ごとに起こっているという。毎日、生成AIを使った詐欺の被害者が現れています。何千人、あるいは何百万人もの人々が借金と恥にまみれて、それを当局に報告するどころか、公にすることすら恐れているという現状は、特に憂慮すべき傾向です。

ディープフェイク詐欺の増加

複数の研究と報告がAIによる詐欺やサイバー攻撃の増加について警鐘を鳴らしています。最近のTrustPairの2025年詐欺トレンドと洞察からのデータでは、AIによる詐欺が前年比118%増加したと、CFOが報告しています。

こんにちは、声のセキュリティとパフォーマンスソリューションに特化したアメリカの企業、Hiyaが最近、調査結果を公開しました。それによると、2024年に6カ国の顧客のうち31%がディープフェイクの電話を受け取り、そのうち45%が詐欺に遭いました。そのグループのうち34%がお金を失い、32%が個人情報を盗まれました。平均的に、被害者は電話詐欺によってそれぞれ500ドル以上を失っています。

数日前、The Guardianが報じたところによると、東ヨーロッパのジョージアに組織化されたネットワークが、FacebookやGoogleの偽の広告を使ってヨーロッパ、カナダ、イギリスの6,000人以上を詐欺し、その操作を通じて3500万ドルを得ました。

約85人の高給取りのジョージア人詐欺師たちは、英国のジャーナリストであるマーチン・ルイス、作家で冒険家のベン・フォーグル、そしてイーロン・マスクといった公人を利用して詐欺行為を行いました。詐欺師たちは偽の暗号通貨やその他の投資スキームを宣伝し、被害者にデジタルバンクのRevolutなどを通じてお金を送金させました。Revolutは最近、英国で銀行免許を取得しました。

先進的なAI、より洗練された詐欺

サイバー犯罪者たちは過去数年間、生成AIを利用し、ChatGPTのようなツールを駆使して魅力的なメールを作成・翻訳し、説得力のあるテキストベースのコンテンツを生成してきました。今では、AIツールが進化するにつれ、AIによる画像やビデオの生成の使用が増えてきました。

数週間前、ByteDanceは最新のAIビデオツール、OmniHuman-1を発表しました。これは市場に出ている中でも最もリアルなディープフェイクを生成することが可能です。一方で、より多くのAI企業が同様のテクノロジーを開発しています。これらのツールが詐欺にも使われるのは時間の問題のように思われます。

これらのテクノロジーは「善意で」使用され、詐欺の増加を防ぐためにも使用されます。例えば、O2のAI ‘おばあさん’ Daisyは、リアルタイムの通話で詐欺師を引きつけ、彼らを本当の被害者から引き離すように設計されています。しかし、これらの悪意ある使用による影響は計り知れません。

Wizcaseでは、最近「自己詐欺攻撃」が614％増加したと報告しました。この報告では、ハッカーがディープフェイク技術を使用して偽のコンテンツを「より現実的」に見せる方法、そして豚の屠殺詐欺にMetaが介入しなければならなかったソーシャルメディア企業の事例について紹介しました。これらのプラットフォームを利用する脅威の存在者が多いからです。調査では、多くの詐欺がデーティングアプリから始まることがMetaによって指摘され、ロマンティックな恋愛が最も一般的な餌であることが、今も昔も証明されました。

愛：強力な餌

サイバー犯罪者は、高度な人工知能を理解し利用するだけでなく、人間の知能についても深い理解を持っています。脅威の存在者は、脆弱性を特定し、信頼を築き、ちょうど良い瞬間に要求を出す方法を知っています。

「Do You Love Me? Psychological Characteristics of Romance Scam Victims（愛してますか？ロマンス詐欺の被害者の心理特性）という研究は、PhDモニカ・T・ウィッティーによって2018年に発表されました。この研究では、国際的な犯罪集団がどのようにして長年にわたり、インターネットが普及する前からも、デート・ロマンス詐欺を行ってきたか、そして中年で教養のある女性がこの種の詐欺にどうしても落ちやすい傾向にあるか—まさにアンヌのように—について解説しています。

この研究から8年後の今、SFのようなテクノロジーを持つ現代社会で、私たちは何を期待すべきでしょうか？おそらく、私たちは思っている以上に脆弱な状況に置かれているのかもしれません。

「この種の詐欺の被害者は、意味を求めている、感情的に脆弱な人々であることが多い」と、ケベック大学モントリオール校（UQAM）の準教授であるアニー・ルコンプテ氏は、近く発表された The Conversation の記事で書いています。「嘲笑され、誤解されることが多いが、ロマンス詐欺は被害者の信頼、感情、脆弱性を悪用する複雑な心理メカニズムに基づいている。」

壊れた心、空っぽの財布

最近、AIによる詐欺で約28,000ドル（約200,000元）を失った中国人男性（姓は劉）は、彼のAIガールフレンドが本物だと信じていました。彼女からはパーソナライズされた写真やビデオさえも送られてきました。ますます強くなる感情的なつながり…しかし、それは詐欺師たちとのつながりだったのです。

彼が報告書の文脈について詳細を提供しなかった一方で、別の被害者である77歳の女性、ニッキー・マクレオッドはそうしました。彼女もまた、AIのガールフレンドと本物の関係にあると思い込んでおり、銀行振り込み、PayPal、ギフトカードを通じて彼女に約17,000ポンド（約22,000ドル）を送りました。

“私はバカな人間ではないですが、彼女は私を本物の人間で、私たちは一緒に生活を共有するつもりだと説得することができました。”とマクレオッドはBBCに語った。

マクロードは孤独と悲しみを感じていた時、グループチャットでアラ・モーガンに出会いました。しばらくしてから、マクロードはライブビデオをリクエストしましたが、モーガンは自分が石油掘削リグで働いているため、それができないと言いました。疑念を抱き始めたマクロードに対し、モーガンはリアル感のある動画を送り始めました。「”ハイ、ニッキー、私は詐欺師ではないわ。私の石油掘削リグでの映像よ”というビデオを送ってきて、そのビデオに完全に説得されてしまった」とマクロードは説明しています。その内容はBBCのウェブサイトで公開されており、なぜマクロードがそれを本物だと信じてしまったのかは一目瞭然です―それは高品質なディープフェイクだったのです。

BBCはアバテイ大学のサイバーセキュリティと人間とコンピュータのインタラクションの専門家、リンゼイ・シェパード博士に、マクロードが受け取った写真と動画の分析を依頼しました。「一見するとそれは正当に見えます、何を探すべきかわからない人には、しかし目を見てみると – 目の動きが少し正しくない」、とシェパード博士は述べています。

「書類も本物そっくり、ビデオも本物そっくり、銀行も本物そっくりだった」とマクロードは語った。「人工知能の導入により、すべてが偽物になり得るのです。」