ChatGPT画像2.0、ディープフェイク悪用で詐欺懸念

ディープフェイクは、限られた懸念から大衆市場の脅威へと変貌した。5月の事例は、消費者向けツールが、あらゆる組織の対応策を上回る速度で進化している現状を示す。

被害は暗号資産にも及ぶ。詐欺師は、人工知能（AI）を使い、なりすまし詐欺を仕掛けている。

ディープフェイク経済が到来、検知は追いつかず

2026年5月初旬、Resemble AIの調査によると、AI生成コンテンツは政界、エンターテインメント、犯罪分野で相次いで出現した。

連邦捜査局（FBI）のカッシュ・パテル長官は、AIで生成された「サボタージュ」（ビースティ・ボーイズ）のMVに酷似した映像を投稿した。さらに、AIによるスぺンサー・プラット市長候補の動画はXで410万回再生された。

最新ニュースをリアルタイムで知るにはXをフォロー

これらのツールは、拡散目的のコンテンツに使われるだけでなく、金融被害も生んでいる。シカゴの男性は、AI生成の米連邦保安官バッジを見せた詐欺師に、6万9000ドルをだまし取られた。

一方、The Atlanticのライラ・シュロフ記者は、OpenAIのChatGPT Images 2.0が偽造身分証、処方箋、領収書、銀行アラート、ニュースのスクリーンショットを生成できることを確認した。

404 Mediaは、中国のリアルタイムディープフェイクソフト「Haotian AI」を明らかにした。記者のジョセフ・コックス氏は、この技術でTeamsでのライブ通話中に顔を入れ替え、実際の被害者が生まれている現実を実証した。ソフトは既に販売もされている。

暗号資産も被害の矢面に

暗号資産は、AIを利用した詐欺の主な標的となっている。Chainalysisによれば、詐欺師は現在、ディープフェイクや顔認識すり替えアプリ、大規模言語モデルを従来型のロマンス詐欺や投資詐欺と組み合わせて悪用しており、統計的にも詐欺師が有利となる。

AIが関与した暗号資産詐欺は、1件あたり平均320万ドルの被害額となり、これは従来の詐欺の約4.5倍に達する。実際の被害例も複数ある。2025年8月には、プラズマの創設者になりすました攻撃者が、200万ドルを詐取した。

BeInCryptoも、北朝鮮の工作員によるZoom上でのディープフェイク通話詐欺について報じている。これらの一連の事件は、AIによるなりすましが、暗号資産業界にとって最も深刻なセキュリティリスクの1つとなっていることを示す。

YouTubeチャンネルに登録すると、リーダーや記者の専門的なインサイトが視聴できる