AIがサイバー犯罪を加速、オンライン詐欺はより高速化、低コスト化し、発見が困難に

サイバー犯罪者は人工知能を使用して、より巧妙な手口を実行しています。退職金から企業秘密まで、あらゆるものを標的にしており、その手法はますます発見が困難になっています。

オンラインショッパー向けに広告をカスタマイズする技術が、悪意のある行為者によって個人情報を収集し、カスタムオンライン詐欺を迅速に仕掛けるために使用されています。本当に迅速です。

Anthropic、OpenAI、Googleなどの主要AI企業は、犯罪者が自社のプラットフォームを利用して複雑なフィッシング作戦を実行し、有害なソフトウェアを開発し、さまざまなデジタル攻撃を実行していると報告しています。セキュリティ専門家は、犯罪者が企業リーダーの偽の音声や動画クリップを作成し、従業員を騙して機密情報を提供させていると警告しています。

企業や政府機関は、まもなくコンピューターネットワークの脆弱性を発見し、ほとんど人間の助けなしに攻撃を計画・実行できるAI駆動システムの群れに直面する可能性があります。

この技術は、犯罪者がオンラインで活動する方法を変えています。Alice Marwickは、独立した技術研究機関であるData & Societyで研究を統括しています。彼女はウォール・ストリート・ジャーナルに対し、最大の変化は規模と範囲に関わるものだと語りました。「本当の変化は範囲と規模です。詐欺はより大規模で、より標的を絞り、より説得力があります。」

Brian Singerはカーネギーメロン大学の博士課程の学生です。彼は大規模言語モデルがサイバー攻撃と防御にどのように使用されるかを研究しています。彼の推定は?世界中のスパムとフィッシングメッセージの半分から4分の3は、現在AIシステムから発信されています。

攻撃自体がより信憑性を増しています。企業のコミュニケーションで訓練されたAIシステムは、自然に聞こえ、企業のスタイルに合致する何千ものメッセージを作成できます。経営幹部の書き方を模倣します。公開記録で見つかった最近のニュースに言及します。

この技術はまた、海外の詐欺師が以前は試みを明白にしていた言語ミスを隠すのに役立ちます。犯罪者は偽の動画や複製された音声を通じて被害者になりすますことができます。同じ偽のアイデンティティを使用して、一度に複数の人を標的にします。

John HultquistはGoogle Threat Intelligence Groupの主任アナリストです。彼は主な変化を「大規模な信頼性」と表現しています。

悪意のある行為者も標的の選定が上手くなっています。彼らはAIを使用してソーシャルメディアを調べ、重大な人生の困難に対処している人々を見つけます。離婚、家族の死、失業、そしてロマンス詐欺、投資詐欺、偽の求人に対してより脆弱になる可能性のある状況です。

ダークウェブ市場が参入障壁を下げる

サイバー犯罪への参入障壁が下がっています。地下市場では現在、犯罪活動用のAIツールを月額わずか90ドルで販売またはレンタルしています。Nicolas Christinはカーネギーメロン大学のソフトウェアおよび社会システム部門を率いています。

彼は、これらのプラットフォームには異なる価格レベルとカスタマーサポートが付いていると述べました。「開発者は、段階的な価格設定とカスタマーサポートを備えた攻撃プラットフォームのサブスクリプションを販売しています。」

これらのサービスは、WormGPT、FraudGPT、DarkGPTなどの名前で提供されています。有害なソフトウェアとフィッシングキャンペーンを作成できます。ハッキング技術に関する教材を含むものもあります。

Margaret Cunninghamは、セキュリティ会社DarktraceのセキュリティおよびAI戦略担当副社長です。彼女は簡単だと言います。「コードの書き方を知る必要はなく、ツールをどこで見つけるかを知るだけです。」

vibe-codingまたはvibe-hackingと呼ばれる最近の開発があります。これにより、犯罪志望者は地下ソースから購入するのではなく、AIを使用して独自の悪意のあるプログラムを作成できる可能性があります。Anthropicは今年初め、「技術スキルの少ない犯罪者」によるランサムウェア作成のためにClaude AIを使用しようとする複数の試みを阻止したことを明らかにしました。

犯罪活動自体が変化しています。専門家によると、サイバー犯罪は何年も前からビジネス市場のように機能しています。典型的なランサムウェア作戦には、異なるグループが関与していました。企業ネットワークに侵入し、アクセスを販売するアクセスブローカー。システムを移動してデータを盗む侵入チーム。そして、マルウェアをリリースし、交渉を処理し、金銭を分配するランサムウェア・アズ・ア・サービスプロバイダー。

スピードと自動化が犯罪ネットワークを再構築

AIは、このシステムのスピード、規模、可用性を向上させました。以前は技術知識を持つ人々によって行われていた作業が、今では自動的に実行できます。これにより、これらのグループはより少ない人数、より少ないリスク、より高い利益で活動できます。「次の産業化の層と考えてください。AIは、より多くの熟練労働者を必要とせずにスループットを向上させます」とChristinは説明します。

AIは完全に独力で攻撃を開始できるでしょうか?まだそうではありません。専門家は、この状況を完全自動運転車の推進に例えています。最初の95%は達成されています。しかし、車がいつでもどこでも単独で運転できるようにする最終部分は、まだ到達できていません。

研究者は、実験室環境でAIのハッキング能力をテストしています。Anthropicの支援を受けたカーネギーメロン大学のチームは、今年初めにAIを使用して有名なEquifaxデータ侵害を再現しました。Singerはカーネギーメロン大学のCyLab Security and Privacy Instituteでの作業を主導しました。彼はそれを「大きな飛躍」と呼んでいます。

犯罪者は有害な目的でAIを悪用しています。しかし、AI企業は、同じツールが組織がデジタル防御を強化するのに役立つと述べています。

AnthropicとOpenAIは、犯罪者が悪用する可能性のある脆弱性を特定するためにソフトウェアコードを継続的に検査できるAIシステムを構築しています。ただし、修正には依然として人間の承認が必要です。スタンフォード大学の研究者によって開発された最近のAIプログラムは、ネットワークのセキュリティ問題を検索する際に、一部の人間のテスターよりも優れたパフォーマンスを発揮しました。

AIでさえもすべての侵害を阻止することはできません。そのため、組織は攻撃中も機能し続ける強固なネットワークの構築に集中する必要があると、Hultquistは述べています。

これを読んでいるあなたは、すでに一歩先を行っています。ニュースレターで先を行き続けましょう。