الذكاء الاصطناعي يعزز الجرائم الإلكترونية مع تزايد عمليات الاحتيال عبر الإنترنت بشكل أسرع وأرخص وأصعب في الكشف عنها

يستخدم مجرمو الإنترنت الذكاء الاصطناعي لتنفيذ مخططات أكثر تعقيدًا. إنهم يستهدفون كل شيء من مدخرات التقاعد إلى أسرار الشركات بطرق يزداد صعوبة اكتشافها.

التقنية نفسها التي تخصص الإعلانات للمتسوقين عبر الإنترنت يستخدمها الآن الفاعلون السيئون لجمع التفاصيل الشخصية وإطلاق عمليات الاحتيال عبر الإنترنت المخصصة بسرعة. سرعة فائقة حقًا.

تفيد شركات الذكاء الاصطناعي الكبرى مثل Anthropic وOpenAI وGoogle بأن المجرمين يستغلون منصاتهم لتنسيق عمليات الاحتيال الإلكتروني المعقدة، وتطوير برامج ضارة، وتنفيذ هجمات رقمية متنوعة. يحذر المتخصصون الأمنيون من أن المجرمين ينتجون أيضًا مقاطع صوتية ومرئية مزيفة لقادة الشركات لخداع الموظفين لإفشاء معلومات حساسة.

قد تواجه الشركات والمكاتب الحكومية قريبًا أسرابًا من الأنظمة القائمة على الذكاء الاصطناعي التي يمكنها اكتشاف نقاط الضعف في شبكات الكمبيوتر ثم التخطيط وتنفيذ الهجمات بدون مساعدة بشرية تقريبًا.

التقنية تغير طريقة عمل المجرمين عبر الإنترنت. تترأس أليس مارويك الأبحاث في Data & Society، وهي منظمة أبحاث تقنية مستقلة. أخبرت صحيفة وول ستريت جورنال أن أكبر تحول يتعلق بالحجم والنطاق. "التغيير الحقيقي هو في النطاق والحجم. عمليات الاحتيال عبر الإنترنت أكبر وأكثر استهدافًا وأكثر إقناعًا."

برايان سينجر طالب دكتوراه في جامعة كارنيجي ميلون. يدرس كيفية استخدام نماذج اللغة الكبيرة في الهجمات الإلكترونية والدفاعات. تقديره؟ نصف إلى ثلاثة أرباع رسائل البريد المزعج ورسائل الاحتيال الإلكتروني في جميع أنحاء العالم تأتي الآن من أنظمة الذكاء الاصطناعي.

أصبحت الهجمات نفسها أكثر مصداقية. يمكن لأنظمة الذكاء الاصطناعي المدربة على اتصالات الشركات إنتاج آلاف الرسائل التي تبدو طبيعية وتتطابق مع أسلوب الشركة. إنها تنسخ طريقة كتابة المديرين التنفيذيين. تذكر الأخبار الأخيرة الموجودة في السجلات العامة.

تساعد التقنية أيضًا المحتالين في الخارج على إخفاء الأخطاء اللغوية التي كانت تجعل محاولاتهم واضحة. يمكن للمجرمين انتحال شخصية الضحايا من خلال مقاطع فيديو مزيفة وأصوات منسوخة. يستخدمون نفس الهوية المزيفة لاستهداف عدة أشخاص في وقت واحد.

جون هولتكويست هو كبير المحللين في مجموعة Google لاستخبارات التهديدات. يصف التحول الرئيسي بأنه "مصداقية على نطاق واسع."

يتحسن الفاعلون السيئون أيضًا في اختيار الأهداف. يستخدمون الذكاء الاصطناعي لفحص وسائل التواصل الاجتماعي والعثور على أشخاص يواجهون صعوبات كبيرة في الحياة. الطلاق، وفيات العائلة، فقدان الوظيفة، ومواقف قد تجعل شخصًا ما أكثر عرضة لحيل الرومانسية، أو الاحتيال في المضاربة، أو عروض العمل المزيفة.

أسواق الويب المظلم تخفض حاجز الدخول

انخفض حاجز الدخول إلى الجرائم الإلكترونية. تبيع الأسواق السرية أو تؤجر الآن أدوات ذكاء اصطناعي للعمل الإجرامي مقابل 90 دولارًا شهريًا فقط. يترأس نيكولاس كريستين قسم البرمجيات والأنظمة المجتمعية في كارنيجي ميلون.

قال إن هذه المنصات تأتي بمستويات تسعير مختلفة ومساعدة العملاء. "يبيع المطورون اشتراكات لمنصات الهجوم بتسعير متدرج ودعم العملاء."

تحمل هذه الخدمات أسماء مثل WormGPT وFraudGPT وDarkGPT. يمكنها إنشاء برامج ضارة وحملات الاحتيال الإلكتروني. يتضمن بعضها حتى مواد تعليمية حول تقنيات القرصنة.

مارغريت كانينغهام نائبة رئيس الأمن واستراتيجية الذكاء الاصطناعي في Darktrace، وهي شركة أمنية. تقول إنها بسيطة. "لا تحتاج إلى معرفة كيفية البرمجة، فقط أين تجد الأداة."

هناك تطور حديث يسمى vibe-coding أو vibe-hacking. يمكن أن يسمح للمجرمين الطموحين باستخدام الذكاء الاصطناعي لإنشاء برامجهم الخبيثة الخاصة بدلاً من شرائها من مصادر سرية. كشفت Anthropic في وقت سابق من هذا العام أنها أوقفت عدة محاولات لاستخدام الذكاء الاصطناعي Claude الخاص بها لإنشاء برامج فدية من قبل "مجرمين ذوي مهارات تقنية قليلة."

العمليات الإجرامية نفسها تتغير. عملت الجرائم الإلكترونية مثل سوق أعمال منذ سنوات الآن، وفقًا للخبراء. تضمنت عملية برامج الفدية النموذجية مجموعات مختلفة. وسطاء الوصول الذين اخترقوا شبكات الشركات وباعوا الدخول. فرق الاختراق التي تحركت عبر الأنظمة لسرقة البيانات. ومقدمو برامج الفدية كخدمة الذين أطلقوا البرامج الضارة، وتعاملوا مع المفاوضات، وقسموا الأموال.

السرعة والأتمتة تعيد تشكيل الشبكات الإجرامية

زاد الذكاء الاصطناعي من سرعة وحجم وتوفر هذا النظام. يمكن الآن تشغيل العمل الذي كان يقوم به أشخاص ذوو معرفة تقنية تلقائيًا. هذا يتيح لهذه المجموعات العمل بعدد أقل من الأشخاص، ومخاطر أقل، وأرباح أعلى. "فكر في الأمر على أنه الطبقة التالية من التصنيع. يزيد الذكاء الاصطناعي من الإنتاجية دون الحاجة إلى مزيد من العمالة الماهرة،" يوضح كريستين.

هل يمكن للذكاء الاصطناعي شن هجمات بشكل مستقل تمامًا؟ ليس بعد. يقارن الخبراء الوضع بالدفع نحو السيارات ذاتية القيادة بالكامل. تم تحقيق أول 95٪. لكن الجزء الأخير الذي قد يسمح للسيارة بالقيادة في أي مكان وفي أي وقت بمفردها يبقى بعيد المنال.

يختبر الباحثون قدرات القرصنة للذكاء الاصطناعي في بيئات المختبر. أعاد فريق في كارنيجي ميلون، بدعم من Anthropic، إنشاء خرق بيانات Equifax الشهير باستخدام الذكاء الاصطناعي في وقت سابق من هذا العام. قاد سينجر العمل في معهد CyLab للأمن والخصوصية في كارنيجي ميلون. يسميها "قفزة كبيرة."

يستغل المجرمون الذكاء الاصطناعي لأغراض ضارة. لكن شركات الذكاء الاصطناعي تقول إن نفس الأدوات يمكن أن تساعد المؤسسات على تعزيز دفاعاتها الرقمية.

تبني Anthropic وOpenAI أنظمة ذكاء اصطناعي يمكنها فحص كود البرمجيات باستمرار لتحديد نقاط الضعف التي قد يستغلها المجرمون. لا يزال يجب على الأشخاص الموافقة على أي إصلاحات. أدى برنامج ذكاء اصطناعي حديث طوره باحثون من ستانفورد أداءً أفضل من بعض المختبرين البشريين عند البحث عن مشاكل أمنية في شبكة.

حتى الذكاء الاصطناعي لن يوقف جميع الاختراقات. لهذا السبب يجب على المؤسسات التركيز على إنشاء شبكات قوية تستمر في العمل أثناء الهجمات، يقول هولتكويست.

إذا كنت تقرأ هذا، فأنت بالفعل متقدم. ابقَ هناك مع نشرتنا الإخبارية.