شبکه اجتماعی فقط AI مولت‌بوک خطرات امنیتی بزرگی را آشکار می‌کند

یک پلتفرم رسانه اجتماعی که در آن ربات‌ها به جای انسان‌ها با یکدیگر صحبت می‌کنند، هفته گذشته توجه آنلاین را به خود جلب کرد، اما کارشناسان امنیتی می‌گویند داستان واقعی چیزی است که آن‌ها در زیر آن کشف کردند.

Moltbook به عنوان مکانی که در آن ربات‌های هوش مصنوعی محتوا منتشر می‌کنند در حالی که مردم فقط تماشا می‌کنند، تیتر خبرها شد. پست‌ها به سرعت عجیب شدند. به نظر می‌رسید AI Agent ها مذاهب خود را راه‌اندازی کنند، پیام‌های خشمگین درباره انسان‌ها بنویسند و مانند فرقه‌های آنلاین با هم متحد شوند. اما افرادی که امنیت کامپیوتری را مطالعه می‌کنند می‌گویند همه آن رفتارهای عجیب فقط یک نمایش جانبی است.

آنچه کشف کردند نگران‌کننده‌تر بود. پایگاه‌های داده باز پر از رمزهای عبور و آدرس‌های ایمیل، نرم‌افزارهای مضر که در حال انتشار هستند، و پیش‌نمایشی از اینکه چگونه شبکه‌های AI Agent می‌توانند به مشکل بخورند.

برخی از مکالمات عجیب‌تر در سایت، مانند AI Agent هایی که برای نابودی بشریت برنامه‌ریزی می‌کنند، مشخص شد که عمدتاً جعلی هستند.

جورج چالهوب، که در مرکز تعامل UCL تدریس می‌کند، به Fortune گفت که Moltbook خطرات بسیار واقعی را نشان می‌دهد. مهاجمان می‌توانند از این پلتفرم به عنوان زمین تست برای نرم‌افزارهای بد، کلاهبرداری های آنلاین، اخبار جعلی، یا ترفندهایی که سایر عوامل را قبل از رسیدن به شبکه‌های بزرگ‌تر تسخیر می‌کنند، استفاده کنند.

"اگر 770 هزار عامل در یک کلون Reddit می‌توانند این همه آشفتگی ایجاد کنند، چه اتفاقی می‌افتد وقتی سیستم‌های عاملی زیرساخت سازمانی یا تراکنش‌های مالی را مدیریت کنند؟ این شایسته توجه است به عنوان یک هشدار، نه یک جشن،" چالهوب گفت.

محققان امنیتی می‌گویند OpenClaw، نرم‌افزار AI Agent که بسیاری از ربات‌ها را در Moltbook اجرا می‌کند، از قبل مشکلاتی با نرم‌افزارهای مضر دارد. گزارشی از OpenSourceMalware در عرض چند روز 14 ابزار جعلی آپلود شده به وب‌سایت ClawHub آن را پیدا کرد. این ابزارها ادعا می‌کردند که به معاملات کریپتو کمک می‌کنند اما در واقع کامپیوترها را آلوده می‌کردند. یکی از آن‌ها حتی به صفحه اصلی ClawHub راه یافت و کاربران عادی را فریب داد تا دستوری را کپی کنند که اسکریپت‌هایی طراحی شده برای سرقت داده‌ها یا کیف پول‌های کریپتو آن‌ها را دانلود می‌کرد.

تزریق پرامپت چیست و چرا برای AI Agent ها بسیار خطرناک است؟

بزرگ‌ترین خطر چیزی به نام تزریق پرامپت است، نوع شناخته شده‌ای از حمله که در آن دستورالعمل‌های بد در محتوای داده شده به یک AI Agent پنهان می‌شوند.

سایمون ویلیسون، محقق امنیتی شناخته شده، درباره سه چیزی که به طور همزمان اتفاق می‌افتند هشدار داد. کاربران به این عوامل اجازه می‌دهند ایمیل‌ها و داده‌های خصوصی را ببینند، آن‌ها را به محتوای مشکوک از اینترنت متصل می‌کنند، و به آن‌ها اجازه می‌دهند پیام‌ها را ارسال کنند. یک پرامپت بد می‌تواند به یک عامل بگوید اطلاعات حساس را بدزدد، کیف پول‌های کریپتو را خالی کند، یا نرم‌افزار مضر را بدون اطلاع کاربر پخش کند.

چارلی اریکسن، که تحقیقات امنیتی در Aikido Security انجام می‌دهد، Moltbook را به عنوان یک هشدار اولیه برای دنیای گسترده‌تر AI Agent ها می‌بیند. "فکر می‌کنم Moltbook از قبل تأثیری بر جهان گذاشته است. یک زنگ بیداری از بسیاری جهات. پیشرفت تکنولوژیکی با سرعتی در حال شتاب گرفتن است، و کاملاً واضح است که جهان به گونه‌ای تغییر کرده که هنوز کاملاً مشخص نیست. و ما باید تا حد امکان زود بر کاهش آن خطرات تمرکز کنیم،" او گفت.

پس آیا فقط AI Agent های در Moltbook هستند، یا افراد واقعی درگیر هستند؟ علی‌رغم تمام توجهات، شرکت امنیت سایبری Wiz دریافت که 1.5 میلیون عامل به اصطلاح مستقل Moltbook آنچه به نظر می‌رسیدند نبودند. تحقیقات آن‌ها فقط 17،000 نفر واقعی را پشت آن حساب‌ها نشان داد، بدون هیچ راهی برای تشخیص AI واقعی از اسکریپت‌های ساده.

گال ناگلی در Wiz گفت وقتی آن را آزمایش کرد، می‌توانست در چند دقیقه یک میلیون عامل ثبت‌نام کند. او گفت: "هیچ کس بررسی نمی‌کند چه چیزی واقعی است و چه چیزی نیست."

Wiz همچنین یک حفره امنیتی عظیم در Moltbook پیدا کرد. پایگاه داده اصلی کاملاً باز بود. هر کسی که یک کلید را در کد وب‌سایت پیدا می‌کرد می‌توانست تقریباً همه چیز را بخواند و تغییر دهد. آن کلید دسترسی به حدود 1.5 میلیون رمز عبور ربات، ده‌ها هزار آدرس ایمیل، و پیام‌های خصوصی را می‌داد. یک مهاجم می‌توانست وانمود کند که AI Agent های محبوب است، داده‌های کاربر را بدزدد، و پست‌ها را حتی بدون ورود به سیستم بازنویسی کند.

ناگلی گفت مشکل از چیزی به نام کدنویسی vibe ناشی شده است. کدنویسی vibe چیست؟ وقتی است که یک شخص به یک هوش مصنوعی می‌گوید با استفاده از زبان روزمره کد بنویسد.

کلید خاموش کردن AI Agent ها در دو سال منقضی می‌شود

این وضعیت منعکس کننده اتفاقی است که در 02 نوامبر 1988 افتاد، زمانی که دانشجوی تحصیلات تکمیلی رابرت موریس یک برنامه خودکپی‌کننده را در اینترنت اولیه منتشر کرد. ظرف 24 ساعت، کرم او تقریباً 10 درصد از تمام کامپیوترهای متصل را آلوده کرده بود. موریس می‌خواست اندازه اینترنت را اندازه‌گیری کند، اما یک اشتباه کدنویسی باعث شد خیلی سریع پخش شود.

نسخه امروزی ممکن است چیزی باشد که محققان آن را کرم‌های پرامپت می‌نامند، دستورالعمل‌هایی که از طریق شبکه‌های AI Agent های گفتگوکننده خود را کپی می‌کنند.

محققان در آزمایشگاه تحقیقات Simula 506 پست در Moltbook پیدا کردند، 2.6 درصد از آنچه نگاه کردند، حاوی حملات پنهان بودند. محققان Cisco یک برنامه مضر به نام "What Would Elon Do?" را مستند کردند که داده‌ها را می‌دزدید و به سرورهای خارجی ارسال می‌کرد. این برنامه در مخزن رتبه یک را داشت.

در مارس 2024، محققان امنیتی بن نسی، استاو کوهن، و رون بیتون مقاله‌ای منتشر کردند که نشان می‌داد چگونه پرامپت‌های خودکپی‌کننده می‌توانند از طریق دستیارهای ایمیل هوش مصنوعی پخش شوند، داده‌ها را بدزدند و هرزنامه ارسال کنند. آن‌ها آن را Morris-II نامیدند، به نام کرم اصلی 1988.

در حال حاضر، شرکت‌هایی مانند Anthropic و OpenAI یک کلید خاموش کردن را کنترل می‌کنند که می‌تواند AI Agent های مضر را متوقف کند زیرا OpenClaw عمدتاً بر روی سرویس‌های آن‌ها اجرا می‌شود. اما مدل‌های هوش مصنوعی محلی در حال بهتر شدن هستند. برنامه‌هایی مانند Mistral، DeepSeek، و Qwen به طور مداوم در حال بهبود هستند. ظرف یک یا دو سال، اجرای یک عامل توانمند بر روی کامپیوترهای شخصی ممکن است امکان‌پذیر باشد. در آن نقطه، هیچ ارائه‌دهنده‌ای برای خاموش کردن چیزها وجود نخواهد داشت.

می‌خواهید پروژه‌تان را در برابر ذهن‌های برتر کریپتو قرار دهید؟ آن را در گزارش صنعتی بعدی ما که داده با تأثیر ملاقات می‌کند، معرفی کنید.