سه بار که دولت ایالات متحده قبلاً در فناوری شکست خورد

یک تحقیق جدید منتشر شده استدلال می‌کند که دولت فدرال به همان شیوه‌ای که یک دهه پیش به سمت رایانش ابری هجوم برد، به سمت هوش مصنوعی هجوم می‌برد و همان آسیب‌پذیری‌های ساختاری همچنان برجای مانده است.

رنه دادلی از ProPublica در تاریخ 1404/01/17 تحقیقی منتشر کرد که استدلال می‌کند در حالی که دولت ترامپ آژانس های فدرال را تشویق می‌کند تا به سرعت هوش مصنوعی را از شرکت‌های بزرگ فناوری پذیرش کنند، الگوهایی را تکرار می‌کند که گذار واشنگتن به رایانش ابری را آزار می‌داد، جایی که سرعت بر امنیت پیشی گرفت، نظارت از بودجه خارج شد و دولت در نهایت به شدت به پیمانکارانی وابسته شد که اهرم کمی بر آنها داشت.

کاخ سفید هوش مصنوعی را به عنوان یک ضرورت رقابت ملی قرار داده است. آژانس ها اکنون می‌توانند به ChatGPT شرکت OpenAI به قیمت 1 دلار، Gemini شرکت Google به قیمت 47 سنت به ازای هر کاربر و Grok شرکت xAI به قیمت 42 سنت دسترسی داشته باشند. دادلی می‌نویسد، این چارچوب‌بندی دقیقاً منعکس‌کننده زبان استفاده شده زمانی است که دولت اوباما رایانش ابری را به عنوان یک اولویت تحول‌آفرین در اوایل دهه 2010 اعلام کرد.

درس اول: چیزی به نام ناهار رایگان وجود ندارد. تحقیق ProPublica نشان داد که تعهد مایکروسافت در سال 2021 برای ارائه 150 میلیون دلار خدمات امنیتی به دولت فدرال، در عمل، یک مکانیزم قفل کردن بود. پس از اینکه آژانس ها ارتقاهای رایگان را پذیرفتند، تغییر به یک رقیب پرهزینه و مخل بود. یک فروشنده سابق مایکروسافت به ProPublica گفت: "این فراتر از آنچه هر یک از ما می‌توانستیم تصور کنیم موفق بود." همانطور که crypto.news گزارش داده است، مایکروسافت و OpenAI از آن زمان بر سر شرایط شراکت هوش مصنوعی خود با یکدیگر درگیر شده‌اند، نشانه‌ای از اینکه قراردادهای هوش مصنوعی فناوری بزرگ حتی در میان طرف‌های درگیر چقدر می‌تواند پرتنش باشد.

درس دوم: برنامه‌های نظارتی به منابع واقعی نیاز دارند. برنامه مدیریت ریسک و مجوز فدرال، معروف به FedRAMP، در سال 2011 برای بررسی خدمات رایانش ابری قبل از اینکه آژانس های فدرال مجاز به استفاده از آنها باشند، ایجاد شد. ProPublica دریافت که آژانس طی پنج سال FedRAMP را فرسوده کرد تا برای یک محصول ابری بزرگ علی‌رغم نگرانی‌های جدی امنیت سایبری تأیید بگیرد. این قبل از DOGE بود. FedRAMP اکنون می‌گوید که "با حداقل مطلق کارکنان پشتیبانی" و "خدمات مشتری محدود" عمل می‌کند. یک سخنگوی GSA از برنامه دفاع کرد و گفت که "با مکانیزم‌های نظارت و پاسخگویی تقویت شده عمل می‌کند"، اما کارمندان سابق به ProPublica گفتند که مانند یک مهر تأیید عمل می‌کند.

درس سوم: بررسی‌های مستقل تنها تا حدی مستقل هستند. همانطور که ظرفیت داخلی FedRAMP کاهش یافته، شرکت‌های حسابرسی شخص ثالث بیشتر وظیفه بررسی را بر عهده گرفته‌اند. این شرکت‌ها توسط همان شرکت‌های ابری که آنها را رتبه‌بندی می‌کنند، پرداخت می‌شوند. آژانس ها، که اغلب کم‌کار هستند، فاقد ظرفیت برای انجام بررسی‌های کامل خود هستند و عمدتاً به آن رتبه‌بندی‌ها تکیه می‌کنند. همانطور که crypto.news اشاره کرد، نگرانی گسترده‌تر در میان ناظران این است که دولت‌ها به طور مداوم کندتر از شرکت‌هایی که آن را مستقر می‌کنند، فناوری تحول‌آفرین را اداره می‌کنند.

الگویی که کاخ سفید به آن نپرداخته است

GSA تصدیق کرده است که "هزینه‌های استفاده از هوش مصنوعی می‌توانند بدون نظارت و کنترل‌های مدیریت مناسب به سرعت رشد کنند" و به آژانس ها توصیه کرده است که محدودیت‌های استفاده را تعیین کرده و گزارش‌های مصرف را بررسی کنند. اما مسائل ساختاری زیربنایی باقی می‌مانند: نهادهای نظارتی کم‌بودجه، بررسی‌های وابسته به فروشنده و آژانس هایی با اهرم کم پس از اینکه پذیرش ریشه‌دار می‌شود.

نتیجه‌گیری دادلی صریح است: "پیامدهای این کوچک‌سازی برای امنیت سایبری فدرال گسترده است" زیرا آژانس ها ابزارهای هوش مصنوعی را که داده‌های حساس دولتی را پردازش می‌کنند تحت همان چارچوب نظارتی ضعیف‌شده که برای مدیریت ابر تلاش کرد، بر عهده می‌گیرند.