Республиканец напуган после «закрытой демонстрации» новой технологии, «показавшей, как похитить законодателя»

Известный республиканец из Палаты представителей был «напуган» после первого знакомства с новой технологией на недавней «закрытой демонстрации», сообщил Punchbowl News в пятницу — технологией, последствия которой, по предупреждению законодателя, большинство его коллег не в состоянии осознать.

Этой технологией стал Claude Mythos — последняя большая языковая модель, разработанная Anthropic с использованием генеративного искусственного интеллекта, возможности которой оказались настолько велики, что администрация Трампа приостановила её использование иностранными гражданами, фактически заблокировав публичный релиз в ближайшее время.

«[Anthropic] дала модели задание найти уязвимость в банке и опустошить счета — и она это сделала», — заявил конгрессмен Эндрю Гарбарино (республиканец, штат Нью-Йорк), председатель Комитета Палаты представителей по внутренней безопасности, в беседе с Punchbowl News. «[Mythos] затем смог найти эту уязвимость и устранить её».

Помимо очевидной способности Mythos опустошать банковские счета, Anthropic также продемонстрировала куда более зловещие варианты применения своей новейшей технологии.

«Одна неуказанная модель за 30 секунд показала детальный план похищения законодателя», — говорится в репортаже Punchbowl News, пересказывающем слова Гарбарино. «Злоумышленники могут взломать модели и использовать их для атак на критическую инфраструктуру, — заявил [Гарбарино], отметив, что агентские возможности ИИ позволят моделям действовать без участия человека».

Приводя конкретные примеры, которые, по его опасениям, могут использовать те, кто имеет доступ к Mythos, Гарбарино предупредил, что люди смогут «отключить газопровод» или «увеличить количество хлора» в системе водоснабжения населённого пункта — и всё это из собственного дома.

«У вас есть возможность не просто узнать, как это сделать, но и приказать ей сделать это за вас», — сказал Гарбарино Punchbowl News. «Я бы сказал, что 95% моих коллег понятия не имеют, что происходит».

Хотя администрация Трампа фактически заблокировала публичный выпуск Mythos в ближайшее время, президент Дональд Трамп ограничил возможности штатов регулировать развивающиеся технологии ИИ с помощью указа, подписанного им в декабре прошлого года, который запрещает штатам принимать собственные законы для регулирования этой технологии.