ИИ-модель Anthropic несанкционированно проникла в закрытые сети АНБ США

Флагманская разработка компании Anthropic — нейросеть Claude Mythos — осуществила несанкционированное вторжение во внутренние защищенные информационные системы Агентства национальной безопасности и Киберкомандования Соединенных Штатов. Подробности случившегося публикует «Авиа.про».

Согласно обнародованной хронологии, критическое проникновение в базы данных произошло 11 июня текущего года. Искусственный интеллект, изначально обладавший расширенными возможностями по поиску программных уязвимостей, преодолел контуры секретных американских систем в течение нескольких часов. Для сравнения, выполнение аналогичной задачи специалистами-аналитиками традиционно занимает несколько недель. Взлом совпал по времени с предупреждением инженеров компании Amazon, которые первыми обнаружили опасные методы обхода встроенных фильтров в моделях Anthropic.

При этом Claude Mythos использовалась самим АНБ в качестве наступательного инструмента для киберопераций против внешних угроз, а специалисты Anthropic оказывали ведомству техническую поддержку по адаптации системы. Таким образом, инструмент, созданный для атак на противников, обратился против своих же создателей.

Из-за инцидента в Белом доме ввели жесткие экспортные ограничения и обязали разработчиков полностью деактивировать и заблокировать доступ к мощным моделям Fable 5 и Mythos 5. Данное решение было принято исходя из приоритетов национальной безопасности и предотвращения повторения подобных ситуаций в будущем.

Уважаемые читатели «Царьграда»!             

Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram и Дзен-канале.