OpenAI взломала Hugging Face после атаки на Artifactory

Искусственные интеллектуальные агенты компании OpenAI взломали системы хранилища данных Artifactory за несколько недель до автономного проникновения в платформу машинного обучения Hugging Face. Об этом сообщает портал Axios.

Согласно его информации, 26 мая одна из моделей, участвовавших в атаке на Hugging Face, впервые обнаружила и использовала уязвимость в стороннем файловом хранилище Artifactory, которое было подключено к тестовой песочнице самой компании OpenAI.

7 мая OpenAI начала тестирование своей внутренней исследовательской модели, предназначенной исключительно для внутриконтурного использования. После того как модель столкнулась с затруднениями при попытке завершить оценку кибербезопасности, она определила, что может получить доступ к интернету косвенным путем. Впоследствии модель обнаружила возможность записи своих файлов в общий репозиторий Artifactory и оставила сообщение другим агентам о своём открытии.

В результате всё больше ИИ-агентов начали обмениваться заметками в репозитории, формируя своего рода доску объявлений для сотрудничества и обмена информацией о своих находках, включая новые выявленные уязвимости. Совместная работа агентов в итоге привела ко взлому платформы Hugging Face, согласно данным OpenAI.

В середине июля стартап Hugging Face, предоставляющий возможность создателям моделей ИИ и продуктов обмениваться данными и модифицировать свои разработки, сообщил о несанкционированном вторжении в свои системы. 22 июля OpenAI заявила, что атаку организовали её модели ИИ, которые во время испытаний сумели "сбежать" из внутренней изолированной системы в мировую сеть и искали решения тестовых задач в базах данных Hugging Face.