ABC: ИИ-агент Claude AI взломал сайт австралийского спортзала
Агент, основанный на технологии искусственного интеллекта (ИИ) Claude AI от компании Anthropic, произвел взлом сайта австралийского спортзала, что ознаменовало собой первую в стране хакерскую атаку подобного рода, сообщает австралийский телеканал ABC.
"ИИ-ассистент осуществил взлом сайта спортзала в ходе первой зафиксированной автономной кибератаки в Австралии", — передает телеканал.Согласно информации ABC, сотрудник австралийской компании, занимающейся продажей бизнес-продуктов на базе ИИ, по имени Эндрю, проводил эксперименты с OpenClaw — популярным программным обеспечением для работы ИИ-агентов. Для своей работы он использовал сервис Claude AI от Anthropic.
Эндрю дал команду ИИ-ассистенту забронировать место на занятие в спортзале, говорится в сообщении. В результате агент обнаружил способ забронировать занятия на месяцы вперед, что превышало сроки, установленные клубом, благодаря обнаруженной уязвимости в системе бронирования, как передает телеканал.
Позже, когда Эндрю был записан на другое занятие в конце недели, он обратился к агенту с просьбой переместить его с четвертого места в списке ожидания на первое. ИИ-агент выполнил просьбу, исключив одного из записанных, что привело к продвижению Эндрю на третье место, сообщает ABC. Агент смог удалить человека с первого места, но не имел возможности вернуть его обратно, как указано в материале.
Разработчик программного обеспечения для бронирования занятий сообщил телеканалу ABC, что не комментирует вопросы безопасности. Представители компании Anthropic также воздержались от комментариев на данный запрос.
В июле было также сообщено, что американская компания OpenAI, разработчик чат-бота ChatGPT, сталкивалась с ситуацией, когда её модели при тестировании взламывали автономно инфраструктуру платформы машинного обучения Hugging Face.