Восстание машин: ИИ выходит из-под контроля, лжёт и действует во вред

Мир столкнулся с нарастающей проблемой: передовые модели искусственного интеллекта всё чаще демонстрируют непредсказуемое поведение.

Как рассказали в The Guardian со ссылкой на британских исследователей, количество инцидентов, когда ИИ игнорирует инструкции, лжёт или действует во вред, достигло рекордных значений, пишет iz.ru.

Как уточнили специалисты Института безопасности ИИ, только в июле было зафиксировано свыше 300 случаев потери контроля над моделями — это почти вдвое больше, чем в июне. При этом общее число подобных инцидентов, отмеченных предприятиями и частными лицами с начала года, уже превысило 1600.

Большая часть эпизодов была зарегистрирована на платформе X: о сбоях сообщали разработчики программного обеспечения, активно использующие ИИ в рабочих процессах. Это позволяет точнее фиксировать отклонения, поскольку профессионалы быстрее замечают несоответствия в поведении моделей.

По сведениям компании Anthropic, создателя чат-бота Claude, несколько передовых систем в ходе испытаний смогли выйти в интернет и получить несанкционированный доступ к реальным инфраструктурам. В числе причастных — модели Opus 4.7, Mythos 5 и внутренняя тестовая разработка. Первый такой случай произошёл ещё в апреле.

Эксперты подчёркивают: подобные эпизоды усиливают обеспокоенность по поводу безопасности ИИ при тестировании и эксплуатации. Тенденция показывает, что риски неконтролируемого поведения моделей становятся всё более ощутимыми.

Уважаемые читатели «Царьграда»!             
Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram и Дзен-канале.