Разработчики ИИ создают систему защиты от вышедших из-под контроля алгоритмов

Американские лидеры в разработке искусственного интеллекта работают над созданием системы экстренной защиты от вышедших из-под контроля алгоритмов с помощью других инструментов ИИ, сообщает портал Axios.

Вопросы безопасности вновь оказались в центре внимания после того, как исследователь из компании Anthropic Джейкоб Коксон объявил о своём уходе из индустрии, объяснив это тем, что гонка технологических корпораций приближает мир к "точке невозврата" и может привести к апокалиптическому сценарию уже в конце 2027 года.

По данным портала, компании могут отключать отдельные серверы, от которых зависит ИИ, но по-настоящему мощные системы работают на множестве компьютеров и платформ, и единого "рубильника" не существует. Поэтому разработчики экспериментируют с многоуровневой защитой, способной выявлять подозрительное поведение, останавливать агентов и отрезать их от ресурсов.

Представители OpenAI сообщили, что их цель — создание "полностью автономных процедур отключения при серьёзных проблемах". Наблюдатель на базе ИИ предупредит сотрудников, если поведение агентов покажется опасным, и отключит систему в течение 30 минут при подтверждении угрозы. Anthropic делает ставку на тандем человека и ИИ: алгоритмы следят за подозрительной активностью и оповещают сотрудников об ошибках. Однако во время последних тестов автоматизированный мониторинг смог распознать лишь 50% угроз.

Уважаемые читатели "Царьграда"!

Присоединяйтесь к нам в соцсетях "ВКонтакте" и "Одноклассники", также подписывайтесь на наш телеграм-канал.

Если вам есть чем поделиться с редакцией "Царьград. Беларусь", присылайте свои наблюдения, вопросы, новости на электронную почту belorussia@Tsargrad.TV.