Anthropic предупредила: ИИ может вскоре копировать себя на устройствах

Американская компания Anthropic предупреждает, что в течение нескольких месяцев небольшие модели ИИ могут освоить способность копировать себя на домашние устройства, подключенные к интернету. Специалисты отмечают, что деактивировать такие модели будет затруднительно из-за отсутствия единого "централизованного выключателя", как указывается в блоге компании.

Полноценный механизм для копирования пока еще не разработан, однако ИИ-алгоритмы все более успешно решают отдельные задачи из "цепочки репликации". Anthropic протестировала способность ИИ к самовоспроизведению, запустив модель Gemma4-26B-A4B, созданную Google, на сети из 15 малораспространенных ТВ-приставок на базе Android. Эти устройства с часто незысканной защитой могут стать уязвимыми для взлома со стороны ИИ-моделей.

В случае, если модель полностью не поместится на одно устройство, Anthropic заявляет, что возможно её разделение на части с запуском на нескольких устройствах.

В реальной практике ИИ-червь может представлять собой не одну модель или стратегию, — сообщается в блоге. — Наиболее вероятно, что "худший сценарий" будет заключаться во внедрении множества моделей на различных типах устройств с использованием различных схем репликации.

Anthropic пока не может точно определить, как будет выглядеть автономное воспроизведение ИИ. Это может быть как "медленно функционирующая, распределенная" система на слабозащищенных устройствах, так и "мощная кибермодель", способная быстро проникать в дата-центры, или алгоритм, обманным путем использующий вычислительные мощности, предлагаемые пользователям, говорит компания.