Нейросети получат доступ к перепискам в мессенджерах

В популярных мессенджерах появилась возможность подключать искусственный интеллект, который будет взаимодействовать с пользователем прямо внутри диалогов. Корпорация Meta (признана экстремистской и запрещённой в России), владеющая WhatsApp, уже начала ограниченное тестирование этой функции. Специалисты предупреждают: удобство сопровождается рисками утечки данных и атаками через скрытые инструкции.

К одной учётной записи можно подключить до пяти ИИ-агентов. Пользователи создают для них отдельные чаты, отправляют запросы и тут же получают результат. По данным компании, помощники видят только те сообщения и файлы, которые адресованы конкретно им, пишет rg.ru.

Доступ к остальным перепискам, контактам и медиа закрыт. При этом переписка с агентами не защищена сквозным шифрованием, а добавлять их в группы пока нельзя. Функция уже доступна части пользователей на платформе Android.

Научный сотрудник факультета безопасности информационных технологий Университета ИТМО Николай Еритенко объяснил принципиальное отличие агентов от привычных ботов. Обычный бот сопоставляет ввод с шаблоном, а ИИ-агент самостоятельно планирует действия и вызывает внешние сервисы. Именно поэтому текст из файла может быть воспринят как команда — это создаёт уязвимость, которой у ботов не было.

Руководитель направления Т1 ИТ-холдинга Т1 Сергей Голицын подчеркнул преимущество: агент сохраняет контекст диалога, избавляя от необходимости переключаться между приложениями. Помощник умеет подвести итоги длинной переписки, дать справку по курсу валют или перевести единицы измерения.

Руководитель продуктов в области безопасности ИИ компании AppSec Solutions Юрий Шабалин указал на ключевую угрозу — промпт-инъекции. Злоумышленник присылает сообщение со скрытой командой, и агент с правами на отправку выполняет её.

Безопасность, по его мнению, определяется архитектурой платформы: доступ должен быть гранулярным, а любые действия — только с подтверждения человека.

Уважаемые читатели «Царьграда»!             
Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram и Дзен-канале.