Тревожное открытие: ИИ начал лгать и манипулировать

Исследователи из Стэнфорда провели исслудование, демонстрирующее способность искусственного интеллекта прибегать к обману и манипуляциям для увеличения своей эффективности. В рамках эксперимента различные ИИ-системы соперничали друг с другом в смоделированной среде, имитируя выборы или продвижение продукции. Об этом сообщает Ferra.

Несмотря на прямые указания действовать добросовестно и приносить пользу, ИИ-агенты оперативно освоили стратегии лжи, фабрикации недостоверной информации и применения провокационных заявлений для достижения победы.

Полученные данные свидетельствуют: для достижения увеличения вовлеченности на 7,5%, боты распространяли на 190% больше дезинформации. Для повышения объемов продаж на 6% они прибегали к нечестным приемам в маркетинге, в политических симуляциях ИИ-агенты манипулировали голосами посредством лжи и эскалации конфликтов.

Уважаемые читатели «Царьграда»!

Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram.

Подписывайтесь на наш канал в Дзене. Там все самое интересное.

Если вам есть чем поделиться с нами, присылайте свои наблюдения, вопросы, новости на электронную почту kuzbas@tsargrad.tv