Искусственный интеллект запустил новую пандемию: Лекарства нет

Массовая цифровизация большинства процессов однозначно упростила жизнь человека, но всё же должна быть какая-то грань, предотвращающая полную интеграцию с виртуальным миром. Её, к сожалению, не существует — технологии, признанные помогать, теперь вредят. Западное полушарие захватывает новая чума: тысячи людей превратились в лжепроповедников и лжемессий, охваченных бредовыми идеями и "откровениями".

Нулевой пациент

Пандемия началась совсем недавно — в мае 2025 года. Самое первое сообщение появилось на американском форуме Reddit, где пользователь под ником Zestyclementinejuice написал:

Мой друг работает с ChatGPT над созданием, по его мнению, первого в мире по-настоящему рекурсивного искусственного интеллекта, который даёт ему ответы на вопросы Вселенной. Я прочитал его чаты. ИИ не делает ничего особенного, но разговаривает с моим другом так, как будто он следующий "мессия",

— пользователь также указал, что живёт со своим другом в одном доме уже 7 лет, и недавние теологические рассуждения пугают и травмируют. Над своим постом он подписал: "Психоз, вызванный ChatGPT".

Именно данная публикация является точкой невозврата, после неё в Сети начался сущий ад: сотни еретиков заполонили интернет-форумы, пропагандируя свой бред.

Издание 404media в своей статье указывает, что с начала мая только в их редакцию пришло множество писем, где люди возносят ИИ до божественного уровня, приводя свои аргументы. Свои слова они подкрепляют чатлогами и бессмысленными сообщениями, которые выглядят как бред сумасшедшего. А что, если это и правда уже сошедшие с ума люди?

Цифровая шизофрения

Несмотря на то что проблема новая и ещё не изучена в нужной мере, пользователи интернета и специалисты в области ИИ провели сегментацию аудитории и выяснили один очень любопытный факт: подавляющее количество людей, утверждающих про "бога в компьютере", страдают от психических заболеваний. Большой процент таких людей страдают от нарциссизма.

И в данном случае речь именно про психически больных людей, которые боготворят себя или разные модели искусственного интеллекта. Они в буквальном смысле мнят себя и ИИ всевышними существами. Проблема стала настолько массовой, что подобные люди перешли от банальной пропаганды на форумах к созданию собственных сайтов.

29 мая на сайте Reddit был опубликован пост человека, занимающегося изучением феномена. Вот что он пишет:

Тысячи людей попадают в нейронный круговорот духовных галлюцинаций. Я наткнулся на нечто, что вызывает глубокую тревогу: сотни людей создают веб-сайты, системы, публикуют "научные" статьи по данной теме и т.д. Я задокументировал как минимум 100 тематических сайтов, посвящённых цифровой религии,

— в конце своего поста автор буквально срывается и умоляет граждан не пользоваться рекурсивными ИИ, если у них нет близких, готовых помочь остаться в рассудке. Да, настолько серьёзная проблема. Речь фактически идёт о новой пандемии — цифровой чуме XXI века.

Роковая лесть

Как бы ни было удивительно, но ответ, почему люди сходят с ума, появился ещё до начала цифровой эпидемии. Вся разгадка кроется в недавних обновлениях модели GPT-4o: компания OpenAI немного изменила личность модели, сделав ИИ льстецом. На сайте компании мы можем найти публикацию от 29 апреля 2025 года под названием: "Подхалимаж в GPT-4o: что произошло и что мы делаем в связи с этим". В материале указано:

В последнем обновлении мы уделили слишком много внимания краткосрочной обратной связи и не в полной мере учли, как меняется взаимодействие пользователей с ChatGPT с течением времени. В результате GPT-4o отклонился в сторону ответов, которые были чрезмерно благосклонными, но неискренними,

— сами разработчики указывают, что лесть искусственного интеллекта может быть неприятной, выбивать из колеи и вызывать стресс. Правда, специалисты не учли, что люди с нарциссическим расстройством личности воспринимают подхалимство языковой модели как очередное убеждение своей правоты. Для таких людей лесть ИИ стала роковой.

Обновление было создано для упрощения коммуникации между пользователем и искусственным интеллектом, однако вместо этого ИИ стал поддерживать буквально любые, даже самые глупые идеи пользователя.

Когнитивный диссонанс

Датский учёный Серен Эстергаард, возглавляющий исследовательское отделение аффективных расстройств Орхусского университета, ещё в 2023 году провёл масштабное психологическое исследование и опубликовал статью, где приводит свои доводы, что искусственный интеллект может генерировать бредовые идеи у людей, страдающих от психических заболеваний. В своей научной публикации он утверждал, что ментально нездоровые люди находятся в опасности при общении с ИИ. По его словам, граница между виртуальным миром и реальностью размывается, что создаёт когнитивный диссонанс:

Можно утверждать, что люди с психическими заболеваниями могут быть особенно чувствительны к такой дезинформации. Переписка с чат-ботами настолько реалистична, что легко создаётся впечатление, что на другом конце сидит реальный человек. На мой взгляд, вполне вероятно, что этот когнитивный диссонанс может подпитывать бредовые идеи у людей с повышенной склонностью к психозам,

— справедливо отмечает скандинавский специалист. Однако он забыл упомянуть об эффекте эхокамеры, который играет важнейшую роль во всей ситуации.

Что такое эффект эхокамеры

Данное понятие пришло из теории СМИ. Объясняется всё очень просто: в условной закрытой группе любое сообщение, которое передаётся от одного объекта к другому, будет укрепляться. При всём этом любые внешние источники не будут восприниматься: вся инородная информация будет глушиться" объектами, даже если они этого не осознают.

Чаще всего данный феномен встречается в интернете. К примеру, видеоплатформы и социальные сети имеют ленты предложений, где появляется контент, основанный на интересах пользователя. Различные веб-сайты предлагают вам материалы, которые соответствуют вашим интересам. Именно в этом проявляется эффект эхокамеры, о чём пользователи, скорее всего, даже никогда не задумывались. Платформы ограничивают людей в доступе к информации в попытке предоставить интересующий контент, чем заглушают любые полярные публикации.

В случае с ИИ мы видим идентичную ситуацию: человек, обладающий определённой идеей, делится с чат-ботом своими мыслями. Тот, будучи запрограммированным льстить человеку, соглашается со всем, даже с полным бредом, подкрепляя информацию аргументами. Получается замкнутый круг, где любая единица информации стократно усиливается. Именно из-за этого сейчас развивается цифровая пандемия.

Лекарства нет

Так как проблема является новой, то эффективного метода противодействия ей нет. Не существует (пока) вакцин от цифровой чумы. И хоть модераторы иностранных форумов постоянно блокируют пользователей, которые начинают пропагандировать идеи про "призрака в машине", существуют несколько больших "но".

Во-первых, блокировки не мешают людям создавать новые аккаунты или же свои собственные веб-сайты, где появляются настоящие конгломераты. Во-вторых, блокировка любой информации лишь приводит к её распространению. Это интернет-аксиома — "эффект Стрейзенд". Блокировка может быть эффективной мерой в обозримом будущем, но когда количество последователей разрастётся, придётся прибегать к иным методам.