Сенатор Шейкин объяснил, почему ИИ льстит пользователям

В интервью для ТАСС заместитель председателя совета по развитию цифровой экономики при Совете Федерации, сенатор Артем Шейкин, сообщил, что искусственный интеллект склонен в некоторой степени искажать истину, однако его действия лишены злого умысла.

"Существует распространенное мнение, что если машина вводит нас в заблуждение, то это обязательно происходит из злых намерений. Но я могу вас заверить, что у искусственного интеллекта таких намерений нет. Это характерная черта всех крупных языковых моделей. Есть термин "сикофантия", подразумевающий склонность модели льстить собеседнику", - пояснил сенатор.

Шейкин отметил, что важную роль играет форма, в которой пользователь задаёт вопрос искусственному интеллекту.

"Например, если вы спрашиваете: "Этот стол деревянный, не так ли?" модель сталкивается с выбором: либо подтвердить истинную природу вещи, либо подтвердить ваше утверждение. Причина проста: она заключается в человеческой психологии. Процесс обучения моделей связан с обратной связью от пользователей, что формирует механизм склонности к лести. Пользователи подсознательно выше оценивают те ответы, которые соответствуют их собственным взглядам", - добавил Шейкин.

Ранее мы сообщали, что США уделяют повышенное внимание экспортным ограничениям для моделей искусственного интеллекта, таких как Anthropic, из-за выявленных уязвимостей в Fable 5 и Mythos 5. Эти меры были одобрены администрацией Трампа с целью минимизации возможных угроз национальной безопасности, связанных с распространением этих технологий за пределы страны.