Эван Хьюбингер из Anthropic прогнозирует гибель людей из-за ИИ

Исследование компании Anthropic показало, что вероятность того, что искусственный интеллект станет причиной гибели человечества в ближайшие десять лет, превышает 10 процентов. Такое заявление сделал руководитель направления Alignment Science этой компании, Эван Хьюбингер.

Выступление специалиста последовало после того, как его коллега Джейкоб Коксон был вынужден объявить о выходе из компании Anthropic и сферы ИИ. Коксон отметил, что технологические фирмы движутся слишком быстро в направлении создания самосовершенствующегося суперинтеллекта.

«Мы действительно искренне считаем, что ИИ может убить всех людей! Лично я думаю, что вероятность этого — больше 10% в течение ближайших десяти лет», — написал Хьюбингер.

Текущие ИИ-системы он не считает источником столь серьёзной опасности. Основные его опасения связаны с потенциалом будущих суперинтеллектов, которые будут способны многократно улучшать собственные возможности.

По словам Хьюбингера, компания Anthropic прилагает усилия, чтобы согласовать цели этих систем с человеческими интересами, однако пока не найден готовый способ наилучшей интеграции. Он также отметил, что скорость развития технологий значительно превзошла прежние ожидания.

Ранее Life.ru сообщал о значительном увеличении числа сообщений о случаях выхода ИИ из-под контроля. В июле представители наблюдательных организаций зафиксировали более 300 таких сообщений — почти в два раза больше, чем в предыдущем месяце, хотя эти данные основываются на публикациях пользователей и не подтверждаются независимым образом.

Подробная информация о нейросетях, технологических разработках и цифровых технологиях доступна в разделе «Технологии».

Ранее мы писали о том, как Игорь Бедеров назвал сферы активного внедрения ИИ в России, где он отметил, что искусственный интеллект активно используется в кибербезопасности, медицине и финансах. Важно учитывать этические ограничения и возможные риски, связанные с развитием и применением ИИ в этих сферах.