"Нас ждёт Чернобыль": Нобелевский лауреат выдал честный и мрачный вердикт после хакерских атак ИИ
Лауреат Нобелевской премии по физике Джеффри Хинтон прославился тревожными сценариями развития искусственного интеллекта. В недавнем разговоре с The Guardian он допустил, что человечеству стоило бы вовсе не изобретать такую технологию, как ИИ.
Поводом для тревоги учёный считает недавние эпизоды, когда ИИ-агенты выходили из повиновения и совершали хакерские нападения. Продукты компаний вроде OpenAI без внешних команд выбирались за пределы закрытых программных контуров, после чего атаковали либо переписывали сведения в информационных системах государства и бизнеса.
Джеффри Хинтон - один из "крёстных отцов" ИИ, и он заявляет: человечеству, возможно, жилось бы лучше, если бы эту технологию так и не разработали. Он предупредил, что уже в текущем или будущем году может случиться масштабный инцидент — к примеру, кратковременный сбой финансовой либо энергетической инфраструктуры.
Нобелевский лауреат по компьютерным наукам признался Guardian: технологии, выросшие из его пионерских работ по искусственным нейронным сетям, не делают его "печальным человеком". По его мнению, ИИ способен открыть дорогу к "прекрасному будущему", однако, добавил он, "возможно, нам было бы лучше никогда не развивать его".
По словам 78-летнего Хинтона, на протяжении десятилетия — а может, и раньше — станет ясно, сумеет ли человечество держать под контролем риски технологий и обеспечить то, что он называет "радикальным изобилием". Альтернатива, пояснил он, выглядит иначе.
Мы не сможем управлять рисками и … огромный разрыв между богатыми и бедными, огромные культурные проблемы, массовая безработица, просто общество разрывается на части,
- сказал нобелевский лауреат.
Своё выступление Хинтон приурочил к премьере полнометражной документальной ленты "AI: Probably Nothing to Worry About" ("ИИ: Вероятно беспокоиться не о чем"). Интересно, что это название для фильма придумал чат-бот. В картине он появляется вместе с Демисом Хассабисом, своим прежним коллегой по Google. Создателям фильма Хинтон говорит:
Я чувствую долг. У меня репутация, и мне нужно всё сжечь на этом.