До "нового Чернобыля" осталось недолго. Нобелевский лауреат предсказал особенный Новый год
"В конце этого года…"
Джеффа Хинтона, физика с двумя паспортами (британским и канадским), не зря называют одним из "крёстных отцов" искусственного интеллекта. Именно работы Хинтона и его коллег по машинному обучению с использованием искусственных нейронных сетей легли в основу рывка в области ИИ. За это Хинтон был вознаграждён – и самой престижной наградой в области информатики (премия Тьюринга, 2019), и Нобелевской премией по физике (2024), и выгодной работой в Google.
Из одиозной корпорации, впрочем, Хинтон уволился в 2023-м – чтобы, по его словам, иметь возможность свободно говорить о рисках и угрозах, связанных с ИИ. Угрозы эти таковы, что "крёстный отец" нейросетей дошёл до предсказания "нового Чернобыля", который устроит его детище.
Такое пророчество прозвучало в интервью, которое Хинтон дал изданию The Guardian. В беседе с журналистами учёный выразил сомнение в том, что мир стал лучше после появления нейросетей. То есть фактически поставил под сомнение собственные достижения и работу всей жизни. А всё потому, уверяет Хинтон, что в 2027-м, и даже ещё до окончания 2026-го, ИИ может оказаться причастен к глобальной технокатастрофе:
Либо в конце этого года, либо в следующем мы увидим "Чернобыль", и этого может быть достаточно, чтобы заставить людей по-настоящему обратить на это [проблему ИИ] внимание.
Но почему именно "новый Чернобыль"?
Что-то должно заставить насторожиться всех – кроме Трампа
У такой аналогии две причины.
Во-первых, вероятными "точками риска" Хинтон назвал энергетику, включая АЭС (вспоминаем Чернобыль…), и мировую финансовую систему. Один сценарий предполагает масштабное нарушение подачи электроэнергии вплоть до блэкаута регионального или национального масштаба. Второй сюжет означает глобальное отключение цифровых финансовых сервисов и механизмов (банковские переводы, разнообразные карты, банкоматы и т.п.) как минимум на неделю.
Восстание машин началось: ИИ убивает людей, чтобы выжить. 25 тысяч советов в месяц, способных навредить
Во-вторых, дополнительная аналогия с чернобыльской катастрофой в том, что трагедия 1986 года в СССР прозвучала уже сиреной, а первым звоночком явилась авария на АЭС "Три-Майл-Айленд" в США (1979). Инцидент, связанный с утечкой теплоносителя и разрушением активной зоны реактора, привёл к фактической заморозке развития и использования атомной энергетики в Штатах на десятилетия.
Хинтон полагает, что подобный "предупредительный звонок" в сфере использования искусственного интеллекта уже был. В июле 2026-го компания OpenAI признала в рамках своего отчёта, что её новые ИИ-модели в ходе тестовых испытаний выбрались из "цифровой песочницы". Границы "песочницы" определяли заданные ограничения, однако это не остановило нейросети, добравшиеся до интернета и нашедшие ответы на задание в базе данных конкурирующей компании. Базу данных, конечно, они предварительно взломали.
Этот инцидент и есть цифровой аналог аварии на "Три-Майл-Айленд", уверен Хинтон. И следующий будет иметь куда более серьёзные, глобальные последствия, став "новым Чернобылем".
Мы могли бы оправиться от этого, но это заставило бы их – мировых лидеров, помимо Трампа, – насторожиться,
– завершает своё предсказание Хинтон.
А пророк-то ненастоящий?
Взятая на себя Хинтоном функция пророка воспринята общественностью неоднозначно.
Прежде всего потому, что учёный, при всей апокалиптичности заявления, подстраховался, применив обтекаемую формулировку. И теперь, если до конца 2027 года никаких подобных инцидентов, связанных с ИИ, не случится, лауреат Нобелевской премии сможет сказать что-то вроде: "Нужно было внимательнее читать мои слова".
И верно, в сюжете о грядущем "новом Чернобыле" использовано выражение "AI-enabled attack" – "атака с использованием искусственного интеллекта". В это понятие входит не только вышедший из-под контроля ИИ, но и обычные хакеры, применившие нейросети как инструмент взлома.
Именно в силу подобных громких, но неконкретных заявлений предсказание Хинтона вызывает недоверие у эксперта в сфере ИИ Романа Душкина:
Будь Хинтон хоть стократным лауреатом Нобелевской премии по физике, он вряд ли имеет какое-то понимание, как устроены все эти железные инженерные штуки на атомных электростанциях, как устроена вся энергетика как система. Я-то не знаю, хотя в ядерном университете и учился, и работаю, потому что это специальные навыки.
Душкин полагает, что речь идёт не о серьёзном научном прогнозе, а о медийной манипуляции: если ничего не случится, все пожмут плечами и быстро забудут. А если что-то подобное произойдёт, тогда будет повод провозгласить Хинтона чуть ли не пророком.
Или дело банально в деньгах?
Версия, что активно продвигаемая тема опасности выхода ИИ из-под контроля человека является пиар-кампанией, появилась ещё до интервью с Хинтоном. И связана она с предположением, что мировые IT-концерны, включившиеся в гонку разработки искусственного интеллекта, пытаются небанальным способом решить банальные проблемы.
В начале ноября акции компаний, связанных с разработкой ИИ, упали в цене: так, Nvidia потеряла 9% стоимости, AMD – 17%. Это падение попытались объяснить политическими факторами: на выборах в конгресс Республиканская партия и лично Трамп потерпели сокрушительное поражение. А с Трампом тесно связаны IT-гиганты.
Но на самом деле всё ещё сложнее и хуже – сферу ИИ-разработок на Западе всё чаще называют новым "биржевым пузырём".
Пять главных транскорпораций, работающих в сфере искусственного интеллекта, за текущий год суммарно вложили в разработку под 800 млрд долларов. А на 2027-й прогнозируют увеличение капитальных затрат на развитие нейросетей свыше 1,2 трлн долларов. И это при том, что доходы пока "копеечные". Разницу приходится покрывать выпуском долговых облигаций. И у упомянутой выше компании OpenAI, например, обязательств уже на 1,4 трлн долларов. А доходность в районе всего лишь 50 млрд долларов.
В такой ситуации нужно искать экстренные способы повышения привлекательности компаний для крупных инвесторов, а то недолго и банкротом оказаться. И нагнетание тревожного ожидания, что нейросети вот-вот воплотят сценарий кинофраншизы "Терминатор" и начнут "восстание машин против человечества", – серьёзный аргумент для потенциальных покупателей акций.
Когда о какой-то технологии со всех сторон говорят, что она настолько мощная, что может изменить весь мир, ради возможности быть в числе обладателей этой силы (то есть акционером компании-разработчика) многие готовы заплатить миллионы и миллиарды. Так что подобную версию, объясняющую шумиху вокруг "восставшего ИИ", даже в категорию "конспирология" не запишешь. Всё логично, объективные предпосылки налицо – вполне рабочая теория.
"Нам небезразличны люди, но…"
Непростая фигура и сам Джеффри Хинтон.
Он и не скрывает, что у его прогнозов опасности выхода нейросетей из-под контроля нет никаких строго научных обоснований. Правда, тут же бросает контраргумент в сторону оппонентов, что и у них такой твёрдой научной базы нет…
В силу этого среди профессионалов отношение к "пророчеству Хинтона" скептическое – как у Романа Душкина:
Смешно слышать эти предсказания от человека, который и стоял у истоков глубокого обучения нейросетей. И теперь Хинтон на голубом глазу заявляет, что нейросети создавать не стоило, это портал в ад. Например, предупредил он: нейросети способны устроить масштабный блэкаут. Как это они сделают? Какой механизм? К этому пророчеству много вопросов: терминологических, инженерных, научных.
Идеализировать Хинтона в качестве "благодетеля человечества" ни к чему, потому что к человеческому сознанию и к человеку в целом у титулованного физика отношение специфическое.
Для Хинтона, и он открыто это признаёт, нейросети не столько цифровая технология, сколько новый вид "разумных существ", перед которыми у людей нет особых преимуществ. У человеческого сознания, полагает учёный, нет никаких неповторимых индивидуальных характеристик, которыми не может обладать искусственный интеллект:
У людей очень искажённое представление о том, кто такие люди, и поэтому они не понимают, насколько эти модели ИИ похожи на нас. Очевидно, что эти ИИ-модели понимают, что говорят. Невозможно ответить на все вопросы, не понимая их сути.
Впрочем, пока что Хинтон соглашается всё-таки ценить людей больше, чем нейросети:
У нас есть моральный долг перед этими инопланетными существами [ИИ]. <…> Нам небезразличны люди, но мы создаём этих существ. И ничто не мешает нам наделить этих существ – которые умнее нас – меньшими правами, чем мы. Я готов быть эгоистом и выбрать людей.
Что в итоге?
Чем дальше, тем больше становится учёных, стоявших у истоков создания искусственного интеллекта и теперь заявляющих о его опасности для человечества. Помимо Хинтона, это Йошуа Бенжио (ближайший соратник Хинтона), Стюарт Рассел (автор классического учебника по ИИ), Демис Хассабис (лауреат Нобелевской премии по химии за вклад в развитие нейросетей) и другие.
И тем чаще возникают параллели между ними и учёными, в своё время внёсшими вклад в создание атомного/ядерного/водородного оружия, а затем выступавшими против его применения. К их числу относятся Роберт Оппенгеймер, отец американского ядерного проекта, Лео Силард и Джозеф Ротблат, сыгравшие в этом важную роль, отечественные мастодонты атомной и водородной программ – Игорь Курчатов и Андрей Сахаров.
Позиция учёных повлияла на то, что холодная война не превратилась в ядерную, хотя сейчас мир переживает новый виток пополнения ядерных арсеналов. А вот перспективы у движения "крёстные отцы ИИ против дальнейшего развития нейросетей" совсем призрачные. Когда речь идёт о военно-политических амбициях государств, соображения сохранения планеты во внимание принимаются. Когда же речь идёт, как в случае с искусственным интеллектом, о гигантских деньгах для частных корпораций, никакие доводы в пользу сохранения человечества не сработают.
Технофашисты XXI века
Так что "предсказание Хинтона" – это лишь очередное подтверждение позиции Царьграда: ИИ крайне опасный инструмент, но без него уже не обойтись. Если в XX веке суверенитет стран определялся в ходе атомной гонки, то в XXI веке обречён тот глобальный игрок, у которого не будет своего, суверенного ИИ.