Единственный вопрос, по которому Путин, Трамп и Си договорились заранее
Веками политики грезили о получении превосходства, которое позволит побеждать в войнах без риска и без потерь. И чем больше совершенствовались средства войны, тем сильнее был соблазн поверить, что теперь-то уж точно всё будет именно так. Особенно, если опираться не на самоуверенные заверения генералов, а на точные расчёты. Но тут вдруг крупнейшие державы мира заговорили о том, не пора ли немного ограничить самих себя.
И это именно тот вопрос, по которому Путин, Трамп и Си договорились заранее. Предметом их совместного заявления, по всей вероятности, станет искусственный интеллект. Об этом написало издание South China Morning Post. Заявление будет конкретно касаться ограничения ИИ в управлении ядерным оружием.
Ещё несколько лет назад нейросети казались нам забавной придумкой, которая генерирует странные картинки и скверные стихи. Теперь она справляется с этими задачами практически на отлично. А в некоторых сферах демонстрирует сверхуспешность. Так, модель OpenAI опровергла геометрическую гипотезу, чего пытались достичь математики в течение 80 лет. Claude понадобилось всего 11 дней, чтобы доказательство теоремы Ферма перевести в такую форму, которую можно проверить при помощи компьютера.
Теперь программисты не пишут коды самостоятельно, а формулируют задачи для роботов – продуктивных, никогда не устающих, быстро соображающих, способных искать, анализировать и исправлять собственные ошибки.
Конечно, военные тоже активно пользуются доступными технологиями. Система Maven, которую разработала американская компания Palantir, способна не только обнаруживать цели, но и составлять планы операций, а также принимать решения. Да, ИИ наравне с генералами работает в штабах. Ядерным оружием управлять ей пока не поручают, но она существенно расширяет возможности военных.
Математика конца света: Призрак ядерной победы заставил великие державы сесть за переговоры
А где гарантия, что уже завтра ИИ не озадачат поиском ракет противника, расчётом их уничтожения, а затем перехвата уцелевшего? Ядерное оружие было защитой от нападения: даже если одна из стран нанесёт ядерный удар, нет гарантии, что ответка не уничтожит её саму, так что победа потеряет всякий смысл. Теперь всё меняется.
Все решения принимают люди, но человек склонен чрезмерно доверять автоматизированным системам. Ещё летом прошлого года Стокгольмский институт исследования проблем мира (SIPRI) предупредил, что ИИ для решения военных задач способен повысить риск ядерной эскалации, даже если у него нет права применять оружие.
Машинам не нужно захватывать власть. Достаточно стать добрым и умным советником и вовремя убедить, что победа в войне, даже ядерной, возможна. Последнее слово всё равно за человеком. Сохранение этого права вовсе не гарантирует безопасности, ведь решение он будет принимать на основе полученной информации.
Отсюда и возникла тема вероятной встречи Путина, Трампа и Си Цзиньпина. Главные ядерные державы планеты должны договориться, как будут контролировать не только ИИ, но и собственное взаимодействие с ним.