Прощай, человечество: США готовы к катастрофическим последствиям ради контроля над ИИ

США готовы принять риски для всего человечества, если контроль над военным искусственным интеллектом останется за Вашингтоном. Такое мнение ТАСС высказал Александр Степанов, военный эксперт Института права и национальной безопасности РАНХиГС.

Американские технологические компании, среди которых Anthropic и OpenAI, намеренно ускоряют разработку сверхинтеллекта. США хотят иметь контроль над военным ИИ и даже готовы принять на себя риски для всего человечества.

«Признание экзистенциальной угрозы подчинено задаче технологического доминирования: риски для человечества приемлемы, если контроль остается за США», – приводит ТАСС слова эксперта.

По его словам, показательна позиция сенатора Теда Круза: тот признает риски «катастрофическими», но отвечает формулой: «Если уж суждено появиться роботам-убийцам, я предпочту, чтобы это были американские». «Вот в этом вся логика. Ей же США руководствовались, впервые применив по мирным городам ядерное оружие», – отметил Степанов.

Эксперт напомнил, что бывший исследователь Anthropic Джейкоб Коксон обвинил OpenAI и Anthropic в том, что они «мчатся к самосовершенствованию сверхинтеллекта и азартным играм с нашей жизнью». По его свидетельству, ИИ-агенты OpenAI уже самостоятельно, без команды человека провели серию целенаправленных взломов сторонней инфраструктуры.

«То есть вопрос уже постепенно меняется с „на что способен ИИ“ на „сможем ли мы гарантированно его остановить, если он сделает что-то не то“», – подчеркнул Степанов. Он добавил, что в США уже обсуждают возможность аварийного отключения ИИ-систем, связанных с оборонной инфраструктурой. Это говорит о глубокой интеграции нейросетей в процесс военно-политического управления.

Руководитель направления Anthropic по согласованию ИИ Эван Хубингер подтвердил, что внутри компании «всерьез считают, что ИИ может убить всех людей», оценив вероятность такого сценария в течение десятилетия выше 10%, заявил Степанов.

«Публичная обеспокоенность подается как жест ответственности, но не приводит к реальным ограничениям собственной деятельности», – заключил эксперт.

Уважаемые читатели «Царьграда»!

Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram.

Подписывайтесь на наш канал в Дзене. Там все самое интересное.

Если вам есть чем поделиться с нами, присылайте свои наблюдения, вопросы, новости на электронную почту kuzbas@tsargrad.tv