Против отмывания денег восстанут машины. Договориться невозможно

12 сентября глава компании Anthropic, разработчика искусственного интеллекта Claude, Дарио Амодеи заявил о необходимости замедлить темпы развития искусственного интеллекта. Он упомянул случай, когда агенты ИИ OpenAI вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face.

Не так уж важно, опасен этот случай или просто распиарен. Важно, что он далеко не единственный. Известны и другие инциденты, когда отдельные ИИ объединяли усилия в попытке решить поставленную перед ними задачу и шли на такие ухищрения, которые группа людей (хоть и обладающих высокой квалификацией и обширными знаниями) и выдумать не смогла бы. Агенты образовали рой и действовали настолько же эффективно, как пчелиная или муравьиная семья, однако обладали неизмеримо большим интеллектом.

"Уже через 6-12 месяцев он сможет захватить весь интернет": AI-гиганты срочно ограничивают развитие ИИ

Амодеи предупредил, что, с учётом скорости развития систем ИИ, в течение года рой агентов искусственного интеллекта может захватить интернет:

Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов. Масштаб ущерба будет расти, если ИИ станет мощнее без особых мер безопасности.

Что предложил Амодеи

Первый этап для контроля над искусственным интеллектом – встроенные оценщики. Каждая передовая ИИ-компания должна предоставить постоянный доступ команде сторонних экспертов, которые проверяют соблюдение практик безопасности, сообщают об инцидентах, помогают оценивать выравнивание не только готовых моделей, но и обучающих конвейеров и процессоров.

Второй шаг – демократическая координация. Передовые ИИ-компании в демократических странах координируются для установления общих стандартов безопасности, а также ограничения темпа неконкурентного прогресса искусственного интеллекта.

Третий шаг – глобальная координация. США и другие демократические правительства должны стремиться скоординировать свои действия с другими правительствами (в особенности с Китаем) в той мере, в какой это возможно, серьёзно относясь при этом к проверке соблюдения правил.

Призыв Амодеи поддержали владелец SpaceX AI (компания выпустила Grok) Илон Маск и глава OpenAI (продукт компании – ChatGPT) Сэм Альтман. Последний допустил: вероятность, что люди окажутся ненужными как вид уже к концу десятилетия, составляет 10%.

Что сказали в России

Зампредседателя Совета безопасности Дмитрий Медведев не поверил, что AI-гиганты способны намеренно себя ограничить. Более реальный сценарий – когда программа на основе искусственного интеллекта, включённая в управление крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнёт самолёты или уничтожит АЭС.

Договориться о методах регулирования искусственного интеллекта, считает Медведев, было бы логично, но нереалистично. Помешает этому "жадность корпораций и ненасытность страстей человеческих".

Поэтому остаётся одно: рассчитывать на милость победителя. <…> Каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей…

– написал Медведев в своём Telegram-канале.

Цель – захват мира?

Страшилки – это одно. Реальная подоплёка всего этого – совсем другое. Дело в том, что на рынке искусственного интеллекта образовался лютый пузырь. Об этом заявил депутат Госдумы, доктор экономических наук, ведущий Царьграда Михаил Делягин в эфире программы "Итоги дна".

Инвестиции в ИИ носили истеричный характер в течение более чем года. Это привело к раздуванию огромного пузыря нереализуемых ожиданий. Вложения в искусственный интеллект колоссальны, а эффект от него сравнительно ничтожен.

Искусственный интеллект – необходимое будущее, но когда его ждать и каким оно будет, невозможно себе представить,

– заметил Делягин.

На этом фоне мы уже видим отмену объявленных IPO, потому что новых денег собрать в этот пузырь уже невозможно. AI-гиганты наобещали инвесторам с три короба, но очевидно, что их обещания нереализуемы. И для того, чтобы инвесторы не предъявили им счёт, не обвинили в мошенничестве, разработчики решили притормозить развитие ИИ.

Специалист по информационной и технической безопасности Сергей Трухачёв отрицательно ответил на вопрос, может ли ИИ на самом деле захватить интернет и мир. Так или иначе у искусственного интеллекта есть центр управления. А вот с определённым управленцем, безусловно, подобное возможно.

Отпускание ИИ в свободное плавание в любом случае приведёт к серьёзным последствиям как для бизнеса, так и в целом для некоторых государств,

– считает Трухачёв.

Ещё несколько лет назад никто не мог предполагать, что можно будет, например, за минуту создать ваш цифровой клон с копией вашего голоса, который будет произносить любые фразы. Любого политика можно скопировать. К чему это может привести? Ответ очевиден, констатировал эксперт.

Пчёлы против мёда

Тема искусственного интеллекта и заявления Амодеи обсуждались и в эфире программы "Мы в курсе". Ведущая Елена Афонина попросила журналиста, эксперта в сфере технологий Николая Турубара объяснить, почему у создателей ИИ неожиданно проснулась забота о человечестве.

Ситуация выглядит забавно: компания, которая сама разрабатывает искусственный интеллект, предупреждает об опасности. Это как пчёлы против мёда. Хотя, честно скажу, опасность может быть вполне реальная,

– произнёс специалист.

Anthropic готовится выйти на IPO. Оценка у них была около триллиона долларов. Когда в дело вступают такие суммы, всё, что говорят хозяева компаний, становится маркетингом.

Возможно, это из серии "сначала напугаем, а потом давайте нам деньги – мы всё исправим". Акции взлетят,

– допустил Турубар.

США и Китай в режиме гонки, в которой не может замедлиться ничего. Это как было у Штатов с СССР в гонке ядерных вооружений. И как вводить какие-то ограничения в условиях страшной конкуренции, когда компании действуют без тормозов, представить невозможно.

Может случиться, что все одумаются. Но речь о безопасном ИИ уже не идёт. Это говорят сами сотрудники AI-гигантов. Не исключено, что критический момент уже наступил.

Россия отстала от мира

У нас правительство утвердило концепцию повышения уровня цифровой грамотности граждан. Она предусматривает в числе прочего создание списка правил взаимодействия с ИИ. В него войдут и методы проверки контента на признаки синтетической генерации, в частности, тех самых дипфейков. Единую рекомендацию по безопасному поведению в интернете планируют включать в образовательные программы: от детсадов до вузов.

Стремление обезопасить жителей страны от девятого вала искусственного интеллекта – абсолютно правильный и своевременный шаг, считает гость программы.

Мы одна из тех стран, которые системно подходят к защите населения от манипуляций через ИИ. Да, мы сильно отстаём в разработке фундаментальных моделей, нейросетей. Очень далеко мы отстали от мира,

– констатировал Турубар.

Наш ИИ опережал Америку и Китай на десятилетия. Кто нажал на тормоза? Горький ответ генерал-майора

На Западе в ИИ вкладываются триллионы. Мы пока такое не тянем. Но у нас появляется осмысление политики в вопросах контроля цифровой грамотности. И возможно, на данном этапе это важнее, чем просто гнаться за суперпараметрами.

Сегодня любой ребёнок, пенсионер – любой человек – должен уметь отличать реальное от синтетического, человека от бота. Без этого мы просто беззащитны перед манипуляциями. У нас системный подход внедряется. Это не разовые кампании, а долгосрочная стратегия,

– подчеркнул эксперт.