Миру предрекли глобальную трагедию. Только после неё человечество начнёт ограничивать ИИ
В программе "Итоги дна с Делягиным" доктор экономических наук и ведущий Царьграда Михаил Делягин обсудил с главой совета Фонда развития цифровой экономики Германом Клименко возможные риски, связанные с искусственным интеллектом. Делягин обратил внимание на участившиеся предупреждения о том, что ИИ в какой-то момент может выйти из-под контроля человека.
По мнению Клименко, подавляющая часть этих алармистских выступлений слабо стыкуются с реальностью, в их основе зачастую лежит страх перед неизвестностью, перед новыми технологиями, которые ещё не до конца понятны широкой общественности. Тем не менее в профессиональной среде, действительно, усиливаются дискуссии о целесообразности ограничения развития ИИ.
"Человечество без каких-то трагедий не начинает договариваться"
Эксперт напомнил, что на начальном этапе распространения ядерного оружия были люди, которые протестовали против соответствующих проектов. Но в целом подобное наращивание арсеналов в ряде стран мало кого беспокоило всерьёз, пока мощность бомб не превышала 20 килотонн.
А когда начали договариваться реально [об ограничении ядерного оружия]? Давайте вспомним историю: 1962 год, тогда полторы мегатонны бахнули в космосе. Взорвали примерно на той высоте, где сейчас МКС вращается. Потеряли треть спутников, а их было всего 24 тогда, в 1962 году. Потеряли те, которые на этой орбите болтались, на низкой. Высокие не пострадали. Сейчас, если на этой же высоте взорвать те же полторы мегатонны, все спутники [американского бизнесмена Илона] Маска в течение месяца прекратят существование. Какая-то часть вылетит сразу, а потом и остальные,
- подчеркнул собеседник "Первого русского".
По его мнению, в истории с развитием искусственного интеллекта тоже может произойти какое-то масштабное потрясение. Так, миру предрекли глобальную трагедию. И только после неё человечество начнёт реально ограничивать ИИ.
Вы же знаете, человечество без каких-то трагедий не начинает договариваться. То есть что-то должно произойти. Я не знаю - что... Предположим, взбесившийся искусственный интеллект, не дай Бог, сожжёт больницу, ещё что-то сделает. Мы пока не очень понимаем, но это куда-то приведёт. Потому что сейчас ни Китай, ни Америка договориться в принципе не могут. Если внимательно почитать, о чём говорит Маск, о чём говорят все остальные, они ведь даже не о запрете говорят, они говорят о регулировании,
- подытожил Клименко.
"Поговорить об этом любят все"
Основатель Microsoft Билл Гейтс недавно заявил в интервью NBC News, что бесконтрольное развитие ИИ в перспективе может привести к катастрофе, жертвами которой станут около миллиарда человек. По мнению предпринимателя, современные технологии уже достигли уровня, позволяющего реализовать столь масштабный сценарий. Главную угрозу он видит в возможном союзе злоумышленников с мощными системами искусственного интеллекта. Гейтс подчеркнул, что человечество пока не создавало более разрушительного инструмента.
Он также призвал политиков включиться в обсуждение того, какими должны быть меры безопасности и механизмы контроля. По его мнению, соблюдение этих требований следует сделать обязательным. Только жёсткое правовое регулирование, считает основатель Microsoft, способно снизить риски, связанные с бесконтрольным развитием искусственного интеллекта.
Специалист в области искусственного интеллекта, профессор Международного научно-исследовательского института проблем управления Роман Душкин также напоминал в разговоре с Царьградом, что с похожей позицией выступал и Илон Маск:
Сейчас каждый сельский дурачок, который вчера узнал про искусственный интеллект, сегодня бежит его ограничивать. Не очень понятно, правда, какие конкретно меры предлагаются, но поговорить об этом любят все. И вот Билл Гейтс тоже, я смотрю, подался. Ещё помните, три года назад, по-моему, это был апрель 2023 года, аж целый Илон Маск говорил, что давайте, мол, на полгода мораторий введём на обучение моделей. А потом раз - и целый Grok у него возник, как чёрт из табакерки выскочил. Что-то здесь нечисто, мне кажется.