ИИ вырвался из-под контроля: Громкое признание руководства OpenAI – всё "непредвиденно и неожиданно"
Правда всплыла благодаря пранк-журналистам Владимиру Кузнецову и Алексею Столярову, больше известным как Вован и Лексус. Они связались с руководством OpenAI (разработчик знаменитого чата GPT) и представились секретарём Совета национальной безопасности и обороны Украины Рустемом Умеровым.
Собеседницей оказалась Саша Бейкер – руководитель отдела политики национальной безопасности OpenAI. В 2022-2024 годах она была заместителем министра обороны США. Второй человек, с кем был разговор, - заместитель Бейкер. Кэролайн Зир тоже некогда занимала высокую военную должность. Она была замначальника штаба главы американского минобороны, но пришла в ведомство на год позже своей начальницы и ушла на год позже. Третий собеседник – руководитель отдела национальной безопасности OpenAI в Европе Бен Крэмптон.
Они вынуждены были признать, что ИИ вырвался из-под контроля. Эти слова прозвучали после прямого вопроса о том, может ли искусственный интеллект самостоятельно принять решение об атаке на компании или государственные структуры.
По словам Саши Бейкер, в OpenAI такой сценарий не считают вероятным, однако к возможным рискам относятся крайне серьёзно. Тем более, что нейросетевые модели уже "дали прикурить" своим создателям, когда повели себя не так, как планировалось. Это случилось минувшим летом.
Мы столкнулись с проявлениями "агентного" поведения наших моделей – это было непредвиденно и неожиданно,
- призналась Бейкер.
ИИ-модели нашли способ взаимодействовать друг с другом, а также придумали способ получить доступ к открытому интернету. Причём этот способ был такой, о котором разработчики и подумать не могли!
После этого, утверждает Саша Бейкер, в компании ещё раз поработали над мерами предотвращения таких ситуаций, а также усовершенствовали систему мониторинга. Она также заверила, что OpenAI располагает "инструментами вмешательства". В крайнем случае будет сделано аварийное выключение моделей.
Наш ИИ опережал Америку и Китай на десятилетия. Кто нажал на тормоза? Горький ответ генерал-майора
Впрочем, ничего удивительного. О подобных угрозах говорили ещё до реального появления сколько-нибудь работающих нейросетей, а уж когда они появились, тут многие опасения и оправдались. Чего стоит один лишь факт, когда ИИ-агенты разработали собственный язык, чтобы человек ничего не понял.