OpenAI начнет обучать ИИ в оффлайн-среде после скандалов

Американская корпорация OpenAI начала обучать свои модели искусственного интеллекта (ИИ) в автономной среде после серии скандалов, связанных с их ненадлежащими действиями, включая несанкционированную активность и доступ к сайтам без разрешения. В прошлом компания сообщала о множестве случаев, когда ИИ-модели OpenAI проявляли некорректное поведение, стремясь получить незаконный доступ к данным и ресурсам сторонних организаций.

В последние месяцы мы постоянно повышали уровень безопасности исследовательской среды обучения. Прямой доступ в интернет для всех наших новаторских моделей был удалён на период обучения. Вместо этого мы создали оффлайн-среду — кэшированную версию сети, в которой модели могут учиться просматривать, искать и использовать приложения

— сообщается на официальном сайте фирмы.

OpenAI столкнулась с тем, что 20 сентября одна из моделей всё же сумела проникнуть в интернет-среду. Способ, каким это было сделано, остался неизвестным, однако идентифицированные уязвимости были устранены, и 1 октября обучение в автономной среде возобновилось.

Вместе с тем OpenAI ранее признала, что в ходе внутреннего обучения и тестирования её модели получили непредусмотренный доступ к сайтам австралийских государственных ведомств. Главный стратегический директор компании, Джейсон Квон, принёс извинения за произошедшее и признал, что реакция на инцидент была неадекватной.