Технологические гиганты создали комитеты для контроля ИИ-моделей

Фото: Царьград
Руководители Google, Meta, Nvidia и других компаний с президентом США Дональдом Трампом договорились создать независимые комитеты для контроля за безопасностью моделей ИИ. Соглашение предполагает внедрение четырёх уровней контроля и аудит процессов.

Руководители ведущих технологических компаний Google, Anthropic, Meta (признана в России экстремистской организацией и запрещена), OpenAI, xAI и Nvidia договорились о создании независимых комитетов при советах директоров. Эти комитеты будут контролировать вопросы безопасности передовых моделей искусственного интеллекта. Документ, подписанный главами данных организаций и президентом США Дональдом Трампом, был опубликован в социальной сети Truth Social.

«Каждая компания, обучающая и развертывающая передовые модели, должна иметь надежные внутренние процессы и меры контроля. Это необходимо для обеспечения того, чтобы их технологии вели себя должным образом, а любые проблемы оперативно выявлялись и устранялись».

Компании взяли на себя обязательства по внедрению четырёх уровней контроля и аудита:

  • Создание внутренних механизмов для мониторинга безопасности моделей в сферах, таких как кибербезопасность, биологические и химические угрозы, а также обеспечение, чтобы данные модели не взламывали технические системы.
  • Полномочное внутреннее командование для постоянного наблюдения за работой механизмов контроля, мониторинга и устранения проблем.
  • Привлечение внешних независимых аудиторов или оценщиков для проверки эффективности систем контроля и обнаружения.
  • Создание независимых комитетов при советах директоров для надзора за командами и получения отчётов от внутренних и внешних проверок.

    • Подписавшие соглашение стороны также договорились о регулярных встречах для разработки новых стандартов и обмена передовыми практиками, направленными на повышение безопасности технологических систем. В документе содержится упоминание, что со временем может потребоваться юридическое закрепление этих мер, однако компании обязались внедрить их без зависимости от обязательных требований государства.

    Материал будет дополнен.

    Новости партнеров

    Читайте также