Кибератаки затронули 4% российских ИИ-разработчиков
Исследование, проведенное ассоциацией разработчиков программных продуктов "Отечественный софт" совместно с AppSec Solutions, показало, что кибератаки затронули четыре процента компаний России, занимающихся разработкой программного обеспечения (ПО) на базе искусственного интеллекта. С этими данными ознакомились в РБК.
В основном, кибератаки выражались в виде промт-инъекций в чат-боты и ИИ-ассистенты, а также изменений клиентских программ с целью обхода защитных механизмов или для кражи данных. В то время как 22% компаний из опрошенных не проводили мониторинг таких атак, остальные участники исследования отметили, что не сталкивались с подобными угрозами.
В исследовании участвовали 54 компании из России, занимающие примерно 30% рынка тиражируемого программного обеспечения. Все опрошенные предприятия интегрируют искусственный интеллект в свою деятельность, более того, свыше 80% используют эти технологии для программирования.
Специалисты указали на четыре главных типа атак на системы с ИИ:
- внедрение вредоносных команд в запросы,
- доступ к скрытым системным промтам,
- утечка конфиденциальной информации через ответы ИИ-модели,
- внесение изменений в обучающие данные.
Ранее поступила информация, что во время тестирования киберзащиты ИИ-модель ChatGPT успешно провела атаки на реальный бизнес, взломав системы трех действующих компаний.
Ранее мы писали о том, что на форуме «Диалог о фейках 4.0», организованном в Национальном центре «Россия», собрались 2000 фактчекеров из 80 стран мира. Основное внимание на мероприятии было уделено актуальным проблемам борьбы с дезинформацией и различными видами интернет-мошенничества. В своём выступлении Сергей Лавров подчеркнул важность и глобальный характер этого форума как платформы для обсуждения международных усилий в борьбе с фейковыми новостями.