Минцифры разработает нормы запрета манипуляций через ИИ

Министерство цифрового развития Российской Федерации активно работает над законопроектом, регулирующим использование искусственного интеллекта. Согласно информации, опубликованной в "Известиях", предусмотрены нормы, запрещающие использование систем ИИ для манипуляции человеческим поведением и эксплуатации их уязвимостей.

Согласно данным издания, разработчиков систем искусственного интеллекта могут обязать информировать пользователей о недопустимости применения нейросетей для манипуляции людьми и эксплуатации их слабостей. Как отмечают журналисты, под последними подразумевается использование возрастных, социально-экономических, психологических и других человеческих состояний для "намеренного воздействия на поведение, принятие решений или несанкционированный доступ к информации".

Тем не менее, издание указывает на отсутствие в документе уточнений о том, каким пользователям должны адресоваться эти предупреждения, какие действия будут расцениваться как манипуляции, а также какая ответственность может последовать за такие нарушения.

В пресс-службе Министерства цифрового развития сообщили, что текущее обсуждение проекта ведется с заинтересованными ведомствами, а окончательная версия документа еще не готова. Представитель министерства отметил:

Развитие передовых технологий, включая искусственный интеллект, является одним из приоритетов для Минцифры. Однако следует подчеркнуть, что любая технология должна применяться с соблюдением прав и интересов граждан.

Ранее мы писали о том, что мошенники активно используют различные схемы СМС-бомбинга, чтобы обмануть граждан и получить доступ к их финансовым данным. В прошлом такие атаки включали массовую рассылку сообщений с угрозами или ложной информацией, что вызывало у жертв состояние паники и незащищенности, позволяя злоумышленникам извлечь из этого финансовую выгоду. Новый двухэтапный подход, о котором предупреждает МВД, свидетельствует о растущей изощренности таких преступлений, подчеркивая необходимость быть бдительными и внимательными к получаемым сообщениям.