Искусственный интеллект: вызовы и угрозы 2024 года по данным ООН

Темпы внедрения и использования искусственного интеллекта, включая его применение в злонамеренных и террористических целях, значительно возросли в 2024 году. Об этом заявила Балкес Альрадван, эксперт в области ИИ и представитель отдела контртеррористических угроз Организации Объединенных Наций.

Мы наблюдаем сегодня, что темпы использования этих технологий значительно увеличились в 2024 году, и возрастающее число случаев злонамеренного использования ИИ вызывает у нас обеспокоенность,

сообщила Альрадван на конференции Межпарламентской ассамблеи СНГ, упоминая данные ООН.

В частности, искусственный интеллект применяется в кибератаках, направленных на подрыв защитных механизмов и взлом паролей, что может использоваться для террористических целей.

На базе ИИ функционируют шпионские программы, фишинговые приложения. Интеллектуальные алгоритмы служат для управления дронами, распространения дезинформации, создания "дип фейков", манипуляций и фальсификации данных,

пояснила она.

Альрадван также отметила, что уже в ближайшем будущем людям будет трудно отличать реальные видео от тех, что созданы с использованием ИИ.

Новые технологии "дип фейков" продолжают развиваться. Мы лишь можем предполагать, что произойдет через год, два или даже пять лет, насколько сложными и мастерскими станут эти инструменты и какие угрозы они могут нести, если попадут в руки террористов. Все это требует строгого контроля. Мы, как человеческие существа, вскоре будем неспособны отличить искусственное видео от настоящего. Медиаорганизациям будет крайне сложно в дальнейшем определять подлинность контента на фоне "дип фейков",

констатировала она.