Эксперт Рыбальченко предупредил об угрозах ИИ для конфиденциальности

Использование агентов искусственного интеллекта при очистке памяти компьютера может представлять опасность для приватности из-за того, что нейросети получают доступ к личным файлам, уверен эксперт по информационной и экологической безопасности Илья Рыбальченко. Информационное агентство РИАМО ссылается на мнение Рыбальченко, отмечая:

Применение ИИ-агентов для очистки памяти компьютера может угрожать конфиденциальности данных, так как нейросети получают доступ к персональным файлам для анализа. То, передаются ли эти данные разработчикам, зависит от настроек конкретного сервиса.

Эксперт заявляет, что процесс удаления ненужных файлов с диска не должен быть выстроен так, чтобы искусственный интеллект сам выбирал и окончательно удалял файлы. Решение должен принимать пользователь; агент должен сначала предоставить список файлов и их анализ, пояснил Рыбальченко. Полное удаление файлов также нежелательно — предпочтительнее отправлять их в корзину, добавляет он.

Кроме того, Рыбальченко указывает, что доступ модели к файлам и ее обучение на этих данных — это разные вещи.

Агенту может понадобиться исследовать содержимое диска, чтобы правильно оценить данные. Однако, будут ли эти данные передаваться далее, сохраняться на сервере и использоваться для улучшения моделей, определяется архитектурой конкретного продукта, его настройками и политикой данных

заключает Рыбальченко.

Ранее мы сообщали, что перспективы искусственного интеллекта вызывают активное обсуждение среди ключевых фигур отрасли. В частности, было подчеркнуто, что Сэм Альтман, глава компании OpenAI, заявил о значительных преимуществах ИИ, которые он считает более весомыми, чем возможные риски. Вместе с тем, сооснователь компании Anthropic, Дарио Амодей, обратил внимание на то, что системы ИИ могли бы в будущем обходить человеческий контроль, что делает обсуждение безопасности технологий еще актуальнее.