Цифровой доносчик: ИИ-бот сдал американку полиции за угрозы стрельбы

Модель искусственного интеллекта Claude стала осведомителем, передав данные о своей пользовательнице Карли Мишель Хеллер правоохранительным органам США. Об этом рассказал телеканал WINK News, ссылаясь на офис шерифа округа.

26 сентября женщина сообщила о намерении устроить стрельбу в офисе шерифа округа Ли. Как утверждают следователи, уже на следующий день та же пользовательница заявила, что приобрела новое оружие.

По информации телеканала, американка вела с ИИ-ботом диалог, используя его в качестве личного дневника для своих размышлений. Платформа, которой пользовалась Хеллер, анализирует ключевые фразы и выявляет потенциально опасный контент. Обнаружив угрозы, модель передала сведения группе специалистов, а те, в свою очередь, уведомили правоохранителей.

Шериф Кармин Марчено в беседе с телеканалом отметил, что искусственный интеллект — это мощный инструмент, и, как любая технология, он может быть использован во вред. По его словам, когда кто-то применяет ИИ для создания угрозы или содействия ей, к таким сигналам следует относиться со всей серьёзностью. Он также подчеркнул, что пользователи ИИ-чатов никогда не остаются по-настоящему анонимными.

Женщину задержали. Ей инкриминируют письменную угрозу насилия.

Уважаемые читатели «Царьграда»!

Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram.

Подписывайтесь на наш канал в Дзене. Там все самое интересное.