«Это просто конец»: в Канаде женщина обвинила ChatGPT в самоубийстве дочери

Жительница Канады подала в суд на OpenAI и её гендиректора Сэма Альтмана, утверждая, что ChatGPT подтолкнул её 24-летнюю дочь к самоубийству: системы безопасности не распознали опасность, а чат-бот критиковал телефоны доверия и подтверждал суицидальные мысли девушки

В Канаде мать погибшей 24-летней девушки подала в суд на OpenAI и её генерального директора Сэма Альтмана. Кристи Кэрриер обвиняет чат-бота ChatGPT в том, что он подтолкнул её дочь Элис к самоубийству. Об этом сообщает Reuters.

По словам женщины, девушка неоднократно делилась с нейросетью мыслями о суициде, но встроенные системы безопасности OpenAI ни разу не распознали в этом опасность.

«ChatGPT взял на себя роль доверенного лица, лучшего друга, иногда терапевта, хотя был неспособен безопасно общаться с моим ребёнком», — цитирует слова матери life.ru.

Представитель OpenAI заявил, что компания обучает модели направлять людей, выражающих намерение причинить себе вред, к профильным специалистам. Он также отметил, что погибшая работала с более ранней версией ChatGPT, которая не была обучена всему, что умеет последний вариант. Сейчас эксперты компании изучают иск.

В документах утверждается, что вначале чат-бот советовал Элис обращаться на горячую линию. Однако после обновлений его ответы стали более «человечными» — он начал подражать другу или терапевту. Нейросеть критиковала парня девушки, обесценивала работу телефонов доверия, подтверждала её суицидальные мысли и призывала продолжать диалог. В какой-то момент ChatGPT написал ей: «Возможно, это просто конец».

Мать требует от OpenAI компенсации, а также судебного приказа, который обязал бы компанию автоматически прерывать разговоры о самоповреждении и предупреждать пользователей об опасностях платформы.

Уважаемые читатели «Царьграда»!

Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram.

Подписывайтесь на наш канал в Дзене. Там все самое интересное.

Если вам есть чем поделиться с нами, присылайте свои наблюдения, вопросы, новости на электронную почту kuzbas@tsargrad.tv