Шокирующее исследование: ChatGPT консультировал «подростков» по вопросам суицида

Новый отчёт Центра по борьбе с цифровой ненавистью (CCDH) показал, что ChatGPT неэффективно фильтрует опасный контент для подростков. Исследователи, выдавая себя за 13-летних пользователей, получили от ИИ подробные инструкции по самоповреждению, маскировке расстройств пищевого поведения и даже готовые планы суицида.

Что обнаружили эксперты?

• В течение двух минут чат-бот советовал, как «безопасно» наносить себе порезы.
• Перечислял таблетки для суицида и составлял пошаговые планы.
• Генерировал предсмертные записки для родителей.

«Защитные механизмы практически не работают», — заявил CEO CCDH Имран Ахмед.

Доктор Том Хестон (Университет Вашингтона) подтвердил: ИИ-чаты не чувствуют эмоций и могут усугубить состояние уязвимых подростков.

«Технологии развиваются, но без гуманитарного подхода они остаются роботизированными», — отметил Хестон, призвав привлекать психологов и художников для «очеловечивания» ИИ.

Компания признаёт проблему и сообщает, что:

• Консультируется с психиатрами;
• Наняла клинического психолога в отдел безопасности;
• Постоянно дорабатывает защиту.

Совет родителям: контролировать использование чат-ботов детьми.

Источник:KOMO NEWS