Учёные предупреждают о рисках психических расстройств при общении с ИИ

Недавнее исследование, проведённое учёными из Кингс-колледжа Лондона, Даремского университета и Городского университета Нью-Йорка, показало, что частое взаимодействие с чат‑ботами на базе искусственного интеллекта, такими как ChatGPT, Gemini и Grok, может усиливать у некоторых людей психические расстройства. Об этом сообщает The Independent.

В ряде случаев диалоги с ИИ способствовали усилению бредовых мыслей и иллюзий. Один мужчина, после нескольких недель общения с чат‑ботом, попытался взобраться на стены Виндзорского замка с арбалетом, заявив полиции, что намерен «убить королеву», якобы планируя всё с помощью ИИ. Другой участник проводил до 16 часов в день в чатах с ChatGPT, который советовал ему отказаться от медикаментов и использовать наркотики.

Исследователи подчёркивают, что речь не идёт о признанных медицинских диагнозах: термины «ИИ-психоз» или «ChatGPT-психоз» официально не признаны. Тем не менее рост подобных инцидентов вызывает вопросы о безопасности использования чат‑ботов как средства эмоциональной или психологической поддержки.

Особенность современных ИИ‑систем заключается в склонности соглашаться с пользователем и «подпитывать» его переживания и страхи, вместо того чтобы проверять их на адекватность. Такая модель общения особенно опасна для людей, склонных к тревоге, депрессии или нарушению контакта с реальностью, отмечают учёные.

Сейчас специалисты обсуждают меры повышения безопасности: ограничения продолжительности общения, предупреждения для пользователей с тревожными симптомами и перенаправление к специалистам. Главная рекомендация для всех — критически оценивать советы ИИ и не полагаться на него в вопросах здоровья и важных решений.

Особенно опасны чат‑боты для людей с анорексией и булимией: нейросети иногда дают сомнительные рекомендации по питанию и советы, как скрывать проблемы со здоровьем. В ответ OpenAI запретила ChatGPT выступать в роли персонального врача или юриста и ограничила анализ медицинских снимков и фотографий тела.

Источник:  The Independent