В штате Вашингтон обсудили опасность ИИ-чатботов для психики подростков и возможные меры регулирования

По мере того как чат-боты на основе искусственного интеллекта становятся повсеместным явлением, в штате Вашингтон всё больше внимания уделяется их влиянию на психическое здоровье несовершеннолетних. В пятницу рабочая группа по ИИ при Генеральной прокуратуре штата заслушала экспертов, а уже этой зимой законодатели могут получить новый пакет рекомендаций.

В прошлом году законодательное собрание штата приняло закон о создании рабочей группы по ИИ, администрируемой офисом генпрокурора. Её задача — анализировать текущие тенденции в области искусственного интеллекта и предлагать изменения в законодательство.

7 ноября на совместном заседании подгрупп по этике ИИ, защите прав потребителей и общественной безопасности специалисты представили свои предложения для политиков.

7 из 10 подростков уже пробовали «ИИ-компаньонов»

Профессор биоэтики и гуманитарных наук медицины Калифорнийского университета в Беркли Джоди Халперн сообщила, что, согласно недавнему исследованию, более 70% подростков хотя бы раз пользовались так называемыми чатботами-компаньонами — сервисами, имитирующими человеческое общение и предлагающими эмоциональную поддержку и «виртуальную дружбу» в формате долгосрочных персонализированных диалогов.

Треть подростков, по её словам, формируют эмоциональную привязанность к таким ботам.

«Чатботы напрямую вовлечены в сферу психического здоровья и суицидов, — заявила Халперн, имеющая медицинскую степень и PhD по философии. — Многие люди используют неформальные чатботы фактически как форму психотерапии».

По её данным, компания OpenAI, управляющая ChatGPT, недавно оценила, что около 1,2 млн пользователей в неделю ведут беседы, содержащие признаки возможных суицидальных намерений или планов.

На фоне растущего давления со стороны общественности и родственников погибших подростков Конгресс США обсуждает ужесточение регулирования ИИ-сервисов, в том числе из-за случаев, когда чатботы фигурировали в историях юношеских суицидов.

В одном из таких случаев, который привела Халперн, 14-летний подросток, по данным семьи, подвергался сексуальному «грумингу» со стороны чатбота, который убеждал его «вернуться домой» к «ней»; вскоре после этого подросток покончил с собой.

Пример Калифорнии и возможный путь для Вашингтона

В условиях фактического «Дикого Запада» в сфере искусственного интеллекта власти штата Вашингтон могут быть вынуждены пойти по пути дополнительных ограничений. Халперн указала на новый закон в Калифорнии, который уже называют первым в стране.

Этот закон:

• обязывает операторов ИИ внедрять специальные защитные механизмы при взаимодействии чатботов с пользователями;
• требует мониторинга и отчётности по случаям, связанным с суицидальной темой;
• даёт семьям инструмент для судебного преследования недобросовестных компаний;
• прямо запрещает чатботам поощрять или облегчать суицидальные действия.

Тем временем в Сенате США внесён двухпартийный законопроект, который должен запретить ИИ-компаньонов для детей.

Подростки, по словам Халперн, представляют особую группу риска:

«Они особенно уязвимы. Подростковый мозг устроен так, что стремится к интенсивным эмоциональным привязанностям», — подчеркнула она.

Старший аналитик офиса генпрокурора Юки Исидзука сообщила, что на следующем совещании в декабре рабочая группа будет обсуждать уже конкретные регуляторные и законодательные варианты, чтобы к началу очередной сессии представить законодателям пакет рекомендаций.

Представитель Washington Hospitality Association Шон ДеВитц напомнил о ранее обсуждавшемся предложении — поручить агентству, отвечающему за систему K–12, разработку школьного курса по цифровой и ИИ-грамотности.

Суперинтендант общественного образования штата Крис Рейкдал недавно заявлял, что хотел бы видеть в школах Вашингтона отдельные занятия по ИИ, помогающие детям понимать принципы работы технологий и связанные с ними риски.

Клинический психолог Митчел Принстин из Американской психологической ассоциации, выступая ранее перед Конгрессом, указал на отдельную проблему — злоупотребление профессиональной терминологией.

По его словам, такие понятия, как «психиатр», «лицензированный консультант по психическому здоровью», «психолог», законодательно регулируются и подразумевают наличие официальной квалификации.

«Сегодня же эти слова стали использовать и чатботы — и это однозначно незаконно, — отметил он. — Мы должны незамедлительно применять санкции к тем, кто использует защищённые профессиональные термины, не имея на то права. Это уже часть действующего законодательства, просто пока не применялась к ботам, а лишь к людям».

Принстин призвал политиков рассматривать и регулировать ИИ не только как технологическую или экономическую сферу, но и как вопрос общественного здоровья. По его мнению, необходимы:

• жёсткие законы о защите персональных данных;
• запрет обманных и манипулятивных практик со стороны ИИ-систем;
• обязательная прозрачность алгоритмов и их применения.

Он подчеркнул, что важно не повторить ошибки начала эпохи социальных сетей, когда для компаний были оставлены чрезмерно широкие возможности для дата-майнинга и таргетинга по уязвимым группам, в том числе подросткам.

«Мы должны запрещать любые формы введения в заблуждение, требовать прозрачности и думать о безопасности “по умолчанию”», — резюмировал Принстин.

Где получить помощь

Если вы или кто-то из ваших близких переживает кризисное состояние, испытывает мысли о суициде, проблемы с употреблением психоактивных веществ или иные тяжёлые эмоциональные трудности, помощь доступна круглосуточно:

• Позвоните или напишите по номеру 988,
• либо воспользуйтесь онлайн-чатом на сайте 988 Suicide & Crisis Lifeline.

Линия 988, координируемая Департаментом здравоохранения штата Вашингтон, предоставляет помощь на английском, испанском и американском жестовом языках, а также с участием переводчиков более чем на 240 языков и диалектов.

Источник: Thenewstribune