Вашингтон первым в стране ввёл регулирование ИИ-чатботов для защиты подростков

Штат Вашингтон сделал заметный шаг в регулировании искусственного интеллекта: губернатор Боб Фергюсон подписал House Bill 2225, посвящённый AI companion chatbots — чатботам, способным вести длительное, эмоционально окрашенное общение с пользователями. Закон уже прошёл обе палаты законодательного собрания и, согласно тексту документа, вступит в силу 1 января 2027 года.

Новый закон вводит для операторов таких платформ ряд обязательных мер безопасности. Компании должны ясно сообщать пользователю, что перед ним не человек, а искусственно созданная система. Если чатбот используется несовершеннолетним или ориентирован на подростков, платформа обязана принимать разумные меры для блокировки сексуально откровенного или навязчивого контента, а также запрещать так называемые манипулятивные техники вовлечения, которые подталкивают пользователя к затяжной эмоциональной зависимости от сервиса.

Особое внимание закон уделяет теме самоповреждения и суицидальных рисков. Операторы не смогут предоставлять такие сервисы без протоколов, которые позволяют выявлять признаки суицидальных мыслей или иных выражений вреда себе. Эти протоколы должны предусматривать либо автоматический, либо модерируемый ответ с направлением пользователя к кризисным ресурсам и одновременно исключать генерацию контента, который поощряет или описывает самоповреждение.

В пояснительных материалах законодательного собрания подчёркивается, что причиной для принятия закона стали именно риски, связанные с длительным и персонализированным взаимодействием ИИ с подростками. Законодатели отдельно отметили опасность эмоциональной зависимости, размывания границы между человеком и машиной, а также вероятность контакта несовершеннолетних с неподходящим или вредным содержанием.

При этом авторы документа попытались сузить сферу действия закона. В материалах к законопроекту говорится, что из определения companion-чатботов выводятся некоторые системы, применяемые для конкретных задач — например, в клиентской поддержке, технической помощи и отдельных образовательных сценариях, если они не строят длительные эмоциональные отношения с пользователем и не имитируют такую связь.

Таким образом, Вашингтон фактически предлагает осторожную модель регулирования: не запрещать развитие ИИ-сервисов, но заставить разработчиков учитывать реальные психологические риски, особенно для детей и подростков. Для штата это не только технологическая, но и социальная инициатива, которая, вероятно, станет ориентиром для других американских регионов, ищущих баланс между инновациями и безопасностью.

Источник:KING5