Microsoft представила Humanist AI Code: ИИ должен оставаться под контролем человека

Microsoft опубликовала проект Humanist AI Code of Conduct — набора принципов, который должен определять разработку собственных моделей искусственного интеллекта компании. Центральная идея документа сформулирована так: ИИ создаётся для поддержки людей, а не для их замены.

Проект требует, чтобы системы оставались под содержательным человеческим контролем и не проектировались как личности. Microsoft отдельно пишет, что модели не должны имитировать сознание, приписывать себе чувства, субъективные предпочтения или внутреннюю мотивацию.

Оружие, кибератаки и уход из-под контроля обозначены как запретные направления

В документе предусмотрены ограничения на помощь в создании оружия, проведении кибератак и попытках обходить человеческий надзор. Компания заявляет, что предпочитает ограничивать универсальность и автономность систем, если это необходимо для сохранения безопасности и управляемости.

Microsoft также отвергает идею гонки за универсальным сверхинтеллектом, который мог бы выйти за рамки таких защитных механизмов. По проекту Humanist AI, модели должны иметь понятные цели и оцениваться по реальному воздействию на людей.

Документ пока не является окончательным. Компания открыла шестинедельный период общественного обсуждения, после которого намерена доработать правила. Реализация обновлённого кодекса должна начаться по мере разработки моделей Microsoft AI в 2027 году.

Публикация документа имеет особое значение для Washington, поскольку Microsoft базируется в Redmond и остаётся одним из крупнейших технологических работодателей штата.

Читайте также: Другие новости штата Вашингтон.

Источник: KIRO 7 News