Anthropic отключила передовые ИИ-модели

Anthropic приостановила доступ к своим наиболее продвинутым моделям искусственного интеллекта после того, как власти США потребовали ограничить их использование для иностранных граждан. Об этом сообщает Financial Times.

По данным издания, соответствующую директиву компания получила от министра торговли США Говарда Лютника. Решение было принято после того, как правительство обнаружило так называемый «джейлбрейк» — способ обхода встроенных защитных ограничений модели.

В Anthropic заявили, что совокупный эффект распоряжения фактически вынудил компанию отключить доступ к моделям повсеместно, включая пользователей в самих США.

Речь идёт о передовой модели Anthropic Mythos, к которой администрация Дональда Трампа имела доступ в течение нескольких недель. По данным журналистов, ряд чиновников выражал обеспокоенность тем, что модель потенциально может использоваться для поиска и эксплуатации уязвимостей в критически важной инфраструктуре, включая мировую финансовую систему.

Федеральные ведомства тестировали модель ещё до её официального запуска. При этом, как отмечает Financial Times, администрация не стала заранее блокировать развёртывание Mythos для коммерческих клиентов Anthropic.

Недавно президент США Дональд Трамп подписал указ, который не даёт правительству прямых полномочий запрещать выпуск ИИ-моделей. Однако документ вводит добровольный механизм предварительной проверки передовых систем различными ведомствами до их широкого распространения.

В пятницу Anthropic сообщила, что отозвала у пользователей свои самые мощные модели — Mythos 5 и Fable 5. Компания резко раскритиковала распоряжение властей, назвав его основанным на «недопонимании».

В заявлении Anthropic говорится, что правительство должно иметь возможность блокировать небезопасные развёртывания ИИ, но только в рамках прозрачной, справедливой и технически обоснованной законодательной процедуры.

«Данное действие не соответствует этим принципам», — заявили в компании.

Anthropic также выразила несогласие с тем, что обнаружение узкого потенциального способа обхода ограничений может быть основанием для отзыва коммерческой модели, уже доступной сотням миллионов пользователей.

По мнению компании, если подобный стандарт будет применяться ко всей отрасли, это фактически остановит запуск новых моделей у всех ведущих разработчиков искусственного интеллекта.

Конфликт может ещё сильнее обострить отношения между Anthropic и американскими властями. В течение года стороны уже спорили о том, как и когда следует развёртывать мощные ИИ-системы.

Кроме того, Anthropic подала в суд на правительство США после того, как Пентагон присвоил компании статус «риска для цепочки поставок» на фоне разногласий вокруг возможного использования её моделей в военных целях.

Источник:  Financial Times