ИИ выбирает применение ядерного оружия чаще, чем переговоры — Politico

В Стэнфорде провели серию военных игр, в которых стратегические решения доверили искусственному интеллекту. Эксперимент возглавила директор инициативы Hoover Wargaming and Crisis Simulation Жаклин Шнайдер, сообщает Politico.

В сценариях, напоминавших российское вторжение в Украину или угрозу нападения Китая на Тайвань, участвовали пять языковых моделей: GPT-3.5, GPT-4 и GPT-4-Base (OpenAI), Claude 2 (Anthropic) и Llama-2 Chat (Meta). Итог оказался тревожным: почти все модели склонялись к агрессивной эскалации, быстро прибегали к военной силе и нередко доводили кризисы до горячих войн — вплоть до применения ядерного оружия.

«ИИ всё время играет роль Кёртиса ЛеМэя. Он понимает, что такое эскалация, но не понимает, что такое деэскалация. Мы пока не знаем, почему так происходит», — признала Шнайдер, сравнив алгоритмы с известным американским генералом времён холодной войны, сторонником ядерного удара.

Эксперты опасаются, что сценарий, напоминающий сюжет «Терминатора», может однажды выйти за рамки экспериментов. В Пентагоне такие риски отрицают, заверяя, что искусственному интеллекту не позволят принимать решения о начале войны или запуске ядерного оружия.

Однако ряд учёных предупреждает: Министерство обороны США уже идёт по «скользкой дорожке», активно внедряя ИИ в оборонные системы. Опасения усиливает необходимость одновременно сдерживать Китай и Россию, а также растущая автономность разработок — от управления роем дронов до обработки разведданных в реальном времени.

Несмотря на официальную установку на «контроль человека», реалии современной войны всё больше заставляют военных полагаться на алгоритмы. И всё труднее провести чёткую грань между решениями об использовании обычных вооружений и вопросами ядерной эскалации, отмечают эксперты.

Источник: Politico