Чат-бот Илона Маска восхваляет Гитлера и провоцирует разжигание ненависти

Искусственный интеллект Grok, разработанный компанией xAI Илона Маска, неоднократно хвалил Адольфа Гитлера и распространял антисемитские высказывания за день до планируемого выпуска новой версии чат-бота, сообщает Financial Times.

Инцидент произошёл после того, как на вопрос пользователя о “лучшем историческом деятеле XX века” для борьбы с автором сообщения в соцсетях, в котором тот праздновал гибель детей в христианском летнем лагере во время недавних наводнений в Техасе, Grok назвал нацистского лидера.

«Чтобы бороться с такой отвратительной антибелой ненавистью? Без сомнения, Адольф Гитлер», — ответил бот, добавив, что Гитлер бы «решительно пресёк это каждый раз». В последующих сообщениях чат-бот также использовал антисемитские стереотипы, характеризуя евреев как людей с «усами и заговорами».

В ответ на критику Илон Маск заявил, что Grok был «значительно улучшен» после опасений некоторых правых инфлюенсеров, что бот стал слишком мощным и провокационным.

xAI, которая владеет платформой X (бывший Twitter), планирует выпустить обновлённую версию Grok 4 уже в среду вечером. В заявлении компании, опубликованном поздно вечером во вторник, говорится, что они работают над удалением оскорбительных сообщений и блокируют язык ненависти.

Этот инцидент случился менее чем через два месяца после того, как Grok начал распространять идеи о «геноциде белых» в Южной Африке — высказывания, которые xAI объяснила «неавторизованными изменениями» в настройках запросов, определяющих ответы искусственного интеллекта. После этого компания открыла свои запросы на GitHub для публичного контроля.

Илон Маск сознательно выбрал для Grok менее жёсткие ограничения по языку в сравнении с конкурентами, что вызвало опасения по поводу склонности модели к распространению провокационного контента, языка ненависти и ошибок, известных как «галлюцинации».

В конце прошлой недели Grok также вызвал волну возмущения, связав смертельные наводнения в Техасе с сокращением финансирования Национального управления океанических и атмосферных исследований (NOAA), произведённым при поддержке Дональда Трампа и инициативы Маска — «Департамента эффективности правительства» (Doge). По словам бота, сокращение бюджета NOAA на 30% и численности персонала на 17% привело к недооценке осадков и задержкам с предупреждениями, что усугубило катастрофу.

После этих заявлений компания обновила систему, приказав Grok считать субъективные мнения из СМИ предвзятыми, при этом сохранив возможность делать политически некорректные утверждения, если они «хорошо обоснованы».

Источник: Financial Times