AI-галлюцинации: ChatGPT выдумал, что норвежец убил двух своих детей

Мужчина был шокирован такой информацией и требует, чтобы компания исправила это.

Норвежец Арве Ялмар Холмен случайно обнаружил, что ChatGPT от OpenAI содержит информацию о нем и его семье, при этом искажая биографические данные.

По данным жалобы, поданной организацией Noyb, занимающейся защитой цифровых прав, мужчина решил проверить, что именно чат-бот знает о нем. Результат оказался шокирующим.

ChatGPT сообщил, что Холмен якобы был осужден на 21 год тюрьмы за убийство двух своих детей и попытку убийства третьего. При этом чат-бот также указал достоверные сведения, такие как количество детей, их пол и место проживания Холмена.

В жалобе указывается, что мужчина не мог самостоятельно исправить ложные данные, поэтому OpenAI нарушила требования ЕС по точности обработки персональных данных.

“Больше всего меня пугает тот факт, что кто-то мог прочитать этот материал и поверить, что он правдивый”, — заявил Холмен.

Хотя OpenAI уже устранила этот конкретный ошибочный ответ, Noyb требует полностью удалить клеветнические сведения и скорректировать работу модели, чтобы избежать подобных ошибок в будущем. Также организация предлагает наложить на компанию административный штраф.

Источник: Noyb