Ошибка искусственного интеллекта привела к задержанию подростка с чипсами в США

В Балтиморе 16-летнего школьника Таки Аллена окружили восемь полицейских машин из-за ложного сигнала искусственного интеллекта, принявшего пачку чипсов Doritos за оружие.

По словам пострадавшего, инцидент произошёл через 20 минут после тренировки. Офицеры приказали ему лечь на землю, надели наручники и направили оружие: «Они все вышли с оружием, направленным на меня. Говорили лечь на землю», — рассказал Аллен телеканалу WMAR-2.

Полиция округа Балтимор заявила, что действовала «соразмерно полученной информации» и отпустила подростка, когда убедилась, что угрозы нет.

Ошибка произошла из-за сбоя в школьной системе видеонаблюдения с ИИ-детектором оружия компании Omnilert. Алгоритм зафиксировал «подозрительный объект», который показался похожим на пистолет. Изображение было проверено операторами и признано безопасным, но директор школы не заметила отчёт и передала тревогу команде безопасности, которая вызвала полицию.

Omnilert принесла извинения и заявила, что система сработала как задумано. Тем не менее местные политики и родители требуют пересмотра процедур и точности таких решений. Депутат Иззи Пакота обратился в департамент образования округа с просьбой проверить использование ИИ-детекторов оружия в школах.

Сам Аллен теперь старается избегать прогулок после тренировок: «Не чувствую себя в безопасности — особенно если просто ем чипсы».

Источник: WMAR-2