ИИ-ошибка: Чипсы приняли за пистолет в школе США
В США система школьной безопасности, работающая на базе искусственного интеллекта, ошибочно приняла пачку чипсов Doritos за пистолет в руках старшеклассника Таки Аллена, что привело к вызову полиции. Инцидент произошел в средней школе Кенвуд в Балтиморе, штат Мэриленд. Вооруженные полицейские задержали подростка после тренировки по футболу.
Аллен сообщил, что полицейские направили на него оружие, потребовали лечь на землю и задержали его, несмотря на отсутствие каких-либо противоправных действий. Ложное срабатывание системы обнаружения оружия, принявшей за пистолет помятый пакет чипсов, и стало причиной вызова полиции.
По словам молодого человека, он почувствовал, что школе нет дела до его благополучия, так как персонал не поинтересовался его состоянием после произошедшего. Семья Аллена считает реакцию полиции чрезмерно агрессивной.
Система, разработанная компанией Omnialert, использует ИИ для анализа видео с камер наблюдения и оповещения служб безопасности и правоохранительных органов. Компания признала ошибку, но отметила, что пакет чипсов действительно напоминал оружие. Разработчик утверждает, что система работала в соответствии с заданными параметрами, отдавая приоритет безопасности и требуя быстрой проверки человеком. Omnialert пообещала провести анализ инцидента для повышения точности системы.
Школы Балтимора проинформировали родителей о произошедшем, передав сообщение от Omnialert и предложив пострадавшему учащемуся консультации. Однако Аллен утверждает, что с ним никто не связывался и не предложил помощь. Подросток опасается возвращения в школу:
«Если я съем еще одну пачку чипсов или выпью что-нибудь, боюсь, они придут снова».
Ну что ж, видимо, скоро школьникам придется ходить в школу с пустыми руками, чтобы не спровоцировать искусственный интеллект на очередную «героическую» операцию. А то вдруг еще кто-то решит перекусить по дороге на уроки!
