«Лучшие интеллектуальные сканеры оружия» от Evolv обещают «более точное обнаружение угроз», судя по рекламным буклетам. Но администрация американской школы, где в 2022-м случился инцидент с ножевыми ранениями учащегося, утверждает, что этот сканер «на самом деле не различает нож». Источник: Daily Star.
Американская охранная компания, продающая на многие миллионы сканеры оружия с искусственным интеллектом, сталкивается с вопросами о действительной эффективности своей технологии после того, как представители школы заявили, что эти сканеры не способны «увидеть ножи».
Дорого и неэффективно
В прошлом году школьный совет г. Ютика (штат Нью-Йорк) оплатил установку в 13 своих школах новых систем обнаружения оружия, произведенных Evolv Technology.
Но в октябре 2022-го учащийся одной из школ Ютики – средней школы Проктора – получил ножевые ранение от одноклассника, принесшего нож в школу.
Восемнадцатилетний Эни Лер Хтоо шел по школьному коридору, когда на него сзади напал другой ученик, ударивший старшеклассника ножом в голову, шею, лицо, плечо, спину и руку.
Согласно веб-сайту Evolv Technology, обозначающей себя «лидером в области систем безопасности при обнаружении оружия на основе ИИ», ее оборудование уже используется в сотнях школ по всей территории Штатов. Эта копания называет своей целью заменить традиционные металлодетекторы собственными сканерами оружия Evolv Express, оснащенными искусственным интеллектом и торгуемыми по $3,7 миллиона.
Реклама компании Evolv утверждает, что их сканеры работают, сочетая «мощную сенсорную технологию с проверенным ИИ». Когда эта система обнаруживает оружие, она запускает «визуальные сигналы тревоги», показывающие, где именно находится оружие у проходящего сканирование школьника.
В пресс-релизе Evolv сообщается, что ее сканеры, способные проверять до 1000 учащихся за 15 минут, обеспечивают «самое точное обнаружение угроз с беспрецедентным объемом и скоростью». Также перечисляется оружие, которое могут обнаруживать эти сканеры, включая огнестрельное оружие, взрывные устройства и… ножи.
Тем не менее 31 октября 2022 года на кадрах видеонаблюдения оказался запечатлен напавший позже ученик, уверенно проходящий через сканеры оружия Evolv. Как оказалось, «интеллектуальная система» не сумела выявить нож длиною почти 23 см, использованный школьником при нападении на одноклассника.
Брайан Нолан, глава школьного округа Ютики, сообщил журналистам: «Когда мы просмотрели ужасное видео, мы все задались одним и тем же вопросом – как этот ученик вообще смог пронести нож в школу?». Расследование инцидента показало, что сканер Evolv Express вообще не способен вычислять ножи.
Часть сканеров была удалены из нескольких школ и заменена обычными металлодетекторами, однако несколько систем Evolv по-прежнему используются в 12 других школах округа, потому что, по словам Нолана, школьный округ не может позволить себе заменить охранные сканеры, обошедшиеся в миллионы долларов.
Нолан сообщил, что после прошлогоднего нападения в нескольких школах округа Ютика, которые пока еще используют систему Evolv, были обнаружены еще три ножа. В одном случае это был нож длиной 18 см, в другом было изогнутое лезвие с отверстиями для пальцев, а в третьем – складной нож.
Он утверждает, что ни в одном из случаев с «новыми» ножами хваленый сканер оружия их не распознал. Все три ножа удалось обнаружить только потому, что о них администрации сообщили ученики.
«Дети [у которых нашли ножи] заявили, что они просто прошли через систему обнаружения оружия, когда мы спросили их об этом… получается, что этот сканер вообще не находит ножи», — добавил Нолан.
Модная система ИИ-безопасности
Сканеры оружия Evolv используются не только в сотнях американских школ, но также на крупных стадионах Америки и Великобритании, в казино, на нескольких производственных предприятиях, в церквях и медучреждениях.
По словам Коннора Хили из американской IPVM, занимающейся анализом систем безопасности, Evolv Technology сильно преувеличивает точность своего сканирующего оборудования.
Он заявил: «В Штатах наблюдается эпидемия подобных проблем у школьных округов, приобретающих новые технологии на основе смелых маркетинговых заявлений производителей, а после оказывается, что у новейших систем имеются скрытые недостатки, только вот миллионы долларов уже потрачены».
«В этом смысле компания Evolv – одна из самых злостных лгунов. Члены школьных округов, разумеется, не являются техническими экспертами по системам обнаружения оружия, поэтому такие компании, как Evolv, могут и извлекают выгоду из их невежества».
В блоге компании Evolv гендиректор Питер Джордж заявил, что новые технологии, такие как их сканеры, «не совсем надежны». Он сообщил: «Не существует идеального решения, способного остановить 100% угроз, в том числе и у нас, поэтому безопасность должна включать многоуровневый подход, включающий людей, а также разные процессы и технологии».
Он отметил, что Evolv Technology «намеренно не конкретизирует» пределы возможностей своих систем в распространяемых маркетинговых материалах, чтобы они не предоставляли «злоумышленникам информацию, которую те могли бы использовать для причинения вреда».
Но Питер Джордж утверждает, что представители Evolv всегда сообщают покупателям «все аспекты системы, включая ее ограничения и возможности, которые следует поручать отдельно штатным специалистам по безопасности».
«Мы заявляем, что публикуемая в СМИ информация о незнании об имеющихся ограничениях для Evolv Express администрациями школ, в результате решившими отказаться от наших систем, является неверной», — добавил он.