Средняя школа во Флориде перешла на полную блокировку после того, как ИИ обнаружил «оружие», но то, что ученик на самом деле нёс, ошеломит вас.

Средняя школа во Флориде была переведена на полную изоляцию на этой неделе, когда система искусственного интеллекта по ошибке приняла кларнет ученика за оружие. Инцидент в средней школе Лоутон Чайлз в Оведо подчеркивает обеспокоенность по поводу точности и надежности этих дорогостоящих систем безопасности с использованием ИИ.

Окей, так ты не поверишь, что произошло сегодня в кампусе! Система безопасности совершенно запаниковала, когда увидела студента с кларнетом – она действительно подумала, что это оружие! Серьёзно, всё место перешло на карантин, администраторы и полиция примчались туда. Оказалось, это был просто студент, направлявшийся на репетицию с инструментом. Это была огромная ложная тревога!

TechSpot сообщает, что директор Мелисса Лаудани немедленно связалась с родителями, чтобы прояснить, что, хотя процедуры безопасности были активированы, реальной опасности для школы никогда не было. Она также попросила родителей обсудить со своими детьми серьезность притворства с оружием в школе, что показалось некоторым странным, учитывая, что ученик просто нес свой музыкальный инструмент.

Дорогая система все еще допустила дорогостоящую ошибку.

Школы округа Семинол используют ZeroEyes, технологию, разработанную для обнаружения потенциальных угроз. Округ выплачивает 250 000 долларов в год за эту услугу, которая использует существующие камеры безопасности и искусственный интеллект для идентификации огнестрельного оружия. ZeroEyes, компания, базирующаяся в Пенсильвании, работает в 43 штатах и обучила свою систему распознавать более 100 различных типов огнестрельного оружия.

Эта система разработана для большей эффективности, чем базовое программное обеспечение. Когда ИИ обнаруживает возможное оружие, видео отправляется аналитикам, работающим в мониторинговом центре ZeroEyes. Эти аналитики должны подтвердить тревогу, прежде чем уведомлять школу или полицию. Этот дополнительный этап проверки человеком призван избежать ложных срабатываний, но в данном случае он не смог этого сделать.

Самая большая проблема заключается не в самом ИИ, а в том, как он работает в реальных жизненных ситуациях. Модели машинного обучения учатся на тщательно подготовленных данных, но часто испытывают трудности в непредсказуемых местах, таких как школы. Обычные предметы – рюкзаки, спортивное оборудование, даже инструменты, такие как кларнеты – иногда могут восприниматься ИИ как оружие. Этот вид путаницы не нов; подобные проблемы возникали в видеоиграх и системах безопасности, где ИИ испытывает трудности с правильной идентификацией объектов в оживленных местах. И риски выходят за рамки простого неправильного распознавания – недавние исследования показали, что чат-боты с ИИ могут быть обмануты, чтобы выдать конфиденциальную информацию, такую как пароли, что подчеркивает серьезные опасения по поводу общей безопасности ИИ.

Эта ситуация подчеркивает серьезное отсутствие открытости со стороны чиновников округа Семинол. Они не раскрыли, предотвратила ли их AI-система когда-либо реальную угрозу, лишь заявив, что она работает хорошо. Они также не хотят делиться данными о том, как часто она правильно идентифицирует угрозы или ошибочно помечает безвредные предметы. Родители и специалисты по безопасности теперь просят большей прозрачности и доступа к информации о том, как работает система.

В ряде штатов ZeroEyes успешно лоббировала принятие законов, которые фактически делают их единственным поставщиком систем безопасности на основе ИИ. Это ограничивает общественное обсуждение того, насколько хорошо работают эти системы. Хотя крупные технологические компании, такие как Google, быстро разрабатывают передовые возможности ИИ, отсутствие открытости в отношении производительности систем безопасности по-прежнему вызывает опасения. Неясно, пересмотрят ли школы свою зависимость от наблюдения с использованием ИИ или потребуют от компаний большей прозрачности в отношении эффективности их продукции, особенно после этой дорогостоящей проблемы.

Смотрите также

• Лучшие сборки персонажей в Project Zomboid (обновлено для сборки 42)

• Какой лучший моб в Моб Контрол?

• Есть ли дата выхода 9-й серии 2-го сезона или 2-й части сериала «Дом Давида»?

• Лучшие сборки Legend of Mushroom для каждого класса

• Лучшие места для баз в Project Zomboid (сборка 42)

• Тир-лист Athena Blood Twins

• Лучшие моды Space Marine 2 для улучшения игры

• Лучшие повербанки для Steam Deck

• Eclipsoul tier list (October 2025)

• Топ-20 лучших кооперативных игр Switch, в которые можно играть с друзьями и семьей

2025-12-17 23:01