ИИ ввёл режим изоляции в американской школе, приняв кларнет ученика за оружие

Система видеонаблюдения с искусственным интеллектом ^[1] ввела ^[2] режим изоляции в средней школе имени Лоутона Чайлза в штате Флорида после того, как приняла за оружие кларнет ученика. Прибывшая полиция объявила о прекращении режима изоляции, указав, что детям ничего не угрожало.

Директор школы Мелисса Лаудани заявила, что в учебном заведении действует многоуровневая безопасность, включая автоматизированную систему, которая обнаруживает потенциальные угрозы. По её словам, ученик держал кларнет как оружие, что привело к срабатыванию системы. Лаудани планирует поговорить с учениками об опасностях, связанных с имитацией наличия оружия на территории школы.

Неизвестно, какую именно систему наблюдения использует школа. Однако тот факт, что система неспособна отличить кларнет с 17 клавишами от винтовки, вызывает беспокойство, пишет Futurism.

Инцидент во Флориде произошёл вскоре после другого аналогичного случая в штате Мэриленд. Там школьная система безопасности на базе ИИ приняла ^[3] за пистолет пачку чипсов Doritos в руках старшеклассника. В двух этих случаях системы позволили ИИ принять решения без какого-либо вмешательства со стороны человека. В школе Мэриленда систему предоставляет компания Omniilert, которая сообщила, что оборудование сработало корректно.