人工智能武器检测系统将单簧管误认为枪支，美国校园关闭

IT之家 12 月 14 日报道称，人工智能 (AI) 驱动的武器检测系统将单簧管误识别为武器，并错误地封锁了佛罗里达州的一所高中校园。该事件引发了公众对美国学校此类安全技术的有效性和监控机制的质疑。当地时间周二，奥维耶多劳顿·奇利斯高中的自动化系统错误地将一名持有单簧管的学生识别为可能的武器威胁，导致校园被“红色代码”封锁。学校管理人员和警方迅速反应，原来所谓的“武器”只是一件乐器。校长梅丽莎·劳达尼（Melissa Laudani）在给家长的一封信中表示，虽然安全计划已经启动，但该事件并未构成真正的威胁。 “虽然学校没有真正的威胁，但我们希望学校能够使用来自宾夕法尼亚州公司 ZeroEyes 的人工智能驱动的威胁检测平台，该平台可以扫描现场视频流，以确保学校安全。”o 识别武器。劳顿儿童高中所在的塞米诺尔县公立学校已与 ZeroEyes 签订合同，安装基于云的武器探测和威慑系统。公开记录显示，该学区每年为订阅服务支付 25 万美元，但官员拒绝透露该系统是否成功阻止了真正的威胁。 ZeroEyes 系统与现有监控摄像头集成，其计算机视觉算法经过 100 多张枪支图像的训练。当AI模型确定屏幕上出现枪支时，相关视频图像将发送给ZeroEyes监控中心的人工分析人员进行检查，并在确认后通知执法部门或学校当局。然而，在这种情况下，这种人工审核过程显然不起作用。如今，ZeroEyes 平台已在全国 43 个州部署，并安装在佛罗里达州的数十个学区。该公司正在推广该技术作为预防措施旨在快速应对潜在的枪击事件。然而，有关测试准确性、假阳性率、经过验证的干预措施案例等数据却几乎没有公开。在回复记者关于人工智能误报的电子邮件查询时，塞米诺尔县学区安全部门将该系统描述为“有效的威慑”，但没有提供有关已确认威胁的具体数据，也没有说明警报系统中有多少是真实的，也没有说明该软件将无害物品误识别为武器的频率。家长和安全专家开始要求对这些系统承担更大的责任，并公开披露其性能数据。一些家长感到沮丧，质疑该系统是否真的显着提高了安全性，引发了对缺乏透明度的担忧。他呼吁提供有关该系统有效性的统计证据，并询问如果存在真实且已确认的威胁，为什么不向公众披露。独立t技术分析师指出，目前对 ZeroEyes 的独立评论非常有限，最初的媒体报道也褒贬不一。一些公共安全专家对此表示怀疑，认为此类系统只会制造“安全假象”，而无法真正降低风险。在 ZeroEyes 已向游说者注册的几个州，国会通过了采购法规，实际上指定该公司为唯一批准的供应商。批评者认为，此类法律将排挤竞争，并阻止有关人工智能监控系统可信度的必要公开辩论。安全和隐私研究人员还担心，在学校扩大人工智能监控可能对学生弊大于利。美国公民自由联盟的政治顾问查德·马洛去年告诉州警方，经常产生误报的系统可能会产生“错误的安全感”，并使儿童更频繁地面临不必要的封锁和警察的威胁。e 干预。近年来，为了应对应对校园枪击事件的公众压力，基于人工智能的安全系统激增，但奥维耶多误报事件凸显了这些技术在现实环境中的脆弱性。当面对充满不可预测物品（例如背包、乐器和类似于枪的轮廓的运动器材）的大学环境时，在受控数据集上训练的机器学习模型往往会做出错误的决策。 9 目前，塞米诺尔县学区仍然认为该系统是“必要的预防措施”，尽管 Larinet 事件暴露了其局限性。各学区是否会重新评估对人工智能监控的依赖，或要求供应商提供更严格、更透明的绩效报告，还有待观察。
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。这个平台只提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传发布，网易号是一个仅提供信息存储服务的社交媒体平台。
中二、三年级学生也可以报名！清华大学公布2026年“丘成桐数学人才班”和“物理人才提升计划”