除了长期争议不断的隐私侵犯和“监控国家”风险外,由技术初创公司 Flock 提供的云端自动车牌识别(ALPR)系统,其准确性与实用性如今也面临着严峻拷问。在一起极具代表性的案例中,加利福尼亚州罗斯维尔市(Roseville)警方开展的一项内部审查揭露,该系统的误报情况极其严重。

审查数据显示,在 Flock AI 摄像头将车辆标记为盗抢车或涉嫌重罪车辆的 1,427 起事件中,系统对车牌的识别错误率竟高达 71%,在两年时间里产生了超过 1000 起假阳性误报。例如,该市一名警官甚至因系统频繁误判而戏称自己背下了某位车主的车牌——镜头至少 6 次将该车牌上的数字“9”误识别为“8”。
面对这一数据,Flock 公司回应称高错误率源于罗斯维尔市“非常规”的设备安装方式。为了保护居民隐私、避免拍摄到驾驶员面部,罗斯维尔市将摄像头设置为仅从车辆后方拍照,Flock 表示这种视角降低了识别精度。不过,也正是由于当地警方规定所有警报必须经由警官人工核实后才能采取行动,这些高频的误报才未引发错误的执法拦截或不当拘留。

然而,Flock 系统的安全隐患不仅限于识别失误。在全美约 6000 个使用该系统的社区中,关于监控过度的争议正不断升温。洛杉矶警局(LAPD)此前就因内部审计发现两个月内有 161 名无辜民众被错误拦截,最终选择让与 Flock 的合作合同到期终止。此外,批评者指出,尽管该系统主打车牌识别,但其 AI 算法同样能对步行的行人进行追踪,不仅有执法人员利用模糊描述随意检索民众,甚至还曝光了多起警察利用该系统跟踪前女友及伴侣的滥用事件。随着各地相继停用或重新评估该设备,AI 监控技术在执法中的盲区与伦理风险正引发更广泛的社会深思。

