Bill Swearingen过去一年在堪萨斯城家中反复进行一项实验,他联合创办了SecKC安全聚会。在约3100万次测试后,他表示能按需生成图案,使覆盖物避开Flock摄像头内置检测软件的识别——Flock是正在美国推广的争议监控体系。周五他在Def Con首次公开演示,与YouTube频道Donut Media合作,将一辆2009年丰田Yaris贴上最新图案驶过Flock摄像头。
Myriad:8月Claude会宕机几天?点击预测。
“我们证明了它有效,”Swearingen告诉TechCrunch,不过他说车轮部分仍是挑战。Donut Media称演示视频将在几周内发布。该图案不会致盲摄像头,画面正常录制,人眼能看到车,但上层物体检测模型失效,无法判定“这是车、这是车牌”,相当于用视觉噪声欺骗AI,使车成为漏网之鱼。
图片来源:Donut Media
这即对抗机器学习,因计算机视觉不同于人眼。对人而言是醒目图案,对分类器可能为无物。Swearingen用强化学习模型自我评分生成图案,现每分钟可出新图,并将最强图案离线以防厂商训练对抗。
“隐私是基本权利,”他说图案让人“选择不被追踪”。去年他想参加抗议怕被拍,萌生此念。人们多年来用实物对抗检测,如旧金山活动者用交通锥冻住自动驾驶车,洛杉矶抗议者烧Waymo,面具帽子也是常用。对抗服装标签和眼镜早有售卖。Swearingen项目noRecognition针对具体部署栈,Flock正遭国会反弹,其文件显示欲将35万网约车摄像头变车牌扫描网。自动读牌曾误扣无辜者,移民抗议者被ICE的AI网罗。议员也正查Meta智能眼镜脸识。
noRecognition众筹推商品:先T恤帽衫,后车贴。Swearingen称要远距离有效且好看易穿。公共道路贴车涉法律,遮牌各州不同,其图案不遮牌。他说“每次失败改进模型,图案越来越好”。
