在近日举行的Def Con黑客大会上，SecKC安全聚会联合创始人Bill Swearingen展示了一项引发广泛关注的技术——利用AI生成的迷彩图案，成功干扰了Flock监控摄像头的目标检测系统。该摄像头系统在美国多州部署，因涉及隐私问题备受争议。
Swearingen在其堪萨斯城住所进行了约3100万次测试后，声称已能按需生成图案，使被覆盖物体在Flock摄像头的目标检测软件前“隐形”。他与YouTube频道Donut Media合作，将一辆2009款丰田雅力士包裹上最新图案，并驾车驶过Flock摄像头。Swearingen表示：“事实证明它是有效的。”不过他也提到，车轮部分仍存在一定挑战。
值得注意的是，这种图案并不会使摄像头完全失明，录像画面仍可正常记录，人类观看时也能看到一辆汽车。真正失效的是顶层目标检测模型——原本应识别“这是车辆、这是车牌”的算法。通过向AI检测器输入大量针对其数学假设的工程化视觉噪声，系统最终将无法记录任何信息，使车辆重新成为“大海捞针”。
这一技术属于对抗性机器学习。计算机视觉的感知方式与人类不同，因此一个人眼中醒目的图形设计，在分类器看来可能毫无意义。Swearingen使用强化学习模型构建该系统，模型会对自身输出进行评分，一旦图案被发现即自动调整并重新尝试。他表示，该系统现在每分钟都能生成新图案，而最强效果的版本则离线保存，防止摄像头厂商进行针对性训练。
“隐私是一项基本权利，”Swearingen说。他提到，去年他因参加抗议活动而担心摄像头记录与会者信息，从而萌生了这一想法。目前，noRecognition项目正在众筹，计划先推出T恤和连帽衫，后续将推出车身贴膜。Swearingen表示，目标是实现足够高的分辨率以在远距离生效，并兼顾设计感，让更多人愿意穿着使用。
然而，驾驶贴有此类图案的车辆上路也可能涉及法律问题。各州对遮挡车牌的规定不尽相同，而该图案仅覆盖车身，不遮挡车牌。Swearingen强调：“每一次失败都在改进我的模型，因此图案效果会越来越好。”