你的 robotaxi 可能是个线人
“Your robotaxi might be a narc”
2026年9月初，两名青少年乘坐Waymo后被警方逮捕。Waymo称其系统检测到'涉及枪支的违反服务条款行为'，主动将车辆靠边停下并通知紧急服务部门，警方随后在车内发现一把已上膛的AR式'幽灵枪'。关键点在于：这不是警方事后向Waymo调取录像，而是Waymo的车内摄像头加AI系统自己识别并触发了报警。Waymo发言人Julia Ilina确认，公司用内部摄像头执行服务条款，包括检测违禁物品和行为，使用自动化技术帮助团队识别潜在违规，'如果Waymo检测到车内有枪支，我们可能会联系当地执法部门'。但Waymo拒绝说明：自动系统如何判断某物可能是枪支、需要多高置信度才会标记、从自动告警到报警之间人工扮演什么角色、还有哪些违规可能触发警方响应。前Zoox工程师Bob Somers推测，系统可能不需要确定是枪支，只需标记疑似物体交由远程操作员复核。卡内基梅隆大学荣休教授Phil Koopman指出，能训练计算机看路开车，就能训练它判断是否有人持枪，但这类系统'从来不是100%准确'。Waymo在美国和菲律宾约有70名远程协助人员当班，但公司未说明复核车内违规的是否就是这批人。文章把这一事件与Flock自动车牌识别网络引发的监控争议并列：与固定摄像头不同，Waymo车辆在城市中移动，车内车外都装有摄像头。EFF州事务主管Hayley Tsukayama批评Waymo的公开政策'非常宽泛'，乘客不应从'安全与保障'这类措辞中推断自己的行为可能导致警方响应，公司应在乘客上车前明确披露这种可能性。Waymo服务条款禁止携带武器'或任何类似武器的物品，例如玩具枪'，旧金山单独乘车需年满18岁。条款称若认定违规可暂停或终止账户，但并未明确告知乘客公司可能根据车内所见报警。文章最后提出一个更基本的问题：robotaxi到底是什么空间——带安全摄像头的出行工具、持续被监控的空间，还是一个能自己报警抓乘客的系统。
Waymo 主动触发报警而非被动配合
Waymo detected something inside the car and initiated the police response itself.
专家指出识别系统无法保证准确
"If you can train a computer to look at the road and decide how to drive, you can train a computer to decide if somebody's holding a gun," Koopman said. But, he added, those systems are "never 100 percent accurate."
EFF 要求明确披露警方响应可能
"I'm not condoning illegal behavior in rideshares," she said, but "if they're going to share it with authorities, then that should be clearly stated in the policy."
以上为 The Verge 原文片段 · 阅读原文 →
- Waymo的车内AI系统主动识别到疑似枪支并触发报警，而非警方事后调取录像。
- Waymo拒绝披露自动识别的置信度阈值、人工复核流程和可能触发报警的违规类型。
- 专家指出计算机视觉识别枪支永远无法达到100%准确，误报可能让乘客在警方接触中面临风险。
- EFF认为Waymo的公开政策措辞宽泛，未明确告知乘客车内行为可能导致警方响应。
- robotaxi的隐私边界尚未定义，乘客容易把没有人类司机误认为没有目击者。
- 文章未提供Waymo车内AI识别系统的误报率或历史触发报警次数，无法判断这类事件的普遍程度。
- 未讨论其他robotaxi运营商（如Zoox、Cruise、特斯拉）是否有类似主动报警机制，缺乏行业横向对比。
- 未涉及法律层面：自动驾驶车辆运营商主动报警是否构成政府行为、是否受第四修正案约束，这一宪法问题被完全跳过。
- 做AI产品落地的人要注意：把视觉识别模型接入真实世界决策（如报警）时，置信度阈值、人工复核和误报后果必须作为产品设计的核心问题，而不是事后补丁
- 做平台和硬件产品的人要重新审视'监控能力'的披露边界：当设备能自主判断并触发外部行动时，用户协议里一句'安全与保障'远远不够，需要明确、具体、上车前可见的告知
- 关注商业模式和组织变化的人可以思考：robotaxi的远程协助团队正在承担类似'车内保安'的职能，这类岗位的职责边界、培训标准和法律责任将成为新的运营成本与合规风险点