滴滴安全开放日:大模型与人工协同构建看不见的基建
速览
滴滴举办安全开放日,首次公开其安全预警体系,涵盖行前核验、行中多模态大模型实时监测及行后分离确认。平台通过大模型前置筛查结合4000多名人工专家,优先保证风险召回率,即使面临高误判成本也持续投入。该体系旨在平衡安全与隐私边界,将安全视为需长期解释和承受误判成本的工程。
AI 深度解读
安全预警系统,看不见的滴滴「基建」深度解读
背景
近日,滴滴在成都举办了一场“安全开放日”,罕见地将网约车安全后台——安全预警中心——向外界公开。此次开放日邀请了司机、乘客、行业专家及媒体代表,旨在现场展示一线安全专家如何对订单风险进行听音、研判和干预。
滴滴创始人、CEO、集团安委会主任程维在活动中强调,保障每天数千万订单的安全是滴滴不可推卸的责任。尽管滴滴的安全体系已经历多次迭代,但他坦言该体系“还在路上”。通过开放日,滴滴希望向公众展示其安全运作机制,并接收更多来自外界的建议与监督。
这一举措的背景源于2018年顺风车事件后,滴滴对安全体系的彻底重构。此后几年,即便面临巨大的成本压力,滴滴也未压缩安全投入,因为平台的目标已从追求商业回报转向“尽可能不漏掉任何一个可识别风险”。
核心内容
滴滴的安全逻辑与常规的互联网推荐系统存在本质差异。推荐算法通常需要在准确率和召回率之间寻求平衡,而安全算法则不同。滴滴网约车技术和安全负责人曹乐指出,安全风险属于低频事件,但一旦平台具备召回能力,就不能为了提高准确率而牺牲召回率,导致风险漏网。这意味着,滴滴的安全系统必须优先保证召回率,其代价是产生大量的误判。
据曹乐介绍,即便经过大模型的多轮筛查,进入安全预警中心的订单中,绝大多数最终被确认为安全订单。真正存在风险的订单比例极低,可能仅为几千分之一甚至几万分之一。然而,这套系统必须持续高强度运转。目前,滴滴一方面投入大量GPU资源用于大模型前置筛查,另一方面配置了4000多名安全相关工作人员处理风险工单。滴滴内部每年的安全投入已超过其去年的集团净利润,曹乐称这是平台上唯一不会被质疑投资回报率(ROI)的投入方向。
滴滴对“行程安全”的定义已发生根本性扩展,不再局限于“上车到下车”的物理区间,而是延伸至从用户叫车成功开始,到司乘双方安全分离结束的全过程。这一理念决定了滴滴安全体系覆盖了行前、行中、行后三个全生命周期阶段:
- 行前阶段:平台严格核验司机证件、车辆信息及人车一致性。司机每日出车前需完成身份、车辆及安全教育检查。若司机曾有轻微安全问题,平台会推送专项安全教育,完成后方可继续接单。
- 行中阶段:系统实时监控路线偏移、异常停留、车内录音录像风险、疲劳驾驶、分心驾驶、超速及急加速/急减速等信号。此外,订单被切分为以“一分钟”为单位的片段,每一分钟均经过大模型风险检测。模型识别风险后进入人工复核,99%的工单需在1分钟内响应。
- 行后阶段:平台依据轨迹、录音录像、蓝牙、WiFi等信息判断司乘是否真正分离。必要时,安全专家会进行外呼确认。
在技术层面,滴滴正从依赖小模型和规则策略转向使用多模态大模型进行全量扫描。过去,系统主要依赖语音转文字后匹配关键词,叠加轨迹异常等特征,这种层层处理的方式导致信息准确率衰减。现在,大模型综合录音录像、位置轨迹、订单信息及司乘历史特征进行判断,并对未成年人、醉酒、深夜独乘、弱势群体等场景倾斜更多资源。例如,若AI识别到司机询问疑似未成年乘客敏感问题或索要联系方式,将被视为前置风险信号,进而触发提醒、外呼震慑或直接报警。
目前,滴滴平台的风险识别率为82%,干预有效率为99.8%,干预及时率为98.73%。平台平均每千万单出现一起肢体触碰类风险,每百万单出现一起言语类风险。
尽管技术大幅进步,大模型仍无法解决所有问题。主动识别率止步于82%的原因包括录音缺失、环境嘈杂、设备遮挡、信号中断以及部分风险缺乏言语交流。更难的是,一些风险缺乏前置特征,小纠纷可能临时升级,蓄意危险行为也可能没有历史投诉记录。技术可以提高识别能力,但无法将所有不确定性转化为可预测问题。
此外,滴滴在开放日中反复探讨安全与隐私的边界问题。例如,订单结束后是否需继续确认司乘分离?若车内发生看似自愿的不当互动,平台是否干预?向前一步可能被视为侵犯隐私,向后一步则可能放大风险敞口。滴滴最终选择将安全边界延长至“司乘安全分离”,但这意味着平台需承受更多误判、用户投诉及更高的运营成本。
曹乐将安全预警中心的工作形容为“西西弗斯推石头”:每天重复大量枯燥工作,风险被压制后需从头开始。他呼吁安全是平台、司乘和社会的共同接力赛,用户提高安全意识并正确使用平台安全功能,是降低风险的关键一环。
关键要点
- 优先召回率:与推荐算法不同,滴滴安全系统优先保证召回率,宁可误判也不漏掉风险,导致大量安全订单被误入预警中心。
- 高昂投入:滴滴年安全投入超过去年集团净利润,配置4000多名安全人员及大量GPU资源,该投入被视为无ROI质疑的长期工程。
- 全周期覆盖:安全定义从“上车到下车”扩展为“叫车成功到安全分离”,涵盖行前核验、行中实时监控(每分钟切片分析)、行后分离确认。
- 技术迭代:从基于关键词和小模型的规则策略,升级为多模态大模型全量扫描,综合音频、视频、轨迹等多维特征进行风险判断。
- 识别局限:目前主动风险识别率为82%,受限于录音缺失、环境噪音、无言语交流及缺乏前置特征的非典型风险。
- 隐私边界:平台选择将安全边界延伸至“司乘安全分离”,以承担更多误判成本和用户投诉为代价,换取更高的安全确定性。
- 工作性质:安全预警工作被形容为“西西弗斯推石头”,需持续处理大量无风险工单,以防备极低概率但后果严重的风险事件。
意义与影响
滴滴此次开放安全后台,标志着其将安全从内部合规要求转变为公开透明的社会责任展示。在2018年事件后的修复期,滴滴通过不计成本的投入重建信任,此次开放日则是这一长期工程的阶段性成果展示。
从行业角度看,滴滴提出的“优先召回率”和“全周期安全定义”为网约车乃至更广泛的出行行业树立了新的安全基准。它揭示了在低频高风险场景下,技术投入与人工复核相结合的必要性,以及大模型在复杂场景识别中的实际应用价值与局限。
对社会而言,滴滴承认技术无法消除所有不确定性,并强调用户参与的重要性,有助于打破“技术万能论”的迷思,推动形成平台、用户与社会共同治理的安全生态。然而,这种高投入模式也引发了关于平台运营成本转嫁及商业可持续性的讨论,滴滴需在安全极致化与商业效率之间寻找长期的平衡点。
