TrajRS: Towards Certified Robustness in Pedestrian Trajectory Prediction

背景

自动驾驶技术的核心挑战之一是确保系统在各种极端和恶意干扰下的安全性。行人轨迹预测作为自动驾驶感知与决策的关键环节，其准确性直接关系到车辆的行驶安全。然而，现有的轨迹预测模型容易受到对抗性攻击的影响，攻击者通过施加微小的扰动即可导致预测轨迹出现严重偏差，进而引发危险驾驶行为。目前业界多采用启发式防御策略来提升模型鲁棒性，但这类方法往往无法抵御更具针对性的复杂对抗攻击。因此，如何为轨迹预测模型提供数学上可验证的安全保证，摆脱“攻防博弈”的被动局面，成为了亟待解决的难题。

核心内容

本文提出了 TrajRS，旨在为行人轨迹预测模型提供认证鲁棒性。研究将传统的 Randomized Smoothing 框架扩展至轨迹预测领域，为平滑后的预测器计算出 certified robust radius（认证鲁棒半径）。针对轨迹预测的特殊性，本文进一步阐明并扩展了轨迹预测中鲁棒性的形式化定义，将鲁棒性细分为两个维度并据此定制了 TrajRS 方案：

1. Robustness for the optimal prediction（最优预测的鲁棒性）：保证模型在受到干扰时，其最优预测输出依然保持稳定，不发生危险偏离。
2. Robustness for all possible predictions（所有可能预测的鲁棒性）：保证模型在受到干扰时，其所有可能的预测输出集合整体上不会发生危险的偏移。

通过大量实验验证，TrajRS 能够有效地为本文中所有经过平滑处理的行人轨迹预测器提供鲁棒性认证，为自动驾驶系统提供了可验证的安全保障。

关键要点

• **问题现状