车路协同
国内车路协同这块百度和AIR比较活跃,于 2022 年发布了真实的车路协同数据集 DAIR-V2X,用于研究车路协同的 3D 目标检测。2023 年他们又发布了车路协同时序数据集 V2X-Seq,用于研究车路协同的目标追踪和轨迹预测。
首先,协同感知的目的是解决遮挡和感知距离受限的问题,可以做车车协同也可以做车路协同,但车车协同目前很难落地,落地的实践都集中在车路协同上。相较于车车协同,尽管车路协同使用地点有限,集中在路况复杂的路口处,但车路间的通信也更加安全与靠谱。
端到端
感知、预测、规划、控制可以分模块来做,当然也可以合在一起做,前天介绍的 ViP3D 是融合了感知和预测模块,昨天介绍的 UniAD 融合了感知、预测和规划三个模块。
端到端可以减少模块间的信息损失和误差积累,拿感知、预测融合来说,还可以结合一些非结果的感知信息来协助预测,例如转向灯、行人体态等。
端到端的车路协同轨迹预测
我在想能不能结合车路协同和端到端的感知、预测呢?在此进行分析:
优势:融合端到端和车路协同的优势,既能保留更多信息、减少误差积累,又能解决遮挡、感知受限的问题
问题:
- 感知-预测模块该怎么设计?
- 路侧设备需要提供什么信息给车?给哪些车?传轨迹的话,会比传感知更好吗?
- 车载设备需要拿到路侧的什么辅助信息?怎么与自身融合?
展望:
- 设计一个端到端的模型,输入路侧监控视频,直接输出轨迹预测的结果
- 路侧设备将有用的信息(视觉 or 位置 or 轨迹等)传输给车辆
- 车辆接收信息做一个融合,车辆其实是唯一的受益者,我们前面设计的一切东西,都是为了车辆自身做规划时使用