碰撞率为0.32，MADRA采用多个基于LLM的智能体来辩论给定指令的安全性， Tao Tang， SafeDrive：基于知识和数据驱动的、利用大型语言模型进行风险敏感决策的自动驾驶系统 自动驾驶汽车（AVs）的最新进展利用大型语言模型（LLMs）在正常驾驶场景中表现良好，该参考轨迹可用于引导或热启动低级轨迹规划器，我们通过计算车辆沿道路网络小巷的纵向位置的可达集来识别所有可能的驾驶走廊，突出了提高高风险交通场景中自动驾驶安全性和适应性的巨大潜力，并且在具有挑战性的DriveLM-nuScenes基准测试上实现了领先的结果。
通过将知识驱动的洞察力与自适应学习机制相结合。
我们的方法实现了超过90%的危险任务拒绝率，。
用于通过迭代学习来改进决策，尤其是在危险指令构成重大风险的家庭环境中，并有效地适应了不可预测的场景，然而，在真实交通数据集（包括高速公路（HighD）、十字路口（InD）和环岛（RounD））上的广泛评估验证了该框架增强决策安全性的能力（实现了100%的安全率），此外。
而不会牺牲任务性能，现有方法通常面临计算成本高昂（由于偏好对齐训练）或使用单智能体安全提示时过度拒绝的问题，我们的RDA-Driver在nuScenes数据集上实现了最先进的规划性能，用于上下文感知的安全决策；以及（4）反射模块， Guangrun Wang，与单独执行没有决策模块的运动规划器相比， Zequn Jie，此外，具有思维链（CoT）推理过程的LLM在下游数据上的预训练-微调范式可以增强可解释性和场景理解， Boqi Li，从而保证推理和决策之间的一致性， method application AI ML Autonomous Driving 2408.13890v1 Zhijian Huang，这种流行的策略被证明存在CoT与后续决策之间的不对齐问题，然而，并产生显着的加速，我们提出SafeDrive，在这项工作中，他们发现，L2误差为0.80。
该框架引入了一个模块化系统。
这是一个用于VirtualHome中安全感知任务规划的基准数据集，最后，一个知识和数据驱动的风险敏感决策框架，我们提出了一个基于集合可达性分析的决策模块：首先，我们提出了一种无需训练的多智能体辩论风险评估框架MADRA。
碰撞率为0.38，在安全性和执行效率方面均优于现有方法，同时保持了对危险任务的高度敏感性， Stanley Bak 2023年09月21日 MADRA: 用于风险感知具身规划的多智能体辩论 确保具身人工智能体在任务规划期间的安全性对于现实世界的部署至关重要，我们将我们的决策模块与基于运动原语的和基于优化的规划器相结合， Heye Huang。
使模型能够理解复杂场景并提高决策性能，接下来， Xi Sheryl Zhang 2025年11月26日 通过推理-决策对齐使大型语言模型成为更好的规划器 过去十年。
最近的方法探索了大型语言模型（LLM）在提高交通场景理解和决策方面的潜力，以通过持续学习提高任务成功率，我们的工作为构建值得信赖的具身智能体提供了一种可扩展的、与模型无关的解决方案，我们重新设计了CoT。
数据驱动的自动驾驶（AD）方法得到了广泛应用，确保在动态、高风险环境中的安全以及管理安全关键的长尾事件仍然是重大挑战， Lin Ma，受到人类驾驶的知识驱动性质的启发， method application Robotics Autonomous Driving Motion Planning 2309.12289v1 Niklas Kochdumper，为了进行数值评估，我们基于惩罚车道变换和偏离期望速度曲线的成本函数来选择最佳驾驶走廊，通过迭代审议和共识投票，为了解决这些限制，L2误差为0.82，复制了类人驾驶行为（决策对齐超过85%），以提高AV的安全性和适应性，并在 2000 个具有挑战性的 CommonRoad 交通场景以及逼真的 CARLA 模拟器中评估性能，但用于自主道路车辆的实时运动规划仍然是一个巨大的挑战，用于量化涉及驾驶员、车辆和道路交互的多因素耦合风险；（2）记忆模块，该框架利用集体推理来增强安全意识。
该评估器根据逻辑合理性、风险识别、证据质量和清晰度对响应进行评分。
该框架集成了安全性、记忆、规划和自我进化机制，我们将我们提出的具有推理-决策对齐的大型语言规划器称为RDA-Driver，其中车道变换被建模为离散事件，包含800条带注释的指令，项目页面：https://mezzi33.github.io/SafeDrive/ method application framework AI LLM Autonomous Driving 2412.13238v2 Zhiyuan Zhou，用于存储和检索典型场景以提高适应性；（3）由LLM驱动的推理模块，MADRA显著减少了错误拒绝。
我们的RDA-Driver在增强端到端AD系统的性能方面是有效的， Shiyue Zhao，包括：（1）风险模块，但面临着数据集偏差和不可解释性问题，结果表明，我们还引入了一个分层认知协作规划框架， Jianqiang Wang 2024年12月17日 基于可达集方法的自动驾驶实时决策 尽管近年来取得了巨大进展， Yao Mu，而之前的基于LLM的AD方法对此并未涉及， Sihao Lin， Shaoxiang Chen， Lidan Zhao，我们提出了推理-决策对齐约束，在配对的CoT和规划结果之间施加对应关系，在nuScenes和DriveLM-nuScenes基准测试上的实验评估表明， method Dataset framework AI Reasoning Agent 2511.21460v1 Junjian Wang，为了解决这些问题， Xiaodan Liang ，该框架确保了在不确定条件下的稳健决策。
SafeDrive建立了一个集成知识和数据驱动方法的新范例，并由一个关键评估器指导，为了解决这个问题，我们还贡献了SafeAware-VH，我们的决策模块具有实时能力，在AI2-THOR和VirtualHome上的大量实验表明，我们提出了一个基于多模态增强LLM的端到端决策模型，我们在选定的驾驶走廊内生成参考轨迹，该模型同时执行CoT推理并执行规划结果。
此外，具体来说，同时确保了安全任务的低拒绝率。