首页 > 其他分享 >端到端——架构收集

端到端——架构收集

时间:2024-08-20 10:06:06浏览次数:10  
标签:场景 架构 收集 -- 模型 模块 BEV 端到

自动驾驶行业

说了什么和没说什么
基本上绝大多数方案都默认先会把控制排除出去,也就是说只做从感知到规划这中间的端到端。
    主要是因为控制这东西每个车不一样
感知-->规划 -->控制
市场-价格-技术
整车方面:
    一汽  东风  长安
   小米   蔚来  理想 小鹏
   上汽   广汽
   比亚迪 奇瑞 长城 吉利
   特斯拉 大众 奔驰、奥迪
空间算法	   
    地平线 黑芝麻 华为
    华为   大疆   百度 
    英伟达 高通   TI

案例

地平线的思路是做一个统一的端到端自动驾驶系统UniAD	
    地平线的思路-- 
        UniAD的架构来看。
        输入:多摄像头图像序列
           1. 特征提取:使用特征提取器提取图像特征
           2. BEV编码:将图像特征转换为统一鸟瞰图(BEV)特征
           3. 轨迹跟踪模块 TrackFormer :使用检测查询和跟踪查询从BEV特征中检测和跟踪目标
           4. 地图分割模块 MapFormer   :使用地图查询从BEV特征中分割地图元素
           5. 运动预测模块 MotionFormer:结合轨迹查询和地图查询,预测多模态运动轨迹
           6. 占用预测模块 OccFormer   :使用BEV特征预测多步占用网格图
           7. 规划模块     Planner     :结合ego vehicle query和占用预测结果,生成安全规划
    	
    传感器提取了BEV特征之后,数据进入了 TrackFormer 和 MapFomer
    TrackFormer和MapFormer一个负责追踪多运动目标,另一个负责理解道路,结合起来就是MotionFormer。
华为: 理解每一个追踪物体的时空关系
    0.传感器
     0.1. GOD通用障碍物识别网络 --障碍物检测网络变成了整个感知栈  
	      目标障碍物,道路结构,以及场景理解
		    目标障碍物是不是可以对应到 TrackFormer ?
		    道路结构可以对应到 MapFormer ?
			场景理解可以对应到 OccFormer
    0.2. PCR(道路拓扑推理)网络
    0.3. PDP(预测决策规控)网络:
	0.4 本能安全网络--?
	     增加干预层,相当于人工规则和模型共同使用,用于解决一些监管的问题
    1.运动控制
   多模态时空融合的大模型,都四舍五入叫BEV了。而华为的GOD,在他出现之前都统称为OCC  
      一个BEV视角来进行规划,理解现实世界的时空,
	   是因为我们还没办法完好地理解多传感器下的时空,就必须在BEV里面统一的时空下进行理解
	   但现在可以通过独立负责具体任务的模块来实现  
       类似BEV的视角去理解时空的方式还是存在的,但是被另一套工作流替代
  百度
    端到端大模型Apollo ADFM(Autonomous Driving Foundation Model)
  
 小鹏汽车宣布端到端大模型上车,
       神经网络 XNet (侧重于感知和语义)
       规控大模型 XPlanner 
       和大语言模型 XBrain (侧重于整个大场景的认知)三部分组成

 理想汽车- DriveVLM
       架构: 端到端模型、VLM视觉语言模型、世界模型三部分共同构成
	   
	系统1 由端到端模型  实现快速响应,端到端模型接收传感器输入,并直接输出行驶轨迹用于控制车辆   
    系统2 由VLM视觉语言模型实 现,其接收传感器输入后,经过逻辑思考,输出决策信息给到系统1		   
	双系统构成的自动驾驶能力还将在云端利用世界模型进行训练和验证 

    Chain-of-Though (CoT) 思维链(CoT)过程:场景描述、场景分析和分层规划	  
     pipeline --感知-预测-规划 	

      输入包括来自周围摄像机的多视角视频V,输出可选的3D感知结果:
           场景描述E:天气状况Eweather、时间Etime、路况road、车道状况lane
           场景分析S:包括对象级分析和场景级总结S
           Meta Actions A:代表任务级别机动的一系列动作 动作分为17类,包括但不限于加速、减速、左转、变道、微小的位置调整和等待
           决策描述D:驾驶决策的详细描述  应该采取的更细粒度的驾驶策略
           轨迹航路点W:概述ego车辆规划轨迹的航路点

参考

网络

标签:场景,架构,收集,--,模型,模块,BEV,端到
From: https://www.cnblogs.com/ytwang/p/18368885

相关文章

  • ARM体系架构
    ARM体系架构1.指令系统RISC:精简指令集指令系统 --ARM  寻址方式:寻址方式比较少(10种以内)  指令集中指令的条数:100条左右  大的、统一的寄存器文件;  装载/保存结构(Load/Store),数据处理操作只针对寄存器的内容,而不直接对存储器进行操作;  统一......
  • SCS(- )架构介绍
    SCS(-)架构介绍SCS(-)架构定义与特性自主Web应用:SCS是一个自主的Web应用程序,包含WebUI、逻辑和持久化层。这种完整性确保了一个用户故事通常可以通过修改一个SCS来实现。API的可选性:SCS可以有一个服务API,但这并非必需。如果SCS内的逻辑仅由SCS内的UI使用,则无需API。无共享UI:S......
  • 【系统架构设计】开发方法(一)
    【系统架构设计】开发方法(一)软件生命周期软件开发模型瀑布模型核心思想瀑布V模型缺点演化模型螺旋模型增量模型构件组装模型统一过程敏捷方法软件重用基于架构的软件设计形式化方法软件生命周期指软件自开始构思与研发到不再使用而消亡的过程。在GB8566-88(《软件工......
  • 让沟通成为实用主义的测试架构师
    谈到沟通,你可能无法充分沟通,寻求清除,一贯,持续地沟通,这会让你和团队其他个人干的更顺畅高效。实用型测试架构师的第三个关键地方是为沟通带来清晰性,除非你注重清楚、一贯、持续的沟通,否则你所有的卓越架构努力都会被低效率或欠缺的沟通方式毁于一旦。任何沟通隔阂都会被其他东......
  • 【安全架构】重大活动网络安全保障建设
    一、网络攻击手段重大活动期间发生网络安全攻击最直接的影响是造成活动中断、泄露个人隐私数据以及带来相应的经济损失等,此外,还会导致损害国家声誉、国家安全等间接影响。主要攻击方式包括网络钓鱼攻击、DDoS攻击、数据泄露、无线网络攻击、间谍软件/恶意软件攻击和漏洞利用攻击......
  • 【环境搭建系列】威胁建模和架构 · 全景图
    一、SDL各阶段二、简单威胁建模过程三、威胁建模流程Devsecops工具链四、Devsecops安全工具链五、软件供应链六、威胁情报平台七、开源IOC参考八、CyberKillChain参考九、SIEM系统十、UEBA系统十一、安全扫描十二、SOAR系统十三、SOC架构十四、SOC功......
  • Kubernetes 的架构和核心概念
    Kurbernetes是Google旗下的容器跨主机编排工具。Kurbernetes可以自动化应用容器的部署、扩展和操作,提供以容器为中心的基础架构。一、Kurbernetes集群架构与组件Kubernetes采用主从分布式架构,节点在角色上分为Maste和Node。KubernetesMaster是控制节点,负责k8s集群的调......
  • 《亿级流量系统架构设计与实战》第十一章 Timeline Feed服务
    TimelineFeed服务一、概述1、分类2、功能二、设计原理1、拉模式与用户发件箱2、推模式与用户收件箱3、推拉模式结合三、关键技术1、内容与用户收件箱的交互(推模式)2、推送拆分子任务3、收件箱模型设计内容总结自《亿级流量系统架构设计与实战》一、概述1、分......
  • 事件驱动架构的事件版本管理
    有一种办法:发送会议邀请给所有团队,经过101次会议后,发布维护横幅,所有人同时点击发布按钮。或...可用适配器,但微调。没错!就像软件开发中90%问题一样,有种模式帮助你找到聪明解决方案。1问题你已经有了一个模式,消费者已知咋处理它,所以他们依赖你保持兼容性,但实际上,你要打破这种兼......
  • 【系统分析师】-综合知识-系统架构
    1、设计模式1)观察者模式定义了对象间的一种一对多依赖关系,使得每当一个对象改变状态,则所有依赖于它的对象都会得到通知并被自动更新【消息订阅】。在该模式中,发生改变的对象称为观察目标,被通知的对象称为观察者,一个观察目标可以对应多个观察者。观察者模式的优点在于实现了表......