车载智能计算芯片白皮书

《车载智能计算芯片白皮书（2023）》智能化、面向服务的基础架构、软件定义汽车等已经成为各大汽车厂商竞相追逐的热点和差异化的焦点。高算力域控制器、智能座舱、辅助驾驶、自动驾驶等人工智能算法应用越来越受到各大汽车制造商、汽车零部件供应商、算法和系统集成商的重视和关注，并迅速成为投资和竞争的重点。软件和算法在智能驾驶汽车中越来越重要而且成为了差异化竞争的关键。软件价值的提升意味着未来汽车更多的创新将集中在电子和软件部分。领先的底层架构、出色的软件迭代、持续优化和不断进化的硬件技术，将加速整个汽车行业的转型与变革。随着芯片技术、硬件技术、软件技术、人工智能、深度学习算法等迅猛发展，智能计算已是大势所趋，车载智能计算软硬件平台和服务的竞争在汽车行业中多个国家，对于座舱智能科技水平的关注仅次于安全配置，甚至超过动力、价格、能耗等指标。据市场，相信随着人工智能技术、法律监管的完善以及消费者接受度的提升，自动驾驶市场会进一步扩智能汽车未来将有机会在实现“零事故”、“零排放”和“零拥堵”的宏伟愿景中发挥重要作用。本报告述车载智能计算软硬件平台的发展机遇与创新实践。现在如下几点：）；耦合即可满足系统需求。随着激光雷达等高性能传感器的量产上车以及智能驾驶系统算法的泛化性提统而言，传感器数量的增加及多路高分辨率摄像头带来海量实时环境感知数据，外加算法模型的复杂即便随着自动驾驶汽车不断的里程突破，很多时候在人类看来是非常低级错误的自动驾驶事故案模型的泛化性不佳是其中的重要原因之一，突破点在于通用人工智能（AGI，ArtificialGeneral就能将计算效率提升一倍，但典型的车载芯片开发周期需要三年。算法优化会对计算平台架构带来巨这种进化速度上的不匹配，对芯片公司的算法能力提出更高要求，需要对算法的发展趋势进行预硬件利用率，达到真正意义上向后兼容软件算法创新，这是非常难的。那样高能效比或具有成本效益。最大的问题之一是功耗，要使L3以上的工作完美无缺，我们需要来源：智能汽车算力平台方案解析功能安全指电子电器及其相关软件本身，通过其内置的安全机制，将伤害人类或损坏物品的潜在路上行驶的汽车在功能安全上面临更多的挑战：•成本多的冗余设计达到，而各大汽车制造商在成本控制上则要苛刻得多，在成本可控的前提下，达到功能•使用场景汽车使用场景和范围非常宽泛，作为全天候高频使用，且不同驾驶人员使用习惯不同，外加一般•市场新需求伴随着软件技术、硬件技术以及人工智能等数字化技术日益完善成熟在多个领域，特别是在移动互联网领域取得了的巨大成功，当代人们对于汽车的需求已经不满足于传统交通工具属性，转而对舒新，但功能安全仍然是汽车产业的最核心、最重要的关切点。数字化、新能源等技术在汽车功能安全•预期功能安全虽然已经提出了许多数据驱动设计的方法，不过深度神经网络的可解释性、稳定性以及鲁棒性方面仍关注系统运行时发生的超出预期设计的场景或者超出部件性能限制的情形，以及人为因素对于系统的广为人知，它主要基于特定的汽车硬件平台上，通过软件来实现相关功能和特性，其周期贯穿汽车生产、制造、销售以及后续服务等阶段，软件定义汽车可以提供越来越复杂的安全和保护功能、更高级别的系统自主性以及接受各种功能和安全机制相关的软件更新能力，除此之外，还将提供例如防盗、在发生索赔时支持保险公司的信息、警报或紧急情况通知等高级服务和应用。软件定义汽车代表了汽购买最新款手机硬件，仅通过系统升级和软件更新，也可以体验性能提升和更多功能。消费者在智能手机和移动互联的使用习惯和意愿上，成功延伸至汽车领域，比如车载信息娱乐、智能网联、人机交能够接收无线（OTA）更新，其中包括安全补丁、信息娱乐改进、自动驾驶、辅助驾驶等车辆核心功用户行为等都会产生大量数据，这些数据有机会完成本地实时分析或者发送到云端处理，使主机厂能够深入了解汽车状态和用户使用习惯，并改进汽车软件生命周期管理、开发个性化功能，与消费者建息终端，许多重要的功能特性需要借助软件和算法来完成，比如智能语音控制车内空调温度，检测驾越低，传统汽车销售模式在汽车交付给终端消费者的时候，销售即完成。相较于特斯拉汽车的销售模），），降低链接的复杂性，也同时缩短线束长度，降低成本和重量，典型域控制器是车载信息娱乐系统出现，中央集成式电子电气架构（车轮上的数据中心）将进一步整合域控制器，高性能服务器芯片将然后将数据转发到高性能中央计算单元进行高速处理。的性能要求也会越来越高，由于计算趋于集中，支持不同工作负载的高性能异构计算芯片（System2.2.1面向信号架构（SignalOrientedArchitecture）2.2.2面向服务架构（ServiceOrientedArchitecture）常见的软件架构设计理念，它鼓励提供抽象访问接口和模块化软件组件的方式，让软件模块很容易在上层系统通过复用和自由组合既有软件模块，可以实现快速开发特定的功能，并能降低测试验证成本上层应用开发者提供与手机、桌面、数据中心等应用几乎相同的开发、调试体验，让移动互联网的开随着汽车系统软件的复杂性越来越高，特别是自动驾驶、辅助驾驶等新型应用的诞生，应用程序代码变得日益复杂，为了快速满足各种不断变化的消费者需求，由此产生的软件开发、部署和管理方杂性，非常适用于汽车应用开发，其中基于微服务容器架构，可以大量复用工作负载的基础技术代码，云原生技术有利于企业在公有云、私有云和混合云等新型动态环境中，构建和运行可弹性扩展的极大缩短车载系统应用的开发和部署周期。关键应用与常规应用混合编排简化部署复杂度：车载软件在本质上可以是同时部署运行关键应用于微服务容器的一部分进行集成。另外，现有的云原生基础设施及容器编排技术，可以感知软硬件特征，特别是嵌入式车载硬件系统的功能特性，按照需求把相应的微服务部署到最合适的节点上，并以供大量的数据输入，模拟成百上千的真实使用场景，甚至可以同时在数千个云端服务器节点上启动执也可以最大效率利用硬件计算资源，避免因最终部署环境的不一致，导致大量程序代码异常在与车载发了基于开放标准的新架构，它用经过验证的云原生增强技术，与汽车应用中必需的实时和安全功能一起运作，快速无缝地满足软件定义汽车的应用需求开发。此外，由这些企业组成的特别兴趣小组有越来越多的数据驱动智能应用在智能汽车上出现，包括智能座舱、辅助驾驶、智能诊断、用户行为模型、智能热管理、智能底盘等。而在车端数据的采集和智能应用的运行均依托车载智能计算，大数 智能场景的实现需要车载智能计算与云计算的协同，为了让汽车产品保持量产后的可持续迭代能力，往往需要预置足够的算力确保智能汽车的持续进化。车载计算模块通常会部署在采用Arm架构的域控制器或者中央网关上，特征提取乃至机器学习等运算。这也就意味着，一旦有较为充足的算力可以被调用，那么在车端实现一些复杂多样的计算场景，不仅可以有效的将算力转变为业务和商业价值，而且可以持续的提升用户移动出行体验。但在智能汽车初期，车企在车端缺乏冗余算力的规划，导致产品后续迭代空间有限，这一点有望随着算力的增长和边缘计算的发展而得到新的突破。不同于手机、桌面、数据中心或者一般边缘计算场景对于智能计算芯片的需求，从软件定义汽车），比如海量信号数据格式转换；oCortex-M：为面积、功耗以及实时操作系统（RTOS）特别优化的处理器，提供简单压监测等；•NPU（神经网络处理单元）是为深度神经网络推理而定制的逻辑电路实现，具有低功耗、速•ISP（图像信号处理器）是将图像传感器（比如一个或者多个摄像头信号数据）实时转化成•Security（信息安全）是一个包含硬件、软件、工具包，支持应用程序不可知的安全子系统，车辆控制、智能座舱、辅助驾驶、自动驾驶等场景和通常的边缘计算场景相比，需要更高的性能，车载应用开发往往需要同时使用上述多种异构计算单元提供算力保障，不同计算单元协同工作，平衡子电气架构和更为激进的中央集中式电子电气架构是产业发展方向，无论是哪一类电子电气架构，车2.1突破冯·诺伊曼“瓶颈”30-80GB/s，且随机数据访问时的带宽要远低于理论值。而一次深度神经网络的推理过程涉及的计算加运算。深度神经网络加速器（NPU）最重要的优化手段之一是降低对内存访问的频率，有利于降低集，并通过上层系统软件驱动以上模块协同交互，完成基于各种深度神经网络类型的推理计算任务，著加速效果。安谋科技“周易”NPU本身配合专有工具链和编译器，能支持数百个各类音视频及其它数需求。不过多核设计中，系统软件对于多核任务的调度优化十分重要，需要合理将任务分配到不同计算核心并监控其运行状态，随着并行任务的增多，任务调度器本身也会成为性能瓶颈。安谋科技“周需要具备合规的功能安全流程外，更需在产品研发的生命周期下严格遵循功能安全流程，从而将系统性失效的风险控制在对应汽车安全完整性等级（ASIL）要求的范围内。对于后者可用失效模式影响和针对随机硬件失效的各种失效模式，需要有相应的功能安全机制进行应对。包括用于保护内部故障的Parity、针对复杂逻辑的硬件冗余和锁步、以及探测门级随机硬件失效所需运行的软件自测库测和处理：•处理器设计了内存保护单元，安全态标记单元等进行软件访问权限管理，保护软件系统的正确运行；常等错误行为进行相应的处理和纠正；存储数据读写错误进行检测和纠正；双核异步互锁（参考）设计，通过两个完全一致的处理器运行同时运行同样的程序代码，并对结合考虑：安全机制的有效性，从而有效避免潜在故障。在运行阶段，STL可以通过不同的激励和测试向量支持软件系统能力是由开发过程决定的，无法在项目完成后提升。虽然，STL提供的诊断能力只有驶芯片，智能座舱、域控制器、中央网关等不同的应用场景，“山海”SPU还支持功能安全为智能汽车从软件定义汽车角度来看，信息安全应该是各类软件包括操作系统，系统软件、应用软件等的重统的安全性才能得到保证。随着强安全性要求的软件越来越多，比如智能车钥匙、FOTA、身份认证，件平台，基于硬件基础平台，与软件、算法适配协同，才能充分挖掘算力，使芯片在实际应用中发挥面对自动驾驶海量长尾场景的挑战，大模型已经表现出巨大的潜力，目前这一“BEV+同时，随着算法的日益复杂，原先简单的大规模并行计算架构也难以为继，智能计算与逻辑计算芯片设计、生产与场景落地往往是不同的厂商参与，芯片设计和生产由于其一次性投入非常大，特别是针对汽车的智能计算芯片而言，只有足够的场景覆盖才会有较大出货量，所以车载芯片在其设计之初就会保留一定通用性。对于特定场景的软件开发团队而言，一方面需要与芯片及基础软件开发团队通力合作，通过软件优化的方式充分发挥芯片及硬件的计算效能；另外一方面，通用芯片很难针的难点主要体现在如下几个方面：比如早期CNN模型采用若干个卷积层作用于输入图像以生成低维特征，然后再将几个全连接层流水线以及设定相应的处理参数和调度策略，确保环境感知数据通过不同步骤（硬件加速单元）不会和软件的接口，并明确了处理器单元能够做什么以及如何完成，也是用户能够与硬件交互的唯一方式。础上，定义完备且稳定的指令集，在软件和硬件迭代不同步的情况下，仍然可以通过微架构和芯片制来支持开发者进行自定义开发。指令集对开发者开放，开发者除了使用内建优化算子库之外，更可实解硬件架构并非易事，因此统一的编程模型至少带来如下好处：编程学习曲线：对于应用开发者而言，熟练使用同一套编程API和编程方式，有助于降低开发人员学习成本和团队沟通成本，提高日常开发工作效率，也有助于保持软硬件平台演化的一致性。比如SDK，可以屏蔽芯片实现细节和硬件差异，可以避免用户代码的改动甚至可以避免用户代码重新编译。能为：将深度学习模型编译成最小可部署的与硬件无关模块；根据后端执行加速器硬件特性，自动生硬件执行体设计者，会根据计算特征，将计算瓶颈相关运算固化成硬件指令，采用硬件加速单元会针对不同场景，使用不同的算法模型，完成相应的计算任务，即便是同一类型的算法模型，也会根器可执行机器语言，但是编译器通常都是基于规则来完成机器语言的翻译和优化，在实际运行中，由于输入条件和场景不同，编译器无法针对运行时的场景进行优化，此时则需要软件工程师对芯片硬件如图十二蓝色部分所示，“周易”NPU工具链可以把典型的AI训练框架生成的模型，转化成“周降低自动驾驶算法落地的工程开发难度，另外一方面，随着算法和模型的不断演进，对于未来出现的车载智能计算平台在辅助驾驶或者自动驾驶场景中，对于环境数据感知有着非常苛刻的延迟要求，小，桥接诸如标准的“玲珑”ISP和“周易”NPU模块，极大降低数据延迟和功耗，提高数据处理吞吐率，NPUNPU的峰值算力。其中包含三方面的关键要素：第一是在设计、工程实现方面的极致优化；第二是对最先进算法的采纳，结合整个算法大发展趋势，预判最合适自动驾驶应用场景的最佳算法；第三是软硬件计算架构的联合优化。通过将这三方面结合在一起，设计出端到端的计算最优解。总体来看，设计理念就是既支持好算法，又使得它物理硬数据驱动的方法不仅仅用于算法本身，还应用于编译器，通过优化提升编译器的算法和性能，可以将算法转换用场景的拓展和深入新问题、新挑战需要新的算法，再加上编译器以及整个硬件系统架构持续往前演进，通过实到中间的AI计算，以及数据后处理，都有对应的硬件加速单元，并且充分保证了处理环节的衔接性，最终获得了在硬件层面有三层并行化：在软件层面也有三层并行化：吞吐量；更高的性能和运行效率，支持算子数量达到100多个，远高于同类产品，不仅能够支持经典的网络，还可以支持能的硬件加解密引擎，不仅支持经典公钥、哈希、对称加密和随机数生成算法，同时还支持符合国密标准的5V5R12U等常见的ADAS域控系统设计需求。动驾驶域控制器X-Box4.0是基于芯驰X9系列以及地平线征程5系列人工智能芯片打造的L2+级别域控制器标准品。智能座舱在汽车上占据越来越重要的地位。随着车辆的硬件配置、性能逐渐趋同，智能座舱成为新的衡量一辆芯