特斯拉BazelCon2022最新演讲：利用Bazel，大规模开发，构建和评估autopilot

瓦砾村夫

26 Nov 202218:52

Summary

TLDR在这场演讲中，特斯拉的工程师们介绍了如何使用Bazel开发用于汽车和机器人自动驾驶的软件。他们讲解了如何利用Bazel高效地进行C++代码和神经网络的编译，重点展示了如何将神经网络拆分为适合不同计算单元的子图以提高性能。同时，他们还探讨了如何使用开环和闭环评估来优化自动驾驶系统。最后，他们分享了如何扩展基础设施，支持全球范围内高达每周200万次仿真和90,000次构建的负载，展示了Bazel在特斯拉自动驾驶技术中的关键作用。

Takeaways

😀 特斯拉的自动驾驶技术结合了C++代码和神经网络，用于快速处理大量数据，确保安全性。
😀 特斯拉使用自建的FSD计算机，以更高效地执行神经网络操作，推动自动驾驶技术进步。
😀 Bazel构建系统与Gazelle插件共同工作，帮助工程师通过推断源代码中的依赖关系来加速开发进程。
😀 特斯拉通过神经网络将8个车载摄像头的图像数据转化为3D向量空间，实现自动驾驶环境建模。
😀 自动驾驶系统的神经网络分为多个子图，针对不同计算硬件（CPU、GPU、AI加速器）进行优化处理。
😀 Bazel被用来将神经网络拆分为优化的子图，并根据硬件需求分别进行编译，提高迭代速度。
😀 特斯拉使用开放式和闭环仿真评估自动驾驶的性能，确保各项功能符合预期。
😀 在仿真过程中，通过多种环境变量（如地形、光照等）生成虚拟数据，进行无限次测试。
😀 Bazel缓存机制经过水平扩展，以支持特斯拉庞大的自动驾驶软件构建和评估系统。
😀 特斯拉的数据中心采用了多数据中心、分布式缓存架构，确保高效的资源利用与缓存命中率。
😀 特斯拉的基础设施每周承载200万次评估、9万个构建和1000万次测试，持续扩展并优化计算资源和团队。

Q & A

特斯拉如何使用Bazel来开发自动驾驶软件？
-特斯拉利用Bazel作为构建和集成工具来支持自动驾驶软件的开发。通过Bazel，工程师可以快速地迭代C++代码和神经网络，并且通过Gazelle工具自动生成和更新构建文件，从而提高开发效率。
FSD计算机是什么，特斯拉是如何利用它来加速神经网络运算的？
-FSD计算机是特斯拉为自动驾驶系统专门设计的硬件，结合了CPU、GPU和名为Trip的AI加速器。通过利用不同的计算单元优化神经网络的各类运算，特斯拉能够提高计算速度和效率，支持低延迟的实时决策。
特斯拉的神经网络如何在FSD计算机上编译和执行？
-特斯拉将神经网络编译成二进制代码，以便FSD计算机能够理解并执行。每个神经网络根据其性能需求被拆分成多个子图，分别在最适合的硬件上运行，从而优化计算效率。
如何通过Bazel来管理和优化神经网络的构建？
-通过Bazel，特斯拉使用自定义规则和宏将神经网络拆分成多个子图，这些子图可以并行编译并根据硬件需求选择正确的编译器。这样，工程师能够迅速迭代神经网络，并通过缓存机制加速构建过程。
特斯拉如何利用开环评估和闭环评估来优化自动驾驶性能？
-开环评估通过收集来自特斯拉车队的传感器数据，验证自动驾驶系统的控制输出是否符合预期。闭环评估则通过模拟生成合成传感器数据，进行控制输出验证，并生成新的合成数据继续进行评估。两者结合帮助提高自动驾驶系统的准确性和安全性。
闭环评估的优势是什么，如何在自动驾驶测试中应用？
-闭环评估的优势在于其可以通过模拟生成无限量的合成数据，测试自动驾驶系统在各种虚拟环境下的表现。特斯拉通过闭环评估，能够灵活地改变环境、演员、光照等因素，从而全面测试和验证自动驾驶系统的反应。
Bazel是如何支持特斯拉的大规模计算和评估工作负载的？
-Bazel帮助特斯拉管理和优化构建、测试及评估工作负载。通过高效的缓存机制，Bazel在大规模计算中实现了高效的资源利用，使得特斯拉能够在多个数据中心支持数百万次模拟和构建任务。
特斯拉如何处理Bazel缓存的扩展问题？
-随着特斯拉数据中心的规模不断扩大，Bazel的缓存需求也随之增加。为了解决单一缓存服务器的I/O限制，特斯拉采用了水平扩展并增加了负载均衡器。同时，通过一致性哈希技术优化数据中心内的缓存命中率，确保跨数据中心的缓存访问效率。
特斯拉的数据中心如何实现跨区域的Bazel缓存同步？
-特斯拉通过实现分层Bazel缓存来解决跨区域缓存同步问题。每个数据中心都有本地缓存，新的构建工件会写入本地缓存并同步到主缓存，确保高效的数据读取，并减少跨数据中心的数据流量。
特斯拉在自动驾驶硬件设施的扩展过程中遇到了哪些挑战？
-特斯拉在扩展自动驾驶硬件设施时面临着计算带宽和存储的挑战。每次构建需要传输大量数据，而模拟过程也需要消耗大量带宽。为了应对这些挑战，特斯拉设计了高效的计算机硬件，并优化了网络和存储架构，以支持不断增长的需求。