边缘人工智能计算在汽车中应用：可扩展性是成功的关键
微信文章
边缘人工智能计算在汽车中应用：可扩展性是成功的关键
原创 Cerence China 赛轮思 6月25日
近期，Cerence产品副总裁Christophe Couvreur在NVIDIA GTC 21上与NVIDIA汽车业务发展总监Dean Harris、VMWare制造和汽车工业总监Alexandra Baleta和Akridata产品副总裁Sunil Samel一起参加了主题为“汽车中边缘计算在人工智能和机器学习的工作负载（Edge Computing for AI and Machine Learning Workloads in Automotive）”的讨论会。
NVIDIA的Manish Harsh作为讨论会的主持人，与一众嘉宾就边缘和近边缘计算架构对延迟敏感应用的好处开展了精彩的对话。
以下是讨论会一些精彩对话的节录：
NVIDIA - Manish Harsh:汽车行业面临最大的基础设施挑战是什么？
VMWare - Alexandra Baleta:当谈到 AI，你会希望及时高效地部署。你希望开发人员快速部署资源来运行你的试验和测试，无需等待服务器准备就绪。当然你还希望AI高效运行。不仅是在试验阶段，乃至大规模部署，我们倾向于相信底层基础设施不足导致性能下降。这就是为什么我们看到人工智能领域高达53%的项目在初步测试后便没有进展；原因是底层基础设施无法应对而停滞不前。这种复杂性通常被低估，其实这是一个真正的挑战。
Cerence - Christophe Couvreur：在过去几年，深度学习技术彻底改变了我们对人工智能的发展应用。深度学习在某种程度上很简单，但部署起来也相当有挑战性，因为它需要大量的数据和大量的计算能力来训练人工智能，而且一旦经过训练，还需要部署在不同的人工智能引擎。你如何让这个庞大网络进行大规模扩展，进入每一辆汽车？这就是我们需要应对的多种挑战。
NVIDIA - Manish Harsh：低延迟对OEM有多重要？
Cerence - Christophe Couvreur：延迟对驾驶者体验有很大影响。人们没有意识到这一点，但我们对响应速度非常敏感。如果你点击一个按钮，该按钮需要50毫秒才有反应，你会感觉太慢了。这不是关于节省成本，而是如何提升用户体验。今天，OEM正在为驾驶者提供的体验不再仅仅是基于速度或里程的提升。用户体验已成为定义汽车的基本，而延迟是一个关键因素。改善延迟可以提升用户体验，使系统速度更快，能够立即做出响应。
NVIDIA - Dean Harris：对我们来说，企业IT面临的同样挑战也体现在边缘应用上，旧式的不同系统存在、对跨机构统一平台的需求、对延迟敏感应用的需求和安全性，这些都是边缘开发应用需要考虑的问题。
NVIDIA - Manish Harsh：特别针对人工智能和互联汽车的延迟，近边缘计算和云计算对缓解应用延迟的关键因素有哪些？
Cerence - Christophe Couvreur：重要的是系统无缝地迁移到边缘和云实现协作，通过边缘计算处理本地数据，按需才将数据传输到云端处理。例如，让车载语音助理处理关于调高温度的查询并不需与云连接，但像 “左边的餐厅在Yelp的评分是多少？”这样的请求，便需要连接云端处理。
NVIDIA - Manish Harsh：你如何看待混合架构的决策，以及你如何看待该选项的实现？
Akridata - Sunil Samel：从我们的角度来看，混合架构是必然的。这只是符合效益地使用最好的基础设施，而挑战在于如何管理这些基础设施。在边缘计算场景中，总有一个后端。后端的一部分是已部署的本地基础设施，而正在迁移到云的过程中。有了必然的混合架构后，你如何进行管理呢？你如何才能为用户提供贴心的体验，使这两个方面都能够轻松进行，而不是解决如何使用云、使用数据中心和使用边缘等问题？从我们的角度来看，数据基础架构应该对这些进行虚拟化，使得用户能够轻松地访问数据，而不用管数据存储位于何处。
Cerence - Christophe Couvreur：成本只是方程式中的一个维度；另一个维度是用户体验，因此我们必须设计好架构，并使用近边缘、本地部署或云端提供最佳的用户体验。这意味着我们只能跟着数据走。我们在设计架构时往往会发现，处理数据的最佳位置就是数据所在地，在最近距离进行处理通常会带来最佳的用户体验。
NVIDIA - Manish Harsh：在考虑到可扩展的情况下，你对于专注于构建互联应用的GPU技术社区有何建议？
VMWare - Alexandra Baleta ：考虑基础设施的影响，并确保它构建在一个可扩展且高性能的平台上。
Cerence - Christophe Couvreur：首先决定你的架构将是什么，以及在哪里进行部署，并设计一套完整的解决方案，使其能够在边缘技术和云技术之间进行扩展。
Akridata - Sunil Samel:扩展是关键。
NVIDIA - Dean Harris:从一开始就把平台作为一个整体来看，列出规模、安全性和其他需求。
有关讨论会的更多信息，请访问www.nvidia.com/en-us/on-demand/。
