赛轮思AI与Arm携手合作,在边缘侧实现增强的大语言模型(LLM)能力
2025年5月28日Cerence Inc.(NASDAQ: CRNC)(“赛轮思AI”)宣布与Arm达成战略合作,赛轮思AI将借助Arm® Kleidi™软件库,提升其CaLLM™ Edge多模态汽车端侧(SLM)模型的能力与性能。
随着汽车制造商竞相为驾驶者引入由AI驱动的功能,他们面临着多项挑战,其中包括构建足够的算力来处理如大语言模型(LLMs)这类高强度工作负载的需求。汽车制造商及其合作伙伴需要简便的方法来优化CPU性能和计算力最大化,从而更轻松地为驾驶者提供生成式AI的优势。赛轮思AI和Arm正在携手合作以填补这一空白。全球94%的汽车制造商在其最新车型中采用了Arm技术。Arm汽车解决方案为整车的AI功能提供了基础的算力架构。Kleidi旨在加速机器学习进程,并优化基于Arm设备的神经网络运算,从而在端侧实现更高效、更强大的实时语言处理能力。
赛轮思AI与Arm携手合作,在CPU和GPU之间灵活分配并并行处理生成式AI的计算负载,为CaLLM Edge带来更快的速度和更优的性能,与此同时还支持增强的隐私保护与数据安全。除了其他片上系统(SoC),CaLLM Edge可在经Kleidi优化的基于Arm的芯片组上以智能体化模式运行。即便车载语言模型面临算力有限、体积庞大以及处理需求高等挑战,它依然展现出了行业领先的性能。因此,即使在没有云端连接的情况下,汽车制造商也能够为驾驶者提供快速、智能的用户体验。
“我们很高兴能够与Arm合作,将CaLLM Edge提升至全新高度,为车载边缘计算的性能与效率树立新标杆。” 赛轮思AI产品与技术执行副总裁Nils Schanz表示。“通过将我们在AI驱动语言模型方面的专长与Arm的创新软件库相结合,我们正持续推进汽车领域语音优先体验和新一代AI应用的革新进程,致力于为消费者打造更智能、更迅捷、响应更灵敏的汽车助理。”
“AI正在定义下一代先进的车载功能,因此我们必须利用一切可能的优化措施,确保AI能够在端侧无缝运行。” Arm汽车业务线汽车产品和软件解决方案副总裁Suraj Gajendra表示: “赛轮思AI通过利用Arm Kleidi取得了显著的性能提升。我们期待继续合作,在车内快速落地全新的、创新的特定应用AI模型。”