Copyright 2015-2024 幫眾人 版權所有 京ICP備2015123571號

賽輪思(Cerence)與英偉達宣布深化合作,共同推動其CaLLM系列語言模型的功能升級。此次合作不僅涉及基于云的賽輪思汽車大語言模型(CaLLM),還包括CaLLM Edge嵌入式小語言模型。
在這一合作框架下,CaLLM將借助NVIDIA AI Enterprise這一端到端云原生軟件平臺的力量,而CaLLM Edge的某些功能則將得到NVIDIA DRIVE AGX Orin的支持。這一強強聯合,無疑將為汽車行業帶來更為先進、高效的語言模型解決方案。
具體而言,賽輪思AI通過整合NVIDIA AI Enterprise軟件平臺中的NVIDIA TensorRT-LLM和NVIDIA NeMo,顯著加速了CaLLM的開發與部署進程。NVIDIA NeMo作為一個全面的框架,為生成式AI應用的構建、定制及部署提供了極大的便利。
得益于此次合作,賽輪思AI對其CaLLM系列模型進行了深度優化與定制,旨在:
在NVIDIA加速計算和SoC技術的加持下,為車載助手提供更為迅捷的性能表現。
開發了針對汽車環境優化的NVIDIA NeMo Guardrails實現,這一創新技術確保了Cerence驅動的系統能夠精準捕捉并處理車載交互中的每一個細節。
通過NVIDIA DRIVE AGX Orin在CaLLM Edge上實施并優化了代理架構,這一舉措為下一代車載用戶體驗的革新奠定了堅實基礎。