联发科携手OPPO和ColorOS:共建轻量化大模型端侧部署方案

10月11日消息,联发科今日宣布携手 OPPO 和 ColorOS ,合作共建轻量化大模型端侧部署方案,共同推…

10月11日消息,联发科今日宣布携手 OPPO 和 ColorOS ,合作共建轻量化大模型端侧部署方案,共同推动大模型能力在端侧逐步落地。

 

据介绍,联发科 AI 处理器 APU 与 AI 开发平台 NeuroPilot,构建了完整的终端侧 AI 与生成式 AI 计算生态,可加速边缘 AI 计算的应用开发与落地,强化大语言模型和生成式 AI 应用的性能。

 

联发科表示,OPPO 大模型 AndesGPT 通过采用 4 位量化技术,在精度不掉点效果下,将大模型在端侧逐步落地,并实现性能更优。