联发科
天玑9400芯片中的Phi小型语言模型
芯片厂商联发科称,采用微软Phi模型后端侧AI速度提升超过50%
问题
手机厂商希望翻译等端侧AI能在低延迟、高准确率的条件下运行,且无需持续联网。
方法
联发科采用Azure AI Foundry目录中的Phi模型,并将Phi-3.5植入天玑9400芯片组。公司在Azure中采用推测解码来加快词元处理速度。数据保留在设备上。
主要数据
>50%AI处理速度较之前模型的提升幅度(此前为每秒12个词元)
30%其芯片能效的提升幅度
启示
联发科称,使用小型语言模型后,端侧处理速度较此前每秒处理12个词元的模型提高超过50%。公司还声称能效提升30%。
分类
来源
来源摘要
[1]Microsoft2025年5月2日
微软介绍了联发科如何将小型语言模型集成到手机芯片中,并称速度和能效均有提升。
详细内容请参阅原始来源。
收录日期 2026年10月25日 · 更新日期 2026年10月25日