聯發科
天璣 9400 晶片中的 Phi 小型語言模型
晶片業者聯發科表示,採用微軟 Phi 模型後,裝置端 AI 速度提升超過50%
問題
手機業者希望翻譯等裝置端 AI 能在低延遲、高準確度下運行,且不必持續連網。
做法
聯發科採用 Azure AI Foundry 目錄中的 Phi 模型,並將 Phi-3.5 放入其天璣 9400 晶片組,同時在 Azure 中運用推測式解碼(speculative decoding)加快 token 處理。資料留在裝置上。
主要數據
>50%AI 處理速度相較先前模型的提升幅度(先前為每秒12個 token)
30%其晶片能源效率的提升幅度
啟示
聯發科表示,採用小型語言模型後,裝置端處理速度比先前每秒12個 token 的舊模型快超過50%。該公司並宣稱能源效率提升30%。
分類
來源
來源摘要
[1]Microsoft2025年5月2日
微軟介紹聯發科如何將小型語言模型內建於手機晶片,並說明速度與能源效率方面的提升。
詳細內容請參閱原始資料。
收錄日期 2026年10月25日 · 更新日期 2026年10月25日