メディアテック
Dimensity 9400チップに搭載したPhi小規模言語モデル
半導体メーカーのメディアテックは、マイクロソフトのPhiモデルを使い、オンデバイスAIの処理速度が50%超向上したと発表した
課題
スマートフォンメーカーは、翻訳などのオンデバイスAIを、常時のインターネット接続なしに、低遅延かつ高精度で動かしたいと考えていた。
取り組み
メディアテックは、Azure AI FoundryカタログのPhiモデルを使い、Phi-3.5を同社のDimensity 9400チップセットに搭載した。Azure上で投機的デコーディングを適用し、トークン処理を高速化した。データは端末内にとどまる。
主な数値
>50%従来のモデル(毎秒12トークン)に対するAI処理の高速化
30%同社チップの電力効率の向上
示唆
メディアテックによると、小規模言語モデルの採用で、オンデバイス処理は毎秒12トークンだった従来のモデルより50%超速くなった。電力効率も30%向上したとしている。
分類
- 規模
- 中堅・成長企業
- 業種
- IT・通信
- 業務機能
- IT・研究開発
- イノベーションの類型
- 製品・サービス・イノベーション
- AI技術
- 生成AI
- 導入形態
- ベンダーのソリューション
- 根拠
- ベンダーの事例紹介
出典
出典の要約
[1]Microsoft2025年5月2日
マイクロソフトは、メディアテックがスマートフォン向けチップに小規模言語モデルを組み込んだ経緯を紹介している。速度と電力効率の向上を報告している。
詳細は原典でご確認いただけます。
掲載日 2026年10月25日 · 更新日 2026年10月25日