联发科端侧AI新突破:天玑全面优化微软小语言模型Phi
12月27日消息,科端联发科官方宣布,新小语型联发科天玑系列移动平台现已针对微软最新推出的突破天玑Phi-3.5小语言模型(SLM)进行了专门适配与优化。
该优化目前已经落地天玑9400、全面天玑9300两款旗舰芯片,优化言模以及天玑8300次旗舰芯片,微软而包括天玑8400在内的科端未来的生成式AI技术芯片也都会支持。
开发人员可以通过微软Azure AI模型目录,新小语型以及联发科的突破天玑NeuroPilot SDK开发工具包,使用微软Phi-3.5进行相关开发,全面尤其是优化言模在内置NPU AI引擎的联发科平台上进行和优化生成式AI推理。
所谓小语言模型,微软就是科端相对于大语言模型(LLM)而言,最大区别就是新小语型参数量更少,从数千亿甚至数万亿参数,突破天玑通常会减少到几百万至几十亿,从而大幅降低了模型体积与复杂度,运行效率更高,获取更容易,还可以优化定制。
因此,小语言模型非常适合智能手机这样处理器、内存等硬件资源相对有限的设备。
随着生成式AI尤其是端侧AI的快速发展和广泛应用,AI正在全面革新现代人的生活、娱乐、工作方式。
事实上,在生成式AI浪潮来临之前,联发科就已经深耕端侧AI生态的推进,天玑移动平台每一代都在演进NPU AI硬件引擎,始终保持旗舰级性能,苏黎世AI Benchmark测试中几乎一直都是AI性能冠军。
强大的端侧AI性能,叠加联发科在生态开发方面的持续投入,为天玑平台智能手机的AI智能化体验打下了强大软硬件基础。
为了加速端侧AI应用落地、普及,联发科还打造了全新的“天玑AI智能体化引擎”,通过强大的端侧AI性能,将传统应用转化为更加智能化的AI应用,已经与多款知名应用达成深度合作,让年轻人的各方面生活都更智慧、更好玩。
未来,联发科也会持续推动端侧AI的深入发展,带来更加丰富的端侧AI应用。
(责任编辑:探索)
- ·[流言板]进入状态!杰伦
- ·贝兹利,30分13板7助攻,能力能外,能攻能防能助攻
- ·梅西:我本希望能参加今年的美职联决赛,明年我们为此而努力
- ·[流言板]邓恩本赛季已有4次单场4+抢断,场均仅出战22.5分钟
- ·[流言板]詹姆斯升至湖人队史三分命中榜第二位,湖人官推晒照祝贺
- ·二代黑寡妇称影视行业做女人太累:想打破容貌焦虑
- ·新月CEO:C罗转会过来踢世俱杯?听起来像科幻故事
- ·辽区球迷请冷静,大家都希望来牛逼大外。但不能被双面人带了节奏啊!
- ·【西海岸】李月汝继续在土耳其联赛升级打怪,全场16投10中狂砍24分11个篮板,最终加拉塔萨雷女篮战胜贝尔格莱德红星女篮。
- ·每体:皇马缺席金球奖是大错误老佛爷签姆巴佩却忘问题不在锋线
- ·诺茨郡帅小伙!格拉利什18岁时曾在英甲练级,身价25万39场5球7助
- ·波耶特:希望乌加特能在阿莫林手下发光 卡塞米罗将带他成长
- ·RTX 50移动版全线亮相!最高5090、最低5050
- ·(神州写真)咖吧书店吸引“Z世代” 多地名人故居升级新场景
- ·国际乒联最新排名公布 王楚钦孙颖莎继续领跑男女单排名榜
- ·《地平线:零之曙光重制版》配置公布 硬盘需135G
- ·库尔图瓦:很高兴参加洲际杯决赛,这意味着我们是上赛季欧冠冠军
- ·阿斯报:琼阿梅尼踢中卫时表现更好,比踢中场时数据全面提升
- ·[流言板]詹姆斯谈库里:你对他脱帽致敬,然后努力打好下一个回合
- ·老友对决!吉达联合vs胜利首发:C罗PK本泽马,坎特先发