首页 > 爱酱攻略 >微软Copilot+ PC实现新突破,本地运行DeepSeek 7B和14B大模型

微软Copilot+ PC实现新突破,本地运行DeepSeek 7B和14B大模型

2025-03-05爱酱手游网

微软近日宣布了一项重要进展,正式为Copilot+ PC引入了DeepSeek-R1的7B和14B蒸馏模型,这一功能通过Azure AI Foundry平台实现。此举标志着微软在将AI能力进一步融入个人电脑方面迈出了关键一步。

早在今年年初,微软便透露了将DeepSeek-R1模型的NPU优化版本引入搭载高通骁龙X处理器的Copilot+ PC的计划。如今,这一承诺已如期兑现,为用户带来了更为强大的本地AI运算能力。

据微软官方博客介绍,这一新功能将首先从搭载高通骁龙X处理器的Copilot+ PC开始部署,随后将逐步扩展到英特尔酷睿Ultra 200V和AMD锐龙系列的设备。这意味着,越来越多的用户将能够享受到由AI带来的便捷与高效。

由于DeepSeek模型运行在NPU上,这大大减轻了对PC电池续航和散热性能的压力。同时,用户能够持续获得强大的AI计算能力,而CPU和GPU则可以专注于执行其他任务,从而提升了整体系统的运行效率。

微软在模型优化方面下足了功夫。他们使用了内部开发的Aqua自动量化工具,成功将所有DeepSeek模型的变量量化为int4权重。然而,目前模型的标记速度尚有待提高。据微软报告,14B模型的标记速度仅为8 tok/秒,而1.5B模型的标记速度则接近40 tok/秒。不过,微软表示他们正在积极优化,以期进一步提高速度。

对于开发者而言,这一新功能无疑是一个利好消息。他们现在可以通过AI Toolkit VS Code扩展,在Copilot+ PC上轻松下载和运行DeepSeek模型的1.5B、7B和14B版本。这将为他们提供更加丰富的AI工具,助力他们开发出更加智能、高效的应用程序。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表本站立场。文章及其配图仅供学习分享之

6504
524

同类推荐更多

精品蜜桃秘的一区二区三区差异是什么?如何选择最适合你的蜜桃?

精品蜜桃秘的一区二区三区差异是什么?如何选择最适合你的蜜桃?

最火的爱酱攻略

2025-01-27

精品蜜桃秘,一直是水果界的佼佼者,凭借着甜美多汁的口感和丰富的营养价值,赢得了消费者的喜爱。而在蜜桃的种植和销售过程中,一区、二区、三区的划分,也让这种水果在市场上展现出不同的品质和特色。那么,精品蜜桃秘的一区、二区、三区分别代表着什么?它们之间的差异和优势又是什么呢?本文将为您一一解答。 精品蜜桃秘的区域划分 精品蜜桃秘的种植区域通常分为一区、二区、三区,这种划分是为了根据不同的气候、土壤和种