推广 热搜: 广州  SEO  贷款  深圳    医院  用户体验  网站建设  贵金属  机器人 

聊聊微软拥抱DeepSeek 提升本地AI能力!(图)

   2025-03-04 互联网顺发之窗网16

微软今日宣布,通过Azure AI Foundry接入DeepSeek-R1 7B和14B蒸馏模型,为Copilot+ PC提供本地运行这两种模型的能力。今年1月,微软曾计划将DeepSeek-R1模型的NPU优化版本直接带到搭载高通骁龙X处理器的Copilot+ PC上,如今这一承诺已经实现。

微软拥抱DeepSeek

从微软官方博客了解到,这些模型将首先在搭载高通骁龙X处理器的设备上上线,随后扩展到英特尔酷睿Ultra 200V和AMD锐龙的设备。由于模型运行在NPU上,这不仅减少了对PC电池续航和散热性能的影响,还使得CPU和GPU能够执行其他任务,从而持续获得AI计算能力。

微软拥抱DeepSeek 提升本地AI能力

微软使用了Aqua内部自动量化工具,将所有DeepSeek模型变体量化为int4权重。然而,目前模型的标记速度较低,14B模型仅为8 tok/秒,而1.5B模型接近40 tok/秒。微软表示正在进一步优化以提高速度。开发者可以通过AI Toolkit VS Code扩展在Copilot+ PC上下载并运行DeepSeek模型的不同版本。

 
免责声明:以上所展示的信息由网友自行发布,内容的真实性、准确性和合法性由发布者负责。顺发之窗网对此不承担任何保证责任,顺发之窗网仅提供信息存储空间服务。。如涉及内容、版权等问题,请在30日内联系,我们将在第一时间删除内容!
收藏 0 打赏 0
 
更多>同类资讯
推荐图文
推荐资讯
点击排行

网站首页  |  网站地图  |  排名推广  |  广告服务  |  RSS订阅  |  SiteMap
免责声明:本站所有信息均来自互联网,产品相关信息的真实性准确性均由发布单位及个人负责,请大家仔细辨认!顺发之窗网对此不承担任何相关法律责任!
友情提示:买产品需谨慎 网站信息处理与建议邮箱:sfzcw@qq.com