更新時(shí)間:2025-03-05 16:17:46來(lái)源:安勤游戲網(wǎng)
微軟近日宣布了一項(xiàng)重要進(jìn)展,正式為Copilot+ PC引入了DeepSeek-R1的7B和14B蒸餾模型,這一功能通過(guò)Azure AI Foundry平臺(tái)實(shí)現(xiàn)。此舉標(biāo)志著微軟在將AI能力進(jìn)一步融入個(gè)人電腦方面邁出了關(guān)鍵一步。
早在今年年初,微軟便透露了將DeepSeek-R1模型的NPU優(yōu)化版本引入搭載高通驍龍X處理器的Copilot+ PC的計(jì)劃。如今,這一承諾已如期兌現(xiàn),為用戶帶來(lái)了更為強(qiáng)大的本地AI運(yùn)算能力。
據(jù)微軟官方博客介紹,這一新功能將首先從搭載高通驍龍X處理器的Copilot+ PC開(kāi)始部署,隨后將逐步擴(kuò)展到英特爾酷睿Ultra 200V和AMD銳龍系列的設(shè)備。這意味著,越來(lái)越多的用戶將能夠享受到由AI帶來(lái)的便捷與高效。
由于DeepSeek模型運(yùn)行在NPU上,這大大減輕了對(duì)PC電池續(xù)航和散熱性能的壓力。同時(shí),用戶能夠持續(xù)獲得強(qiáng)大的AI計(jì)算能力,而CPU和GPU則可以專注于執(zhí)行其他任務(wù),從而提升了整體系統(tǒng)的運(yùn)行效率。
微軟在模型優(yōu)化方面下足了功夫。他們使用了內(nèi)部開(kāi)發(fā)的Aqua自動(dòng)量化工具,成功將所有DeepSeek模型的變量量化為int4權(quán)重。然而,目前模型的標(biāo)記速度尚有待提高。據(jù)微軟報(bào)告,14B模型的標(biāo)記速度僅為8 tok/秒,而1.5B模型的標(biāo)記速度則接近40 tok/秒。不過(guò),微軟表示他們正在積極優(yōu)化,以期進(jìn)一步提高速度。
對(duì)于開(kāi)發(fā)者而言,這一新功能無(wú)疑是一個(gè)利好消息。他們現(xiàn)在可以通過(guò)AI Toolkit VS Code擴(kuò)展,在Copilot+ PC上輕松下載和運(yùn)行DeepSeek模型的1.5B、7B和14B版本。這將為他們提供更加豐富的AI工具,助力他們開(kāi)發(fā)出更加智能、高效的應(yīng)用程序。
相關(guān)資訊
其他推薦