cpa 发表于 2025-2-4 11:36:54

deepseek r1部署需要什么配置

有没有教程,官网都没看到教程。

BwGoat 发表于 2025-2-4 11:39:46

但凡去百度bing搜一下就一大堆教程。模型有很多种,都是蒸馏过的。原版1个多t。

idcidcddd2024 发表于 2025-2-4 11:42:44

键盘的g坏了还是o坏了还是l坏了还是e坏了还是y坏了还是u坏了还是t坏了还是b坏了

qqlikeho 发表于 2025-2-4 11:51:39

本帖最后由 qqlikeho 于 2025-2-4 11:57 编辑

完整的761b有400g,需要800-1T左右的混合内存。
目前有人用amd搞定大概4token/s,成本8000u,可以满足个人需求。不过随着上下文的变多会降速。
可以在观望下amd那边,统一内存可以在未来低成本的实现更好的xiaoneng
页: [1]
查看完整版本: deepseek r1部署需要什么配置