查看完整版本: 【彻底疯狂】无审查版Deepseek v4.1 flash Strata本地部署

y563295973 发表于 2026-10-27 21:03:50

【彻底疯狂】无审查版Deepseek v4.1 flash Strata本地部署

本帖最后由 y563295973 于 2026-10-27 22:54 编辑

Deepseek v4.1 flash 10.17版，这个模型不多说了，参数量552B，原生部署要上百万元的硬件设备，开源大神再次出手，利用Strata推理架构，再次将其部署在消费级平台上，社区测试，只要12G显存+64G内存就能跑了，就是有点慢，说是5-7tok/s,上下文估计撑死16K,有条件的可以自己部署试试。
本地部署链接：
链接：https://pan.quark.cn/s/7fa9ba1f5e0d

里面有agent和配套提示词，Strata框架和权重下载加速站的链接也准备好了，先安装好agent，直接把配套提示词发过去，就可以坐等部署完毕了。
没有显卡的，里面也提供了无显卡解决方案。




huangmengdh 发表于 7 天前

12G显存+64G内存也不是正常人用的电脑哇{:4_101:}

y563295973 发表于 6 天前

huangmengdh 发表于 2026-10-28 23:31
12G显存+64G内存也不是正常人用的电脑哇

你可以这么理解，两个亿的豪华游艇，现在只要五百万，一般人依旧消费不起，但是稍微有点钱的还是能拿下

jimmylq 发表于 6 天前

能不能放到百度网盘里面啊

zsc007 发表于 6 天前

云端API也不是能用的起的样子

y563295973 发表于 6 天前

jimmylq 发表于 2026-10-29 10:21
能不能放到百度网盘里面啊

里面就一个1kb的提示词有用，strata包让agent去拉取就行

a520131214 发表于 5 天前

24g显存+32G的内存能跑动吗

y563295973 发表于 5 天前

a520131214 发表于 2026-10-30 10:09
24g显存+32G的内存能跑动吗

32G内存不够，至少64G内存才能跑

SIWAO 发表于 4 天前

我的电脑正好是12G加64。。。。下来试试
不过大肥鱼的智商怎么样，怕折腾半天最后发现还不如去风月或者酒馆

y563295973 发表于 4 天前

SIWAO 发表于 2026-10-31 18:47
我的电脑正好是12G加64。。。。下来试试
不过大肥鱼的智商怎么样，怕折腾半天最后发现还不如去风月或者酒馆 ...

抛开智商，12G加64G是最低线，社区测试5-7tok/s,q2量化版，智商尚可

redsnowee 发表于 3 天前

感谢楼主，可以出点教程吗？应用场景的

y563295973 发表于 3 天前

redsnowee 发表于 2026-11-1 12:25
感谢楼主，可以出点教程吗？应用场景的

应用场景就是你正常怎么接api，就怎么用它呀，这个本地部署之后，通过接口和秘钥调用，跟你正常使用deepseek一样的

redsnowee 发表于 3 天前

y563295973 发表于 2026-11-1 13:24
应用场景就是你正常怎么接api，就怎么用它呀，这个本地部署之后，通过接口和秘钥调用，跟你正常使用deeps ...

谢谢，我先参考学习

a407821541 发表于 前天 13:46

5090+96G内存能跑，10t/s,没啥意义，显存+内存没有256的就别折腾了

y563295973 发表于 前天 17:51

a407821541 发表于 2026-11-2 13:46
5090+96G内存能跑，10t/s,没啥意义，显存+内存没有256的就别折腾了


5090+96G内存可以30tok/s左右

wangliang1211 发表于 前天 19:24

a407821541 发表于 2026-11-2 13:46
5090+96G内存能跑，10t/s,没啥意义，显存+内存没有256的就别折腾了

大佬请教下,mac studio m5 ultra 256g的可以吗,这个是显存内存一体的,但不清楚性能是否达标
页: [1]
查看完整版本: 【彻底疯狂】无审查版Deepseek v4.1 flash Strata本地部署