- 长得不行5天前管理员4
E5洋垃圾+计算卡洋垃圾居然能跑deepseek 671b
花了不到3000,居然能跑到2.4 token,属实老黄的掘墓人主楼 - jamesbonde5天前管理员4
AI这种东西,只有顶级的才有存在的必要
- plyu0075天前管理员4
2.4 token,我还不如用免费的,你说呢?
- Eureka5天前管理员4
CPU能跑,但是上下文长度是个瓶颈,gpu的瓶颈还是要高一些。
- 长得不行5天前管理员4
plyu007 发表于 2025-3-21 10:04
2.4 token,我还不如用免费的,你说呢?
3000块要啥发动机啊 免费的不让折腾,虽然2.4但各种姿势随意摆弄 - backlight5天前管理员4
低于10基本没法用
- Fightlee4天前管理员4
我还不如冲api
- fondy4天前管理员4
还是充api划算
- sbin4天前管理员4
确实还是买API划算
- munmun长得不行4天前管理员4
什么配置munmun 发表于 2025-3-21 10:54
什么配置
2696v3 + 鲸鲨x99主板+32G8 ddr3 ecc内存+50HX2
瓶颈在内存,换ddr4好些,估计最多能到4 token,但内存要贵4倍,划不来