• 长得不行

    E5洋垃圾+计算卡洋垃圾居然能跑deepseek 671b
    花了不到3000,居然能跑到2.4 token,属实老黄的掘墓人

    主楼
  • jamesbonde

    AI这种东西,只有顶级的才有存在的必要

    #1
  • plyu007

    2.4 token,我还不如用免费的,你说呢?

    #2
  • Eureka

    CPU能跑,但是上下文长度是个瓶颈,gpu的瓶颈还是要高一些。

    #3
  • 长得不行

    plyu007 发表于 2025-3-21 10:04
    2.4 token,我还不如用免费的,你说呢?
    3000块要啥发动机啊 免费的不让折腾,虽然2.4但各种姿势随意摆弄

    #4
  • backlight

    低于10基本没法用

    #5
  • Fightlee

    我还不如冲api

    #6
  • fondy

    还是充api划算

    #7
  • sbin

    确实还是买API划算

    #8
  • munmun长得不行

    什么配置munmun 发表于 2025-3-21 10:54
    什么配置
    2696v3 + 鲸鲨x99主板+32G8 ddr3 ecc内存+50HX2
    瓶颈在内存,换ddr4好些,估计最多能到4 token,但内存要贵4倍,划不来

    #9

发表回复

登录后回复