• 斌斌

    公司内部用,主要用milvus 向量数据库,后期想跑点大模型,但是这预算肯定不太行,就先计划着吧、
    现在服务器用什么机箱,内存应该128~256,服务器硬盘应该选什么牌子的。肯定注重数据安全要阵列。

    主楼
  • 蒙面人

    hygon7380

    #1
  • 小混混

    跑大模型这个配置怕是不够,一张显卡就用完了你的预算

    #2
  • 斌斌

    小混混 发表于 2025-4-9 09:11
    跑大模型这个配置怕是不够,一张显卡就用完了你的预算
    预算不算显卡的

    #3
  • htt695566

    老板方便加个V嘛,具体需要什么配置得话咱们这边可以沟通沟通,后期需要托管啥得都行V:htt695566

    #4
  • 古田狼

    预算还要乘以4。不然只能搞家用级的。

    #5
  • cowe

    要看你的数据规模? 百万级,千万级,亿级?
    CPU高主频 >3.0GHz,多核心。
    可以看看,丽台的天猫旗舰店。 有单显卡到4显卡 工作站,根据你的预算看下吧

    #6
  • 斌斌

    htt695566 发表于 2025-4-9 10:52
    老板方便加个V嘛,具体需要什么配置得话咱们这边可以沟通沟通,后期需要托管啥得都行V:htt695566 ...
    这里的托管想考虑几年长期的靠谱么?

    #7
  • 斌斌

    古田狼 发表于 2025-4-9 11:05
    预算还要乘以4。不然只能搞家用级的。
    不算显卡还要x4么?

    #8

发表回复

登录后回复