
大黑蚊子 发表于 2025-2-20 03:27/ R4 c. i- U! b6 q
说实话我也在琢磨这个玩意儿,几万块钱搞一个这个玩玩,在AI新浪潮初期真的算是一个比较高性价比的学习途径 ...
马鹿 发表于 2025-2-20 21:45! g1 c1 t+ r3 n, c
真心羡慕国内了。。。我90年代自己攒过打游戏的计算机。。。

testjhy 发表于 2025-2-20 09:50 w' l: A' _# B: J+ k/ a% {5 P
社长,美国不是与国内PC价格差不多吗?也仿照沉宝蚊行攒一台呗,
" r' r; O7 P4 _4 K; E- Z
testjhy 发表于 2025-2-20 23:32
这是大华股份根据国产芯片的一体机,

马鹿 发表于 2025-2-20 23:19
攒了以后干啥呢?

大黑蚊子 发表于 2025-2-20 23:38
大华的这个配置没啥意义,你看跑的都是蒸馏版的7B/14B/32B模型
我在自家电脑上搞了一个7B的模型试了下, ...

testjhy 发表于 2025-2-20 23:45% f; z }6 M0 y% Z
找了一个非剪裁图,看了一个新闻,华为提供方案,有60多家企业响应,大华可能是比较快的,找不到价格,{: ...
大黑蚊子 发表于 2025-2-20 10:38
大华的这个配置没啥意义,你看跑的都是蒸馏版的7B/14B/32B模型
我在自家电脑上搞了一个7B的模型试了下, ...
马鹿 发表于 2025-2-20 23:538 m2 }3 l4 X3 z' R7 `
好奇你攒个模型做啥?
大黑蚊子 发表于 2025-2-20 16:27
说实话我也在琢磨这个玩意儿,几万块钱搞一个这个玩玩,在AI新浪潮初期真的算是一个比较高性价比的学习途径 ...
大黑蚊子 发表于 2025-2-20 23:53( t- ^: r% N) o8 h' T$ w: j
我要是鼓捣这玩意儿,肯定是找二手硬件啥的,全新设备的价格那还是相当辣手的
打听了一下Intel的至强4代C ...
大黑蚊子 发表于 2025-2-20 11:03
玩啊,好奇啊,这很可能是通向新世界的大门
有这个条件的话,干嘛不玩?
xut6688 发表于 2025-2-21 05:30
在本地部署满血版的DeepSeek R1, 性价比太低了,还不如用各个云厂商的API。 自己学习,玩一玩用云API就好。 ...
沉宝 发表于 2025-2-21 00:16" H' ` s5 z9 i
这取决于对问题的理解和取舍。首先在大模型计算中,GPU的能力远远强于CPU,即使那个CPU有amx指令加速。所 ...
大黑蚊子 发表于 2025-2-21 14:10
我建议你再看一下KTransformers的相关资料
这个玩意儿的本质是在低并发(甚至是单并发)的情况下,高度依 ...
沉宝 发表于 2025-2-22 00:10* ~$ V1 E$ R$ z$ [# U* N
欢迎讨论。& y1 C; U# h+ k' J$ l3 i4 V
* ?; x" F& Y8 m' A& M" t2 ]5 K3 X" t
首先,个人以为KTransformers的最核心最精华的是抓住了DeepSeek模型参数的稀疏性。DeepSeek ...
大黑蚊子 发表于 2025-3-10 22:25
刚刚看到一个案例,有个朋友用2686V4 x2 加256GDDR3跑起了671B的Q2.51版本
显卡用的是3070M 16G,环境是U ...
大黑蚊子 发表于 2025-3-10 22:25; ?; g1 w. k6 F4 u' } l3 b1 a
刚刚看到一个案例,有个朋友用2686V4 x2 加256GDDR3跑起了671B的Q2.51版本
显卡用的是3070M 16G,环境是U ...
数值分析 发表于 2025-3-10 23:42
这里有篇文章是谈万元以下服务器部署DeepSeek-R1 671B + KTransforme的3 a8 n i- p& o7 z) d1 ^ |
https://www.pmtemple.com/academy/ ...
大黑蚊子 发表于 2025-3-10 22:25
刚刚看到一个案例,有个朋友用2686V4 x2 加256GDDR3跑起了671B的Q2.51版本 X' N9 B% x2 L% y6 b/ _
显卡用的是3070M 16G,环境是U ...
孟词宗 发表于 2025-4-15 10:41
性价比更好的是 HP Z840。这玩意儿有2X Intel Xeon E5-2678 v3 up to 3.1GHz (24 Cores Total),最好的是 ...
雷声 发表于 2025-4-15 11:182 b' c) Q5 k* z9 L6 g
https://cloudninjas.com/collecti ... E%20Z840%20will%20s ...

nanimarcus 发表于 2025-4-15 12:584 s3 M, r1 [; A& k
散热的问题,你把机箱敞开,左右两片直接给拆了,开个小风扇对着吹就是了,斜着吹,从前往后,CPU显卡电源 ...
孟词宗 发表于 2025-4-15 14:12# `8 t* l `# f9 l- d6 V( p
同意风冷,但用不着这样 DIY。可以用 联力 LANCOOL 215 https://lian-li.com/product/lancool-215/。这机 ...
nanimarcus 发表于 2025-4-15 17:355 c: w; D V6 t% P' ?
我有点成见,总认为机箱上的风扇不够有力,呵呵。
" ~# w: V' x2 \/ q0 N! V( t, K2 f
所以总认为机箱敞开了另外架个风扇吹特别有力,至少视 ...
孟词宗 发表于 2025-4-15 21:45
Caseless 的 DIY 电脑现在也挺多的。散热和灰尘啥的不是问题。
nanimarcus 发表于 2025-4-15 23:26
这个确实很赞。
第一三张好像放不了全尺寸显卡。
孟词宗 发表于 2025-4-15 11:58
没那么贵,Amazon 上一条才 $239。16条也就$3,824。2 c/ j6 [, _0 P% s
https://www.amazon.com/Tech-2666MHz-PC4-21300-Wo ...
雷声 发表于 2025-4-16 07:27
HP Z系列G4以后支持Intel® Optane™ Persistent Memory,买二手的话更便宜。不过表现怎么样就不好说了。 ...
不过这得看 CPU。如果单个 CPU 只支持 768 GB的话,那两个 CPU 最多也就 1.5 TB。大多数旧的 HP Z8 G4 都最多 1.5 TB。5 B. [* i7 L0 Y4 _1 }2 I+ ^1 l
leekai 发表于 2026-4-18 21:09 D3 `+ ?2 m/ k+ t+ v
我去年春节也攒了台x99 双路e5v4+256+2080魔改22g*2,硬盘因为以前装nas不用买,后来淘了Dell730 HP z440, ...

大黑蚊子 发表于 2026-4-20 13:43, b6 l* T7 Q* F; ^
回首这个帖子
如果去年就下手干他1个T的ECC DDR5内存的话...
幸好前两年弄了几根1T 2T 4T的nvme还有SATA SSD,就是去年初看来看去没买氦气盘有点后悔。
| 欢迎光临 爱吱声 (http://aswetalk.net/bbs/) | Powered by Discuz! X3.2 |