二手显卡是本地跑大模型玩家绕不开的话题:同样一笔钱,二手市场能买到的显存往往比新卡多一档,而显存恰恰决定你能跑多大的模型。但这类交易没有保修、成色全靠描述,便宜和踩坑常常只隔着一次验货。下面按"值在哪、坑在哪、怎么验"拆开看。
真实卖点只有一个:显存性价比
本地推理是显存密集型负载。以典型的二手热门 RTX 3090 为例,24GB 显存可以整卡装下 32B 级别的 4-bit 量化模型,而同价位新卡显存通常只有 12GB 到 16GB,只能跑更小的模型或把一部分计算卸到内存里、速度明显下降。对"模型能不能装下"这个硬问题,二手老旗舰至今没有平替。先按显存给需求分档:
| 目标 | 显存门槛 | 二手常见选择 | 提醒 |
|---|---|---|---|
| 跑 7B–14B 量化模型 | 12GB | RTX 3060 12GB | 新卡也能覆盖,二手优势不大 |
| 跑 32B 量化模型 | 24GB | RTX 3090 | 二手性价比最高的一档 |
| 跑 70B 量化模型 | 48GB(双卡) | 双 RTX 3090 | 电源、主板插槽和发热都要重算 |
各档位具体能跑什么模型,可以对照 本地跑大模型显卡显存要多大 这篇的拆分。
使用门槛先算清楚
3090 这一代卡功耗在 350W 上下,老电源带不动,机箱散热也要跟上;卡身又长又厚,小机箱装不下。长期满载跑推理,风扇和供电的磨损比打游戏更持续,噪音和电费都是长期成本。另外老卡不支持新一代的视频编解码和部分新特性,拿它兼顾剪辑、游戏新作的,要把这一块预期降下来。
不值的地方,不回避
最大的风险是矿卡和翻新卡:长期满载挖矿的卡,显存和供电老化程度外行很难看出来,卖家一句"自用一手"无法证伪。其次是无保修:新卡三年保修对应的风险对价,应该从二手价格里扣出来,如果二手价只比新卡便宜两成,这笔交易并不划算。还有转手问题:老旗舰的下一任买家池子在变小,你买进来容易,再卖出去未必。
谁适合买,怎么验货
已经明确要跑 24GB 档模型、懂硬件、能接受折腾的玩家,二手 3090 这一档仍然值。纯新手、怕售后、或者只是想体验一下本地模型的人,绕开二手,直接买显存够用的新卡更省心。
验货只抓四件事:要求卖家录一段连续的压力测试视频并显示温度和显存占用;查显卡生产日期和保修标签是否完整;到手先跑显存全量测试工具扫一遍报错;交易走有验货和退货保障的平台渠道,不脱离平台付款。这四步做完,踩坑概率能压下去大半,但压不到零——这正是二手价格里那部分折扣的由来。