zzutmebwd

V2EX member #62082, joined on 2014-05-07 10:29:14 +08:00

Today's activity rank 2622

zzutmebwd 提问技术话题好玩工作信息交易信息城市相关

Per zzutmebwd's settings, the topics list is only visible after you sign in

Deals info, including closed deals, is not hidden

zzutmebwd's recent replies

9h 44m ago

Replied to a topic by mingtdlb › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

@mingtdlb 口径问题，你看的值除以 2 即可，现在 nv 的宣传话术眼花缭乱的，你看比值即可。

10h 47m ago

Replied to a topic by mingtdlb › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

相比 pro6000d：
fp32/16：5090 83% pro6000d 59%
fp4: 5090 83% pro6000d 29%

10h 52m ago

Replied to a topic by mingtdlb › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

您看一下：
精度 RTX 5090 Pro 6000 D（特供） Pro 6000 Blackwell
FP32 104.8 TFLOPS 74 TFLOPS 126 TFLOPS
FP16 ~209.5 TFLOPS 148 TFLOPS ~252 TFLOPS
FP4 ~1676 TFLOPS 593 TFLOPS ~2015 TFLOPS
pro6000d 的算力值是从图册里抄的，目测是软件限制，全网都搜不到。

11h 12m ago

Replied to a topic by mingtdlb › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

d2VjaGF0OiBobnN5d2Q= base64 联系

11h 28m ago

Replied to a topic by mingtdlb › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

@lifechan 和封禁没关系，国外也 1w 刀以上了，都贵。

11h 29m ago

Replied to a topic by mingtdlb › Local LLM › 现在大模型主流都用哪些 nVidia GPU？

@mingtdlb 又一个被骗的，这个卡就搜不到真实资料，我是差点买了，后面看了厂家图册直接退了（当时 pro6000d 4 万多点 pro6000 才 6w 我就直接买 pro6000 了），图册直接拿来和 L20 比，颇有拳打南山敬老院的意思，算力削的不像样子，fp16 只有 pro 6000 的 60%，fp4 只有 30%（应该是软件限制），带宽削的不多、显存又大，所以跑 llm 问题不大。比 5090 肯定比不了，5090 实际只比 pro6000 低 10%算力。
但是以现在 5w 出头的价格，pro6000d 性价比就很高了。

3 days ago

Replied to a topic by Livid › Local LLM › DiffusionGemma

@coefu 你看下跑分呢，gemma4 原版都干不过 qwen3.6 ，这个 diffusiongemma 更笨了...不是新的就是好

3 days ago

Replied to a topic by pz886 › 职场话题 › 25 岁专科女生，求网友指路

目前这个市场行情，还是嫁人来钱快。

3 days ago

Replied to a topic by sentinelK › Local LLM › lama.cpp 目前有重大性能 bug： checkpoint 的巡回逻辑对于混合模型（比如 qwen3.6-27B）无效，从而导致大概率每次对话都要 prefill 全文，严重拖慢速度

@sentinelK 是的，我的配置和你是一样的，我是主机 ubuntu 跑 ai 和服务，虚拟机 windows ，windows 直通 cpu 核显平时用用，也很流畅。

3 days ago

@sentinelK 你都跑 ai 了，还用 windows 吗？ hhh ，不是强词夺理哈，确实是很奇怪的选择。

» More replies by zzutmebwd