NVIDIA ने 5 नवंबर 2026 को एक technical post प्रकाशित की जिसमें Vera Rubin NVL72 के लिए full-stack memory co-design का वर्णन है। Memory खुद एक मामूली कदम ऊपर है: HBM क्षमता लगभग 3% ज़्यादा है — प्रति GPU 288 GB HBM4, 19.2 TB/s bandwidth के साथ।
Headline आँकड़ों को ध्यान से पढ़ना ज़रूरी है, क्योंकि NVIDIA ने दो अलग जगहों पर दो अलग "30x" दावे प्रकाशित किए हैं — और ये एक ही दावा नहीं हैं। Newsroom post कहती है कि agentic throughput प्रति डॉलर 30x तक है, 125 tokens प्रति सेकंड प्रति यूज़र पर, SemiAnalysis AgentX workload पर DeepSeek V4 Pro चलाते हुए। Technical blog कहता है प्रति मेगावाट 30x तक, 160 tokens प्रति सेकंड प्रति यूज़र पर। एक लागत के बारे में है, दूसरा बिजली के बारे में — इन्हें मिलाकर "30x तेज़" लिखना गलत होगा।
Independent testing एक छोटी कहानी बताती है। SemiAnalysis के अपने tests में प्रति मेगावाट 7x तक मिला, और लागत का फायदा 60–100 tokens प्रति सेकंड पर — जिस गति पर ज़्यादातर providers असल में serve करते हैं — 1.4–3x तक गिर जाता है। NVIDIA के सभी आँकड़े vendor के अपने, vendor-run numbers हैं।
मुख्य तथ्य
| विवरण | जानकारी |
|---|---|
| Post | NVIDIA technical post, 5 नवंबर 2026 — Vera Rubin NVL72 के लिए full-stack memory co-design |
| Memory | प्रति GPU 288 GB HBM4, 19.2 TB/s — HBM ~3% ऊपर |
| दावा 1 (newsroom) | 125 tok/s/user पर प्रति डॉलर agentic throughput 30x तक (SemiAnalysis AgentX, DeepSeek V4 Pro workload) |
| दावा 2 (technical blog) | 160 tok/s/user पर प्रति मेगावाट 30x तक |
| SemiAnalysis के अपने tests | प्रति मेगावाट 7x तक; ज़्यादातर providers की 60–100 tok/s गति पर लागत का फायदा 1.4–3x |
| NVIDIA के आँकड़ों की स्थिति | Vendor के अपने, vendor-run — स्वतंत्र रूप से verify नहीं हुए |
इसका क्या मतलब है
यहाँ असली कहानी memory co-design है, कोई एक speed number नहीं। Vera Rubin का HBM step-up छोटा है (~3%), और NVIDIA के दावे वाले बड़े फायदे पूरे stack से आते हैं — memory, interconnect और software मिलकर agentic workloads पर काम करते हैं। दो "30x" आँकड़े अलग आयाम बताते हैं (लागत बनाम बिजली) अलग गतियों पर (125 बनाम 160 tokens प्रति सेकंड प्रति यूज़र), इसलिए कोई भी सारांश जो बिना यह बताए "30x" लिखे कि कौन सा है, भ्रामक होगा।
SemiAnalysis के independent आँकड़े ही उपयोगी anchor हैं: प्रति मेगावाट 7x तक, और providers की असली गति पर 1.4–3x लागत का फायदा। यह भी एक असली सुधार है — बस headline वाला आँकड़ा नहीं।
सत्यापन पर एक नोट
Memory के आँकड़े और दोनों 30x दावे NVIDIA की 5 नवंबर 2026 की technical post और newsroom post के अनुसार हैं; दोनों दावों को यहाँ ठीक उसी तरह अलग रखा गया है जैसे प्रकाशित हुए थे। SemiAnalysis के test नतीजे SemiAnalysis के अपने मापन हैं, जैसा बताया गया है।
FAQs
NVIDIA ने 5 नवंबर 2026 को क्या announce किया?
Vera Rubin NVL72 के लिए full-stack memory co-design पर technical post — प्रति GPU 288 GB HBM4, 19.2 TB/s पर — HBM लगभग 3% ऊपर।
दो "30x" दावे क्या हैं?
Newsroom post का दावा है 125 tokens प्रति सेकंड प्रति यूज़र पर प्रति डॉलर agentic throughput 30x तक; technical blog का दावा है 160 tokens प्रति सेकंड प्रति यूज़र पर प्रति मेगावाट 30x तक। ये अलग दावे हैं और इन्हें मिलाना नहीं चाहिए।
Independent testing में क्या मिला?
SemiAnalysis के अपने tests में प्रति मेगावाट 7x तक मिला, और ज़्यादातर providers की 60–100 tokens प्रति सेकंड गति पर लागत का फायदा 1.4–3x तक गिर जाता है।
क्या NVIDIA के आँकड़े स्वतंत्र रूप से verify हुए हैं?
नहीं। ये NVIDIA के अपने vendor-run numbers हैं; इस कहानी में SemiAnalysis के आँकड़े ही independent मापन हैं।
स्रोत: NVIDIA technical post और newsroom post, 5 नवंबर 2026; SemiAnalysis AgentX tests। अंतिम जांच: 21 नवंबर 2026।
Comments (0)
Share your question or experience about this syllabus. Your comment will appear after review.
No comments yet — be the first to share your thoughts!