ज़्यादातर लोग AI मॉडल का इस्तेमाल करते हैं। बहुत कम लोग कभी उसे शुरू से बनाते हैं। Andrej Karpathy का nanochat इसी दूरी को पाटने के लिए है: एक छोटा, समझने में आसान टूल जो आपको ChatGPT जैसे मॉडल को शुरू से अंत तक ट्रेन करने के पूरे सफ़र से गुज़ारता है — वह भी एक ही GPU नोड पर।
nanochat (karpathy/nanochat) पहली बार 13 अक्टूबर 2025 को प्रकाशित हुआ। यह Python और PyTorch में लिखा गया है और MIT licence के तहत उपलब्ध है। इसकी टैगलाइन है — "The best ChatGPT that $100 can buy." लेकिन ध्यान रहे, "$100" एक बजट का ढांचा है: README में दिया गया वास्तविक आंकड़ा GPT-2 स्तर के मॉडल के लिए लगभग $48 है — यानी 8×H100 GPU पर लगभग $3 प्रति GPU-घंटे की दर से करीब दो घंटे, या spot कीमत पर लगभग $15।
मुख्य तथ्य
| विवरण | जानकारी |
|---|---|
| Repository | karpathy/nanochat |
| लेखक | Andrej Karpathy |
| यह क्या है | ChatGPT जैसा मॉडल शुरू से ट्रेन करने का छोटा, समझने में आसान टूल |
| Pipeline | Tokenizer → pretraining → SFT → evaluation → inference |
| किससे बना है | Python / PyTorch |
| Licence | MIT |
| पहली बार प्रकाशित | 13 अक्टूबर 2025 |
| टैगलाइन | "The best ChatGPT that $100 can buy." |
| GPT-2 स्तर के मॉडल की लागत | लगभग $48 (8×H100 पर ~2 घंटे, ~$3/GPU-घंटा); spot पर ~$15 |
| GPT-2 speedrun रिकॉर्ड | 1.65 घंटे (14 मार्च 2026) |
| GitHub stars | 19 नवंबर 2026 तक 60,705 / 8,524 forks (RepoRadar) |
Star की संख्या 2 नवंबर 2026 को 59,646 (8,388 forks) थी, और 19 नवंबर 2026 तक यह 60,705 stars (8,524 forks) तक पहुँच गई। Star की संख्या रुचि को दर्शाती है, production में इस्तेमाल को नहीं — इससे पता चलता है कि कितने डेवलपर किसी प्रोजेक्ट पर नज़र रख रहे हैं, न कि कितने उसे production में चला रहे हैं।
Repository हाल में शांत रहा है: इसका आखिरी push 7 सितंबर 2026 को हुआ था, और leaderboard का नया रिकॉर्ड 14 मार्च 2026 का है।
इसका क्या मतलब है
nanochat सबसे ज़्यादा एक सीखने के साधन के रूप में मायने रखता है। भाषा मॉडल को ट्रेन करना आमतौर पर ऐसी चीज़ माना जाता है जो सिर्फ़ बड़ी प्रयोगशालाएँ कर सकती हैं; nanochat पूरा pipeline दिखाता है — tokenizer, pretraining, supervised fine-tuning, evaluation और inference — ऐसे codebase में जो इतना छोटा है कि एक व्यक्ति उसे पढ़ और बदल सकता है। 14 मार्च 2026 को बना 1.65 घंटे का GPT-2 speedrun रिकॉर्ड दिखाता है कि इस छोटे तरीके को कितनी दूर तक ले जाया जा सकता है।
छात्रों और इंजीनियरों के लिए ईमानदार निष्कर्ष समझ के बारे में है, शॉर्टकट के बारे में नहीं: nanochat सिखाता है कि ChatGPT जैसा मॉडल असल में कैसे बनता है, और वह भी ऐसे बजट में जो एक गंभीर सीखने वाला उठा सकता है। यह छोटे मॉडल को बड़ा मॉडल नहीं बना देता — और सितंबर से repository की शांति बताती है कि यह प्रोजेक्ट अब सक्रिय विस्तार की बजाय स्थिर, पूरा हुआ आकार ले चुका है।
सत्यापन पर एक नोट
इस post के तथ्य इस विषय के सत्यापित शोध रिकॉर्ड से लिए गए हैं, जिनमें repository की जानकारी और ऊपर दी गई तारीख सहित star की संख्याएँ शामिल हैं। Star की संख्या रोज़ बदलती है, इसलिए यहाँ दिया गया आंकड़ा 19 नवंबर 2026 का स्नैपशॉट है, live संख्या नहीं। लागत के आंकड़े प्रोजेक्ट के अपने अनुमान हैं।
स्रोत: karpathy/nanochat repository रिकॉर्ड; star की संख्याएँ RepoRadar के अनुसार। अंतिम जांच: 21 नवंबर 2026।
FAQs
nanochat क्या है?
nanochat Andrej Karpathy का छोटा, समझने में आसान टूल है, जिससे एक ही GPU नोड पर ChatGPT जैसा मॉडल शुरू से अंत तक ट्रेन किया जा सकता है — tokenizer, pretraining, supervised fine-tuning, evaluation और inference सहित।
nanochat से मॉडल ट्रेन करने में कितना खर्च आता है?
प्रोजेक्ट की टैगलाइन कहती है "The best ChatGPT that $100 can buy", लेकिन README का वास्तविक आंकड़ा GPT-2 स्तर के मॉडल के लिए लगभग $48 है — 8×H100 GPU पर करीब दो घंटे (लगभग $3 प्रति GPU-घंटा), या spot कीमत पर लगभग $15।
क्या nanochat पर अब भी सक्रिय काम हो रहा है?
Repository शांत है: आखिरी push 7 सितंबर 2026 को हुआ था और leaderboard का नया रिकॉर्ड 14 मार्च 2026 का है, जब 1.65 घंटे का GPT-2 speedrun रिकॉर्ड बना था।
GitHub पर nanochat कितना लोकप्रिय है?
19 नवंबर 2026 तक karpathy/nanochat repository के 60,705 GitHub stars और 8,524 forks थे। Star की संख्या रुचि को दर्शाती है, production में इस्तेमाल को नहीं।
Comments (0)
Share your question or experience about this syllabus. Your comment will appear after review.
No comments yet — be the first to share your thoughts!