AI की दुनिया में अब तक एक कड़वा सच रहा है: मॉडल बनाना आसान है, पर उसे अलग-अलग कंपनियों के चिप्स पर चलाना मुश्किल। इसी दीवार को तोड़ने के लिए AWS और Google ने एक ही दिन बड़ा कदम उठाया है। TorchNeuron TorchTPU की इस जोड़ी से अब PyTorch में लिखा कोड Amazon के Trainium और Google के TPU चिप्स पर सीधे, “नेटिव” तरीके से चल सकेगा।
दोनों घोषणाएं 20 अक्टूबर 2026 को PyTorch Conference North America के मौके पर हुईं और दोनों प्रोजेक्ट ओपन सोर्स हैं। आइए आसान भाषा में समझें कि यह क्यों बड़ी खबर है।
TorchNeuron TorchTPU क्या हैं? पहले PyTorch समझिए
PyTorch एक ओपन सोर्स फ्रेमवर्क है, जिसमें दुनिया के ज़्यादातर AI मॉडल लिखे और ट्रेन किए जाते हैं। Amazon के मुताबिक करीब 85% AI रिसर्चर और डेवलपर PyTorch इस्तेमाल करते हैं। दिक्कत यह थी कि NVIDIA GPU के अलावा दूसरे AI चिप्स पर इसे चलाने के लिए अक्सर अलग सॉफ्टवेयर, बदलाव और कई हफ्तों की मेहनत लगती थी।
- TorchNeuron (AWS): Amazon के Trainium AI चिप्स के लिए PyTorch का नेटिव बैकएंड। Trainium2 और Trainium3 पर काम करता है।
- TorchTPU (Google): Google के TPU (Tensor Processing Unit) चिप्स पर नेटिव PyTorch चलाने का ओपन सोर्स प्रोजेक्ट, जिसे Meta की PyTorch टीम के साथ मिलकर बनाया गया है।
TorchNeuron: एक लाइन बदलो, Trainium पर चलाओ
PyTorch ब्लॉग के मुताबिक डेवलपर को अपने मॉडल को बस .to('neuron') पर भेजना है, बाकी ट्रेनिंग कोड वैसा ही रहता है। इसकी खास बातें:
- रिसर्च और डिबगिंग के लिए “eager” मोड और प्रोडक्शन स्पीड के लिए
torch.compile, दोनों सपोर्ट। - Hugging Face Transformers, Diffusers, TorchTitan और vLLM जैसी लोकप्रिय लाइब्रेरी के साथ काम।
- AWS के मुताबिक Hugging Face के करीब 1 लाख मॉडल्स पर लगातार टेस्टिंग, जो असल इस्तेमाल का 99.9% हिस्सा कवर करते हैं।
- Apache 2.0 लाइसेंस के तहत GitHub पर ओपन सोर्स, फिलहाल पब्लिक बीटा में।
PyTorch ब्लॉग में वॉइस AI कंपनी Deepgram के CTO एडम सिप्निव्स्की ने कहा कि उनके बेंचमार्क में Trainium ने मौजूदा GPU बेसलाइन के मुकाबले प्रति डॉलर करीब 60% ज़्यादा ऑडियो प्रोसेस किया। Cartesia और Hugging Face ने भी इसके इस्तेमाल का अनुभव साझा किया।
📺 AI और टेक की आसान हिंदी वीडियो के लिए Tech With Bharat Hirwani YouTube चैनल सब्सक्राइब करें।
📲 ऐसी ताज़ा खबरें सबसे पहले पाने के लिए Timetrolls का WhatsApp चैनल फॉलो करें।
TorchTPU: Google के TPU पर अब सीधा PyTorch
Google Cloud के ब्लॉग के अनुसार TorchTPU अब GitHub पर ओपन सोर्स है। इसकी मुख्य बातें:
- eager मोड और
torch.compileदोनों सपोर्ट; Hugging Face Transformers v5 मेंdevice_map="tpu"से मॉडल सीधे TPU पर लोड। - इन्फरेंस के लिए vLLM, SGLang और llm-d जैसे ओपन सोर्स टूल्स के साथ इंटीग्रेशन।
- Google के मुताबिक TorchTitan के साथ 8,192 Ironwood TPU पर Qwen 3 8B मॉडल की ट्रेनिंग में 52% तक MFU (हार्डवेयर का असरदार इस्तेमाल) मिला।
भारतीय पाठकों के लिए दिलचस्प बात यह है कि Google ने भारतीय कंपनी Zenteiq.ai का उदाहरण दिया है। ब्लॉग के मुताबिक कंपनी का थ्रूपुट करीब 4 गुना बढ़ा, यानी प्रति 1,000 TPU v6e पर रोज़ाना 1.47 अरब टोकन से बढ़कर 5.97 अरब टोकन।
PyTorch के आधिकारिक ब्लॉग पर भी TorchTPU की तकनीकी जानकारी दी गई है।
यह बड़ी खबर क्यों है?
अब तक AI ट्रेनिंग में NVIDIA के GPU और उसके सॉफ्टवेयर का दबदबा रहा है। जब PyTorch कोड बिना बड़े बदलाव के Trainium और TPU पर भी चलेगा, तो कंपनियों के पास कीमत और उपलब्धता के हिसाब से चिप चुनने का ज़्यादा विकल्प होगा। इससे AI कंप्यूट की लागत पर मुकाबला बढ़ सकता है।
AI कंपनियों के बढ़ते खर्च और फंडिंग की होड़ समझने के लिए पढ़ें: OpenAI की 30 अरब डॉलर फंडिंग की खबर। AI कोडिंग की ताकत पर हमारी रिपोर्ट COBOL में OpenAI का 97.9% सटीकता का दावा भी देखें।
आपके लिए इसका मतलब
- स्टूडेंट और नए डेवलपर: PyTorch सीखना और भी फायदेमंद हो गया है, क्योंकि एक ही स्किल अब कई तरह के AI हार्डवेयर पर काम आएगी।
- स्टार्टअप: क्लाउड पर GPU न मिलने या महंगे होने की स्थिति में Trainium या TPU आज़माना आसान होगा। फैसले से पहले अपने मॉडल पर खुद बेंचमार्क ज़रूर करें।
- आम यूज़र: सीधा असर तुरंत नहीं दिखेगा, पर AI चलाने की लागत घटने से लंबे समय में AI ऐप्स और सर्विसेज़ सस्ती और तेज़ हो सकती हैं।
- सावधानी: दोनों प्रोजेक्ट नए हैं; TorchNeuron अभी पब्लिक बीटा में है। AI की होड़ में सुरक्षा पर बहस भी जारी है, पढ़ें सैम ऑल्टमैन के AI के 3 एंडगेम।
एक लाइन में: TorchNeuron TorchTPU के साथ PyTorch अब NVIDIA से आगे Amazon और Google के चिप्स पर भी नेटिव तरीके से चल सकेगा, और इसका फायदा AI की लागत घटने के रूप में दिख सकता है।
आपकी राय: क्या आप PyTorch इस्तेमाल करते हैं? आप अपना मॉडल GPU, Trainium या TPU में से किस पर चलाना चाहेंगे? कमेंट में ज़रूर बताएं।
टिप्पणियाँ