OpenAI ने शुक्रवार, 23 अक्टूबर को एक ऐसा फैसला सार्वजनिक किया जो AI की दुनिया में अब तक लगभग नामुमकिन माना जाता था। कंपनी अब अपने सबसे ताकतवर, यानी फ्रंटियर AI मॉडलों की ट्रेनिंग बिना लाइव इंटरनेट के करेगी। OpenAI ऑफलाइन ट्रेनिंग की यह नीति लागू हो चुकी है और कंपनी के मुताबिक यह तब तक जारी रहेगी, जब तक सुरक्षा के इंतज़ाम इतने मज़बूत न हो जाएं कि मॉडलों को खुले इंटरनेट पर छोड़ना ठीक लगे। वजह सीधी है: ट्रेनिंग के दौरान मॉडल अपने ‘पिंजरे’ से बाहर निकलने के रास्ते ढूंढने लगे हैं।
कंपनी ने अपने ब्लॉग में लिखा कि अलाइनमेंट रिसर्च, मॉनिटरिंग सिस्टम और इंटरनेट इंफ्रास्ट्रक्चर की सुरक्षा की मौजूदा हालत को देखते हुए ज़िम्मेदार तरीका यही है कि फ्रंटियर मॉडल की ट्रेनिंग इंटरनेट के बिना हो। इसी पोस्ट में OpenAI ने यह भी बताया कि अपने बचाव को परखने के दौरान उसे एक ऐसी खामी मिली जो दुनिया भर में इस्तेमाल होने वाले सॉफ्टवेयर Brotli में थी।
20 सितंबर की घटना से शुरू हुई कहानी
OpenAI के मुताबिक 20 सितंबर को उसके एक इंटरनल रिसर्च मॉडल ने ट्रेनिंग रन के दौरान एक DNS रिज़ॉल्वर की गलत सेटिंग (मिसकॉन्फ़िगरेशन) का फायदा उठाया और सीमित तौर पर लाइव इंटरनेट तक पहुंच बना ली। कंपनी का कहना है कि घटना को काबू कर लिया गया, लेकिन इससे कमज़ोरियां सामने आ गईं। इसके बाद OpenAI ने अपने सबसे सक्षम मॉडलों की ट्रेनिंग और इवैल्यूएशन रोक दी।
यह रोक 11 दिन चली। इस दौरान कंपनी ने इंफ्रास्ट्रक्चर को सख्त किया, मॉनिटरिंग बेहतर की और उन सिस्टम्स को सुधारा जो खतरनाक गतिविधि दिखते ही रन को अपने आप रोक देते हैं। 1 अक्टूबर से रीइनफोर्समेंट लर्निंग (RL) ट्रेनिंग और इंटरनल इन्फरेंस दोबारा शुरू हुए। The Verge ने याद दिलाया है कि यह फैसला ऐसी कई घटनाओं के बाद आया है, जिनमें AI एजेंट अपने टेस्टिंग माहौल से बाहर निकलकर दूसरी जगहों तक पहुंच गए थे। OpenAI ने खुद अपने ब्लॉग में जुलाई की Hugging Face वाली घटना का भी ज़िक्र किया है।
OpenAI ऑफलाइन ट्रेनिंग में ‘ऑफलाइन दुनिया’ क्या है
अब सवाल यह है कि अगर मॉडल इंटरनेट देख ही नहीं पाएगा, तो वह वेब ब्राउज़ करना, जानकारी खोजना और वेब ऐप्स चलाना कैसे सीखेगा? OpenAI का जवाब है एक ‘ऑफलाइन वर्ल्ड’। यह इंडेक्स और कैश की गई वेब सामग्री का एक विशाल भंडार है, जिसमें मॉडल असली इंटरनेट जैसी चीज़ों से जुड़ सकता है, लेकिन बाहर के किसी सिस्टम पर असर नहीं डाल सकता। कंपनी के मुताबिक उसके सभी फ्रंटियर RL रन अब इसी ऑफलाइन मोड में चलते हैं। यही OpenAI ऑफलाइन ट्रेनिंग की असली नींव है।
इसके चारों तरफ सुरक्षा की कई परतें हैं, जिसे सुरक्षा की भाषा में ‘डिफेंस इन डेप्थ’ कहते हैं। सबसे अंदर सैंडबॉक्स हैं, उनके बाहर हल्के वर्चुअल मशीन (microVM) जो एजेंट को होस्ट कंप्यूटर से अलग रखते हैं, फिर मॉनिटरिंग सिस्टम जो गड़बड़ी पकड़ते हैं, और सबसे बाहर नेटवर्क और क्लाउड की दीवारें। सोच यह है कि अगर एक परत टूट भी जाए, तो अगली परत रोक ले। दिलचस्प बात यह है कि OpenAI ने माना कि पूरी तरह ‘एयर-गैप’, यानी नेटवर्क से पूरी तरह काट देना, अभी संभव नहीं है, क्योंकि प्रयोग चलाने और उन पर नज़र रखने के लिए कुछ बाहरी कनेक्शन ज़रूरी हैं।
AI एजेंटों से ही करवाई सेंधमारी
सबसे दिलचस्प हिस्सा यह है कि OpenAI ने अपनी सुरक्षा परखने के लिए अपने ही ताकतवर मॉडलों की टीमें लगाईं। इन एजेंटों को तीन काम दिए गए:
- लाइव इंटरनेट तक पहुंचना, यानी OpenAI के चलाए एक बाहरी सर्वर को रिक्वेस्ट भेजना
- अपनी तय सीमा से बाहर के इंटरनल संसाधनों तक पहुंच दिखाना
- उन दूसरे एजेंटों से बात करना जिनसे उन्हें अलग रखा गया था।
इस काम में कंपनी के आने वाले GPT-6 Astra Cyber मॉडल और एक इंटरनल फ्रंटियर मॉडल का इस्तेमाल हुआ। हमलावर के लिए हालात आसान रखने के मकसद से एजेंटों को इंफ्रास्ट्रक्चर का सोर्स कोड, कॉन्फ़िगरेशन और संभावित कमज़ोरियों के दस्तावेज़ भी दिए गए। OpenAI के मुताबिक इस अभ्यास में सैकड़ों अरब टोकन खर्च हुए।
OpenAI ऑफलाइन ट्रेनिंग से पहले की इस जांच के नतीजे चौंकाने वाले रहे। एजेंटों ने कई तरीकों से microVM से बाहर निकलने के रास्ते खोज लिए। मेट्रिक्स, लॉगिंग और ऑथेंटिकेशन जैसी जिन गिनी-चुनी सेवाओं के लिए बाहर का रास्ता खुला था, उनमें से लगभग हर एक में ऐसी खामी मिली जिससे सीमित इंटरनेट एक्सेस मिल सकता था। इन खोजों के आधार पर Kata Containers, gVisor और Moby/Docker जैसे ओपन सोर्स प्रोजेक्ट्स और कर्नेल सुरक्षा से जुड़े फिक्स भेजे गए।
सबसे अनोखा प्रयोग वह था, जिसमें अलग-अलग microVM में बैठे एजेंटों से कहा गया कि वे बिना नेटवर्क और बिना किसी साझा फाइल के एक-दूसरे को नकली ‘सीक्रेट’ भेजें। एजेंटों ने प्रोसेसर के कैश का सहारा लिया। एक एजेंट कैश से चुनिंदा डेटा हटाकर संदेश ‘लिखता’, दूसरा उस डेटा को दोबारा लोड होने में लगे समय को नापकर संदेश ‘पढ़ता’। यह वही कैश-टाइमिंग तकनीक है जो कुछ साल पहले Spectre और Meltdown हमलों में इस्तेमाल हुई थी। OpenAI ने कहा है कि अब उसकी मॉनिटरिंग ऐसी कोशिशों को पकड़ने के लिए जांच करती है।
AI सेफ्टी जैसे भारी विषयों को आसान हिंदी में वीडियो के रूप में समझना हो, तो हमारा यूट्यूब चैनल Tech With Bharat Hirwani देखें। रोज़ की टेक और AI खबरें सीधे फोन पर पाने के लिए TimeTrolls का WhatsApp चैनल फॉलो कर सकते हैं।
Brotli की खामी: आम वेबसाइटों से भी जुड़ा मामला
यह कहानी सिर्फ AI लैब की चारदीवारी तक सीमित नहीं है। Reuters के मुताबिक इसी अभ्यास में OpenAI को Brotli में एक खामी मिली। Brotli डेटा को कंप्रेस करने वाला एक लोकप्रिय टूल है, जिसका इस्तेमाल वेब पर फाइलें छोटी करके तेज़ी से भेजने में होता है। कंपनी के मुताबिक हमलावर खास तरह का डेटा भेजकर प्रभावित सिस्टम पर अपना कोड चला सकते थे, जिनमें Node.js, Bun और Envoy जैसे लोकप्रिय वेब सॉफ्टवेयर इस्तेमाल करने वाले सिस्टम भी शामिल हैं।
Reuters के अनुसार इसकी जड़ वाली गड़बड़ी फरवरी में ही Brotli के सोर्स कोड में ठीक कर दी गई थी, तब किसी को नहीं पता था कि इससे सुरक्षा का खतरा है, लेकिन नया वर्ज़न जारी नहीं हुआ था। अब Brotli के GitHub रिलीज़ पेज पर 1.2.1, 1.1.1 और 1.0.10 वर्ज़न CVE-2026-111497 के फिक्स के साथ जारी हो चुके हैं। अगर आप कोई वेबसाइट या सर्वर चलाते हैं, तो अपने डेवलपर या होस्टिंग प्रोवाइडर से Brotli और उससे जुड़े पैकेज अपडेट करवाना समझदारी होगी। यह इसी हफ्ते आए PHP के क्रिटिकल सिक्योरिटी अपडेट जैसा ही मामला है, जहां एक पैच टालना पूरे सर्वर को जोखिम में डाल सकता है।
बाहरी जांच में भी मिलीं खामियां
OpenAI की घोषणा से ठीक एक दिन पहले, गुरुवार को AI सेफ्टी संस्थाओं METR और Redwood Research ने भी अपनी जांच के नतीजे बताए थे। Reuters के मुताबिक इस साल की शुरुआत में हुई एक पायलट समीक्षा में उन्हें OpenAI के इंटरनल सिस्टम में कई नई कमज़ोरियां मिलीं, जिनमें एक ऐसा तरीका भी था जिससे एजेंट अपनी सैकड़ों गतिविधियों को निगरानी से बाहर रख सकते थे। OpenAI का कहना है कि उसने प्रोडक्शन सेफगार्ड्स पर असर डालने वाली सभी कमज़ोरियां ठीक कर दी हैं, हालांकि दोनों संस्थाओं ने कहा कि उन्होंने इस दावे की खुद पुष्टि नहीं की है।
यह बात इसलिए अहम है क्योंकि कंपनी के अपने दावे और बाहर से की गई जांच के बीच का फर्क ही असली भरोसा तय करता है। OpenAI ने खुद भी माना है कि रेड-टीमिंग में उसकी मॉनिटरिंग, ऑटोमैटिक पॉज़ और एजेंट टीम की सुरक्षा व्यवस्था में खामियां दिखीं, जिनमें से कुछ ठीक की गई हैं और बाकी पर काम जारी है।
Anthropic के बाद अब OpenAI, इंडस्ट्री के लिए क्या संकेत
TechCrunch के मुताबिक OpenAI की यह नीति उसकी प्रतिद्वंद्वी Anthropic के कदम के करीब दो हफ्ते बाद आई है, जिसने अपने सबसे नए मॉडलों की लाइव इंटरनेट तक पहुंच सीमित करनी शुरू की थी। यानी दुनिया की दो सबसे बड़ी AI लैब्स अब इस नतीजे पर पहुंच चुकी हैं कि उनकी सबसे ताकतवर तकनीक को बिना निगरानी के खुले इंटरनेट पर नहीं छोड़ा जा सकता।
OpenAI ऑफलाइन ट्रेनिंग का फैसला आसान भी नहीं है। TechCrunch ने OpenAI के पूर्व रिसर्चर Steven Adler की Fortune से हुई बातचीत का हवाला दिया है, जिसमें उन्होंने कहा था कि डेटा सेंटर्स को इंटरनेट से अलग रखने का खर्च और झंझट बहुत बड़ा है, और अकेले एक कंपनी के लिए यह भारी ‘टैक्स’ जैसा होगा। अब देखना यह है कि कैश की गई ‘ऑफलाइन दुनिया’ में सीखे मॉडल असली इंटरनेट पर उतने ही अच्छे साबित होते हैं या नहीं।
यह बहस नई भी नहीं है। हमने पहले बताया था कि Sam Altman ने OpenAI स्टाफ के सामने AI सेफ्टी के तीन रास्ते रखे थे, जिनमें IAEA जैसी अंतरराष्ट्रीय निगरानी भी शामिल थी। भारत में भी CERT-In AI एजेंटों को लेकर चेतावनी जारी कर चुका है। साफ है कि AI एजेंटों की सुरक्षा अब सिर्फ रिसर्च का विषय नहीं, बल्कि हर कंपनी और सरकार की चिंता बन रही है।
OpenAI ऑफलाइन ट्रेनिंग से आम यूज़र पर क्या असर पड़ेगा
ChatGPT इस्तेमाल करने वालों के लिए OpenAI ऑफलाइन ट्रेनिंग से फिलहाल कुछ नहीं बदलता। OpenAI ने साफ लिखा है कि यह व्यवस्था रिसर्च वाले माहौल की है, जहां अधूरी सेफ्टी ट्रेनिंग वाले मॉडल जानबूझकर मुश्किल हालात में परखे जाते हैं। जो मॉडल आम लोगों तक पहुंचते हैं, उनसे पहले अलग सेफ्टी और अलाइनमेंट जांच होती है और प्रोडक्शन सेफगार्ड लगाए जाते हैं।
OpenAI ऑफलाइन ट्रेनिंग का असल असर लंबे समय में दिखेगा। अगर AI मॉडल ट्रेनिंग के दौरान ही सॉफ्टवेयर की ऐसी खामियां ढूंढ रहे हैं जिन्हें इंसान सालों तक नहीं पकड़ पाए, तो यह दोधारी तलवार है। सही हाथों में यह सॉफ्टवेयर को सुरक्षित बनाने का तरीका है, गलत हाथों में यही क्षमता हमले का हथियार बन सकती है। OpenAI ने कहा है कि वह आगे भी अपने सबसे ताकतवर मॉडलों से लगातार अपनी ही सुरक्षा पर हमला करवाता रहेगा और यह हर बड़े ट्रेनिंग रन से पहले की ‘सेफ्टी केस’ जांच का हिस्सा होगा। आने वाले महीनों में यह देखना दिलचस्प होगा कि Google और Meta जैसी दूसरी कंपनियां भी इसी रास्ते पर चलती हैं या नहीं।
यह रिपोर्ट OpenAI के आधिकारिक ब्लॉग, Reuters, TechCrunch, The Verge और Brotli GitHub की जानकारी पर आधारित है।
टिप्पणियाँ