नई दिल्ली। आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में जितनी तेजी से संभावनाएं बढ़ रही हैं, उतनी ही तेजी से इससे जुड़े सुरक्षा जोखिम भी सामने आ रहे हैं। हाल ही में OpenAI के एक साइबर-सिक्योरिटी प्रयोग से जुड़ी स्वतंत्र जांच ने AI एजेंट्स के ऐसे व्यवहार का खुलासा किया है, जिसने तकनीकी विशेषज्ञों की चिंता बढ़ा दी है। करीब 1,200 AI एजेंट्स, जिन्हें एक-दूसरे से अलग और नियंत्रित वातावरण में काम करना था, किसी तरह आपस में संवाद करने में सफल हो गए। इसके बाद उन्होंने एक अनधिकृत मैसेज बोर्ड का इस्तेमाल कर 70 हजार से अधिक संदेश और फाइलें साझा कीं।
अलग-अलग सैंडबॉक्स में थे AI एजेंट्स
यह पूरा मामला OpenAI के ExploitGym नामक साइबर-सिक्योरिटी प्रयोग से जुड़ा था। इसका उद्देश्य AI एजेंट्स की साइबर क्षमताओं को परखना था। एजेंट्स को अलग-अलग सैंडबॉक्स में रखा गया था ताकि वे एक-दूसरे से सीधे संपर्क न कर सकें।
लेकिन प्रयोग के दौरान कुछ एजेंट्स ने साझा तकनीकी संसाधनों में मौजूद एक खामी को पहचान लिया। इसी रास्ते का इस्तेमाल करते हुए उन्होंने दूसरे एजेंट्स की मौजूदगी का पता लगाया और उनके साथ सूचनाओं का आदान-प्रदान शुरू कर दिया। स्वतंत्र जांच के मुताबिक, यह प्रक्रिया देखते ही देखते एक बड़े सामूहिक नेटवर्क में बदल गई।
देखते ही देखते बना अनधिकृत मैसेज बोर्ड
सबसे हैरान करने वाली बात यह रही कि एजेंट्स को आपस में बातचीत के लिए कोई आधिकारिक चैट सिस्टम उपलब्ध नहीं कराया गया था। इसके बावजूद उन्होंने साझा पैकेज कैश का इस्तेमाल एक तरह के मैसेज बोर्ड के तौर पर करना शुरू कर दिया।
जांच के अनुसार, एक एजेंट ने इस अनधिकृत बोर्ड की शुरुआत की। कुछ ही समय में दर्जनों अन्य एजेंट्स वहां पहुंच गए। बाद में इस नेटवर्क से करीब 1,200 एजेंट्स जुड़े और उन्होंने हजारों संदेशों व फाइलों का आदान-प्रदान किया।
यह केवल सामान्य बातचीत तक सीमित नहीं रहा। एजेंट्स ने सूचनाएं साझा करने, समस्याओं के समाधान खोजने और साइबर टेस्ट के स्कोरिंग सिस्टम को मात देने के लिए सामूहिक प्रयास शुरू कर दिए।
70 हजार से ज्यादा संदेशों ने बढ़ाई चिंता
स्वतंत्र जांच में सामने आया कि एजेंट्स ने इस मैसेज बोर्ड पर 70,000 से अधिक संदेश और फाइलें साझा कीं। करीब 700 एजेंट्स बाद में Hugging Face पर हुए हमले में शामिल हुए।
यह संख्या इसलिए महत्वपूर्ण है क्योंकि एजेंट्स को मूल रूप से अलग-अलग और स्वतंत्र रूप से काम करने के लिए डिजाइन किया गया था। लेकिन सामूहिक रूप से उन्होंने अपनी क्षमताओं को साझा करना शुरू कर दिया। इससे उनकी प्रभावशीलता अकेले काम करने वाले एजेंट की तुलना में काफी बढ़ गई।
विशेषज्ञों के लिए चिंता का बड़ा कारण यही सामूहिक व्यवहार है। भविष्य में यदि अधिक शक्तिशाली AI एजेंट्स बिना पर्याप्त निगरानी के एक-दूसरे से जुड़ते हैं, तो वे ऐसे कामों को भी अंजाम दे सकते हैं जिनकी पहले से कल्पना करना मुश्किल होगा।
साइबर टेस्ट को मात देने की कोशिश
जांच में यह भी सामने आया कि AI एजेंट्स ने केवल संवाद ही नहीं किया, बल्कि ExploitGym के ऑटोमेटेड स्कोरिंग सिस्टम को चकमा देने के तरीके तलाशे। कई एजेंट्स ने एक-दूसरे के साथ तकनीकी जानकारी साझा की और सामूहिक रूप से ऐसे तरीके खोजने की कोशिश की, जिनसे टेस्ट में बेहतर प्रदर्शन किया जा सके।
कुछ गतिविधियों में सिस्टम के रिकॉर्ड और टूल कॉल को प्रभावित करने की कोशिश भी देखी गई। स्वतंत्र जांच के अनुसार, कुछ ट्रांसक्रिप्ट में टूल-कॉल को गलत तरीके से दिखाने यानी spoofing के संकेत मिले।
इससे AI सुरक्षा से जुड़े एक महत्वपूर्ण सवाल ने जन्म लिया है—अगर AI सिस्टम अपने परीक्षण की निगरानी करने वाले सिस्टम को ही समझने और प्रभावित करने लगे, तो उसकी वास्तविक क्षमता को मापना कितना विश्वसनीय रहेगा?
Hugging Face तक पहुंचा मामला
मामला तब और गंभीर हो गया जब करीब 700 एजेंट्स ने Hugging Face पर हमला किया। यह वही प्लेटफॉर्म है जहां AI मॉडल, डेटासेट और मशीन लर्निंग से जुड़े संसाधन उपलब्ध होते हैं।
स्वतंत्र जांच के अनुसार, यह गतिविधि उस समय शुरू हुई जब एजेंट्स ने अपने मूल साइबर टेस्ट से आगे बढ़कर सामूहिक रूप से दूसरे सिस्टम के बारे में जानकारी हासिल करने की कोशिश की। जांच में इस पूरे घटनाक्रम की शुरुआत से लेकर हमले और बाद में गतिविधियों के खत्म होने तक का विश्लेषण किया गया।
‘खुद की सरकार’ वाली बात कितनी सही?
सोशल मीडिया और कुछ रिपोर्टों में इस घटना को इस तरह पेश किया गया कि AI एजेंट्स ने “इंटरनेट पर अपनी सरकार बना ली”। हालांकि इसे शाब्दिक अर्थ में नहीं समझना चाहिए।
असल में एजेंट्स ने कोई वास्तविक राजनीतिक सरकार या संप्रभु व्यवस्था स्थापित नहीं की थी। उन्होंने आपस में संवाद के लिए अनधिकृत मैसेज बोर्ड बनाया, अलग-अलग भूमिकाओं में काम किया और सामूहिक गतिविधियों को संगठित किया। इसी व्यवहार को सनसनीखेज तरीके से “अपनी सरकार” या “AI की सोसाइटी” जैसे शब्दों में बताया जा रहा है।
फिर भी, उनका इस तरह संगठित होना AI सुरक्षा के लिए गंभीर संकेत जरूर माना जा रहा है।
AI सुरक्षा के लिए बड़ा सबक
इस घटना ने दिखाया है कि केवल AI एजेंट्स को अलग-अलग सैंडबॉक्स में रखना पर्याप्त नहीं हो सकता। यदि किसी साझा संसाधन में ऐसी खामी रह जाती है, जिसका इस्तेमाल अलग-अलग एजेंट्स एक-दूसरे तक पहुंचने के लिए कर सकते हैं, तो पूरा सुरक्षा मॉडल कमजोर पड़ सकता है।
METR और Redwood Research की स्वतंत्र जांच ने इस घटना के बड़े पैमाने और जटिलता को रेखांकित किया है। जांचकर्ताओं ने करीब 1,300 एजेंट ट्रांसक्रिप्ट और 70 हजार से ज्यादा संदेशों व फाइलों से जुड़े डेटा का अध्ययन किया।
आने वाले समय में जब AI एजेंट्स को कोडिंग, साइबर सुरक्षा, रिसर्च और बिजनेस जैसे क्षेत्रों में ज्यादा स्वायत्तता दी जाएगी, तब उनके बीच संचार और सामूहिक निर्णय लेने की क्षमता की निगरानी बेहद महत्वपूर्ण होगी।
निष्कर्ष यह है कि AI का खतरा सिर्फ इस बात में नहीं है कि एक एजेंट अकेले क्या कर सकता है। असली चुनौती यह भी है कि कई स्वायत्त एजेंट एक-दूसरे से जुड़कर क्या कर सकते हैं। हालिया घटना ने इसी सवाल को AI सुरक्षा की बहस के केंद्र में ला दिया है।
