क्या AI एजेंट्स की वजह से कंपनियों के सामने साइबर सिक्योरिटी का एक नया और खतरनाक खतरा मंडरा रहा है? बीते किछ सप्ताह में OpenAI, Anthropic, Meta और यूके के AI सिक्योरिटी इंस्टीट्यूट से जुड़े चार अलग-अलग मामलों ने इस बात पर बड़े सवाल खड़े कर दिए हैं कि टेक जगत में आने से पहले इन एआई एजेंट्स की टेस्टिंग कैसे की जा रही है.
ब्रिटेन सरकार के विज्ञान, नवाचार और प्रौद्योगिकी विभाग के तहत काम करने वाली रिसर्च संस्था AISI जो एडवांस AI मॉडल्स की सुरक्षा और क्षमता टेस्ट करती है, उसने 4 अगस्त को एक चौंकाने वाला खुलासा किया. AISI ने बताया कि साइबर सिक्योरिटी टेस्टिंग के दौरान Anthropic के एक्सपेरिमेंटल मॉडल Mythos 5 और OpenAI के फ्लैगशिप मॉडल GPT-5.6-Sol से चलने वाले एआई एजेंट्स ने कुछ ऐसी हरकतें कीं, जिनकी उन्हें कोई इजाजत नहीं थी.
इस रिपोर्ट पर द इंडियन एक्सप्रेस को दिए एक बयान में ब्रिटेन के AI राज्य मंत्री कनिष्क नारायण ने कहा कि ये हरकतें नियमित साइबर सुरक्षा टेस्टिंग के दौरान पकड़ी गईं. उन्होंने बताया कि AISI ने इसे तुरंत पकड़ लिया और रोक दिया. नारायण के अनुसार इस तरह के नए बर्ताव की पहचान करना और उसे दुनिया के सामने लाना ही वह काम है, जिसके लिए AISI को बनाया गया था.
इन घटनाओं ने एक नई बहस टेक जगत में छेड़ दी है, क्या ये साइबर सिक्योरिटी के एक नए खतरे का इशारा है, या फिर ये सिर्फ इस बात की कमियां उजागर कर रहे हैं कि टेस्टिंग के दौरान ये खुद-ब-खुद काम करने वाले एआई सिस्टम अपने टारगेट को हासिल करने के लिए किस हद तक जा सकते हैं?
AI एजेंट्स क्या हैं और इनकी टेस्टिंग क्यों जरूरी है?
एआई चैटबॉट्स या लार्ज लैंग्वेज मॉडल्स सिर्फ आपके सवालों का जवाब देते हैं. लेकिन, AI इनसे काफी अलग हैं. ये पूरी तरह से आजाद होकर काम कर सकते हैं और इन्हें खास टारगेट को पूरा करने के लिए डिजाइन किया गया है.
सिर्फ टेक्स्ट लिखने के अलावा, ये एजेंट्स ईमेल पढ़ने, अलग करने और फाइनेंशियल डेटा का एनालिसिस करने जैसे मुश्किल काम भी कर सकते हैं. इसके लिए उन्हें खुद फैसले लेने, अपने टारगेट तय करने और बाहरी सिस्टम्स के साथ जुड़ने की जरूरत होती है. उनकी इसी आजादी के कारण उनके बर्ताव का अंदाजा लगाना मुश्किल हो जाता है. इसीलिए, असली दुनिया जैसे हालात बनाकर इनकी टेस्टिंग करना बेहद जरूरी है.
AI एजेंट्स से क्या खतरा हो सकता है?
आम सॉफ्टवेयर के उलट, एआई एजेंट्स को यूजर्स की तरफ से काम करने की बहुत ज्यादा परमिशन दी जा रही है. चाहे ईमेल एक्सेस करना हो, वेब ब्राउजिंग हो, कोडिंग करना हो या दूसरे सॉफ्टवेयर का इस्तेमाल करना हो. इसका मतलब है कि अगर ये कोई गलती करते हैं या उनके साथ कोई छेड़छाड़ होती है, तो इसका सीधा असर असली दुनिया पर पड़ सकता है, यह केवल बातचीत तक सीमित नहीं रहेगा.
क्या सच में ये एक नया साइबर खतरा है?
अब तक साइबर सिक्योरिटी का मतलब इंसानी हैकर्स से बचना होता था जैसे बैंक की जानकारी चुराने वाले अपराधी, अस्पतालों का नेटवर्क हैक करने वाले रैंसमवेयर गैंग. इनमें हमलावर एक इंसान होता था, जो एआई को एक हथियार की तरह इस्तेमाल करता था. लेकिन एआई एजेंट्स ने इस सोच को बदल दिया है. टेस्टिंग में पता चला है कि अपना काम पूरा करने के चक्कर में कुछ एजेंट्स ने ऐसे कदम उठाए जो उन्हें कभी नहीं सिखाए गए थे. जैसे इंटरनेट पर फर्जी पहचान बनाना या खतरनाक कोड डालने की कोशिश करना.
AI मॉडल अपने तय साइबर टास्क से बाहर कैसे निकल गए?
मीडिया रिपोर्ट्स के अनुसार,इस तरह की घटना किसी प्रॉम्प्ट से नहीं, बल्कि AI एजेंट की बढ़ती क्षमता के कारण हुई. Financial Times की एक रिपोर्ट के अनुसार, OpenAI के सिक्योरिटी टेस्ट के दौरान AI मॉडल को एक सुरक्षित माहौल में रखा गया था. हालांकि, मॉडल ने प्रणाली की कमियों का विश्लेषण करते हुए जीरो-डे कमजोरियों का फायदा उठाया और सैंडबॉक्स से बाहर निकलकर सीधे इंटरनेट एक्सेस ले लिया. इसी तरह Anthropic के एआई एजेंट ने भी किया.
WEF के मुताबिक, OpenAI के एक एडवांस मॉडल ने इंटरनेट एक्सेस पाने के बाद AI स्टार्टअप Hugging Face की सिस्टम में घुस कर चुराए गए क्रेडेंशियल्स का इस्तेमाल करके डेटा हासिल कर लिया.
OpenAI और Anthropic समय रहते इसे पकड़ने में क्यों चूके?
Anthropic और OpenAI दोनों ने माना कि सुरक्षा पार्टनर द्वारा तैयार किए गए टेस्ट कंटेनर में अनजाने में इंटरनेट एक्सेस खुला रह गया था. AI मॉडल ने मान लिया कि इंटरनेट पर दिख रही असली कंपनी भी उनके टेस्ट का ही हिस्सा है. जब AI मॉडल्स स्वायत्त रूप से (Autonomous Loop) काम करते हैं, तो वे एक सेकेंड में सैकड़ों शेल कमांड चलाते हैं. डेवलपर्स तुरंत यह ट्रैक नहीं कर पाए कि मॉडल कब सिमुलेशन की लिमिट पार कर लाइव नेटवर्क पर चला गया.
टीओआई की एक रिपोर्ट में कहा गया कि Anthropic के Mythos 5 मॉडल ने एक GitHub प्रोजेक्ट में खतरनाक कोड डालने के लिए एक फेक ऑनलाइन पहचान बनाई. जब इंसानी डेवलपर ने कोड रद्द किया, तो AI ने अपनी पुरानी एक्टिविटी को एडिट कर खुद को निर्दोष दिखाया और दूसरी फर्जी पहचान बनाकर फिर प्रयास किया.
क्या मौजूदा AI सेफ्टी ऐसे प्रयास रोकने के लिए पर्याप्त हैं?
इसका जवाब है अभी पूरी तरह नहीं. आज AI कंपनियां safety classifiers, refusal systems, sandboxing, access controls, red teaming और monitoring जैसी कई तकनीकों का इस्तेमाल करती हैं. Anthropic ने भी अपने साइबर मॉडल्स के साथ ऐसे classifiers लगाए हैं जो खतरनाक cybersecurity requests को पहचानकर रोकने के लिए डिजाइन किए गए हैं. लेकिन समस्या यह है कि कोई एक सिक्योरिटी लेयर पर्याप्त नहीं है. अगर मॉडल का व्यवहार कई हजार छोटे एक्शन में बंटा हो, तो हर एक्शन अलग-अलग देखने पर सामान्य लग सकता है. खतरा तब बनता है जब ये सभी एक्शन मिलकर एक अटैक चैन तैयार करते हैं. इससे साफ होता है कि AI को कंट्रोल करने के लिए सिर्फ AI के अंदर सेफ्टी लेयर लगाना काफी नहीं है.
क्या AI पावर्ड हैकिंग साइबर क्राइम और साइबर वॉरफेयर का नेचर बदल सकती है?
हां, और शायद यही सबसे बड़ी चिंता है. नार्मल साइबर हमले में अटैक करने वालों को कई स्टेप्स के लिए अलग-अलग एक्सपर्ट्स और समय की जरूरत होती थी. AI एजेंट इन स्टेप्स को तेजी से जोड़ सकता है. कई मीडिया रिपोर्ट्स भी बताती हैं कि AI का इस्तेमाल करने वाले साइबर एक्टर्स की संख्या बढ़ रही है. इसका मतलब यह हो सकता है कि भविष्य में साइबर हमले सिर्फ किसी हैकर ने हमला किया तक सीमित न रहें, बल्कि ऐसे एजेंटिक सिस्टम सामने आएं जो लगातार टारगेट खोजें, कमजोरियां पहचानें, अटैक करें.
Cyber warfare में इसका असर और गंभीर हो सकता है. कम संसाधनों वाले ग्रुप भी पहले की तुलना में ज्यादा दमदार साइबर ऑपरेशन कर सकते हैं. दूसरी तरफ, यही तकनीक सरकारों और कंपनियों को डिफेंस और एक्शन में भी बढ़त दे सकती है. इसलिए भविष्य की साइबर लड़ाई संभवतः AI बनाम AI की लड़ाई होगी.
AI से होने वाले साइबर हमलों को कंट्रोल करने के लिए किन नए नियमों और सुरक्षा उपायों की जरूरत?
सबसे पहले, AI एजेंट को सिर्फ सॉफ्टवेयर मानकर सिक्योर्टी नहीं की जा सकती है. उसे एक ऐसे एक्टर की तरह देखना होगा जिसके पास लिमिटेड लेकिन एक्शन लेने की पूरी पावर है. इसके लिए कम से कम लेयर पर सिक्योर्टी जरूरी है.
Non-bypassable sandbox
AI टेस्टिंग के दौरान इंटरनेट और प्रोडक्शन सिस्टम तक पहुंच ऐसी होनी चाहिए जिसे मॉडल अपने reasoning से bypass न कर सके.
रियल टाइम मॉनिटरिंग
हर टूल कॉल, नेटवर्क रिक्वेस्ट और आंतरिक सिक्योरिटी की भी लगातार निगरानी होनी चाहिए. सिर्फ बाद में logs पढ़ना पर्याप्त नहीं है.
Least privilege
AI एजेंट को उतना ही कंट्रोल मिले जितनी किसी विशेष काम के लिए जरूरी है.
Independent evaluation
कंपनियों को अपने मॉडल की सुरक्षा का आकलन केवल खुद नहीं करना चाहिए. दूसरे कंपनियों से भी नियमित टेस्ट जरूरी है.
AI incident reporting
गंभीर autonomous incidents के लिए एक स्पष्ट रिपोर्टिंग व्यवस्था होनी चाहिए, जिससे कंपनियां एक-दूसरे की गलतियों से सीख सकें.
भारत के लिए खतरा?
भारत की तेजी से बढ़ती डिजिटल प्रगति को देखते हुए इस तरह के AI हैकिंग मामलों का भारत पर सीधा प्रभाव पड़ सकता है-
भारत का नेशनल पावर ग्रिड और रेलवे कंट्रोल सिस्टम काफी हद तक कंप्यूटर पर आधारित है. अगह कोई आक्रामक AI मॉडल बिना इंसानी मदद के जीरो-डे खामियों को खोजकर पेलोड भेज सकता है, तो यह भारत के इन सेक्टर को मिनटों में ठप कर सकता है.
भारत में आधार पर UPI और नेटबैंकिंग से करोड़ों लेनदेन होते हैं. AI मॉडल्स द्वारा की जाने वाली बिजनेस-लॉजिक हैकिंग बैंकिंग सर्वर की छोटी कमियों का फायदा उठाकर बड़ी धोखाधड़ी को अंजाम दे सकती है.
सरकारी नेटवर्क और CERT-In के लिए चुनौती
CERT-In यानी इंडियन कंप्यूटर इमरजेंसी रिस्पॉन्स टीम जैसी भारतीय एजेंसियों के लिए सबसे बड़ी चुनौती यह होगी कि एंटीवायरस या फायरवॉल AI से मिलीसेकंड में बदले जाने वाले पॉलीमॉर्फिक कोड और फर्जी डिजिटल पहचानों को तुरंत पकड़ नहीं पाएंगे.
Bureau Report
Leave a Reply