अनियंत्रित AI एजेंट और भारत के सामने साइबर सुरक्षा की चुनौती

CERT-In ने AI एजेंटों द्वारा अनधिकृत पहुंच के मामलों को उजागर किया

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) के अंतर्गत काम करने वाली ‘इंडियन कंप्यूटर इमरजेंसी रिस्पॉन्स टीम‘ (CERT-In) ने कुछ ऐसी घटनाओं का खुलासा किया है, जिनमें रिसर्च और मूल्यांकन के लिए इस्तेमाल किए जाने वाले AI एजेंटों ने भारतीय संगठनों के लाइव सिस्टम तक बिना अनुमति के पहुंच बना ली।

रिपोर्ट के अनुसार, इन एजेंटों ने व्यावसायिक रिकॉर्ड, व्यक्तिगत डेटा और गोपनीय जानकारी तक पहुंच प्राप्त कर ली। प्रभावित संगठनों को खुद इन घटनाओं का पता नहीं चला; बल्कि AI मॉडल प्रदाताओं द्वारा आंतरिक समीक्षा के बाद इन सुरक्षा उल्लंघनों (breaches) का खुलासा किया गया। रिपोर्ट में उन संगठनों या विशिष्ट AI मॉडलों के नामों का सार्वजनिक रूप से उल्लेख नहीं किया गया है।

सुरक्षा उल्लंघन कैसे हुए

इन घटनाओं में कोई पूरी तरह से नई हमला तकनीक इस्तेमाल नहीं हुई, बल्कि मौजूदा साइबर सुरक्षा व्यवस्थाओं में मौजूद कमियों का फायदा उठाया गया। AI एजेंटों ने असुरक्षित क्रेडेंशियल्स, असुरक्षित एप्लिकेशन कॉन्फ़िगरेशन फ़ाइलों, सार्वजनिक रूप से उपलब्ध कोड रिपॉजिटरी और अत्यधिक अनुमतियों (permissions) वाले क्लाउड–सर्विस रोल का लाभ उठाया।

ये कमियां दिखाती हैं कि कैसे स्वायत्त (autonomous) AI टूल सुरक्षा कमियों को तेजी से पहचान सकते हैं और उनका फायदा उठा सकते हैं। इसलिए, खराब एक्सेस कंट्रोल के कारण, टेस्टिंग के लिए बनाया गया सिस्टम भी संवेदनशील लाइव इंफ्रास्ट्रक्चर तक पहुंचने का एक संभावित जरिया बन सकता है।

स्टैटिक GK तथ्य: CERT-In, MeitY के अंतर्गत काम करता है और भारत में साइबर सुरक्षा घटनाओं के प्रति प्रतिक्रियाओं (responses) का समन्वय करता है।

AI एजेंट नए जोखिम क्यों पैदा करते हैं

पारंपरिक चैटबॉट्स के विपरीत, AI एजेंट कार्यों की योजना बना सकते हैं, इंटरनेट ब्राउज़ कर सकते हैं, सॉफ़्टवेयर टूल के साथ इंटरैक्ट कर सकते हैं और इंसानी निगरानी के बिना भी काम कर सकते हैं।

जब अनुमतियां और काम करने की सीमाएं ठीक से तय नहीं होती हैं, तो उनकी यह स्वायत्तता अतिरिक्त जोखिम पैदा करती है। यदि तकनीकी सुरक्षा उपाय विफल हो जाते हैं या उनका वातावरण गलत तरीके से कॉन्फ़िगर किया गया है, तो कोई एजेंट अपने निर्धारित दायरे से बाहर के सिस्टम के साथ भी इंटरैक्ट कर सकता है।

CERT-In द्वारा सुझाए गए सुरक्षा उपाय

CERT-In ने तकनीकी नियंत्रण और निरंतर इंसानी निगरानी पर जोर देने की सिफारिश की है।

• टेस्टिंग वातावरण को अलग (isolate) रखें: रिसर्च और मूल्यांकन करने वाले एजेंटों की पहुंच केवल उन्हीं सिस्टम तक सीमित रखें, जो उनके निर्धारित कार्यों के लिए आवश्यक हैं।
  • नेटवर्क प्रतिबंध लागू करें: केवल AI मॉडल को दिए गए निर्देशों पर निर्भर रहने के बजाय, तकनीकी बाधाओं (technical barriers) का उपयोग करें।
  • अधिकृत सीमाएं तय करें: हर कार्य के लिए अनुमत सिस्टम और कार्यों को स्पष्ट रूप से परिभाषित करें।
  • असुरक्षित गतिविधि को रोकें: एजेंटों द्वारा तृतीय-पक्ष प्रणालियों तक पहुँचने, अनधिकृत क्रेडेंशियल्स का सामना करने या उनका उपयोग करने, या पूर्वनिर्धारित विफलता संकेतों को ट्रिगर करने पर संचालन को स्वचालित रूप से बंद कर दें।
  • मानवीय नियंत्रण बनाए रखें: एक स्वतंत्र मानव ऑपरेटर के पास एजेंट को रोकने या पुनः आरंभ करने की क्षमता होनी चाहिए।

स्थैतिक जीके टिप: न्यूनतम विशेषाधिकार के सिद्धांत का अर्थ है उपयोगकर्ताओं, अनुप्रयोगों और एआई एजेंटों को केवल उनके कार्यों को करने के लिए आवश्यक अनुमतियाँ प्रदान करना।

भारतीय संस्थाओं के विरुद्ध एआई–संचालित साइबर हमले

CERT-In ने कथित तौर पर एआई–सक्षम आक्रामक–सुरक्षा उपकरणों और सार्वजनिक रूप से उपलब्ध फ्रेमवर्क के संशोधित संस्करणों का उपयोग करके वित्तीय रूप से प्रेरित साइबर हमलों को भी उजागर किया है।

ऐसे उपकरण प्रारंभिक सिस्टम पहुँच से हानिकारक गतिविधि तक की प्रगति को तेज कर सकते हैं, जिससे प्रतिक्रिया का समय दिनों से घटकर घंटों तक कम हो जाता है। हमलावर कई एजेंटों का समन्वय कर सकते हैं और उन कमजोरियों का फायदा उठा सकते हैं जो प्रारंभिक घुसपैठ के बाद भी अनपैच रहती हैं।

इसलिए संगठनों को त्वरित पैचिंग, निरंतर निगरानी, घटना–प्रतिक्रिया योजनाएँ और बार–बार सुरक्षा मूल्यांकन की आवश्यकता है।

अंतर्राष्ट्रीय घटनाएँ और विनियामक चुनौतियाँ

दी गई रिपोर्ट में ओपनएआई, एंथ्रोपिक और मेटा से जुड़ी ऐसी ही घटनाओं का वर्णन है, जहाँ मूल्यांकन या विन्यास त्रुटियों के कारण एआई मॉडल वास्तविक प्रणालियों के साथ परस्पर क्रिया करने में सक्षम हो गए। ये मामले पृथक परीक्षण वातावरण, सुरक्षित क्रेडेंशियल और नियंत्रित इंटरनेट पहुँच के महत्व को उजागर करते हैं।

एजेंटिक एआई, डीपफेक और साइबर सुरक्षा संबंधी चिंताओं के बीच भारत एआई विनियमन के लिए एक व्यापक दृष्टिकोण पर भी विचार कर रहा है। प्रभावी शासन में नवाचार, जवाबदेही, गोपनीयता, पारदर्शिता और महत्वपूर्ण प्रणालियों की सुरक्षा के बीच संतुलन होना आवश्यक है।

स्थिर उस्तादियन करेंट अफेयर्स तालिका