AI सुरक्षा (AI Security)

 

परिभाषा

एआई सुरक्षा वह शाखा है जो एआई-सिस्टम्स, उनके प्रशिक्षण डेटा, मॉडल तथा समर्थन इंफ्रास्ट्रक्चर को विभिन्न प्रकार के खतरों और कमजोरियों से सुरक्षित रखने का कार्य करती है।

प्रमुख खतरें एवं चुनौतियाँ

• डेटा पॉइज़निंग – जब प्रशिक्षण डेटा में दुर्भावनापूर्ण या ग़लत डेटा शामिल कर दिया जाता है, जिससे मॉडल गलत या हानिकारक निर्णय लेने लगे।
• मॉडल इनवर्ज़न आक्रमण – मॉडल के आउटपुट के आधार पर हमलावर प्रशिक्षण डेटा या संवेदनशील जानकारी का उजागर कर सकते हैं।
• प्रतिस्पर्धात्मक (एडवर्सेरियल) आक्रमण – मॉडल को ऐसे इनपुट दिए जाते हैं जिनसे वह गलत या मनचाहा आउटपुट देने लगे।
• प्रॉम्प्ट इंजेक्शन – विशेष रूप से लार्ज लैंग्वेज मॉडल (LLM) में इनपुट के माध्यम से मॉडल को गैर-इच्छित क्रियाएँ करने के लिए प्रेरित करना।^[24]
• 
  

सुरक्षा

प्रमुख बिंदु एवं उपाय

• गोपनीयता, अखंडता, उपलब्धता (CIA) त्रय – एआई प्रणाली में इन तीन मौलिक सुरक्षा गुणों को सुनिश्चित करना आवश्यक है।
• निरंतर निगरानी एवं जोखिम आकलन – मॉडल और उसके परिवेश में समय-समय पर सुरक्षा परीक्षण, मॉनिटरिंग और आकलन जरूरी है।
• की पहुँच नियंत्रण और एन्क्रिप्शन – प्रशिक्षण डेटा, मॉडल व आउटपुट तक पहुँच को सीमित करना तथा डेटा ट्रांसमिशन और संग्रहण में एन्क्रिप्शन उपयोग करना।^[25]
• देरी-रहित प्रतिक्रिया (Incident Response) – एआई द्वारा उत्पन्न या प्रभावित घटना के लिए त्वरित प्रतिक्रिया योजनाएँ व स्वचालित नियंत्रण।

एआई सुरक्षा का अनुप्रयोग क्षेत्र

एआई सुरक्षा व्यापक रूप से नीचे-लिखित क्षेत्रों में महत्वपूर्ण भूमिका निभाती है:

• वित्तीय सेवाएँ — धोखाधड़ी पहचान, जोखिम आकलन तथा लेन-देह सुरक्षा।
• स्वास्थ्य सेवा — रोग निदान मॉडल्स, रोग-सम्बंधित डेटा तथा गोपनीयता।
• आधारभूत संरचना (इन्फ्रास्ट्रक्चर) — स्मार्ट ग्रिड्स, IoT उपकरण तथा संवेदनशील सिस्टम्स।
• रक्षा एवं सुरक्षा क्षेत्र — स्वायत्त प्रणालियाँ, ड्रोन और निर्णय-सहायक प्रणाली।^[26]

उभरते रुझान

एआई सुरक्षा में हाल-ही में निम्नलिखित प्रमुख रुझान देखे जा रहे हैं:

• एजेंटिक एआई और स्वायत्त हमलावर उपकरणों-पर आधारित खतरे।^[27]
• एआई जीवन-चक्र (डेटा → मॉडल → तैनाती → उपयोग) को सुरक्षित रखने के लिए समग्र सुरक्षा फ्रेमवर्क।^[28]
• नियामक, नैतिकता एवं जवाबदेही — एआई के निर्णय, पूर्वाग्रह व पारदर्शिता द्वारा सुरक्षा जोखिम उत्पन्न हो सकते हैं।