AI सुरक्षा (AI Security)
परिभाषा एआई सुरक्षा वह शाखा है जो एआई-सिस्टम्स, उनके प्रशिक्षण डेटा, मॉडल तथा समर्थन इंफ्रास्ट्रक्चर को विभिन्न प्रकार के खतरों और कमजोरियों से सुरक्षित रखने का कार्य करती है। प्रमुख खतरें एवं चुनौतियाँ डेटा पॉइज़निंग – जब प्रशिक्षण डेटा में दुर्भावनापूर्ण या ग़लत डेटा शामिल कर दिया जाता है, जिससे मॉडल गलत या हानिकारक निर्णय लेने लगे। मॉडल इनवर्ज़न आक्रमण – मॉडल के आउटपुट के आधार पर हमलावर प्रशिक्षण डेटा या संवेदनशील जानकारी का उजागर कर सकते हैं। प्रतिस्पर्धात्मक (एडवर्सेरियल) आक्रमण – मॉडल को ऐसे इनपुट दिए जाते हैं जिनसे वह गलत या मनचाहा आउटपुट देने लगे। प्रॉम्प्ट इंजेक्शन – विशेष रूप से लार्ज लैंग्वेज मॉडल (LLM) में इनपुट के माध्यम से मॉडल को गैर-इच्छित क्रियाएँ करने के लिए प्रेरित करना। [ 24 ] सुरक्षा प्रमुख बिंदु एवं उपाय गोपनीयता, अखंडता, उपलब्धता (CIA) त्रय – एआई प्रणाली में इन तीन मौलिक सुरक्षा गुणों को सुनिश्चित करना आवश्यक है। निरंतर निगरानी एवं जोखिम आकलन – मॉडल और उसके परिवेश में समय-समय पर सुरक्षा परीक्षण, मॉनिटरिंग और आकलन जरूरी है। की पहुँच नियंत्रण और एन्क्रि...