हिंदी एआई (Hindi AI) का अर्थ ऐसी कृत्रिम बुद्धिमत्ता (Artificial Intelligence) तकनीक से है,
शोधकर्ताओं व उनके काम: एक मशीन में सामान्य बुद्धि के साथ (मजबूत एअर इंडिया के रूप में जाना जाता है), शामिल किया जाएगा कि लगता है सब से ऊपर कौशल और मानवीय क्षमताओं में सबसे अधिक से अधिक के या उन सभी के संयोजन। कुछ विश्वास है कि कृत्रिम चेतना या एक कृत्रिम मस्तिष्क की तरह मानवाकृतीय सुविधाएँ ऐसी एक परियोजना के लिए आवश्यकता हो सकती। उपरोक्त समस्याओं के कई विचार किया जा करने के लिए सामान्य बुद्धि की आवश्यकता हो सकता हल हो। उदाहरण के लिए, यहां तक कि मशीनी अनुवाद की तरह एक सीधा, विशिष्ट कार्य मशीन पढ़ा और (एनएलपी) दोनों भाषाओं में लिखने, लेखक का तर्क (कारण) का पालन करें, पता है क्या (ज्ञान) के बारे में बात की जा रही है कि और सच्चाई से लेखक का इरादा (सामाजिक बुद्धि) को पुन: उत्पन्न की आवश्यकता है। मशीनी अनुवाद की तरह एक समस्या “ऐ-पूर्ण” माना जाता है। इस विशेष समस्या को हल करने के लिए, आप सभी समस्याओं को हल करना चाहिए।
एआई सुरक्षा वह शाखा है जो एआई-सिस्टम्स, उनके प्रशिक्षण डेटा, मॉडल तथा समर्थन इंफ्रास्ट्रक्चर को विभिन्न प्रकार के खतरों और कमजोरियों से सुरक्षित रखने का कार्य करती है।
प्रमुख खतरें एवं चुनौतियाँ
- डेटा पॉइज़निंग – जब प्रशिक्षण डेटा में दुर्भावनापूर्ण या ग़लत डेटा शामिल कर दिया जाता है, जिससे मॉडल गलत या हानिकारक निर्णय लेने लगे।
- मॉडल इनवर्ज़न आक्रमण – मॉडल के आउटपुट के आधार पर हमलावर प्रशिक्षण डेटा या संवेदनशील जानकारी का उजागर कर सकते हैं।
- प्रतिस्पर्धात्मक (एडवर्सेरियल) आक्रमण – मॉडल को ऐसे इनपुट दिए जाते हैं जिनसे वह गलत या मनचाहा आउटपुट देने लगे।
- प्रॉम्प्ट इंजेक्शन – विशेष रूप से लार्ज लैंग्वेज मॉडल (LLM) में इनपुट के माध्यम से मॉडल को गैर-इच्छित क्रियाएँ करने के लिए प्रेरित करना।[24]
सुरक्षा प्रमुख बिंदु एवं उपाय
- गोपनीयता, अखंडता, उपलब्धता (CIA) त्रय – एआई प्रणाली में इन तीन मौलिक सुरक्षा गुणों को सुनिश्चित करना आवश्यक है।
- निरंतर निगरानी एवं जोखिम आकलन – मॉडल और उसके परिवेश में समय-समय पर सुरक्षा परीक्षण, मॉनिटरिंग और आकलन जरूरी है।
- की पहुँच नियंत्रण और एन्क्रिप्शन – प्रशिक्षण डेटा, मॉडल व आउटपुट तक पहुँच को सीमित करना तथा डेटा ट्रांसमिशन और संग्रहण में एन्क्रिप्शन उपयोग करना।[25]
- देरी-रहित प्रतिक्रिया (Incident Response) – एआई द्वारा उत्पन्न या प्रभावित घटना के लिए त्वरित प्रतिक्रिया योजनाएँ व स्वचालित नियंत्रण।
एआई सुरक्षा का अनुप्रयोग क्षेत्र
एआई सुरक्षा व्यापक रूप से नीचे-लिखित क्षेत्रों में महत्वपूर्ण भूमिका निभाती है:
रक्षा एवं सुरक्षा क्षेत्र — स्वायत्त प्रणालियाँ, ड्रोन और निर्णय-सहायक प्रणाली।[26]
वित्तीय सेवाएँ — धोखाधड़ी पहचान, जोखिम आकलन तथा लेन-देह सुरक्षा।
स्वास्थ्य सेवा — रोग निदान मॉडल्स, रोग-सम्बंधित डेटा तथा गोपनीयता।
आधारभूत संरचना (इन्फ्रास्ट्रक्चर) — स्मार्ट ग्रिड्स, IoT उपकरण तथा संवेदनशील सिस्टम्स।
