जिम्मेदार AI क्या है और यह क्यों मायने रखता है? यह मार्गदर्शिका एआई पूर्वाग्रह, निष्पक्षता, पारदर्शिता, गोपनीयता और सुरक्षा को सरल भाषा में समझाती है - वास्तविक उदाहरणों के साथ कि क्या गलत होता है और हम कैसे बेहतर कर सकते हैं।
2018 में, अमेज़ॅन ने एक एआई भर्ती उपकरण को रद्द कर दिया, जिसे वह चार साल से विकसित कर रहा था। इस प्रणाली को नौकरी के उम्मीदवारों को एक से पांच स्टार के पैमाने पर रेटिंग देने के लिए डिज़ाइन किया गया था। समस्या: इसने सीवी को दंडित करना सीख लिया था जिसमें "महिला" शब्द शामिल था - जैसे कि, "महिला शतरंज क्लब" - और सभी महिला कॉलेजों के स्नातकों को डाउनग्रेड कर दिया गया था। सिस्टम को ऐतिहासिक नियुक्ति डेटा पर प्रशिक्षित किया गया था जो तकनीक में पुरुष प्रभुत्व के पिछले पैटर्न को दर्शाता था। इसने उन पैटर्नों को सीखा और उन्हें बढ़ाया।
अमेज़ॅन के इंजीनियरों ने पूर्वाग्रह को ठीक करने की कोशिश की, लेकिन अंततः यह गारंटी नहीं दे सके कि सिस्टम तटस्थ था। उन्होंने इसे बंद कर दिया.
यह जिम्मेदार एआई की तेज धार है: अच्छे इरादों के साथ बनाए गए सिस्टम निष्पक्षता, जवाबदेही और पारदर्शिता के बारे में पर्याप्त विचार किए बिना तैनात किए जाने पर वास्तविक लोगों को व्यवस्थित रूप से नुकसान पहुंचा सकते हैं।
चूंकि एआई नियुक्ति, ऋण देने, स्वास्थ्य देखभाल, आपराधिक न्याय, शिक्षा और बहुत कुछ में अंतर्निहित हो गया है, इसलिए यह अधिकार प्राप्त करना वैकल्पिक नहीं है। यह मार्गदर्शिका मुख्य मुद्दों को स्पष्ट रूप से समझाती है - कोई शब्दजाल नहीं, कोई हाथ हिलाना नहीं।
जिम्मेदार एआई से तात्पर्य सुरक्षित, निष्पक्ष, पारदर्शी, जवाबदेह और मानवीय मूल्यों के अनुरूप एआई सिस्टम को विकसित करने, तैनात करने और बनाए रखने के अभ्यास से है।
यह केवल नुकसान से बचने के बारे में नहीं है (हालाँकि यह महत्वपूर्ण है)। यह एआई के निर्माण के बारे में है जिस पर लोग भरोसा कर सकते हैं - ऐसी प्रणालियाँ जिनके निर्णयों को समझाया जा सकता है, चुनौती दी जा सकती है और सही किया जा सकता है।
इस क्षेत्र में कई परस्पर संबंधित चिंताएँ शामिल हैं:
एआई में पूर्वाग्रह कोई प्रोग्रामिंग बग नहीं है जिसे आप पैच के साथ ठीक कर सकते हैं। यह दुनिया का प्रतिबिंब है - विशेष रूप से, उस पक्षपातपूर्ण डेटा का जो दुनिया ने ऐतिहासिक रूप से उत्पन्न किया है।
1. पक्षपातपूर्ण प्रशिक्षण डेटा
एआई मॉडल डेटा से सीखते हैं। यदि वह डेटा ऐतिहासिक असमानताओं को दर्शाता है, तो मॉडल उन असमानताओं को ऐसे सीखता है जैसे कि वे नियम हों।
उदाहरण: मुख्य रूप से हल्की चमड़ी वाले चेहरों पर प्रशिक्षित चेहरे की पहचान प्रणाली गहरे रंग वाले चेहरों पर खराब प्रदर्शन करती है। जॉय बुओलामविनी और टिमनिट गेब्रू ("जेंडर शेड्स" अध्ययन) के 2018 के एक अध्ययन में पाया गया कि प्रमुख व्यावसायिक चेहरे की पहचान प्रणालियों में हल्की त्वचा वाले पुरुषों की तुलना में गहरे रंग की महिलाओं के लिए त्रुटि दर 34% अधिक थी। यह दुर्भावना नहीं थी - यह प्रशिक्षण डेटा था जो मानव चेहरों की विविधता का प्रतिनिधित्व नहीं करता था।
2. लेबल पूर्वाग्रह
जब मनुष्य प्रशिक्षण डेटा को लेबल करते हैं, तो उनके स्वयं के पूर्वाग्रह कोडित हो जाते हैं। यदि मानव लेबलर लगातार "पेशेवर" फ़ोटो को पुरुषों या श्वेत लोगों के साथ जोड़ते हैं, तो मॉडल इस जुड़ाव को सीखता है।
3. फ़ीडबैक लूप्स
जब एक पक्षपाती मॉडल तैनात किया जाता है और इसकी भविष्यवाणियां भविष्य के डेटा संग्रह को प्रभावित करती हैं, तो पूर्वाग्रह जुड़ जाता है। एक पूर्वानुमानित पुलिसिंग मॉडल जो कुछ पड़ोस में पुलिस को केंद्रित करता है, वहां अधिक गिरफ्तारियां उत्पन्न करता है, जो यह सुझाव देने वाला अधिक डेटा बनाता है कि पड़ोस उच्च अपराध है, जो वहां अधिक पुलिसिंग पर ध्यान केंद्रित करता है। चक्र स्वयं को पुष्ट करता है।
4. प्रॉक्सी वेरिएबल
कभी-कभी एक मॉडल संरक्षित विशेषताओं के लिए प्रॉक्सी के रूप में प्रतीत होने वाली तटस्थ सुविधाओं का उपयोग करना सीखता है। ज़िप कोड दौड़ के लिए प्रॉक्सी हो सकता है। विश्वविद्यालय में भाग लेना सामाजिक-आर्थिक पृष्ठभूमि का प्रतिनिधि हो सकता है। मॉडल स्पष्ट रूप से दौड़ का उपयोग नहीं कर रहा है, लेकिन यह प्रभावी ढंग से ऐसा कर रहा है।
5. ऐतिहासिक डेटा ऐतिहासिक अन्याय को दर्शाता है
यदि महिलाओं को ऐतिहासिक रूप से कुछ व्यवसायों से बाहर रखा गया था, तो ऐतिहासिक डेटा पर प्रशिक्षित मॉडल सीखेंगे कि महिलाओं के उन व्यवसायों में होने की संभावना नहीं है - और उस बहिष्कार को कायम रखा जा सकता है।
ये काल्पनिक नहीं हैं. ये हुए.
कम्पास रिसिडिविज़्म एल्गोरिदम: अमेरिकी अदालतों में प्रतिवादी के दोबारा अपराध करने की संभावना का अनुमान लगाने के लिए उपयोग किया जाता है। 2016 की प्रोपब्लिका जांच में पाया गया कि सिस्टम श्वेत प्रतिवादियों की तुलना में काले प्रतिवादियों को उच्च जोखिम के रूप में गलत तरीके से चिह्नित करने की संभावना दोगुनी थी, जबकि सफेद प्रतिवादियों को कम जोखिम के रूप में गलत तरीके से लेबल करने की संभावना अधिक थी। इन अंकों ने जमानत निर्णयों और सजा को प्रभावित किया।
कोविड-19 के दौरान पल्स ऑक्सीमीटर: सख्ती से एआई नहीं, बल्कि मेडिकल डोमेन का उदाहरण। पल्स ऑक्सीमीटर - जो रक्त ऑक्सीजन के स्तर को मापते हैं - गहरे रंग की त्वचा वाले रोगियों पर कम सटीक पाए गए, जिससे संभावित रूप से उपचार में देरी हुई। इन उपकरणों के डेटा पर प्रशिक्षित मेडिकल एआई को वही दोष विरासत में मिला।
Apple कार्ड क्रेडिट सीमा: 2019 में, कई उपयोगकर्ताओं ने बताया कि Apple कार्ड एल्गोरिदम ने महिलाओं को समान या बेहतर वित्तीय प्रोफ़ाइल वाले पुरुषों की तुलना में काफी कम क्रेडिट सीमा दी। एल्गोरिथ्म एक ब्लैक बॉक्स था - न तो आवेदक और न ही Apple आसानी से बता सके कि ऐसा क्यों है।
स्वास्थ्य देखभाल संसाधन आवंटन: व्यापक रूप से तैनात अमेरिकी स्वास्थ्य देखभाल एल्गोरिदम को समान रूप से बीमार श्वेत रोगियों की तुलना में काले रोगियों की स्वास्थ्य देखभाल आवश्यकताओं को व्यवस्थित रूप से कम आंकने के लिए पाया गया। इसने स्वास्थ्य देखभाल व्यय को स्वास्थ्य देखभाल की आवश्यकता के लिए प्रॉक्सी के रूप में उपयोग किया - लेकिन काले रोगियों को ऐतिहासिक रूप से कम देखभाल मिली थी, इसलिए कम खर्च का मतलब कम आवश्यकता नहीं है।
जब कोई एआई सिस्टम आपके बारे में परिणामी निर्णय लेता है - आपका ऋण आवेदन, आपका नौकरी आवेदन, आपकी जमानत सुनवाई, आपकी कैंसर स्क्रीनिंग - तो आपको यह समझने में वैध रुचि है कि ऐसा क्यों है।
व्याख्यात्मकता (जिसे व्याख्यात्मकता भी कहा जाता है) यह समझाने की क्षमता को संदर्भित करता है कि एआई प्रणाली ने एक विशिष्ट निर्णय कैसे और क्यों लिया।
यह तकनीकी रूप से चुनौतीपूर्ण है. कुछ सबसे शक्तिशाली एआई मॉडल - विशेष रूप से गहरे तंत्रिका नेटवर्क - की व्याख्या करना वास्तव में कठिन है। वे लाखों या अरबों मापदंडों पर ऐसे तरीकों से काम करते हैं जिन्हें सरल व्याख्या तक सीमित नहीं किया जा सकता है।
यूरोपीय संघ में, जीडीपीआर (जनरल डेटा प्रोटेक्शन रेगुलेशन) व्यक्तियों को उन विशुद्ध रूप से स्वचालित निर्णयों के अधीन न होने का अधिकार देता है जो उन्हें महत्वपूर्ण रूप से प्रभावित करते हैं, और ऐसे निर्णय किए जाने पर सार्थक स्पष्टीकरण प्राप्त करने का अधिकार देते हैं।
ईयू एआई अधिनियम (जो 2024 में लागू हुआ) इससे भी आगे जाता है, जिसके लिए उच्च जोखिम वाले एआई सिस्टम को पारदर्शी और व्याख्या योग्य बनाने की आवश्यकता है। उच्च जोखिम वाले अनुप्रयोगों में नियुक्ति, उधार, स्वास्थ्य देखभाल, कानून प्रवर्तन और शिक्षा में एआई शामिल है।
लाइम (स्थानीय व्याख्यात्मक मॉडल-अज्ञेयवादी स्पष्टीकरण): एक सरल, व्याख्या योग्य मॉडल के साथ स्थानीय स्तर पर मॉडल का अनुमान लगाकर व्यक्तिगत भविष्यवाणियों की व्याख्या करता है।
SHAP (SHapley Additive exPlanations): प्रत्येक फीचर को एक विशिष्ट भविष्यवाणी के लिए योगदान स्कोर निर्दिष्ट करने के लिए गेम थ्योरी का उपयोग करता है।
ध्यान दें विज़ुअलाइज़ेशन: ट्रांसफ़ॉर्मर मॉडल में, आप कल्पना कर सकते हैं कि भविष्यवाणी करते समय मॉडल ने इनपुट के किन हिस्सों पर सबसे अधिक "ध्यान दिया"।
ये तकनीकें अपूर्ण हैं और सक्रिय अनुसंधान जारी है, लेकिन ये जवाबदेही की दिशा में सार्थक प्रगति का प्रतिनिधित्व करते हैं।
एआई सिस्टम को डेटा पर प्रशिक्षित किया जाता है - अक्सर अरबों लोगों से व्यक्तिगत डेटा एकत्र किया जाता है, कभी-कभी स्पष्ट सूचित सहमति के बिना।
मुख्य चिंताएँ:
प्रशिक्षण डेटा सहमति: बड़े भाषा मॉडलों को इंटरनेट से निकाले गए पाठ पर प्रशिक्षित किया गया था। उस पाठ में से कुछ में व्यक्तिगत जानकारी शामिल है। जिन लोगों ने ब्लॉग पोस्ट, फ़ोरम संदेश या लेख लिखे, उन्होंने वाणिज्यिक एआई उत्पादों को प्रशिक्षित करने के लिए अपने शब्दों का उपयोग करने पर सहमति नहीं दी।
डेटा प्रतिधारण: जब आप एआई चैटबॉट का उपयोग करते हैं, तो आपकी बातचीत संग्रहीत की जा सकती है और संभावित रूप से भविष्य के मॉडल को बेहतर बनाने के लिए उपयोग की जा सकती है। यह समझना अक्सर मुश्किल होता है कि आपके डेटा का वास्तव में क्या होता है।
अनुमान हमले: कभी-कभी किसी मॉडल से प्रशिक्षण डेटा निकालना संभव होता है - वस्तुतः मॉडल अपने प्रशिक्षण सेट से पाठ या जानकारी को पुन: उत्पन्न करने का कारण बनता है। इसका प्रशिक्षण डेटा में दिखाई देने वाली किसी भी संवेदनशील चीज़ पर प्रभाव पड़ता है।
चेहरे की पहचान: सहमति के बिना बायोमेट्रिक डेटा का संग्रह और उपयोग गहन गोपनीयता संबंधी चिंताओं को जन्म देता है। कई अमेरिकी शहरों ने ठीक इसी कारण से चेहरे की पहचान के सरकारी उपयोग पर प्रतिबंध लगा दिया है।
व्यक्तियों के लिए सर्वोत्तम अभ्यास:
एआई में सुरक्षा पूर्वाग्रह से परे है। इसमें शामिल है कि क्या सिस्टम वास्तविक दुनिया में तैनात होने पर विश्वसनीय, पूर्वानुमानित और बिना नुकसान पहुंचाए व्यवहार करते हैं।
मतिभ्रम: बड़े भाषा मॉडल कभी-कभी आत्मविश्वासपूर्ण, अच्छी तरह से प्रारूपित, पूरी तरह से गलत जानकारी उत्पन्न करते हैं। एक वकील जिसने अमेरिकी अदालत में मनगढ़ंत मामले के उद्धरणों के साथ एआई-जनरेटेड ब्रीफ प्रस्तुत किया था, उस पर 2023 में प्रतिबंध लगा दिया गया था। मॉडल को नहीं पता था कि यह बातें बना रहा था - यह विश्वसनीय लगने वाला पाठ तैयार कर रहा था।
प्रतिकूल उदाहरण: किसी छवि में छोटे, अगोचर परिवर्तन के कारण गहन शिक्षण वर्गीकरणकर्ता इसकी बेतहाशा गलत पहचान कर सकता है। सावधानी से लगाए गए स्टिकर वाले स्टॉप साइन को गति सीमा संकेत के रूप में गलत वर्गीकृत किया जा सकता है। स्वायत्त वाहनों में, इसके वास्तविक सुरक्षा निहितार्थ हैं।
वितरण बदलाव: जब दुनिया बदलती है तो ऐतिहासिक डेटा पर प्रशिक्षित मॉडल विफल हो सकते हैं। COVID-19 के दौरान कई धोखाधड़ी का पता लगाने वाले मॉडल विफल हो गए क्योंकि खरीदारी व्यवहार में नाटकीय रूप से बदलाव आया और मॉडल उस बदलाव के लिए डिज़ाइन नहीं किए गए थे।
कैस्केडिंग विफलताएँ: जब एआई सिस्टम आपस में जुड़े होते हैं - जैसे कि स्वचालित वित्तीय व्यापार या लॉजिस्टिक्स सिस्टम में - एक में विफलता दूसरों में अप्रत्याशित विफलताओं को ट्रिगर कर सकती है।
जिम्मेदार एआई का मतलब सिर्फ बुरे परिणामों से बचना नहीं है। यह उन प्रणालियों के निर्माण के बारे में है जिनका आप सार्वजनिक रूप से बचाव करने में सहज होंगे।
एआई निर्माण करने वाले संगठनों के लिए:
एआई का उपयोग करने वाले व्यक्तियों के लिए:
एआई तटस्थ नहीं है. यह विकल्पों को एन्कोड करता है - किस डेटा का उपयोग करना है, किस उद्देश्य के लिए अनुकूलन करना है, डिज़ाइन प्रक्रिया में किसे शामिल करना है, अनिश्चितता को कैसे संभालना है। वे विकल्प जानबूझकर या नहीं, मूल्यों को प्रतिबिंबित करते हैं।
चूंकि एआई सिस्टम अधिक परिणामी निर्णय लेते हैं - स्वास्थ्य देखभाल, शिक्षा, न्याय, रोजगार, ऋण के बारे में - इस अधिकार को प्राप्त करने का जोखिम कभी इतना अधिक नहीं रहा है। बड़े पैमाने पर तैनात एक खराब एल्गोरिदम समस्या की पहचान होने से पहले ही लाखों लोगों को नुकसान पहुंचा सकता है।
अच्छी खबर: जिम्मेदार AI एक हल करने योग्य समस्या है। पूरी तरह से नहीं, और एक ही बार में नहीं - लेकिन सही प्रथाओं, सही टीमों और सही ढांचे के साथ, हम एआई सिस्टम बना सकते हैं जो वास्तव में भरोसेमंद हैं।
उस कार्य के लिए ऐसे लोगों की आवश्यकता है जो एआई के तकनीकी और मानवीय दोनों आयामों को समझते हों। इसके लिए ऐसे लोगों की आवश्यकता है जो एआई सिस्टम बना सकें और उनके बारे में कठिन प्रश्न पूछ सकें।
एआई एजुकेशन अकादमी में, जिम्मेदार एआई एक अलग मॉड्यूल नहीं है - यह हमारे द्वारा सिखाई जाने वाली हर चीज के माध्यम से बुना जाता है। हमारा मानना है कि एआई नैतिकता और सुरक्षा को समझना उतना ही मौलिक है जितना कि किसी मॉडल को प्रशिक्षित करने के तरीके को समझना।
यदि आप एआई सीख रहे हैं, या यदि आप पहले से ही इस क्षेत्र में काम कर रहे हैं, तो इन मुद्दों को समझना आपको एक बेहतर इंजीनियर, एक अधिक विश्वसनीय शोधकर्ता और ऐसी तकनीक बनाने में सक्षम व्यक्ति बनाता है जिस पर आप गर्व कर सकते हैं।
👉 aieducademy.org पर हमारे AI नैतिकता और जिम्मेदार AI संसाधनों का अन्वेषण करें - और AI बनाने में मदद करें जो सभी के लिए काम करता है।
किसी भी अकादमी का पहला पाठ मुफ्त आजमाएं, फिर बाकी हर पाठ, प्रोजेक्ट और प्रमाणपत्र Pro से अनलॉक करें.