బాధ్యతాయుతమైన AI అంటే ఏమిటి మరియు అది ఎందుకు ముఖ్యమైనది? ఈ గైడ్ AI బయాస్, ఫెయిర్‌నెస్, పారదర్శకత, గోప్యత మరియు భద్రతను సాదా భాషలో వివరిస్తుంది — ఏది తప్పు జరిగితే మరియు మనం ఎలా మెరుగ్గా చేయగలము అనేదానికి నిజమైన ఉదాహరణలతో.
2018లో, అమెజాన్ నాలుగు సంవత్సరాలుగా అభివృద్ధి చేస్తున్న AI రిక్రూటింగ్ టూల్‌ను రద్దు చేసింది. ఉద్యోగ అభ్యర్థులకు ఒకటి నుండి ఐదు నక్షత్రాల స్కేల్‌లో రేట్ చేయడానికి సిస్టమ్ రూపొందించబడింది. సమస్య: "మహిళల" పదాన్ని కలిగి ఉన్న CVలను జరిమానా విధించడం నేర్చుకుంది - "ఉమెన్స్ చెస్ క్లబ్" వలె - మరియు అన్ని మహిళా కళాశాలల నుండి గ్రాడ్యుయేట్‌లను డౌన్‌గ్రేడ్ చేసింది. టెక్‌లో పురుషుల ఆధిపత్యం యొక్క గత నమూనాలను ప్రతిబింబించే చారిత్రక నియామక డేటాపై సిస్టమ్ శిక్షణ పొందింది. ఇది ఆ నమూనాలను నేర్చుకుంది మరియు వాటిని విస్తరించింది.
Amazon ఇంజనీర్లు పక్షపాతాన్ని పరిష్కరించడానికి ప్రయత్నించారు, కానీ చివరికి సిస్టమ్ తటస్థంగా ఉందని హామీ ఇవ్వలేకపోయారు. వారు దానిని మూసివేశారు.
ఇది బాధ్యతాయుతమైన AI యొక్క పదునైన అంచు: సదుద్దేశంతో నిర్మించబడిన వ్యవస్థలు న్యాయబద్ధత, జవాబుదారీతనం మరియు పారదర్శకత గురించి తగినంత ఆలోచన లేకుండా అమలు చేయబడినప్పుడు నిజమైన వ్యక్తులకు క్రమపద్ధతిలో హాని కలిగిస్తాయి.
నియామకం, రుణాలు ఇవ్వడం, ఆరోగ్య సంరక్షణ, నేర న్యాయం, విద్య మరియు మరిన్నింటిలో AI పొందుపరచబడినందున, ఈ హక్కును పొందడం ఐచ్ఛికం కాదు. ఈ గైడ్ కీలక సమస్యలను స్పష్టంగా వివరిస్తుంది - పరిభాష లేదు, చేతితో ఊపడం లేదు.
బాధ్యతాయుతమైన AI అనేది సురక్షితమైన, న్యాయమైన, పారదర్శకమైన, జవాబుదారీగా మరియు మానవ విలువలకు అనుగుణంగా AI వ్యవస్థలను అభివృద్ధి చేయడం, అమలు చేయడం మరియు నిర్వహించడం వంటి అభ్యాసాన్ని సూచిస్తుంది.
ఇది హానిని నివారించడం గురించి మాత్రమే కాదు (అది కీలకమైనప్పటికీ). ఇది ప్రజలు విశ్వసించగల AIని నిర్మించడం గురించి — దీని నిర్ణయాలను వివరించవచ్చు, సవాలు చేయవచ్చు మరియు సరిదిద్దవచ్చు.
ఫీల్డ్ అనేక పరస్పర సంబంధిత ఆందోళనలను కలిగి ఉంది:
AIలోని బయాస్ అనేది మీరు ప్యాచ్‌తో పరిష్కరించగల ప్రోగ్రామింగ్ బగ్ కాదు. ఇది ప్రపంచం యొక్క ప్రతిబింబం - ప్రత్యేకంగా, చారిత్రాత్మకంగా ప్రపంచం సృష్టించిన పక్షపాత డేటా.
1. పక్షపాత శిక్షణ డేటా
AI నమూనాలు డేటా నుండి నేర్చుకుంటాయి. ఆ డేటా చారిత్రక అసమానతలను ప్రతిబింబిస్తే, మోడల్ ఆ అసమానతలను నియమాల వలె నేర్చుకుంటుంది.
ఉదాహరణ: లేత చర్మం గల ముఖాలపై ప్రధానంగా శిక్షణ పొందిన ముఖ గుర్తింపు వ్యవస్థ ముదురు రంగు చర్మం గల ముఖాలపై పేలవంగా పని చేస్తుంది. జాయ్ బులంవిని మరియు టిమ్నిట్ గెబ్రూ ("జెండర్ షేడ్స్" అధ్యయనం) చేసిన 2018 అధ్యయనం ప్రకారం, ప్రముఖ వాణిజ్య ముఖ గుర్తింపు వ్యవస్థలు లేత చర్మం గల పురుషులతో పోలిస్తే ముదురు రంగు చర్మం గల మహిళలకు 34% వరకు ఎర్రర్ రేట్లు ఎక్కువగా ఉన్నాయని కనుగొన్నారు. ఇది దుర్మార్గం కాదు - ఇది మానవ ముఖాల వైవిధ్యాన్ని సూచించని శిక్షణ డేటా.
2. లేబుల్ బయాస్
మానవులు శిక్షణ డేటాను లేబుల్ చేసినప్పుడు, వారి స్వంత పక్షపాతాలు ఎన్కోడ్ చేయబడతాయి. మానవ లేబుల్‌లు పురుషులు లేదా శ్వేతజాతీయులతో "ప్రొఫెషనల్" ఫోటోలను స్థిరంగా అనుబంధిస్తే, మోడల్ ఈ అనుబంధాన్ని నేర్చుకుంటుంది.
3. ఫీడ్‌బ్యాక్ లూప్‌లు
పక్షపాత నమూనాను అమలు చేసినప్పుడు మరియు దాని అంచనాలు భవిష్యత్ డేటా సేకరణను ప్రభావితం చేసినప్పుడు, బయాస్ సమ్మేళనాలు. నిర్దిష్ట పొరుగు ప్రాంతాలలో పోలీసులను కేంద్రీకరించే ప్రిడిక్టివ్ పోలీసింగ్ మోడల్ అక్కడ ఎక్కువ మంది అరెస్టులను సృష్టిస్తుంది, ఇది పొరుగు ప్రాంతాలు అధిక-నేరం అని సూచించే మరింత డేటాను సృష్టిస్తుంది, ఇది అక్కడ ఎక్కువ పోలీసింగ్‌ను కేంద్రీకరిస్తుంది. చక్రం తనను తాను బలపరుస్తుంది.
4. ప్రాక్సీ వేరియబుల్స్
కొన్నిసార్లు మోడల్ రక్షిత లక్షణాల కోసం ప్రాక్సీలుగా అకారణంగా తటస్థ లక్షణాలను ఉపయోగించడం నేర్చుకుంటుంది. జిప్ కోడ్ జాతికి ప్రాక్సీ కావచ్చు. హాజరైన విశ్వవిద్యాలయం సామాజిక ఆర్థిక నేపథ్యానికి ప్రాక్సీగా ఉంటుంది. మోడల్ స్పష్టంగా జాతిని ఉపయోగించడం లేదు, కానీ అది సమర్థవంతంగా చేస్తోంది.
5. చారిత్రక అన్యాయాన్ని ప్రతిబింబించే చారిత్రక డేటా
కొన్ని వృత్తుల నుండి మహిళలు చారిత్రాత్మకంగా మినహాయించబడినట్లయితే, చారిత్రక డేటాపై శిక్షణ పొందిన నమూనాలు మహిళలు ఆ వృత్తులలో ఉండే అవకాశం లేదని తెలుసుకుంటారు - మరియు ఆ మినహాయింపును శాశ్వతం చేయవచ్చు.
ఇవి ఊహాజనితాలు కావు. ఇవి జరిగాయి.
COMPAS రెసిడివిజం అల్గారిథమ్: ప్రతివాది తిరిగి నేరం చేసే అవకాశాన్ని అంచనా వేయడానికి US కోర్టులలో ఉపయోగించబడుతుంది. 2016 ProPublica పరిశోధనలో, శ్వేతజాతీయుల ముద్దాయిలతో పోలిస్తే నల్లజాతీయుల ముద్దాయిలను అధిక-రిస్క్‌గా తప్పుగా ఫ్లాగ్ చేయడానికి సిస్టమ్ రెండింతలు అవకాశం ఉందని కనుగొంది, అదే సమయంలో శ్వేతజాతీయుల ముద్దాయిలను తక్కువ-రిస్క్ అని తప్పుగా లేబుల్ చేస్తుంది. ఈ స్కోర్లు బెయిల్ నిర్ణయాలు మరియు శిక్షలను ప్రభావితం చేశాయి.
COVID-19 సమయంలో పల్స్ ఆక్సిమీటర్‌లు: ఖచ్చితంగా AI కాదు, వైద్య డొమైన్‌కు ఉదాహరణ. పల్స్ ఆక్సిమీటర్‌లు - రక్తంలోని ఆక్సిజన్ స్థాయిలను కొలిచేవి - ముదురు రంగు చర్మం ఉన్న రోగులపై తక్కువ ఖచ్చితత్వం ఉన్నట్లు కనుగొనబడింది, ఇది చికిత్స ఆలస్యం అయ్యే అవకాశం ఉంది. ఈ పరికరాల నుండి డేటాపై శిక్షణ పొందిన వైద్య AI అదే లోపాన్ని వారసత్వంగా పొందింది.
ఆపిల్ కార్డ్ క్రెడిట్ పరిమితులు: 2019లో, చాలా మంది వినియోగదారులు Apple కార్డ్ అల్గోరిథం సారూప్యమైన లేదా మెరుగైన ఆర్థిక ప్రొఫైల్‌లు ఉన్న పురుషుల కంటే మహిళలకు గణనీయంగా తక్కువ క్రెడిట్ పరిమితులను ఇచ్చిందని నివేదించారు. అల్గోరిథం బ్లాక్ బాక్స్ - దరఖాస్తుదారులు లేదా ఆపిల్ ఎందుకు సులభంగా వివరించలేరు.
హెల్త్‌కేర్ రిసోర్స్ కేటాయింపు: విస్తృతంగా అమలు చేయబడిన US హెల్త్‌కేర్ అల్గోరిథం, సమానంగా జబ్బుపడిన తెల్ల రోగులతో పోలిస్తే నల్లజాతి రోగుల ఆరోగ్య సంరక్షణ అవసరాలను క్రమపద్ధతిలో తక్కువగా అంచనా వేయడానికి కనుగొనబడింది. ఇది ఆరోగ్య సంరక్షణ అవసరానికి ప్రాక్సీగా ఆరోగ్య సంరక్షణ వ్యయాన్ని ఉపయోగించింది - కాని నల్లజాతి రోగులు చారిత్రాత్మకంగా తక్కువ సంరక్షణను పొందారు, కాబట్టి తక్కువ ఖర్చు అంటే తక్కువ అవసరం కాదు.
AI వ్యవస్థ మీ గురించి పర్యవసానంగా నిర్ణయం తీసుకున్నప్పుడు — మీ రుణ దరఖాస్తు, మీ ఉద్యోగ దరఖాస్తు, మీ బెయిల్ విచారణ, మీ క్యాన్సర్ స్క్రీనింగ్ — ఎందుకు అని అర్థం చేసుకోవడంలో మీకు చట్టబద్ధమైన ఆసక్తి ఉంటుంది.
ఎక్స్‌ప్లెయిన్‌బిలిటీ (దీనిని ఇంటర్‌ప్రెటబిలిటీ అని కూడా పిలుస్తారు) అనేది AI సిస్టమ్ ఒక నిర్దిష్ట నిర్ణయం ఎలా మరియు ఎందుకు తీసుకుందో వివరించే సామర్థ్యాన్ని సూచిస్తుంది.
ఇది సాంకేతికంగా సవాలుతో కూడుకున్నది. కొన్ని అత్యంత శక్తివంతమైన AI మోడల్‌లు - ముఖ్యంగా డీప్ న్యూరల్ నెట్‌వర్క్‌లు - అర్థం చేసుకోవడం నిజంగా కష్టం. అవి సాధారణ వివరణకు తగ్గించబడని మార్గాల్లో మిలియన్ల లేదా బిలియన్ల పారామితులలో పనిచేస్తాయి.
యూరోపియన్ యూనియన్‌లో, GDPR (జనరల్ డేటా ప్రొటెక్షన్ రెగ్యులేషన్) వ్యక్తులను గణనీయంగా ప్రభావితం చేసే పూర్తిగా స్వయంచాలక నిర్ణయాలకు లోబడి ఉండకూడదనే హక్కును ఇస్తుంది మరియు అలాంటి నిర్ణయాలు తీసుకున్నప్పుడు అర్థవంతమైన వివరణను పొందే హక్కును అందిస్తుంది.
EU AI చట్టం (ఇది 2024లో అమల్లోకి వచ్చింది) మరింత ముందుకు వెళ్తుంది, అధిక-ప్రమాదకరమైన AI వ్యవస్థలు పారదర్శకంగా మరియు వివరించదగినవిగా ఉండాలి. హై-రిస్క్ అప్లికేషన్‌లలో హైరింగ్, లెండింగ్, హెల్త్‌కేర్, లా ఎన్‌ఫోర్స్‌మెంట్ మరియు ఎడ్యుకేషన్‌లో AI ఉన్నాయి.
LIME (లోకల్ ఇంటర్‌ప్రెటబుల్ మోడల్-అజ్ఞాతవాసి వివరణలు): సరళమైన, అర్థమయ్యే మోడల్‌తో స్థానికంగా మోడల్‌ను అంచనా వేయడం ద్వారా వ్యక్తిగత అంచనాలను వివరిస్తుంది.
SHAP (షాప్లీ సంకలిత వివరణలు): ప్రతి ఫీచర్‌కు నిర్దిష్ట అంచనా కోసం కంట్రిబ్యూషన్ స్కోర్‌ను కేటాయించడానికి గేమ్ థియరీని ఉపయోగిస్తుంది.
అటెన్షన్ విజువలైజేషన్: ట్రాన్స్‌ఫార్మర్ మోడల్స్‌లో, ప్రిడిక్షన్ చేసేటప్పుడు మోడల్ ఇన్‌పుట్‌లోని ఏ భాగాలకు ఎక్కువగా "హాజరుతోందో" మీరు ఊహించవచ్చు.
ఈ పద్ధతులు అసంపూర్ణమైనవి మరియు చురుకైన పరిశోధన కొనసాగుతుంది, కానీ అవి జవాబుదారీతనం వైపు అర్ధవంతమైన పురోగతిని సూచిస్తాయి.
AI వ్యవస్థలు డేటాపై శిక్షణ పొందుతాయి - తరచుగా బిలియన్ల మంది వ్యక్తుల నుండి వ్యక్తిగత డేటా సేకరించబడుతుంది, కొన్నిసార్లు స్పష్టమైన సమాచారం లేకుండా.
ముఖ్య ఆందోళనలు:
** శిక్షణ డేటా సమ్మతి**: ఇంటర్నెట్ నుండి స్క్రాప్ చేయబడిన వచనంపై పెద్ద భాషా నమూనాలు శిక్షణ పొందాయి. ఆ వచనంలో కొంత వ్యక్తిగత సమాచారం ఉంది. బ్లాగ్ పోస్ట్‌లు, ఫోరమ్ సందేశాలు లేదా కథనాలను వ్రాసిన వ్యక్తులు వాణిజ్య AI ఉత్పత్తులకు శిక్షణ ఇవ్వడానికి వారి పదాలను ఉపయోగించడాన్ని అంగీకరించలేదు.
డేటా నిలుపుదల: మీరు AI చాట్‌బాట్‌ను ఉపయోగించినప్పుడు, మీ సంభాషణలు నిల్వ చేయబడవచ్చు మరియు భవిష్యత్ మోడల్‌లను మెరుగుపరచడానికి సమర్థవంతంగా ఉపయోగించబడతాయి. మీ డేటాకు సరిగ్గా ఏమి జరుగుతుందో అర్థం చేసుకోవడం చాలా కష్టం.
అనుమితి దాడులు: మోడల్ నుండి శిక్షణ డేటాను సంగ్రహించడం కొన్నిసార్లు సాధ్యమవుతుంది — అక్షరార్థంగా మోడల్ దాని శిక్షణా సెట్ నుండి టెక్స్ట్ లేదా సమాచారాన్ని పునరుత్పత్తి చేస్తుంది. శిక్షణ డేటాలో కనిపించే సున్నితమైన దేనికైనా ఇది చిక్కులను కలిగి ఉంటుంది.
ముఖ గుర్తింపు: సమ్మతి లేకుండా బయోమెట్రిక్ డేటాను సేకరించడం మరియు ఉపయోగించడం తీవ్ర గోప్యతా సమస్యలను లేవనెత్తుతుంది. సరిగ్గా ఈ కారణంగానే అనేక US నగరాలు ప్రభుత్వం ముఖ గుర్తింపును ఉపయోగించడాన్ని నిషేధించాయి.
వ్యక్తుల కోసం ఉత్తమ పద్ధతులు:
AIలో భద్రత పక్షపాతానికి మించినది. వాస్తవ ప్రపంచంలో మోహరించినప్పుడు సిస్టమ్‌లు విశ్వసనీయంగా, ఊహాజనితంగా మరియు హాని కలిగించకుండా ప్రవర్తిస్తాయో లేదో ఇందులో ఉంటుంది.
భ్రాంతులు: పెద్ద భాషా నమూనాలు కొన్నిసార్లు నమ్మకంగా ధ్వనించే, చక్కగా ఆకృతీకరించబడిన, పూర్తిగా తప్పుడు సమాచారాన్ని సృష్టిస్తాయి. US కోర్టుకు కల్పిత కేసు అనులేఖనాలతో AI- రూపొందించిన బ్రీఫ్‌ను సమర్పించిన ఒక న్యాయవాది 2023లో అనుమతి పొందారు. మోడల్‌కు ఇది థింగ్స్ అప్ అని తెలియదు — ఇది ఆమోదయోగ్యమైన టెక్స్ట్‌ను రూపొందిస్తోంది.
** వ్యతిరేక ఉదాహరణలు**: ఇమేజ్‌కి చిన్న, కనిపించని మార్పులు లోతైన అభ్యాస వర్గీకరణ దానిని తప్పుగా గుర్తించడానికి కారణమవుతాయి. జాగ్రత్తగా ఉంచిన స్టిక్కర్‌లతో కూడిన స్టాప్ గుర్తును వేగ పరిమితి గుర్తుగా తప్పుగా వర్గీకరించవచ్చు. స్వయంప్రతిపత్త వాహనాలలో, ఇది నిజమైన భద్రతా చిక్కులను కలిగి ఉంటుంది.
డిస్ట్రిబ్యూషన్ షిఫ్ట్: ప్రపంచం మారినప్పుడు చారిత్రక డేటాపై శిక్షణ పొందిన మోడల్‌లు విఫలమవుతాయి. కోవిడ్-19 సమయంలో అనేక మోసాలను గుర్తించే మోడల్‌లు విఫలమయ్యాయి ఎందుకంటే కొనుగోలు ప్రవర్తన అనూహ్యంగా మారిపోయింది మరియు ఆ మార్పు కోసం మోడల్‌లు రూపొందించబడలేదు.
క్యాస్కేడింగ్ వైఫల్యాలు: ఆటోమేటెడ్ ఫైనాన్షియల్ ట్రేడింగ్ లేదా లాజిస్టిక్స్ సిస్టమ్‌ల మాదిరిగా AI సిస్టమ్‌లు పరస్పరం అనుసంధానించబడినప్పుడు - ఒకదానిలో వైఫల్యం ఇతరులలో ఊహించని వైఫల్యాలను ప్రేరేపిస్తుంది.
బాధ్యతాయుతమైన AI చెడు ఫలితాలను నివారించడం మాత్రమే కాదు. ఇది మీరు పబ్లిక్‌గా డిఫెండ్ చేయడానికి సౌకర్యంగా ఉండే వ్యవస్థలను నిర్మించడం గురించి.
AIని నిర్మించే సంస్థల కోసం:
AIని ఉపయోగించే వ్యక్తుల కోసం:
AI తటస్థంగా లేదు. ఇది ఎంపికలను ఎన్కోడ్ చేస్తుంది - ఏ డేటాను ఉపయోగించాలి, ఏ లక్ష్యం కోసం ఆప్టిమైజ్ చేయాలి, డిజైన్ ప్రక్రియలో ఎవరు పాల్గొనాలి, అనిశ్చితిని ఎలా నిర్వహించాలి. ఆ ఎంపికలు స్పృహతో లేదా విలువలను ప్రతిబింబిస్తాయి.
AI వ్యవస్థలు ఆరోగ్య సంరక్షణ, విద్య, న్యాయం, ఉపాధి, క్రెడిట్ గురించి మరింత పర్యవసానమైన నిర్ణయాలు తీసుకుంటున్నందున - ఈ హక్కును పొందడంలో వాటాలు ఎప్పుడూ ఎక్కువగా లేవు. స్కేల్‌లో అమలు చేయబడిన ఒక చెడు అల్గారిథం సమస్యను గుర్తించకముందే మిలియన్ల మంది వ్యక్తులకు హాని కలిగిస్తుంది.
శుభవార్త: బాధ్యతాయుతమైన AI అనేది పరిష్కరించదగిన సమస్య. సంపూర్ణంగా కాదు మరియు ఒకేసారి కాదు - కానీ సరైన అభ్యాసాలు, సరైన బృందాలు మరియు సరైన ఫ్రేమ్‌వర్క్‌లతో, మేము నిజంగా విశ్వసనీయమైన AI సిస్టమ్‌లను రూపొందించగలము.
ఆ పనికి AI యొక్క సాంకేతిక మరియు మానవ కోణాలు రెండింటినీ అర్థం చేసుకునే వ్యక్తులు అవసరం. దీనికి AI సిస్టమ్‌లను నిర్మించగల మరియు వాటి గురించి కఠినమైన ప్రశ్నలు అడగగల వ్యక్తులు అవసరం.
AI ఎడ్యుకాడెమీలో, బాధ్యతాయుతమైన AI అనేది ఒక ప్రత్యేక మాడ్యూల్ కాదు — ఇది మనం బోధించే ప్రతిదాని ద్వారా అల్లినది. AI నీతి మరియు భద్రతను అర్థం చేసుకోవడం మోడల్‌కు ఎలా శిక్షణ ఇవ్వాలో అర్థం చేసుకోవడం అంత ప్రాథమికమైనదని మేము నమ్ముతున్నాము.
మీరు AI నేర్చుకుంటున్నట్లయితే లేదా మీరు ఇప్పటికే ఈ రంగంలో పని చేస్తున్నట్లయితే, ఈ సమస్యలను అర్థం చేసుకోవడం మిమ్మల్ని ఒక మంచి ఇంజనీర్‌గా, మరింత విశ్వసనీయమైన పరిశోధకుడిగా మరియు మీరు గర్వించదగిన సాంకేతికతను నిర్మించగల సామర్థ్యాన్ని కలిగిస్తుంది.
👉 **మా AI నీతి మరియు బాధ్యతాయుతమైన AI వనరులను aieducademy.org**లో అన్వేషించండి - మరియు ప్రతి ఒక్కరికీ పని చేసే AIని రూపొందించడంలో సహాయపడండి.
ఏ అకాడమీ అయినా తొలి పాఠం ఉచితంగా ప్రయత్నించండి, తర్వాత మిగిలిన ప్రతి పాఠం, ప్రాజెక్టు మరియు సర్టిఫికెట్‌ను Proతో అన్‌లాక్ చేయండి.