ما هو الذكاء الاصطناعي المسؤول ولماذا هو مهم؟ يشرح هذا الدليل تحيز الذكاء الاصطناعي، والعدالة، والشفافية، والخصوصية، والسلامة بلغة واضحة - مع أمثلة حقيقية على الأخطاء التي تحدث وكيف يمكننا أن نفعل ما هو أفضل.
وفي عام 2018، ألغت أمازون أداة توظيف تعمل بالذكاء الاصطناعي كانت تعمل على تطويرها لمدة أربع سنوات. تم تصميم النظام لتقييم المرشحين للوظائف على مقياس من نجمة إلى خمس نجوم. المشكلة: أنها تعلمت معاقبة السير الذاتية التي تتضمن كلمة "نساء" - كما هو الحال في "نادي الشطرنج النسائي" - وخفض مستوى الخريجين من كليات البنات. وقد تم تدريب النظام على بيانات التوظيف التاريخية التي تعكس الأنماط السابقة لهيمنة الذكور في مجال التكنولوجيا. لقد تعلمت تلك الأنماط وقامت بتضخيمها.
حاول مهندسو أمازون إصلاح هذا التحيز، لكنهم في النهاية لم يتمكنوا من ضمان أن النظام كان محايدًا. لقد أغلقوه.
هذه هي الحافة الحادة للذكاء الاصطناعي المسؤول: فالأنظمة المبنية على نوايا حسنة يمكن أن تلحق الضرر بشكل منهجي بأشخاص حقيقيين عندما يتم نشرها دون التفكير الكافي في العدالة والمساءلة والشفافية.
نظرًا لأن الذكاء الاصطناعي أصبح جزءًا لا يتجزأ من التوظيف والإقراض والرعاية الصحية والعدالة الجنائية والتعليم وغير ذلك، فإن الحصول على هذا الحق ليس أمرًا اختياريًا. يشرح هذا الدليل القضايا الرئيسية بوضوح - بدون لغة اصطلاحية أو التلويح باليد.
يشير الذكاء الاصطناعي المسؤول إلى ممارسة تطوير أنظمة الذكاء الاصطناعي ونشرها وصيانتها بطرق آمنة وعادلة وشفافة وخاضعة للمساءلة ومتوافقة مع القيم الإنسانية.
لا يتعلق الأمر فقط بتجنب الضرر (على الرغم من أن هذا أمر بالغ الأهمية). يتعلق الأمر ببناء ذكاء اصطناعي يمكن للناس الوثوق به - أنظمة يمكن تفسير قراراتها والاعتراض عليها وتصحيحها.
يشمل المجال عدة اهتمامات مترابطة:
إن التحيز في الذكاء الاصطناعي ليس خطأ برمجيًا يمكنك إصلاحه باستخدام التصحيح. إنه انعكاس للعالم، وتحديدًا للبيانات المتحيزة التي ولّدها العالم تاريخيًا.
1. بيانات التدريب المتحيزة
تتعلم نماذج الذكاء الاصطناعي من البيانات. إذا كانت تلك البيانات تعكس عدم المساواة التاريخية، فإن النموذج يتعلم تلك عدم المساواة كما لو كانت قواعد.
مثال: نظام التعرف على الوجه الذي تم تدريبه بشكل أساسي على الوجوه ذات البشرة الفاتحة، كان أداؤه سيئًا على الوجوه ذات البشرة الداكنة. وجدت دراسة أجريت عام 2018 بواسطة Joy Buolamwini وTimnit Gebru (دراسة "Gender Shades") أن أنظمة التعرف على الوجه التجارية الرائدة لديها معدلات خطأ أعلى بنسبة تصل إلى 34٪ بالنسبة للنساء ذوات البشرة الداكنة مقارنة بالرجال ذوي البشرة الفاتحة. لم يكن هذا خبثًا، بل كان بيانات تدريب لا تمثل تنوع الوجوه البشرية.
2. تحيز التسمية
عندما يقوم البشر بتسمية بيانات التدريب، يتم تشفير تحيزاتهم. إذا قام واضعو العلامات البشرية بربط الصور "الاحترافية" باستمرار مع الرجال أو الأشخاص البيض، فإن النموذج يتعلم هذا الارتباط.
3. حلقات ردود الفعل
عندما يتم نشر نموذج متحيز وتؤثر توقعاته على جمع البيانات في المستقبل، فإن التحيز يتفاقم. إن نموذج الشرطة التنبؤي الذي يركز الشرطة في أحياء معينة يولد المزيد من الاعتقالات هناك، مما يخلق المزيد من البيانات التي تشير إلى أن الحي مرتفع الجريمة، مما يركز المزيد من الشرطة هناك. الدورة تعزز نفسها.
4. متغيرات الوكيل
في بعض الأحيان يتعلم النموذج استخدام ميزات تبدو محايدة كوكلاء للخصائص المحمية. يمكن أن يكون الرمز البريدي وكيلاً للعرق. يمكن أن يكون الالتحاق بالجامعة بمثابة مؤشر للخلفية الاجتماعية والاقتصادية. لا يستخدم النموذج العرق بشكل صريح، لكنه يفعل ذلك بشكل فعال.
5. بيانات تاريخية تعكس الظلم التاريخي
وإذا تم استبعاد النساء تاريخيا من مهن معينة، فإن النماذج المدربة على البيانات التاريخية سوف تتعلم أنه من غير المرجح أن تعمل النساء في تلك المهن ــ وقد يؤدي ذلك إلى إدامة هذا الاستبعاد.
هذه ليست افتراضات. حدث هذا.
خوارزمية العودة إلى الإجرام كومباس: تُستخدم في محاكم الولايات المتحدة للتنبؤ باحتمال عودة المدعى عليه إلى ارتكاب الجريمة. توصل تحقيق أجرته ProPublica عام 2016 إلى أن النظام كان أكثر عرضة بمرتين لوضع علامة زائفة على المتهمين السود باعتبارهم معرضين للخطر الشديد مقارنة بالمدعى عليهم البيض، في حين وصف المدعى عليهم البيض بشكل خاطئ بأنهم منخفضي المخاطر في كثير من الأحيان. أثرت هذه النتائج على قرارات الكفالة وإصدار الأحكام.
مقاييس التأكسج النبضي خلال فيروس كورونا (كوفيد-19): ليس الذكاء الاصطناعي بشكل صارم، ولكنه توضيحي للمجال الطبي. وتبين أن أجهزة قياس التأكسج النبضي - التي تقيس مستويات الأكسجين في الدم - أقل دقة لدى المرضى ذوي البشرة الداكنة، مما قد يتسبب في تأخير العلاج. وقد ورث الذكاء الاصطناعي الطبي المدرب على البيانات الواردة من هذه الأجهزة نفس الخلل.
** حدود ائتمان بطاقة Apple **: في عام 2019، أفاد العديد من المستخدمين أن خوارزمية Apple Card منحت النساء حدودًا ائتمانية أقل بكثير من الرجال ذوي الملفات المالية المماثلة أو الأفضل. كانت الخوارزمية عبارة عن صندوق أسود، ولم يتمكن المتقدمون ولا شركة أبل من تفسير السبب بسهولة.
تخصيص موارد الرعاية الصحية: تبين أن خوارزمية رعاية صحية منتشرة على نطاق واسع في الولايات المتحدة تقلل بشكل منهجي من احتياجات الرعاية الصحية للمرضى السود مقارنة بالمرضى البيض المصابين بنفس القدر. لقد استخدمت الإنفاق على الرعاية الصحية كبديل لاحتياجات الرعاية الصحية - لكن المرضى السود تلقوا تاريخياً رعاية أقل، لذا فإن انخفاض الإنفاق لا يعني انخفاض الحاجة.
عندما يتخذ نظام الذكاء الاصطناعي قرارًا مهمًا بشأنك - طلب القرض الخاص بك، أو طلب الوظيفة، أو جلسة الاستماع للكفالة، أو فحص السرطان - فإن لديك مصلحة مشروعة في فهم السبب.
قابلية التفسير (وتسمى أيضًا قابلية التفسير) تشير إلى القدرة على شرح كيف ولماذا اتخذ نظام الذكاء الاصطناعي قرارًا محددًا.
وهذا يمثل تحديا من الناحية الفنية. من الصعب حقًا تفسير بعض أقوى نماذج الذكاء الاصطناعي - وخاصة الشبكات العصبية العميقة. إنها تعمل عبر ملايين أو مليارات من المعلمات بطرق لا يمكن اختزالها في تفسير بسيط.
في الاتحاد الأوروبي، يمنح النظام العام لحماية البيانات (GDPR) الأفراد الحق في عدم الخضوع لقرارات آلية بحتة تؤثر عليهم بشكل كبير، والحق في الحصول على تفسير مفيد عند اتخاذ مثل هذه القرارات.
ويذهب قانون الذكاء الاصطناعي للاتحاد الأوروبي (الذي دخل حيز التنفيذ في عام 2024) إلى أبعد من ذلك، حيث يتطلب أن تكون أنظمة الذكاء الاصطناعي عالية المخاطر شفافة وقابلة للتفسير. تشمل التطبيقات عالية المخاطر الذكاء الاصطناعي في التوظيف والإقراض والرعاية الصحية وإنفاذ القانون والتعليم.
** LIME (تفسيرات غير محددة للنموذج المحلي القابل للتفسير)**: يشرح التنبؤات الفردية عن طريق تقريب النموذج محليًا باستخدام نموذج أبسط وقابل للتفسير.
SHAP (شرحات SHapley Additive): تستخدم نظرية اللعبة لتعيين درجة مساهمة لكل ميزة لتنبؤ محدد.
تصور الانتباه: في نماذج المحولات، يمكنك تصور أجزاء الإدخال التي "اهتم بها" النموذج أكثر عند إجراء التنبؤ.
هذه التقنيات غير كاملة والأبحاث النشطة مستمرة، لكنها تمثل تقدمًا ملموسًا نحو المساءلة.
يتم تدريب أنظمة الذكاء الاصطناعي على البيانات، والتي غالبًا ما تكون بيانات شخصية يتم جمعها من مليارات الأشخاص، وأحيانًا دون موافقة واضحة ومستنيرة.
** المخاوف الرئيسية: **
الموافقة على بيانات التدريب: تم تدريب نماذج اللغات الكبيرة على النص المستخرج من الإنترنت. يحتوي بعض هذا النص على معلومات شخصية. لم يوافق الأشخاص الذين كتبوا منشورات على المدونات أو رسائل المنتديات أو المقالات على استخدام كلماتهم لتدريب منتجات الذكاء الاصطناعي التجارية.
الاحتفاظ بالبيانات: عند استخدام روبوت الدردشة المدعم بالذكاء الاصطناعي، قد يتم تخزين محادثاتك وربما استخدامها لتحسين النماذج المستقبلية. غالبًا ما يكون من الصعب فهم ما يحدث لبياناتك بالضبط.
الهجمات الاستدلالية: من الممكن في بعض الأحيان استخراج بيانات التدريب من النموذج، مما يؤدي فعليًا إلى قيام النموذج بإعادة إنتاج النص أو المعلومات من مجموعة التدريب الخاصة به. وهذا له آثار على أي شيء حساس يظهر في بيانات التدريب.
التعرف على الوجه: يثير جمع البيانات البيومترية واستخدامها دون موافقة مخاوف عميقة تتعلق بالخصوصية. وقد حظرت العديد من المدن الأمريكية استخدام الحكومة للتعرف على الوجه لهذا السبب بالضبط.
أفضل الممارسات للأفراد:
السلامة في الذكاء الاصطناعي تتجاوز التحيز. ويشمل ذلك ما إذا كانت الأنظمة تتصرف بشكل موثوق ويمكن التنبؤ به ودون التسبب في ضرر عند نشرها في العالم الحقيقي.
الهلوسة: تولد النماذج اللغوية الكبيرة أحيانًا معلومات تبدو واثقة وجيدة التنسيق وخاطئة تمامًا. تمت معاقبة المحامي الذي قدم ملخصًا تم إنشاؤه بواسطة الذكاء الاصطناعي مع استشهادات قضية ملفقة إلى محكمة أمريكية في عام 2023. ولم يكن النموذج يعلم أنه يختلق الأشياء، بل كان ينتج نصًا يبدو معقولاً.
أمثلة عدائية: يمكن أن تؤدي التغييرات الصغيرة وغير المحسوسة في الصورة إلى أن يخطئ مصنف التعلم العميق في تعريفها بشكل خاطئ. يمكن أن يتم تصنيف علامة التوقف ذات الملصقات الموضوعة بعناية بشكل خاطئ على أنها علامة حد للسرعة. وفي المركبات ذاتية القيادة، يكون لهذا آثار حقيقية على السلامة.
تحول التوزيع: يمكن أن تفشل النماذج التي تم تدريبها على البيانات التاريخية عندما يتغير العالم. فشلت العديد من نماذج الكشف عن الاحتيال أثناء انتشار فيروس كورونا (COVID-19) لأن سلوك الشراء تغير بشكل كبير ولم تكن النماذج مصممة لهذا التحول.
الإخفاقات المتتالية: عندما تكون أنظمة الذكاء الاصطناعي مترابطة - كما هو الحال في أنظمة التداول المالي أو الأنظمة اللوجستية الآلية - يمكن أن يؤدي الفشل في أحدها إلى حدوث فشل غير متوقع في الأنظمة الأخرى.
لا يقتصر الذكاء الاصطناعي المسؤول على تجنب النتائج السيئة فحسب. يتعلق الأمر ببناء أنظمة سيكون من المريح لك الدفاع عنها علنًا.
بالنسبة للمؤسسات التي تبني الذكاء الاصطناعي:
للأفراد الذين يستخدمون الذكاء الاصطناعي:
الذكاء الاصطناعي ليس محايدا. فهو يقوم بتشفير الخيارات - حول البيانات التي يجب استخدامها، والهدف الذي يجب تحسينه، ومن يجب إشراكه في عملية التصميم، وكيفية التعامل مع عدم اليقين. وتعكس هذه الاختيارات القيم، بوعي أو بغير وعي.
وبينما تتخذ أنظمة الذكاء الاصطناعي قرارات أكثر أهمية - فيما يتعلق بالرعاية الصحية والتعليم والعدالة والتوظيف والائتمان - فإن المخاطر المرتبطة بالحصول على هذا الحق لم تكن أعلى من أي وقت مضى. يمكن للخوارزمية السيئة المنشورة على نطاق واسع أن تلحق الضرر بملايين الأشخاص حتى قبل تحديد المشكلة.
والخبر السار هو أن الذكاء الاصطناعي المسؤول يمثل مشكلة قابلة للحل. ليس بشكل مثالي، وليس دفعة واحدة - ولكن من خلال الممارسات الصحيحة والفرق المناسبة والأطر الصحيحة، يمكننا بناء أنظمة ذكاء اصطناعي جديرة بالثقة حقًا.
يتطلب هذا العمل أشخاصًا يفهمون الأبعاد التقنية والإنسانية للذكاء الاصطناعي. يتطلب الأمر أشخاصًا يمكنهم بناء أنظمة الذكاء الاصطناعي وطرح أسئلة صعبة عنها.
في AI Educademy، الذكاء الاصطناعي المسؤول ليس وحدة منفصلة - فهو منسوج في كل ما نقوم بتدريسه. نحن نؤمن بأن فهم أخلاقيات الذكاء الاصطناعي وسلامته أمر أساسي مثل فهم كيفية تدريب النموذج.
إذا كنت تتعلم الذكاء الاصطناعي، أو إذا كنت تعمل بالفعل في هذا المجال، فإن فهم هذه المشكلات يجعلك مهندسًا أفضل، وباحثًا أكثر مصداقية، وشخصًا قادرًا على بناء التكنولوجيا التي يمكنك أن تفخر بها.
👉 استكشف أخلاقيات الذكاء الاصطناعي لدينا وموارد الذكاء الاصطناعي المسؤولة على aieducademy.org - وساعد في بناء الذكاء الاصطناعي الذي يناسب الجميع.
جرّب أول درس في أي أكاديمية مجانًا، ثم افتح كل درس ومشروع وشهادة متبقية مع Pro.