معاينة عامة للدرس
استكشف سطح الهجوم لأنظمة الذكاء الاصطناعي الحديثة - بدءًا من عمليات كسر الحماية والحقن الفوري وحتى أمثلة الخصومة وتسميم البيانات - وتعرف على استراتيجيات الدفاع التي تحميها.
بنهاية هذا الدرس ستفهم:
كل نظام ذكاء اصطناعي منتشر في العالم الحقيقي لديه سطح هجوم. يمكن كسر حماية نماذج اللغة، ويمكن خداع نماذج الرؤية من خلال تغييرات غير محسوسة في وحدات البكسل، ويمكن تسميم خطوط أنابيب التدريب. يعد فهم نقاط الضعف هذه - والدفاعات ضدها - أمرًا ضروريًا لأي شخص يقوم ببناء الذكاء الاصطناعي أو نشره.
سلامة الذكاء الاصطناعي والفريق الأحمر - كسر أنظمة الذكاء الاصطناعي والدفاع عنها جزء من AI Canopy
سلامة الذكاء الاصطناعي والفريق الأحمر - كسر أنظمة الذكاء الاصطناعي والدفاع عنها جزء من AI Canopy. قم بالترقية لفتح الدرس الكامل والاختبارات وتتبع التقدم وكل الأكاديميات.
مجانًا لمدة 7 أيام. ألغِ في أي وقت دون أي أسئلة.