सार्वजनिक पाठ पूर्वावलोकन
आधुनिक AI सिस्टम की हमले की सतह समझें, जेलब्रेक और प्रॉम्प्ट इंजेक्शन से लेकर विरोधी उदाहरणों और डेटा पॉइज़निंग तक, और उन्हें सुरक्षित रखने वाली रक्षा रणनीतियाँ सीखें।
इस पाठ के अंत तक, आप समझेंगे:
वास्तविक दुनिया में तैनात हर AI सिस्टम की हमले की सतह होती है। भाषा मॉडल जेलब्रेक किए जा सकते हैं, विज़न मॉडल ऐसे पिक्सेल बदलावों से धोखा खा सकते हैं जिन्हें मनुष्य देख भी न पाएँ, और प्रशिक्षण पाइपलाइन में ज़हरीला डेटा डाला जा सकता है। इन कमजोरियों को, और इनके विरुद्ध रक्षा को, समझना AI बनाने या तैनात करने वाले हर व्यक्ति के लिए ज़रूरी है।
AI सुरक्षा और रेड टीमिंग - AI सिस्टम तोड़ना और बचाना का हिस्सा है AI Canopy
AI सुरक्षा और रेड टीमिंग - AI सिस्टम तोड़ना और बचाना, AI Canopy का हिस्सा है। पूरा पाठ, क्विज़, प्रगति ट्रैकिंग और सभी अकादमी अनलॉक करने के लिए अपग्रेड करें।
7 दिन मुफ़्त। कभी भी रद्द करें, कोई सवाल नहीं पूछा जाएगा।