इस गाइड में, जनरेटिव एआई (जेन एआई) का इस्तेमाल करके Android ऐप्लिकेशन बनाने वाले डेवलपर के लिए ज़रूरी जानकारी दी गई है. जेन एआई को इंटिग्रेट करने से जुड़ी कुछ खास चुनौतियां हैं. ये चुनौतियां, सॉफ़्टवेयर डेवलपमेंट की सामान्य चुनौतियों से अलग हैं.
एआई से जुड़े नए और बढ़ते जोखिमों के बारे में बताने के लिए, इस गाइड को लगातार अपडेट किया जाता है. इस कॉन्टेंट का इस्तेमाल करके, अपने ऐप्लिकेशन में जेन एआई की सुविधाएं इंटिग्रेट करने से जुड़े अहम जोखिमों के बारे में जानें. साथ ही, जोखिमों को कम करने की असरदार रणनीतियों के बारे में जानें.
प्रॉम्प्ट इंजेक्शन
हमलावर, मॉडल को धोखा देने के लिए नुकसान पहुंचाने वाले इनपुट (प्रॉम्प्ट) तैयार करता है, ताकि वह सुरक्षा और सुरक्षा से जुड़ी नीतियों को दरकिनार कर सके या अनचाही कार्रवाइयां कर सके. अगर हमला सफल हो जाता है, तो मॉडल संवेदनशील डेटा का खुलासा कर सकता है, नुकसान पहुंचाने वाला कॉन्टेंट जनरेट कर सकता है या अनचाहे काम कर सकता है. इससे उपयोगकर्ता का भरोसा टूट सकता है. प्रॉम्प्ट इंजेक्शन अटैक से बचने का तरीका जानें.
संवेदनशील जानकारी का खुलासा
जनरेटिव एआई मॉडल से, संवेदनशील जानकारी के ज़ाहिर होने का खतरा होता है. इससे एलएलएम और उसके ऐप्लिकेशन कॉन्टेक्स्ट, दोनों पर असर डालने वाला डेटा लीक हो सकता है. मॉडल के इस गोपनीय डेटा को अन्य उपयोगकर्ताओं के साथ शेयर करने पर, डेटा लीक हो सकता है. इसके अलावा, मशीन लर्निंग ऐज़ अ सर्विस (एमएलएएएस) की सेवा देने वाली कंपनियां, प्रॉम्प्ट को असुरक्षित तरीके से सेव करती हैं. साथ ही, जब बुरे इरादे वाले लोग सिस्टम का इस्तेमाल करके, इंटरनल लॉजिक का पता लगाते हैं, तब भी डेटा लीक हो सकता है. इसके गंभीर नतीजे हो सकते हैं. जैसे, बौद्धिक संपदा के अधिकारों का उल्लंघन, कानूनी जुर्माना (उदाहरण के लिए, जीडीपीआर, सीसीपीए), उपयोगकर्ताओं का भरोसा पूरी तरह से खत्म होना, और सिस्टम से समझौता करना. संवेदनशील जानकारी के खुलासे के जोखिम को कम करने का तरीका जानें.
एजेंसी का बहुत ज़्यादा दख़ल
कार्रवाइयां करने के लिए, एलएलएम एजेंट को फ़ंक्शन या टूल के साथ इंटिग्रेट करने से सुरक्षा से जुड़े जोखिम पैदा हो सकते हैं. फ़ंक्शन कॉलिंग का गलत इस्तेमाल करने वाले नुकसान पहुंचाने वाले प्रॉम्प्ट की वजह से, अनचाहा डेटा मिट सकता है. डेवलपर की यह ज़िम्मेदारी है कि वे एआई की नुकसान पहुंचाने वाली कार्रवाइयों को रोकने के लिए, सुरक्षा से जुड़े उपाय लागू करें. जैसे, उपयोगकर्ता की सहमति लेना, पुष्टि करना, और ऐक्सेस कंट्रोल करना. एजेंसी से जुड़े जोखिम को कम करने का तरीका जानें.
खास जानकारी
GenAI सिस्टम को सुरक्षित रखने के लिए, कई तरह के तरीकों का इस्तेमाल करना ज़रूरी है. इसमें साइबर सुरक्षा के पारंपरिक तरीकों को बेहतर बनाना भी शामिल है. इससे एआई मॉडल से जुड़ी खास चुनौतियों से निपटा जा सकता है. जैसे, डेवलपमेंट लाइफ़साइकल और उपयोगकर्ताओं और सिस्टम के साथ इंटरैक्शन. इसमें सक्रिय रूप से टेस्टिंग करना, लगातार निगरानी रखना, मज़बूत गवर्नेंस, और लगातार बदल रहे कानूनी फ़्रेमवर्क का पालन करना शामिल है. इन सिद्धांतों को लागू करने का सबसे अच्छा तरीका यह है कि आप इंडस्ट्री के टूल इस्तेमाल करें. जैसे, SAIF के जोखिम का खुद आकलन करने वाला टूल. इससे आपको जोखिमों को बेहतर तरीके से समझने और उन्हें कम करने में मदद मिलेगी.