এই নির্দেশিকাটি জেনারেটিভ এআই (GenAI) ব্যবহার করে অ্যান্ড্রয়েড অ্যাপ্লিকেশন তৈরির জন্য ডেভেলপারদের জন্য গুরুত্বপূর্ণ তথ্য প্রদান করে। GenAI ইন্টিগ্রেশন এমন অনন্য চ্যালেঞ্জ উপস্থাপন করে যা স্ট্যান্ডার্ড সফ্টওয়্যার ডেভেলপমেন্টের বাইরেও বিস্তৃত।
নতুন এবং বিকশিত AI ঝুঁকি প্রতিফলিত করার জন্য এই নির্দেশিকাটি ক্রমাগত আপডেট করা হচ্ছে। আপনার অ্যাপগুলিতে GenAI ক্ষমতা একীভূত করার সাথে সম্পর্কিত উল্লেখযোগ্য ঝুঁকিগুলি বুঝতে এবং কার্যকর প্রশমন কৌশলগুলি আবিষ্কার করতে এই বিষয়বস্তুটি ব্যবহার করুন।
দ্রুত ইনজেকশন
একজন আক্রমণকারী ক্ষতিকারক ইনপুট (প্রম্পট) তৈরি করে মডেলটিকে তার নিরাপত্তা ও সুরক্ষা নীতিগুলি এড়িয়ে যেতে বা অনিচ্ছাকৃত পদক্ষেপ নিতে প্ররোচিত করে। একটি সফল আক্রমণ মডেলটিকে সংবেদনশীল ডেটা প্রকাশ করতে, ক্ষতিকারক সামগ্রী তৈরি করতে বা অনিচ্ছাকৃত পদক্ষেপ নিতে বাধ্য করতে পারে, যা ব্যবহারকারীর আস্থা নষ্ট করে। তাৎক্ষণিক ইনজেকশন আক্রমণ কীভাবে কমানো যায় তা শিখুন।
সংবেদনশীল তথ্য প্রকাশ
জেনারেটিভ এআই মডেলগুলি সংবেদনশীল তথ্য প্রকাশের একটি উল্লেখযোগ্য ঝুঁকি তৈরি করে, সম্ভাব্যভাবে বিস্তৃত পরিসরের ডেটা ফাঁস করে যা LLM এবং এর প্রয়োগ প্রেক্ষাপট উভয়কেই প্রভাবিত করে। যখন মডেলটি এই গোপনীয় ডেটা অন্য ব্যবহারকারীদের কাছে আউটপুট করে, যখন মেশিন লার্নিং অ্যাজ আ সার্ভিস (MLaaS) প্রদানকারীরা অনিরাপদভাবে প্রম্পট সংরক্ষণ করে, অথবা যখন দূষিত ব্যক্তিরা অভ্যন্তরীণ যুক্তি প্রকাশের জন্য সিস্টেমকে কাজে লাগায় তখন ফাঁস ঘটতে পারে। এর পরিণতি গুরুতর, বৌদ্ধিক সম্পত্তি লঙ্ঘন এবং নিয়ন্ত্রক জরিমানা (উদাহরণস্বরূপ, GDPR , CCPA ) থেকে শুরু করে ব্যবহারকারীর আস্থার সম্পূর্ণ ক্ষতি এবং সিস্টেমের আপস পর্যন্ত। সংবেদনশীল তথ্য প্রকাশের ঝুঁকি কীভাবে কমানো যায় তা শিখুন।
অতিরিক্ত এজেন্সি
LLM এজেন্টদের ফাংশন বা টুলের সাথে একীভূত করে কাজ করানো নিরাপত্তা ঝুঁকি তৈরি করতে পারে। ফাংশন কলিংকে কাজে লাগানোর ক্ষতিকারক প্রম্পট অনিচ্ছাকৃত ডেটা ক্ষতির কারণ হতে পারে। ক্ষতিকারক AI ক্রিয়াকলাপ প্রতিরোধ করার জন্য সুরক্ষা ব্যবস্থা (যেমন, ব্যবহারকারীর সম্মতি, বৈধতা, অ্যাক্সেস নিয়ন্ত্রণ) বাস্তবায়নের জন্য ডেভেলপারদের দায়িত্ব। অতিরিক্ত এজেন্সি ঝুঁকি কীভাবে কমানো যায় তা শিখুন।
সারাংশ
GenAI সিস্টেমগুলিকে সুরক্ষিত করার জন্য একটি বহুমুখী পদ্ধতির প্রয়োজন যা ঐতিহ্যবাহী সাইবার নিরাপত্তা অনুশীলনগুলিকে প্রসারিত করে AI মডেলগুলির দ্বারা সৃষ্ট অনন্য চ্যালেঞ্জগুলি মোকাবেলা করার জন্য, যেমন উন্নয়ন জীবনচক্র, এবং ব্যবহারকারী এবং সিস্টেমের সাথে মিথস্ক্রিয়া। এই ব্যাপক প্রচেষ্টার মধ্যে রয়েছে সক্রিয় পরীক্ষা, ক্রমাগত পর্যবেক্ষণ, শক্তিশালী শাসন এবং বিকশিত নিয়ন্ত্রক কাঠামোর আনুগত্য। এই নীতিগুলিকে বাস্তবে রূপ দেওয়ার একটি দুর্দান্ত উপায় হল ঝুঁকিগুলিকে আরও ভালভাবে বুঝতে এবং হ্রাস করার জন্য SAIF ঝুঁকি স্ব-মূল্যায়ন এর মতো শিল্প সরঞ্জামগুলি ব্যবহার করা।