คู่มือนี้ให้ข้อมูลที่สำคัญสำหรับนักพัฒนาแอปที่สร้างแอปพลิเคชัน Android โดยใช้ Generative AI (GenAI) การผสานรวม GenAI ทำให้เกิดความท้าทายที่ไม่เหมือนใคร ซึ่งนอกเหนือจากการพัฒนาซอฟต์แวร์มาตรฐาน
เราอัปเดตคู่มือนี้อย่างต่อเนื่องเพื่อสะท้อนความเสี่ยงด้าน AI ใหม่ๆ ที่เปลี่ยนแปลงไป ใช้เนื้อหานี้เพื่อทำความเข้าใจความเสี่ยงที่สำคัญซึ่งเกี่ยวข้องกับการผสานรวมความสามารถของ GenAI เข้ากับแอปของคุณ และค้นหากลยุทธ์การลดความเสี่ยงที่มีประสิทธิภาพ
การแทรกพรอมต์
ผู้โจมตีสร้างอินพุตที่เป็นอันตราย (พรอมต์) เพื่อหลอกให้โมเดลข้าม นโยบายด้านความปลอดภัยหรือดำเนินการที่ไม่พึงประสงค์ การโจมตีที่ประสบความสำเร็จอาจทำให้โมเดลเปิดเผยข้อมูลที่ละเอียดอ่อน สร้างเนื้อหาที่เป็นอันตราย หรือดำเนินการที่ไม่พึงประสงค์ ซึ่งจะทำลายความไว้วางใจของผู้ใช้ ดูวิธีลดการโจมตีแบบแทรกพรอมต์
การเปิดเผยข้อมูลที่ละเอียดอ่อน
โมเดล Generative AI มีความเสี่ยงอย่างมากที่จะทำให้ข้อมูลที่ละเอียดอ่อน รั่วไหล ซึ่งอาจทำให้ข้อมูลจำนวนมากรั่วไหลและส่งผลกระทบต่อทั้ง LLM และ บริบทของแอปพลิเคชัน การรั่วไหลอาจเกิดขึ้นเมื่อโมเดลแสดงข้อมูลที่เป็นความลับนี้ต่อผู้ใช้รายอื่น เมื่อผู้ให้บริการแมชชีนเลิร์นนิงในรูปแบบบริการ (MLaaS) จัดเก็บพรอมต์อย่างไม่ปลอดภัย หรือเมื่อผู้ไม่ประสงค์ดีใช้ประโยชน์จากระบบเพื่อเปิดเผยตรรกะภายใน ผลที่ตามมานั้นรุนแรง ตั้งแต่การละเมิดทรัพย์สินทางปัญญาและบทลงโทษตามกฎระเบียบ (เช่น GDPR, CCPA) ไปจนถึงการสูญเสียความไว้วางใจของผู้ใช้และการประนีประนอมระบบโดยสิ้นเชิง ดูวิธีลดความเสี่ยงจากการเปิดเผยข้อมูลที่ละเอียดอ่อน
การแทรกแซงมากเกินไป
การผสานรวมเอเจนต์ LLM กับฟังก์ชันหรือเครื่องมือเพื่อดำเนินการอาจ ทำให้เกิดความเสี่ยงด้านความปลอดภัย พรอมต์ที่เป็นอันตรายซึ่งใช้ประโยชน์จากการเรียกใช้ฟังก์ชันอาจ ทำให้ข้อมูลสูญหายโดยไม่ตั้งใจ นักพัฒนาแอปมีหน้าที่ในการใช้ มาตรการป้องกัน (เช่น ความยินยอมของผู้ใช้ การตรวจสอบ การควบคุมการเข้าถึง) เพื่อป้องกันการดำเนินการที่เป็นอันตรายของ AI ดูวิธีลดความเสี่ยงของเอเจนซีที่มากเกินไป
สรุป
การรักษาความปลอดภัยของระบบ GenAI ต้องใช้แนวทางที่หลากหลายซึ่งขยาย แนวทางปฏิบัติด้านการรักษาความปลอดภัยทางไซเบอร์แบบเดิมเพื่อรับมือกับความท้าทายเฉพาะตัวที่เกิดจากโมเดล AI เช่น วงจรการพัฒนา และการโต้ตอบกับผู้ใช้และระบบ ความพยายามที่ครอบคลุมนี้รวมถึงการทดสอบเชิงรุก การตรวจสอบอย่างต่อเนื่อง การกำกับดูแลที่เข้มงวด และการปฏิบัติตามกรอบการกำกับดูแลที่พัฒนาอย่างต่อเนื่อง วิธีที่ยอดเยี่ยม ในการนำหลักการเหล่านี้ไปใช้จริงคือการใช้เครื่องมือในอุตสาหกรรม เช่น SAIF การประเมินความเสี่ยงด้วยตนเอง เพื่อทำความเข้าใจและลดความเสี่ยงให้ดียิ่งขึ้น