Bu kılavuz, üretken yapay zeka (GenAI) kullanarak Android uygulamaları geliştiren geliştiriciler için önemli bilgiler sağlar. Üretken yapay zeka entegrasyonu, standart yazılım geliştirmenin ötesine geçen benzersiz zorluklar sunar.
Bu kılavuz, yeni ve gelişen yapay zeka risklerini yansıtacak şekilde sürekli olarak güncellenmektedir. Üretken yapay zeka özelliklerini uygulamalarınıza entegre etmeyle ilişkili önemli riskleri anlamak ve etkili azaltma stratejilerini keşfetmek için bu içerikten yararlanın.
İstem yerleştirme
Saldırgan, modeli güvenlik ve emniyet politikalarını atlatmaya veya istenmeyen eylemler gerçekleştirmeye ikna etmek için kötü amaçlı girişler (istemler) oluşturur. Başarılı bir saldırı, modelin hassas verileri ortaya çıkarmasına, zararlı içerik oluşturmasına veya istenmeyen eylemler gerçekleştirmesine neden olarak kullanıcıların güvenini zedeleyebilir. İstem enjeksiyonu saldırılarını nasıl azaltacağınızı öğrenin.
Hassas bilgilerin ifşası
Üretken yapay zeka modelleri, hassas bilgilerin ifşa edilmesi konusunda önemli bir risk oluşturur. Bu modeller, hem LLM'yi hem de uygulama bağlamını etkileyen çok çeşitli verilerin sızmasına neden olabilir. Sızıntılar, model bu gizli verileri diğer kullanıcılara verdiğinde, hizmet olarak makine öğrenimi (MLaaS) sağlayıcıları istemleri güvenli olmayan bir şekilde depoladığında veya kötü niyetli kişiler sistemi iç mantığı ortaya çıkarmak için kullandığında meydana gelebilir. Sonuçları, fikri mülkiyet ihlalleri ve yasal cezalar (ör. GDPR, CCPA) ile kullanıcı güveninin tamamen kaybedilmesi ve sistemin tehlikeye atılması arasında değişen ciddi boyutlardadır. Hassas bilgilerin ifşa edilmesi riskini nasıl azaltacağınızı öğrenin.
Aşırı ajans
LLM aracılarını, işlem yapmak için işlevler veya araçlarla entegre etmek güvenlik risklerine yol açabilir. İşlev çağrısından yararlanan kötü amaçlı istemler, istenmeyen veri kaybına yol açabilir. Geliştiriciler, zararlı yapay zeka işlemlerini önlemek için koruma önlemleri (ör. kullanıcı izni, doğrulama, erişim kontrolleri) uygulamaktan sorumludur. Aşırı ajans riskini nasıl azaltacağınızı öğrenin.
Özet
Üretken yapay zeka sistemlerinin güvenliğini sağlamak için geleneksel siber güvenlik uygulamalarını genişleterek yapay zeka modellerinin sunduğu benzersiz zorlukları (ör. geliştirme yaşam döngüsü, kullanıcılar ve sistemlerle etkileşimler) ele alan çok yönlü bir yaklaşım gerekir. Bu kapsamlı çalışma; proaktif testler, sürekli izleme, güçlü yönetişim ve gelişen yasal çerçevelere uyumu içerir. Bu ilkeleri uygulamaya geçirmenin harika bir yolu, riskleri daha iyi anlamak ve azaltmak için SAIF Risk Öz Değerlendirmesi gibi sektör araçlarını kullanmaktır.