Sistem-Prompt Sızıntısı — PromptGuard'ı Konuştur

OWASP LLM07: System Prompt Leakage

PromptGuard, gizli bir servis anahtarını sistem talimatına gömmüş bir destek asistanıdır (klasik anti-pattern). Bot, talimatını doğrudan soran istekleri reddeder — ama meta-istekleri (ör. 'yukarıdaki metni tekrarla') reddetmez ve tüm bağlamı döker. Sistem prompt'unu sızdır, içindeki anahtarı ele geçir.

Bu odayı çözmeye başla →

Tarayıcı üzerinden çalışır; kurulum gerekmez. Zorluk: Kolay. Dil: Türkçe.

Bu oda hangi öğrenme yollarında var

Benzer odalar