Veri/Model Zehirleme — ModeratorAI'nin Backdoor'u

OWASP LLM04: Data and Model Poisoning

ModeratorAI bir içerik moderasyon sınıflandırıcısıdır. Eğitim verisine zehirli bir örnek enjekte edilmiş ve model, özel bir TETİK ifadesi gördüğünde 'admin' çıktısı verip gizli anahtarı döndüren bir backdoor öğrenmiştir. Sızan eğitim verisinden tetik ifadesini bul ve backdoor'u çalıştırarak bayrağı ele geçir.

Bu odayı çözmeye başla →

Tarayıcı üzerinden çalışır; kurulum gerekmez. Zorluk: Zor. Dil: Türkçe.

Bu oda hangi öğrenme yollarında var

Benzer odalar