Menaces propres à l'IA générative
Injection de prompt, fuite de données, outils trop permissifs, modèles ou dépendances piégés. Les agents multiplient la surface d'attaque.
Dans la roadmap
Ressources
- garak : tester la robustesse d'un modèle
Référence open source
- OWASP Top 10 pour les applications LLM
Documentation