ModelRed

0 avis

ModelRed est une plateforme de test de sécurité automatisée pour les modèles d'IA. Elle effectue des tests d'adversité contre les LLMs pour identifier les vulnérabilités, y compris l'injection de prompt, les évasions, les fuites de données, les hallucinations et les violations de conformité. La plateforme comprend plus de 200 packs de sondes préconstruits couvrant des scénarios spécifiques à des domaines (médical, financier, juridique) et un marché où les chercheurs en sécurité peuvent contribuer avec des méthodologies de test spécialisées. Les utilisateurs reçoivent des scores de sécurité, des rapports détaillés sur les vulnérabilités et des conseils de remédiation. ModelRed s'intègre aux pipelines CI/CD pour des tests continus et fournit un accès API pour des évaluations de sécurité programmatiques.