Outil de test et de red-teaming pour applications LLM (promptfoo)

Compare prompts et modèles côte à côte, détecte automatiquement les failles avant mise en production

Ce qu'il faut

Niveau: N1 · Simple à mettre en place — Vous déposez un fichier fourni dans un outil que vous utilisez déjà. Rien à héberger ni à configurer en profondeur.
Serveur requis: Non
Réglages requis: Non (dépôt d'un fichier)
Licence: Projet tiers sous licence permissive (MIT) : utilisation, modification et redistribution permises selon ses termes, avec conservation des mentions de droit d'auteur et du texte de licence. Le texte de la licence d'origine, publié dans le dépôt source, fait foi.

Promptfoo est l'outil de test et de red-teaming pour applications LLM : il permet de comparer des prompts, des modèles et des pipelines RAG côte à côte, et d'automatiser la détection de failles (prompt injection, jailbreaks, fuite de données) avant mise en production. Sa configuration déclarative s'intègre facilement dans un pipeline CI/CD.

Licence et attribution : ce produit référence le projet open source promptfoo (https://github.com/promptfoo/promptfoo), distribué sous licence MIT (texte complet : https://github.com/promptfoo/promptfoo/blob/main/LICENSE). Tous droits conservés par ses auteurs d'origine ; cette fiche est une présentation rédigée par Marketia.