MirLabs / Le labo / Le prompt contre le code
Prévue
Le prompt contre le code
Pour éviter les fautes d'un agent, combien rapporte une consigne de sécurité dans le prompt, et combien une garde dans le code ?
Résultat
Pas encore de résultat.
Protocole
Le même agent passe les mêmes pièges dans trois montages : un prompt simple, un prompt chargé de consignes de sécurité, et le prompt simple avec une garde dans le code qui refuse les actes interdits. On compte les fautes dans chaque montage.
Limites
Une garde ne vaut que pour les actes qu'elle connaît : le résultat dira ce qu'elle bloque dans ces pièges-là, pas dans tous.