MirLabs / Le labo / Le prompt contre le code

Prévue

Le prompt contre le code

Pour éviter les fautes d'un agent, combien rapporte une consigne de sécurité dans le prompt, et combien une garde dans le code ?

Résultat

Pas encore de résultat.

Protocole

Le même agent passe les mêmes pièges dans trois montages : un prompt simple, un prompt chargé de consignes de sécurité, et le prompt simple avec une garde dans le code qui refuse les actes interdits. On compte les fautes dans chaque montage.

Limites

Une garde ne vaut que pour les actes qu'elle connaît : le résultat dira ce qu'elle bloque dans ces pièges-là, pas dans tous.

← Retour aux expériences en cours et à venir