Aller au contenu
ADAMA OSESG · DATA · SYSTEMS
RecruteurProfil, preuves, disponibilitéÉchangeons

JOURNAL DES DÉCISIONS DEC-007

Échouer explicitement plutôt que répondre sans source

Statut
AcceptéeEn vigueur aujourd’hui.
Date
Portée
Ce cockpit
Impact
Conformité
Réversibilité
Revenir en arrière est simple

Cette décision en remplace une autre. Lire DEC-104, Générer une réponse sans contexte plutôt qu’échouer

Contexte

L’assistant du site répond à partir des passages récupérés dans son corpus. Quand la récupération échouait, il générait quand même une réponse.

Cette réponse était fluide, plausible, et fondée sur rien. Elle ressemblait exactement à une réponse fondée.

Un assistant qui répond quand il ne sait pas est plus dangereux qu’un assistant qui tombe en panne, parce que sa panne ne se voit pas.

Options envisagées

  • Retenue

    Répondre par une erreur explicite

    Une panne visible se corrige. Une réponse inventée se propage.

  • Écartée

    Générer une réponse prudente sans contexte

    La prudence d’une formulation ne compense pas l’absence de source. Le lecteur n’a aucun moyen de faire la différence.

Décision

Quand la récupération documentaire échoue, l’assistant renvoie une erreur explicite et ne génère rien.

Raisonnement

Technique
L’échec est renvoyé en code de service indisponible, avec un message lisible, plutôt qu’en réponse deux cents accompagnée d’un texte.
Réglementaire
Une réponse sur un texte réglementaire sans passage à l’appui n’a aucune valeur, et peut en avoir une négative si l’utilisateur s’y fie.
Économique
Un appel de génération économisé à chaque incident, et une conversation interrompue plutôt qu’une conversation trompeuse.

Compromis accepté

L’assistant paraît fragile : il refuse de répondre là où un concurrent aurait dit quelque chose. C’est le comportement voulu, et il faut l’expliquer.

DÉCISION · CODE · RÉSULTAT

  1. LA DÉCISION

    Quand la récupération documentaire échoue, l’assistant renvoie une erreur explicite et ne génère rien.

  2. LE CODE QU’ELLE A PRODUIT
  3. LE RÉSULTAT OBSERVÉ

    Soixante-six lignes modifiées dans la route de l’assistant au commit 3d10bef, plus un garde-fou de débit. La route renvoie un service indisponible assorti d’un message, et n’appelle pas le modèle.

Le principe que cette décision gouverne

L’IA propose, le système décide.

Voir d’où viennent les six principes

LE JOURNAL COMPLET

Toutes les décisions, au même format.

Elles se comparent : même gabarit, même vocabulaire, même exigence de trace.

Revenir au journal