Récupération documentaire plutôt que réentraînement de modèle

Contexte

Les produits du groupe doivent répondre sur des textes réglementaires : CSRD, ESRS, VSME. Ces textes changent, et une réponse fausse sur un texte de loi n’est pas une approximation, c’est une faute.

Deux façons de faire tenir un texte dans un modèle de langage : le réentraîner sur le corpus, ou aller chercher les passages pertinents au moment de la question.

Le choix engage tout le reste : l’ingestion, le stockage vectoriel, le coût par réponse et la capacité à citer une source.

Options envisagées

• Retenue

  Récupérer les passages pertinents au moment de la question

  Le corpus se met à jour sans toucher au modèle, et chaque réponse peut nommer les passages qui la fondent.

• Écartée

  Réentraîner un modèle sur le corpus réglementaire

  Un modèle réentraîné fige la réglementation à la date de son entraînement. Chaque évolution de texte imposerait un nouveau cycle, et le modèle ne saurait pas citer le passage sur lequel il s’appuie.

• Écartée

  Interroger un modèle sans corpus, avec des consignes détaillées

  Aucune source citable, donc aucune vérification possible par le lecteur. C’est exactement la situation que le reste de ce site refuse.

Raisonnement

Technique

Le corpus est ingéré et vectorisé une fois, puis interrogé à chaque question. Mettre à jour un texte revient à réingérer un document, pas à relancer un entraînement.

Réglementaire

Une réponse doit pouvoir nommer le passage sur lequel elle s’appuie. Un modèle réentraîné mélange le texte à ses paramètres et ne sait plus dire d’où vient ce qu’il affirme.

Économique

Pas de coût d’entraînement ni de réentraînement. Le coût se déplace vers l’appel de vectorisation et le stockage de l’index.