Le RAG

Vous demandez à une IA :

« Donne-moi l'arrêt clé de la Cour de cassation sur la rupture brutale ».

• Date, chambre, numéro de pourvoi, attendu cité. Tout est logique.
• Sauf que sur Légifrance, l'arrêt n'existe pas.

• C'est une hallucination structurelle : un LLM est entraîné à produire du texte plausible. Le RAG est une solution pour empêcher cela.

Une règle d'or : interdiction de répondre de mémoire.

• À chaque question, le système commence par chercher dans une base de documents les passages les plus pertinents.

C'est l'étape de « retrieval » : la question devient des coordonnées, on retrouve les voisins les plus proches.

• « Donne-moi l'arrêt clé de la Cour de cassation sur la rupture brutale ». 5 arrêts pertinents remontés de Judilibre.

Une fois les passages trouvés, on les injecte dans le prompt du LLM avant sa question :

« Voici 5 décisions récentes sur la rupture brutale. À partir de ces décisions, et uniquement de ces décisions, réponds à : quelles sont les conditions d'application ? »

• Le LLM n'a plus à puiser dans sa mémoire : il a les vrais textes sous les yeux.

Maintenant, le LLM fait ce qu'il sait faire de mieux : rédiger.

• La réponse est ancrée dans les arrêts fournis.
• Le LLM peut citer ses sources, elles sont dans son contexte.

• S'il écrit « selon l'arrêt rendu le 12 mars 2024 », c'est parce qu'il vient de le lire et non parce qu'il a deviné une date qui sonne juste.

Le RAG transforme l'IA d'un copain bavard en un assistant qui rend des sources.

• La connaissance de l'IA ne vient plus d'un entraînement figé il y a deux ans.
• Elle vient de la base à jour qui est « branchée » dessus.

• Le LLM, c'est juste le rédacteur. Le vrai travail, c'est ce qu'on lui pose sur la table avant qu'il prenne la plume.