RAG ou fine-tuning : quel choix pour les données d’entreprise ?

Le RAG recherche des informations au moment de la demande ; le fine-tuning ajuste le comportement d’un modèle à partir d’exemples d’entraînement. Ces approches peuvent se combiner, mais elles ne résolvent pas spontanément le même problème.

Si votre question est « comment répondre avec nos documents à jour et selon les droits de chacun ? », commencez par la recherche et les permissions. Si elle est « comment obtenir un comportement ou un format spécialisé de manière plus régulière ? », évaluez d’abord le prompt et les exemples, puis l’intérêt d’un entraînement.

Ce qu’apporte le RAG

Un parcours de RAG relie la question à une recherche documentaire, puis fournit les passages retrouvés au modèle pour préparer la réponse. Les sources peuvent évoluer sans qu’il soit nécessaire de réentraîner le modèle pour chaque changement.

Cela ne garantit pas une réponse exacte. Si la recherche retrouve un passage ancien, ignore un document important ou mélange deux versions, le modèle part d’une base incorrecte. Il faut examiner séparément la qualité de la recherche et celle de la génération.

Les citations facilitent le contrôle, mais leur présence ne prouve pas qu’elles étayent réellement la réponse. Le test doit vérifier la correspondance entre l’affirmation et le passage cité.

Ce qu’apporte le fine-tuning

Le fine-tuning peut aider à adapter un modèle à des exemples spécialisés : format, vocabulaire, classification ou comportement attendu. Son intérêt dépend de la qualité et de la représentativité des données d’entraînement.

Ce n’est pas une base documentaire avec contrôle d’accès. Mettre des informations dans l’entraînement ne permet pas de garantir leur restitution exacte, leur fraîcheur ou leur suppression granulaire. Les permissions de l’entreprise ne deviennent pas automatiquement celles du modèle.

Avant de l’envisager, comparez une approche plus simple : consignes claires, exemples dans le contexte, validation de sortie et modèle adapté. Un entraînement n’est utile que si son gain peut être observé sur des cas réservés.

Exemple : une procédure interne qui change

Supposons un assistant chargé de répondre sur les procédures d’une entreprise. Une règle est modifiée et ne s’applique qu’à une partie des collaborateurs. Cet exemple est illustratif, sans attribution à un client de Disphere.

Un système de recherche peut filtrer les documents selon les droits de l’utilisateur et sélectionner la version actuelle. L’assistant doit citer la règle pertinente ou s’abstenir si elle manque. Les métadonnées de version et d’accès sont donc aussi importantes que les embeddings.

Un modèle entraîné sur une ancienne procédure peut continuer à produire une réponse plausible mais périmée. L’entraînement ne dispense pas d’une source à jour lorsqu’une réponse doit refléter l’état courant du métier.

Une évaluation qui localise les erreurs

Préparez un jeu de questions avec les documents attendus et les réponses admissibles. Ajoutez des questions hors corpus, des documents contradictoires et des utilisateurs ayant des droits différents.

• Recherche : le bon passage est-il retrouvé ?
• Permissions : aucune source interdite n’est-elle exposée ?
• Réponse : les affirmations sont-elles étayées ?
• Abstention : le système reconnaît-il une information manquante ?
• Exploitation : latence et coût restent-ils compatibles avec le parcours ?

Si le bon document n’est jamais retrouvé, améliorer seulement le prompt de rédaction risque de masquer le problème. Si la source est correcte mais le format inutilisable, une validation structurée ou un ajustement du modèle peut être plus pertinent.

Coût et maintenance : comparer tout le parcours

Le RAG implique l’ingestion, l’indexation, les mises à jour, la recherche et la génération. Le fine-tuning implique la constitution des exemples, l’entraînement, l’évaluation et la gestion des versions. Aucun n’est « gratuit ensuite ».

Comparez le coût d’une tâche correctement accomplie, avec reprises et contrôle humain. Vérifiez également les conditions du fournisseur concernant les données et les modèles dérivés.

Choisir la plus petite architecture qui répond au besoin

Commencez par un corpus limité et une seule tâche. Une recherche classique peut suffire dans certains cas ; une recherche sémantique ou hybride se justifie par les résultats. Ajoutez une stratégie d’entraînement seulement si une limite mesurée la rend utile.

Notre offre d’agents IA pour entreprise couvre ces décisions, les permissions et les garde-fous. La plateforme Daily Care illustre notre travail sur un service IA complet ; son étude de cas ne revendique pas l’utilisation du RAG ou du fine-tuning. Chaque architecture doit être décrite pour ce qu’elle fait réellement.

Références techniques

• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
• Documentation du fine-tuning supervisé d’OpenAI