Audit IA
RAG vs fine-tuning vs prompt engineering : ce qu’il faut comprendre
Les 3 grandes approches pour personnaliser un LLM sur vos données. Quand utiliser quoi, à quel coût, avec quel ROI.
« Vous voulez intégrer ChatGPT chez vous ? Faut faire du RAG ou du fine-tuning. » Si cette phrase ne veut rien dire pour vous, lisez ce qui suit. Vulgarisation honnête de 3 approches, leurs coûts, et quand utiliser quoi.
Le problème commun
ChatGPT, Claude, Mistral connaissent Wikipedia, GitHub, du contenu web jusqu’à leur date d’entraînement. Ils ne connaissent PAS :
- Vos procédures internes
- Vos contrats clients
- Votre catalogue produits
- Les bonnes réponses spécifiques à votre métier
Pour qu’un LLM réponde sur VOTRE contexte, 3 approches existent. Du plus simple au plus complexe :
1. Prompt engineering (le plus simple)
Vous donnez à l’IA, dans le prompt lui-même, le contexte dont elle a besoin pour répondre. Pas de techno spéciale, juste un prompt bien construit.
Exemple :
Tu es l'assistant de [Société X], qui vend du matériel BTP.
Voici notre catalogue (extrait pertinent) :
[liste de 20 produits avec specs et prix]
Question client : Quel marteau pour démolir un mur en parpaing ?
Réponds en 3 lignes max, en citant la référence produit.
Pour : zéro infra, démarrage en 30 minutes. Idéal pour des cas simples avec un contexte court (< 5 pages).
Contre : limité par la taille du contexte (~200 pages max chez Claude), tout doit tenir dans la fenêtre. Pas de mémoire entre les conversations.
Coût : 0 € infra. Coût API par requête : <0.05 €.
2. RAG (Retrieval-Augmented Generation)
Vous indexez tous vos documents internes dans une base vectorielle. Quand un utilisateur pose une question, on récupère automatiquement les passages pertinents et on les injecte dans le prompt.
Stack typique : OpenAI Embeddings (ou Mistral) + Pinecone/Qdrant/pgvector + LangChain/LlamaIndex côté code.
Cas idéal : assistant qui doit répondre sur 500+ pages de doc interne, en citant les sources.
Pour : scale à des milliers de docs, mises à jour faciles (réindexer), réponses sourcées (l’agent dit « selon le doc X page Y »).
Contre : qualité dépend ENORMÉMENT de la qualité de vos docs source et du chunking. Setup initial 2-6 semaines.
Coût : 5 000-25 000 € de mise en place selon volume + infrastructure mensuelle (50-300 €/mois) + coût API.
3. Fine-tuning (le plus complexe)
Vous entraînez un modèle de base sur vos propres données (questions/réponses, conversations, exemples). Le modèle « apprend » votre style, votre vocabulaire, vos cas spécifiques.
Quand l’utiliser :
- Vous avez des milliers d’exemples annotés (1 000 minimum, 10 000+ idéal)
- Vous voulez que le modèle ait un comportement très spécifique difficile à obtenir par prompt
- Cas typique : agent de support qui doit imiter le ton d’une marque ; classification de tickets sur 50+ catégories spécifiques
Pour : modèle qui « intègre » votre contexte, latence et coût d’inférence souvent meilleurs que prompt engineering avec un long contexte.
Contre : très technique, coûteux en données, doit être ré-entraîné quand les données évoluent.
Coût : 15 000-100 000 € selon échelle.
Comment choisir : le décisionnel
| Cas | Approche |
|---|---|
| Assistant FAQ avec 5-20 questions standard | Prompt engineering |
| Assistant interne sur 100+ pages de doc | RAG |
| Génération marketing dans le ton de votre marque | Prompt engineering (ton dans le prompt) |
| Classification de tickets sur 5 catégories | Prompt engineering |
| Classification de tickets sur 50 catégories spécifiques | Fine-tuning (avec dataset) |
| Recherche dans votre base de connaissances | RAG |
| Génération de code dans votre style maison | Fine-tuning OU exemples dans le prompt |
Mon ordre de priorité quand on me demande
- Toujours commencer par prompt engineering. 80% des cas se règlent comme ça.
- Si volume de docs > 50 pages ou si la base évolue souvent → RAG
- Si comportement très spécifique impossible par prompt et que vous avez 1 000+ exemples → fine-tuning
Beaucoup d’entreprises sautent les étapes 1 et 2 et veulent direct du fine-tuning parce que ça sonne pro. Mauvais choix dans 9 cas sur 10.
TL;DR
- Prompt engineering : démarrage simple, contexte court
- RAG : scale sur grands volumes de doc, mises à jour faciles
- Fine-tuning : comportement très spécifique, dataset 1k+
- Toujours commencer par le plus simple
Vous savez ce que vous voulez faire mais pas comment ? Un audit le clarifie.
Un projet en réflexion ?
Si cet article a éclairé votre besoin, on peut en discuter de vive voix. 30 minutes, sans engagement.
Planifier un échange