Vous l'avez sûrement déjà vécu : vous lancez un prompt sans trop réfléchir, et la réponse obtenue est souvent imparfaite et peu exploitable. Vous avez alors l'impression de perdre du temps. Le few-shot prompting, lui, permet de cadrer le modèle avec des exemples concrets pour améliorer la qualité des réponses. Ce n'est pas magique, mais cela reste très utile. C’est encore plus vrai lorsqu’il s’agit d'éléments très codifiés : un tableau, des données structurées en JSON, des balises SEO...

Cet article au format audio

Les modèles comme GPT ou Claude sont capables de répondre à une consigne sans aucun exemple. C’est ce qu’on appelle le zero-shot. Ça marche pour des requêtes simples, factuelles ou très fréquentes. Mais dès qu’il faut produire un output structuré, respecter un format spécifique ou viser un ton précis, ça devient bancal.

Le few-shot prompting consiste à inclure directement dans le prompt quelques exemples représentatifs du résultat attendu. Et c’est là que les performances des modèles décollent… mais pas toujours pour les raisons que vous croyez.

On pourrait penser que ce sont les bons couples entrée + réponse (ce qu’on appelle labels de vérité terrain) qui font toute la différence. En réalité, les travaux de Min et al. (2022) montrent que ce n’est pas vraiment le cas. Dans leurs expériences sur GPT-3 et d'autres modèles, remplacer les bonnes réponses par des réponses aléatoires ne fait chuter les performances que très légèrement (souvent entre 0 et 5 % selon les tâches). Oui, même avec des "mauvaises réponses", les modèles continuent à mieux performer qu’en zero-shot.

Pourquoi ? Parce que ce qui compte vraiment, ce n’est pas tant la justesse des labels, mais :

• La distribution des entrées : les exemples doivent ressembler à ce que l’IA va devoir traiter ensuite.
• L’espace des labels : lui montrer les types de réponses possibles aide à cadrer l’attente.
• Le format général : la structure des démonstrations (exemple / réponse) joue un rôle fondamental. Le modèle s’aligne sur la forme, même si le fond est erroné.

En clair, le few-shot ne "forme" pas le modèle à la volée, comme dans un apprentissage supervisé classique. Il sert surtout à l’orienter, à le replacer dans le bon contexte. Le modèle active alors ce qu’il a déjà appris lors de son pré-entraînement, en adaptant ses réponses à la structure et aux signaux fournis.

C’est aussi pourquoi le zero-shot n’est pas toujours aussi "zero" qu’il y paraît : il suffit parfois de montrer de manière implicite le format attendu (par exemple en listant des entrées et des catégories aléatoires) pour déjà améliorer les performances.

Exemples concrets de few-shot prompting dans un contexte SEO

Exemple 1 - Génération de balises Title & Meta

Zero-shot prompt

Rédige une balise title et une meta description pour une page "assurance chien".

Résultat...