L’abonnement n’est pas le coût
La première question posée en réunion est presque toujours la même : « combien coûte l’abonnement ? ». Elle n’a pratiquement aucune valeur prédictive. Un abonnement donne l’accès à un outil ; il ne dit rien du nombre de tâches réellement terminées par mois, ni de celles qui ont dû être reprises à la main.
Le prix affiché au million de jetons n’est guère plus parlant. Une tâche complète – lire un dossier, chercher, essayer, se corriger, produire le document – consomme un volume que personne n’estime correctement à l’avance. Deux modèles au tarif unitaire proche peuvent différer d’un facteur dix sur la même mission, simplement parce que l’un tourne en rond et l’autre non.
Le seul chiffre exploitable est donc le coût par tâche aboutie : ce que vous avez dépensé pour obtenir un résultat que vous auriez signé.
Ce que révèle ce chiffre
Mesuré ainsi, l’écart entre familles de modèles est spectaculaire. Sur une même mission de bureau – analyser un dossier, produire une page, rédiger une proposition structurée –, les modèles les plus avancés du marché se situent couramment entre plusieurs euros et une dizaine d’euros la tâche. Les modèles ouverts de dernière génération, eux, tombent à quelques dizaines de centimes, pour un rendu qui, sur ce type de travail, se tient.
Un facteur vingt sur une tâche isolée ne change pas une vie. Sur un traitement répété – des centaines de demandes entrantes à qualifier, des milliers de fiches à reformuler, un flux quotidien de documents à classer –, c’est la différence entre un projet qui se finance tout seul et un projet abandonné au bout d’un trimestre.
Pourquoi l’écart s’est creusé
La raison est technique, et elle mérite trois phrases, parce qu’elle explique pourquoi la tendance va se poursuivre.
Ce qui limite aujourd’hui le coût d’un agent sur une tâche longue n’est plus la puissance de calcul : c’est la mémoire de contexte. Plus une mission dure, plus le système doit conserver et relire ce qu’il a déjà produit, et cette mémoire occupe une ressource chère. Les architectures récentes attaquent ce poste précis – en réduisant la place occupée par chaque élément conservé, en allégeant les couches chargées de comprendre par rapport à celles chargées de produire, en réutilisant des calculs déjà faits plutôt qu’en les refaisant.
Résultat : une conversation très longue tient désormais dans une fraction de la mémoire qu’elle exigeait auparavant, et l’économie est répercutée sur le prix. Ce sont des gains d’ingénierie, pas des effets d’annonce : ils sont durables, et les autres laboratoires reprennent ces principes dans les mois qui suivent.
Petit modèle spécialisé contre grand modèle généraliste
Le second levier est encore plus net, et il est sous-utilisé. Sur une tâche étroite et répétitive – trier des demandes entrantes, les router vers le bon service, préparer un brouillon de réponse –, un modèle de taille modeste entraîné sur vos propres cas fait aussi bien qu’un modèle généraliste de premier plan, pour une fraction du prix.
Il sera médiocre sur tout le reste. C’est précisément l’idée : vous ne lui demandez pas le reste. Un service client qui traite un volume important n’a pas besoin du modèle le plus intelligent du monde pour catégoriser un ticket ; il a besoin d’un traitement fiable, rapide, prévisible et bon marché, avec une personne qui valide.
La bonne architecture est souvent hybride : un modèle économique pour le volume, un modèle avancé réservé aux cas complexes, et une règle claire pour décider lequel traite quoi.
Où tournent vos données
Le coût n’est pas le seul critère, et sur ce point la situation s’est améliorée. Les modèles ouverts peuvent être exécutés chez des hébergeurs européens, avec un cadre contractuel lisible sur le traitement des données et la conservation des échanges. Pour une entreprise qui manipule des dossiers clients, des pièces contractuelles ou des données de santé, c’est souvent ce critère, et non la performance brute, qui tranche.
La question à poser à un prestataire est simple et se vérifie : où s’exécute le traitement, qui y a accès, combien de temps les échanges sont conservés, et ce qui se passe si vous partez. Une réponse floue est une réponse.
Mesurer chez vous, en une demi-journée
Aucun classement public ne remplace un essai sur vos propres dossiers. Le protocole tient en cinq points :
- Choisissez dix tâches réelles, déjà traitées, dont vous connaissez le bon résultat.
- Donnez exactement la même consigne et les mêmes pièces à chaque modèle testé.
- Relevez trois chiffres par essai : le coût, le temps écoulé, le nombre de reprises nécessaires avant un résultat acceptable.
- Faites juger le rendu par la personne qui fait ce travail aujourd’hui, pas par celle qui pilote le projet.
- Refaites le test six mois plus tard : les prix et les modèles bougent vite, la grille d’évaluation, elle, reste valable.
Le coût par tâche que vous obtenez à la fin est le vôtre. Il est bien plus utile que n’importe quel score publié, parce qu’il intègre vos documents, vos exigences et vos reprises.
Ce que nous en faisons
Nous construisons les workflows d’agents de nos clients sur ce principe : le modèle est un paramètre, pas une religion. Nous mesurons le coût par tâche sur leurs propres dossiers, nous plaçons le modèle économique là où le volume est, le modèle avancé là où la difficulté est, et nous gardons la possibilité de changer sans tout reconstruire.
C’est la seule manière d’éviter les deux erreurs symétriques : payer le prix fort pour des tâches qui ne le justifient pas, et déployer un modèle bon marché sur un travail qu’il ne sait pas tenir.