De l'IA qui tourne en production, relue et vérifiable.

Le problème que ça règle

L’IA dans un produit, aujourd’hui, se heurte à un écart embarrassant : la démo est spectaculaire en dix minutes, et la mise en production prend six mois. Entre les deux, il y a tout ce qui n’apparaît pas dans la démo — les cas limites, les réponses fausses mais plausibles, le coût par appel qui dérape, la traçabilité qu’un client exige, et la question qu’on finit toujours par te poser : « pourquoi le logiciel a-t-il décidé ça ? »

Mon travail n’est pas de brancher un modèle. C’est de construire ce qu’il y a autour pour qu’il soit utilisable par de vrais utilisateurs sur de vraies données, tous les jours.

Le principe : l’IA propose, l’humain tranche

C’est la règle qui structure tout le reste. Une IA peut extraire, pré-remplir, suggérer, classer, résumer. Elle ne valide pas. Toute action irréversible — envoyer, finaliser, facturer, supprimer — exige un geste humain explicite.

Ça paraît être une limitation. C’est en fait ce qui rend le système utilisable : l’utilisateur accepte un outil qui se trompe parfois tant qu’il garde la main. Il n’accepte jamais un outil qui se trompe à sa place.

Concrètement, ça change la conception de l’interface : il faut montrer ce qui a été extrait et d’où ça vient, signaler le niveau de confiance, rendre la correction plus rapide que la saisie manuelle. Une extraction correcte à 95 % mais pénible à corriger est moins utile qu’une extraction correcte à 80 % qu’on rectifie d’un clic.

Ce que je construis concrètement

Extraction de documents. Factures fournisseurs, pièces justificatives, bons de livraison. Le document arrive, les données en sortent structurées, un humain confirme. Le gain n’est pas « l’IA lit les factures » : c’est le temps de saisie qui disparaît d’un processus quotidien.

Copilotes. Piloter le produit en langage naturel — créer un devis, retrouver un dossier, lancer une relance — sans naviguer dans sept écrans. Le copilote prépare l’action et la présente ; l’utilisateur confirme.

Agents avec garde-fous. Un agent qui enchaîne des étapes sans supervision n’est acceptable que si l’on a défini à l’avance ce qu’il peut faire, ce qu’il doit escalader, et ce qui se passe quand il échoue.

Exposition à des clients IA. Rendre ton produit pilotable par les assistants que tes utilisateurs emploient déjà, via un serveur MCP — une API pensée pour être consommée par un modèle plutôt que par un humain.

Traçabilité et coût, dès la conception

Deux sujets qu’on traite au début parce qu’ils sont douloureux à rattraper ensuite.

La traçabilité. Chaque décision assistée par IA doit laisser une trace : quelle entrée, quel modèle, quelle sortie, quelle correction humaine derrière. Ce n’est pas de la paperasse — c’est ce qui te permet de répondre à un client mécontent, de mesurer si le système s’améliore, et de tenir face à un auditeur si ton secteur l’exige.

Le coût. Un appel modèle coûte une fraction de centime, ce qui donne l’illusion que le sujet est négligeable. Multiplié par un usage réel, c’est une ligne de charge variable qui peut dépasser ton hébergement. Chaque fonctionnalité IA reçoit un budget maximal, une mesure de son coût réel, et un comportement défini quand la limite est atteinte.

Preuve

Je n’intègre pas de l’IA seulement chez mes clients : j’en exploite en production dans asap.cool, le SaaS de facturation que j’édite, sur un domaine où une erreur se voit immédiatement — un document comptable faux n’est pas une approximation acceptable.

Je contribue aussi en open source à Obscura, un navigateur headless écrit en Rust destiné aux agents IA. Deux correctifs de comportement du DOM y sont proposés en amont, avec leur mesure d’impact : sur une recherche Google Maps réelle, 31 résultats collectés deviennent 110. Les issues, les patchs et les tests sont publics — c’est une preuve que tu peux vérifier sans avoir à me croire.