Votre agent IA est une boite noire. C'est un problème.

Le mirage des frameworks

Quand un développeur construit un agent IA en 2025, il y a de fortes chances qu'il utilisé un framework. LangChain, CrewAI, AutoGen, ou l'un des 47 nouveaux frameworks sortis depuis que vous avez commençe a lire cette phrase.

Ces frameworks promettent la même chose : construire un agent en quelques lignes de code. Connecter un LLM a vos outils. Automatiser des workflows complexes. Le tout en un apres-midi. Sur le papier, c'est irresistible.

En pratique, c'est une catastrophe annoncee.

Pourquoi ? Parce que ces frameworks cachent les mécanismes. Chaque couche d'abstraction est une couche d'opacite. Votre développeur ne sait plus ce qui se passe entre le moment ou l'agent reçoit une requete et le moment ou il produit une action. Il sait que ça passe par LangChain. Il sait que LangChain appelle un LLM. Mais le détail de la décision, le routing, la gestion de la memoire, le choix de l'outil - tout ça est enfoui dans des abstractions qu'il n'a jamais lues et ne lira jamais.

Un projet open-source récent - Agents from Scratch, 700+ etoiles sur GitHub - resume le problème en une phrase : "Les frameworks creent une illusion d'intelligence et rendent le débogage quasi impossible."

Quand votre agent IA hallucine une réponse client, vous voulez savoir pourquoi. Pas "il a fait une erreur de raisonnement" - ça c'est du blabla. Vous voulez voir exactement quelle donnee il a utilisee, quelle décision il a prise, et pourquoi il a choisi cette action plutot qu'une autre. Si votre système ne peut pas répondre a ces questions, vous n'avez pas un agent. Vous avez un oracle.

"Ça marche" n'est pas un critere de qualité

Il y a une phrase que j'entends souvent chez les dirigeants PME : "L'important, c'est que ça marche." C'est une phrase raisonnable dans beaucoup de contextes. Votre voiture marche, vous ne cherchez pas a comprendre l'injection directe. Votre comptable fait les bilans, vous ne verifiez pas chaque ecriture.

Mais un agent IA n'est ni une voiture ni un comptable. C'est un système qui prend des décisions a votre place. Qui envoie des emails a vos clients. Qui trie des candidatures. Qui génère des rapports sur lesquels vous basez vos décisions stratégiques. Et quand ce système se trompe - parce qu'il se trompera - vous devez pouvoir comprendre l'erreur en moins de 5 minutes, pas en 5 jours.

80% des projets IA échouent, selon la RAND Corporation. Ce chiffre n'est pas du a des problèmes de technologie. Il est du a des problèmes de confiance. L'équipe ne comprend pas ce que fait le système. Le système fait des erreurs inexpliquees. La confiance s'erode. Le projet est abandonne.

La transparence n'est pas un luxe technique. C'est une condition de survie du projet.

Ce que "transparent" veut dire concrètement

Quand on parle de transparence pour un agent IA, on ne parle pas de publier le code source sur GitHub. On parle de quatre choses concretes :

1. État visible - A tout moment, vous pouvez voir ce que l'agent "sait". Quelles donnees il a en memoire. Quel est son plan en cours. C'est l'equivalent d'ouvrir le capot et de voir le moteur tourner. Si votre agent est un bloc scelle, vous avez un problème.

2. Decisions tracables - Chaque action de l'agent est precedee d'une décision explicite. "J'ai reçu un email de relance du client X. Le client est classe prioritaire. La derniere interaction date de 7 jours. Decision : envoyer la relance niveau 2." Pas une décision cachee dans un embedding vectoriel. Une décision lisible par un humain.

3. Outils declares - L'agent a acces a votre CRM, votre boite mail, votre agenda. Vous devez savoir exactement quels outils il peut utiliser et dans quelles conditions. Un agent qui peut envoyer des emails sans que vous sachiez dans quels cas, c'est un employe avec une carte bleue d'entreprise et aucune limite de dépense.

4. Erreurs reproductibles - Quand l'agent se trompe, vous pouvez rejouer la sequence avec les mêmes donnees et obtenir le même résultat. C'est la base du débogage. Si votre agent est non-déterministe et inexplicable, vous ne pouvez pas le corriger. Vous ne pouvez que prier.

L'approche "from scratch" : pas un retour en arriere

Il existe un mouvement croissant dans la communaute IA qui preconise de construire des agents sans frameworks. Pas par purisme technique. Par pragmatisme.

Le projet Agents from Scratch propose 12 lecons pour construire un agent complet en partant de zero. Pas de LangChain. Pas de dépendance cloud. Un fichier Python qui evolue progressivement, lecon apres lecon :

1. On commençe par faire parler un LLM (lecon 1) 2. On ajoute un rôle via un prompt système (lecon 2) 3. On structure les sorties en JSON - pas du texte libre, des contrats (lecon 3) 4. On ajoute la capacité de décider entre plusieurs actions (lecon 4) 5. On connecte des outils externes (lecon 5) 6. On crée la boucle agent : observer, décider, agir, répéter (lecon 6) 7. On ajoute la memoire - court terme et long terme (lecon 7) 8. On ajoute la planification - pas intuitive, structuree (lecon 8)

Et ainsi de suite jusqu'a l'évaluation (lecon 11) et la télémétrie (lecon 12).

Le principe fondateur est brutal de simplicite : "Les agents ne sont pas des personnalites. Ce sont des boucles, des états, et des contraintes."

Cette approche n'est pas adaptee a tous les contextes. Construire from scratch prend plus de temps qu'assembler des briques LangChain. Mais elle produit un système que vous comprenez, que vous pouvez déboguer, et que vous pouvez faire evoluer sans être otage d'un framework qui changera sa API dans 3 mois.

Ce que ça change pour votre PME

Vous n'allez probablement pas construire votre agent IA vous-même. Ce n'est pas votre métier. Mais vous devez poser les bonnes questions a celui qui le construit :

Question 1 : "Quand l'agent se trompe, comment je le vois ?" Si la réponse est "on monitore les logs", insistez. Quels logs ? Ou ? Avec quel niveau de détail ? Si la réponse est vague, le système est opaque.

Question 2 : "Je peux voir la chaîne de décision ?" Un agent transparent produit un journal de ses décisions. Pas un resume. Le détail. Donnee d'entree, raisonnement, action choisie.

Question 3 : "Quel framework est utilisé, et pourquoi ?" Framework n'est pas un gros mot. Mais "on utilisé LangChain parce que c'est standard" n'est pas une réponse. La bonne réponse explique ce que le framework apporte ET ce qu'il cache.

Question 4 : "Je peux changer de prestataire sans tout recommencer ?" Si votre agent est construit sur une pile propriétaire avec 15 abstractions imbriquees, vous etes verrouille. La transparence technique, c'est aussi la liberte commerciale.

Le vrai luxe, c'est de comprendre ce qu'on achete

Le marche de l'IA en PME est en train de reproduire les erreurs du marche du web des annees 2000. Des prestataires qui vendent des solutions opaques. Des clients qui achetent sans comprendre. Des projets qui échouent par manque de transparence, pas par manque de technologie.

La différence entre un bon agent IA et un mauvais, ce n'est pas le modele de langage qu'il utilisé. C'est la capacité de l'humain en face a comprendre ce qui se passe, a corriger quand ça deraille, et a faire evoluer le système avec son business.

Un agent opaque qui marche aujourd'hui est un agent qui echouera demain. Parce que votre business change. Vos donnees changent. Vos processus changent. Et si personne ne comprend comment l'agent fonctionne, personne ne saura l'adapter.

La transparence n'est pas un argument marketing. C'est la fondation sur laquelle tout le reste tient - ou s'effondre.