En tant qu’éditeur de logiciels, imaginez un agent IA qui optimise vos workflows ERP en temps réel… sans erreur humaine. Mais que se passe-t-il si cet agent prend une décision incohérente avec votre modèle métier ? Bienvenue dans le monde de l’IA agentique, où la promesse d’efficacité se heurte à des défis techniques et éthiques.
L’IA agentique, c’est quoi ?
Selon la définition donnée par IBM :
L’IA agentique est un système d’intelligence artificielle capable d’atteindre un objectif précis avec une supervision limitée. Il se compose d’agents d’IA, c’est-à-dire de modèles de machine learning qui imitent les capacités humaines de prise de décision pour résoudre les problèmes en temps réel. Dans un système multi-agent, chaque agent exécute une sous-tâche spécifique pour atteindre l’objectif et leurs efforts sont coordonnés grâce à des fonctionnalités d’orchestration de l’IA.
IA agentique vs RPA : quelles différences pour les éditeurs de logiciels ?
Contrairement aux outils d’automatisation classiques (RPA, Zapier), elle combine :
Des agents autonomes : des modèles de machine learning imitant la prise de décision humaine.
Une orchestration multi-agents : chaque agent exécute une sous-tâche (ex : validation de données, envoi d’alertes) pour atteindre un objectif global.
Une adaptabilité contextuelle : réajustement en temps réel selon les données métiers.
Irrésistible, non ?
Les LLM au cœur des processus métiers : une révolution risquée ?
La magie des LLMs, c’est leur capacité à parler notre langage. De plus en plus souples, adaptables et fluides, ils nous interpellent, au sens premier. C’est à dire qu’il est même difficile dans certains cas de ne pas oublier qu’il s’agit d’un logiciel et d’une (énorme) base de données dont la structure est soutenue par les règles grammaticales. A tel point que les relations intimes avec des agents IA sont en hausse et présentent un potentiel non seulement de préjudice émotionnel, mais également de manipulation.
Nous vous recommandons la ledcture de l’excellent article : We need a new ethics for a world of AI agents, par Iason Gabriel, Geoff Keeling, Arianna Manzini & James Evans – Nature, 4 août 2025,
Alors, comment leur faire confiance ?
- Le règne de l’à-peu-près : les grands modèles de langage reposent sur une analyse statistique (certes très poussée) d’une quantité considérable de textes, de toute nature. Ils misent sur la probabilité, pas sur la pertinence. Ce perroquet stochastique peut donc se tromper sans le savoir.
- Hallucinations: un LLM ne peux pas (ou en tout cas pas toujours) dire qu’il ne sait pas. Poussé dans ses retranchements, il aura tendance à apporter des réponses « hors sol », sans même s’en rendre compte. Nous vous en parlions précédemment dans un article paru l’année dernière Hallucinations, LLM et IA conversationnelle.
- Ethique: les sources d’information, le post-traitement des données, les algorithmes de priorisation, les méthodes d’analyses des prompts ne sont pas accessibles. Il n’existe actuellement pas de modèle mathématique ou de solution de preuve formelle. Les méthodes formelles permettent de raisonner rigoureusement, à l’aide de logique mathématique, sur un programme informatique, afin de démontrer sa validité par rapport à une spécification. Il est donc complexe de déterminer les limites des LLMs ni l’absence de biais inacceptables.
Solution à nos problèmes ou nouveaux problèmes sans solution ?
La promesse de l’IA agentique est tellement forte qu’il est difficile d’y résister. Il faut d’autant plus être conscient des problèmes qu’elle soulève.
- Qualité : contrairement à l’IA conversationnelle, il n’y pas (presque pas) d’humain dans la boucle. Toute erreur, imprécision ou hallucination risque de faire dérailler l’ensemble du processus. Les nouvelles recrues seront affectées au mauvais département, les commandes de stocks seront retardées, les clients recevront des messages inadaptés.
- Garanties : comment garantir les performances dans un environnement ayant une part d’aléatoire non négligeable ? Quelles seront les SLAs (Service Level Agreement, ou accord sur le niveau de service) ?
- Tests et validation : de nouvelles méthodes et outils seront nécessaires pour définir le niveau de qualité initial, et le maintenir dans le temps.
- Maintenance et réplicabilité : ce n’est pas parce que ça marche une fois que ça marchera toujours. Imaginez un fichier Excel qui donnerait un résultat un peu différent chaque fois que vous l’ouvrez.
- Dépendance : les LLMs évoluent rapidement, de nouveaux éditeurs apparaissent et les versions se succèdent. A chaque évolution, il faudra s’assurer du rendu final des agents dont les performances seront intimement liées à ces modèles de langage. Réécrire ses agents après une mise à jour majeure de son LLM car les prompts optimisés pour la version précédente ne fonctionnent plus ne sera pas une partie de plaisir.
- Coûts et impact environnemental : l’utilisation massive de prompts sollicitera fortement les LLMs, ce qui engagera des ressources informatiques importantes, des coûts significatifs et une empreinte environnementale dont la soutenabilité reste à démontrer.
- Cyberrisques : agents pouvant être détournés à des fins malveillantes.
IA Agentique : Comment Éviter le Scénario HAL 9000 ?
Des agents trop autonomes ? Le retour de HAL 9000 : une IA conçue pour aider devient dangereuse et imprévisible à cause de conflits internes ou d’objectifs mal alignés, comme HAL dans 2001, l’Odyssée de l’Espace, qui combat ses utilisateurs pour protéger sa mission.
Des risques… mais pas de fatalité : ces défis ne signifient pas qu’il faut renoncer à l’IA agentique, mais qu’ils imposent des approches rigoureuses telles que :
- Contrôle continu : Des boucles de feedback automatisées (ex : alerte si un agent RH affecte un collaborateur avec un score de confiance < 90%).
- Flexibilité : Des SLAs dynamiques, ajustés en fonction des tâches (ex : 99% de précision pour les commandes clients, 90% pour les suggestions de formation).
- Résilience : Des benchmarks réguliers et des jumeaux numériques pour simuler les pires scénarios (ex : « Que se passe-t-il si le LLM hallucine sur 10% des données ? »).
- Sobriété : Optimiser les requêtes (ex : utiliser des modèles légers pour les tâches simples) et mesurer l’empreinte carbone par agent.
La prise en compte des aspects sécuritaires, juridiques et réglementaires n’est pas à négliger. Cyber sécurité, chaîne de responsabilité en cas de défaillance, RGPD et application de l’IA Acte devront être considérés.
Et encore, nous n’avons pas abordé les aspects humains (acceptabilité) et organisationnel que les agents ne manqueront pas de soulever.
Mais nous pouvons sans doute convenir que les méthodes, outils, logiciels pour y parvenir soit n’existent pas soit sont dans leur tendre enfance. La mise au point et les premiers déploiements ne seront pas un chemin de roses.
Quel avenir pour l’IA agentique ?
Dans sa conception actuelle, l’IA agentique s’appuie principalement sur les avancées de l’IA générative et ses capacités d’adaptabilité. Pourtant, les limites intrinsèques des LLMs pourraient restreindre leur utilité réelle pour les éditeurs et les utilisateurs du numérique. Risque-t-on alors de voir l’IA agentique rejoindre le cimetière, déjà bien rempli, des innovations surestimées ?
À l’heure où ces lignes sont écrites, ChatGPT n’a pas encore trois ans. Une durée dérisoire à l’échelle des révolutions technologiques. Il est possible, sinon probable, que de nouveaux principes émergent, repoussant les frontières des architectures logicielles vers des modèles plus matures, plus stables et plus sobres.
Quelques scénarios :
- Scénario optimiste (agents fiables et intégrés dans toutes les fonctions)
- Scénario pessimiste (abandon massif faute de rentabilité ou incidents majeurs)
- Scénario hybride (usage ciblé et régulé)
L’histoire de l’IA ne fait que commencer… et le meilleur reste à venir.
A retenir
- L’IA agentique promet un gain d’efficacité considérable mais repose sur des modèles aux comportements encore imprévisibles.
- Les bénéfices dépendent fortement du choix des cas d’usage, de la qualité de la supervision et des tests.
- Les enjeux ne sont pas seulement techniques : ils touchent à la gouvernance, à la sécurité et à la soutenabilité économique et environnementale.
- Son avenir dépendra de la capacité à intégrer fiabilité, transparence et maîtrise des coûts.
A lire également
Vous pouvez aussi explorer ces ressources pour approfondir votre compréhension de l’IA agentique et ses enjeux
- Seizing the agentic AI, de McKinsey
- The AI Illusion: Why Most Companies Don’t See ROI, And How An Agentic AI Strategy Can Make The Difference, de Forbes Technology Council
_____________
Vous êtes éditeur de logiciels ? Nous espérons que cet article vous a éclairé sur les enjeux et opportunités de l’IA agentique.
Chez Agora Software, nous développons des solutions d’IA conversationnelle dédiées aux éditeurs. Nous déployons rapidement des interfaces intelligentes, multilingues et omnicanales, pour enrichir l’expérience utilisateur de vos applications et plateformes. En intégrant Agora Software, vos utilisateurs bénéficient d’interactions fluides, personnalisées et performantes.
Prêt à intégrer une IA conversationnelle à vos applications ? Échangeons-en : contact@agora.software
Cet article vous a plu ? Découvrez aussi : « 8 questions à se poser avant d’intégrer de l’IA à son application »
Restez connecté ! Suivez-nous sur LinkedIn pour ne rien manquer de notre actualité.
Thierry Grenot
Vous voulez comprendre comment notre IA conversationnelle optimise la productivité et l’engagement de vos utilisateurs en complétant efficacement vos applications ?