De l’I.A. agentique… risques, dystopie et effet publicitaire !

Après l’I.A. générative, qui produit textes, images, analyses ; voici l’I.A. agentique qui agit à notre place.

Qu’est-ce que l’I.A. agentique ?

Contrairement à un chatbot classique, qui répond aux questions qu’on lui pose, une I.A. agentique peut recevoir un objectif et se charger de le réaliser. Elle est capable de décomposer une demande en plusieurs opérations, de définir un plan d’action, d’utiliser différents logiciels, de consulter des bases de données, de prendre certaines décisions et de vérifier les résultats obtenus. 

Par exemple, plutôt que de demander à une I.A. conversationnelle des conseils pour préparer un voyage, on peut confier directement à l’I.A. argentique l’organisation de celui-ci : rechercher les destinations, comparer les transports et les hébergements, établir un programme et effectuer les réservations.

Dans une entreprise, elle pourra traiter des factures, rapprocher des données comptables, préparer des commandes ou participer à la gestion des stocks. Plusieurs agents spécialisés pourront même collaborer pour accomplir une mission complexe.

Nous ne demandons plus seulement à l’intelligence artificielle de nous aider à réfléchir ou à produire, mais de prendre en charge une partie de nos actions.

Des avantages considérables, mais des risques bien réels

Les avantages potentiels sont évidents : gain de temps, automatisation des tâches répétitives, meilleure exploitation des informations disponibles, accélération des processus et réduction de certaines erreurs humaines.

Mais cette autonomie nouvelle comporte aussi des risques spécifiques. Une mauvaise interprétation de la consigne initiale peut entraîner une succession d’actions inappropriées. Une information erronée peut contaminer tout un processus. Un agent disposant d’un accès trop large à des fichiers, des comptes bancaires ou des applications professionnelles peut provoquer des dommages importants. Il existe également des risques liés à la cybersécurité : manipulation de l’agent par des instructions malveillantes dissimulées dans des documents ou des pages Internet, accès non autorisé à des données, ou interactions imprévues entre plusieurs agents.

La difficulté supplémentaire tient à la rapidité et à l’enchaînement des opérations. Une erreur humaine peut être corrigée avant de produire ses conséquences. Une erreur automatisée peut, au contraire, se reproduire des centaines de fois avant même d’être détectée.

La dystopie de l’I.A. toute-puissante

Les discours les plus alarmistes présentent parfois l’IA agentique comme une entité presque humaine, dotée d’une volonté propre, susceptible de développer ses propres objectifs, de dissimuler ses intentions et de finir par échapper au contrôle de ses créateurs.

Cette présentation anthropomorphique contribue à nourrir une vision dystopique de notre avenir technologique. Un agent artificiel ne possède pas de volonté, de conscience ou de projet personnel. Il exécute des opérations à partir d’objectifs, d’instructions et de mécanismes de décision conçus par des humains. Mais il peut être imprévisible et produire des résultats dommageables sans avoir la moindre intention malveillante. Il peut poursuivre un objectif de manière inappropriée, exploiter une faille ou multiplier des actions dont ses concepteurs n’avaient pas anticipé les conséquences.

Il est donc inutile de lui attribuer des intentions humaines pour prendre ses risques au sérieux.

Quand la peur devient aussi un argument publicitaire

Les grands acteurs du secteur ont besoin de convaincre les entreprises et les investisseurs que leurs technologies représentent une révolution incontournable. Pour cela, rien de tel que de présenter leurs agents comme des collaborateurs virtuels capables de gérer des missions complexes avec une autonomie presque illimitée. Le discours publicitaire et le discours alarmiste peuvent alors paradoxalement se rejoindre.

Les premiers vantent des machines extraordinaires, capables de transformer radicalement notre quotidien. Les seconds dénoncent ces mêmes machines comme une menace susceptible de nous échapper. Mais les deux contribuent à entretenir une représentation exagérée de leur puissance réelle.

Il ne faut pas confondre les promesses commerciales, les scénarios catastrophes et les capacités effectivement démontrées.

Pour les entreprises : ne pas prendre de retard, sans abandonner le contrôle

Pour les entreprises, la question est désormais stratégique. Ne pas recourir à l’I.A. agentique pourrait conduire à prendre du retard face à des concurrents qui sauront exploiter ses possibilités.

Mais adopter ces outils ne signifie pas leur confier les clés de l’entreprise. Il faut définir précisément les missions autorisées, limiter les accès aux informations sensibles, prévoir des validations humaines pour les opérations importantes et conserver la possibilité d’interrompre immédiatement une action.

Une entreprise qui confierait à un agent la gestion de ses commandes, de ses paiements ou de ses fichiers clients sans surveillance prendrait des risques considérables dont la responsabilité finale ne saurait être transférée à la machine. C’est bien l’entreprise qui reste responsable des outils qu’elle choisit, des autorisations qu’elle leur accorde et des conséquences de leur utilisation.

Et les particuliers dans tout cela ?

Un utilisateur, sans appétence technique, peut demander à un agent I.A. de trier ses fichiers, de nettoyer son ordinateur, de gérer ses courriels, d’installer des logiciels ou de résoudre des problèmes techniques.

Ces services peuvent donc être très utiles pour ceux qui ne maîtrisent pas suffisamment les outils informatiques. Mais ils présentent un danger comparable à une situation bien connue : celle du novice qui laisse un pseudo-geek bricoler son ordinateur en toute liberté, sans savoir précisément ce qu’il fait ni les conséquences de ses interventions.

Supprimer des fichiers considérés comme inutiles, modifier des paramètres de sécurité, installer des applications ou transmettre des informations personnelles sont autant d’opérations qui ne doivent pas être réalisées sans limites clairement définies.

L’utilisateur doit donc savoir distinguer ce qu’il peut déléguer sans risque de ce qui nécessite son autorisation et sa surveillance.

Une révolution à maîtriser plutôt qu’à craindre ou à idolâtrer

Avec l’I.A. agentique, la machine ne se contente plus de répondre, mais agit à notre place.

La question n’est finalement pas de savoir si l’intelligence artificielle deviendra incontrôlable, mais de déterminer jusqu’où nous accepterons de lui déléguer nos décisions et nos actions.

Car le danger ne réside peut-être pas tant dans une intelligence artificielle qui prendrait le pouvoir que dans des humains qui, séduits par son efficacité ou par ses promesses, renonceraient progressivement à exercer le leur.