Une si douce odeur de lavande

Entre les bombardements de Gaza et ceux de l’Iran, l’IA destinée à établir les dossiers de bombardement à reçu son baptême du feu. Sous sa direction, des milliers de tonnes de bombes ont été larguées sur ces eux zones.

Avec des résultats ? Mitigés, dirons-nous ? Or, on reconnaît la qualité d’un arbre à ses fruits et ceux de l’IA de bombardement sont, au mieux, douteux. Les militaires pourront admirer la facilité nouvelle pour construire les dossiers dont le commandement a besoin et la performance technique est tout à fait appréciable, mais ceux-ci ont laissé passer trop d’erreurs.

Comment en est-on arrivé là ? Le premier sujet à examiner est l’IA, sa construction technique et les résultats à en attendre. Le second est celui de la validation de feu. Le troisième et, probablement le plus grave est la conception de la guerre des occidentaux.

Sauf à être dans une grotte, chacun d’entre nous connaît l’histoire de cette école de filles ciblée par un missile américain en Iran et son bilan de 168 victimes¹. Le premier jour de frappes apporte déjà sa moisson de victimes dites collatérales, comme le veut le terme consacré depuis les guerres du Golfe. Seulement, les victimes n’ont rien de collatéral. Elles n’avaient pas le malheur de se trouver à proximité d’une cible et de subir des dommages secondaires liés au souffle. L’arme a frappé sa cible, exactement celle désignée dans son dossier d’objectif et il est impossible d’accuser les gardiens de la révolution de s’être dissimulés au sein de la population.

L’affaire est si embarrassante que l’armée américaine se refuse toujours à admettre sa responsabilité. Reste que les photos pointent vers un missile Tomawahk, donc américain, car eux seuls pouvaient mettre une telle arme en œuvre et une erreur due à un mauvais dossier d’objectif : le site ayant été utilisé par les gardiens de la révolution des années plus tôt, l’IA en charge l’aurait toujours considéré comme utilisé à ce jour.

L’incident est probable et je vous conseille d’établir des courriers en série avec une IA, vous constaterez que nombre d’entre elles ont du mal à prendre les dates en compte. Nous analyserons donc l’affaire sur cette base.

Si cet incident était isolé, il resterait dans les tragiques hasards de la guerre. Hélas, selon les déclarations d’Alain juillet à TV Liberté, il y aurait des dizaines d’erreurs, ce qui est plus que probable, même s’il faudra les enquêtes post conflit pour établir l’ensemble des torts. (Et encore)

L’exemple de Gaza, où, selon les affirmations de l’armée israélienne, chaque tir fait l’objet d’un dossier d’objectif et d’une validation démontre le problème de ces outils : vu le nombre de bombes tombées sur Gaza et la quantité d’immeubles rasés, si chacun d’eux avait contenu ne serait-ce qu’un combattant du Hamas, celui-ci serait à court d’effectifs.

La résistance opposée aux forces envoyées dans Gaza démontre que ce n’est pas le cas. Le Hamas a probablement souffert, mais sa volonté de combattre n’est pas brisée. Dès lors, quelques bombes ont été tirées sans avoir de cibles. Là, les "erreurs" ne se comptent plus par dizaines, mais représentent une large partie des tirs.

Probablement, les filtres sont-ils fixés trop bas dans le cadre d’une politique qui a été attaquée devant différentes cours de justice. Ces dernières années, les bombardements israéliens se sont acquis une réputation pour le nombre de morts civils qu’ils causent².

Avec de tels résultats, les dossiers de ciblages IA ressemblent plus à une feuille de vigne sur des bombardements de terreurs qu’à un travail sérieux (sur la base des résultats, nous n’avons pas accès aux données internes de programmation).

On aurait par contre attendu mieux des forces américaines qui ont davantage à perdre en termes de réputation et, dans leur cas, nous pouvons envisager l’erreur technique.

Donc, l’école aurait été utilisée par les gardiens de la révolution plusieurs années plus tôt et l’IA n’aurait pas actualisé ses informations. Le scenario est probable, car une IA établit des moyennes. Si elle avait assez d’images pour passer la moyenne, elle aura étiqueté le site : base active. L’IA ne vérifie pas ses données, elle les incarne et les considère comme une vérité absolue. Sauf à la forcer, par des prompts ou des programmes, à établir des contrôles pour plausibiliser, elle se montrera affirmative sans jamais rien mettre en doute.

Une confiance mal placée en elle-même par l’industrie informatique³ trop aveuglée par ses progrès rapides. Le débat n’a jamais cessé : l’industrie informatique réalise des résultats incroyables, mais au prix de l’acceptation d’un certain nombre d’erreurs.

L’IA n’est que la dernière incrémentation d’une longue liste (In memoria Windows 95 !) et la valeur de cette technologie repose exactement là-dessus : sa capacité à traiter d’immenses masses de données inaccessibles aux humains. L’IA avait donc la possibilité d’examiner toutes les photos du site depuis le moment où les USA ont disposé de moyens d’observer le bâtiment, donc, probablement depuis la construction de la structure. Un analyste humain aurait construit son dossier sur les images des derniers mois et… n’aurait pas commis l’erreur.

La faiblesse de cette technologie réside exactement là : dans cette structure qui est le cœur de cette technologie, car l’IA ne repose pas que sur la puissance de calcul, mais surtout sur les données. Raison pour laquelle certaines entreprises d’IA se moquent de livrer leurs algorithmes au public. Sans les données, celui-ci est inutile.

Pourtant, la puissance de l’IA, cette impression de magie et de toute-puissance qui naît de l’usage d’une telle masse d’information est grisante. L’esprit humain répugnant à l’effort, il est "humain" de valider le travail de la machine, surtout dans les situations de stress, comme en temps de guerre. La validation du dossier sans examen sérieux est donc envisageable et compréhensible.

Permettez-moi de ne pas jeter la pierre à l’officier ou aux officiers qui ont validé la proposition. Eux ne doivent probablement pas très bien dormir aujourd’hui, mais dans les circonstances d’activation de plans d’urgence, la confusion est compréhensible.

Seulement, il reste qu’ils ont commis un crime de guerre :

 Ceci inclut principalement les cas où une des parties en conflit s'en prend volontairement à des objectifs non militaires, aussi bien humains que matériels. Un objectif non militaire comprend les civils, les prisonniers de guerre et les blessés, a fortiori des villes ne comportant pas de troupes ou d'installations militaires.

Les mots ayant un sens, j’attire votre attention sur le terme volontairement. Nous ne sommes pas sur LCI où chaque missile tombé sur un immeuble est un crime de guerre. Non, la qualification exige non seulement de toucher des civils, mais que de l’avoir voulu. Dans le cas d’un environnement aérien contesté comme en Ukraine, la conclusion ne peut pas être tirée sans disposer du dossier d’objectif.

Dans le cas de la frappe sur l’école, personne n’a plaidé la dérive de l’arme en raison d’une défense AA active. Cette éventualité peut donc être exclue, d’autant que les explications mises à disposition indiquent au contraire une erreur de classification et non une dérive de l’arme.

La responsabilité des officiers qui ont validé le dossier de tir est donc engagée : ils ont signé un ordre de tir sur une installation civile et, légalement, ils en portent la responsabilité ! Encore une fois : Responsabilité légale ne signifie nullement un jugement négatif envers ces hommes probablement patriotes et qui ont cru servir leur pays.

Aucun d’entre eux n’a sans doute voulu tuer des enfants, mais ils ont commis la faute de valider un dossier mal établi par une machine. Donc, rappelons-nous la phrase de Jésus : que celui qui n’a jamais péché lui jette la première pierre.

Et, permettez-moi d’ajouter un mea-culpa personnel : j’ai envoyé à un ami une lettre de motivation préparée par une IA avec d’énormes bourdes que j’ai laissé passer, car je me suis laissé subjuguer par la perfection apparente du document. La bourde était logée en deux phrases mal transmises de mon CV que la machine avait utilisé pour construire le courrier.

Cette anecdote personnelle n’a de valeur que pour justement démontrer comment les IA impressionnent les humains au point de leur faire abdiquer tout esprit critique, ou abandonné par fatigue face à la masse documentaire manipulée par la machine. Utiliser l’IA exige d’en savoir autant qu’elle !

La "faute" naît donc d’une exigence de masse de feu et les premiers jours de bombardement de l’Iran montre la pression à laquelle les officiers ont été soumis pour réaliser plus de dix mille frappes sur ce pays. Malgré les erreurs, elle a permis d’obtenir un résultat militairement remarquable : la destruction d’une large partie de la direction iranienne.

Là encore, les mots ont un sens : militairement remarquable signifie : Délivrance d’armes sur une quantité d’objectifs que personne n’aurait pu obtenir dans des campagnes antérieures. Il est donc compréhensible que les officiers en charge de la campagne aient pu laisser passer des erreurs ou des coquilles.

La responsabilité ultime repose donc sur le politique qui a poussé à une trop grande intensité. Et là, permettez-moi une bien plus grande sévérité.

L’occident s’illusionne depuis des décennies sur le miracle de la puissance de ses armes. À raison, puisque les canonnières anglaises ont brisé les fortifications chinoises durant les guerres de l’opium. Durant la guerre d’Indochine, le Général de Lattre a tenu le vietminh à distance par l’usage de la marine et de l’aviation. Puissance encore, bien appliquée, à laquelle l’ennemi était incapable de répondre.

Seulement, la puissance ne fonctionne qu’à la manière d’un levier. À quoi cela sert-il d’en disposer si on en use sur le mauvais point ? Le général Westmoorland en fit la démonstration quelques décennies plus tard avec cette remarquable performance : perdre la guerre du Vietnam en gagnant la quasi-totalité des batailles au prix d’un effort militaire gigantesque.

La leçon ne semble pas avoir été reçue et l’immortelle phrase de Clausewitz : « La guerre est la continuation de la politique par d’autres moyens », semble avoir été perdue. Pourtant, combien de frappes sont annulées par ces 168 victimes innocentes du premier jour ?

L’illusion de puissance née d’une longue liste de cibles définie par l’IA a semble-t-il fait oublier le coût d’une erreur.

Là est peut-être l’erreur principale de nos dirigeants : Ils usent de nouvelles technologies sans avoir la caution des peuples et, par enthousiasme mal placé pour la technique, ils nous chargent d’une lourde responsabilité morale. L’odeur de Lavande n’efface pas celle du sang.