De l’Intelligence Artificielle à l’Humanité Artificielle : la gouvernance du calcul plutôt que le gouvernement de la raison

Francis Beau est Docteur en Sciences de l'information et de la Communication & Chercheur indépendant.

---

La folie bureaucratique qui s’est manifestée depuis le début de la crise sanitaire est révélatrice de la folle utilisation des chiffres à laquelle nos civilisations sont de plus en plus exposées. Elle conditionne nos sociétés en les abreuvant de données dénuées de ce sens qui fait toute la pertinence de l'information. Elle risque à terme de nous transformer en une humanité artificielle, à l'image de cette intelligence du même nom qui n'est en réalité que du calcul.

Le recours à la métaphore guerrière permet de faire un rapprochement entre les nombreuses manifestations de la crise globale que nous affrontons : qu’il s’agisse de guerre contre les pandémies, de guerre économique, de guerre contre le dérèglement climatique ou de guerre contre le terrorisme, nous ne savons pas qui est l’ennemi, parce qu’il est invisible et qu’il circule parmi nous incognito.

L’utilisation désormais fréquente de cette métaphore est lourde de sens, alors même que notre pays affronte simultanément tous ceux qu’elle nous invite à considérer comme autant d’ennemis insaisissables. Les professionnels de la guerre en effet, les militaires, comme plus largement d’ailleurs ceux de la sécurité, pompiers et policiers, se sont de longue date penchés sur les phénomènes de crise, pour en détecter les indices de déclenchement et se donner les moyens d’y faire face. Comme les policiers et les pompiers, les militaires acceptent de risquer leur vie pour en sauver d’autres. Ils ont dès lors une approche de la notion de risque face à la crise qui les distingue parfois de leurs contemporains.

La complexité du concept de risque, qui renvoie en particulier aux peurs et aux angoisses de chacun, est essentiellement due au fait qu’il agrège deux dimensions, la probabilité d’occurrence de l’événement redouté et la gravité de ses conséquences. Cette complexité amène les militaires à considérer la prévention des risques plus sous l’angle de la préparation au combat que sous l’angle du simple calcul de probabilités. Il s’agit, pour eux, de faire face à l’adversité quoi qu’il arrive, en assumant toutes ses conséquences, y compris la mort.

La métaphore guerrière doit être néanmoins utilisée avec prudence car elle ne peut s’appliquer, en toute rigueur, qu’à des circonstances extraordinaires impliquant l’acceptation d’un état d’exception étroitement lié à une certaine banalisation de l’idée de mort. En temps de paix, la mort est hors-la-loi. L’ennemi n’est pas déclaré et la prévention l’emporte sur l’affrontement. Il existe alors trois moyens différents, parfois complémentaires, de prévenir les risques inhérents aux crises :

• Le premier, abondamment utilisé par l’État-providence moderne, repose sur des techniques d’assurance, de calcul et de mutualisation des risques.
• Le second, utilisé pour affronter des menaces diffuses et nouvelles, dérive du premier et repose sur le principe de précaution qui évalue le risque (calcul) pour l’éviter.
• Le troisième, bien connu des militaires, repose sur un travail d’anticipation qui prépare à affronter l’imprévisible en appliquant le triptyque "détection des signaux faibles (la veille), élaboration de dispositions à mettre en œuvre face aux scénarios du pire (la planification), constitution de stocks de guerre (la réserve)".

Seul le troisième moyen, qui se fie plus à l’information (veille), à l’imagination (planification) et à la raison (réserve) qu’aux données, aux statistiques et au calcul, aurait pu, me semble-t-il, nous permettre d’affronter cette crise sanitaire avec moins de casse. En particulier, le troisième volet du triptyque, la constitution de réserves de guerre, de crise ou de catastrophe, appliquée tout autant aux biens matériels qu'aux moyens humains aurait pu permettre de disposer de lits d'hôpitaux, de respirateurs, de masques et autres protections, ainsi que de médicaments, et des moyens de continuer à les produire, mais aussi d’effectifs humains mobilisables pour assurer les renforts. Un service national de santé qui s'imposerait à tous les jeunes français, dans des fonctions correspondant à leur niveau d'études pourrait être institué à cette fin.

Face à un ennemi insaisissable, aux capacités de nuisance d’autant plus incalculables qu’il est difficile à identifier, les techniques de calcul des risques s’avèrent de facto inadéquates, tandis que le principe de précaution, poussé aux limites de sa logique, conduit à maximiser les calculs de risque afin de justifier une intervention massive qui, après coup, en réduira l’impact. Dans la guerre contre l’actuelle pandémie, les modèles épidémiologiques construits à l’Imperial College de Londres, qui nous prédisaient des centaines de milliers de morts pour justifier chaque nouveau confinement massif, illustrent parfaitement cette utilisation du principe de précaution. La force d’une telle stratégie de justification réside dans le fait qu’elle demeure irréfutable, même a posteriori. S’il n’y a pas la centaine de milliers de morts annoncés, c’est interprété comme le résultat de la politique de confinement massif ; si la catastrophe advient, on pourra se réfugier derrière le "on vous l’avait pourtant bien dit, mais vous n’avez pas suffisamment respecté les consignes".

Le principe de précaution est par essence ascientifique car infalsifiable ou irréfutable : en faire trop pour annuler la possibilité même de montrer qu’on aurait pu faire autrement. On peut y voir comme certains une instrumentalisation de l’expertise scientifique par le pouvoir politique pour justifier une nouvelle forme de souveraineté plus autoritaire. J’y vois pour ma part, plus qu’une volonté politique délibérée, un dévoiement de la politique fondée sur la raison et l’universalité du discours[1] pour céder la place à la logistique[2] et à la puissance du calcul.

S’il est vrai que la politique de la peur inhérente à ce principe de précaution contribue à infantiliser les gens et que le pouvoir peut prendre goût à son emprise auprès d’une opinion terrorisée par la permanence des messages anxiogènes, il n’en reste pas moins que notre addiction aux chiffres ajoute au "viral microbien" un "viral numérique", tout autant ravageur. L’épidémiologie préventive, qui s’appuie sur des techniques de modélisation probabiliste et statistique, place les big data et l’intelligence artificielle aux commandes d’un pouvoir déboussolé par les excès d’une politique comptable et financière et une foi démesurée dans la science. Technologie sans méthodologie, ou calcul sans raison, comme "science sans conscience", ne sont "que ruine de l’âme".

Tranquillement installée à l’abri du bouclier nucléaire, et consciente de l’énormité du sacrifice consenti par les générations précédentes, ma génération rejetait unanimement toute idée de retour à la barbarie des guerres entre grandes puissances. Nous savions néanmoins à quelle autre barbarie totalitaire le sacrifice de nos aînés nous avait fait échapper et nous étions parfaitement conscients de l’impérieuse nécessité de nous préparer au pire afin de préserver la paix en défendant notre liberté. La crise sanitaire actuelle semble inverser radicalement les valeurs dans lesquelles nous avons grandi. D'une génération d'hommes libres n'ayant d'autre maître que Dieu ou toute autre sorte de transcendance régnant sur le bien commun, nous sommes en train de passer à une génération d'hommes soumis à une haute autorité de santé devenue folle de technologie et de science mal maitrisée réduite aux algorithmes et aux études randomisées. Les scientifiques qui ont pris le pouvoir abandonné par une classe politique confrontée à des responsabilités semblant la dépasser, nous ont conduits à sacrifier nos libertés et la vie du pays en sabordant son économie pour sauver des vies. Jadis, on acceptait de sacrifier des vies pour sauver le pays, aujourd’hui, on accepte de sacrifier le pays pour sauver des vies.

Le dévoiement politique que nous révèle cette crise sanitaire traduit une approche de l’exercice du pouvoir inspirée d’un imaginaire cybernétique qui impose une nouvelle vision du monde. Une telle approche politique s’appuie, en effet, sur une science réduite à la technologie, c'est-à-dire à un discours sur la technè, vertu associée à la production, sans se préoccuper de méthodologie, c’est-à-dire du chemin à suivre avec toute la prudence qu’impose la praxis. Privé du sens que lui donne sa finalité, l’art de gouverner (kubernêtikê) se perd ainsi dans une gouvernance mécaniste là où une approche finaliste ou téléologique du gouvernement devrait s’imposer. Le rêve cybernétique d’une mise en pilotage automatique des affaires humaines, qui est déjà devenu réalité dans la finance, est désormais en train de se réaliser en matière de santé publique. À partir d’une vision hyperscientifique de la société fondée sur la conviction que "connaître c’est mesurer", le gouvernement par la raison devient gouvernance par le calcul. En nous référant systématiquement à la science pour savoir et décider, ou à la technique pour agir et transformer, nous adhérons à la dystopie cybernétique que Norbert Wiener, père fondateur de la discipline, envisageait déjà dans les années cinquante.

Francis Beau

---

[1] Le logos grec.

[2] Au sens mathématique et philosophique du terme, du grec logistikê (tekhnê), "(technique du) calcul", logique symbolique, approche mathématique moderne de la logique formelle.