Les nouveaux dangers de l'Internet cognitif

Olivier Feix est Responsable de l’Executive MBA Cybersécurité et Management Stratégique des Risques Informationnels (CMSRI) à ESG MBA – Groupe Galileo Global Education.

---

"The dream is the network" : "Paradoxe : le summum de la raison et du calcul accouche du rêve".[1]

Voici ce que disait Pierre Bellanger, Fondateur de Skyrock, lors d’une conférence prononcée le 18 avril 2019 au Ministère des Armées. 

"Notre monde largue les amarres d’avec une parenthèse de trois siècles de raison pour l’océan inconnu du rêve". Voici ce que voudrait dire "entrer dans la post réalité" ou la "post vérité" : "une des caractéristiques supposées de l’inconscient est l’incapacité de différencier le réel de l’imaginaire. Dépourvu d’accès aux sens, l’inconscient vit aussi intensément une situation évoquée que vécue". "Tout est vrai pour l’inconscient. Le réel est difficilement falsifiable. Le numérique, en revanche, permet tous les trucages". 

L’Internet est passé de la raison à l’inconscient. Internet était, au départ, destiné à accroître le partage du savoir et des connaissances pour comprendre le réel. Petit à petit, nous sommes passés de "l’Internet des idées" à "l'Internet des désirs", et ce fut "le triomphe de la réponse aux demandes solvables par le commerce, et notamment en ligne". 

En parallèle, ce digital des désirs est né pour collecter le plus d’informations possibles sur les motivations, les désirs de chaque individu. Issu de technologies militaires, il a même été ouvert au monde pour cela : savoir ce que pensent mais surtout désirent ou rêvent l’ensemble des individus connectés. 

Il induirait donc un système central dédié à "la surveillance de masse, le contrôle policier ou la transparence forcée des populations par le réseau". "Jamais la surveillance industrielle des populations associant les entreprises et les agences d’État n’avait été aussi massive et efficace".

Mais cela n’est valable et possible que si – et seulement si – "ces données captées ne sont pas altérées", c’est-à-dire que les individus ne livrent que des "vérités" les concernant (une opinion, une action, une identité d’accès fiable, un lien avec une personne, une photographie personnelle, etc.). 

Malgré une soumission volontaire à ces règles et un abandon partiel de liberté pour être connecté, chacun a conscience que les traces et informations laissées sur le web sont indélébiles, ineffaçables, que "chaque acte condamne à l’infini". 

Chacun serait donc tenté de livrer de fausses informations pour rester connecté sans pouvoir être démasqué. Nous sommes entrés ainsi dans un imaginaire faisant office de réel. Et ceci vaut autant pour les grandes entreprises que pour les sciences, les identités ou les souffrances du monde. "Les individus, les entreprises, les États produiront des nuages de données incorrectes pour protéger leurs données objectives, créant ainsi un brouillard protecteur". Il s’agit donc d’un passage du Cloud au plus épais des Fog[2]. 

Sans nous en rendre compte, nous avons pénétré sur le territoire du troisième internet : l’Internet Cognitif. 

Pendant plusieurs décennies, le système technologique a cherché à faire converger l’homme vers le fonctionnement "rationnel et mathématique" de la machine. 

Désormais, les IA convergent vers le décodage et l’émulation du fonctionnement humain (les IA Cognitives). 

Cela revient à envisager que les capteurs (caméras, micro, géolocalisations, etc.) qui équipent tous nos devices ou objets connectés, appuyés par de puissants outils d’analyse numériques (qui se trouvent derrière ces senseurs et captations), vont détecter ces vérités bien au-delà de ce que nous souhaitons consciemment livrer sur nous-même. 

Les émotions filmées ne tromperaient malheureusement pas. Le digital se transforme dès lors en un redoutable et permanent "détecteur de mensonge". 

Les preuves nous concernant pourraient donc être captées et accumulées à notre insu, sans jamais savoir à quel procès elles pourraient servir.

Sans parler ici - grâce aux technologies DEEPFAKES - qu’il sera possible de fabriquer intégralement de nouvelles preuves "plus vraies que nature". 

Qui n’a pas vu les dernières technologies du réseau social Chinois TikTok permettant à chacun de devenir Tom Cruise le temps d’une vidéo[3]? 

Nous l’ignorions peut-être, mais il faut collecter un nombre considérable de points et caractéristiques biométriques du visage en gros plan pour produire de telles vidéos. À l’heure des satellites haute définition, des multiples drones, de la vidéo-surveillance urbaine, ou tout simplement des conférences en télétravail ou des photographies de vacances 4K, posons-nous simplement la question de la possibilité de ne pas pouvoir être identifiés ? 

Quelles contremesures à "’hypertrucage" par le digital ? Quelle cybersécurité cognitive mettre en œuvre pour nous protéger contre nous même ? "Que devient la justice sans réalité" ou la justice dans l’hyper-réalité ?  

Olivier Feix

---

[1] L’ensemble des citations en italique sont issues du texte de Pierre Bellanger, "Internet et le Serpent Arc en Ciel", IHEMI,  https://www.ihemi.fr/articles/internet-est-le-serpent-arc-en-ciel

[2] Conférence Olivier Feix, "Dark Side of The Web", ESG, Janvier 2020

[3] TikTok & Tom Cruise : https://www.youtube.com/watch?v=wq-kmFCrF5Q