Pourquoi le développement de projets d’intelligence artificielle en entreprise devrait s’inspirer des approches de développement des traitements médicaux ?

Maxence Jeunesse est Directeur Scientifique de l'Intelligence Artificielle chez Covéa.

---

Une réflexion personnelle sur la nécessité de penser à mesurer l’effet réel des solutions informatiques déployées en entreprise notamment avec l’intégration de l’intelligence artificielle.

Penser la construction de nouveaux produits d’intelligence artificielle (IA) en entreprise comme on pense le développement de nouveaux traitements médicaux est un parallèle intéressant pour développer des projets d’IA utiles et bénéfiques au service des équipes opérationnelles.

On sait que l’IA est un projet d’entreprise interdisciplinaire où les spécialistes de la donnée doivent travailler de concert avec les opérationnels et les responsables des applicatifs informatiques de ces mêmes équipes. On sait que pour réussir, il faut accepter de revoir les hypothèses régulièrement, et d’avoir des cycles courts de développements, qui promeuvent le « test fast, fail fast ». Cependant, cela ne veut pas dire que tout se fait hors cadre. Et lorsque la généralisation de la solution doit se faire à plusieurs centaines d’utilisateurs, l’échec est une option assez peu désirable.

Beaucoup d’articles (sur le site de l’INSERM par exemple) mentionnent l’apport de l’IA dans le domaine de la santé. Mais je n’ai pas vu d’article sur l’apport de la santé sur le domaine de l’IA. Et pourtant les apports méthodologiques sont nombreux : interdisciplinarité nécessaire, gestion de risques et incertitudes, documentation rigoureuse, etc…

En tant qu’ingénieur informatique construisant des solutions d’IA pour le groupe Covéa, je me vois souvent comme un médecin écoutant son patient et cherchant à lui prescrire le bon traitement qui supprimera la douleur, ce fameux « irritant » que les anglo-saxons appellent la « pain » (souffrance) et que tous les bons commerciaux d’éditeurs logiciels se doivent d’identifier chez leurs potentiels futurs clients. Parfois, on connait le traitement, et parfois il faut développer un nouveau traitement et inventer développement clinique sur la pratique projet un nouveau médicament. Avec les équipes en charge du projet, nous troquons la casquette de médecins à celle de chercheurs en médecine.

Mais au-delà de ce parallèle sémantique, il y a des pratiques dans le domaine de la recherche médicale qui méritent d’être considérées sérieusement dans la recherche de solutions informatiques censées « soigner » la douleur des équipes opérationnelles.

La complexité du développement des médicaments vient principalement de la difficulté de concilier sécurité et incertitude. L’enchevêtrement de mécanismes biologiques mal compris faisant la spécificité de chaque individu et les facteurs environnementaux rendent difficile de prédire efficacement qu’entre le mécanisme causal de laboratoire (la molécule X agit sur le système Y qui est responsable de la maladie Z) et la finalité : un être humain atteint de la maladie Z sera soigné grâce au traitement à base de la molécule X, et il n’y aura pas d’effets indésirables. Il y a donc une incertitude sur l’effet réel du traitement qu’il convient de considérer dès la conception du médicament.

Les différentes phases du développement d’un nouveau traitement cherchent à lever progressivement ces incertitudes. Après des tests en laboratoire, le développement clinique se découpe en trois phases. La phase I cherche à diminuer l’incertitude d’effets secondaires extrêmes et étudier la pharmacocinétique humaine. C’est le premier contact avec la solution proposée. Elle se conclut avec l’absence manifeste d’effets secondaires extrêmes.

La phase II étend le groupe de volontaires pour étudier les effets selon la dose administrée. Elle se conclut par des recommandations sur la dose optimale qui semble maximiser l’effet attendu et minimiser les effets indésirables.

La phase III se déroule avec un groupe beaucoup plus large et souvent selon des méthodes en double aveugle. L’objectif de cette phase est de confirmer l’efficacité réelle et la non-dangerosité du médicament.

À ce moment-là, les résultats de ces essais cliniques sont communiqués aux autorités de régulation. Elles donnent, sur cette base, le droit de commercialiser le médicament.

Mais ce n’est pas fini. Une fois commercialisé, la supervision des effets secondaires est continue. Elle est assurée par les médecins et pharmaciens qui notent scrupuleusement tous les effets secondaires remontés par les patients. Ce processus s’appelle la pharmacovigilance.

En quoi c’est utile de s’inspirer de ces pratiques pour développer l’IA en entreprise ? Il y a plusieurs raisons à cela.

Trop souvent, la culture projet en entreprise isole un problème à régler (ex : les clients nous appellent parce qu’ils veulent de l’information sur leur dossier) et propose une

solution (ex : nous allons leur envoyer un message vocal généré par une IA qui fait un état des lieux de leur dossier) sans considérer de manière holistique l’impact de la solution (ex : en vrai, les clients n’écoutent pas leur boîte vocale et nous rappellent ou nous renvoient des messages écrits).

Bien sûr l’exemple est ici volontairement simpliste. Mais on peut le complexifier en introduisant des activités diverses et des canaux de communication multiples, qui dans des logiques de vases communicants infernaux, provoquent des déformations de l’activité (emballement, attrition, déport) dont il devient difficile d’expliquer les raisons.

Embrasser dès la conception qu’il y a des incertitudes sur l’impact réel serait sûrement salutaire.

C’est bien là que se trouve l’intérêt d’adapter la méthodologie des essais cliniques.

Il paraît donc pertinent d’accepter de passer par une phase d’expérimentation en conditions réelles (Phase III) comme un préalable au déploiement généralisé d’une solution. Cela permet de vérifier l’efficacité réelle de la solution proposée ?

De la même manière, la supervision d’effets secondaires indésirables devrait être généralisée post déploiement.

Les effets secondaires techniques sont très souvent bien observés (un nouveau processus touche un socle informatique qui n’avait pas été dimensionné pour la charge). Mais il serait intéressant aussi d’étudier d’éventuels effets secondaires opérationnels comme par exemple, en permettant aux collaborateurs de remonter une alerte qui aille au-delà du « bug ». Par ex : la mise en place d’un système de traitement automatique, on observe des transferts « inhabituels ». Si chaque collaborateur se met à faire part de ces transferts, on peut alors considérer qu’il y a un effet secondaire si le volume devient significatif.

Au-delà des protocoles lourds de développement de médicaments qui pourraient être inspirants pour la mise en place de systèmes d’IA complexes avec des impacts difficiles à anticiper dans l’entreprise, il y a de manière plus légère une dernière comparaison que je souhaiterais mettre en avant. Parfois, le médecin ne préconise pas de médicament, on connait tous le slogan « les antibiotiques, ce n’est pas automatique ». Mais parfois, c’est aussi simplement un changement de comportement « arrêter de fumer », « faites du sport ». Il me parait donc important avec l’IA de ne pas chercher forcément à l’utiliser mais de prendre le temps de voir si une solution non technologique ne serait pas plus adaptée (simplifier un processus, former des collaborateurs, recruter des compétences différentes).

Conclusion

Adopter les méthodologies rigoureuses du développement des traitements médicaux pour les projets d'intelligence artificielle en entreprise est une nécessité dans notre approche de la conception et de la mise en œuvre de solutions technologiques dans des équipes qui présentent les caractéristiques du vivant (complexité, dépendance à l’environnement, adaptabilité). En intégrant des phases d'expérimentation contrôlée et une supervision continue des effets secondaires, nous pouvons non seulement améliorer l'efficacité des solutions développées, mais aussi minimiser les impacts négatifs imprévus. Cette approche holistique et prudente permet de créer des solutions d'IA véritablement bénéfiques, alignant la quête d’amélioration de la productivité de l’entreprise avec la transformation vécue par les collaborateurs.

Maxence Jeunesse

---

[1]   Développement du médicament · Inserm, La science pour la santé

[2]   Le développement du médicament - Ministère du travail, de la santé ...