L’expression même d’Intelligence Artificielle est égarante, Intelligence a le sens anglais de renseignement.
En médecine, les IA sont nombreuses, mais sectorisées. Dans les hôpitaux, on en trouve dès le service des entrées. Des secrétaires rentrent des informations sur les patients dans leurs ordinateurs. Ces données (ou data) alimentent ensuite des IA spécialisées en comptabilité, utilisées pour chercher des économies. Dans les étages, il n’y a pas un service sans ordinateurs; même les chariots de soin sont équipés de terminaux recueillant des données. Tandis qu’elles offrent leur attention aux malades, les infirmières rentrent des informations. Grâce à des logiciels de traitement de l’activité médicale, on suivrait au plus près les dépenses d’argent public, et on pourrait les répartir de façon plus pertinente.
Loin de se réduire à de simples outils au service du soin, les IA sont ainsi portées par une stratégie politique. À chaque fois, on présuppose que les enjeux de santé peuvent et doivent se limiter à un système de traitement de l’information. Cette réalité matérielle nous rappelle que les infrastructures et data centers impliqués dans son fonctionnement, réputés gourmands en énergie et en matériaux rares, devront aussi être évalués à l’aune de leur impact écologique. Depuis le début des années 2000, l’initiative internationale Une seule santé souligne la nécessité de prendre soin de notre environnement pour mieux nous protéger contre les maladies et les pandémies.
Certes des IA spécialisées dans l’analyse d’images détectent des tumeurs cancéreuses des années avant son développement, et surtout plus tôt qu’un diagnostic traditionnel. Mais la confirmation d’un médecin reste nécessaire, et c’est toujours une personne qui annonce le diagnostic aux patients.
Pour autant, ces nouveaux outils bouleversent le monde du soin. Et on peut questionner l’enthousiasme que suscitent ces IA: fondé sur l’ambition d’améliorer le soin grâce au progrès technique il s’inscrit dans une idéologie de la santé parfaite, fort illusoire mais à la vie longue.
Au 17e siècle, des philosophes comme Gottfried Wilhelm Leibniz encourageaient déjà les médecins à mathématiser leur discipline pour étudier le corps humain, comme si c’était un objet inanimé. Aujourd’hui, on rêve également que la dataïsation rende le soin plus objectif, fiable et transparent. En toile de fond, on devine la vieille utopie d’en finir avec le risque létal pour les patients: grâce à la toute-puissance d’une rationalité quantificatrice, nous anticiperions la moindre évolution possible d’une maladie ou d’un traitement. Mieux, nous pourrions prédire la survenue d’une pathologie avant même qu’elle se développe. C’est un enjeu de la médecine dite génomique: en analysant les milliards d’informations contenues dans notre ADN, des médecins assistés d’ordinateurs pourraient repérer les facteurs de risques les moins évidents, afin de développer des préventions et traitements adaptés.
Un saint patron du positivisme hilare: Gottfried Wilhelm Leibniz (1646-1716) par Louis Figuier, Barcelone 1881
Face à cela, inquiets, nous pensons spontanément que rien ne saurait remplacer le travail humain, à plus forte raison dans ces métiers relevant davantage des sciences humaines que de l’informatique. Mais cela revient à essentialiser la médecine, comme si c’était une discipline qui n’évoluait jamais. Or les soignants renouvellent sans cesse leurs pratiques professionnelles en fonction des nouvelles techniques et technologies disponibles. Autrefois, par exemple, les prélèvements d’urine ou de sang étaient des gestes techniques spécialisés; l’analyse physico-chimique des échantillons requérait du temps et un savoir-faire. Aujourd’hui, ces pratiques sont devenues routinières et largement automatisées dans les laboratoires d’analyse médicale.
Même le traitement est en partie prescrit par des machines. Pour autant, cette automatisation n’empêche pas les soignants de faire ces prélèvements avec l’humanité, l’empathie et la considération pour les patients qui font défaut aux machines. L’enjeu n’est donc pas de refuser l’automatisable que de lutter contre l’appauvrissement des relations de soin, leur réduction à une procédure uniformisée et impersonnelle.
Le corps ne se réduit pas à un texte ou un jeu de données à décoder.
S’il te mord, un robot médecin te soignera
Le traitement des informations par des IA évoque la sémiologie, une discipline consistant à étudier les signaux caractéristiques des maladies. Mais cette approche en est une parmi d’autres en médecine, et ne suffit pas à prendre en charge un corps vécu et une vie incarnée. Une intelligence clinique reste nécessaire, nourrie d’attention, de mémoire, d’imagination, de créativité, de sens du singulier et de présence par corps. Le soignant ou le médecin, lorsqu’ils diagnostiquent et accompagnent des patients, ne se contentent pas de calculer. Ils pensent pour panser; et pour panser, ils s’engagent.
Les IA ne sont pas le sens du soin mais les moyens du soin. De ce fait, elles sont incapables de faire face à des situations nouvelles, ambiguës ou exceptionnelles. Leurs productions et résultats sont certes impressionnants. Mais ces outils ne sont que des automates computationnels, autrement dit des machines se contentant de reproduire des réponses basées sur des régularités. Elles laissent en suspens l’irrégulier, l’exception, qui sont pourtant la marque du vivant, des maladies et du soin.
Croire qu’elles font nécessairement un bon diagnostic est une illusion rétrospective. En réalité, elles expliquent du vivant par du mort. Leur intelligence est fondée sur celles des soignants, dont les décisions et pratiques ont alimenté les bases de données ayant servi à les entraîner. Sans ce travail humain primordial, elles ne peuvent rien.
XVéme siècle, Flandres
Refuse d’être probable!
La maladie, la souffrance et la mort ne se réduisent pas à des données analysées au travers d’algorithmes. Les soignants et les patients développent une relation incarnée, nécessaire à l’établissement d’un diagnostic et d’un soin. Le fait d’être un corps et d’examiner celui d’une autre personne étant étranger aux IA, elles sont incapables de soigner quelqu’un à proprement parler. L’intelligence soignante a ceci de singulier qu’elle passe par le corps du soignant qui assure et rassure par sa présence enveloppante. Pensons à nouveau à l’annonce du diagnostic. Dire la vérité au malade n’est pas qu’informer: une IA nous prend en main, mais jamais par la main.
L’intelligence soignante est interprétative et imaginative; elle tient compte de la situation du malade, à chaque fois singulière et surprenante, et non comme probable. Elle est affective: le soignant donne, par ses émotions situées et sensibles, corps à des informations numériques qui, elles, sont impersonnelles. Elle est narrative. La communauté des soignants réinstalle avec le patient, dans des récits de sa vie, des data sans cela insensées. Le carnet de santé numérique généré par IA qui garde la mémoire des activités de soin n’a pas de souvenirs des situations. On mesure ainsi l’écart abyssal entre une notification algorithmique et un dialogue entre deux personnes.
En définitive, les IA sont des dispositifs techniques, véhiculant des valeurs de rapidité, d’exhaustivité ou encore de productivité, parfois utiles aux soignants, et parfois incompatibles avec d’autres valeurs présentes dans leurs métiers, comme la lenteur, l’attention ou encore la confiance.
Le monde du soin doit d’ores et déjà opérer des arbitrages entre ces différentes valeurs. Il gagnerait à inventer de nouveaux espaces de discussions pour ces questions, qui vont de plus en plus se poser à l’avenir.
Jean-Philippe Pierron est philosophe de la médecine
Il dirige le master Humanités médicales et environnementales à l’université de Bourgogne et la chaire Valeurs du soin à Lyon. Il a dirigé l’ouvrage collectif De l’IA à l’intelligence clinique. Ce que le numérique fait au soin (Le Bord de l’eau, 2024).
Jadislherbe 