Veut-on d’une science sans conscience ?

Veut-on d’une science sans conscience ?

Vincent Edin

Article reproduit avec l’autorisation de Usbek & Rica,  trimestriel français de journalisme de récit centré sur les thèmes liés à l’avenir et à la prospective.

 

 

Télécharger cet article au format PDF / Download this article in PDF

 

Hier, pour les amis d’Usbek & Rica, j’ai joué le procureur lors d’un procès au titre équivoque « les machines vont-din – sc sans cosncienceelles déshumaniser la médecine ? ». Après réflexion, nous aurions dû trouver un autre titre car à cette question, la réponse est sans doute « non ». L’homme seul se débrouille très bien pour se déshumaniser, mais justement. Parmi les témoins du procès, il y avait Laurent Alexandre, l’homme qui explique qu’il faut trier les embryons pour garder les plus intelligents et exiger des femmes à haut QI qu’elles fassent plus d’enfants… Cette vision peu éloignée de l’eugénisme l’a emporté hier au motif qu’il faut laisser sa chance au progrès. Collectivement, nous avons donc plus peur d’une science sans conscience. Après le procès, Laurent Alexandre est venu me dire que j’avais une rhétorique trop frileuse et que 90% des chinois avaient confiance en une IA pour les soigner et que c’est cela qu’il faut affronter. Ce piège, cet enfermement où l’on nous montre toujours la Chine pour dire « c’est pire ailleurs, donc laissez nous faire » à de quoi effrayer. A ceux que le sujet intéresse, je reproduis ci-dessous ma plaidoirie où j’ai tenté (vainement) de faire primer l’humain sur les machines pour nous soigner.

  • Mesdames et messieurs les jurés, c’est un technophile qui se présente devant vous. Mais un technophile qui est, en même temps, technocritique. Je n’ai aucune nostalgie pour la médecine du début du 20ème siècle, les anesthésies à l’alcool fort ou aux gaz de guerre ou les accouchements sans péridurale… Non, j’aime ce que la modernité nous amène comme progrès. Récemment, j’ai eu la chance d’aller à l’inauguration du CHU de Reims avec des installations flambants neuves. Rencontrer des chirurgiens en néo natalité, une discipline qui n’existait pas il y a deux générations car les enfants prématurés mouraient systématiquement. De même que les personnes lourdement handicapées ne vieillissaient pas et que nos anciens ne vieillissaient pas, emportés trop tôt par des maladies fulgurantes. Alors oui, vive la science, vive la technologie et vive le progrès ! Mais le progrès au service de l’humain, comme lorsqu’on parlait du progressisme au XIXème, une idéologie du bien commun. Le néo progressisme actuel c’est la planche de salut ultime d’un capitalisme financiarisé à outrance et déshumanisé qui veut réduire l’humanité à des chiffres pour faire triompher les meilleurs d’entre nous. Si nous n’y prenons pas garde, si nous nous laissons régenter par ce progrès là, c’est l’essence même de l’humanité qui est en péril.
  • Car les progressistes actuels sont mus par une logique assurantielle à tous crins, avec la croyance infantile qu’on peut araser tous les risques, quand les mutualistes savent que les risques constituent l’essence de la vie et que la seule question qui vaille est la juste manière d’en répartir la charge au sein de la société. Vouloir éliminer le risque, le risque zéro, anticiper sur tout, c’est nier ce qui fait le genre humain, c’est nous mener tout droit vers une dystopie façon Black Mirror.
  • Souvenons-nous de notre grand philosophe et logicien Canguilhem qui écrivait « la raison est régulière comme un comptable, mais la vie est anarchique comme un artiste ! ». Nier cette vérité éternelle est aller au devant de grandes désillusions. Notre société est phobique du risque, mais le risque et l’accident font partie de la vie. Tous les médecins avec qui j’ai parlé m’ont expliqué de ce que la dataisation de la médecine avait compliqué les relations avec leurs patients. Quand vous recevez une personne atteinte de cancer et que vous lui dites qu’il a 90% de chances de survie et qu’il décède, sa famille aura envie de vous poursuivre en justice. Pourtant, vous n’avez pas menti, 90% de chances de survie implique bien évidemment 10% de possibilités de décès et la réalité c’est qu’une batterie d’indicateurs et d’outils ne permettent pas de savoir qui fera quoi face à la maladie. Le drame c’est que certains médecins ne s’opposent pas à cette vogue actuelle car elle les protège. Si vous pouvez poursuivre le chirurgien qui a raté votre rhinoplastie, il est plus compliqué d’attaquer un objet dénué de raison juridique comme un robot. C’est la déresponsabilisation à l’œuvre exposée sobrement par Nathalie Nevejans…Tout est déresponsabilisation et euphémisation des drames : comment ne pas tiquer quand on entend que les robots tuent, aux US, mais que nous préférons le taire pour ne pas freiner la croissance des robots en Europe ? Silence, on assassine mais au nom du progrès !
  • Les industriels ne sont pas les seuls coupables. Il y a des médecins complices de la déshumanisation, j’ai envie de leur dire : souvenez vous du jour de votre diplomation, quand vous avez juré de respecter le serment d’Hippocrate qui contient notamment deux passages que vous bafouez. D’abord, « Quoi que je voie ou entende dans la société pendant, ou même hors de l’exercice de ma profession, je tairai ce qui n’a jamais besoin d’être divulgué, regardant la discrétion comme un devoir en pareil cas ». Il est des vérités que le médecin garde pour lui pour accompagner le malade, pour protéger les proches. Tout le monde sait bien que toute vérité n’est pas bonne à dire et qu’elle relève de la volonté supérieure de chacun. Au nom de quoi s’infliger une transparence absolue et totalitaire ? Au nom de rien, rompons avec cette folie tant qu’il est temps. Un autre passage du serment devrait secouer les médecins : « Je dirigerai le régime des malades à leur avantage, suivant mes forces et mon jugement ». Suivant mon jugement d’homme, pas de la décision impérieuse et irrémédiable d’une machine que l’on suivrait comme d’autres suivent Dieu. La médecine s’est toujours développée grâce à l’esprit critique et en remettant en cause les dogmes religieux, qui interdisaient la dissection des cadavres ou le dons d’organes. Nous nous serions libérés de dogmes séculaires pour nous emprisonner nous mêmes dans un nouveau dogme au motif spécieux qu’il serait plus bankable ?
  • Il faut refuser cela et le refuser urgemment car ce dogme porte en lui les fruits d’eugénisme massif. En effet, à quoi bon continuer à soigner quelqu’un que l’on sait condamné sur la foi d’algorithmes ? A quoi bon permettre à des jeunes de faire de longues études, onéreuses pour la collectivité, si on vous dit qu’il sera atteint par un mal incurable quelques années plus tard ? Pourquoi une banque vous accorderait un prêt sur 20 ans quand elle voit en un clic une maladie invalidante vous frapper dans dix ans ? Humain, ce monde ? En rien. Et nous voudrions nous inoculer sciemment ce poison ? Fou que nous sommes !
  • Repensons à la sombre actualité, notre crise des EPHAD. Si une société s’évalue à la manière dont elle traite ses anciens, que valons nous nous Français ? Et vous avez entendu tous nos témoins, les robots vont venir s’occuper de nos anciens et ils seront moins invasifs que les soignants… Alors, bien sûr, ils pourraient aussi leur casser un bras ou un fémur, mais ça sont des dégâts collatéraux… On prend le problème à l’envers : on laisse un système se dégrader et on voudrait mettre de la technologie dessus pour ne pas investir dans l’humain. Cautère 2.0 sur jambe de bois, c’est du solutionnisme inepte : nos maisons de retraite souffrent d’un manque d’humanité et il n’existe aucune application, aucun alogrithme, aucne machine, qui puisse combler ce manque. Et d’ailleurs, dans les EHPAD les revendications portaient sur plus d’humains, pas plus de robots… Sic transit exit machina et ecce homo, bordel ! Pensant aux EHPAD comme aux déserts médicaux, je me dirais qu’on pourrait détourner le titre du procès : coupes budgétaires, sous effectifs, formation des médecins, la médecine est-elle encore une science humaine ? La technologie n’est pas seule responsable de la déshumanisation, certes, mais elle ne peut en rien améliorer la situation, au contraire elle peut accélérer la chute…
  • Mesdames et messieurs les jurés, puisque nous jugeons ce soir non pas au nom de 2018, mais au nom des générations futures, prenons un peu recul. Il est des phrases si puissantes qu’elles traversent les siècles sans prendre une ride, contrairement à moi… Ainsi de l’inusable apophtegme de François Rabelais « science sans conscience n’est que ruine de l’âme ».
  • Depuis le moyen âge, pas une discipline qui n’est autant incarné le progrès que la médecine, depuis Ambroise Paré jusqu’à Pasteur et Françoise Barré Sinoussi. La médecine a toujours avancé grâce à une parfaite maîtrise humaine du progrès technique et technologique. Ce qui nous menace aujourd’hui, ça n’est pas l’exclusion des médecins hors du bloc opératoire par les robots. Non, c’est bien plus insidieux, ce qu’on nous propose et ce qui nous menace, c’est une nouvelle religion. Celle que l’historien Yuval Noah Harari appelle le dataisme, la foi aveugle dans les datas, les algorithmes et la supériorité absolue des machines ; exit l’esprit critique. Un hôtel où se rendre, un vêtement à acheter, une décision commerciale, ou un itinéraire à emprunter à prendre sur la foi d’algorithmes et autres recommandations automatisées qui prétendent nous connaître mieux que nous même… Et demain, donc, non content de miraculeusement bouger le scalpel ou le bistouri, le big data voudrait ôter au médecin la possibilité de livrer son diagnostic. L’algorithme dira qui il faut choisir de soigner ou pas au nom de critères prétendument « objectifs ». C’est littéralement inhumain. Il est des choix inhumains, incarnés au mieux par le final du grand roman de William Styron, le choix de Sophie. Dans cette œuvre, l’héroïne arrive à Auschwitz et le médecin nazi lui demande de choisir entre ses deux enfants, lequel elle veut sauver et lequel elle choisit, sciemment, d’envoyer dans les camps de la mort. C’est infâme et ça ne trouve son explication que dans la formule de Primo Levi à propos d’Auschwitz, « l’endroit où le pourquoi n’existe pas ». Les machines ne comprennent pas la notion de pourquoi, elles exécutent. Elles n’ont ni morale, ni surmoi, ni éthique, ni compassion. Elles regardent des cas, des individus, des maladies et plus le commun qui dépasse tout. Pour reprendre les mots de Paul Ricoeur «la maladie est privé, mais la santé est publique » et c’est pour elle que nous ne devons pas abdiquer et nous battre. Mesdames et messieurs les jurés pour que la médecine de demain reste une science humaine, pour que jamais aucun malade ne soit réduit à des données médicales, je vous conjure de voter NON ce soir et ainsi de mettre un coup d’arrêt à l’inhumanité en marche à l’heure actuelle.

 

7 février 2018