L’IA ET LA SANTE

« Depuis que l’IA s’est fait une place dans les blocs opératoires, le nombre d’erreurs chirurgicales explose »

Des artères perforées, des outils au mauvais endroit dans le corps du patient, des moniteurs qui ne signalent pas le rythme irrégulier des battements cardiaques: depuis que les logiciels d’apprentissage par l’IA se multiplient dans les hôpitaux, les erreurs médicales et les accidents chirurgicaux font de même. Mais ces machines sont tellement nombreuses à arriver sur le marché qu’aux États-Unis, l’agence fédérale de régulation n’arrive plus à suivre.

Matthias Bertrand – Source: Reuters

L’intelligence artificielle devait entraîner une véritable révolution de la médecine en permettant de découvrir de nouveaux traitements ou de mener des opérations chirurgicales plus précises. Mais le nombre d’interventions ratées, avec parfois des séquelles pour les patients, a explosé depuis que les dispositifs médicaux utilisant l’apprentissage par IA se sont multipliés, selon une enquête de Reuters.

L’IA multiplie les erreurs

Acclarent, une filiale du géant pharmaceutique Johnson & Johnson spécialisée dans les logiciels d’imagerie médicale, avait annoncé en 2021 que son système de navigation TruDi serait dorénavant doté d’une IA. Cette machine, utilisée pour guider les chirurgiens lors d’opérations de précision au nez ou à la gorge, utilise désormais un algorithme d’apprentissage automatique.

Avant cette nouvelle orientation, le système TruDi avait fait l’objet de sept signalements non confirmés de dysfonctionnement. Dans un des cas, un patient avait été légèrement blessé durant l’intervention. Depuis que la machine a été dopée à l’IA, les dossiers se sont multipliés: selon Reuters, la FDA a reçu au moins une centaine de signalements entre 2021 et 2025. Au moins dix personnes auraient été blessées après que le logiciel aurait induit en erreur le personnel soignant sur la position des instruments.

Au moins 10 blessés

Certains cas auraient pu finir tragiquement: deux patients ont subi un accident vasculaire cérébral après qu’une artère principale a été accidentellement endommagée. Un autre a eu la base du crâne perforée et, dans un autre cas encore, du liquide céphalo-rachidien, dans lequel baignent le cerveau et la moelle épinière, s’est écoulé du nez d’un patient sur la table d’opération.

Les rapports de la FDA ne mentionnent pas de cause privilégiée derrière ces cas d’erreurs médicales, mais leur multiplication rapide interpelle. Deux plaintes ont été déposées au Texas par les deux victimes d’AVC, et celles-ci incriminent directement l’IA, révèle l’agence de presse. “Le produit était sans doute plus sûr avant l’intégration des modifications apportées au logiciel pour y incorporer l’intelligence artificielle qu’après la mise en œuvre de ces modifications”, peut-on lire dans le dépôt de l’une des plaintes.

Le système TruDi semble, selon le témoignage d’un chirurgien qui se livrait à une sinuplastie, une opération semi-invasive destinée à traiter la sinusite chronique, ne pas donner la position exacte des instruments. Une imprécision qui a bien failli être fatale lorsqu’il a involontairement abîmé l’artère carotide.

L’IA fait son nid à l’hôpital

Mais à supposer que les tribunaux aillent dans ce sens, la responsabilité juridique ne sera peut-être guère aisée à retracer, sur le plan économique. Acclarent, qui a conçu le système TruDi, a depuis été rachetée par Johnson & Johnson, puis par Integra LifeSciences. Cette société a déclaré que les rapports déposés à la FDA “ne font que signaler qu’un système TruDi était utilisé lors d’une intervention chirurgicale au cours de laquelle un événement indésirable s’est produit”. L’entreprise estime que la causalité entre l’erreur chirurgicale et l’usage de son logiciel d’apprentissage n’est pas démontrée.

TruDi n’est pas le seul mis en cause dans des erreurs médicales à répétition: le nombre de dossiers introduits auprès de la FDA a fortement augmenté pour de nombreux produits, comme un moniteur cardiaque qui aurait négligé un rythme de battement anormal chez un patient, ou un appareil à ultrasons qui aurait mal identifié certaines parties du corps d’un fœtus.

L’usage de l’intelligence artificielle dans les dispositifs de soin n’est pas neuf: le premier système arrivé sur le marché date de 1995. Mais depuis la multiplication des IA dotées d’algorithmes d’apprentissage automatique, le nombre de dispositifs médicaux ainsi équipés a explosé. Au moins 1.357 systèmes différents disposaient d’une autorisation de commercialisation de la FDA l’année dernière, soit le double des chiffres de 2022.

Engouement pour l’IA et manque d’effectifs

Selon une étude menée par des chercheurs des universités Johns Hopkins, Georgetown et Yale, 60 dispositifs médicaux utilisant l’IA et autorisés par la FDA ont fait l’objet de 182 rappels de produits. Dans 43% des cas, les machines ont présenté des dysfonctionnements moins d’un an après l’autorisation de commercialisation. C’est le double du taux de rappel moyen des produits médicaux autorisés par l’agence fédérale.

Énorme engouement commercial, la ruée vers l’intelligence artificielle et son intégration dans des produits en tout genre posent de grosses difficultés lorsqu’il s’agit de réguler l’efficacité de ces derniers. D’autant que la FDA, comme d’autres agences fédérales américaines, a vu ses moyens et ses effectifs se réduire depuis le retour au pouvoir de Donald Trump.