Le mois dernier, une équipe de chercheurs a réussi à le manipuler un service de prescription d’IA trois doses d’opioïdes et de méthamphétamine étiquetée sont sans danger. Quelques jours plus tard, les législateurs de New York ont publié le fromage loi qui compare l’IA clinique à un médecin exerçant la médecine sans licence – ce qui rend illégal pour l’IA de fournir des conseils médicaux de base. La Californie a été au milieu, faire des lois plus tôt cette année, la divulgation obligatoire aux patients lorsque l’IA est impliquée.
Alors que les gouvernements continuent d’émettre des signaux contradictoires sur la meilleure manière de gérer l’IA en médecine, des millions d’Américains n’attendent pas son approbation. Données montre qu’un Américain sur trois se tourne désormais vers les chatbots IA pour diagnostiquer ses symptômes et prendre soin de lui-même, un chiffre qui a doublé en seulement un an. Bref, l’IA fait de la médecine.
J’ai travaillé comme médecin urgentiste dans des hôpitaux universitaires, un hôpital doté d’un filet de sécurité et une salle d’urgence communautaire. Ce que mon expérience montre, dans tous les secteurs, c’est le fardeau écrasant des besoins médicaux non satisfaits : des patients qui n’ont plus de médicaments et ne peuvent pas les renouveler. Un diabétique qui n’a pas vu son endocrinologue depuis plusieurs mois car les rendez-vous étaient rares. Une infection urinaire peut évoluer vers une maladie rénale sans traitement rapide. Chaque jour, notre système transforme des conditions gérables en problèmes graves qui transforment les urgences en un substitut à tous les soins auxquels les Américains n’ont pas accès. Le prix humain passionnant.
L’intelligence artificielle peut changer cette réalité, et ce qu’elle peut faire n’est ni anodin ni expérimental. Les femmes devraient pouvoir utiliser le contrôle des naissances sans prendre rendez-vous. Les patients souffrant d’un rhume ou d’une infection à levures ne devraient pas attendre des jours avant de revenir ; à l’intérieur de nombreuses régions du mondeque peut être maintenu sans ordonnance. L’IA peut devenir accessible aux patients américains, si des normes de sécurité appropriées sont en place.
En fait, l’exemple le plus important de cette révélation dépasse ce que la plupart des gens réalisent : le gouvernement fédéral actuel demande demande du secteur privé pour développer une IA qui gérera de manière indépendante les événements d’insuffisance cardiaque, une maladie qui ne touche que 1 % des patients recevant des procédures médicales prescrites et un taux de mortalité sur cinq ans de plus de 50 %.
Le potentiel de l’IA pour élargir l’accès à la médecine est prometteur et potentiellement révolutionnaire. La plupart des Américains n’ont pas à choisir entre l’IA et leur médecin de famille de confiance. Des obstacles tels que les coûts et la pénurie de médecins obligent les Américains à choisir entre l’IA et Non. Les patients méritent mieux, et l’IA est le premier développement depuis des décennies qui promet une aide concrète.
C’est pourquoi, parallèlement à mes travaux cliniques et à mes recherches, j’ai rejoint une entreprise qui utilise l’IA pour démystifier l’accès à la médecine. Je n’ai pas pris cette décision à la légère. Il y a lieu d’être prudent quant aux technologies puissantes comme l’IA qui atteignent les patients vulnérables sans protection adéquate. Mais la réponse n’est pas celle que pense New York. Les médecins et les décideurs politiques ne peuvent pas rester les bras croisés alors que les patients comblent de nombreuses lacunes de notre système de santé grâce à l’IA. Nous avons besoin de lois fortes, efficaces et conçues pour faire progresser rapidement cette technologie.
Le gouvernement fédéral commence déjà à influencer ce domaine en évolution rapide. En janvier, la Food and Drug Administration l’a révisé guide du logiciel pour permettre aux outils d’IA de fonctionner avec un minimum de supervision tout en assistant les médecins. En vertu du nouveau règlement, les logiciels permettant à un médecin d’évaluer de manière indépendante les fondements d’une recommandation en matière d’IA ne relèveraient pas de la règle fédérale sur les dispositifs médicaux. Un médicament sur ordonnance est un logiciel qui alerte un médecin des interactions médicamenteuses indésirables potentielles avant qu’il ne signe une ordonnance.
Mais cette sculpture ne couvre que l’IA et le médecin du disque. Il n’y a pas de comparaison avec l’IA qui communique directement avec les patients sans médecin dans la chambre ou donne des conseils dans les situations les plus complexes. Bien entendu, cette technologie reste sous le contrôle de la FDA, même si le gouvernement n’a pas encore pris son mot à dire. Mais le résultat est incohérent : l’IA clinique fonctionne de manière autonome, artificielle et avec peu de contrôle.
Dans ce domaine, les gouvernements ont agi rapidement et de différentes manières. Certains, dont l’Utah, Arizona un TexasUn cadre est en cours d’élaboration pour accélérer le déploiement. D’autres, dont New York et la Californie, envisagent de limiter l’IA en médecine. À bien des égards, ce sont les laboratoires du modèle démocratique qui fonctionne de manière rationnelle, et les politiques gouvernementales peuvent trouver leur base dans des tests nationaux et dans la collecte de preuves. Mais il existe 50 normes concurrentes auxquelles il est impossible de répondre pour une telle technologie. Les patients méritent des protections de base lorsqu’ils utilisent l’IA clinique, quel que soit l’endroit où ils vivent, et les entreprises qui fabriquent ces appareils devraient être tenues de respecter les mêmes normes axées sur la sécurité des patients.
Le cadre dont nous avons besoin est une extension de ce que la FDA sait déjà faire : exiger des preuves indépendantes et tierces de sécurité et d’efficacité avant qu’un système d’IA clinique puisse être commercialisé ; rendre obligatoire les tests de sécurité par l’adversaire dans le cadre du processus d’approbation ; et établir une norme basée sur l’État, laissant aux États la possibilité d’aller au-delà mais pas de tomber en dessous. Enfin, lorsque l’IA nuit à un patient, il doit y avoir une voie claire vers la responsabilisation. Les pratiques médicales relèvent de la responsabilité des médecins depuis des décennies. Il peut être adapté ici.
Beaucoup de gens disent que les réglementations ralentissent les technologies révolutionnaires, mais l’histoire nous dit le contraire. L’assurance bancaire fédérale a incité les gens à faire confiance aux banques pour l’utiliser. Les normes de sécurité fédérales ont fait de l’aviation commerciale le moyen de transport de masse le plus sûr.
L’IA clinique repose sur les mêmes fondements et est désormais rapide à mettre en œuvre : elle est entre les mains des patients et évolue plus rapidement que n’importe quelle technologie que nous avons jamais essayé de gérer. Les patients qui gagnent plus ont les mêmes choses à perdre s’ils ne font pas les choses correctement.
Hashem Zikry est professeur adjoint à l’UCLA et directeur médical de la recherche et des politiques chez Counsel Health.
