En 2024, Kaiser Permanente a annoncé la sortie d’Abridge. Décrit dans un communiqué de presse comme une « technologie d’écoute ambiante », l’enregistreur alimenté par l’IA est conçu pour aider les médecins et les prestataires de soins de santé mentale à capturer des notes cliniques lors des visites des patients.
Mais ce que la description ne révèle pas, c’est que l’appareil enregistre tous les rendez-vous médicaux, y compris les séances de santé mentale.
Dans ces cas, les professionnels de la santé mentale doivent obtenir le consentement des patients avant d’utiliser l’appareil. Cependant, comme le partagent de nombreux fournisseurs, ce processus de consentement n’inclut pas d’explications sur la manière dont les informations sont traitées. Il ne précise pas non plus combien de temps et où les enregistrements sont stockés ni qui a accès aux données.
Cela se produit en partie parce que les informations ne sont pas partagées avec les fournisseurs, malgré leurs tentatives pour les obtenir.
“Confirmation de vache”
Ilana Marcucci-Morris a choisi de ne pas utiliser la plateforme avec ses patients. Travailleur social clinicien agréé auprès de la psychiatrie Kaiser à Oakland. Il est également membre du comité marketing. À ce titre, il rencontrait régulièrement diverses personnalités de Kaiser, notamment le directeur de la santé mentale de Californie du Nord.
Marcucci-Morris décrit comment, lors de ces réunions, elle et d’autres membres du comité ont posé des questions sur la protection de la vie privée des patients, la conformité HIPAA et les garanties en place pour l’utilisation de ces technologies.
Selon lui, la réponse du leader est beaucoup d’assurances : “Nous suivons. C’est tout. C’est tout ce que vous devez savoir. Nous vérifierons la technologie, le leadership. Ne vous inquiétez pas. Ce n’est pas votre travail. Nous avons des techniciens. C’est leur travail”, a déclaré Marcucci-Morris dans une interview accordée à American Community Media.
“Ils ne vont pas nous le montrer, n’est-ce pas ? Je veux dire, si vous n’avez rien à cacher, si vous le faites de manière éthique, alors vous le montrez et le prouvez. Ils ne peuvent pas, ils ne le feront pas, ils ne l’admettront pas quand nous leur demanderons.”
Ligia Pacheco est une assistante sociale psychiatrique qui fournit des services de télémédecine aux patients de Kaiser en Californie du Sud. Il a déclaré que Kaiser n’avait pas encore répondu à ses demandes de fournir des explications supplémentaires.
Dans une interview avec American Community Media, Pacheco a rappelé comment un collègue avait partagé ses inquiétudes avec un superviseur. La réponse : “vous n’êtes pas assez professionnel pour faire part de vos opinions personnelles sur l’IA dans notre travail.”
Pour Pacheco, “cela conduit à une baisse du moral, il n’y a pas de place pour défendre les patients. Nous sommes la voix des patients qui viennent dans leur situation vulnérable. Et nous ne pouvons pas être leur voix, donc nous nous sentons tristes”.
“Patient après patient”
Les prestataires ont dû voir davantage de patients ces dernières années. La pression pour suivre le rythme de la paperasse et des charges de travail peut être écrasante, a déclaré Marcucci-Morris.
“Vous voyez toujours patient après patient après patient avec peu de temps pour aller aux toilettes, manger une collation (…) prendre l’air”, a-t-il déclaré.
Selon Marcucci-Morris, ne pas être en mesure de gérer l’augmentation du nombre de patients peut être considéré comme un échec à répondre aux attentes en matière de performance. Cela peut également conduire à des mesures disciplinaires.
En tant que représentante syndicale, elle a déclaré qu’elle devait souvent faire face à des inspections de lieux de travail impliquant de longs documents ou des difficultés à gérer de lourdes charges de travail. Dans ces situations, il a déclaré que les gestionnaires recommandent souvent d’utiliser Abridge pour gagner du temps et éviter les pénalités.
Selon lui, les fournisseurs qu’il connaît qui utilisent la technologie ne le font pas parce qu’ils la soutiennent ou lui font confiance. Au lieu de cela, ils sont obligés de protéger leur travail et de se conformer aux exigences du lieu de travail.
“Je pense que c’est puissant parce que vous mettez quelqu’un au chômage ou utilisez un ordinateur.
Donateurs et inquiétudes des patients
Brian Hoberman est directeur de l’information pour Permanente Health Group. Dans le communiqué de presse de Kaiser, il a déclaré : « La technologie avancée d’Abridge soutient la vie de nos médecins en réduisant le fardeau de la documentation. »
“Nous avons mis en œuvre cette nouvelle technologie après une évaluation minutieuse et des tests rigoureux, et nous avons constaté que les patients et les médecins sont satisfaits”, a-t-il ajouté.
Pour au moins un des patients interrogés pour cette histoire, les informations suivantes sont fausses.
“Je crains que ce genre d’informations qui sont actuellement collectées ne finissent entre de mauvaises mains”, a déclaré le patient, qui a demandé à rester anonyme pour des raisons de confidentialité. “Je ne veux pas que mes employeurs, je ne veux pas que les membres de ma famille, je ne veux pas que les gens soient au courant de certaines de ces conversations et conversations profondes que j’ai avec mes médecins (et) et mon prestataire de soins de santé mentale.”
Adriana Webb est assistante sociale au Kaiser Panorama City à Los Angeles. “Je travaille avec des patients souffrant de problèmes médicaux sensibles, comme… le VIH et le SIDA, et bien souvent, mes patients ne veulent pas que cela figure dans leur dossier.”
Une porte-parole de Kaiser Permanente a fait valoir dans une réponse envoyée par courrier électronique à American Community Media que les cliniciens devraient obtenir le consentement éclairé des patients avant d’utiliser Abridge. “Personne ne sera enregistré à son insu et sans son consentement”, indique le communiqué.
Il a également indiqué que les enregistrements seraient stockés pendant 14 jours et que le traitement des données répondrait à toutes les exigences HIPAA ainsi qu’aux normes de confidentialité et de sécurité de Kaiser Permanente.
“Abridge aide les médecins à consacrer plus de temps à leurs patients et moins de temps aux tâches administratives”, a-t-il déclaré.
Tuer les données sur la santé mentale
Selon Nicole Alvarez, analyste principale de la politique technologique au Center for American Progress, “un enregistrement des moments les plus bas d’une personne peut être utilisé d’une manière que vous connaissez, … un relevé d’hypertension artérielle ne peut pas le faire”.
Elle a déclaré que les problèmes de santé mentale sont particulièrement sensibles en raison de la stigmatisation entourant les problèmes de santé mentale. Pour les patients, il offre des avantages internationaux dans des domaines tels que l’emploi, les affaires de garde d’enfants, les questions d’immigration et les questions de sécurité. Il a déclaré que, comme tout autre type de données personnelles, les informations sur la santé mentale peuvent être liées aux individus.
Les accords entre les systèmes de santé et les fournisseurs d’IA varieront, a-t-il déclaré. Cela inclut des conditions indiquant si les enregistrements audio ou textuels peuvent être utilisés pour entraîner des modèles d’IA, si les données des patients sont supprimées, combien de temps les données sont conservées, si elles peuvent être partagées avec d’autres clients et qu’advient-il des informations à la fin du contrat.
Kaiser insiste sur le fait que les données collectées ne sont pas utilisées pour former des modèles d’IA.
Cependant, d’après l’expérience d’Alvarez, les patients voient rarement ces exigences. Il a fait valoir que les systèmes de santé ont la responsabilité de divulguer clairement la manière dont les informations sur les patients sont traitées et utilisées.
Alvarez a ajouté que, dans la plupart des cas, les patients ont le droit de supprimer leurs dossiers. Cependant, selon lui, la manière dont les méthodes de production sont présentées n’est pas claire. Selon lui, les options de consentement proviennent des bonnes questions au moment de l’admission dans la langue enfouie dans les documents d’admission, et il est important que les patients lisent attentivement les formulaires et les informations.
Il a déclaré que les patients doivent non seulement accepter de savoir qu’ils sont enregistrés et peuvent se désinscrire, mais également comprendre comment leurs informations seront stockées, partagées ou utilisées.
Un engagement fort
Pacheco l’a constaté lors d’une rencontre personnelle à Kaiser. Son médecin ne lui a pas demandé l’autorisation d’utiliser l’application, mais l’a informée qu’elle serait utilisée. Au bout d’un moment, il a décidé d’annuler l’utilisation de la plateforme. Même si le médecin a cessé de se plaindre, il a ensuite remarqué une inquiétude dans son attitude.
Plus tard, il décide de changer de médecin.
Ces tendances inquiètent Marcucci-Morris, qui a déclaré que l’approche de l’entreprise pour obtenir l’approbation de l’utilisation d’Abridge pendant le processus d’installation sera difficile et difficile. Selon lui, les prestataires sont formés pour présenter le dispositif de manière à opposer les besoins des patients et des médecins.
Il a expliqué que le système fournit de nombreuses informations aux patients et aide les médecins avec les documents, réduit l’épuisement professionnel et laisse plus de temps à leurs familles. En conséquence, les patients peuvent se sentir coupables de réduire l’utilisation de l’appareil parce qu’ils ne veulent pas que leur prestataire en fasse davantage.
Il estime que cette structure encourage les patients à consentir, plutôt que de leur permettre de prendre une décision parfaite et indépendante.
Selon Kaiser, Abridge est disponible dans « 40 hôpitaux et plus de 600 établissements de santé dans huit États et dans le District de Columbia », dans le cadre d’une adoption plus large de la technologie de l’IA par le secteur de la santé. Abridge fonctionne dans plus de 14 langues.
American Community Media a contacté Abridge AI Inc. à plusieurs reprises. pour commentaire mais pas de réponse. Selon le site Internet de l’entreprise, Abridge se présente comme un « Business Manager » auprès des fournisseurs. Il est conseillé aux patients de consulter les politiques de confidentialité des prestataires pour savoir comment protéger leurs données.
“La thérapie est plus efficace dans l’intimité et lorsque la confiance mutuelle est établie”, a déclaré Marcucci-Morris. Selon lui, « la guérison se produit lorsque l’amour humain est offert dans le cadre de tout type de relation de traitement en santé mentale ».
“Je crois qu’enregistrer une séance médicale peut changer la vie des gens.
Roxsy Lin a tort Boursier des nouvelles locales de Californie et l’École supérieure de journalisme de l’UC Berkeley.
