Cada vez mais indústrias estão investindo e confiando na inteligência artificial, incluindo cirurgiões em salas de cirurgia. Mas à medida que os algoritmos orientam as ferramentas cirúrgicas, os reguladores observam um aumento nos relatórios de segurança e nos processos judiciais, de acordo com uma investigação da Reuters.
O que está acontecendo?
Documentos judiciais e dados da Food and Drug Administration mostram que, desde 2021, os reguladores dos EUA receberam mais de 1.401 relatórios de dispositivos na lista de inteligência artificial da FDA. As alegações incluem cirurgias malfeitas e software que identifica erroneamente partes do corpo.
Por exemplo, em 2021, um dispositivo de cirurgia sinusal denominado sistema de navegação TruDi foi atualizado para incluir inteligência artificial. De acordo com relatórios de eventos adversos da FDA citados pela Reuters, houve sete relatórios de acidentes antes da IA ser adicionada e pelo menos 100 relatórios de acidentes e eventos adversos após a atualização. Dois pacientes no Texas supostamente sofreram derrames depois que seus cirurgiões foram informados erroneamente sobre a localização de instrumentos cirúrgicos próximos à artéria carótida.
“(Acclarent) sabia ou deveria saber que a suposta inteligência artificial causava ou exacerbava a tendência do produto do sistema de navegação integrado de ser inconsistente, impreciso e não confiável”, alega o processo, segundo a Reuters.
A Integra LifeSciences respondeu ao comentário da Reuters, dizendo que “não havia nenhuma evidência confiável” ligando a tecnologia de IA a lesões.
Por que a inteligência artificial na cirurgia é preocupante?
De acordo com o instrutor da faculdade de medicina da Universidade de Washington, Dr. Alexander Everhart, os dispositivos médicos habilitados para inteligência artificial podem representar riscos de segurança, especialmente porque não precisam ser submetidos a ensaios clínicos em pacientes. Isso inclui uma ferramenta de ultrassom pré-natal chamada Sonio Detect, que supostamente identificou erroneamente partes do corpo fetal e monitores cardíacos fabricados pela Medtronic que supostamente não conseguiram reconhecer ritmos anormais.
De acordo com Everhart, as formas “tradicionais” de regulação de dispositivos da FDA não são eficazes para garantir a segurança da tecnologia de IA, especialmente para procedimentos médicos. Por exemplo, uma carta de investigação publicada no JAMA Health Forum, citada pela Reuters, descobriu que os dispositivos médicos de inteligência artificial estavam ligados a 182 recolhas de produtos, e 43% destas recolhas ocorreram menos de um ano após a aprovação.
Além dos riscos médicos relatados, o uso da inteligência artificial está sobrecarregando os sistemas energéticos em todo o mundo. Os sistemas de inteligência artificial podem exigir recursos significativos de eletricidade e água, ao mesmo tempo que aumentam a procura e os custos de energia. Ao mesmo tempo, ao otimizar as redes inteligentes, a IA pode ajudar a melhorar a integração e a eficiência das energias limpas, mostrando que este tipo de tecnologia pode ser ao mesmo tempo promissor e arriscado.
O que está sendo feito em relação aos dispositivos médicos que utilizam inteligência artificial?
Um porta-voz do Departamento de Saúde e Serviços Humanos dos EUA, citado pela Reuters, disse que a segurança dos pacientes continua a ser uma prioridade máxima e que a agência continuará a aprender mais sobre inteligência artificial e saúde digital. A FDA expandiu a sua lista de especialistas em inteligência artificial, embora ex-funcionários tenham afirmado que os cortes de pessoal aumentaram a carga de trabalho.
À medida que a inteligência artificial se torna mais incorporada nos produtos e indústrias do quotidiano, é importante que os consumidores compreendam como estas novas tecnologias são promovidas no mercado. Aprender mais sobre greenwashing pode ajudá-lo a avaliar as promessas corporativas.
Receba boletins informativos gratuitos do TCD com dicas simples sobre como economizar mais, desperdiçar menos e fazer escolhas mais inteligentes – e ganhe até US$ 5.000 em atualizações limpas com o exclusivo TCD Rewards Club.
