Com a chegada da IA ao bloco operatório, têm sido registados casos de cirurgias falhadas e erros na identificação de partes do corpo.

A FDA (Food and Drug Administration) está a transformar-se no capacho dos gigantes da tecnologia médica, ao autorizar a utilização de milhares de dispositivos cirúrgicos assistidos por IA que falham de forma gritante. Se é para cuspir no Juramento de Hipócrates, então que se faça isso sem meias-medidas, certo?

Um dos novos mantras da MedTech nos EUA soa mais ou menos assim: "Um toque de IA aqui, outro ali - no fim em todo o lado - e a segurança pode esperar!". Sob o pretexto de “revolucionar” a cirurgia e as tecnologias usadas no bloco operatório, colossos do equipamento médico como a Johnson & Johnson (cirurgia), a Medtronic (implantes cardíacos) ou a Samsung Medison (imagiologia médica) apressam-se a enfiar machine learning à força nos seus dispositivos, pondo de lado o software anterior.

O que antes eram, sobretudo, ferramentas de visualização para apoiar o trabalho dos cirurgiões está a dar lugar a equipamentos em que a IA passa a comandar. Trata-se de sistemas preditivos que já estiveram no centro de múltiplos escândalos do outro lado do Atlântico - perante os quais a FDA, esvaziada de quadros pelo DOGE de Musk, se revela totalmente ultrapassada.

FDA e IA em cirurgia: máquinas de matar

De acordo com a investigação da Reuters, esta corrida ao armamento por parte das empresas referidas em cima arrancou logo em 2021, um ano antes de a IA chegar em força ao grande público com o ChatGPT. Nesse ano, a FDA autorizou a comercialização de mais de 115 novos dispositivos médicos baseados em inteligência artificial: consolas de neurocirurgia, software de imagiologia cardíaca, bisturis “inteligentes”. Hoje, o total ultrapassa 1 350, aprovados em série pela agência - com a indústria a explorar uma brecha regulatória que lhes permite lançar um produto sem novos testes clínicos se este “se parecer” com um anterior.

A vantagem (cínica) de uma desregulação agressiva é que as consequências aparecem depressa. Em outubro de 2023, a Medtronic foi forçada a emitir um alerta crítico de segurança para o seu sistema de navegação, o StealthStation. Destinado a ajudar o cirurgião a orientar instrumentos, o software acabou por “perder o rumo”: houve cirurgiões que perfuraram paredes arteriais e lesionaram medulas espinais porque a IA lhes apresentava uma imagem truncada.

O caso da Samsung Medison não foi melhor. O seu software Sonio Detect, pensado para tornar mais seguro e automatizado o exame ecográfico fetal ao detetar, em tempo real, vistas anatómicas, também falhou de forma grave. Para “limpar” e tornar as imagens mais nítidas, o algoritmo, em alguns episódios, suprimiu malformações anatómicas (cardíacas e cerebrais) de que certos fetos padeciam. O resultado: médicos a fornecer diagnósticos completamente errados a pais que acreditavam que o software tinha avaliado corretamente.

Ainda assim, o troféu do horror recai, sem grande discussão, sobre o sistema TruDi, da Johnson & Johnson - um software que usa IA como guiamento, permitindo ao cirurgião operar “às cegas” através dos tecidos. Anunciado como um GPS de altíssima precisão para apoiar cirurgias aos seios perinasais ou à base do crânio, este dispositivo acumulou múltiplas avarias gravíssimas.

Para que o cirurgião consiga perceber onde estão as ferramentas sem as ver diretamente, o modelo de IA sobrepõe, em tempo real, uma imagem 3D de TAC do paciente ao rosto do próprio paciente. O problema é que, em diversas ocasiões, a correspondência entre o mundo virtual e o real deixou de bater certo. Um erro que, em circunstâncias normais, deveria ter travado o sistema de imediato - mas o algoritmo preferiu continuar e “alucinou” de forma severa, preenchendo o vazio com dados inventados.

Confiando no que viam no ecrã, alguns cirurgiões perfuraram tecidos vitais ou cortaram artérias carótidas, convencidos de que os instrumentos estavam no local correto. O balanço é trágico: estima-se que, por causa deste bug, 15 pessoas tenham morrido e dezenas tenham ficado feridas.

Pior: a Johnson & Johnson terá incentivado a comercialização do TruDi apesar de saber que a fiabilidade era desastrosa. Auditorias internas e dados analisados posteriormente apontaram para um número chocante: nos testes de precisão, o sistema tinha um acerto de apenas 80 %. Ou seja, a empresa aceitava conscientemente a hipótese de que, em duas intervenções em dez, o software poderia desviar-se por completo. Uma complacência de contornos criminosos.

A FDA: cúmplice do massacre

Nenhum destes casos teria acontecido se a FDA cumprisse a sua função: proteger cidadãos e doentes, garantindo que a inovação tecnológica não se transforma em experimentação humana clandestina. Ao abrir caminho para que estas empresas vendam as suas novas soluções, a agência acaba com as mãos manchadas de sangue.

Por inércia regulatória e por cumplicidades, a FDA acaba também por proteger as empresas envolvidas - sim, leu bem: do ponto de vista jurídico, pode não haver muito a apontar-lhes. Por força do princípio da preempção federal, uma vez que um dispositivo é aprovado pela FDA, os tribunais estaduais rejeitam frequentemente ações por defeito de conceção, usando a autorização federal como proteção jurídica praticamente absoluta contra processos movidos pelas vítimas.

É um insulto às famílias e à memória de quem morreu: a FDA mantém no mercado estas máquinas de morte e, ao mesmo tempo, garante que os assassinos de colarinho branco nunca tenham de pagar um cêntimo de indemnização aos sobreviventes. Em território do Tio Sam, a impunidade dos gigantes é o verdadeiro desporto nacional - bem à frente do basebol ou do futebol.