DADOS DO PACIENTE E INTELIGÊNCIA ARTIFICIAL: ENTRE A OTIMIZAÇÃO DO ATENDIMENTO MÉDICO E OS DESAFIOS ÉTICO-JURÍDICOS

Em 1970, o nefrologista e economista William Benjamin Schwartz escreveu para o New England Journal of Medicine que a ciência da computação transformaria significativamente a prática médica. Ele previu que os computadores desempenhariam um papel revolucionário na medicina até o ano de 2000, pois funcionariam como uma poderosa extensão da capacidade intelectual dos médicos.

Cinco décadas depois, a previsão de Schwartz concretiza-se: o avanço tecnológico impacta profundamente a medicina, desde a descoberta e a produção de medicamentos até realização de diagnósticos precoces e a prevenção de doenças. Os procedimentos tornaram-se mais assertivos e eficazes.

Esse desenvolvimento estende-se também às cirurgias, que incorporaram soluções inovadoras, como a robótica e a laparoscopia assistida por Inteligência Artificial (IA). Essas ferramentas oferecem maior precisão para os procedimentos e reduzem o tempo de recuperação dos pacientes.

Além das salas cirúrgicas, a presença da IA está intensificando-se em outras áreas da medicina. Ela apoia a atuação clínica por meio do processamento de grandes volumes de dados clínicos que dão suporte à decisão médica e apoia a gestão de serviços hospitalares por meio da otimização de fluxos e da organização dos atendimentos.

Além disso, dispositivos vestíveis têm sido utilizados no cuidado com a saúde, como os smartwatches que monitoram sinais vitais em tempo real e fornecem dados médicos que podem ser utilizados preventivamente para antecipar alterações no estado clínico do paciente. Uma revolução silenciosa, mas profundamente transformadora.

A IA é uma ferramenta revolucionária na área da medicina. Um estudo de 2009 identificou que 32% dos erros médicos estavam relacionados à falta de tempo adequado para a avaliação clínica, o que comprometia os diagnósticos. Nesse contexto, a IA surge como um recurso para processar uma grande quantidade de dados e integrar dados clínicos e históricos de forma eficiente.

No entanto, a inovação traz dilemas complexos. A pergunta que se impõe é: quem será responsabilizado por erros médicos causados pela IA?

A fronteira entre inovação e responsabilidade

O presidente da International Chair in Bioethics, Rui Nunes, destacou que o processamento massivo de dados e a extração de conclusões em tempo hábil era inimaginável até recentemente. Esse cenário exige uma reflexão ética e jurídica profunda para orientar a aplicação da IA na área da saúde. Nesse contexto, propôs o seguinte questionamento: quem será responsabilizado pelo mau desfecho de um procedimento feito a partir da indicação de uma inteligência artificial?

A resposta exige uma abordagem interdisciplinar entre Direito, Bioética e Medicina. É essencial que o ordenamento jurídico acompanhe o avanço da tecnologia, estabelecendo parâmetros claros sobre responsabilidade civil, ética médica e, principalmente, o uso e tratamento dos dados pessoais dos pacientes.

O neurocientista Philipp Kellmeyer também analisou os benefícios, riscos e desafios ético-legais do uso de dados cerebrais obtidos por dispositivos neurotecnológicos. Ele alerta para preocupações quanto à privacidade, segurança, autonomia e discriminação no uso da IA em seu artigo Big Brain Data: on the Responsible Use of Brain Data from Clinical and Consumer-Directed Neurotechnological Devices. Ele sugere que haja a participação pública nos debates regulatórios para a criação de um modelo ético que equilibre inovação tecnológica e a salvaguarda dos direitos fundamentais.

Regulação e proteção de dados: o desafio global

Na tentativa de equilibrar inovação e direitos fundamentais, a União Europeia criou o General Data Protection Regulation – GDPR em 2016, que estabeleceu regras para a proteção dos direitos fundamentais das pessoas físicas no tratamento de dados pessoais, garantindo, ao mesmo tempo, a livre circulação dos dados dentro da União Europeia.

Já o Brasil conta com a Lei Geral de Proteção de Dados (LGPD) em vigor desde 2018. A LGPD reconhece os dados da saúde como dados pessoais sensíveis e, portanto, impõe salvaguardas adicionais para seu tratamento. Assim, o artigo 11 da Lei restringe as hipóteses legais para uso de dados - como o estado físico ou mental do titular, seu histórico médico, diagnósticos, exames, tratamentos, informações genéticas e biométricas – exigindo, na maioria dos casos, consentimento livre, informado, específico e inequívoco do titular.

Por outro lado, a LGPD estabelece uma hipótese de tratamento de dados com base na tutela da saúde em que não será necessário obter o consentimento e não poderá ser realizada a sua revogação (art. 11, inc. II, alínea f). Contudo, tal base legal traz preocupações. O Conselho Federal de Medicina (CFM) determina que o consentimento continua sendo obrigatório para o tratamento de dados pessoais na área médica. Aliado a isso, a Resolução 1.605/2000 do CFM dispõe que o médico não pode, sem o consentimento do paciente, revelar  o  conteúdo  do  prontuário  ou  ficha  médica.

Segundo o Código Internacional de Ética Médica da Associação Médica Mundial  a IA não substitui o juízo clínico, pois o médico deve exercer sua profissão com integridade, responsabilidade e independência de julgamento. O médico deve informar sobre o uso da IA ao paciente como consequência do seu dever de informação sobre riscos, complicações e resultados médicos, inclusive por meio do Termo de Consentimento Livre e Esclarecido (TCLE).

Nesse caso surge um problema prático: o § 5° do artigo 8° da LGPD garante ao paciente (titular dos dados) o direito de revogar seu consentimento a qualquer momento e, portanto, interromper imediatamente o tratamento. Contudo, uma vez que dados foram usados para treinar algoritmos de IA, seus efeitos podem ser irreversíveis. Nessas situações, o médico deve garantir a não reutilização dos dados, prestar contas ao titular e assegurar a transparência sobre os limites técnicos da revogação. Protege-se, assim, o direito à autodeterminação informativa e à privacidade.

Mesmo que a exclusão do prontuário médico seja proibida por força da Lei n. 13.787/2018, que estipula o dever de guarda por vinte (20) anos a partir do último registro, o paciente pode requerer a descontinuidade do compartilhamento dos dados pessoais de saúde com a IA.

Por outro lado, o dever de segredo médico permanece integralmente válido diante do uso das tecnologias digitais. Quando dados médicos são inseridos em sistemas de IA, deve-se garantir privacidade e a confidencialidade.

A supervisão médica e a centralidade do ser humano

Atualmente, o Projeto de Lei n. 266 de 2024 (PL 266/24) tramita no Senado Federal, cuja principal proposta é regular o uso de IA na saúde. O documento estabelece que a IA deve atuar sob supervisão direta do profissional médico. Segundo o texto, o exercício autônomo da IA sem supervisão do médico responsável configura exercício ilegal da medicina.

Como lembra o Código Internacional de Ética Médica, a IA não substitui o julgamento clínico. O médico continua responsável por exercer sua profissão com integridade, responsabilidade e independência.

O paciente não pode ser entendido como um conjunto de dados analisáveis. Deve-se enxergar o paciente como sujeito de direitos que ocupa o centro da relação médica. A IA não deverá substituir o julgamento ético e clínico do profissional, que deve utilizá-la como uma ferramenta de cuidado adicional, a fim de cumprir a famosa reflexão de Albert Einstein de que o espírito humano deve prevalecer sobre a tecnologia.

Portanto, a IA deve ser utilizada acompanhada de protocolos rigorosos de segurança, validação constante dos dados e supervisão humana qualificada. Afinal, o direito à saúde é um direito humano que abrange não apenas o acesso ao serviço, mas também a garantia de qualidade, responsabilidade e respeito à dignidade humana.

*Sobre os autores 

Gustavo Borges

Diretor-Presidente do LABSUL – Laboratório de Direitos Humanos e Novas Tecnologias

Professor de Direitos Humanos e Novas Tecnologias no Mestrado em Direitos Humanos da UNESC, Brasil

Consultor em Direito e Tecnologia

Mariana Carlessi

Pesquisadora do LABSUL

Mestra em Direito pela UNESC

Professora da UNESC

Advogada

·       Diagnostico precoce: https://www.cnnbrasil.com.br/saude/diagnostico-precoce-e-reducao-de-riscos-como-ia-pode-ser-usada-na-medicina/ 

·       Laparoscopia assistida por inteligência artificial: https://www.scielo.br/j/abcd/a/Sv5mghRzLv4Dq8q9jddSrSB/ 

·       Wearable https://www.nejm.org/search?q=wearables 

·       Meio de dispositivos versáteis: https://www.nejm.org/doi/full/10.1056/NEJMra2307160?logout=true

·       a ciência da computação provavelmente terá grande impacto ao ampliar e, em certos casos, substituir significativamente as funções intelectuais do médico https://www.nejm.org/doi/full/10.1056/NEJMra2302038 

·       William B. Schwartz https://www.thelancet.com/journals/lancet/article/PIIS0140673609609302/fulltext 

·       por meio da análise de grandes volumes de dados e suporte à decisão médica https://www.aidoc.com/ 

·       Rui Nunes https://crmsc.org.br/noticias/avanco-da-inteligencia-artificial-vai-dominar-discussoes-sobre-etica-medica-e-pesquisas-cientificas/ 

·       Lei Geral de Proteção de Dados https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm 

·       https://idec.org.br/dicas-e-direitos/dados-sensiveis-pela-lgpd-como-eles-sao-usados-na-area-da-saude 

·        Big Brain Data: On the Responsible Use of Brain Data from Clinical and Consumer-Directed Neurotechnological Devices": https://link.springer.com/article/10.1007/s12152-018-9371-x 

·       podem ser obtidas tanto a partir de prontuários eletrônicos quanto por meio da inserção manual de dados referentes à anamnese: https://www.scielo.br/j/rbem/a/f3kqKJjVQJxB4985fDMVb8b/ 

·       GDPR https://gdpr-info.eu/ 

·       Direitos fundamentais: https://gdpr-info.eu/chapter-1/ 

·       Código Internacional de Ética Médica: https://www.wma.net/wp-content/uploads/2022/12/Co%CC%81digo-E%CC%81tica-Me%CC%81dica-REVISADO.pdf 

·       https://pmc.ncbi.nlm.nih.gov/articles/PMC4381462/#CR26 

·       Um estudo de 2009 identificou que 32% https://pubmed.ncbi.nlm.nih.gov/19901140/ 

·       Termo de consentimento livre e esclarescido https://portal.cfm.org.br/artigos/consentimento-informado-na-pratica-medica 

·       Segredo médico https://portal.cfm.org.br/etica-medica/codigo-1988/capitulo-ix-segredo-medico 

·       Projeto de Lei n. 266 de 2024: https://www25.senado.leg.br/web/atividade/materias/-/materia/162045 

·       no momento da publicação desse artigo, aguardando votação https://www12.senado.leg.br/noticias/materias/2024/03/11/projeto-regula-uso-de-ia-nas-praticas-medica-e-juridica 

·       Lei n. 13.787/2018 https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13787.htm  

·       .A revogação implica a interrupção imediata do tratamento https://www.gov.br/transportes/pt-br/ouvidoria/perguntas-e-respostas-sob-aspectos-da-lgpd 

·       O espírito humano deve prevalecer sobre a tecnologia. https://exame.com/carreira/guia-de-carreira/12-citacoes-sobre-tecnologia-para-usar-em-redacoes/ 

·       LGPD: a Lei Geral de Proteção de Dados Pessoais e a atuação do profissional da medicina https://portal.cfm.org.br/noticias/cartilha-do-cfm-orienta-medicos-sobre-uso-da-lgpd 

Resolução 1.605/2000 do CFM : https://sistemas.cfm.org.br/normas/visualizar/resolucoes/BR/2000/1605