Inteligência Artificial no Diagnóstico Médico: Considerações Éticas e Responsabilidades na Prática Clínica

 

Kaiky Radelsberger Guida1 e Ismar Araújo Moraes2

 

1 Graduando do Curso de Medicina da Universidade Federal Fluminense, Niterói, Rio de Janeiro, Brasil

2 Professor Titular do Departamento de Fisiologia e Farmacologia-UFF

 

RESUMO: 

A evolução da tecnologia e o advento da Inteligência Artificial (IA) nos mais diversos setores profissionais e no cotidiano da sociedade promoveu o surgimento de um novo tópico de destaque na prática clínica e no diagnóstico médico, o Machine Learning (ML). Essa ferramenta, reconhecida como uma revolução para a predição de doenças em razão de sua capacidade sobre-humana de análise de grandes bancos de dados de pacientes, apresenta tanto benefícios, como a elevada acurácia no diagnóstico, quanto desafios, em especial a sua inserção no cotidiano médico dentro dos preceitos éticos. Este artigo explora as implicações éticas e responsabilidades associadas ao uso de ferramentas de IA no auxílio da decisão clínica com base no atual Código de Ética Médica brasileiro (CEM), assim como a necessidade de criação de novas diretrizes para a aplicação ética e eficaz dessa tecnologia.

 

Palavras-chave: Inteligência Artificial (IA), Machine Learning (ML), Medicina 

Artificial Intelligence in Medical Diagnosis: Ethical Considerations and Responsibilities in Clinical Practice

 

ABSTRACT

 

The evolution of technology and the advent of Artificial Intelligence (AI) in the most diverse professional sectors and in everyday society has promoted the emergence of a new prominent topic in clinical practice and medical diagnosis, Machine Learning (ML). This tool, recognized as a revolution in disease prediction due to its superhuman ability to analyze large patient databases, presents both benefits, such as high diagnostic accuracy, and challenges, especially the ethical challenges and contradictions of its insertion in everyday medical practice. This article explores the ethical implications and responsibilities associated with the use of AI tools to aid clinical decision-making based on the current Brazilian Code of Medical Ethics (CME), as well as the creation of new guidelines for the ethical and effective application of this technology.

 

Keywords: Artificial Intelligence (AI), Machine Learning (ML), Medicine.

 

INTRODUÇÃO 

Nas últimas décadas, o paradigma da atenção em saúde durante o exercício da medicina evoluiu para incluir uma abordagem não apenas biomédica, mas biopsicossocial  Nesse sentido, essa evolução ressignificou a prática clínica, deslocando-a de um enfoque majoritariamente técnico para uma relação humanizada, centrada no paciente e na integralidade do cuidado (ESQUERDA et al., 2020). Em contrapartida, o advento de tecnologias de Inteligência Artificial (IA), em especial o Machine Learning (ML), provoca a redução do fator humano no desenvolvimento de hipóteses diagnósticas e na relação médico-paciente. Assim, torna-se imprescindível que os profissionais responsáveis pela manipulação dessas ferramentas estejam capacitados e atentos aos dilemas éticos, às limitações e às implicações práticas do uso de IA na saúde para que o uso desta tecnologia seja promovido e efetivado no dia a dia da prática clínica.

O Machine Learning consiste em algoritmos, que diferentemente do raciocínio clínico tradicional – fundamentado em regras, heurísticas e protocolos padronizados – operam a partir do estudo de padrões e correlações de “features” (“inputs”), coletados de bancos de dados massivos, para gerar “labels” (“outputs”), capazes de serem interpretados pelo médico para que haja refino da decisão clínica. No entanto, a observação de padrões no banco de dados e uma alta acurácia no diagnóstico de novos casos não necessariamente segue a literatura clínica previamente desenvolvida e/ou pondera fatores de risco relevantes no caso, o que evidencia a importância do protagonismo de um profissional médico ao efetuar a decisão final. (RAJKOMAR et al., 2019)

Apesar do desenvolvimento constante de tecnologias fundamentadas no uso de IA para auxiliar a prática clínica, até o presente momento não há menções nem regulação explícita no Código de Ética Médica brasileiro (CFM, 2018) sobre o uso de Inteligência Artificial pelo profissional médico, apesar da intensa demanda atual. Essa lacuna na legislação resulta em um cenário de incerteza por parte dos médicos quanto à conduta necessária para o uso responsável da tecnologia, especialmente em casos de erro de diagnóstico. Além disso, surge uma preocupação proporcional à crescente dependência da sociedade às ferramentas de IA, incluindo os profissionais da área da saúde, pois favorece a desumanização da relação médico-paciente com o distanciamento entre os seres humanos envolvidos com possível redução na confiança ao profissional. Soma-se a isso o comprometimento da transparência no atendimento, uma vez que os sistemas automatizados apresentam diferentes níveis de explicabilidade dos resultados. Dessa forma, a dificuldade de comunicação clara e simples sobre como o diagnóstico é gerado e fornecido prejudica a confiança e adesão ao atendimento e à conduta terapêutica correspondente.

Dada a crescente disponibilidade e demanda de ferramentas de ML para o diagnóstico na prática clínica, o presente trabalho propõe discutir as principais implicações éticas no uso dessa tecnologia com base em três eixos temáticos principais. Primeiramente aborda-se a responsabilidade profissional associada à atribuição de culpa em caso de erro algorítmico e vieses que devem ser evitados no manejo dessa tecnologia, a fim de preservar um atendimento centrado no paciente e em seu bem-estar. Em seguida, explora-se a importância do consentimento e transparência ao paciente, destacando a importância de informar explicitamente o uso das ferramentas de IA, bem como as possíveis complicações e consequências na relação médico-paciente. O terceiro eixo aborda os cuidados e responsabilidades ligadas à privacidade do paciente e manejo de dados clínicos. Todos os eixos temáticos explorados neste artigo foram analisados sob a luz do Código de Ética Médico, considerando as lacunas e necessidade de regulamentação explícita desses temas para promover um uso ético e consciente dessas tecnologias. Por último, exploram-se conclusões e propostas para a maior regulamentação e direcionamento do uso responsável de IA pelos profissionais médicos.

 

A Responsabilidade Civil e Profissional no Uso das Ferramentas de IA

No exercício da profissão, os médicos devem estar atentos não apenas à responsabilidade profissional prevista no seu Código de Ética, mas também à responsabilidade civil. 

Segundo Amaral (1998) a  responsabilidade civil pode ser compreendida em sentido amplo e em sentido estrito. Em sentido amplo, refere-se à situação jurídica em que alguém tem a obrigação de indenizar outra pessoa, que envolve conjunto de normas e princípios que disciplinam o nascimento, conteúdo e cumprimento de tal obrigação. Em sentido estrito, designa o específico dever de indenizar, nascido do fato lesivo imputável a determinada pessoa, ou seja, a consequência direta do ato danoso.

Neste aspecto, a responsabilidade profissional – conceito fundamental em qualquer área de atuação – trata da obrigação do profissional em cumprir com seus deveres e obrigações sempre de forma ética e competente. Em se tratando de profissionais médicos, seu Código de Ética (CFM, 2018) traz no seu Capítulo III, 16 artigos enumerando tais responsabilidades.

A responsabilidade civil, por sua vez, busca obrigar o agente causador do dano a repará-lo, numa tentativa de restabelecer o equilíbrio jurídico-econômico anteriormente existente entre o agente e a vítima – ou seja, a efetivação do sentimento de justiça, sob a forma da restituição integral do dano (GOMES, 2012). Compreende-se que cabe ao agente responsável pelo dano imputado a uma determinada pessoa a obrigação de indenizar o outro, na premissa de obter a reparação do prejuízo à vítima (CARDOSO e CARDOSO, 2023).

  No contexto médico, é crucial analisar, inicialmente, o cuidado necessário no manejo de ferramentas de IA e as implicações legais do dano ao paciente derivado de erros algorítmicos durante a prática diagnóstica, à luz da responsabilidade civil descrita na legislação. Em seguida, discute-se a conduta médica esperada segundo o Código de Ética Médica para a compreensão da responsabilidade profissional, evidenciando suas diferentes dimensões na prática clínica.

Questões importantes emergem no contexto do uso de IA na medicina: “Quando e como o médico é responsabilizado por erros ou imprecisões dos algoritmos, caso haja dano ao paciente?”. Durante a prática diagnóstica, erros podem trazer prejuízos significativos aos pacientes, como o agravamento de uma condição grave ou a recomendação de um tratamento inadequado. Nesse sentido, surge o debate sobre a obrigação de indenizar o paciente durante o manejo dessas tecnologias, na premissa de obter a reparação do prejuízo à vítima. Assim, é crucial analisar os critérios de responsabilização no emprego dessas tecnologias e, em seguida, compreender a conduta médica esperada segundo o Código de Ética para a compressão da responsabilidade profissional, em suas diferentes dimensões na prática clínica durante a era da IA.

Sob o ponto de vista da responsabilidade civil o assunto ainda é controverso. No entanto, de acordo com Bonna e Sá (2021), para que se atribua ao médico a responsabilidade civil por um eventual erro decorrente do uso da IA, é preciso partir-se da regra geral prevista em nosso ordenamento jurídico, o qual estabelece que a responsabilidade civil deste profissional é subjetiva. Isso nos leva a concluir que, nos casos envolvendo a IA, deve-se analisar se o médico agiu com a diligência necessária exigida por sua profissão ou se agiu com negligência, imprudência ou imperícia – requisitos dispostos em nossa legislação vigente para a apuração da responsabilidade civil do médico. Diante disso, na ótica dos autores, caso fique caracterizada a culpa stricto sensu, conclui-se que será então devida sua responsabilização civil pelo erro ocasionado pela IA. Entretanto, segundo os mesmos autores, enquanto não existir uma regulação específica sobre tal tema, entende-se que, quando não for cabível que o médico seja responsabilizado pelos erros ocasionados pela IA, resta ao paciente buscar eventual reparação civil perante àquele que produz e aufere lucros com a IA.

 

No que se refere à responsabilidade profissional, é importante ressaltar que os princípios de conduta na relação médico-paciente devem se basear nas normas estabelecidas pelo Código de Ética Médica (CEM), anexo da Resolução CFM n° 2.217, de 21 de setembro de 2018 (CFM, 2018). Nesse contexto, aplica-se o inciso XIX, Capítulo I, que trata dos Princípios Fundamentais, onde ela emerge como um fator central para a guia da conduta médica, o qual define:

 

 XIX – “O médico se responsabilizará, em caráter pessoal e nunca presumido, pelos seus atos profissionais, resultantes de relação particular de confiança e executados com diligência,  competência e prudência.”. 

 

Esta diretriz assume uma relevância central no uso de ferramentas de IA para o diagnóstico, na qual presume-se, de forma direta, a atribuição de responsabilidade pessoal e profissional do médico pelos possíveis erros na prática clínica quando guiado por uma tecnologia de predição, segundo os princípios éticos da profissão definidos pelo CEM.

O Consentimento e a Transparência

Os princípios de consentimento informado e transparência de meios e fins são definidos como princípios básicos na conduta ética do profissional de saúde, responsáveis por promover autonomia ao paciente. Nesse sentido, segundo a análise de Dantas e Nogaroli (2020), o consentimento apresenta-se como, não apenas um princípio para garantir ao paciente seu direito de liberdade, mas como uma ferramenta para incrementar o respeito à pessoa doente, em sua dimensão holística. Neste aspecto, para o uso ativo de ferramentas de IA na prática clínica é importante a autorização consciente e esclarecida do paciente,  para manter a confiança e a relação médico-paciente.

 

Sob essa perspectiva, o inciso XXI do Capítulo dos Princípios Fundamentais e o artigo 31 do Capítulo V, que trata da Relação com Pacientes e Familiares do Código de Ética Médica, é bastante esclarecedor.

 

XXI – No processo de tomada de decisões profissionais, de acordo com seus ditames de  consciência e as previsões legais, o médico aceitará as escolhas de seus pacientes relativas aos  procedimentos diagnósticos e terapêuticos por eles expressos, desde que adequadas ao caso e cientificamente reconhecidas.

 

É vedado ao médico:

Art. 31 Desrespeitar o direito do paciente ou de seu representante legal de decidir livremente sobre a execução de práticas diagnósticas ou terapêuticas, salvo em caso de iminente risco de morte.

Deve ser entendido que a comunicação do médico, no que diz respeito ao diagnóstico, prognóstico, riscos e alternativas para o tratamento do paciente, deve ser pautada em uma linguagem coesa e de fácil compreensão. É um direito do paciente e uma obrigação ética do profissional. No entanto, no que tange ao uso de IA preditiva para o diagnóstico, a transparência da atividade médica é comprometida pelo “problema da caixa preta”, intrínseco à maioria dos algoritmos de ML, como apontam Dantas e Nogaroli (2020). Segundo Teffé e Medon (2020) o modelo algorítmico executa uma sequência de ações para gerar um resultado, contudo, nem sempre há como explicar ao profissional o processo de decisão.

Para conciliar o uso de IA à prática clínica sem infringir os princípios éticos de consentimento e transparência que norteiam a atuação médica, torna-se imprescindível que o profissional nunca abandone o embasamento teórico e social que se aplica a cada paciente. Isso implica realizar o processo decisivo final junto ao paciente, conciliando a condição individual de cada enfermo, o contexto clínico e os fundamentos biopsicossociais na interpretação do resultado da IA. 

 

A privacidade e o manejo de dados médicos

A discussão sobre os desafios éticos do manejo de dados clínicos sensíveis e da integração de bases de dados emerge junto à revolução tecnológica proposta pela IA, como discutido por Lobo (2017) em sua obra “Inteligência Artificial e Medicina”. O autor também aborda como Sistemas Integrados como o National Health Service (NHS), serviço de saúde público inglês, demonstra a viabilidade da centralização e aglutinação de bases de dados para favorecer a pesquisa e a troca de experiências clínicas a nível nacional. E afirma “discute-se a abertura desses dados a toda a comunidade médica, com a certeza de que o benefício de trocar e compartilhar experiências é muito maior que a preservação de sua confidencialidade”.

Segundo Lobo (2017), o surgimento do debate da privacidade e sigilo de dados médicos associados ao advento da IA na prática clínica ocorre a partir da introdução gradual de bases de dados na área da saúde, em especial ao conceito de big data, para o armazenamento de informações clínicas e pessoais do pacientes a partir dos prontuários médicos produzidos no dia a dia de hospitais e clínicas pelo mundo. Segundo o autor, a partir da coleta e análise desses dados, é possível a geração e produção de dados estatísticos e epidemiológicos detalhados para antecipar surtos e epidemias, prever a evolução de enfermidades e realizar ações profiláticas. 

 

Aos médicos é interessante sempre considerar que a privacidade também é o objeto da Lei Geral de Proteção de Dados-LPGD (BRASIL, 2018), como se observa nos inciso I e alínea f do inciso II  do seu artigo 11, os quais instituem que:

 

Art. 11. O tratamento de dados pessoais sensíveis somente poderá ocorrer nas seguintes hipóteses:

I – quando o titular ou seu responsável legal consentir, de forma específica e destacada, para finalidades específicas;

II – sem fornecimento de consentimento do titular, nas hipóteses em que for indispensável para:

[…]

1. f) tutela da saúde, exclusivamente, em procedimento realizado por profissionais de saúde, serviços de saúde ou autoridade sanitária;

Aparentemente a LGPD manifesta o caráter de indispensabilidade da colheita e compartilhamento de informações clínicas por profissionais ou serviços de saúde, no interesse coletivo e cuidado à saúde. No entanto, para os médicos, o seu código de ética (CFM, 2018) impõe as regras que resguardam o direito dos pacientes ao sigilo das informações. Enquanto o inciso  XI, do Capítulo I que trata dos Princípios Fundamentais indicam que o profissional tem o compromisso de promover a confidencialidade, o artigo 73 do Capítulo IX, que regula o Sigilo Profissional médico, indica em que condições o sigilo poderá ser quebrado.

 

 XI – O médico guardará sigilo a respeito das informações de que detenha conhecimento no  desempenho de suas funções, com exceção dos casos previstos em lei .

 Art. 73 Revelar fato de que tenha conhecimento em virtude do exercício de sua profissão, salvo por motivo justo, dever legal ou consentimento, por escrito, do paciente.

 

No cenário atual, com a possibilidade de uso de novas tecnologias no fazer médico, como bem representa a Inteligência Artificial, e haja vista a características das informações em bancos de dados utilizados para o seu treinamento, com o viés do algoritmo, é importante que os profissionais estejam sempre atentos quanto ao dever ético, não se alienando das possíveis consequências que esse fator pode ter, em especial na avaliação crítica do diagnóstico gerado pela tecnologia. Neste aspecto, o inciso XXV do capítulo dos Princípios Fundamentais chama a atenção para o uso ético das novas tecnologias e o inciso XXVI do mesmo capítulo estimula, igualmente no respeito da ética, a busca constante sempre por melhores resultados para a prática médica. 

 

XXV – Na aplicação dos conhecimentos criados pelas novas tecnologias, considerando-se suas repercussões tanto nas gerações presentes quanto nas futuras, o médico zelará para que as pessoas não sejam discriminadas por nenhuma razão vinculada à herança genética, protegendo-as em sua dignidade, identidade e integridade. 

 

XXVI – A medicina será exercida com a utilização dos meios técnicos e científicos disponíveis que visem aos melhores resultados.

 

É importante que os médicos estejam cientes quanto a uma característica crítica dos algoritmos de ML, o viés algorítmico, onde as desigualdades e representatividade de características no banco de dados reflete na qualidade dos outputs gerados por essa tecnologia. De acordo Neto e Barbosa (2023), o viés da automação consiste no erro de julgamento médico, decorrente de influência de ferramentas de IA, o qual pode acarretar danos à saúde e integridade do paciente sob uso indevido, com implicações diretas à atribuição de responsabilidade civil ao profissional. Segundo os autores, a discriminação de um paciente pelo algoritmo torna-se possível perante a sub-representatividade ou hiper-representatividade da população ao qual faz parte, considerando uma ou mais características determinadas, fator que o sujeita ao erro diagnóstico.

É importante que o médico mantenha o compromisso ético, mantendo sua atuação de forma crítica e consciente para assegurar ao paciente o respeito à confidencialidade e não discriminação dentro de seu espectro de atuação. Importante estar consciente do caráter sempre pessoal e nunca presumido, de seus atos, os quais devem ser executados com foco na diligência,  na competência e na prudência.

 

CONCLUSÃO:

Embora o uso de ferramentas de IA e Machine Learning possam oferecer elevada eficácia e taxas de sucesso relevantes para prática clínica, sob a premissa de terem sido previamente avaliadas e testadas em estudos para a aprovação de uso por profissionais de saúde, sua implementação no processo diagnóstico ainda exige do profissional médico cautela, capacitação e avaliação crítica constante dos resultados fornecidos (outputs), considerando as limitações de cada modelo, vieses nos dados de treinamento e explicabilidade difícil ou fora da compreensão e campos de estudo do próprio profissional da saúde. Soma-se a isso o cuidado para manutenção de uma conduta ética e humanizada durante todo o processo de anamnese e atendimento, permitindo, assim, uma inserção mais ética e responsável dessas tecnologias no cotidiano da prática clínica. Nesse sentido, a ausência de regulamentação explícita do uso de IA na medicina expressa uma lacuna que deve ser suprida frente à evolução das tecnologias e do Machine Learning, assim como o eventual uso no cotidiano clínico.

O profissional médico, em seu compromisso ético profissional, não pode abandonar o julgamento crítico clínico, a empatia e a comunicação clara necessárias para o mantimento de uma boa relação médico-paciente, mesmo frente ao advento da IA. A responsabilidade pessoal e civil mantém-se centrada no profissional, a quem cabe a decisão clínica final. Semelhante, a confiança necessária para a preservação de uma relação ética e responsável com o paciente não deve ser diluída ou transferida para qualquer meio ou tecnologia utilizada, cabendo assim ao médico a atuação ativa no processo clínico decisivo, mesmo quando guiado por ferramentas de predição baseadas em IA. 

Está claro que a alienação, entendida como transferência para outra pessoa de um bem ou direito, configura um descompromisso ético, e portanto, pode suscetibilizar o profissional à culpa do erro médico e, portanto, à obrigação de indenizar o enfermo dentro do âmbito da responsabilidade civil.

Com o uso de programas fundamentados na Inteligência Artificial, uma nova função é delegada ao médico: o intermédio da tecnologia e a dimensão humana e biopsicossocial do enfermo, fundamentado na comunicação clara e respeito tanto à autonomia, quanto à dignidade do paciente. A incorporação da IA na prática clínica será verdadeiramente benéfica, quando acompanhada de um compromisso ético robusto por parte dos profissionais de saúde, centrado no respeito do paciente, aos seus direitos e à sua individualidade.

 

REFERÊNCIAS:

1. AMARAL, Francisco. Direito civil. 2. ed. Rio de Janeiro: Renovar, 1998.
2. BONNA, A. P.; SÁ, V. V. Responsabilidade Civil Do Médico Por Erros Ocasionados No Uso Da Inteligência Artificial. Revista Brasileira de Direito Civil em Perspectiva, [s. l.], v. 7, n. 1, p. 45–66, 2021. Disponível em: https://indexlaw.org/index.php/direitocivil/article/view/7754/pdf Acesso em: 26 fev 2025.
3. BRASIL. Presidência da República. Secretaria-Geral. Subchefia para Assuntos Jurídicos. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm Acesso em: 26 fev. 2025.
4. CARDOSO, H. A. de A.; CARDOSO, V. A. de A.  Responsabilidade civil e excludente de ilicitude penal. Revista Tópicos, [s. l.], v. 1, n. 4, p. 1–12, 2023. Disponível em: https://revistatopicos.com.br/artigos/responsabilidade-civil-e-excludente-de-ilicitude-penal Acesso em: 25 fev. 2025.
5. CFM. Conselho Federal de Medicina. Resolução CFM n° 2.217/2018. Código de Ética Médica. 2018. Disponível em: https://www.cremers.org.br/pdf/codigodeetica/codigo_etica.pdf Acesso em 25 fev. 2025.
6. DANTAS, E.; NOGAROLI, R. Consentimento informado do paciente frente às novas tecnologias da saúde: telemedicina, cirurgia robótica e inteligência artificial. DIREITO, p. 13, 2020.
7. ESQUERDA, M, PIFARRÉ F.E; PIFARRÉ J. Deep Learning Deep ethics: Ética para el uso de la Inteligencia artificial en medicina. Labor hospitalaria. v. 327, p. 52-59, 2020. Disponível em: https://www.iborjabioetica.url.edu/sites/default/files/inline-files/Labor-Hospitalaria_2020-2_327_art_04%20%281%29_0.pdf  Acesso em: 25 fev. 2025
8. GOMES, F. A. Responsabilidade civil por violação ao direito à imagem. [s. l.], 2012. Disponível em: https://repositorio.idp.edu.br//handle/123456789/423. Acesso em: 22 maio 2025.
9. LOBO, L. C. Inteligência Artificial e Medicina. Revista Brasileira de Educação Médica, [s. l.], v. 41, p. 185–193, 2017.
10. RAJKOMAR, A.; DEAN, J.; KOHANE, I. Machine Learning in Medicine. New England Journal of Medicine, [s. l.], v. 380, n. 14, p. 1347–1358, 2019.
11. TEFFÉ, C. S.; MEDON, F. Responsabilidade civil e regulação de novas tecnologias: questões acerca da utilização de inteligência artificial na tomada de decisões empresariais. Revista Estudos Institucionais, v. 6, n. 1, jan./abr. 2020, p. 325