Domingueira nº 24 - Junho 2024

IA em saúde e os desafios para proteção de direitos dos pacientes

Por Fernando Aith

Riscos da inteligência artificial em saúde geram desafios regulatórios complexos e abrangentes que devem ser enfrentados

A incorporação de tecnologias que fazem uso da inteligência artificial no campo da saúde traz enormes desafios para os direitos dos pacientes. Os desafios que se avizinham versam sobre o acesso aos serviços de saúde, os direitos relacionados à privacidade e confidencialidade dos dados sensíveis, além de aspectos relevantes relacionados aos direitos à informação, à autonomia do paciente e à equidade.

Apresento aqui alguns desafios que foram trazidos pelas professoras Lydia Morlet, do Instituto Direito e Saúde da Universidade de Paris, e Hanna Van Kolfschooten, do Centro Jurídico para a Saúde e Vida da Universidade de Amsterdã, em debate promovido nesta quinta-feira (20/6) pelo Núcleo de Estudos sobre Bioética e Diplomacia em Saúde da Fiocruz (Nethis/Fiocruz) em parceria com o Centro de Pesquisas em Direito Sanitário da USP (Cepedisa/USP).

Acesso a serviços de saúde

Ao mesmo tempo em que a saúde digital e a IA aplicada em saúde podem trazer grandes avanços no acesso aos serviços de saúde, também podem trazer enormes desafios no que se refere ao acesso às tecnologias de ponta. Estas tecnologias, que prometem alta qualidade de serviços, possuem intenso valor agregado e seus custos e capacidades de uso não serão acessíveis a todos.

Outro grande desafio, que já se mostra presente, refere-se ao acesso igualitário a estas tecnologias, não só em termos financeiros e de disponibilidade regional/local, mas principalmente o acesso relacionado à não discriminação em razão de cor, raça, etnia, gênero etc.

Na medida em que estas tecnologias vêm apresentado vieses algorítmicos relevantes, há uma grande possibilidade do acesso a elas ser restrito a pessoas de determinados grupos populacionais, por não serem testados em grupos populacionais diversificados e por não serem eficazes para toda a população.

Privacidade e confidencialidade

A privacidade é um direito relacionado aos direitos fundamentais no Brasil, que na Constituição Federal estão assegurados pelo art. 5º, X (“são invioláveis a intimidade, a vida privada, a honra e a imagem das pessoas, assegurado o direito a indenização pelo dano material ou moral decorrente de sua violação”). Garantir que as tecnologias de IA em saúde preservem a privacidade e intimidade dos pacientes é um desafio para o qual o Brasil está longe de ter uma solução regulatória adequada.

Também deve-se atentar para os impactos da IA em saúde no sigilo profissional, instrumento fundamental para a proteção da intimidade e privacidade do paciente, e também para uma boa anamnese. O sigilo profissional é instrumento necessário para um bom diagnóstico e uma boa proposta de tratamento terapêutico. De que forma se preservará o sigilo médico com o uso destas tecnologias digitais na saúde, na medida em que estas dependem da circulação de dados para evoluírem?

Finalmente, a IA em saúde traz desafios no que se refere à necessidade de proteção dos dados médicos. Estas novas ferramentas servem de instrumentos valiosos para que o médico insira as informações de seus pacientes e obtenha auxílio no cuidado a ser oferecido. No entanto, as empresas de tecnologia não necessariamente irão garantir uma proteção adequada destes dados, até porque faz parte do negócio que se abre a monetização destes dados.

Consentimento e informação

O uso da IA em saúde afeta também o consentimento do paciente e o seu direito à informação sobre a doença e os possíveis tratamentos. O paciente deve consentir para a utilização da IA no seu tratamento? A lei francesa, por exemplo, definiu que o profissional de saúde que decidir utilizar a IA para um ato de prevenção, diagnóstico ou cuidado do paciente não precisa obter consentimento prévio do paciente para seu uso.

No entanto, o paciente deve ser informado pelo médico de que a tecnologia será utilizada nos cuidados a serem oferecidos. Esta informação deve ser feita de maneira prévia ao uso da IA no atendimento, para que o paciente tenha a opção de se opor ao seu uso. Além disso, a lei francesa estipula que depois da utilização da IA o médico deve necessariamente informar ao paciente de que forma a IA respondeu à demanda feita e de que forma ele interpretou e está utilizando esses resultados.

Outro aspecto relevante refere-se ao direito de informação sobre a ferramenta de IA em saúde. Qual a informação que deve ser dada e para quem? A princípio, está se falando de informações sobre os limites do sistema, risco de erros, origem dos dados. Mas seriam só estas?

Além disso, para quem deve ser dada a informação? O Regulamento Europeu prevê que seja dada informação para quem vai utilizar a tecnologia (o médico, o hospital) mas não prevê a obrigação de ser oferecida informação ao paciente.

Percebe-se uma preocupação maior para a informação a ser dada ao utilizador, não havendo suficientes previsões sobre as informações a serem dadas aos pacientes.

Direito à transparência e à explicabilidade dos algoritmos

A difusão do código-fonte pode não ser suficiente para compreender a decisão da máquina. Os desenvolvedores devem assegurar a explicabilidade do funcionamento da IA para os utilizadores. Mas quem é o utilizador? Médico ou paciente? Não há previsão alguma, nas regulações postas até o momento, sobre a necessidade de explicabilidade para o paciente.

A obrigação de transparência é um grande desafio por causa das caixas-pretas destas novas tecnologias. Em muitas delas não há como explicar como a máquina chegou ao resultado. Como regular isso?

Direito à supervisão humana

Também destaca-se a importância de que se tenha sempre a supervisão humana ao lado da máquina. O Código de Saúde Pública francês prevê que nenhuma decisão pode ser tomada somente pela máquina, e que sempre que houver uma decisão automatizada sobre aspectos do cuidado do paciente, este deve se beneficiar também de uma intervenção humana.

O regulamento europeu fala ainda em controle humano, exigindo este controle desde a concepção da IA até a sua utilização. Há expressa obrigação de supervisão da máquina pelo médico ou pelo estabelecimento de saúde.

Além disso, há a previsão de que o utilizador da IA em saúde precisa ter sempre o poder de desligar a máquina, fazer ela parar de funcionar. Outro alerta do Regulamento Europeu refere-se ao risco de se confiar demais na máquina.

A garantia humana é um bom princípio, mas de difícil execução, especialmente se os utilizadores não compreenderem adequadamente como essas tecnologias funcionam, quais os seus riscos e potenciais e, principalmente, qual o limite de confiança a ser dado aos resultados que a IA apresentar.

IA que respeite a regulamentação de dispositivos médicos

Finalmente, alerta-se para a necessidade da IA em saúde se adequar aos requisitos de qualidade, segurança e eficácia típicos de dispositivos médicos. Nesses casos, deve-se prever a expedição de certificações ou registros a estas tecnologias, conforme o grau de risco.

Necessário, portanto, haver órgãos estatais competentes para realizar uma avaliação prévia adequada destes dispositivos, inclusive no que se refere às pesquisas clínicas, e deve-se prever uma validação estatal para que possam entrar no mercado.

Desafios ao Brasil

Os debates sobre a necessária regulação da IA em saúde ainda encontram-se incipientes no Brasil. Os desafios são enormes e complexos, e compete à sociedade brasileira, juntamente com os agentes públicos estatais que estão utilizando e incorporando estas tecnologias, ou que estão à frente da regulação estatal no campo da saúde, avançar com os debates e compreensões sobre os desafios postos.

---

Fernando Aith – Professor titular da Faculdade de Saúde Pública da Universidade de São Paulo (USP). Professor visitante da Faculdade de Direito da Universidade de Paris. Diretor do Centro de Pesquisas em Direito Sanitário da USP

---

Publicado no Jota