Sim, podem. Viés algorítmico é um erro sistemático que prejudica mais um grupo de pessoas do que outro. Na saúde, isso foi documentado em pelo menos três situações: um algoritmo de risco que usava custo como atalho para doença, aparelhos de oxigenação que podem errar mais em pele escura e bancos de imagens de pele com poucos tons escuros. Isso não quer dizer que todo algoritmo ou aparelho seja tendencioso; quer dizer que o problema existe, tem causas conhecidas e pode ser medido e corrigido.

De onde vem o viés

Raramente o viés vem de uma intenção. Costuma vir de três mecanismos:

  • Atalho mal escolhido (proxy): o modelo prevê algo fácil de medir, como gasto, no lugar do que importa de verdade, como doença.
  • Dados que não representam todo mundo: se o modelo "aprendeu" com poucas imagens ou poucos pacientes de um grupo, tende a errar mais nele.
  • Aparelho calibrado e testado em uma população: o sensor ou o protocolo de teste não foi validado igualmente em todos os grupos.

Caso 1: o algoritmo que confundiu custo com doença

Em 2019, a revista Science publicou um estudo de Ziad Obermeyer e colegas sobre um algoritmo comercial usado nos EUA para escolher quais pacientes recebem atenção extra de programas de cuidado. Segundo o resumo oficial, o sistema afeta milhões de pacientes e, para um mesmo nível de risco calculado, os pacientes negros eram consideravelmente mais doentes que os brancos, com sinais de doenças descontroladas.

O mecanismo foi este: o algoritmo previa gastos com saúde, não doença. Como há acesso desigual ao cuidado, gasta-se menos com pacientes negros do que com brancos de mesma gravidade. O modelo, então, lia "gasta menos" como "está mais saudável". Segundo os autores, corrigir essa disparidade aumentaria a proporção de pacientes negros selecionados para ajuda extra de 17,7% para 46,5%. A lição que eles tiram é que escolher um atalho conveniente pode gerar viés grande mesmo quando o atalho parece bom em outras medidas de acerto. É um estudo sobre um algoritmo específico, não uma regra sobre todos.

Caso 2: oxímetro de pulso e cor da pele

O oxímetro de pulso estima o oxigênio no sangue por meio de luz que atravessa o dedo. Em dezembro de 2020, uma carta de pesquisa no New England Journal of Medicine (Sjoding e colegas) comparou a leitura do oxímetro com o exame de gasometria arterial, que é a medida de referência. Segundo um resumo comentado do estudo, o oxigênio estava abaixo de 88% apesar de uma leitura de 92% a 96% (a chamada hipoxemia oculta) em 3,6% das medições em pacientes brancos e 11,7% em pacientes negros em uma coorte da Universidade de Michigan, e em 6,2% e 17,0% em uma coorte de UTIs de 178 hospitais. Ou seja, cerca de três vezes mais. Os autores ressaltam que nem todo paciente negro com essa leitura tem hipoxemia oculta. Não conseguimos abrir o artigo original, e as coortes eram de pacientes internados.

A FDA tratou o tema em etapas. Em 19 de fevereiro de 2021, emitiu uma comunicação de segurança dizendo que o oxímetro tem limitações e que fatores como má circulação, pigmentação da pele, espessura da pele, temperatura, tabagismo e esmalte podem afetar a leitura. Em novembro de 2022, um painel consultivo da agência indicou que a evidência clínica mostrava desempenho diferente em pessoas de pele escura. Em janeiro de 2025, a FDA publicou uma minuta de orientação para fabricantes. Entre as propostas: mais participantes nos estudos, avaliação do tom de pele com duas escalas (Monk Skin Tone e ângulo de tipologia individual) e um rótulo para aparelhos que mostrem desempenho comparável entre tons de pele. A própria minuta lembra que uma associação observada nem sempre implica causa e que outros fatores, como baixa perfusão, explicam parte da diferença. Não confirmamos se a orientação já virou versão final.

Para o consumidor, a FDA informa que muitos oxímetros vendidos sem prescrição são produtos de "bem-estar", que a agência não avalia para decisões clínicas, e que a leitura deve ser vista junto com sintomas. Só um profissional de saúde diagnostica hipóxia.

Caso 3: dermatologia e pele escura

Programas que analisam fotos de lesões de pele aprendem com bancos de imagens. Uma revisão sistemática na Lancet Digital Health (Wen e colegas) encontrou 21 bancos abertos com 106.950 imagens de lesões de pele. Dos 14 que informavam o país de origem, 11 vinham exclusivamente da Europa, da América do Norte e da Oceania. Só 1,3% das imagens tinham informação sobre etnia e 2,1% sobre o tipo de pele (escala de Fitzpatrick), o que os autores descrevem como sub-representação substancial de tipos de pele mais escuros.

Um estudo na JAMA Dermatology (Daneshjou e colegas) olhou 70 trabalhos sobre IA em dermatologia: apenas 14 (20%) descreviam raça ou etnia dos pacientes em algum banco de dados, e 7 (10%) traziam alguma informação sobre tom de pele. Em 2022, a mesma equipe criou na Science Advances o banco DDI, com imagens de tons diversos e diagnóstico confirmado por biópsia. Modelos de ponta tiveram limitações importantes, principalmente em pele escura e doenças raras. Dermatologistas também pioraram nesses casos. Um dado animador: ajustar os modelos com as imagens do DDI reduziu a diferença entre tons claros e escuros.

O que se faz para reduzir o viés

  • Perguntar o que o modelo realmente prevê. O caso do custo mostra que o alvo da previsão precisa refletir o objetivo clínico.
  • Testar por subgrupos. Calcular o desempenho separadamente por raça, sexo, idade e tom de pele, e não só a média geral.
  • Diversificar dados e relatar quem está neles. Os estudos de dermatologia pedem padrões de relato dos dados.
  • Auditar depois do lançamento. A OMS, em nota de janeiro de 2024 sobre grandes modelos multimodais de IA, recomenda que auditorias pós-lançamento reportem resultados por características dos usuários, como raça e deficiência. Sua publicação de 2021 sobre ética e governança da IA em saúde coloca a ética e os direitos humanos no centro do desenho e do uso.

O que muda para o Brasil

A Resolução CFM 2.454/2026, publicada em 27 de fevereiro de 2026 e em vigor desde o fim de agosto de 2026 (pela conta da Redação), define "viés discriminatório ilegal ou abusivo" e cita como exemplo negar ou retardar tratamento por raça ou gênero. Ela prevê auditoria e monitoramento contínuos nas instituições médicas e, em seu anexo, monitoramento dos resultados por grupos para achar diferenças de acurácia, com correção imediata (ajuste, retreinamento com dados mais balanceados, restrição de uso e, em casos graves, descontinuação). O diretor técnico da instituição fica responsável pela fiscalização.

A LGPD, no art. 20, garante ao titular o direito de pedir revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. Em saúde, quando a IA apenas apoia um médico, que decide, a aplicação desse artigo pode ser debatida; não encontramos nesta apuração interpretação oficial sobre isso. Para entender seus direitos sobre dados de saúde, veja quem é dono dos seus dados de saúde. Para ver como a IA entra nos exames, leia IA na radiologia, e para o que perguntar ao profissional, o guia de perguntas sobre novas tecnologias.

Perguntas frequentes

O que é viés algorítmico na saúde?

É quando um algoritmo ou aparelho erra de forma sistemática mais para um grupo do que para outro, por causa dos dados usados, do alvo escolhido ou de como foi testado. Não precisa haver intenção.

Todos os algoritmos de saúde têm viés?

Não há base para dizer isso. Os casos aqui são documentados em estudos, mas cada sistema precisa ser avaliado. Daí a importância de testar o desempenho por subgrupos.

O oxímetro de pulso erra em pele escura?

Estudos e a FDA indicam que pode haver diferença de acurácia conforme a pigmentação, e a agência propôs em 2025 novas exigências de teste. A FDA também lembra que outros fatores afetam a leitura. Se tiver sintomas como falta de ar, procure um serviço de saúde, qualquer que seja a leitura.

A IA que analisa pele funciona em pele escura?

Os estudos revisados mostram que muitos bancos de imagens têm poucas imagens de pele escura e que modelos testados num conjunto diverso tiveram pior desempenho nesses casos. Ajustar com imagens diversas reduziu a diferença no estudo de 2022. Em caso de lesão suspeita, a avaliação de um dermatologista é o caminho.

Posso contestar uma decisão automatizada sobre mim?

A LGPD (art. 20) prevê o direito de pedir revisão de decisões tomadas unicamente por tratamento automatizado de dados. Se houve IA como apoio em seu atendimento, a Resolução CFM 2.454/2026 mantém o médico responsável e você pode perguntar como ela foi usada.

Fontes