IA no prontuário: apoio, não delegação
Resumo automático, sugestão de conduta e leitura de exame por IA entram no registro sob autoria do médico. O que perguntar antes de confiar, e onde estão os riscos reais.
Sistemas de prontuário passaram a oferecer resumo de histórico, extração de valores de exame e sugestão de hipótese. A utilidade é real: ler dez anos de histórico em trinta segundos muda a consulta. O risco também é real, e é diferente do que se costuma temer.
O risco não é a IA errar. É ela errar com fluência
Um sistema que falha de forma óbvia é seguro, porque ninguém confia nele. O problema aparece quando a saída é plausível, bem escrita e ocasionalmente errada — porque aí ela passa pela conferência. Um resumo que omite silenciosamente uma alergia é mais perigoso que um que não gera resumo nenhum.
Some-se a isso o efeito de ancoragem: uma hipótese sugerida antes do raciocínio próprio muda o raciocínio. Não é falha de atenção; é como o julgamento humano funciona sob sugestão.
O que perguntar ao fornecedor
- O dado clínico sai da infraestrutura? Vai para um provedor externo? Qual?
- Ele é usado para treinar modelos? Se sim, com qual base legal, dado que é dado sensível?
- O conteúdo é identificado ou passa por remoção de identificadores antes de ser processado?
- A saída é rastreável ao que a originou, ou é texto solto sem fonte?
- O sistema deixa claro no registro o que foi gerado automaticamente e o que foi escrito pelo médico?
A regra que não muda
O que entra no prontuário entra sob a sua autoria. Um resumo gerado que você validou é seu registro; a responsabilidade não se divide com o fornecedor por ter sido sugerido por um sistema. Isso torna a conferência parte do ato, não etapa opcional de revisão.
No SUSVIDA, o texto clínico passa por remoção de identificadores antes de qualquer processamento por modelo, e a cadeia prioriza processamento na própria infraestrutura antes de recorrer a provedor externo. Saída automática é apresentada como apoio, sempre sujeita à revisão de quem assina.