Pesquisadores do MIT compararam como especialistas e não especialistas usam assistência diagnóstica baseada em modelos de linguagem. O achado central: usuários leigos tenderam a seguir as recomendações da IA mesmo quando elas estavam erradas. Clínicos com treinamento médico, por outro lado, conseguiram identificar e corrigir os erros do modelo antes que se tornassem decisão final.

O estudo não divulga números de acurácia do modelo nem taxa exata de adesão a recomendações erradas — o resumo disponível trata da comparação qualitativa entre os dois grupos, não de métricas específicas. Ainda assim, a conclusão prática é clara: o valor de um assistente diagnóstico de IA não é uma propriedade fixa do sistema, é uma função de quem está do outro lado da tela.

Isso importa porque boa parte do discurso comercial em torno de LLMs aplicados à saúde vende a promessa oposta: democratizar o acesso a diagnóstico, colocar "um médico no bolso" de qualquer pessoa. O estudo do MIT ataca essa premissa diretamente. Se o usuário não tem bagagem para questionar a saída do modelo, a IA não está complementando julgamento humano — está substituindo por autoridade percebida. E autoridade percebida de um LLM não é a mesma coisa que acurácia.

Essa dinâmica não é exclusiva de saúde. É uma reformulação do problema clássico de over-reliance em sistemas automatizados, já documentado em contextos como cabines de avião e diagnóstico por imagem antes da era dos LLMs. O que o MIT parece confirmar é que modelos de linguagem, por serem fluentes e convincentes na forma como apresentam respostas, agravam esse efeito — é mais fácil confiar em algo que "explica" seu raciocínio em português claro do que em uma caixa-preta que só devolve um número.

Para quem desenvolve produtos: a implicação direta é que interface e público-alvo não são detalhes de UX, são decisões de segurança. Um assistente pensado para apoiar um clínico dentro de um fluxo de trabalho supervisionado é um produto fundamentally diferente de um chatbot de sintomas aberto ao público geral — mesmo que o modelo por baixo seja o mesmo. Tratá-los como a mesma categoria de risco é, pelo que este estudo sugere, um erro de design.

Fica em aberto o que fazer com essa lacuna. Treinar o usuário leigo para questionar a IA é uma solução que soa bem no papel, mas historicamente falha em escala — ninguém lê disclaimer antes de perguntar "isso é câncer?" para um chatbot às 2h da manhã. Restringir esses produtos a ambientes supervisionados por profissionais resolve o risco, mas também mata boa parte da proposta de valor comercial. O estudo não resolve esse dilema; só deixa mais difícil ignorá-lo.