Um grupo de caminhantes precisou ser resgatado por autoridades locais depois de seguir recomendações do Google Gemini para planejar uma trilha. Segundo o gabinete do xerife responsável pela operação, a IA sugeriu uma quantidade de comida e água insuficiente para o número de pessoas envolvidas, e o grupo acabou ficando sem suprimentos durante o percurso.

As autoridades confirmaram o resgate e atribuíram parte da causa ao planejamento baseado na resposta do assistente. Não há, no relato divulgado, detalhes sobre o prompt exato usado pelo grupo, a duração prevista da trilha ou a diferença entre a quantidade recomendada e a necessária — informações que ajudariam a entender se o erro veio de um cálculo mal ajustado para o número de pessoas, de premissas erradas sobre a duração da caminhada, ou de outro fator que o modelo não tinha como conhecer.

O caso importa porque expõe um tipo de risco que discussões sobre alucinação de modelos de linguagem costumam tratar de forma abstrata: aqui há consequência física direta, com pessoas em situação de risco em campo. Assistentes como Gemini, ChatGPT e Copilot são usados rotineiramente para tarefas práticas de planejamento — desde roteiros de viagem até listas de compras — e a expectativa implícita de quem pergunta "quanta água preciso para uma trilha de X pessoas" é que a resposta seja tecnicamente confiável, não apenas plausível.

Não é a primeira vez que recomendações de IA generativa em contextos de segurança física geram problemas: já houve relatos de sugestões alimentares e médicas equivocadas geradas por chatbots. O que muda aqui é o cenário — atividade ao ar livre, com risco de desidratação ou exaustão em ambientes onde o erro não se corrige facilmente com uma busca rápida ou uma segunda opinião.

Fica em aberto se o Google vai comentar o caso publicamente ou ajustar respostas do Gemini para esse tipo de pergunta, e também qual foi exatamente a falha no cálculo — se um problema pontual de prompt ou algo mais sistemático em como o modelo estima quantidades para atividades físicas. Também não está claro se o grupo usou o Gemini como única fonte de planejamento ou se ignorou outros sinais de alerta ao longo do caminho. O episódio provavelmente vai reacender a pergunta de sempre: até que ponto assistentes generativos deveriam vir com algum tipo de aviso explícito quando a resposta envolve risco físico direto, e não apenas informação.