Estamos entregando tarefas críticas para a IA. O problema? Ela "alucina". Ela inventa fatos, cria jurisprudência que não existe e sugere diagnósticos perigosos. E o pior: ela faz isso com uma confiança absoluta, que engana até o profissional mais sênior. Isso não é um "bug" que será corrigido na próxima atualização; é uma característica fundamental da tecnologia.

Neste episódio, Carlos Lima e Tita Rigo abrem o jogo sobre o maior risco da IA Generativa: a nossa confiança cega. Por que estamos tão dispostos a acreditar em respostas plausíveis, mas factualmente incorretas? Discutimos o "viés de automação" e por que a tentativa de "ancorar" a IA em dados reais (RAG) não é a bala de prata que todos esperam.