Por que a IA alucina e o que fazer para evitar

Só em 2025, foram registrados 255 casos no mundo de profissionais punidos por citar jurisprudência, doutrina ou até artigo de lei que não existe.

Isso não é exceção. É o maior problema que os tribunais enfrentam hoje com o uso de IA na prática jurídica. E não é risco exclusivo de quem advoga. Juiz, promotor, procurador, defensor, servidor de tribunal: todo profissional do Direito que usa IA para produzir texto está exposto ao mesmo problema.

Nas edições anteriores, expliquei a estrutura que uso no escritório, o workflow de escrever petição inicial em uma hora, e porque o contexto importa tanto quando você conversa com um modelo de linguagem. Essa edição fecha o ciclo: porque a IA alucina, e o que fazer para reduzir esse risco no seu dia a dia.

Por que a IA alucina

De forma objetiva: a IA não tem como objetivo dizer a verdade. O objetivo dela é gerar a continuação de texto mais provável, dado o contexto que recebeu.

Isso é consequência direta de como o modelo funciona. Não é defeito pontual. É a natureza da ferramenta.

O aluno que não pode dizer "não sei"

Imagine um aluno que leu praticamente toda a internet, tem memória excelente para padrões, escreve muito bem. Mas, imagine que ele não pode consultar nenhum livro durante a prova.

Se você perguntar "quem foi o prefeito de uma pequena cidade em 1992?", ele pode não lembrar. Em vez de responder "não sei", ele reconstrói uma resposta que parece correta.

A IA faz exatamente isso. Ela produz a resposta mais coerente estatisticamente. Não necessariamente a resposta verdadeira.

Coerência não é a mesma coisa que verdade

O modelo aprendeu, durante o treinamento, que petição tem fundamento jurídico, que decisão judicial tem número de processo, que artigo científico tem citação. Ele aprendeu o formato.

Peça "cite cinco precedentes do STF sobre determinado tema", e se o modelo não conhecer cinco precedentes reais, ele pode produzir algo como "RE 123456/DF". O número parece verdadeiro. O formato está correto. O texto é convincente.

O precedente nunca existiu. Foi inventado porque se encaixa no padrão aprendido. Lembre-se: os modelos foram treinados para prever qual é a sequência de palavras mais provável diante de um contexto. Não existe compreensão no sentido humano. Existe cálculo de probabilidade.

O mecanismo técnico por trás

Em cada palavra gerada, o modelo atribui probabilidade a milhares de possibilidades. Algo como:

"O STF decidiu que ___": "é" — 31% / "não" — 28% / "possui" — 12% / "admite" — 9%...

Ele escolhe uma palavra, atualiza o contexto, repete o processo centenas ou milhares de vezes.

Se uma premissa inicial estiver errada ou pouco fundamentada, o resto do texto pode continuar internamente consistente, mas seguir baseado nessa premissa equivocada. É um raciocínio bem construído em cima de um fato incorreto.

Tecnicamente, isso é chamado de má classificação de tokens durante a completação de texto. Existem três causas principais:

1. Falta de conhecimento — a informação não estava nos dados de treinamento
2. Limitação cognitiva — arquitetura e quantidade de parâmetros limitam o que o modelo processa
3. Compulsão por resposta — o modelo é feito para completar texto, então tende a responder mesmo sem certeza. Ele não tem, por natureza, a capacidade de reconhecer a própria ignorância

Uma IA treinada só para reconhecer cães e gatos vai classificar um elefante como um dos dois. O "mundo" dela é limitado ao que foi ensinado.

Quanto mais específico o assunto, maior o risco

A IA acerta bastante em temas amplamente documentados: Constituição Federal, Código Civil, conceitos consolidados.

O risco sobe em assuntos muito específicos:

• processo administrativo interno de um órgão
• edital recém-publicado
• sentença de primeiro grau
• jurisprudência publicada ontem
• dado estatístico muito específico

Nesses casos, o modelo pode preencher lacuna com inferência plausível. Mas, incorreta.

Os dados jurídicos de alto risco

Nem toda informação tem o mesmo risco de alucinação. Fique especialmente atento a estas:

Jurisprudência. A informação mais crítica. O modelo frequentemente inventa decisão, nome de relator, tribunal e data que não existem.

Citações e referências diretas. Número de processo, número de acórdão, link para documento. A IA pode gerar link quebrado ou citação fictícia com formato perfeito.

Legislação e súmulas. O modelo pode citar artigo ou súmula inexistente. Ou, pior, citar uma lei válida que já foi revogada por legislação posterior que ele não considerou.

Doutrina. Pode fabricar posicionamento doutrinário ou atribuir tese a autor que nunca escreveu aquilo.

Fatos de caso concreto. Ao resumir ou analisar um processo, pode fabricar fato ou depoimento que não consta nos documentos originais.

A regra prática: quanto mais a informação exige precisão absoluta, maior o ceticismo necessário.

As pistas de um texto gerado por IA

Não existe forma tecnicamente confiável de comprovar que um texto foi gerado por IA. Mas existem pistas de um "jeitinho de escrever" característico:

• uso de maiúscula em palavra de forma incomum
• repetição de certos termos e expressões preferidas do modelo
• textos com estrutura muito parecida entre si
• parágrafo repetido ou falha visível de "colagem" mal feita
• mudança de tom no meio do texto
• e a pista mais grave, no Direito: jurisprudência que não existe, nome de relator inventado, link pra página que não existe

Nenhuma dessas pistas substitui a verificação. Mas ajudam a saber onde olhar primeiro.

Human in the loop

O conceito é simples de enunciar: deve sempre existir participação humana em alguma etapa do uso da IA. É o princípio de utilização da IA.

Três ideias sustentam isso:

Responsabilidade profissional. O humano é o único responsável pela entrega final. Se a IA alucina e o profissional usa sem revisar, o erro é inteiramente do profissional.

IA como apoio, nunca substituto do julgamento. A máquina acelera. O humano valida e assina.

O valor da experiência que a IA não tem. Intuição, know-how jurídico, entendimento de como determinado tribunal costuma decidir. Isso é o que permite identificar alucinação sutil que passaria despercebida por quem não tem bagagem na área.

Estratégias preventivas — engenharia de prompt

Três práticas reduzem a chance de alucinação antes mesmo de a resposta ser gerada.

Ser específico e contextual

Em vez de "pesquise jurisprudência sobre erro médico", especifique tribunal, período, foco exato e quais dados devem constar. Por exemplo: "STJ, últimos 5 anos, erro de diagnóstico em doença rara, com número de processo, relator e data."

O mesmo vale para quem escreve parecer, denúncia, decisão ou peça de defesa. Em vez de "resuma o entendimento do STF sobre prescrição", peça "entendimento do STF sobre prescrição em ação de improbidade, posterior a 2021, com número de acórdão e relator".

Quanto mais detalhe, menor o espaço para IA inventar.

Limitar o escopo

Não deixe o modelo "adivinhar" o que você quer. Restrinja a busca a parâmetro conhecido: tribunal específico, tema delimitado. Isso impede que ele preencha lacuna de contexto com invenção.

Solicitar referências explícitas

Instrua a IA a citar a fonte de cada informação: número de processo, relator, data, link. Isso não garante que a informação é real, mas facilita muito a conferência manual depois.

O aprendizado dessas três práticas é incremental: comece sendo mais específico, depois passe a exigir referência, depois combine as duas. Com o tempo, isso vira reflexo. É basicamente o que expliquei na edição sobre contexto: prompt bom é especificação, não pedido.

Ferramentas que ajudam a mitigar o problema

NotebookLM. Permite montar um ambiente fechado com suas próprias fontes: PDF, sentença, contrato, edital, parecer, denúncia. A IA responde só com base no que foi fornecido, em vez de recorrer ao conhecimento geral do treinamento. Isso reduz bastante a alucinação, embora não zere o risco. O problema descrito no início desse texto (a IA prefere completar a dizer "não sei") continua existindo mesmo dentro de uma base fechada.

Modos de pesquisa profunda (ChatGPT, Gemini). Versões mais recentes, especialmente pagas, incorporam pesquisa aprofundada e citação automática de fonte. Facilita a conferência humana, porque você já recebe o link para checar, em vez de ter que caçar a origem da informação depois.

Ferramentas jurídicas com base de dados fechada — modelo de IA nativo para o meio jurídico (de jurisprudência, legislação ou doutrina) tendem a alucinar menos que um modelo genérico de conversa, justamente porque a resposta é ancorada num acervo real, verificável, em vez de reconstruída por probabilidade a partir de tudo que o modelo já leu. Ainda assim, o princípio não muda: a ferramenta reduz o risco, não elimina a necessidade de checagem.

A lógica do ceticismo saudável

Se tiver que guardar três regras dessa edição, guarde estas:

Nunca confie em citação direta sem checar na fonte.

Verifique a coerência interna do texto, não só se ele "soa bem".

Trate toda saída de IA como rascunho. Nunca como produto final.

Hoje, quem revisa tudo, é minoria. Advogado, juiz, promotor, procurador, não importa o cargo. Isso não é desvantagem. É diferencial e obrigação. Ninguém quer só a resposta da IA. Quer a expertise humana junto com a ferramenta, assinando o resultado.

Afinal de contas, se terceirizarmos grande parte da atividade jurídica para agentes autônomos, qual é o papel do ser humano no Direito? A resposta simples é mais incômoda. Sempre vamos precisar de um humano no processo porque precisamos de alguém para culpar.

Até a próxima.