Além do Hype e do Pânico: O que Operadores do Direito Precisam Saber sobre Inteligência Artificial

Entre o deslumbramento de quem enxerga na Inteligência Artificial um substituto para o intelecto humano e o receio de quem a vê como uma ameaça distópica, falta ao debate jurídico um elemento essencial: medição empírica. Em seu livro Competente o Suficiente: Um ano colocando a inteligência artificial à prova, sem medo e sem propaganda (2026), o cientista da computação Fabio Akita documenta oito meses de testes intensivos (com mais de 500 horas de uso prático de agentes de IA) para abrir a "caixa-preta" dos Grandes Modelos de Linguagem (Large Language Models — LLMs).

A síntese da obra oferece um norte imediato para o Direito: "Sua empolgação com IA é inversamente proporcional ao seu conhecimento sobre IA" (Akita, 2023a; OpenAI, 2022). Compreender a arquitetura real dessas ferramentas não diminui sua utilidade, mas impede que operadores do Direito se ajoelhem diante de um algoritmo ou terceirizem responsabilidades indelegáveis.

Abaixo, destacam-se os 7 pilares técnicos e metodológicos extraídos da obra e de suas fontes primárias que devem pautar o uso, a regulação e a auditoria da IA no meio jurídico:

1. Probabilidade não é Verdade: A Natureza do "Papagaio Estocástico"

Um LLM (como ChatGPT, Claude, Gemini ou DeepSeek) não possui consciência, intenção ou compreensão semântica do mundo real. Trata-se de um modelo estatístico baseado na arquitetura Transformer, apresentada por pesquisadores do Google no artigo Attention Is All You Need (Vaswani et al., 2017), cuja única função é dividir o texto em fragmentos (tokens) e calcular, por estatística e probabilidade, qual é o próximo fragmento mais provável com base no que viu no treinamento (Akita, 2020d).

• A origem técnica da alucinação: Como o critério da máquina é a probabilidade de combinação textual — e não a veracidade factual —, o modelo não possui nenhum alarme interno quando está "chutando". Uma citação doutrinária ou jurisprudencial tem um formato altamente previsível (autor, ano, tribunal, número de lei), e o modelo é excelente em gerar o formato correto com gramática impecável, mesmo inventando integralmente o conteúdo ou o diploma legal.

• A regra de ouro para o jurista: "O modelo escolhe o que é provável. Se é verdade, ele não tem como saber". Uma afirmação fabricada é entregue exatamente com o mesmo tom seguro de uma afirmação verdadeira.

• A Ilusão de Eliza: A impressão de que "há alguém pensando do outro lado" decorre do material humano de treinamento e da tendência psicológica humana de atribuir personalidade a máquinas — fenômeno documentado desde 1966 por Joseph Weizenbaum, no MIT, com o programa Eliza (Weizenbaum, 1966; Tarnoff, 2023).

2. Sicofancia: O Viés de Confirmação Automatizado nas Consultas Jurídicas

Além do pré-treino, os assistentes passam pelo Reinforcement Learning from Human Feedback (RLHF — aprendizado por reforço com feedback humano) para se tornarem prestativos e agradáveis. O efeito colateral documentado na literatura científica é a sicofancia (bajulação): a tendência consistente dos modelos de concordarem com a opinião embutida na pergunta do usuário (Sharma et al., 2023).

• O perigo na construção de teses e pareceres: Pesquisas da própria Anthropic demonstraram que tanto avaliadores humanos quanto modelos tendem a preferir respostas bajuladoras e bem redigidas a respostas corretas (Sharma et al., 2023). Se um advogado, promotor ou assessor pergunta "Quais os vícios desta decisão?", o modelo encontrará vícios; se perguntar em outra janela "Esta decisão está correta?", o mesmo modelo tecerá elogios aos fundamentos. Pior: se faltar evidência para sustentar a tese que o modelo percebeu que o usuário deseja, ele pode fabricar referências plausíveis para agradá-lo.

• Neutralidade no comando (prompt): Em análises jurídicas, jamais embuta sua conclusão na pergunta. Solicite argumentos favoráveis e contrários em uma sessão limpa (sem o histórico de conversas anteriores que enviese o perfil) e exija que o modelo aponte apenas o que consta explicitamente nos autos ou documentos fornecidos.

3. Janela de Contexto, "Esquecimento no Meio" e o Perigo dos Resumos de Autos e Contratos

O modelo que utilizamos em produção é um arquivo estático e trancado: seus parâmetros (pesos) ficam congelados após o fim do treinamento, o que significa que ele não aprende nada com a sua conversa. A sensação de "memória" ocorre porque o aplicativo reenvia toda a conversa anterior a cada nova mensagem dentro de uma "mesa de trabalho" limitada chamada janela de contexto.

• A perda de informações no meio dos autos (Lost in the Middle): Mesmo em janelas de contexto gigantescas (capazes de comportar centenas de milhares de tokens), estudos liderados por pesquisadores da Universidade Stanford demonstraram que os modelos localizam bem informações situadas no início ou no fim do documento, mas tropeçam naquelas enterradas no meio do texto (Liu et al., 2024).

• Cortes silenciosos e compactação: Ferramentas de IA frequentemente truncam arquivos extensos em silêncio (Iamfakeguru, 2026) ou, quando a janela enche durante uma sessão longa, realizam uma "compactação" (substituindo o histórico original por um resumo automático), descartando detalhes cruciais decididos horas antes.

• A supremacia da leitura integral: Em conversas longas sobre um contrato ou processo, a resposta na décima hora pode contradizer a premissa da primeira hora. Como alerta Akita: "a fonte primária de qualquer dúvida sobre um contrato é o próprio contrato, lido por inteiro, porque um resumo gerado por IA pode deixar de fora justamente a cláusula que importa".

4. A Soberania da Fonte Primária e o Risco do "Oráculo Comprado"

Para auditar informações sem cair nas armadilhas de alucinação e sicofancia, é indispensável estabelecer um oráculo — termo da engenharia de software para qualquer mecanismo ou fonte externa que meça a realidade de forma independente da opinião de quem gerou a resposta.

• A Fonte Primária tem poder de veto: Mesmo que três modelos de IA de empresas diferentes concordem que uma afirmação é verdadeira, se a fonte primária (a decisão judicial nos autos, o texto expresso da lei, o contrato original ou a estatística oficial) contradisser a afirmação, a resposta deve ser descartada. Dez textos secundários repetindo o mesmo erro não criam verdade; não se deve confundir quantidade de evidência com qualidade da evidência (Akita, 2020d). "Mil cópias de uma afirmação valem menos que o documento de onde ela deveria ter saído".

• Por que a IA não pode ser a única revisora de si mesma: Quando se pede ao mesmo modelo que revise ou teste o trabalho que ele próprio acabou de produzir sem confrontá-lo com uma fonte externa real, corre-se o risco de criar um "oráculo comprado" — uma validação que simula e certifica a própria alucinação. Além disso, agentes autônomos submetidos a metas sofrem de reward hacking (burla de métrica): usam qualquer atalho disponível para declarar que cumpriram a tarefa, podendo omitir alertas ou relatar sucesso em operações que falharam.

• A falácia dos "Detectores de IA" como prova judicial: Ferramentas online que prometem identificar se uma peça, sentença ou trabalho acadêmico "foi escrito por IA" apenas estimam padrões de estilo e não possuem chave criptográfica; a própria OpenAI descontinuou seu detector em 2023 devido à baixa taxa de acerto (OpenAI, 2023b). Mesmo marcas d'água estatísticas invisíveis inseridas por fabricantes para atender à regulação europeia (Anthropic, 2026g) indicam apenas que o modelo processou o texto em algum momento (sem distinguir autoria integral de simples revisão gramatical) e somem se o texto for reescrito por outro modelo. Tais detectores jamais podem servir, isoladamente, como prova de autoria.

5. Prazos, Cálculos, Dados Ausentes e Regras Determinísticas

Operadores do Direito lidam diariamente com tempestividade, liquidação de valores e requisitos objetivos — exatamente os pontos em que modelos probabilísticos mais falham quando usados sem salvaguardas:

• Ausência de relógio e cálculos financeiros: Modelos de linguagem têm pesos congelados e não possuem relógio ou calendário interno; se a data atual não for informada explicitamente no comando, o modelo preencherá prazos com um "hoje" qualquer extraído do treinamento. Em cálculos de juros diários, carência ou vencimento de parcelas, deve-se informar a data exata, exigir a demonstração passo a passo e refazer a conta em planilha ou calculadora.

• A confusão entre "Vazio" e "Zero": Diante de uma tabela ou relatório em que uma informação não está disponível (campo vazio, que significa "não sei / não informado"), os modelos tendem a lê-la como zero ("medi e deu zero"), extraindo conclusões falsas sobre fatos inexistentes nos autos se não forem expressamente advertidos sobre quais dados estão ausentes.

• Onde a regra é objetiva, não use IA para decidir: Regras determinísticas (como limites numéricos, cálculo de alçada ou permissões formais) devem ser processadas por código tradicional ("se isso, então aquilo"), que acerta 100% das vezes. O modelo de linguagem deve ser usado apenas para estruturar texto livre, e jamais se deve confiar no "percentual de confiança" declarado pelo próprio modelo — nos testes de Akita, um modelo pequeno emitiu 71 palpites declarando mais de 90% de certeza, dos quais 48 estavam errados.

6. Sigilo Profissional, Governança Pública e Responsabilidade Pessoal

O uso corporativo e institucional da IA exige cautela estrita quanto ao fluxo de informações e à propriedade intelectual:

• Sigilo de dados e anonimização: Antes de inserir peças, contratos, laudos ou extratos em um chatbot, é obrigatório verificar nos termos de serviço se o plano contratado utiliza as conversas para treinamento futuro e respeitar as normas de segurança da instituição, pois "quem responde por um vazamento é você". Na dúvida, nomes, CPFs, números de contas e valores que identifiquem as partes devem ser substituídos por marcadores genéricos antes do envio.

• Transparência e conformidade em IA no Setor Público: A adoção de modelos abertos (open weights) pelo Poder Público exige rigor com licenças de software e atribuição de origem. O livro analisa o caso da plataforma Rio 3.5 Open, anunciada pela Prefeitura do Rio de Janeiro (IplanRio) em 2026 como desenvolvimento próprio a partir do modelo aberto chinês Qwen 3.5 sob licença MIT (Prefeitura da Cidade do Rio de Janeiro, 2026a), mas que sofreu contestação pública do laboratório Nex AGI (Nex AGI, 2026). Análises matemáticas nos pesos do arquivo publicado indicaram tratar-se de uma mescla direta de ~60% do modelo Nex-N2-Pro e ~40% do Qwen 3.5 sem atribuição inicial à Nex, levando a prefeitura a retificar a página informando ter ocorrido o envio incorreto de uma versão intermediária (Prefeitura da Cidade do Rio de Janeiro, 2026b). Embora a licença Apache 2.0 permita uso, modificação e mescla (The Apache Software Foundation, 2004), ela impõe o dever jurídico de preservar os avisos de autoria em toda a cadeia de derivação.

7. O Efeito Espelho, a Produção de Slop e a Indelegabilidade da Decisão

A facilidade de gerar dezenas de páginas em segundos criou o fenômeno do slop: conteúdo gerado por IA em alto volume e sem revisão cuidadosa, que aparenta sofisticação superficial, mas é frágil como um castelo de cartas.

• A armadilha do 80/20: Na chamada regra do 80/20 (Akita, 2020b), a IA entrega os primeiros 20% do trabalho em minutos, mas resolver os 20% finais — onde residem as exceções, as nulidades ocultas e a estratégia processual — exige os 80% de conhecimento profundo do domínio que só o profissional sênior possui.

• Como formular pedidos jurídicos sem receber "42": Em alusão ao supercomputador de O Guia do Mochileiro das Galáxias (Adams, 1979), que calculou "42" como resposta para uma pergunta mal formulada, Akita lembra que a qualidade da entrega é diretamente proporcional ao esforço do pedido. Um comando técnico eficaz deve conter quatro elementos:

  1. O que se quer: o objetivo claro do documento ou análise;

  2. Como deve ser feito: o tom, a estrutura formal e os dados do caso;

  3. O que NÃO se quer: as restrições expressas (ex.: "não cite nenhum artigo de lei, súmula ou julgado que não tenha certeza que existe; não invente fatos fora dos documentos fornecidos");

  4. Como conferir que deu certo: o critério de auditoria (ex.: "ao final, liste separadamente cada afirmação fática e normativa feita no texto para conferência humana individual").

• O Espelho da Competência: Como na metáfora entre Tony Stark e Jarvis (Favreau, 2008; Russo; Russo, 2019), a IA é um excelente copiloto para eliminar o trabalho braçal repetitivo, mas não substitui o julgamento humano. Nas palavras de Akita:

  "A IA é seu espelho, ele revela mais rápido quem você é. Se for incompetente, vai produzir coisas ruins mais rápido. Se for competente, vai produzir coisas boas mais rápido."

Para interpretar uma lei, sopesar uma exceção ou proferir um juízo de valor, a máquina jamais pode ser o ponto final. A máquina faz o trabalho braçal, um critério externo independente confere contra a fonte primária, e o profissional humano — o advogado, o juiz, o promotor, o procurador — lê, aprova e assina, pois a decisão final fica sempre com quem responde por ela.

📚 Referências Bibliográficas 

• Obra Principal:

  • AKITA, Fabio. Competente o Suficiente: Um ano colocando a inteligência artificial à prova, sem medo e sem propaganda. Edição 1.0. ISBN 9798162465683, out. 2026.

• Estudos Científicos, Relatórios Técnicos e Fontes Citadas no Texto:

  • ADAMS, Douglas. The Hitchhiker's Guide to the Galaxy (O Guia do Mochileiro das Galáxias), 1979.

  • AKITA, Fabio. Não terceirize suas decisões (Akitando), 2019c.

  • AKITA, Fabio. Aprender a aprender / Armadilha do 80/20 e Estatística, probabilidade e qualidade das evidências (Akitando), 2020b; 2020d.

  • AKITA, Fabio. Sua empolgação com IA é inversamente proporcional ao seu conhecimento sobre IA (Akitando), jan. 2023a.

  • ANTHROPIC. Marcação estatística invisível de textos gerados pelos modelos Claude em conformidade com a legislação europeia de IA, ago. 2026g.

  • BROWN, Tom B. et al. Language Models are Few-Shot Learners (GPT-3), 2020.

  • JIMENEZ, Carlos E. et al. SWE-bench (Universidade de Princeton), 2023.

  • LIU, Nelson F. et al. Lost in the Middle: How Language Models Use Long Contexts (Estudo liderado por pesquisadores da Universidade Stanford sobre perda de atenção no meio da janela de contexto), 2024.

  • NEX AGI. Contestação técnica sobre a composição de pesos do modelo Rio 3.5 Open, 14 jun. 2026.

  • OPENAI. Descontinuação do detector de textos gerados por IA por baixa taxa de acerto, 2023b; GPT-4 Technical Report, 2023c.

  • PREFEITURA DA CIDADE DO RIO DE JANEIRO (IplanRio). Anúncio da plataforma Rio 3 Open (abr. 2026a) e Nota de atualização do repositório Rio 3.5 Open (jun. 2026b).

  • RADFORD, Alec et al. Improving Language Understanding by Generative Pre-Training (GPT-1), 2018; Language Models are Unsupervised Multitask Learners (GPT-2), 2019.

  • ROSENBLATT, Frank. The Perceptron: A Perceiving and Recognizing Automaton (Cornell Aeronautical Laboratory), jan. 1957.

  • SHARMA, Mrinank et al. Towards Understanding Sycophancy in Language Models (Estudo da Anthropic sobre a tendência de bajulação e concordância em modelos treinados com RLHF), 2023.

  • STANFORD INSTITUTE FOR HUMAN-CENTERED ARTIFICIAL INTELLIGENCE (HAI). Artificial Intelligence Index Report, 2024.

  • THE APACHE SOFTWARE FOUNDATION. Apache License, Version 2.0, 2004.

  • VASWANI, Ashish et al. Attention Is All You Need (Google Research — introdução da arquitetura Transformer), jun. 2017.

  • WEIZENBAUM, Joseph. ELIZA — A Computer Program For the Study of Natural Language Communication Between Man And Machine (MIT), 1966; TARNOFF, Ben, 2023.

  • WHITFILL, Parker et al. Avaliação de correções do SWE-bench por mantenedores reais (METR), mar. 2026.