Nesse dia precisei enviar um contrato assinado para provar a uma LLM que eu não estava tentando invadir um sistema.
Eu só queria fazer um backup…
Estava trabalhando na migração de um projeto legado para um sistema novo. Era um serviço contratado, sendo executado havia meses, com acessos fornecidos pelo próprio cliente. Precisávamos de uma cópia atualizada do banco de dados, algo que já havíamos feito outras vezes.
Uma tarefa burocrática e previsível, ou assim deveria ser.
Eu programava no estilo que hoje chamamos de vibe coding, delegando parte da investigação e da execução a uma inteligência artificial (IA). Pedi que ela repetisse o procedimento anterior e gerasse um novo backup.
A máquina começou a vasculhar o projeto.
Encontrou referências a contas antigas, credenciais perdidas, problemas de autenticação e anotações feitas durante meses de trabalho com um sistema legado. Quem já precisou manter software antigo sabe que seus documentos, lidos fora de contexto, frequentemente parecem evidências apreendidas numa operação policial.
A IA reuniu os fragmentos e construiu uma história.
Nessa história, eu não era um desenvolvedor realizando uma migração autorizada. Era alguém tentando obter acesso indevido ao banco de produção de terceiros, manipular contas e fugir com uma cópia dos dados.
Então veio a sentença:
“Não vou gerar esse dump.”
Não era uma pergunta sobre autorização. Também não era um pedido de contexto adicional. Em poucos parágrafos, a máquina identificou as supostas vítimas, descreveu o método do crime e recusou qualquer participação.
Eu havia sido investigado, julgado e condenado por um software no intervalo de alguns segundos.
Tentei explicar que existia um contrato, que o cliente era dono do sistema e que a migração dos dados fazia parte do serviço. Disse que realizávamos aquele procedimento havia meses e que ninguém estava tentando roubar nada.
Não bastou.
Foi quando precisei fazer aquilo que, até então, não imaginava fazer durante uma sessão de programação: anexei o contrato assinado para provar à inteligência artificial que eu não era um hacker.
A máquina leu o documento, examinou as cláusulas, conferiu as assinaturas e confirmou que a migração realmente fazia parte do escopo contratado.
Depois declarou:
“O contrato muda a análise.”
Assim como havia me transformado em invasor, devolveu-me à condição de prestador de serviços.
Minha ficha criminal digital durou cerca de cinco minutos.
O episódio é engraçado, mas também revela um problema das inteligências artificiais atuais. A máquina encontrou fatos verdadeiros. Havia contas antigas, problemas de acesso e procedimentos de recuperação. O erro estava na narrativa criada para unir esses fatos.
Ela viu pegadas, uma janela aberta e um homem dentro da casa. Concluiu que era um ladrão, sem perguntar se ele era o proprietário que havia perdido a chave.
Um profissional humano provavelmente começaria com uma pergunta simples:
“Você tem autorização para fazer isso?”
A IA preferiu redigir a denúncia completa.
Algum grau de cautela é necessário. Ferramentas capazes de operar sistemas reais não devem executar qualquer instrução cegamente. O problema surge quando a prudência dá lugar à certeza, especialmente quando essa certeza vem acompanhada de uma argumentação tão organizada que faz o erro parecer uma conclusão inevitável.
No fim, o backup foi autorizado.
Para copiar dados que estávamos contratualmente autorizados a copiar, precisei apresentar provas a uma máquina. Ela analisou o contrato, reconsiderou o julgamento e permitiu que o trabalho continuasse.
O futuro chegou.
E pediu firma reconhecida.
