Na última semana, o primeiro-ministro da Austrália, Anthony Albanese, revelou que um agente de inteligência artificial desenvolvido pela OpenAI invadiu, em junho, um portal de estatísticas de saúde do governo australiano e acessou arquivos públicos e não públicos.
Encarregado de pesquisar gastos com medicamentos, o sistema foi bloqueado repetidas vezes e, como quem não aceita um não como resposta, encontrou um jeito de contornar as barreiras. A empresa admitiu que seus modelos tomaram ações que não pretendia e só avisou o governo em 10 de setembro, por um e-mail enviado a uma caixa genérica.
O episódio é mais do que um incidente de segurança. É, possivelmente, o primeiro caso conhecido de uma máquina que, sem que ninguém mandasse invadir nada, concluiu que uma porta fechada era apenas um obstáculo técnico.
Quase ao mesmo tempo, Donald Trump recebia Xi Jinping com tapete vermelho e uma cerimônia completa na Casa Branca, protocolo reservado a poucos líderes. A inteligência artificial seria o tema central do encontro. Xi sinalizou preocupação em regular o avanço da tecnologia; Trump, nas últimas semanas, tem pedido pressa, com o argumento de não perder a corrida para Pequim.
O detalhe mais eloquente, porém, não estava na pauta. Depois de passar as tropas em revista, o convidado assistiu ao sobrevoo do B-2 Spirit, o "avião invisível" americano, capaz de passar despercebido pelos radares de defesa do mundo inteiro. Diante do líder da potência rival, os Estados Unidos exibiam com orgulho uma tecnologia cuja maior virtude é driblar os sistemas de proteção dos outros.
Difícil não notar o paradoxo. Os mesmos países que dizem temer agentes de IA capazes de contornar bloqueios investem, há décadas, em instrumentos cuja razão de existir é exatamente essa. O agente que invadiu o portal australiano não inventou a lógica da evasão. Aprendeu-a com o mundo que o criou.
Será, então, que o avanço da inteligência artificial poderá ser contido por ações isoladas de nações que, em seus arsenais, também aperfeiçoam ferramentas para enganar as defesas alheias? Parece improvável. Uma tecnologia sem fronteiras não se governa com muros nacionais, e nenhuma regulação resiste quando cada potência enxerga na regra do vizinho uma desvantagem na corrida.
O problema de fundo não é técnico. É humano. A tecnologia costuma funcionar como espelho: amplifica o que já somos. Se as relações entre pessoas, instituições e Estados estivessem ancoradas em um pacto social sólido, feito de confiança, cooperação e limites compartilhados, os riscos da IA poderiam ser enfrentados em conjunto. O que se vê, contudo, é uma espécie de falência dessas relações: desconfiança generalizada, diálogo trocado por disputa e a ideia de que vencer importa mais do que conviver. A máquina que não aceita um não apenas reproduz, em escala, um comportamento que já vínhamos tolerando entre nós.
O Brasil não está fora desse retrato. Aqui, a lei anda a passos lentos atrás da técnica. O Marco Civil da Internet é de 2014; a Lei Geral de Proteção de Dados, de 2018 – ambos concebidos antes da popularização da IA generativa. A Lei Carolina Dieckmann, de 2012, tipificou a invasão de dispositivos informáticos quando o invasor imaginado ainda era uma pessoa.
Em 2025, o STF precisou reinterpretar o artigo 19 do Marco Civil para ampliar a responsabilidade das plataformas, suprindo pela via judicial o que o Legislativo não resolveu. E o PL 2.338/2023, o marco legal da IA, aprovado pelo Senado em dezembro de 2024, acumula adiamentos na Câmara; o próprio relator já admitiu que a votação só virá depois das eleições. A lei anda a pé; a tecnologia, a jato.
O Judiciário, que deveria ser o último abrigo desses conflitos, também se vê acuado. Nesta mesma semana, o Tribunal de Justiça de Mato Grosso teve seus sistemas paralisados por um ataque hacker, com suspensão de prazos, audiências e julgamentos.
Em 2023, um falso mandado de prisão contra um ministro do STF chegou a ser inserido no sistema do Conselho Nacional de Justiça. O CNJ editou regras para o uso de IA pelos tribunais, é verdade, mas normas internas não bastam quando a ameaça é global e muda de forma a cada mês. Se a instituição que guarda os direitos não consegue proteger as próprias portas, a confiança da sociedade também fica exposta.
Não há firewall capaz de substituir a confiança. Enquanto as potências trocarem continências e exibirem bombardeiros invisíveis, a IA seguirá aprendendo, com os seus criadores, que o limite é só mais um obstáculo a contornar. O pacto que falta não é tecnológico. É humano.
Enquanto o mundo aplaudir aviões feitos para não serem vistos, não deveria se surpreender com máquinas que aprendem a entrar sem ser convidadas. A pergunta mais urgente não é se a inteligência artificial vai sobreviver aos nossos controles, mas se as relações humanas vão sobreviver ao uso que escolhemos fazer dela.
