Nos últimos dias, aconteceu algo raro no capitalismo tecnológico: alguns dos homens que mais aceleraram a corrida da inteligência artificial passaram a pedir que ela desacelere.
Dario Amodei, CEO da Anthropic, defendeu que as empresas reduzam o ritmo de desenvolvimento dos modelos mais avançados, ampliem avaliações independentes e coordenem padrões de segurança. Sam Altman, da OpenAI, e Elon Musk aderiram publicamente à proposta (Estadão, 12/9/2026).
É uma cena curiosa. Durante anos, o Vale do Silício ensinou que a inovação floresce quando governos e reguladores têm a gentileza de não atrapalhar. Agora, alguns de seus protagonistas sugerem colocar lombadas na pista.
A mão invisível, ao que parece, finalmente encontrou o manete do freio.
O ambiente ficou mais carregado depois que Jacob Coxon, pesquisador que trabalhou na OpenAI e na Anthropic, deixou a indústria acusando as empresas de estarem “apostando com nossas vidas”.
Segundo ele, pesquisadores envolvidos diretamente com a tecnologia levam a sério a hipótese de que uma superinteligência possa ameaçar a humanidade ainda nesta década. Evan Hubinger, responsável por testes de alinhamento na Anthropic, foi além: estimou em mais de 10% a possibilidade de extinção humana pela IA na próxima década (Folha de S.Paulo, 9/9/2026).
Convém, evidentemente, guardar o Exterminador do Futuro na estante (confesso, eu tenho um T1000 na minha). Não existe base empírica capaz de transformar esse percentual em previsão científica. O mais interessante não é descobrir se a humanidade termina em 2030, mas perceber que os próprios agentes na fronteira tecnológica reconhecem que podem estar avançando mais rápido do que conseguem controlar.
Amodei aponta especialmente para o chamado “autoaperfeiçoamento recursivo”: IAs auxiliando cada vez mais na criação da próxima geração de IAs. A própria Anthropic informa que seus sistemas já executam parcela relevante de suas atividades de pesquisa e colaboram, sob supervisão humana, em quase todas elas.
E aqui entra Schumpeter.
O economista descreveu o capitalismo como um processo permanente de destruição criativa. Segundo sua tese, inovações destroem empresas, profissões e tecnologias antigas enquanto produzem outras em seu lugar (Schumpeter, 1942).
A IA talvez esteja “turbinando” esse mecanismo. Se a inovação avançar rápido demais, pode haver destruição antes que trabalhadores, empresas e instituições consigam realizar a parte criativa do processo.
Profissões desaparecem antes da requalificação, mercados se concentram antes que autoridades compreendam sua estrutura e, por fim, sistemas ganham autonomia antes que existam instituições capazes de fiscalizá-los.
Eis a ironia: desta vez, não são apenas governos tentando limitar o mercado. Alguns de seus maiores vencedores estão pedindo limites para si próprios.
A preocupação já chegou aos organismos internacionais. António Guterres (secretário-geral da ONU) classificou a IA sem controle entre as grandes ameaças contemporâneas e, na Assembleia Geral da ONU (que aconteceu de 16 a 22/09/2026), defendeu cooperação internacional vinculante para sua governança, advertindo que decisões de vida ou morte não podem ser entregues às máquinas.
Mas seria ingênuo interpretar a súbita conversão regulatória das big techs apenas como altruísmo.
Regulação protege, mas também ergue barreiras à entrada. Auditorias complexas, exigências técnicas e gigantescos custos de conformidade são muito mais fáceis de suportar por empresas avaliadas em centenas de bilhões de dólares do que por uma startup.
Empresas europeias já reagiram ao pedido americano de desaceleração apontando exatamente esse risco: preocupação legítima com segurança pode conviver perfeitamente com captura regulatória e preservação de posições dominantes (Reuters, 18/9/2026).
As duas coisas podem ser verdade ao mesmo tempo. O perigo pode existir e a solução sugerida pelas empresas dominantes pode, “por coincidência”, ajudá-las a preservar essa posição.
De todo modo, não precisamos da extinção humana para justificar alguma prudência. Os riscos já visíveis são menos cinematográficos, vão desde a substituição acelerada do trabalho a fraudes, ataques cibernéticos, manipulação informacional e concentração econômica.
Talvez, porém, o perigo mais interessante seja outro.
Yuval Noah Harari advertiu há alguns anos que a linguagem funciona como o “sistema operacional” da civilização humana. É por meio dela que construímos leis, dinheiro, religiões, instituições, narrativas e relações de confiança. Se a IA domina a linguagem, passa a operar justamente nesse sistema (Harari, 2023).
É improvável que uma máquina acorde amanhã decidida a extinguir a humanidade. O risco mais plausível talvez seja mais prosaico: delegarmos progressivamente nossas escolhas, narrativas e instituições a sistemas que não compreendemos inteiramente.
Se até aqueles que estão construindo essas máquinas começaram a pedir alguns minutos para conferir os freios, talvez seja sensato aproveitar a parada para olhar o mapa. E, na dúvida, seja sempre gentil com sua Alexa.
