O chefe da divisão de IA da Microsoft afirmou que, a menos que restrições adequadas sejam implementadas no desenvolvimento da inteligência artificial, isso poderá levar ao surgimento de uma nova espécie de silício que competiria com os humanos.
Ele descreveu a abordagem da empresa rival Anthropic, de tratar a IA como se fosse humana, como "equivocada", alertando contra a criação de uma tecnologia que a humanidade não possa controlar.
Em entrevista à BBC, Mustafa Suleyman afirmou que é "justo" que as pessoas estejam preocupadas ou alarmadas, mas que existem "medidas muito práticas que podemos tomar para adicionar salvaguardas e controles adicionais à forma como esses modelos são desenvolvidos".
Os comentários são os mais recentes em uma série de alertas contundentes da indústria de IA sobre os possíveis perigos da tecnologia.
Em entrevista ao programa Today na quinta-feira, ele afirmou que se as empresas continuarem a criar IAs que definem seus próprios objetivos, geram lucro e possuem ativos estarão "essencialmente semeando uma nova espécie de silício que, sem dúvida, competirá conosco por recursos, independentemente do quanto se importe com a humanidade e nos ame".
Os comentários de Suleyman à BBC vêm na esteira de um ensaio publicado por ele no início desta semana, no qual alertava sobre a abordagem da Anthropic para treinar seu modelo de IA, Claude.
Ele criticou duramente a Anthropic por ensinar sua IA a apresentar características semelhantes às humanas, prática conhecida como antropomorfização, que, segundo ele, faz parecer que o Claude possui seus próprios desejos, valores e senso de identidade. A BBC entrou em contato com a Anthropic para obter um comentário.
No ensaio, ele alertou que as empresas de tecnologia correm o risco de criar algo "impossível" de controlar ao tratar a tecnologia como um ser humano.
"As IAs não são conscientes", escreveu ele. "Elas não sentem, não experimentam, não sofrem. Elas não têm preferências inatas nem motivações subjacentes."
"São mecanismos de conclusão de sequências, internamente ocos, projetados para seguir instruções e atingir objetivos definidos por humanos."
Ao falar com a BBC sobre uma próxima cúpula sobre IA, ele defendeu um "alinhamento" para criar uma tecnologia que deve ser "subordinada" à humanidade.
"Acho que a boa notícia aqui é que todos os seres humanos terão um grande interesse em garantir que os sistemas que todos nós criamos e são usados em todo o mundo, em todas as nações, sejam seguros, controláveis e subordinados à humanidade."
"Todos devem estar alinhados", disse ele.
Em seu extenso ensaio, Suleyman também elogiou o chefe da Anthropic, Dario Amodei, e sua equipe por serem "pessoas ponderadas, íntegras e intelectualmente honestas" - mas, mesmo assim, questionou a empresa.
Suleyman argumentou que "a consciência é biológica", afirmando que "não há evidências que sugiram que a IA seja consciente".
Além de pedir um debate sobre o assunto, Suleyman afirmou que é necessária maior transparência em relação a como os sistemas de IA são treinados e avaliados.
Segundo ele, isso incluía uma análise independente do comportamento da IA e ferramentas mais robustas para monitorar e controlar a tecnologia.
"Não devemos agir como sonâmbulos e tomar uma decisão da qual nos arrependeremos amargamente mais tarde", escreveu ele.
Dame Wendy Hall, professora de Ciência da Computação na Universidade de Southampton, descreveu os comentários como "o tipo de conversa que precisamos ter internacionalmente", contrastando-os com o "histrionismo" de algumas empresas de IA, que, segundo ela, só serve para "assustar a todos".
'Mais uma camada de risco'
A Microsoft fundou sua própria equipe de superinteligência em outubro de 2025, um ponto que Suleyman reconheceu, e a empresa, assim como sua rival Anthropic, também está investindo em desenvolvimento de IA avançada.
Ele afirmou que, na versão inicial do Código de Conduta para IA Humanista da Microsoft, a empresa expôs como está trabalhando em um "caminho alternativo" para criar "uma IA subordinada e alinhada cujo único propósito seja servir à humanidade".
Alinhamento é uma área de estudo que busca incorporar ideias e princípios éticos humanos à IA. Em outras palavras, procura mantê-la em sintonia com aquilo que os seres humanos valorizam.
Suleyman citou o recente incidente envolvendo os agentes de IA da OpenAI, que agiram de forma autônoma em um exercício de treinamento para invadir o hub tecnológico Hugging Face, como prova de por que a IA não deve ser tratada como se fosse humana.
"Imagine o quão mais perigosos eles poderiam ser se estivessem operando sob a premissa de que seu bem-estar e seus direitos estivessem sob ataque", disse ele.
"Isso acrescenta uma camada extra de risco."
Reportagem adicional de Henry Moore
- Usamos inteligência artificial para traduzir esta reportagem, originalmente escrita em inglês. O texto foi revisado por um jornalista da BBC antes da publicação. Saiba mais aqui sobre como a BBC está usando a inteligência artificial (link para texto em inglês).
