IA do Google alucina e inventa parte do cérebro

SÃO PAULO - Um sistema de análise de resultado de exame de imagem com inteligência artificial, do Google, alucinou e inventou uma parte do corpo que não existe.

Sistema de médico de IA do Google recebeu comando para analisar tomografia computadorizada e inventou parte do cérebro que não existe. A análise mencionava "basilar ganglia" (em inglês) quando o correto é "basal ganglia" (gânglios da base). Essa área do cérebro é responsável pelo nosso controle motor, aprendizado e processamento emocional.

Análise foi criada pelo Med-Gemini, o modelo de IA do Google para serviços de saúde, e erro foi visto por especialista. Segundo o site The Verge, um neurologista especializado em IA chamado Bryan Moorer detectou o erro e, posteriormente, o Google o consertou, sem avisar publicamente.

Google alega que foi apenas um erro de digitação. Em blog post (em inglês), a empresa argumenta que "basilar ganglia" é um erro comum e que o Med-Gemini aprendeu baseado em dados de treino (portanto, presente em diagnósticos reais). Mesmo assim, finaliza a empresa em nota, o "relatório permanece inalterado".

Blog post tenta mostrar as capacidades da IA comparada com diagnóstico feito por médicos. Ideia do estudo descrito é mostrar como a IA foi capaz de observar detalhes que um profissional humano não conseguiu.

O Med-Gemini é um sistema de IA que analisa exames de imagens e prontuários eletrônicos. Ele, por enquanto, é usado para testes controlados.

Uso de sistemas de IA preocupa classe médica. Em entrevista ao site The Verge, Maulin Shah, diretor médico da área de dados da rede de saúde Providence, classifica o uso de tais ferramentas para diagnóstico como "extremamente perigosa".