Imagens de apreensões divulgadas pelas polícias Civil e Militar do Espírito Santo foram modificadas por ferramentas de inteligência artificial (IA). A investigação realizada com exclusividade pelo g1 ES revela falhas como cédulas de Real deformadas, munições flutuantes e pinos de cocaína distorcidos.
O levantamento, realizado ao longo do mês de agosto, analisou os materiais distribuídos pelas assessorias das corporações a veículos de imprensa e revelou que ao menos oito supostos registros de apreensões de drogas e armas não são fotografias documentais autênticas.
Os exames técnicos, feitos por especialistas e ferramentas de detecção de IA, revelam também itens duplicados e armas mecanicamente incoerentes.
Segundo o advogado criminalista Raphael Boldt, a manipulação das imagens pode colocar sob suspeita outras divulgações e até elementos de prova produzidos pelas corporações. “Mesmo sem integrar o inquérito, essa prática pode produzir desinformação institucional, violar direitos de pessoas identificáveis, justificar direito de resposta e indenização e, em situações mais graves, gerar responsabilização administrativa ou penal”, destacou.
As oito imagens, enviadas pelas corporações entre os dias 4 e 28 de agosto no WhatsApp, foram analisadas com o auxílio de especialistas em inteligência artificial e de ferramentas de detecção de conteúdo gerado ou modificado por IA.
As fotografias foram submetidas a três detectores: "Hive Moderation", "Is It AI?" e "AI or Not". Os percentuais apresentados nesta reportagem correspondem aos índices atribuídos por cada ferramenta à possibilidade de uso de inteligência artificial nas imagens.
Os resultados variaram entre as plataformas. Em alguns casos, uma ferramenta apresentou um índice baixo, enquanto as demais apontaram percentuais elevados. Por isso, os resultados dos detectores não foram considerados isoladamente, mas confrontados com as distorções encontradas nas imagens e com a análise técnica do material.
Segundo o especialista em Inteligência Artificial, Breno Lobato, todas as imagens analisadas possuem indícios de manipulação por IA. "Dá para ver pelas notas que não tem consistência, informações que não batem, números e informações incoerentes e inconsistentes. Onde não há imagem de nota, fica bem evidente pela textura dos panos das bandeiras do qual as tramas, sombra e impressão estão 'fakes'", destacou.
A Secretaria de Estado da Segurança Pública e Defesa Social (Sesp) confirmou que identificou o "uso de recursos de inteligência artificial na edição de algumas imagens de materiais apreendidos encaminhadas à imprensa". Por nota, afirmou que as imagens citadas na reportagem foram enviadas exclusivamente para fins de divulgação e não integram os registros oficiais das ocorrências ou investigações (veja a nota na íntegra no final do texto).
A imagem foi divulgada pela Polícia Militar no dia 28 de agosto após uma operação no bairro Jaburuna, em Vila Velha. Segundo a corporação, foram apreendidas seis armas de fogo, duas granadas, drogas, dinheiro e rádios comunicadores.
Entre as distorções visíveis estão alterações nas cédulas de Real. Em uma das notas, aparece uma figura semelhante à silhueta de um homem, elemento que não faz parte do desenho original da cédula. Números, inscrições e outros detalhes gráficos do dinheiro também aparecem deformados e pouco definidos.
Há ainda irregularidades em detalhes de armas, carregadores e munições. Alguns componentes apresentam contornos pouco definidos ou formatos diferentes entre objetos aparentemente semelhantes.
DETECTORES DE IA: Hive 29.6% | Is It AI? 98% | AI or Not 77%
A imagem foi divulgada pela Polícia Militar como registro de uma apreensão realizada no dia 15 de agosto, no bairro Bonfim, em Vitória. Segundo a corporação, foram apreendidas 47 unidades de skunk, três unidades de PAC, uma pistola calibre 9 mm, um carregador alongado e materiais utilizados para embalar entorpecentes.
Na foto, as distorções aparecem principalmente nas munições e nas pequenas embalagens distribuídas sobre a mesa. Alguns projéteis apresentam formatos irregulares e parecem se fundir uns aos outros. O conteúdo de parte dos sacos plásticos também tem contornos pouco definidos, com elementos que parecem se misturar.
A iluminação e as sombras também apresentam inconsistências. Apesar dos reflexos intensos sobre objetos metálicos e embalagens plásticas, alguns itens projetam sombras pouco definidas ou não apresentam uma sombra de contato compatível com a iluminação da cena. Objetos próximos também apresentam diferenças na intensidade e na direção dos reflexos.
O registro também mostra munições, embora elas não tenham sido mencionadas na relação de materiais apreendidos divulgada pela corporação.
DETECTORES DE IA: Hive 99.9% | Is It AI? 99% | AI or Not 99%
A imagem foi divulgada pela Polícia Civil no dia 19 de agosto como registro de uma operação em Ecoporanga que apreendeu mais de 15 kg de drogas, um revólver calibre .38, munições, dinheiro e materiais utilizados para preparar e embalar entorpecentes.
Entre as distorções, o revólver apresenta componentes com formas e encaixes incoerentes, especialmente na região do gatilho, guarda-mato e junção do cano com a armação. As correntes à direita também apresentam irregularidades: elos mudam de formato ao longo de uma mesma peça e, em alguns pontos, parecem se fundir entre si.
O dinheiro tem grafia estranha, não condizente com o valor da cédula. A cor também parece diferente, assim como o desenho do animal da nota. Já na embalagem identificada como "Filme de PVC", apenas a chamada principal é legível. As demais inscrições apresentam letras deformadas, caracteres espelhados e sequências que não formam palavras.
DETECTORES DE IA: Hive 3.5% | Is It AI? 99% | AI or Not 78%
A imagem foi divulgada pela Polícia Militar no dia 25 de agosto como registro de apreensões realizadas em quatro bairros de Vitória. Segundo a corporação, foram apreendidas drogas, dinheiro e peças e componentes relacionados a armas de fogo.
Na fotografia, as cédulas apresentam números, inscrições e elementos gráficos deformados. Em notas que deveriam ter a mesma impressão, as efígies e outros detalhes aparecem diferentes entre si. Também há irregularidades nos objetos escuros organizados em fileiras: alguns apresentam formatos diferentes, parecem incompletos ou se fundem aos itens vizinhos.
DETECTORES DE IA: Hive 31.4% | Is It AI? 99% | AI or Not 95%
A imagem foi divulgada pela Polícia Militar no dia 4 de agosto como registro de uma ação no Morro da Floresta, em Vitória. Segundo o comunicado oficial da corporação, foram apreendidas 66 porções de haxixe, 60 pinos de crack, 56 pinos de cocaína, 22 buchas de maconha, nove unidades de ice, seis porções de skunk, três frascos de lança-perfume e R$ 60 em espécie.
A imagem, no entanto, apresenta distorções nas cédulas de Real. As notas, que deveriam ser de R$ 5, têm algarismos deformados e elementos que não correspondem ao padrão visual das cédulas verdadeiras, até com trechos em banco no dinheiro.
DETECTORES DE IA: Hive 92,7% | Is It AI? 99% | AI or Not 98%
A imagem foi divulgada pela corporação em 12 de agosto. Segundo a Polícia Militar, foram apreendidos um carregador com 12 munições calibre 9mm intactas, uma pistola calibre 9mm contendo 11 munições calibre 9mm, uma bolsa com R$ 2.438,75 em espécie, quatro aparelhos celulares e 27 munições calibre 38. A ação ocorreu na região de Nova Rosa da Penha, em Cariacica, na Grande Vitória.
Mais uma vez, há distorções nas notas de Real, que apresentam números deformados e inconsistências na Efígie da República, imagem feminina estampada nas cédulas. Além disso, há deformidades nas munições, que se fundem entre si.
DETECTORES DE IA: Hive 99% | Is It AI? 99% | AI or Not 99%
A imagem foi divulgada pela Polícia Militar em 21 de agosto como um registro de uma operação no bairro Forte São João, em Vitória. Segundo a corporação, foram apreendidos cocaína, crack, maconha, PAC e skunk, dinheiro e rádios comunicadores.
Na imagem, no entanto, os pinos se fundem entre si, além de não projetar sombra individual, apesar da iluminação frontal evidente na cena. Há, ainda, cédulas com números, efígies e animais distorcidos, além de sacos plásticos com deformações.
DETECTORES DE IA: Hive 97.2% | Is It AI? 99% | AI or Not 99%
A imagem foi divulgada pela Polícia Militar no dia 17 de agosto como registro da apreensão de um adolescente de 16 anos no bairro Romão, em Vitória. Segundo a corporação, foram encontrados um radiocomunicador, R$ 136 em dinheiro e porções de maconha, crack, cocaína, haxixe e skunk.
Na fotografia, algumas cédulas apresentam elementos gráficos e números pouco definidos, com diferenças de aparência entre notas do mesmo valor. Também há irregularidades nos pequenos objetos dispostos sobre a mesa: itens aparentemente semelhantes apresentam formatos e proporções diferentes entre si, principalmente entre os recipientes azuis e verdes.
DETECTORES DE IA: Hive 99.2% | Is It AI? 99% | AI or Not 100%
Em uma verificação na ferramenta OpenAI Verify, da empresa criadora do Chat GPT para detectar arquivos gerados por inteligência artificial, foi identificada a presença de SynthID em todas as imagens.
A SynthID foi desenvolvida pelo Google DeepMind e funciona como uma marca d'água invisível aplicada em conteúdos criados por inteligência artificial (como imagens, áudio, vídeo e texto) para identificar a sua origem. Em maio deste ano, a empresa anunciou que empresas como a OpenAI, a Kakao e a ElevenLabs também passaram a usar a tecnologia, que até então só conseguia identificar imagens e vídeos criados pelas ferramentas de IA do próprio Google.
As distorções encontradas nas imagens são compatíveis com a forma como ferramentas de inteligência artificial generativa processam fotografias, segundo o especialista em IA Breno Lobato. Diferentemente de uma edição convencional, esses modelos podem reconstruir partes da imagem ao realizar uma alteração.
“Modelos generativos trabalham reconhecendo padrões visuais e reconstruindo pixels com base no que estatisticamente faz sentido naquele contexto. Para a IA, um número numa placa, uma letra numa camiseta ou um detalhe específico de um objeto não é necessariamente uma informação rígida que precisa ser preservada. É, antes de tudo, um padrão visual composto por pixels”, explicou.
Segundo Lobato, mesmo quando a alteração solicitada está restrita a uma parte da fotografia, a ferramenta pode regenerar áreas próximas. Isso ajuda a explicar distorções como as encontradas em números de cédulas, inscrições e pequenos objetos. “É por isso que um ‘8’ pode virar um ‘3’, uma palavra pode aparecer deformada ou pequenos detalhes podem mudar sem você ter pedido. A diferença fundamental é essa: um editor tradicional manipula pixels existentes; uma IA generativa interpreta padrões e cria novos pixels", disse.
Para o especialista, esse processo é especialmente problemático quando a imagem tem função documental, como no registro de uma apreensão policial. Isso porque a ferramenta pode acrescentar informações que não estavam presentes originalmente. “O principal risco é simples: a IA não sabe necessariamente o que estava ali. Ela calcula o que provavelmente deveria estar. Então um número pode mudar, uma letra pode ser reconstruída errada ou um detalhe pode surgir de forma plausível, mas falsa", afirmou.
Lobato afirma que, nesses casos, o arquivo original deve ser preservado e eventuais tratamentos precisam ser registrados. Segundo ele, ferramentas generativas devem ser evitadas quando números, letras, objetos ou outros detalhes da fotografia possam ter valor documental ou probatório.
A reportagem questionou se a Secretaria de Estado da Segurança Pública e Defesa Social (Sesp), a Polícia Militar e a Polícia Civil utilizam ou já utilizaram ferramentas de IA para editar, tratar, aprimorar ou alterar fotografias de materiais apreendidos antes do envio à imprensa.
Além disso, perguntou se existe algum protocolo, norma ou orientação interna que estabeleça quais alterações podem ser feitas antes da alteração e se as imagens divulgadas com distorções também integram inquéritos, boletins de ocorrência, procedimentos investigativos ou outros documentos oficiais.
Também foi questionado se as corporações mantêm arquivadas as fotografias originais e se os órgãos pretendem realizar algum tipo de apuração interna para verificar como esses arquivos foram produzidos e divulgados.
Por nota, a Sesp confirmou o uso das ferramentas nas imagens citadas e disse reconhecer que o encaminhamento foi "inadequado". Declarou, ainda, que orientou as áreas responsáveis e que atua na identificação de possíveis novos casos.
A Sesp | Na íntega
A Secretaria de Estado da Segurança Pública e Defesa Social (Sesp) informa que identificou o uso de recursos de inteligência artificial na edição de algumas imagens de materiais apreendidos encaminhadas à imprensa. As imagens citadas, especificamente, foram enviadas exclusivamente para fins de divulgação e não integram os registros oficiais das ocorrências ou investigações.
A Sesp reconhece que o encaminhamento foi inadequado e informa que já orientou as áreas responsáveis para que recursos de inteligência artificial generativa não sejam utilizados em fotografias destinadas à divulgação de materiais apreendidos, de forma a garantir a fidelidade dos registros apresentados à sociedade. Cabe destacar que a tecnologia de Inteligência Artificial é algo recente, com muitas potencialidades, mas seu uso deve obedecer o que preconiza a lei e as boas práticas, limitando-se à preservação da intimidade, da vida privada e de dados sigilosos.
A Secretaria também está identificando se há outros casos e permanece à disposição para esclarecer as situações específicas apontadas. Cabe destacar que as imagens originais das apreensões estão preservadas e à disposição para envio, sendo que não houve alteração do conteúdo das apreensões, mas tão somente modificações estéticas das imagens"
Veja Também
