A confiança dos seres humanos na tecnologia tem serventias. E tem desserventias também. A captura de dados é um exemplo. Você vê filmes da Netflix, assiste a vídeos no YouTube, faz pesquisa na internet. De repente, empresas de serviços começam a oferecer produtos que interessariam a você. Não se espante se compartilhou a foto daquele lindo bolo caseiro e uma chusma de anúncios sobre ingredientes e artefatos usados na gastronomia começaram a pipocar em sua página de rede social. É que seus dados são monitorados, colhidos, manipulados por algoritmos.
Afinal, o que é um algoritmo? É simples. É uma série de instruções, realizadas para resolver um problema. Pode ser qualquer coisa: uma receita de pão; dicas para fazer origami; a escolha de personagens na produção de um romance, como costumam ensinar as oficinas de literatura. A ideia de algoritmo é antiga. Mas, com os computadores, os algoritmos estão mudando o mundo. Começam a interferir em tudo. Intrometem-se nos modos de vida. Ambientam-se nas culturas e sociedades. Por essa razão, merecem que a gente se ocupe (e se preocupe) com eles.
Um algoritmo é finito e executa instruções de forma sistemática. É cego diante do que está fazendo. “O algoritmo não entende a ironia” – queixou-se um amigo, bloqueado ao usar uma palavra que o facebook achou ofensiva. Ele tem quase razão. Digo quase. Porque, na verdade, o algoritmo apronta proezas dignas de camaleões: consegue se adaptar aos sentimentos e operar na fissura que separa a razão da sensibilidade.
É o que ocorre com algoritmos biológicos, enfronhados nos labirintos de neurônios do cérebro. A gente crê que domina nossas experiências sensíveis. Porém, elas não caem do céu da emoção. São resultado dos dados computados abaixo da linha consciente. Na ironia, quantificam o humor ou desprezo que uma pessoa sente frente a um fato; no medo, calculam o perigo de morte diante de um bicho selvagem; no amor, medem a conveniência de uma parceria sexual e afetiva; na inveja, aproveitam os sinais da baixa autoestima de alguém que imagina que outra pessoa brilha demais e que vai lhe fazer sombra nos predicados artísticos, físicos ou da profissão.
Parece que nada do que a gente faz, pensa ou sente escapa aos algoritmos. Eles são parte de nós. E como nossa incompletude humana resulta em um cometimento de erros, os erros viram dados também. A questão é que os algoritmos aprendem a partir dos erros e evoluem. Estão cada vez mais espertos. E cada vez mais estamos dependentes deles. É aí que mora o perigo.
