A utilização de robôs por Google e Facebook não é algo novo. Os chamados algoritmos são aperfeiçoados constantemente para que as pessoas sejam impactadas por conteúdos relevantes para elas. De forma geral, os robôs têm sido elogiados por sua precisão e capacidade de entender por que determinado link ou conteúdo é mais relevante do que outro similar. Esta semana, no entanto, podemos dizer que alguns robôs do Facebook escorregaram em uma casca de banana. A automatização do recurso Trending, até então administrado por funcionários do Facebook, acabou se revelando um erro e fez com que notícias falsas e bizarras ganhassem destaque na rede social. A dúvida que fica é se a falha foi algo pontual ou se determinadas funções no ambiente digital devem ficar 100% a cargo de seres humanos.

De acordo com o Facebook, o objetivo da troca era aumentar a escala do Trending, ainda restrita a alguns países. Esta funcionalidade faz sugestões com base em curtidas de cada pessoa, popularidade e localização. A intenção era boa, mas o resultado não foi exatamente o esperado. O aumento da escala se torna um problema à medida que a curadoria de conteúdo perde qualidade.

É evidente que para o Trending chegar aos quatro cantos do globo, a automatização parece o caminho mais curto. Porém, este caso mostrou que mudanças como essa devem ser vistas com muito cuidado para não gerar transtornos. O algoritmo deve funcionar melhor com o tempo, mas podemos dizer que faltou prudência a Mark Zuckerberg e sua equipe – talvez por falta de testes prévios. Soma-se a isso o fator social (sem trocadilho com o Facebook): a automatização do Trending provocou a demissão de alguns funcionários que cuidavam desta função.

O tropeço do Facebook acende um alerta para outras redes sociais e também para o Google. A principal dúvida que fica é se existem funções específicas (por exemplo, a curadoria de conteúdo) que devem continuar sendo feitas apenas por seres humanos? Ou basta reprogramar os robôs e ajustar o algoritmo para que a ferramenta passe a funcionar direito?

O exemplo é relevante, mas o principal é observar a evolução de um dos grandes paradigmas do século XXI, amplamente difundido em filmes como Blade Runner, Matrix e O Exterminador do Futuro: a convivência entre homens e máquinas.