Redes sociais, as prisões que viciam. Ensaio de Francisco Louçã

A 15 de março de 2019, um australiano de 28 anos, Brent Tarrant, atacou a mesquita Al Noor, em Christchurch, Nova Zelândia, com armas automáticas. Doze minutos depois metralhou um centro islâmico ao lado da mesquita. Matou 51 pessoas e feriu 40. Durante a longa operação transmitiu os seus feitos em direto pelo Facebook. O vídeo foi bloqueado quase de seguida, mas isso não impediu que fosse carregado e partilhado de novo 1,5 milhões de vezes, tendo a rede impedido imediatamente 1,2 milhões dessas partilhas. No caso de 300 mil publicações, não o conseguiu fazer.

O que tentou parar a torrente de voyeurismo sobre o ato ignóbil foi um mecanismo de inteligência artificial que, registado o vídeo do crime, foi instruído para detetar todas as versões que se lhe assemelhassem, comparando píxeis das imagens e gerando identificadores que determinassem a remoção automática desses conteúdos. Este é também o processo usado em 98% dos casos de vídeos banidos por violência no YouTube e em 93% no Twitter. Um sucesso que, no caso da Nova Zelândia, não impediu que o assassino conseguisse o seu objetivo de espalhar a imagem do massacre.

Esse êxito fracassado, no entanto, tem um custo. Um grupo de investigadores das Universidades de Oxford e de Berlim publicou no ano passado um estudo demonstrando que a alegada eficácia no bloqueio de conteúdos perigosos por algoritmos de moderação esconde a opacidade acerca dos crité­rios usados e discutiu se isto pode ser perigoso para a liberdade de opinião, se não soubermos como é governado. Que mundo é então este em que uma em cada três pessoas do planeta está no Facebook e mais de metade em alguma rede social, em que estamos rodeados por 25 mil milhões de dispositivos inteligentes, em que toda a gente está conectada e inundada pela indiferença entre o bem e o mal, em que um assassino se instala numa rede para promover um crime atroz e em que a resposta, deficiente, está entregue a um misterioso programa informático? Habituemo-nos, é o universo em que vivemos.

ESTÃO POR TODO O LADO E HABITUÁMO-NOS

Quando George Orwell, em 1949, escreveu “1984”, tão distante no tempo, imaginava uma sociedade assustadora em que “qualquer som que Winston emitisse, acima do nível de um sussurro, seria captado e, mais, enquanto estivesse no alcance de visão da placa de metal, podia ser visto como ser ouvido. Não havia, naturalmente, nenhuma forma de saber se estava a ser observado em algum momento”. O poder anónimo, na sua torre de marfim, espiava tudo, ouvia tudo, via tudo, sabia tudo sobre Winston ou qualquer outra pessoa. Era ficção mas, como sabemos hoje, não era uma fantasia.

Em 2015, as normas de privacidade de um inocente aparelho de TV da Samsung avisavam o utilizador: “Tenha por favor em conta que, se as suas palavras incluem informação pessoal ou outra sensível, essa informação estará entre os dados capturados e transmitidos para uma terceira entidade através do seu uso do reconhecimento de voz.” Neste caso, podem dizer-nos que fomos avisados. Mas alguém lê as páginas densas e vagamente incompreensíveis das políticas de privacidade? Há uma dúzia de anos, Lorrie Cranor, professora de Ciência de Computação e Engenharia da Universidade Carnegie Mellon, e Aleecia McDonald, então estudante de doutoramento, responderam a essa questão dedicando-se à tarefa de calcular o tempo que demoraria a leitura das regras de privacidade dos sítios que utilizamos banalmente ao longo de um ano. Pesquisaram os 75 sítios mais populares, verificaram que no trabalho e em casa usamos em média ainda mais do que esses e concluíram que precisaríamos de 244 horas para ler as suas normas. Ninguém o faz, e, assim, estes dispositivos funcionam com uma aceitação tácita que é protegida pela floresta das regras ilegíveis. Aquele aparelho de TV espreitar-nos-á sem remorso, como o fazem outros dispositivos.

Se fosse este o único problema...

Este é um artigo do semanário Expresso. Clique AQUI para continuar a ler.