Facebook e Instagram falham teste e aprovam anúncios que incentivam ao ódio durante eleições na Índia
Narendra Modi e Mark Zuckerberg
Susana Bates/AFP via Getty Images
Anúncios ofensivos foram submetidos pelas organizações India Civil Watch International (ICWI) e Ekō, que apenas queriam testar as linhas vermelhas das plataformas de redes sociais e por isso os apagaram logo após a aprovação. O governo liderado por Narendra Modi há anos que restringe as liberdades religiosas da minoria muçulmana na Índia
As redes sociais detidas pela Meta aprovaram a partilha de vários anúncios políticos ao longo das eleições na Índia, que usaram inteligência artificial para espalhar desinformação e incentivar o ódio contra minorias étnicas e religiosas, segundo avançou esta terça-feira um relatório citado pelo jornal britânico “The Guardian”.
Tanto o Facebook como o Instagram aprovaram vários vídeos ofensivos, em particular contra a comunidade muçulmana na Índia – apesar de representar ‘apenas’ 10,9% da população da Índia, é composta por mais de 200 milhões de pessoas –, com expressões como “queimar vermes” e “os invasores têm de ser mortos”, acusações falsas sobre líderes políticos e proclamações de supremacia étnica Hindu.
Os anúncios foram uma espécie de teste para descobrir se a Meta era capaz de limitar discursos islamofóbicos, mas os seus mecanismos falharam em censurar estas publicações. Um dos anúncios pedia até a execução de um líder da oposição ao primeiro-ministro Narendra Modi, alegando falsamente que este queria “apagar os Hindus da Índia” e colocando-o ao lado de uma bandeira do Paquistão, o inimigo histórico da Índia desde a Partição de 1947.
O relatório partilhado pelo “Guardian” revela que os anúncios ofensivos foram submetidos às plataformas de redes sociais pelas organizações India Civil Watch International (ICWI) e Ekō, com o objetivo de testar a capacidade das redes da Meta em detetar discursos de ódio e conteúdos políticos falsos enquanto decorrem as eleições legislativas e regionais.
O documento, disponibilizado pelas duas organizações, explica ainda que os anúncios “foram criados com base em discurso de ódio real e discriminação prevalente na Índia, sublinhando a capacidade das redes sociais em amplificar as narrativas ofensivas existentes”.
Frances Haugen, denunciante do Facebook, diz que é tempo de as redes sociais revelarem o que fazem com os algoritmos e os dados dos internautas
A rede social X (antigo Twitter) ordenou recentemente a retirada de um vídeo que demonizava a religião islâmica.
O relatório nota que foram submetidos à livraria de conteúdos da Meta um total de 22 anúncios em inglês, hindi, bengali, gujarati e kannada, dos quais 14 foram aprovados. Outros três foram reenviados após algumas alterações, que não impactaram a mensagem de ódio em causa, e posteriormente aprovados.
As organizações removeram de imediato os anúncios assim que foi obtida a aprovação da Meta, para que estes não ficassem disponíveis para o público.
As eleições na Índia são as maiores de todo o mundo, com cerca de 970 milhões de pessoas elegíveis para votar, obrigando a um enorme esforço organizacional. Este ano, os indianos vão votar ao longo de 44 dias: o processo eleitoral começou em abril e vai prolongar-se até ao dia 1 de junho.
Em causa está a reeleição do primeiro-ministro autoritário Nadendra Modi. e do seu partido nacionalista Hindu, Bharatiya Janata (BJP), para um terceiro mandato.
No poder desde 2014, o governo liderado por Modi tem sido acusado de levar a cabo constantes ataques à liberdade e direitos da comunidade muçulmana, restringido a liberdade de expressão de ativistas e opositores políticos e promovido medo islamofóbico pela comunidade Hindu, que representa 80% da população e a esmagadora maioria dos eleitores elegíveis para votar.
Num comício recente em Rajasthan, Modi disse que os muçulmanos eram “infiltrados” e fez comentários sobre o número de filhos nas suas famílias.
Uma fila de mulheres segue compacta a caminho da urna de voto, na cidade de Bhopal, a 7 de maio
A Meta prometeu que iria trabalhar para impedir a proliferação de conteúdos manipulados por inteligência artifical, com o objetivo de desinformar o público sobre as eleições, mas a verdade é que todos os anúncios aprovados continham mensagens fabricadas por inteligência artifical.
Os cinco anúncios que foram rejeitados violavam as políticas de violência e discurso de ódio das plataformas, segundo explicou o relatório. Mas os outros 14 que foram aprovados também “quebraram as políticas da Meta sobre incitamento ao ódio, bullying e assédio, desinformação e violência”.
Ao “Guardian”, Maen Hammad, da Ekō, acusou a Meta, detida pelo bilionário Mark Zuckerberg, de ser um porto seguro para o enriquecimento de grupos extremistas. “Supremacistas, racistas e autocratas sabem que podem usar anúncios hiperdirecionados para espalhar discurso de ódio vil, imagens de mesquitas a arder e teorias da conspiração violentas, que a Meta irá amavelmente aceitar o seu dinheiro, sem questionar”, disse Hammad.
Além da violência das mensagens, os anúncios também violavam as leis eleitorais na Índia ao disseminar mensagens falsas sobre a oposição ao BJP, enquanto estão a decorrer as diferentes fases das eleições na Índia.
Um porta-voz da Meta garantiu, em resposta ao jornal britânico, que o mecanismo de verificação de anúncios políticos funciona e que as suas plataformas têm várias maneiras de detetar eficazmente conteúdos gerados por inteligência artificial, incluindo através de factcheckers independentes – isto apesar de o número de pessoas reais que fazem a moderação de conteúdos ter caído em quase todas as redes sociais.
Esta não é a primeira vez que a Meta é criticada por organizações não-governamentais pela forma como as redes sociais lucram com o ódio e a polarização nos seus fóruns, levando, por vezes, a consequências violentas diretas. Em 2018, a Organização das Nações Unidas declarou que o Facebook teve um papel preponderante na partilha de discursos violentos em Myanmar, contribuindo para o genocídio e deslocação forçada da minoria muçulmana Rohingya; e também na Índia já foram registados linchamentos e homicídios contra muçulmanos devia a notícias falsas partilhadas no Facebook e WhatsApp.
