No total, foram publicadas nas redes sociais imagens e vídeos sexuais hiper-realistas de 16 raparigas menores de uma escola no sul de Espanha. As imagens foram modificadas a partir das originais, nas quais as jovens apareciam vestidas
Jornalista
Um jovem de 17 anos está a ser investigado pela polícia espanhola por suspeitas de ter criado e partilhado imagens e vídeos das suas colegas nuas, avança o jornal “El País”. O objetivo seria vender online estes conteúdos hiper-realistas manipulados com recurso a inteligência artificial (IA), os chamados deepfakes.
A investigação começou em dezembro de 2024, quando uma jovem adolescente fez uma queixa na polícia relativamente a um vídeo, gerado com IA, que a retratava nua. Este estava publicado numa conta nas redes sociais com o seu nome. “Fotografias de várias pessoas, todas menores de idade, apareceram nesta conta. Todas estas fotografias foram modificadas a partir das originais, que foram manipuladas para que as pessoas nelas aparecessem completamente nuas”, disse a Guardia Civil espanhola num comunicado publicado este domingo.
Mais tarde, a jovem descobriu uma segunda conta também com o seu nome e outras com os nomes das colegas que mostravam vídeos e fotos delas despidas. Além deste conteúdo, eram também publicadas várias mensagens difamatórias.
No total, foram partilhadas imagens de 16 jovens de uma escola em Valência, no sul de Espanha. Havia ainda um site que publicitava estas imagens e vídeos para fins comerciais.
Após estas queixas, a Guardia Civil conseguiu encontrar o rasto do suspeito, um jovem de 17 anos, que agora está a ser investigado por suspeita de corrupção de menores. “Os agentes obtiveram informações sobre os utilizadores e o acesso a estas plataformas, incluindo endereços IP, que os levaram à casa de um dos colegas de escola das queixosas. Também confirmaram que os emails usados para criar as contas pertenciam à mesma pessoa”, explicam.
No início deste ano, a Polícia Nacional espanhola deteve um jovem de 15 anos acusado de manipular fotografias de colegas da mesma idade para as mostrar nuas e partilhá-las entre os seus amigos. Pelo menos, cinco jovens foram visadas nestas imagens criadas com IA que reconheceram as imagens idênticas às que estavam publicadas nas suas redes sociais, nas quais apareciam vestidas. “O grau de realismo era tal que os familiares das vítimas tiveram sérias dúvidas para discernir se se tratava de conteúdo real ou não”, afirmou María Buyo, porta-voz da Polícia Nacional, citada pelo “El País”.
Também em setembro de 2023 um caso semelhante chocou Espanha quando 15 menores foram condenados a um ano de liberdade condicional e a frequentar aulas de sensibilização para as questões de género e igualdade por produzirem, com recurso a IA, imagens nuas das suas colegas. Estas fotografias manipuladas foram partilhadas em dois grupos na aplicação WhatsApp.
Na altura, a Associação Malvaluna, uma organização feminista que representou as jovens afetadas, disse ao jornal “elDiario.es” que o caso deveria suscitar uma discussão nacional sobre a necessidade de educação sexual adequada nas escolas, para que as crianças não aprendam sobre sexo através da pornografia, que “gera mais sexismo e violência”.
Perante estes casos, em março, o Governo socialista espanhol disse estar a elaborar uma lei para proteger as crianças e jovens no espaço online. O objetivo é criminalizar a criação e partilha de deepfakes de conteúdo sexual, sem consentimento, assim como o aliciamento de menores. Está ainda prevista uma proibição de acesso ou de comunicação em ambientes digitais, “o que evitará, em grande medida, tanto a revitimização como a reincidência”, lê-se no comunicado do Governo. Contudo, o projeto de lei ainda não foi aprovado no Parlamento.
A iniciativa do Governo espanhol junta-se a outras que começam a surgir na Europa. Desde 2024 que França proíbe a partilha de conteúdo áudio ou visual criado por IA, sem o consentimento do visado. Quem infringir esta lei pode ser condenado até um ano de prisão e uma multa de 15 mil euros. Caso sejam distribuídos deepfakes pornográficos, mesmo que haja a indicação de que são falsos, a lei francesa estabelece a pena em até três anos de prisão e uma multa de 75 mil euros.
O Reino Unido também tem uma lei que visa os “abusadores hediondos” que criam imagens falsas para “gratificação sexual ou para causar alarme, angústia ou humilhação”. Esta lei prevê uma “multa ilimitada”, assim como uma possível pena de prisão de dois anos.
A Lei de Segurança Online do Reino Unido, que torna ilegal publicar ou ameaçar partilhar imagens sexuais não consensuais nas redes sociais, obriga as plataformas a “tomar medidas para remover proativamente esse material” e impedir o seu reaparecimento. Caso não cumpram com esta obrigação, as empresas podem enfrentar multas de até 10% da sua receita mundial, aplicadas pelo órgão regulador da Internet do Reino Unido, Ofcom.
Recentemente, a Dinamarca lançou um projeto de lei para tornar ilegal a partilha de deepfakes não consensuais. O objetivo é conferir ao cidadão direito sobre o seu rosto e corpo.
A União Europeia abordou o assunto numa diretiva para combater a violência contra as mulheres e a violência doméstica. Esta estabelece que, até junho de 2027, todos os Estados-membros deverão transpor para o seu código penal uma lei que criminalize a “produção, manipulação ou alteração não consensual” de conteúdo “que faça parecer que uma pessoa está envolvida em atividades sexuais”, incluindo imagens e vídeos gerados por IA.
Tem dúvidas, sugestões ou críticas? Envie-me um e-mail: eparreira@expresso.impresa.pt
