Opinião

Policiamento preditivo e direitos fundamentais

Mário Tavares da Silva

Mário Tavares da Silva

Associado do OBEGEF

30 dezembro 2022 9:01

O risco de programas de policiamento preditivo assentes em informação inadequada ou em previsões desajustadas se poderem revelar tendenciosos é um risco real e não pode, em circunstância alguma, ser desconsiderado, sob pena de se abrangerem sempre as mesmas áreas e as mesmas pessoas (ou grupo específico de pessoas)

30 dezembro 2022 9:01

Na espuma dos dias deste conturbado final de ano, com crises energéticas e uma guerra de permeio que não dá sinais de terminar, o Tribunal Constitucional alemão enfrenta um dos processos mais complexos em matéria securitária, sobretudo, mas não só, pelas implicações que a decisão pode vir a assumir no quadro dos direitos fundamentais dos cidadãos.

O problema formula-se de forma simples.

Pode um software de vigilância orientado na sua utilização para finalidades predominantemente preditivas, ser utilizado pelas forças policiais na prevenção e combate à ocorrência de fenómenos de natureza criminal?

A ideia de policiamento preditivo como forma de antecipar e de prevenir a prática de crimes não é nova e traz-nos à memória o estimulante e então futurista filme “Relatório Minoritário” (Minority Report) protagonizado por Tom Cruise.

Tudo girava, para os mais esquecidos, em torno de uma espécie de divisão pré-crime, uma unidade da polícia que utilizava os poderes de três videntes ("precogs"), para identificar e prender os assassinos, mesmo antes de eles cometerem os crimes. Sucede, porém, que quando a fiabilidade do sistema parecia inquebrável, o próprio chefe da unidade é forçado a fugir, quando se vê, ele próprio, acusado de um assassinato que irá cometer, pasme-se, no futuro.

Esse futuro, que parecia então tão distante, quando sentado no banco do cinema, comendo pipocas, assistia a tão fascinante enredo é, agora, incontornavelmente, uma realidade com que alguns países e governos se começam a defrontar, sobretudo, por forma a garantir a necessária compatibilidade de todo este novo e poderoso “arsenal” tecnológico, em crescente desenvolvimento, com os mais elementares direitos fundamentais dos cidadãos.

O policiamento preditivo traduz, na sua essência, a recolha de dados provenientes de múltiplas fontes, a sua adequada análise e tratamento por forma a que, num momento seguinte, possa o respetivo resultado ser utilizado pelas polícias, órgãos de investigação criminal e demais entidades responsáveis na prevenção e combate à criminalidade, respondendo assim, de forma mais efetiva e eficaz, à mitigação do risco na prática de futuros delitos criminais. A utilização preditiva assenta, nessa medida, em modelos matemáticos e outras técnicas de natureza analítica no processo de aplicação da lei, com o escopo último de identificar potenciais atividades criminosas e, bem assim, os seus potenciais e previsíveis autores.

Ao recorrer à utilização de sistemas informáticos capazes de procederem ao tratamento de big data, o policiamento preditivo mostra-se capaz de induzir uma melhor afetação de recursos policiais a áreas geográficas mais críticas ou mesmo identificar ex ante indivíduos com maior suscetibilidade de praticarem delitos de natureza criminal.

Para lá de um mais eficaz e completo rastreamento geográfico dos denominados pontos críticos

(hot spots) de criminalidade, o policiamento preditivo pode também recorrer à recolha de dados existentes e partilhados nas redes sociais, por forma a proceder ao seu posterior tratamento e mineração, fazendo uso da vasta e diversificada disponibilização pública de imagens faciais, permitindo a construção de perfis individuais de natureza criminógena e, mais importante ainda, habilitando as polícias e demais entidades competentes, com um completo tableau de bord contendo as respetivas avaliações de risco.

No caso de “Minority Report”, Tom Cruise vê-se confrontado com uma acusação de homicídio que ainda não cometeu por três “videntes” que podem ver o futuro ao passo que o Tribunal Constitucional alemão enfrenta agora, no mundo real e já não apenas no fundo da ficção, uma queixa apresentada pela Sociedade Alemã para os Direitos Civis, sobre a legalidade na utilização do poderoso software“Gotham” da empresa americana Palantir e destinado a promover a vigilância policial nos estados de Hesse e Hamburgo.

Designado em Hessen por “Hessendata”, este software é capaz de pesquisar volumosas quantidades de dados provenientes e recolhidos nos diversos meios de comunicação social e suscetíveis, a final, de permitirem a criação de perfis de suspeitos de crimes, antes mesmo destes ocorrerem.

Ligando informações já disponíveis nas bases de dados policiais com dados constantes das autoridades de registo, incluindo de veículos, segurança social, serviços de saúde ou serviços tributários, o modelo procura sobretudo a integração de dados não estruturados, como sejam os ficheiros de texto, os correios eletrónicos trocados entre os milhões de utilizadores, os livros de endereços, ficheiros áudio e fotografias, bem como ficheiros diversos que sejam diretamente descarregados da Internet e das redes sociais.

No entanto, e contrariamente ao que alega o governo do estado de Hesse, para quem, note-se, o programa se limita apenas a coordenar dados já recolhidos de outras fontes, como sucede com câmaras de vigilância e redes sociais, sendo até por isso um instrumento indutor de maior eficiência e eficácia na prevenção de crimes graves, a organização alemã de investigação e defesa “Algorithm Watch” alega que o “Hessendata” pode, efetivamente, assumir-se como muito mais intrusivo, uma vez que agrega dados integrantes de bases de dados policiais com dados relativos a registos telefónicos e, ainda, com dados recolhidos de contas e redes sociais, o que poderá, acrescenta, permitir traçar diversos perfis criminais, incluindo os relativos a traficantes e abusadores de crianças. A organização queixosa receia, ainda, que o programa possa recorrer a técnicas assentes na Inteligência Artificial para traçar o perfil racial de possíveis criminosos, fator de potencial perturbação entre as minorias que se veem, desse modo, estigmatizadas por um uso cego e não criterioso de um software ainda mal explicado e compreendido.

É um processo judicial que valerá a pena acompanhar com interesse, até pelos efeitos que naturalmente terá noutros estados e noutros países, dada a sensibilidade das questões que suscita.

Não temos dúvidas quanto aos avanços que o policiamento preditivo encerra, tais como a maior capacidade de prevenir a prática de crimes, diminuindo a sua frequência com tudo o que de positivo daí possa naturalmente advir, uma melhor e mais suportada tomada de decisões, induzindo objetividade na ação policial e desencorajando decisões arbitrárias (entenda-se estas últimas como sendo mais suportadas em preconceito do que em evidência), permitindo um maior avanço no próprio sistema de justiça criminal, assente em provas objetivas e, ainda, por fim, potenciando a ocorrência de alertas precoces (red flags) relativos a comportamentos policiais nocivos ao mesmo tempo que promove a sensibilização das próprias polícias para quaisquer preconceitos que possam estar a prejudicar a confiança que os cidadãos nelas depositam.

No entanto, nem tudo será um mar de rosas. Preocupações de privacidade, dada a natureza sensível e pessoal dos dados recolhidos, riscos associados à segurança dos dados recolhidos e à sua partilha ilegítima com terceiros orientados para outras finalidades, risco de falta de exatidão, porquanto a fiabilidade do policiamento preditivo se encontrar intimamente conexa com qualidade dos dados e com a integridade dos respetivos utilizadores.

Basta, por exemplo, pensar que as estatísticas criminais recolhidas com base em políticas racistas ou xenófobas tenderão a potenciar previsões racistas, impelindo a um policiamento excessivo e desproporcionado sobre determinadas franjas populacionais e alimentando um verdadeiro círculo vicioso de permanente estigmatização dos mesmos grupos e indivíduos.

O risco de programas de policiamento preditivo assentes em informação inadequada ou em previsões desajustadas se poderem revelar tendenciosos é um risco real e não pode, em circunstância alguma, ser desconsiderado, sob pena de se abrangerem sempre as mesmas áreas e as mesmas pessoas (ou grupo específico de pessoas).

Basta pensar que se o algoritmo de policiamento preditivo estiver a ser alimentado por dados tendenciosos para desviar mais força e carga policiais para bairros mais pobres e socialmente vulneráveis ou bairros habitados por certas minorias, então esses bairros não estarão a ter o mesmo tratamento que os outros bairros, criando-se problemas de igualdade nas abordagens e tratamento preconizados pelas diversas forças policiais.

Por fim, e não menos importante, o recurso a algoritmos que suportem estes modelos de policiamento preditivo provocam uma significativa redução e erosão do espaço operativo tradicionalmente reservado ao processo de aplicação da norma, uma vez que ao fazer-se depender a decisão da maior parte dos processos, de uma análise automatizada de dados, se criam maiores dificuldade na explicação e justificação das decisões a tomar pelos diferentes agentes e forças policiais.

No final do dia, será o problema da fundamentação e da transparência das decisões tomadas com base em tratamento automatizado de dados com recurso aos mais complexos algoritmos e, sobretudo, da justeza das previsões e da fiabilidade desses mesmos dados que suportam os modelos de policiamento preditivo que ditarão, com maior ou menor segurança, se o princípio da igualdade de tratamento entre todos os cidadãos e, muito em particular, o da dignidade da pessoa humana, se encontram, ou não, adequadamente preservados e constitucionalmente garantidos.

Tudo boas razões, refira-se, para que nos próximos meses, estejamos bem atentos à decisão que os juízes de Karlsruhe nos irão proporcionar.