O coordenador de departamento pessoal Ailton Alves de Sousa, de 41 anos, vive com medo desde que passou a ser abordado pela polícia e conduzido à delegacia ao menos quatro vezes em um período de sete meses, em São Paulo.
Morador do Heliópolis, na Zona Sul da capital paulista, Ailton já foi abordado dentro de casa, em uma sala de cinema de um shopping, enquanto trabalhava como freelancer em uma corrida de rua e até dentro de uma Unidade de Pronto Atendimento (UPA), onde acompanhava a mãe.
Segundo Ailton, em todas as ocasiões ele foi abordado após ser reconhecido de forma equivocada pelo Smart Sampa , programa da Secretaria Municipal de Segurança Urbana (SMSU) que utiliza reconhecimento facial e inteligência artificial.
O iG procurou a secretária municipal de Segurança Urbana, Juliana Lopes Bussacos, para comentar o caso. Ela também foi procurada para responder a uma série de reportagens sobre a Guarda Civil Metropolitana de São Paulo , incluindo as diferenças entre as inspetorias do Centro e das periferias , o funcionamento de bases em sedes improvisadas e o afastamento de guardas por problemas de saúde mental. Até a publicação, não houve resposta.
Segundo Ailton, as abordagens policiais começaram depois que ele foi confundido com um homem procurado pela Justiça por um homicídio cometido no Mato Grosso. Os dois têm nomes semelhantes, o que teria levado à identificação equivocada.
Apesar da semelhança, outras informações disponíveis nos registros poderiam ter sido verificadas antes da abordagem, como uma letra do sobrenome, os nomes e as idades dos pais, a cidade de nascimento e o número do documento de identidade.
Da UPA à porta de casa
A última abordagem ocorreu em março deste ano. Ailton estava na UPA acompanhando a mãe, que recebia soro, quando agentes entraram no local e o detiveram.
Na delegacia, ele foi colocado em uma sala destinada aos detentos enquanto os agentes conferiam seus dados. No fim do dia, foi liberado.
Horas depois, porém, policiais foram até a casa de Ailton durante a madrugada. Por volta das 2h30, cerca de três viaturas pararam próximo ao imóvel.
Depois da chegada do advogado, os dois foram até a delegacia registrar uma queixa sobre o ocorrido. Segundo Ailton, o delegado afirmou que os policiais que foram até sua casa provavelmente “queriam forjar uma cana ou fazer algo mais sério”.
Ailton também relata que, em outras duas ocasiões, policiais entraram em sua casa sem mandado.
“Teve duas vezes que os policiais entraram na minha casa sem mandato. Eu tava chegando da feira em um domingo e eles entraram na minha casa. A desculpa que eles usaram foi: “Ah, mas é que a gente recebeu uma denúncia de agressão física e de agressão doméstica e a gente veio averiguar”.
Funcionamento do Smart Sampa
Quando lançou o Smart Sampa , a Prefeitura de São Paulo apresentou o programa como uma ferramenta de segurança baseada em câmeras, inteligência artificial e reconhecimento facial, com protocolos para utilização dos dados e análise dos alertas.
Na assinatura do contrato com o consórcio vencedor da licitação, o prefeito Ricardo Nunes afirmou que o sistema havia sido desenvolvido para evitar incorreções e disse que pessoas inocentes não deveriam se preocupar com a tecnologia.
Nunes também afirmou que as forças de segurança só iriam atrás de um suspeito quando o rosto apresentasse mais de 90% de similaridade na biometria facial. Segundo o prefeito, antes de os dados serem transmitidos às forças policiais, os alertas passariam por um comitê integrado à Controladoria Geral do Município para análise.
Três anos depois das declarações, no entanto, um levantamento aponta que mais de 90 pessoas foram reconhecidas de forma equivocada pelo sistema.
Os dados foram retirados da pesquisa “Smart Sampa vigia, mas não protege: falta de evidência na redução de crimes e aumento da produtividade policial na cidade de São Paulo” , realizada pelo Centro de Estudos de Segurança e Cidadania (CESeC).
Segundo o estudo, não houve melhora nos índices de furtos, roubos e homicídios em São Paulo após a instalação do sistema.
A pesquisa também aponta que não foram encontradas evidências de que as câmeras do Smart Sampa tenham contribuído para melhorar os indicadores de prisão em flagrante ou de cumprimento de mandados em nenhum mês posterior à adoção do programa.
Falsos reconhecimentos
O Smart Sampa possui milhares de câmeras instaladas em pontos estratégicos da capital paulista. As imagens são analisadas por ferramentas de inteligência artificial capazes de identificar situações consideradas suspeitas e emitir alertas em tempo real para uma central de monitoramento.
Segundo a pesquisadora do CESeC Yasmin Rodrigues, o programa transforma os rostos das pessoas em uma “assinatura biométrica” e, posteriormente, produz um cálculo probabilístico ao comparar aquela imagem com um banco de dados que reúne milhões de rostos.
Para ela, o problema está também na forma como esse resultado é interpretado pelas forças de segurança: uma previsão estatística passa a ser tratada como uma confirmação de identidade.
Segundo a pesquisadora, dois fatores principais podem contribuir para os falsos reconhecimentos.
- O primeiro está relacionado ao treinamento dos softwares. Os sistemas podem ser desenvolvidos a partir de bancos de dados de populações estrangeiras e, com isso, aprender padrões biométricos que, quando aplicados à população brasileira, podem produzir erros.
- O segundo envolve as próprias condições em que as imagens são captadas . Movimento, baixa luminosidade e outros fatores podem comprometer a qualidade da imagem e aumentar a possibilidade de uma pessoa ser confundida com outra.
Yasmin também ressalta que a população negra está mais suscetível a erros em razão dos bancos de dados utilizados e de um sistema de persecução penal que, segundo ela, é atravessado pelo racismo.
“Quando a polícia para uma pessoa negra, ainda mais apontada por um match de reconhecimento facial, ali já está dada a sentença”.
Para a pesquisadora, o problema não está apenas na possibilidade de o sistema confundir uma pessoa com outra. Ela questiona o fato de todos os cidadãos serem monitorados enquanto circulam pela cidade.
Por isso, Yasmin considera que o uso do reconhecimento facial em tempo real em espaços públicos é um problema mesmo quando a tecnologia apresenta poucos erros. Para ela, a questão está na própria ideia de manter a população sob monitoramento constante.
“Na minha avaliação, o reconhecimento facial em tempo real em espaços públicos é incompatível com direitos fundamentais. Mesmo que o sistema fosse mais preciso, continuaria submetendo toda a população a uma busca policial permanente. O problema não é apenas o erro, mas o próprio modelo de vigilância.”
O iG procurou a Secretaria Municipal de Segurança Urbana e a secretária Juliana Lopes Bussacos para solicitar um posicionamento sobre o caso e os dados relacionados à saúde mental dos agentes da GCM, mas não houve resposta até a publicação.