Reconhecimento facial: segurança ou segregação?

Os últimos acontecimentos envolvendo abusos de autoridade por parte de policiais e racismo reacenderam os debates em torno dos aplicativos de reconhecimento facial não só no Brasil como no mundo. Para além da eficácia e funcionalidade dos respectivos aplicativos, é preciso urgentemente pensar e discutir se estes aplicativos são, de fato, instrumentos de segurança ou de segregação. Vamos conversar sobre este assunto?

Reconhecimento facial e racismo: um debate necessário

Antes de mais nada, é importante salientar que tais debates não devem permanecer entre grupos de pessoas negras. O racismo e todas as suas problemáticas são responsabilidade de toda a sociedade – sobretudo pessoas brancas. É como diz a filósofa Djamila Ribeiro:

“As pessoas brancas precisam começar a entender a importância de elas debaterem racismo, elas lerem sobre isso, ter ações antirracistas em seus espaços”

Mas, antes de dar prosseguimento nesse debate é importante explicar o que é o sistema de reconhecimento facial. Esse sistema é baseado na premissa de que cada pessoa tem um padrão facial característico e a partir daí, são feitas análises profundas de imagem para identificar os indivíduos.

O sistema de reconhecimento facial está presente em vários aplicativos – como redes sociais e aplicativos de pagamentos. É usado também em análises comportamentais. Aqui no Brasil, tal sistema é utilizado em larga escala pelos órgãos e instituições ligadas a segurança pública. As medidas de segurança pública precisam ser pontuais e eficientes para garantir a segurança dos cidadãos independente de seus credos, etnias, classes sociais e gênero. Todos devem ser amparados e protegidos.

Para se ter uma noção, um levantamento feito pela Rede de Observatório da Segurança em 2019 mostra que cerca de 90% das 151 prisões feitas a partir do reconhecimento facial em nosso país eram de pessoas negras. Outro estudo – dessa vez, nos Estados Unidos – que analisou 189 algoritmos de reconhecimento facial mostrou que todos são bastante imprecisos na identificação de rostos com traços asiáticos e negróides. Essa mesma imprecisão não foi encontrada na identificação de rostos caucasianos.

O que temos que discutir sobre reconhecimento facial e segurança pública?

Diante dos trágicos fatos envolvendo racismo e que vitimizaram pessoas como George Floyd e tantas outras no mundo, é importante e necessário que o mercado de tecnologia se posicione. Afinal, o que é preciso discutir sobre reconhecimento facial e segurança pública?

A primeira delas é chamar para si a responsabilidade de não ser um instrumento do racismo estrutural. É de extrema urgência que empresas de desenvolvimento levem em consideração o contexto social e não estejam focadas somente nas funcionalidades de seus produtos.

Não por acaso, a Amazon anunciou a proibição de seu programa de reconhecimento facial pela polícia dos Estados Unidos e demais órgãos de segurança. Além disso, cobrou que sejam criadas normas rígidas para que o Rekognition seja usado novamente. A IBM também chamou para si essa responsabilidade ao anunciar que não vai mais produzir programas de reconhecimento facial para vigilância em massa.

A segunda coisa é abrir seus horizontes para novas possibilidades e conhecimentos. É fundamental que tenhamos referências das múltiplas existências e, principalmente, das demais culturas.

Os algoritmos são importantes, fazem parte do nosso trabalho constantemente. Tão importante quanto desenvolver projetos e programas para a sociedade é entregar a esta sociedade algo que não a deixe ainda mais desigual e injusta. Que façamos da nossa profissão um instrumento de equidade e justiça. Já disse Albert Einstein

“O espírito humano precisa prevalecer sobre a tecnologia”

A você que me lê e trabalha com tecnologia, deixo aqui um convite: olhe ao seu redor e conte quantas pessoas negras trabalham com você. Deixo também uma pergunta: quantas vezes você levou em consideração o contexto social enquanto desenvolvia algum projeto?

Comente aqui o que você pensa sobre esse assunto.

Se este artigo fez sentido a você, compartilhe-o em suas redes sociais.