Reconhecimento facial: a (in)segurança algorítmica.
O uso de câmeras de segurança com tecnologias de reconhecimento facial é uma realidade. Na Europa, por exemplo, o Comitê Regional de Proteção de Dados avança diretrizes para banir estas tecnologias em toda a comunidade continental. As ameaças ao direito de privacidade e os riscos de viés racial vêm se mostrando evidentes. Mesmo assim, na cidade do Recife, a prefeitura tenta avançar uma parceira público-privada para expandir este uso nas fronteiras do município.
Assim, fica a questão: é possível criar um sistema público de reconhecimento facial que realmente aumente a segurança dos cidadãos? É possível remover os vieses raciais dos algoritmos? E o direito à privacidade, como fica? A retórica da tecnologia vende agilidade e cria soluções que facilitam a vida das pessoas, vendem a ideia de que a tecnologia sempre vem para melhorar. Porém, para pensar o impacto de qualquer tecnologia com o objetivo de melhorar uma política pública, é importante entendermos as nuances por trás de cada ferramenta. Elas podem afetar a vida do cidadão de maneiras negativas e até mesmo atacar direitos fundamentais.
Atualmente, utilizamos o nosso rosto para vários processos no dia a dia. Desde criar um cartão de crédito a desbloquear a tela de celular, todas estas informações viram pontos de dados sobre nossas vidas e alimentam algoritmos que servem a finalidades, por vezes, pouco republicanas. Os algoritmos de reconhecimento facial são treinados para reconhecer traços específicos para fins determinados, como identificar um suspeito ou procurado da justiça, por exemplo. E é aí que está o perigo. Para onde vão esses dados? Quem está fiscalizando o uso deles? Quem definiu que determinados traços seriam suficientes para identificar uma pessoa como “suspeita”. O que se tem visto é que cada vez mais pessoas negras estão sendo acusadas injustamente por conta de um reconhecimento facial criado por um algoritmo enviesado pelo racismo estrutural. No Ceará, por exemplo, a foto do famoso ator americano Michael B Jordan (o vilão do Pantera Negra) estava no banco de dados da polícia como, pasmem, suspeito de uma chacina.
A Rede de Observatórios de Segurança Pública monitorou vários casos de prisões e abordagem com o uso de reconhecimento facial no Brasil desde que eles foram implantados em março e descobriu que, dos casos em que haviam informações, 90,5% das pessoas presas porque foram flagradas pelas câmeras eram negras. A Bahia foi líder em relação ao número de abordagens e prisões com a nova técnica: 51,7% das prisões, seguida do Rio, com 37,1%, Santa Catarina, com 7,3%, Paraíba, com 3,3% e o Ceará, com 0,7%.
Confira alguns projetos que ajudam a entender melhor os riscos do reconhecimento facial como política de segurança.
Ouçam também o observacast sobre reconhecimento facial como política de segurança pública. Como isso pode ser uma ameaça para ao direito de privacidade? E à população negra? Essas são algumas questões que você pode entender no nosso podcast. A apresentação é de Daniel Paixão e Walmir Estima, com participação de Renata Gusmão e André Ramiro.
O OBSERVACAST FAZ PARTE DO OBSERVATÓRIO DE POLÍTICAS PÚBLICAS DA UNIVERSIDADE CATÓLICA DE PERNAMBUCO.