Agentes do FBI estão usando reconhecimento facial sem treinamento adequado
FBI agents are using facial recognition without proper training
O Bureau Federal de Investigação (FBI) dos Estados Unidos realizou dezenas de milhares de pesquisas de reconhecimento facial usando software de fornecedores externos nos últimos anos. No entanto, apenas 5% dos 200 agentes com acesso à tecnologia fizeram o curso de treinamento de três dias do bureau sobre como utilizá-la, revela um relatório do Government Accountability Office (GAO) neste mês. O bureau não possui uma política de uso de reconhecimento facial em vigor para proteger a privacidade, os direitos civis ou as liberdades civis.
Legisladores e outros preocupados com o reconhecimento facial têm afirmado que é necessário um treinamento adequado sobre a tecnologia e como interpretar seus resultados para reduzir o uso indevido ou erros, embora alguns especialistas afirmem que o treinamento pode levar as autoridades policiais e o público a considerar o reconhecimento facial de baixo risco.
Desde a falsa prisão de Robert Williams perto de Detroit em 2020, surgiram nos EUA vários casos de prisões após um modelo de reconhecimento facial identificar erroneamente uma pessoa. Alonzo Sawyer, cujo sofrimento se tornou conhecido nesta primavera, passou nove dias na prisão por um crime que não cometeu. A falta de treinamento em reconhecimento facial no FBI veio à tona em um relatório do GAO que examina as proteções em vigor quando as autoridades policiais federais utilizam a tecnologia. O relatório foi compilado a pedido de sete membros democratas do Congresso.
A autora do relatório e diretora de Segurança Interna e Justiça do GAO, Gretta Goodwin, afirma, por e-mail, que não encontrou evidências de prisões falsas devido ao uso de reconhecimento facial por uma agência federal de aplicação da lei. Um porta-voz do FBI se recusou a responder perguntas sobre o relatório do GAO para esta história.
O relatório do GAO se concentra em ferramentas de reconhecimento facial feitas por empresas comerciais e sem fins lucrativos. Isso significa que não abrange a plataforma de reconhecimento facial interna do FBI, que o GAO criticou anteriormente por oferecer poucas proteções à privacidade. O Departamento de Justiça dos EUA recebeu ordens da Casa Branca no ano passado para desenvolver melhores práticas para o uso de reconhecimento facial e relatar quaisquer alterações de política resultantes.
- Dave Limp liderará a Blue Origin de Jeff Bezos após ‘aposenta...
- Da Ficção Científica à Realidade O Roteiro do Desenvolvimento da In...
- Este headset de realidade virtual me proporcionou uma felicidade pr...
As ferramentas externas de reconhecimento facial usadas pelo FBI e outras autoridades policiais federais abrangidas pelo relatório vêm de empresas, incluindo a Clearview AI, que coletou bilhões de fotos de rostos da internet para treinar seu sistema de reconhecimento facial, e a Thorn, uma organização sem fins lucrativos que combate o tráfico de pessoas aplicando reconhecimento facial para identificar vítimas e traficantes de pessoas em imagens de mercados de sexo comercial online. O FBI ocupa o primeiro lugar entre as agências federais de aplicação da lei examinadas pelo GAO em termos de escala de uso de reconhecimento facial. Mais de 60.000 pesquisas foram realizadas por sete agências entre outubro de 2019 e março de 2022. Mais da metade foi realizada por agentes do FBI, cerca de 15.000 usando a Clearview AI e 20.000 usando a Thorn.
Nenhuma lei existente exige que os funcionários da aplicação da lei federal façam treinamento antes de usar o reconhecimento facial ou sigam padrões específicos ao usá-lo em uma investigação criminal.
O Departamento de Justiça planeja emitir uma política de direitos civis e liberdades civis em todo o departamento para o reconhecimento facial, mas ainda não definiu uma data para a implementação planejada, de acordo com o relatório. Ele afirma que autoridades do Departamento de Justiça, em determinado momento de 2022, consideraram atualizar sua política para permitir que uma correspondência de reconhecimento facial por si só justificasse a solicitação de um mandado de busca.
As ferramentas comerciais de reconhecimento facial usadas pelo FBI e outras agências federais tentam comparar uma foto de um suspeito ou vítima com imagens de rostos em bancos de dados que podem conter milhões de imagens. Após o software oferecer uma lista de possíveis correspondências, cabe aos seres humanos decidir quem será submetido a investigação adicional.
Modelos de reconhecimento facial produzidos por fornecedores comerciais nos EUA têm taxa de erro maior na identificação de asiático-americanos e mulheres com pele escura do que o restante da população, de acordo com um relatório do Instituto Nacional de Padrões e Tecnologia. Embora as avaliações governamentais de reconhecimento facial continuem mostrando melhorias na identificação de pessoas de diferentes grupos demográficos, prisões falsas continuam ocorrendo, muitas vezes como resultado de uma combinação de tecnologia defeituosa e trabalho investigativo deficiente por parte de policiais, e quase exclusivamente envolvendo homens negros. No mês passado, também, foi divulgada a notícia sobre Porcha Woodruff, que foi falsamente presa apesar de estar visivelmente grávida, ao contrário de um suspeito visto nas filmagens de câmeras de segurança.
A identificação errada por uma testemunha ou policial também pode resultar em uma prisão falsa. Pesquisas mostram que as pessoas geralmente são ruins em reconhecer outras pessoas que não conhecem e especialmente ruins em reconhecer pessoas de raças diferentes. A qualidade da foto e a diferença de tempo entre uma foto de prova e uma foto em um banco de dados também podem influenciar os resultados.
O FBI tem sido pressionado pelo governo e legisladores para proteger melhor os direitos dos residentes dos EUA contra o poder do reconhecimento facial há anos. O GAO começou a pedir ao FBI que avaliasse a precisão e as implicações de privacidade de seu software de reconhecimento facial interno em 2016. Ele renovou esses pedidos em 2019, quando legisladores bipartidários também pressionaram o FBI para adicionar salvaguardas.
Em 2022, um comitê do Congresso instruiu o Departamento de Justiça a criar uma política de uso ético de reconhecimento facial, mas a agência ainda não implementou tal política. No mesmo ano, o presidente Joe Biden assinou uma ordem executiva que direcionou o departamento a encomendar um estudo da Academia Nacional de Ciências sobre o impacto do reconhecimento facial na privacidade, nos direitos civis e nas liberdades civis. A ordem também exigiu que o Departamento de Justiça participasse de um processo interagências para desenvolver melhores práticas para o uso de reconhecimento facial pelas agências de aplicação da lei.
Sneha Revanur, fundadora da Encode Justice, uma organização sem fins lucrativos destinada à juventude que deseja uma moratória no uso de reconhecimento facial por parte das autoridades policiais, afirma que a tecnologia pode ser negligenciada em meio à empolgação e ao medo recentes em relação à IA generativa, como o ChatGPT. “É crucial que não deixemos pendente assuntos como o reconhecimento facial”, diz ela. Revanur afirma que uma moratória federal sobre a tecnologia forneceria tempo para estudar quais tipos de treinamento e políticas de uso podem possivelmente diminuir o poder de uma ferramenta de vigilância que pode violar os direitos civis.
