Início Notícias Como um homem de Nova Jersey foi preso injustamente por meio da...

Como um homem de Nova Jersey foi preso injustamente por meio da tecnologia de reconhecimento facial agora em uso em Ontário

10

Um homem de Nova Jersey que foi preso injustamente após ser identificado incorretamente por meio de um software de reconhecimento facial tem uma mensagem para duas agências policiais de Ontário que agora usam a mesma tecnologia.

“Há evidências claras de que não funciona”, disse Nijeer Parks.

Parks, agora com 36 anos, passou 10 dias atrás das grades por roubo e agressão a um policial em janeiro de 2019, que ele não cometeu. Ele disse que foi liberado após apresentar provas de que estava em outra cidade, realizando transferência de dinheiro no momento do crime. Os promotores desistiram do caso em novembro seguinte, de acordo com um relatório interno da polícia.

Os investigadores identificaram Parks como suspeito usando tecnologia de reconhecimento facial, de acordo com documentos policiais fornecidos como parte de uma ação movida pelo advogado de Parks contra vários réus, incluindo a polícia e o prefeito de Woodbridge, NJ. A ação nomeia a empresa de tecnologia francesa Idemia como a desenvolvedora do Programas.

A polícia das regiões de Peel e York, perto de Toronto, anunciou no final de maio que estava implementando A tecnologia da Idemia, que será usada para comparar fotos existentes com imagens da cena do crime de suspeitos e pessoas de interesse.

Parks disse que seu caso destaca as limitações desse software.

“Ele não se parece em nada comigo”, disse Parks, que é negro, sobre o homem na foto que a polícia usou para identificá-lo. “Eu estou tipo… você está basicamente me dizendo que todos nós somos parecidos.”

A foto veio de uma carteira de motorista falsa do Tennessee que o suspeito forneceu aos policiais no local do roubo, de acordo com um relatório policial apresentado como prova judicial no caso civil.

Uma carteira de motorista preta e branca do Tennessee
Um suspeito entregou à polícia em Woodbridge, NJ, esta carteira de motorista falsa do Tennessee com o nome de Jamal Owens. (Exposição do Tribunal Distrital dos Estados Unidos para o Distrito de Nova Jersey)

O homem foi acusado de roubar lanches de uma loja de presentes de um hotel em Woodbridge, NJ, e quase atropelar um policial quando ele fugiu.

Dois dias depois, um investigador enviou por e-mail a um detetive de Woodbridge um arquivo PDF contendo um “bom possível resultado no reconhecimento facial”, de acordo com documentos judiciais revisados ​​pela CBC News.

“É ele”, respondeu o detetive, referindo-se ao suspeito do incidente no hotel.

Parks foi preso e acusado de uma série de crimes, incluindo agressão agravada e resistência à prisão. De acordo com uma transcrição de sua entrevista policial, ele disse a um investigador que, na verdade, nunca esteve em Woodbridge, que fica a cerca de 40 quilômetros de sua casa em Paterson, NJ.

Parks descreveu recentemente à CBC a provação como uma “experiência fora do corpo, porque era algo que eu não conseguia acreditar que estava acontecendo”.

Um homem de camiseta branca com as mãos entrelaçadas
Parks fala com a CBC News de sua casa em Paterson, NJ (CBC)

Em Ontário, a polícia insiste que implementou salvaguardas para evitar que uma incompatibilidade resulte numa prisão.

“É o elemento humano”, disse o Const da Polícia Regional de York. Kevin Nebrija disse à CBC. Ele disse que os investigadores irão pessoalmente “analisar a partida e ver se isso apoia outras evidências que obtivemos”.

As polícias de York e Peel disseram separadamente que o software seria usado como uma ferramenta adicional para fornecer pistas investigativas e não serviria como única base para uma prisão. Eles também disseram que o sistema não seria usado para analisar vídeos ao vivo.

“O Idemia Face Expert será usado para ajudar na tomada de decisões humanas, e não para substituí-las”, disse o subchefe da Polícia Regional de Peel, Nick Milinovich, em um vídeo postado online. “Isso melhorará a segurança pública para todos.”

Alegações de ‘tecnologia tendenciosa’

A investigação tem apontado repetidamente para deficiências na tecnologia de reconhecimento facial, particularmente o risco de identificar erroneamente indivíduos racializados.

O processo de Parks atribui parcialmente a sua prisão injusta ao “uso indevido de tecnologia tendenciosa”.

O município de Woodbridge recusou o pedido da CBC para comentar o assunto, pois o caso continua em litígio.

Um representante da Idemia não respondeu às perguntas enviadas por e-mail.

A União Americana pelas Liberdades Civis (ACLU) no início deste ano arquivado uma petição judicial em apoio a Parks, afirmando que “os policiais confiaram injustificadamente em uma liderança instável de uma tecnologia fundamentalmente não confiável”.

“Como neste caso, os danos da identificação incorreta (da tecnologia de reconhecimento facial) recaem desproporcionalmente sobre os negros americanos”, escreveu a ACLU.

A Administração de Serviços Gerais dos EUA, que supervisiona os empreiteiros federais, disse num relatório de 2022 que tais ferramentas falharam desproporcionalmente em corresponder aos afro-americanos nos seus testes.

Um policial é visto sentado em uma mesa, olhando para a tela de um computador
Num vídeo publicado online, um agente da Polícia Regional de Peel demonstra o software de reconhecimento facial da Idemia. (Peel Polícia Regional)

Yuan Stevens, acadêmico associado do Centro de Genômica e Política da Universidade McGill, em Montreal, disse que deveria haver mais transparência sobre a forma como os algoritmos de reconhecimento facial são refinados.

“Na verdade, é muito possível que o banco de dados da Idemia tenha sido treinado em rostos brancos europeus, (assim) pessoas de cor, como eu, seriam injustamente suspeitas de um crime com mais frequência.”

Stevens disse que rostos negros e indígenas são frequentemente super-representados em fotos, uma vez que tais bancos de dados “contêm imagens de pessoas que estão sujeitas a escrutínio e vigilância intensificados pela polícia”.

Idemia citada como mais precisa

A Idemia contestou alegações de parcialidade em seu software.

Em slides preparados para 2018 apresentação intitulado “Avaliação de reconhecimento facial @ Idemia”, um representante escreveu que o algoritmo da empresa tem o “mesmo (taxa de identificação de falsos positivos) para indivíduos negros ou brancos, homens ou mulheres”.

Software na tela exibe fotos de homens
Uma demonstração online do software Face Expert da Idemia mostra que ele pode ser usado para combinar imagens de um banco de dados com rostos vistos em vídeos CCTV. (Idemia)

A Polícia Regional de York disse em seu site que “nos últimos cinco anos, a tecnologia de reconhecimento facial fez enormes avanços em precisão e diferenças demográficas”, citando dados do Instituto Nacional de Padrões e Tecnologia dos EUA (NIST).

Entre uma lista de fornecedores, o NIST classificado O algoritmo da Idemia em 2022 é o mais preciso em um teste de justiça de taxa de correspondência falsa.

A Polícia Provincial de Ontário disse que está pensando em implementar um programa semelhante, enquanto avalia “precisão, implicações de privacidade e possíveis preconceitos associados à comparação facial”.

O RMCP disse que pediu a alguns fornecedores terceirizados que desabilitassem as funções de reconhecimento facial integradas nas ferramentas utilizadas pela força policial nacional.

Em 2014, a polícia de Calgary tornou-se a primeira agência policial no Canadá a utilizar tecnologia de reconhecimento facial, lançando um sistema concebido pela NEC Corporation of America.

O Serviço de Polícia de Toronto disse que usa reconhecimento facial desde 2018. Seu site também lista a NEC como fornecedora de tecnologia.

Os investigadores de ambas as cidades usaram brevemente o controverso sistema Clearview AI, que pesquisava imagens do público retiradas da Internet.

A polícia de Peel e York disse que discutiu seu plano com o Comissário de Informação e Privacidade da província.

O gabinete do comissário disse à CBC que “não endossa, aprova ou certifica” nenhum programa sobre o qual é consultado.

ASSISTA | Parks passou 10 dias na prisão por crimes que não cometeu:

Ele foi preso injustamente por causa da tecnologia de reconhecimento facial agora usada em Ontário

Duas forças policiais de Ontário estão agora usando um software de reconhecimento facial que identificou erroneamente um homem de Nova Jersey que acabou na prisão. O homem agora está processando por prisão injusta e diz que a tecnologia é tendenciosa.

O escritório oferece atendimento público orientação para agências policiais que buscam usar o reconhecimento facial para pesquisar bancos de dados de fotos.

Quanto a Parks, ele e seu advogado solicitaram um julgamento sumário, o que significa que seu caso não precisaria ir a julgamento. Seu advogado, Daniel Sexton, disse que também está em negociações para resolver o caso fora dos tribunais.

“Não quero ver ninguém passar pelo que passei”, disse Parks.

Fuente