Início Política A tecnologia de reconhecimento facial ganha popularidade entre a polícia, intensificando os...

A tecnologia de reconhecimento facial ganha popularidade entre a polícia, intensificando os pedidos de regulamentação

8

Alguns serviços policiais no Canadá estão usando tecnologia de reconhecimento facial para ajudar a solucionar crimes, enquanto outras forças policiais dizem que questões de direitos humanos e privacidade os impedem de empregar essas poderosas ferramentas digitais.

É esta aplicação desigual da tecnologia – e as regras flexíveis que regem a sua utilização – que leva os especialistas jurídicos e de IA a apelar ao governo federal para estabelecer padrões nacionais.

“Até que haja uma melhor compreensão dos riscos envolvidos no uso desta tecnologia, deveria haver uma moratória ou uma série de proibições sobre como e onde ela pode ser usada”, diz Kristen Thomasen, professora de direito na Universidade da Colúmbia Britânica. .

Além disso, a colcha de retalhos de regulamentações sobre tecnologias biométricas emergentes criou situações em que os direitos de privacidade de alguns cidadãos são mais protegidos do que outros.

“Acho que o fato de termos diferentes forças policiais tomando medidas diferentes levanta preocupações (sobre) as desigualdades e como as pessoas são tratadas em todo o país, mas (isso) também destaca a importância contínua de algum tipo de ação federal a ser tomada”, ela disse.

Os sistemas de reconhecimento facial são uma forma de tecnologia biométrica que usa IA para identificar pessoas comparando imagens ou vídeos de seus rostos — geralmente capturados por câmeras de segurança — com imagens existentes deles em bancos de dados. A tecnologia tem sido uma ferramenta controversa nas mãos da polícia.

Em 2021, o Office of the Privacy Commissioner of Canada descobriu que a RCMP violou as leis de privacidade ao usar a tecnologia sem o conhecimento do público. No mesmo ano, a polícia de Toronto admitiu que alguns de seus policiais usaram software de reconhecimento facial sem informar seu chefe. Em ambos os casos, a tecnologia foi fornecida pela empresa americana Clearview AI, cujo banco de dados era composto por bilhões de imagens retiradas da internet sem o consentimento daqueles cujas imagens foram usadas.

No mês passado, a York and Peel Police em Ontário disse que começou a implementar a tecnologia de reconhecimento facial fornecida pela empresa multinacional francesa Idemia. Em uma entrevista, o policial de York, Kevin Nebrija, disse que as ferramentas “ajudam a acelerar as investigações e a identificar suspeitos mais cedo”, acrescentando que, em termos de privacidade, “nada mudou porque as câmeras de segurança estão por toda parte”.

ASSISTA | Este repórter de notícias é gerado por IA. Deveríamos ficar preocupados?

Este repórter de notícias é gerado por IA. Devemos nos preocupar?

Uma startup de canal de notícias 24 horas com sede no sul da Califórnia vem com uma reviravolta: todos os repórteres e produção são gerados por IA. Jean-François Bélanger, da CBC, explora o que o Channel 1 está prometendo e por que alguns estão preocupados com o que isso pode significar para a indústria de notícias.

No entanto, na vizinha Quebec, o chefe de polícia de Montreal, Fady Dagher, diz que a força não adotará essas ferramentas de identificação biométrica sem um debate sobre questões que vão desde direitos humanos até privacidade.

“Será algo que exigirá muita discussão antes de pensarmos em colocá-lo em prática”, disse Dagher em uma entrevista recente.

Nebrija enfatizou que o departamento consultou o Comissário de Privacidade de Ontário sobre as melhores práticas, acrescentando que as imagens que a polícia irá adquirir serão “obtidas legalmente”, seja com a cooperação dos proprietários das câmeras de segurança ou pela obtenção de ordens judiciais para as imagens.

É necessária luz verde do tribunal: especialista

E embora a polícia de York insista que os policiais buscarão autoridade judicial, Kate Robertson, pesquisadora sênior do Citizen Lab da Universidade de Toronto, disse que as forças policiais canadenses têm um histórico de fazer exatamente o oposto.

Desde as revelações sobre o uso da Clearview AI pela polícia de Toronto entre 2019 e 2020, Robertson disse que “ainda não tem conhecimento de nenhum serviço policial no Canadá que esteja obtendo aprovação prévia de um juiz para usar tecnologia de reconhecimento facial em suas investigações”.

De acordo com Robertson, obter autorização do tribunal, geralmente na forma de um mandado, representa o “padrão ouro de proteção da privacidade em investigações criminais”. Isto garante que uma ferramenta de reconhecimento facial, quando utilizada, seja adequadamente equilibrada com o direito à liberdade de expressão, à liberdade de reunião e a outros direitos consagrados na Carta.

Embora o governo federal não tenha jurisdição sobre as forças policiais provinciais e municipais, ele pode alterar o Código Penal para incorporar requisitos legais para software de reconhecimento facial da mesma forma que atualizou a lei para abordar tecnologias de gravação de voz que podem ser usadas para vigilância.

Em 2022, os chefes federais, provinciais e territoriais das comissões de privacidade do Canadá apelaram aos legisladores para estabelecerem um quadro jurídico para a utilização adequada da tecnologia de reconhecimento facial, incluindo a capacitação de órgãos de supervisão independentes, a proibição da vigilância em massa e a limitação do tempo de retenção das imagens nas bases de dados.

Enquanto isso, o Departamento Federal de Desenvolvimento Econômico disse que a lei canadense “poderia potencialmente” regular a coleta corporativa de informações pessoais, sob a Lei de Proteção de Informações Pessoais e Documentos Eletrônicos, ou PIPEDA.

ASSISTA | A inteligência artificial pode representar uma ameaça de extinção para os humanos, alerta especialista:

Inteligência artificial pode representar ameaça de extinção para os humanos, alerta especialista

Um novo relatório está alertando o governo dos EUA que se os laboratórios de inteligência artificial perderem o controle de sistemas de IA super-humanos, isso pode representar uma ameaça de extinção para a espécie humana. O CEO da Gladstone AI, Jeremie Harris, que foi coautor do relatório, se juntou à Power & Politics para discutir os perigos do rápido avanço dos sistemas de IA.

“Se, por exemplo, uma força policial, incluindo a RCMP, contratar atividades que utilizam informações pessoais para uma empresa privada que conduz atividades comerciais, então essas atividades poderiam ser potencialmente regulamentadas pela PIPEDA, incluindo serviços relacionados a tecnologias de reconhecimento facial”, disse o departamento.

A polícia provincial de Quebec também tem contrato com a Idemia, mas não disse exatamente como usa a tecnologia da empresa.

Em uma declaração por e-mail, a polícia disse que seu “sistema automatizado de comparação de rostos não é usado para verificar a identidade de indivíduos. Esta ferramenta é usada para investigações criminais e é limitada às folhas de dados de indivíduos que tiveram suas impressões digitais coletadas sob a Lei de Identificação de Criminosos”.

A especialista em governação de IA Ana Brandusescu sa Oidttawa e as forças policiais do país não atenderam aos apelos por uma melhor governação, transparência e responsabilização na aquisição de tecnologia de reconhecimento facial.

“A polícia não está ouvindo acadêmicos, especialistas da sociedade civil, pessoas com experiência de vida, pessoas que são diretamente prejudicadas”, disse ela.

Fuente