Era para ser mais uma ação burocrática da vida cotidiana quando a jovem Maria Otília se dirigiu, no dia 15 de julho, a uma delegacia da Polícia Civil do Distrito Federal (PCDF), localizada no Cruzeiro, para emitir a nova carteira de identidade. Otília é uma mulher negra de 20 anos e para sua surpresa o seu cabelo black power não foi reconhecido pelo sistema de identificação biométrico da PCDF.
Ao se posicionar para o registro fotográfico, o sistema automatizado não reconheceu seu cabelo. “O sistema não configurou meu cabelo crespo volumoso como um cabelo, me deixou careca e em outro momento esbranquiçou toda a parte do meu cabelo. Me senti violada em todos os sentidos, pediram para amarrar meu cabelo e ao amarrar o sistema aceitou na foto da identidade”, relata Otília que é natural de Palmas (TO) e mora em Brasília há quatro meses onde cursa o primeiro período de Ciência Política na Universidade de Brasília (UnB).
A estudante observa que as atendentes da PCDF tentaram alternativas, mas sem sucesso. Várias fotos foram tiradas, Otília enviou fotos pessoais, mas ainda assim o sistema não reconheceu.
“Não reconheceu meu cabelo de forma alguma. Falaram que era porque meu cabelo é preto. Mas, tinha uma menina do meu lado com o cabelo também preto. E meu cabelo não é preto, é castanho e está com pontas claras.”, conta Otília ao relatar o constrangimento.
Depois de muitas tentativas, em razão da necessidade, Otília explica que escolheu uma foto com fundo azul em que uma parte do cabelo ficou branco. “Como preciso muito da identidade aceitei”.
Para a estudante, que integra a Frente Negra de Ciência Política – Ubuntu, o episódio tem nome: “desde o início eu intitulei como racismo”.
Racismo Algorítmico
Para o pesquisador Tarcízio Silva, especialista no tema, o caso de Maria Otília se configura como racismo algorítmico. “Já foi identificado que parte dos sistemas desenvolvidos para reconhecimento facial ou de validação através de visão computacional para fotos em cadastros não funcionam corretamente para amplitude de diversidade de pessoas”, destaca.
A situação também revela uma infração no direito de acesso a serviços públicos. “Esse tipo de falha pode ser considerada um exemplo claro de negligência e por si só é um escândalo. Além de ter impactado individualmente a sua vida, significa também que o Estado e as instituições responsáveis pela contratação ou desenvolvimento desse sistema não fizeram testes adequados”, ressalta Silva, que é autor do livro Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais.
“É completamente inaceitável a implementação de um serviço com esse nível de falha, que é muito grave”, reafirma Tarcízio Silva.
O Brasil de Fato DF questionou a PCDF sobre qual o sistema de reconhecimento facial utilizado para emissão da carteira de identidade; qual empresa ou órgão é responsável pelo desenvolvimento do sistema; se foram realizados testes de diversidade étnico-racial antes da implementação; e se existem protocolos para revisão humana em casos de falhas.
Além dessas questões, também foi perguntado se existem registros de outros casos semelhantes. Embora tenha retornado o e-mail confirmando o recebimento da demanda, até a publicação desta matéria não houve resposta do órgão.
“Apagar o cabelo de uma jovem é um ponto ainda mais profundo sobre a violência, porque é uma violência racial muito explícita. Significa literalmente o apagamento de características físicas ou fenotípicas de uma pessoa ligada às suas origens étnico-raciais”, pontua Silva.
O que fazer?
Para o advogado e pesquisador em Direitos e Relações Raciais da UnB, Fernando Nascimento dos Santos, a tecnologia reproduz o racismo presente na sociedade brasileira.
“O racismo está na tecnologia baseada em algoritmos que, na prática, reproduz um racismo institucional, praticado pelo Estado brasileiro, por meio de suas instituições, no caso de segurança pública”, explica Santos.
De acordo com o advogado, é necessário que em situações como essa – de racismo institucional – a vítima registre um boletim de ocorrência e procure o Ministério Público. “O MP pode avaliar essa conduta e outras que eventualmente tenham sido praticadas no âmbito do uso dessa tecnologia, porque talvez possa caracterizar até uma violação a um grupo étnico racial passível inclusive de uma ação civil pública buscando a responsabilização do Estado”, orienta o advogado.
O Núcleo de Enfrentamento à Discriminação (NED) do Ministério Público do Distrito Federal e Territórios (MPDFT), registrou 50 denúncias de discriminação, racismo ou injúria racial em 2022. O órgão informou que até a publicação desta reportagem não houve registros de denúncia de racismo algorítmico, tendo em vista que é uma discussão “relativamente nova”.
Como jovem negra, Otília é consciente do racismo estrutural que entranha a sociedade brasileira. Segundo ela, ter sofrido racismo institucional a assustou, porque órgãos públicos devem saber exatamente como tratar pessoas negras. “Não imaginava que ao tirar minha identidade me depararia com isso. Foi sobre quem eu sou, não ter meu cabelo reconhecido é desconfigurar quem sou, é tirar minha identidade. Mas não aceitarei essa foto como ficou e quero uma foto com meu cabelo da forma que ele é!”, pontua.
Otília conclui: “Sei que é extremamente importante publicizar isso, tenho certeza que não sou a primeira, mas espero ser a última a passar por isso.”
