O pesquisador em tecnologia, sociedade e comunicação Tarcízio Silva acaba de lançar um livro em que investiga o racismo algorítmico nos mecanismos de inteligência artificial e as consequências do problema para o reforço de preconceitos e discriminações.
Com o título Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais, o livro propõe uma reflexão crítica sobre como são organizados sistemas que vão desde aplicativos de reconhecimento facial a filtros de fotos, passando até mesmo por modelos de concessão de crédito.
Segundo o pesquisador, a intenção é entender como as tecnologias digitais podem potencializar práticas racistas. "As plataformas que utilizam essas tecnologias dominam, basicamente, todas as esferas da nossa vida", pontua.
Ouça a íntegra da entrevista com Tarcízio Silva no tocador de áudio abaixo do título desta matéria.
:: BdF explica por que o antirracismo é único caminho para desenvolvimento pleno do Brasil ::
Capa do livro Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais, de Tarcízio Silva / Divulgação
Os racistas por trás das máquinas
"Não que os algoritmos sejam racistas. A questão não é pensar que um sistema tem sua agência própria ou tem vontade própria. Mas sim o inverso, o algorítimo como qualificador do racismo. As práticas discriminatórios utilizam os algoritmos para intensificar a exploração em várias esferas diferentes."
O pesquisador alerta para os riscos que essa dinâmica representa. "Pode infringir diversos direitos que envolvem minorias raciais, mas a população como um todo também", afirma Tarcízio Silva.
Ele demonstra preocupação, por exemplo, com a automatização da moderação e da identificação de discursos de ódio. "Se os sistemas que fazem isso realizam decisões que excluem determinados grupos de uma forma mais intensa, isso é um grande problema para a democracia e para o futuro".
Ainda de acordo com o autor, a raiz do problema está na própria sociedade. Segundo ele, "muito do que acontece é fruto de processos históricos. Um exemplo é o apagamento de determinados tipos de conhecimento. A própria ideia de 'neutralidade da tecnologia' favorece as grandes empresas que utilizam a tecnologia para ordenar o mundo do jeito que desejam".
Na publicação, o pesquisador aponta possibilidades de reações possíveis para combater esse cenário. A regulação das empresas de tecnologia por parte dos governos e a participação popular no debate são passos essenciais.
O livro foi lançado em formato digital nas principais plataformas e apps de leitura e integra a Coleção Democracia Digital, iniciativa da Edições Sesc.
