{"id":53601,"date":"2024-01-09T23:47:09","date_gmt":"2024-01-10T02:47:09","guid":{"rendered":"https:\/\/cj.estrategia.com\/portal\/?p=53601"},"modified":"2024-01-23T07:52:56","modified_gmt":"2024-01-23T10:52:56","slug":"reconhecimento-facial-e-os-riscos-do-racismo-algoritmico","status":"publish","type":"post","link":"https:\/\/cj.estrategia.com\/portal\/reconhecimento-facial-e-os-riscos-do-racismo-algoritmico\/","title":{"rendered":"Reconhecimento facial e os riscos do racismo algor\u00edtmico"},"content":{"rendered":"\n

Ol\u00e1, pessoal!<\/p>\n\n\n\n

Sou o professor Allan Joos, defensor p\u00fablico e professor no Estrat\u00e9gia Carreira Jur\u00eddica e trouxe abaixo uma an\u00e1lise para reflex\u00e3o sobre o tema: Reconhecimento facial e os riscos do racismo algor\u00edtmico<\/strong>.<\/p>\n\n\n\n

Nos \u00faltimos dias, se propagou nas redes sociais e p\u00e1ginas de not\u00edcias a libera\u00e7\u00e3o de duas pessoas que foram presas indevidamente por um sistema de reconhecimento facial implantado no Estado do Rio de Janeiro. Dentre as p\u00e1ginas de not\u00edcia, destaca-se a CNN que publicou reportagem com o seguinte t\u00edtulo: \u201cdois dos quatro presos por reconhecimento facial no Rio de Janeiro s\u00e3o liberados\u201d[1]<\/a><\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Essas duas pris\u00f5es chamaram a aten\u00e7\u00e3o por terem resultado na apreens\u00e3o de pessoas cujos mandados de pris\u00e3o j\u00e1 haviam sido revogados h\u00e1 anos, por\u00e9m sem atualiza\u00e7\u00e3o nos sistemas.<\/p>\n\n\n\n

Tais fatos nos faz refletir sobre a efici\u00eancia dos sistemas de reconhecimento pessoal no \u00e2mbito criminal.<\/p>\n\n\n\n

O primeiro dos problemas, que \u00e9 o erro relativo \u00e0 informa\u00e7\u00e3o inserida nos sistemas, j\u00e1 \u00e9 evidenciado logo no in\u00edcio do uso do reconhecimento facial na medida em que 2 das 4 primeiras pris\u00f5es realizadas foram irregulares.<\/p>\n\n\n\n

O segundo e talvez o mais grave, j\u00e1 que \u00e9 de dif\u00edcil corre\u00e7\u00e3o, \u00e9 o denominado racismo algor\u00edtmico, tema que, inclusive, j\u00e1 foi inserido no conte\u00fado program\u00e1tico de alguns concursos p\u00fablicos, como o da Defensoria P\u00fablica do Estado de S\u00e3o Paulo.<\/p>\n\n\n\n

O racismo algor\u00edtmico na criminologia refere-se \u00e0 utiliza\u00e7\u00e3o de algoritmos em sistemas judiciais e policiais que resultam em tratamentos desiguais baseados em ra\u00e7a. Isso pode se manifestar em decis\u00f5es de senten\u00e7a, monitoramento preditivo e aloca\u00e7\u00e3o de recursos. \u00c9 um verdadeiro reflexo do racismo j\u00e1 existente nos algoritmos da tecnologia da informa\u00e7\u00e3o.<\/p>\n\n\n\n

O racismo algor\u00edtmico na criminologia intensifica a discrimina\u00e7\u00e3o racial, aumentando o risco de pris\u00f5es injustas e perpetuando a desconfian\u00e7a nas institui\u00e7\u00f5es de justi\u00e7a. Acentua as disparidades sociais j\u00e1 existentes.<\/p>\n\n\n\n

Muitas s\u00e3o as causas desse \u201cv\u00edcio\u201d nos sistemas informatizados. Dentre elas, podemos citar o treinamento dos sistemas com dados hist\u00f3ricos enviesados, al\u00e9m da falta de uma avalia\u00e7\u00e3o cr\u00edtica nas decis\u00f5es algor\u00edtmicas, perpetuando estere\u00f3tipos racistas que importam na identifica\u00e7\u00e3o e pris\u00e3o de pessoas por quest\u00f5es ligadas \u00e0 apar\u00eancia, ra\u00e7a e comportamento.<\/p>\n\n\n\n

Se os dados hist\u00f3ricos usados para treinar os algoritmos refletirem preconceitos existentes no sistema de justi\u00e7a criminal, o algoritmo pode aprender e reproduzir esses vieses. Isso pode resultar em decis\u00f5es mais severas ou em uma vigil\u00e2ncia mais intensa para certos grupos \u00e9tnicos.<\/p>\n\n\n\n

O perfilamento racial impacta tamb\u00e9m na replica\u00e7\u00e3o de pr\u00e1ticas racistas pelos algoritmos na medida em que a avalia\u00e7\u00e3o dos sistemas de vigil\u00e2ncia, dentre eles os sistemas de reconhecimento facial, podem estar correlacionados com caracter\u00edsticas raciais como cor, identifica\u00e7\u00e3o de determinados grupos de determinadas regi\u00f5es, como favelas ou comunidades, levando a um perfilamento social e racial onde grupos minorit\u00e1rios s\u00e3o mais propensos a serem classificados como de alto risco, recebendo tratamentos mais rigorosos.<\/p>\n\n\n\n

Ainda, h\u00e1 os sistemas de vigil\u00e2ncia preditiva, que buscam prever a ocorr\u00eancia de crimes futuros, podem ser afetados por vieses raciais. Se os dados de treinamento indicarem uma maior incid\u00eancia de crimes em \u00e1reas predominantemente habitadas por minorias, o algoritmo pode direcionar mais recursos de vigil\u00e2ncia a essas comunidades, intensificando a presen\u00e7a policial e aumentando as chances de pris\u00f5es.<\/p>\n\n\n\n

Tamb\u00e9m as decis\u00f5es judiciais podem ser viciadas, j\u00e1 que em sistemas onde algoritmos influenciam as decis\u00f5es judiciais, como a fixa\u00e7\u00e3o de penas, vieses podem se manifestar. Se o algoritmo considerar erroneamente certos comportamentos ou caracter\u00edsticas como indicadores de maior periculosidade com base em estere\u00f3tipos raciais, isso pode resultar em senten\u00e7as mais severas para grupos espec\u00edficos.<\/p>\n\n\n\n

Algo como a falta de diversidade nas equipes que desenvolvem esses sistemas tamb\u00e9m podem resultar em reconhecimentos enviesados, pois se as equipes respons\u00e1veis pelo desenvolvimento desses algoritmos n\u00e3o forem diversas, podem n\u00e3o considerar devidamente as diferentes perspectivas e experi\u00eancias, aumentando o risco de incorporar vieses involunt\u00e1rios.<\/p>\n\n\n\n

Na interse\u00e7\u00e3o entre tecnologia e criminologia, o racismo algor\u00edtmico emerge como uma faceta cr\u00edtica, moldando n\u00e3o apenas sistemas de justi\u00e7a, mas tamb\u00e9m as din\u00e2micas sociais.<\/p>\n\n\n\n

V\u00e1rios estudos mostram a necessidade de melhor reflex\u00e3o sobre o uso de tecnologias para monitoramento. Neste ponto, inclusive, o Centro de Estudo de Seguran\u00e7a e Cidadania, CESeC, desenvolveu o projeto \u201cPan\u00f3ptico\u201d, que \u00e9 um projeto do Centro de Estudo de Seguran\u00e7a e Cidadania \u2013 CESeC – que monitora a ado\u00e7\u00e3o da tecnologia de reconhecimento facial pelas institui\u00e7\u00f5es de seguran\u00e7a p\u00fablica do Brasil[2]<\/a>.<\/p>\n\n\n\n

Este e diversos outros estudos apontam, em sua ess\u00eancia, que o reconhecimento facial possui erros operacionais e enviesamentos raciais e de g\u00eanero, refor\u00e7ando o racismo algor\u00edtmico.<\/p>\n\n\n\n

A conclus\u00e3o a que podemos chegar a partir das not\u00edcias trazidas no in\u00edcio do texto e dos estudos criminol\u00f3gicos, inclusive pesquisas j\u00e1 relacionadas \u00e0 tem\u00e1tica, \u00e9 que o uso dos algoritmos na seguran\u00e7a p\u00fablica merecem aten\u00e7\u00e3o especial e precisam ser objeto de muitas reflex\u00f5es, principalmente nas implica\u00e7\u00f5es discriminat\u00f3rias, sem qualquer avalia\u00e7\u00e3o humana, que sistemas como o de reconhecimento facial podem gerar na sociedade.<\/p>\n\n\n\n

\n\n\n\n

[1]<\/a> <https:\/\/www.cnnbrasil.com.br\/nacional\/dois-dos-quatro-presos-por-reconhecimento-facial-no-rio-de-janeiro-sao-liberados\/<\/a> > acesso em 08\/01\/2024.<\/p>\n\n\n\n

[2]<\/a> ,https:\/\/www.opanoptico.com.br\/#publicacoes> acesso em 08\/01\/2024.<\/p>\n\n\n\n

Quer saber tudo sobre concursos previstos?
Confira nossos artigos!<\/strong><\/span><\/h2>\n\n\n\n\n\n

Quer estudar para o concursos Jur\u00eddicos?<\/span><\/h2>\n\n\n\n

Gostou desta oportunidade e deseja se preparar para esse concurso? Ent\u00e3o, confira nosso curso exclusivo e inicie seus estudos agora mesmo:<\/em><\/p>\n\n\n\n

\"Assinaturas<\/span>
\n

Fa\u00e7a a sua assinatura!<\/span><\/h3>\n

Escolha a sua \u00e1rea.<\/span><\/p>\n