Não vemos a diferença entre as cores e se não vemos, não existe

. Quando problemas afetam grupos específicos e não temos dados precisos sobre esses grupos, torna-se praticamente impossível desenvolver diagnósticos

Author Photo
por ABES
7:30 am - 20 de novembro de 2023

Fui uma criança negra que cresceu em uma região periférica da zona sul de São Paulo, durante um período em que a cidade estava em constante desenvolvimento por meio da autoconstrução, ao mesmo tempo em que se consolidava como a capital mais violenta do país. Na década de 80, era comum ouvir notícias de homicídios que ocorreram próximo da minha casa e, não raramente, deparava-me com vítimas de morte violenta na porta da padaria que frequentava ou no trajeto para a escola.

Anos depois, na minha juventude, estava na faculdade cercado por colegas muito diferentes de mim em termos de origem, objetivos e, claro, etnia. Os marcadores sociais da diferença atravessam a construção dos nossos interesses moldando-os, impulsionando-os e, em algumas situações, até mesmo motivando seu abandono frente às vivências do dia a dia, do ambiente social e da cultura em que estamos inseridos. Não por acaso os assuntos que mais me cativaram na academia foram os estudos urbanos, em seu sentido amplo, e a demografia e a sociologia da violência, mais especificamente.

Durante meu mestrado, elaborei uma dissertação sobre o uso de técnicas e análises geoestatísticas para a compreensão da dinâmica espaço-temporal dos assassinatos registrados na cidade de São Paulo. Já no doutorado, minha tese se concentrou no movimento intraurbano do crime paulistano, à luz da influência da heterogeneidade socioespacial sobre as taxas de homicídios dolosos. Neste ponto da minha trajetória, finalmente chegamos à questão central deste artigo: Tanto na minha dissertação quanto na minha tese, não realizei qualquer investigação aprofundada da relação entre homicídios e raça/cor/etnia.

É fácil encontrar estudos publicados em revistas acadêmicas inferindo que as condições sociais desempenham um papel crucial nas manifestações sociais e, consequentemente, podem influenciar o risco de problemas sociais, como os relacionados à saúde e à segurança pública. Em muitos desses estudos, é possível concluir que as características etárias, de instrução, renda e etnia podem tornar um grupo social mais ou menos vulnerável aos problemas mencionados anteriormente. Além disso, são abundantes as evidências que apontam que a população negra é a mais afetada pelas mortes violentas no Brasil.

Então, por que não considerei a questão étnico-racial em minhas pesquisas? A resposta é direta e bastante simples: os dados aos quais tive acesso não eram completos, nem de qualidade suficiente para permitir a análise da variabilidade nos registros de homicídios, nem e os fatores que contribuem para essa dispersão, especialmente em relação à raça/cor das vítimas.

É notável que apenas a partir da década de 1990 o Brasil tenha começado a incluir o quesito raça/cor em seus sistemas de informação, sobretudo no que se refere à mortalidade e morbidade na área da saúde. A inclusão deste quesito tem evoluído ao longo do tempo, mas essa melhoria não ocorre de maneira uniforme.

Diferenças significativas devem ser consideradas, incluindo o profissional responsável pelo preenchimento, o serviço de saúde, o município em questão e até mesmo o código da Classificação Internacional de Doenças (CID) em consideração. Mas, ouso generalizar que o preenchimento de causas externas na área da saúde, equiparável aos registros de homicídios na esfera da segurança pública, emerge como uma das questões mais adversas dentro desse processo.

Também é preocupante notar a frequente ocorrência de respostas como “ignorado,” “em branco” ou a designação “null” nesses dados. Tal realidade tem contribuído para a desvalorização de ambas as informações, comprometendo a construção de indicadores robustos de iniquidade e mortalidade, por exemplo, e prejudicando o desenvolvimento de políticas eficazes de prevenção, proteção e assistência.

E, hoje, surge mais uma preocupação relacionada ao contexto atual e ao futuro próximo. Quando problemas afetam grupos específicos e não temos dados precisos sobre esses grupos, torna-se praticamente impossível desenvolver diagnósticos precisos e tecnologias apropriadas para resolver questões recorrentes e atender às necessidades desses grupos de maneira adequada.

Os dados relacionados à raça/cor/etnia desempenham um papel crucial no desenvolvimento e funcionamento de processos e técnicas, especialmente em algoritmos de aprendizado de máquina, e ferramentas relacionadas, que dependem de grandes conjuntos de dados para seu treinamento. A ausência desses dados pode ser extremamente problemática, uma vez que a falta de informações qualificadas pode levar a decisões injustas e prejudiciais quando a tecnologia é utilizada.

A falta de análises sobre homicídios com base na etnia, tanto nos meus trabalhos quanto em estudos semelhantes, clama por inclusão. Isso nos oferece a oportunidade de destacar a importância de coletar dados pessoais precisos (com respeito às comissões de ética e à Lei Geral de Proteção de Dados Pessoais – LGPD) e relacioná-los aos fatores sociais que realmente afetam a forma como as pessoas vivem e morrem em nossa sociedade.

A carência de informações relacionadas à origem racial ou étnica não apenas dificulta a implementação de políticas públicas efetivas, mas reflete a atual ineficácia em desenvolver avaliações, estratégias, tecnologias e intervenções legitimamente voltadas à redução das desigualdades.

Se compartilharmos da mesma visão, acredito que reconhecemos a importância de entender melhor o perfil das vítimas de violência e minuciar as populações potencialmente mais afetadas. Estamos contemplando o desenvolvimento de tecnologias que sejam imparciais, como sistemas de reconhecimento facial e algoritmos de detecção em inteligência artificial, sem viés racial. Além disso, estamos levando em conta a necessidade de identificar e dissuadir os discursos de ódio e discriminação, com ética. Essas considerações se aplicam também a plataformas, assistentes virtuais e ferramentas culturalmente sensíveis que desempenham papéis importantes em áreas como educação, comunicação, etnicidade, inclusão e mobilização.

Em última análise, é imprescindível reconhecer a magnitude do impacto da rigorosa coleta de dados na identificação de demandas compartilhadas por um grupo de indivíduos, distinguindo-os de outros grupos, e na conscientização sobre a importância das tecnologias que reconheçam as discriminações digitais e algorítmicas, que podem ocorrer de forma não intencional ao reproduzir vieses e estereótipos arraigados na sociedade. Neste momento, é fundamental compreender que os sistemas tecnológicos, especialmente aqueles baseados em inteligência artificial, que rotineiramente não recebem informações completas, são incapazes de reconhecer as nuances. Na melhor das hipóteses, eles falham em identificar as cores com precisão, e na pior, sofrem de cegueira seletiva quanto as diferenças sociais e raciais, perpetuando a nociva ideia de que “se não vejo, não existe”.

MARCELO NERY Não vemos a diferença entre as cores e se não vemos, não existeMarcelo Batista Nery é pesquisador no Think Tank da ABES, coordenador de Transferência de Tecnologia e Head do Centro Colaborador da OPAS/OMS (BRA-61) do Núcleo de Estudos da Violência da Universidade de São Paulo.

Newsletter de tecnologia para você

Os melhores conteúdos do IT Forum na sua caixa de entrada.