Christian Gonzatti, influenciador digital e cientista da comunicação, vem denunciando a violência algorítmica há uma década. Ele observa que os algoritmos das redes sociais tendem a dar menos visibilidade a conteúdos LGBTQIA+ que produz, sem transparência sobre os termos que podem ser considerados "proibidos".
Gonzatti, que ensina na Universidade do Vale do Rio dos Sinos (Unisinos), começou seu trabalho no canal Viado Nerd, abordando temas culturais dentro da comunidade LGBTQIA+. Ele relata que o algoritmo não consegue interpretar o contexto, tratando termos como "viado" como negativos, mesmo quando ressignificados pelo movimento. Apesar de renomear seu projeto para Diversidade Nerd, ele continua a enfrentar problemas de visibilidade e alcance.
A violência algorítmica não se limita a um único exemplo. Ela se manifesta em sistemas de reconhecimento facial que discriminam etnias não brancas e na disseminação de fake news que amplificam discursos de ódio. Alexandre Gonçalves, cientista da computação, destaca que algoritmos podem forçar trabalhadores a aumentarem sua produtividade, ignorando limites humanos e configurando uma forma de violência.
Daniel Trielli, professor de mídia na Universidade de Maryland, define a violência algorítmica como um ataque que se integra a sistemas computacionais. Essa forma de agressão não apenas intensifica violências tradicionais, mas também cria novas dinâmicas de opressão.
A expressão "violência algorítmica" surgiu no início da década passada e é discutida por acadêmicos e artistas. Os pesquisadores Haide Maria Hupffer e Gabriel Cemin Petry, da Unisinos, destacam que o conceito é fundamentado em desigualdades sociais e discriminação algorítmica. A antropóloga Larissa Pelúcio ressalta que algoritmos não são neutros; eles refletem preconceitos existentes na sociedade.
No Brasil, a situação é agravada por uma combinação de intensa presença digital e profundas desigualdades sociais. Pelúcio observa que a violência algorítmica atinge desproporcionalmente populações marginalizadas, como negros, indígenas e a comunidade LGBTQIA+.
Em 2021, o Conselho Nacional de Justiça iniciou um estudo sobre reconhecimento facial, revelando que 83% dos casos de identificação errônea que resultaram em prisões preventivas envolveram pessoas negras. Isso exemplifica como o racismo estrutural se transforma em racismo digital quando dados tendenciosos são utilizados para treinar algoritmos.
Além disso, o "pânico moral" amplificado pelas redes sociais favorece conteúdos baseados em medo e indignação, tornando discursos de ódio mais comuns. Gonçalves alerta que a periferia tecnológica do Brasil pode resultar em decisões ainda mais enviesadas, devido à inadequação dos dados às particularidades demográficas.
Apesar de o Brasil ter reconhecido a proteção de dados pessoais como um direito fundamental, especialistas afirmam que é vital implementar medidas de educação digital e regulamentação das big techs. A conscientização sobre o uso responsável de dados e a criação de políticas públicas que responsabilizem empresas por danos algorítmicos são passos essenciais na luta contra a violência algorítmica.
Deixe seu e-mail abaixo para garantir acesso a tutoriais exclusivos, novos conteúdos do projeto e nossos lançamentos em primeira mão.