POR DARIO AZZELINI PARA O NEUES DEUTSCHLAND

O Facebook está sempre no centro dos escândalos. Apenas alguns meses atrás, Frances Haugen , ex-gerente sênior de produtos da Team Civic Misinformation, fez sérias alegações contra o Facebook e as apoiou com documentos internos. A equipe que ela liderou deveria combater a desinformação e o discurso de ódio no Facebook, mas Haugen rapidamente concluiu que a tarefa era incontrolável e a administração também não a queria. Porque ódio, mentiras e provocações geram empolgação e, portanto, mais cliques e mais interação – e essa é a base do negócio.

Haugen teve a impressão de que o Facebook não estava interessado em combater a desinformação e o discurso de ódio, disse ela à mídia dos EUA e também testemunhou em uma audiência perante o Congresso dos EUA em 5 de outubro de 2021. Os resultados de suas próprias investigações internas sobre os efeitos negativos sobre crianças e jovens ou informações falsas, apelos à violência, postagens de ódio etc. foram ignorados e encobertos pela administração da empresa. Isso sem falar na pesquisa científica externa.

É “mais fácil para o Facebook e seu algoritmo inspirar as pessoas à raiva do que qualquer outra emoção”, disse Haugen no programa 60 Minutes da CBS. Ela disse a Jan Böhmermann no canal ZDF-Magazine Royale no YouTube: “Você conhece os problemas que esses produtos criam e simplesmente não faz nada a respeito. Só porque você não quer abrir mão dos menores lucros.«

Com base na minha experiência pessoal com o Facebook, só posso confirmar essa crítica. As declarações do denunciante e os estudos científicos sobre a conexão entre os preconceitos (conscientes ou inconscientes) dos programadores e as decisões dos algoritmos alimentam a suspeita de que o Facebook poderia ter uma tendência a ignorar ou mesmo enfatizar conteúdos discriminatórios. Eu tenho um longo histórico de banimentos repetidos no Facebook. Estas referem-se quase exclusivamente a postagens antifascistas. Apenas em um caso fui banido por um comentário em um debate linguístico. Tratava-se dos inúmeros usos possíveis de uma palavra ou raiz de palavra no espanhol venezuelano. Sugeri a possibilidade de usar o termo como “golpe”.

Minha última proibição de sete dias para postagens ou comentários foi porque eu postei na página do Facebook de um amigo no Brasil que Reinhard Gehlen, o fundador do serviço secreto da Alemanha Ocidental BND após a Segunda Guerra Mundial, era nazista e meu comentário com uma foto adicionada por Gehlen de Wikipédia. O post do meu amigo que comentei era sobre que nazistas haviam feito carreira na Alemanha, Áustria, em instituições europeias e na OTAN após a Segunda Guerra Mundial. Consegui me opor ao meu bloqueio no Facebook. A objeção foi concedida, mas 15 minutos depois fui bloqueado novamente pela mesma postagem sem a possibilidade de objeção.

Em 2021 fui banido várias vezes. Em 30 de abril, porque no dia em que Adolf Hitler se suicidou em 1945 no chamado Führerbunker em Berlim, eu tinha um conhecido estêncil (um modelo para grafite) com a imagem estilizada do suicídio de Hitler e o slogan “Siga seu líder « (Siga o guia) tinha postado. Pouco tempo depois, o algoritmo do Facebook descobriu minha postagem no aniversário da (auto) libertação do fascismo na Itália em 25 de abril de 1945: uma foto bem conhecida mostrando os corpos de Mussolini e outros líderes fascistas, executados por guerrilheiros e depois pendurado de cabeça para baixo na Piazzale Loreto, em Milão. Na Itália, esta imagem pode ser encontrada repetidamente na mídia no aniversário, e obviamente eu não era o único a tê-la postado.

Então encontrei um meme que tinha a cabeça de Mussolini três vezes certa e uma vez errada. Sob as três primeiras cabeças estava “Facebook, Instagram e Twitter“, sob a quarta estava “Piazzale Loreto”. Depois fui banido novamente. Outras proibições se seguiram porque o Facebook descobriu que eu também havia postado a conhecida foto da Piazzale Loreto em anos anteriores. A razão que me foi dada foi que eu havia violado os “padrões da comunidade”. Somente em casos excepcionais eu poderia recorrer e, quando o fiz, não tive êxito. Isso não deveria ser uma surpresa: mesmo em regimes autoritários, a dissidência não é bem-vinda.

Aproveitei essa experiência como uma oportunidade para realizar meu próprio pequeno estudo empírico. Nos meses que se seguiram, denunciei um total de cerca de 400 postagens e comentários racistas, antissemitas, islamofóbicos, misóginos e fascistas no Facebook em alemão, inglês, espanhol e italiano. As postagens que denunciei foram excluídas em menos de dez casos, embora várias postagens na Alemanha e na Itália também fossem relevantes sob o direito penal.

Vários posts que o Facebook parecia não violar os “padrões da comunidade” incluíam pedir ou exigir que os refugiados fossem baleados ou afogados; Rotular mulheres, homossexuais e pessoas de cor como inferiores ou comparar estes últimos a “escória” ou “verme”. Demandas para estuprar lésbicas também não violam os “padrões da comunidade”. Embora os comentários nas páginas do Facebook da mídia italiana tenham sido particularmente agressivos, eles não foram excluídos por esses meios (principalmente o jornal diário La Repubblica) nem bloqueados pelo Facebook. Dois exemplos marcantes da Alemanha que não foram bloqueados: a comemoração do aniversário de um “certo Adolf” em 20 de abril, e a postagem de que problemas com a cremação de cadáveres em Dresden no auge da pandemia de Covid eram um indício para poder duvidar da existência de campos de extermínio dos nazistas.

Está ficando claro que a prática do Facebook vai além de simplesmente ignorar ou permitir notícias falsas e ódio. Os algoritmos, a inteligência artificial (IA) e os funcionários responsáveis ​​toleram a maioria dessas postagens e ignoram as críticas a elas.

Ao contrário da opinião popular de que a IA e os algoritmos que foram criados são neutros, pode-se dizer que a inteligência artificial é programada por pessoas. E essas pessoas são em sua maioria brancas, masculinas, heterossexuais e do Norte Global, enquanto que seus preconceitos são perpetuados.

Estudos científicos de softwares de avaliação de aplicativos mostram que a IA geralmente avalia pessoas de pele escura ou lenços na cabeça pior do que pessoas de pele branca. Isso também se aplica a concursos de beleza online. Os programas de reconhecimento facial reconhecem rostos escuros pior do que os brancos e são considerados mais suspeitos em softwares de segurança e vigilância. É razoável supor que o viés político de muitos programadores se reflita na IA.

Em outras palavras: o capital, a burguesia e a pequena burguesia sempre classificam as visões e atividades de esquerda, socialistas e comunistas como mais ameaçadoras do que as visões e atividades de direita e extrema direita. Então, por que a IA deveria agir de forma diferente? E se os funcionários no Facebook que verificam oficialmente os relatórios dos usuários tendem a compartilhar essas opiniões ou estão tão sobrecarregados e sobrecarregados que concordam com a IA, ainda não se sabe.  Está claro que isso não altera o resultado.

Este texto foi escrito originalmente em alemão e publicado pelo jornal “Neues Deutschland”.

Related Links:

Related Content:
Hinsehen und Wegschauen Probleme mit Facebook