“Apartheid digital” é um dos muitos novos termos que vemos atualmente e que aborda as limitações da internet e de como as grandes plataformas tecnológicas têm o poder de escolher o conteúdo que vemos nos nossos feeds, por vezes levando a um sufocamento e à censura de vozes políticas que se opõem à dissidência e ao esquecimento.
Nos últimos tempos, os utilizadores tornaram-se mais conscientes da onda de censura que tem sido reforçada pelas plataformas através de “shadow banning“, uma forma de censura que restringe a visibilidade de determinados conteúdos sem informar os utilizadores, e de acusações de “violação das diretrizes da comunidade”. Estes são apenas alguns dos muitos termos usados para silenciar as vozes que falam sobre o genocídio em curso na Palestina desde 9 de outubro.
A história tem testemunhado como as crises humanitárias se agravaram em situações de guerra. No entanto, a diferença nas guerras que testemunhamos nesta época é o poder da internet e o papel das grandes plataformas tecnológicas. Depois de a Rússia ter invadido a Ucrânia, pudemos ver o papel que as redes sociais desempenharam, amplificando as vozes das pessoas que sobreviveram à guerra. Houve um aumento no ativismo de guerra digital, no qual as plataformas de redes sociais escolheram um lado e forneceram os seus serviços de uma maneira que ajudasse os cidadãos ucranianos.
Embora esta medida tenha ajudado a elevar as vozes e destacado potenciais crimes de guerra, que ocorreram durante este período, vale a pena questionar se os mesmos padrões estão a ser aplicados a países que não fazem parte do norte global. A mais recente eclosão do conflito Palestina-Israel trouxe à tona uma série de questões sobre as grandes plataformas tecnológicas que optam por amplificar determinadas vozes em determinadas crises humanitárias, enquanto optam convenientemente por ignorar outras.
De acordo com um relatório de 2017 da Amnistia Internacional, os modelos algorítmicos e os interesses lucrativos da Meta levaram a que as atrocidades durante a crise dos muçulmanos Rohingya, em Mianmar (outubro de 2016–janeiro de 2017), fossem amplificadas. As forças de segurança em Mianmar realizaram uma ampla campanha de limpeza étnica no Facebook, plataforma da Meta, o que levou a graves violações dos direitos humanos e incitou ainda mais o ódio, a violência e a discriminação contra a comunidade. Os conteúdos de ódio aumentaram no Facebook e, em 2018, a empresa admitiu não ter feito o suficiente para evitar a escalada deste conteúdo nas suas plataformas. Isso levou a que a plataforma a fosse processada no Reino Unido e nos EUA. O caso ainda está em curso.
Mais recentemente, de acordo com a ONG palestiniana 7amleh (Centro Árabe para o Avanço das Redes Sociais), entre 7 de outubro e 14 de novembro, foram verificadas 1447 violações dos direitos digitais palestinianos. Este número inclui 573 casos de restrições de conta ou remoção de conteúdo dos utilizadores e apoiantes palestininianos. Foram também verificados de forma manual 904 casos de discurso de ódio, incitação à violência e outras formas de violência on-line facilitada pela tecnologia.
A 7amleh desenvolveu um modelo de linguagem baseado em inteligência artificial que monitoriza a propagação do discurso de ódio em hebraico contra palestinianos e ativistas pró-Palestina em plataformas digitais. O indicador de violência documentou mais de um milhão de casos de discursos de ódio em todas as plataformas, a maioria dos quais foi encontrada no X (antigo Twitter). De acordo com a 7amleh, 68% dos casos documentados de discurso e incitamento ao ódio baseavam-se em filiações políticas e/ou sentimentos nacionalistas, 29% em preconceitos raciais e os restantes incluíam violência sexual e violência religiosa, entre outros.
Recentemente, utilizadores de todo o mundo notaram que as grandes plataformas tecnológicas foram minimizando o seu alcance orgânico, com os utilizadores a relatar que seu conteúdo, particularmente relacionado com o genocídio e a guerra que acontecem em Gaza, foi distribuído para menos pessoas. Várias pessoas e ativistas que publicam conteúdo pró-Palestina relataram que estão a sofrer de shadow banning nas grandes plataformas tecnológicas como o Facebook, Instagram, X, YouTube e TikTok.
O Instagram também tem sido acusado de remover contas pró-Palestina, que são uma fonte de notícias para inúmeras pessoas on-line, como a @eye.on.palestine, que foi removida anteriormente e recentemente reintegrada na plataforma, com 8,8 milhões de seguidores. O Instagram também tem sido criticado por adicionar a palavra “terrorista” às biografias de usuários que se descrevem como palestinianos na plataforma. A crise já está sendo chamada de “nevoeiro de guerra impulsionada por algoritmos”, com o uso crescente da inteligência artificial e da IA generativa para espalhar desinformação contra vozes pró-Palestinianas.
Grupos internacionais de defesa dos direitos humanos, como a Amnistia Internacional e o Access Now, também emitiram declarações sobre o racismo e o discurso de ódio que os palestinianos enfrentam on-line e a necessidade das plataformas fazerem mais em tempos de crise, em vez de censurarem e proibirem cidadãos que já testemunham uma guerra em curso no terreno.
Para travar este bloqueio específico das plataformas de redes sociais, alguns utilizadores têm feito “pausas de algoritmo” e “enganado os algoritmos” publicando histórias normais e, no meio, adicionando histórias da guerra em curso.
Os utilizadores também adicionaram sons de bipes para ocultar narrações, alteraram a grafia de palavras comuns em inglês e árabe como “Palestina”, “genocídio” e “Hamas” para evitar a deteção e colocaram mensagens entre as publicações regulares e reels com imagens e vídeos de Gaza sobre o genocídio em curso para espalhar a palavra. Alguns usuários estão a adotar o “algospeak“, onde criam novas palavras no lugar de palavras-chave para que não sejam detetados por algoritmos e removidos das plataformas, uma tática de evasão usada para combater a moderação automática nas redes sociais.
A Global Voices conversou via LinkedIn com Mona Shtaya, uma ativista dos direitos digitais radicada na Palestina, sobre o apartheid digital que os cidadãos palestinianos têm vivido e a importância das grandes plataformas tecnológicas durante este período. Ela disse
Dada a cobertura inadequada e tendenciosa dos principais meios de comunicação internacionais e a perseguição de jornalistas, as plataformas de redes sociais deveriam servir como um meio para os palestinianos partilharem a sua narrativa. No entanto, a realidade é completamente diferente.
Mona Shtaya, ativista dos direitos digitais radicada na Palestina
Estas plataformas censuram fortemente as vozes palestinianas, proíbem os palestinianosos e os seus apoiantes e violam os seus direitos à liberdade de expressão, reunião, acesso à informação, participação política e proteção contra a discriminação. Estas violações assemelham-se muito às testemunhadas em 2021 (na Palestina), representando uma supressão sistemática e deliberada das vozes palestinianas, conforme confirmado pelo relatório da Sustainable Business Network and Consultancy (BSR). Este facto evidencia o fracasso das plataformas em defender os princípios fundamentais dos direitos humanos.
Shtaya acrescentou que as falhas algorítmicas e o “shadowbanning” de conteúdo pró-Palestina estão a causar problemas para as pessoas que tentam partilhar suas histórias com o mundo, apelando um cessar-fogo imediato.
Ela acrescenta: “A censura nas redes sociais está a sufocar-nos, a agravar o nosso sofrimento e a luta contra a discriminação sistémica, além de amplificar a autocensura e a criar um efeito assustador, agravando a opressão enfrentada pelas comunidades marginalizadas”.
Sobre o que o público pode fazer para ajudar, Shtaya diz:
As pessoas devem estar conscientes de que podem ser vítimas de desinformação e de narrativas unilaterais. A censura das redes sociais impede os palestinianos de partilhar as suas perspetivas. Portanto, o público em geral deve verificar proativamente a veracidade das notícias que recebe sobre os acontecimentos no terreno e garantir que se envolve e ouve a narrativa palestinianaa. Além disso, os indivíduos devem apoiar as vozes palestinianas, seguindo contas palestinianas e partilhando os seus conteúdos.
Mona Shtaya, ativista dos direitos digitais radicada na Palestina
Em tempos de crise humanitária, as redes sociais provaram ser o único meio de documentar acontecimentos e educar as pessoas em todo o mundo sobre os abusos e o sofrimento no terreno. O facto de as plataformas optarem por discriminar certas identidades constitui uma grave violação dos direitos humanos e criam um apartheid digital que apenas agrava as crises.
Seerat Khan é a responsável pelos programas da Digital Rights Foundation no Paquistão e tem realizado um extenso trabalho sobre género e tecnologia nos últimos sete anos. Trabalha sobretudo com mulheres defensoras dos direitos humanos e mulheres jornalistas em temas-chave como a proteção de dados, a segurança online, género, a privacidade e a desinformação.
Este artigo, escrito por Seerat Khan e traduzido por Hani Hassan, foi originalmente publicado no site Global Voices Online e republicado em português de Portugal n’o largo. ao abrigo da licença Creative Commons CC BY 3.0.
