‘Leilão’ de mulheres muçulmanas da Índia mostra tecnologia armada para abuso

Seis meses atrás, a piloto Hana Khan viu sua foto em um aplicativo que parecia estar “leloando” dezenas de mulheres muçulmanas na Índia. O aplicativo foi rapidamente retirado do ar, ninguém foi cobrado e o problema foi arquivado – até que um aplicativo semelhante apareceu no dia de Ano Novo.

Khan não estava no novo aplicativo chamado Bulli Bai – um insulto para mulheres muçulmanas – que estava vendendo ativistas, jornalistas, um ator, políticos e a ganhadora do Prêmio Nobel Malala Yousafzai como empregadas domésticas.

Em meio à crescente indignação, o aplicativo foi retirado do ar e quatro suspeitos foram presos na semana passada.

Policiais escoltam Niraj Bishnoi, um homem de 20 anos que foi preso no estado oriental de Assam por supostamente criar o aplicativo Bulli Bai [Reuters]

Os leilões falsos que foram amplamente compartilhados nas redes sociais são apenas os exemplos mais recentes de como a tecnologia está sendo usada – muitas vezes com facilidade, velocidade e pouca despesa – para colocar mulheres em risco por meio de abuso online, roubo de privacidade ou exploração sexual.

Para as mulheres muçulmanas na Índia que são frequentemente abusadas online, é um risco diário, mesmo quando usam as redes sociais para denunciar o ódio e a discriminação contra a sua comunidade minoritária.

“Quando vi minha foto no aplicativo, meu mundo tremeu. Fiquei chateado e com raiva que alguém pudesse fazer isso comigo, e fiquei mais irritado quando percebi que essa pessoa sem nome estava se safando”, disse Khan, que apresentou uma queixa policial contra o primeiro aplicativo, Sulli Deals, outro termo pejorativo para mulheres muçulmanas.

“Desta vez, senti tanto medo e desespero que estava acontecendo novamente com meus amigos, com mulheres muçulmanas como eu. Não sei como fazê-lo parar”, disse Khan, uma piloto comercial de 30 anos, à Thomson Reuters Foundation.

A polícia de Mumbai disse que estava investigando se o aplicativo Bulli Bai era “parte de uma conspiração maior”.

Um porta-voz do GitHub, que hospedou os dois aplicativos, disse que tinha “políticas de longa data contra conteúdo e conduta envolvendo assédio, discriminação e incitação à violência.

“Suspendemos uma conta de usuário após a investigação de relatórios de tal atividade, que violam nossas políticas.”

Equívoco

Os avanços na tecnologia aumentaram os riscos para as mulheres em todo o mundo, seja trollagem ou doxxing com seus dados pessoais revelados, câmeras de vigilância, rastreamento de localização ou vídeos pornográficos deepfake com imagens adulteradas.

Deepfakes – ou mídia sintética gerada por inteligência artificial – são usados ​​para criar pornografia, com aplicativos que permitem aos usuários tirar a roupa das mulheres ou substituir imagens de seus rostos em vídeos explícitos.

O abuso digital de mulheres é generalizado porque “todo mundo tem um dispositivo e uma presença digital”, disse Adam Dodge, executivo-chefe da EndTAB, uma organização sem fins lucrativos com sede nos Estados Unidos que combate o abuso por tecnologia.

“A violência se tornou mais fácil de perpetrar, pois você pode atingir alguém em qualquer lugar do mundo. A ordem de magnitude do dano também é maior porque você pode fazer upload de algo e mostrá-lo ao mundo em questão de segundos”, disse ele.

“E há uma permanência nisso porque essa foto ou vídeo existe para sempre online”, acrescentou.

Policiais escoltam um homem e uma mulher depois que eles compareceram a um tribunal em Mumbai após sua prisão por suposto envolvimento no aplicativo Bulli Bai [Niharika Kulkarni/Reuters]

O efeito emocional e psicológico de tal abuso é “tão excruciante” quanto o abuso físico, com os efeitos agravados pela viralidade, natureza pública e permanência do conteúdo online, disse Noelle Martin, ativista australiana.

Aos 17 anos, Martin descobriu que sua imagem havia sido alterada digitalmente em imagens pornográficas e distribuída. Sua campanha contra o abuso baseado em imagens ajudou a mudar a lei na Austrália.

Mas as vítimas lutam para serem ouvidas, disse ela.

“Existe um equívoco perigoso de que os danos do abuso facilitado pela tecnologia não são tão reais, sérios ou potencialmente letais quanto o abuso com um elemento físico”, disse ela.

“Para as vítimas, esse equívoco torna muito mais difícil falar, buscar apoio e acessar a justiça.”

Perseguição

Rastrear criadores solitários e codificadores desonestos é difícil, e as plataformas de tecnologia tendem a proteger usuários anônimos que podem facilmente criar um e-mail falso ou perfil de mídia social.

Nem mesmo os legisladores são poupados: em novembro, a Câmara dos Representantes dos EUA censurou o republicano Paul Gosar por um vídeo de anime alterado digitalmente que o mostrava matando a democrata Alexandra Ocasio-Cortez. Ele então retweetou o vídeo.

“Com qualquer nova tecnologia, devemos pensar imediatamente em como e quando ela será mal utilizada e armada para prejudicar meninas e mulheres online”, disse Dodge.

“As plataformas de tecnologia criaram uma atmosfera muito desequilibrada para as vítimas de abuso online, e as formas tradicionais de buscar ajuda quando somos prejudicados no mundo físico não estão tão disponíveis quando o abuso ocorre online”, disse ele.

Algumas empresas de tecnologia estão tomando medidas.

Após relatos de que seus AirTags – dispositivos localizadores que podem ser anexados a chaves e carteiras – estavam sendo usados ​​para rastrear mulheres, a Apple lançou um aplicativo para ajudar os usuários a proteger sua privacidade.

Na Índia, as mulheres nos aplicativos de leilão ainda estão abaladas.

Ismat Ara, um jornalista apresentado no Bulli Bai, chamou de “nada menos do que assédio online”.

Foi “violento, ameaçador e com a intenção de criar um sentimento de medo e vergonha em minha mente, bem como nas mentes das mulheres em geral e da comunidade muçulmana”, disse Ara em uma queixa policial que ela postou nas redes sociais.

Arfa Khanum Sherwani, também à venda, escreveu no Twitter: “O leilão pode ser falso, mas a perseguição é real”.