Sou uma mulher negra e o metaverso me assusta

Publicado por: admin
16/12/2021 13:27:09
Exibições: 83
Cortesia Editorial GettyImages
Cortesia Editorial GettyImages

Mulheres negras foram perseguidas e censuradas nas redes sociais. O que elas enfrentarão no metaverso?

 

Pessoas marginalizadas costumam sofrer mais danos devido às consequências indesejadas das novas tecnologias. Por exemplo, os algoritmos que tomam decisões automaticamente sobre quem pode ver qual conteúdo ou como as imagens são interpretadas sofrem de preconceitos raciais e de gênero . Pessoas com múltiplas identidades marginalizadas, como negros e deficientes físicos, correm ainda mais riscos do que aquelas com uma única identidade marginalizada.

 

É por isso que quando Mark Zuckerberg expôs sua visão para o metaverso - uma rede de ambientes virtuais em que muitas pessoas podem interagir umas com as outras e objetos digitais - e disse que afetaria todos os produtos que a empresa constrói, fiquei com medo. Como pesquisadora que estuda as interseções de raça, tecnologia e democracia - e como mulher negra - acredito que é importante considerar cuidadosamente os valores que estão sendo codificados nesta internet de próxima geração.

 

Uma grade de 6 x 8 desenhos de rostos de pessoas
 
Uma divisão racial já está surgindo no valor de avatares que representam usuários em ambientes virtuais. Vetores yuoak / DigitalVision por meio de imagens Getty

 

Os problemas já estão surgindo. Os avatares, as personas gráficas que as pessoas podem criar ou comprar para se representar em ambientes virtuais, têm preços diferentes com base na raça percebida do avatar, e o assédio racista e sexista está surgindo nos ambientes imersivos pré-metaversos de hoje.

 

Garantir que esta próxima iteração da Internet seja inclusiva e funcione para todos exigirá que pessoas de comunidades marginalizadas assumam a liderança em sua criação. Também exigirá regulamentação com força para manter a Big Tech responsável pelo interesse público. Sem isso, o metaverso corre o risco de herdar os problemas das mídias sociais de hoje, se não se tornar algo pior.

 

Visões utópicas versus realidades difíceis

As visões utópicas nos primeiros dias da internet costumavam afirmar que a vida online seria radicalmente diferente da vida no mundo físico. Por exemplo, as pessoas imaginaram a internet como uma forma de escapar de partes de sua identidade, como raça, gênero e distinções de classe. Na realidade, a internet está longe de ser sem raça .

 

Enquanto as tecno-utopias comunicam visões desejadas do futuro, a realidade das novas tecnologias muitas vezes não corresponde a essas visões. Na verdade, a internet trouxe novas formas de danos à sociedade, como a disseminação automatizada de propaganda nas redes sociais e o preconceito nos algoritmos que moldam sua experiência online .

 

Zuckerberg descreveu o metaverso como uma internet mais imersiva e incorporada, que “ desbloqueará muitas experiências novas e incríveis ”. Esta é uma visão não apenas de uma internet futura, mas de um modo de vida futuro. Por mais fora do alvo que essa visão possa estar, é provável que o metaverso - como as versões anteriores da internet e da mídia social - tenha consequências generalizadas que transformarão a forma como as pessoas se socializam, viajam, aprendem, trabalham e se divertem

.

A questão é: essas consequências serão iguais para todos? A história sugere que a resposta é não.

 

A tecnologia nunca é neutra

As tecnologias amplamente utilizadas geralmente assumem identidades e corpos masculinos brancos como o padrão. A cientista da computação do MIT, Joy Buolomwini , mostrou que o software de reconhecimento facial tem um desempenho pior em mulheres e ainda mais em mulheres com rostos mais escuros. Outros  estudos confirmaram isso.

 
Joy Buolomwini do MIT explica o 'olhar codificado', as prioridades, preferências e preconceitos das pessoas que moldam a tecnologia.

 

A branquidade é incorporada como padrão nessas tecnologias, mesmo na ausência de raça como uma categoria para algoritmos de aprendizado de máquina. Infelizmente, o racismo e a tecnologia costumam andar de mãos dadas. Políticas e jornalistas negras foram desproporcionalmente alvos de tweets abusivos ou problemáticos, e eleitores negros e latinos foram alvos de campanhas de desinformação online durante o ciclo eleitoral de 2020.

 

Essa relação histórica entre raça e tecnologia me deixa preocupado com o metaverso. Se o metaverso pretende ser uma versão incorporada da internet, como Zuckerberg o descreveu, isso significa que as pessoas já marginalizadas experimentarão novas formas de dano?

 

Facebook e sua relação com os negros

A relação geral entre tecnologia e racismo é apenas parte da história. A Meta tem um relacionamento ruim com usuários negros em sua plataforma do Facebook, e com mulheres negras em particular.

 

Em 2016, os repórteres do ProPublica descobriram que os anunciantes no portal de publicidade do Facebook poderiam excluir grupos de pessoas que veem seus anúncios com base na raça dos usuários , ou o que o Facebook chamou de “afinidade étnica”. Essa opção recebeu muitas críticas porque o Facebook não pergunta a seus usuários qual é a raça, o que significa que os usuários foram atribuídos a uma “afinidade étnica” com base em seu envolvimento na plataforma, como as páginas e postagens de que gostaram.

 

Em outras palavras, o Facebook estava essencialmente traçando perfis raciais de seus usuários com base no que eles gostam e gostam em sua plataforma, criando a oportunidade para os anunciantes discriminarem as pessoas com base em sua raça. Desde então, o Facebook atualizou suas categorias de segmentação de anúncios para não incluir mais "afinidades étnicas".

 

No entanto, os anunciantes ainda podem atingir as pessoas com base em sua corrida presumida por meio de proxies de corrida , que usam combinações de interesses dos usuários para inferir corridas. Por exemplo, se um anunciante vê nos dados do Facebook que você expressou interesse na cultura afro-americana e nos BET Awards, ele pode inferir que você é negro e direcioná-lo a anúncios de produtos que deseja comercializar para negros.

 

Pior, o Facebook frequentemente remove comentários de mulheres negras que falam contra o racismo e o sexismo. Ironicamente, os comentários das mulheres negras sobre racismo e sexismo estão sendo censurados - coloquialmente conhecidos como "zucked" - por violarem ostensivamente as políticas do Facebook contra o discurso de ódio. Isso é parte de uma tendência maior dentro das plataformas online de mulheres negras serem punidas por expressar suas preocupações e exigir justiça nos espaços digitais.

 

De acordo com um relatório recente do Washington Post, o Facebook sabia que seu algoritmo estava prejudicando desproporcionalmente os usuários negros, mas optou por não fazer nada.

 

Um metaverso democraticamente responsável

Em uma entrevista com Vishal Shah, vice-presidente de metaverso de Meta, o apresentador da National Public Radio Audie Cornish perguntou : “Se você não consegue lidar com os comentários no Instagram, como pode lidar com a camiseta que contém discurso de ódio no metaverso ? Como você pode lidar com a manifestação de ódio que pode acontecer no metaverso? ” Da mesma forma, se os negros são punidos por falarem contra o racismo e o sexismo online, então como eles podem fazer isso no metaverso?

 

Garantir que o metaverso seja inclusivo e promova os valores democráticos em vez de ameaçar a democracia requer justiça de design e regulamentação da mídia social.

 

Justiça de design é colocar pessoas que não têm poder na sociedade no centro do processo de design para evitar a perpetuação das desigualdades existentes. Também significa começar com uma consideração de valores e princípios para orientar o design .

 

As leis federais protegeram as empresas de mídia social da responsabilidade pelas postagens e ações dos usuários em suas plataformas. Isso significa que eles têm o direito, mas não a responsabilidade, de policiar seus sites . Regulamentar a Big Tech é crucial para enfrentar os problemas da mídia social hoje, e pelo menos tão importante antes de construir e controlar a próxima geração da Internet 

O metaverso e eu

Não sou contra o metaverso. Eu sou a favor de um metaverso democraticamente responsável. Para que isso aconteça, porém, afirmo que é necessário haver melhores estruturas regulatórias para as empresas de Internet e mais processos de design apenas para que a tecnologia não continue a se correlacionar com o racismo.

 

Da forma como está, os benefícios do metaverso não superam seus custos para mim. Mas não precisa ficar assim.

 

Por 

Doutorando em Comunicação, Universidade de Illinois em Chicago

Originalmente Publicado por: The Conversation

Imagens de notícias

Tags:

Compartilhar

Comentários