O Giphy voltou ao Snapchat e ao Instagram após sua remoção rápida e sem cerimônia no mês passado, após a descoberta de um GIF explicitamente racista que representava um contador crescente de “mortes por crimes com N palavras” acionado por um gorila.
De acordo com The Verge , Giphy disse que o GIF escapou por causa de 'um bug em nossos filtros de moderação de conteúdo que afetava especificamente os adesivos de GIF', permitindo que contornasse as regras da plataforma que proíbem os usuários de postar tal conteúdo. Giphy corrigiu o bug e o Instagram e o Snapchat o adicionaram de volta.
Embora este incidente tenha sido resolvido quando o público o percebeu, é notavelmente diferente do passado em falso. O Instagram e o Snapchat retiraram o aplicativo imediatamente e publicamente. Não houve racionalização, nem invocação da Primeira Emenda - apenas um pedido de desculpas firme e concisoecorreção.
Cada meio de mídia social - do Facebook ao Twitter e Reddit - enfrentou a questão inevitável de como lidar com conteúdo tóxico e prejudicial, principalmente após protestos públicos. O Facebook tem lidado com uma série de questões de privacidade recentemente, mas ainda tem que lidar com o racismo e o discurso de ódio em suas plataformas. O Facebook recentemente deu a entender que era cabe aos usuários decidirem condenar a pedofilia por meio de uma pesquisa, enquanto permite que os anunciantes visar “odiadores de judeus” e outros grupos de ódio na América e no mundo, segundo descobertas recentes da ProPublica. O New York Times relata que essa política até mesmo alimentou tensões em Mianmar, onde o Facebook aceitou anúncios atacando a minoria Rohingya de lá. No contexto, o Facebook proibiu as mulheres por falarem sobre suas experiências pessoais, de acordo com Atordoado .
O Facebook fará algo contra o discurso de ódio em sua plataforma? A inteligência artificial apropriada não está “lá ainda”, diz o CEO Mark Zuckerberg. Ele disse que pode levar de cinco a 10 anos para consertar o software que supostamente identifica o discurso de ódio, de acordo com seu testemunho antes do Congresso dos EUA em 10 de abril. Mas, embora Zuckerberg cite nuances linguísticas como uma razão para o fracasso da IA, O Facebook também supostamente suprimiu a liberdade de expressão ajudando o governo vietnamita a remover conteúdo dissidente. E como Slate explicou no ano passado , “Cinco a dez anos” tende a ser a frase genérica de organizações relacionadas à tecnologia que prometem de tudo, desde a eliminação da quimioterapia até carros voadores.
Facebook está enfrentando perguntas incômodas agora, mas não é o único. Reddit, uma parte indiscutivelmente mais sombria da internet, permite que o Nova iorquino em seus escritórios para observar o progresso da desintoxicação, que consiste em uma equipe humana vasculhando os subreddits para determinar o quão ruim algo deve ser para desligá-lo. O Reddit atualizou as políticas no ano passado na época em que encontrou conteúdo misógino violento no subreddit r / incels, de acordo com Vice .
O Twitter ainda deve responder por que os usuários que expõem conteúdo afiliado a neonazistas têm permissão para permanecer na plataforma, enquanto outros usuários supostamente descobrem que enfrentam abusos na internet pode fazer com que sejam banidos em vez do agressor. No ano passado, o Twitter começou removendo a marca de verificação verificada de usuários populares associados a movimentos alt-right, mas supremacistas brancos como Richard Spencer já usavam o aplicativo para espalhar mensagens violentas. Agora, o Twitter está tentando eliminar contas de bot que espalhou desinformação divisiva .
A frustração do público é palpável - e talvez a única força motriz por trás de qualquer mudança. A Unilever, um dos maiores anunciantes do mundo, em fevereiro lançou a possibilidade de eliminar os anúncios do Facebook se não seguir regulamentando o discurso de ódio. The Washington Post relataram que a falta de regulamentações federais na indústria de tecnologia está forçando os governos estaduais a agirem. A Califórnia, onde a maioria das empresas de tecnologia está sediada, está elaborando uma legislação para combater os bots de mídia social. Maryland, Nova York e Washington estão seguindo de perto, promovendo projetos de lei que tornam os anúncios políticos online mais transparentes para os eleitores após o escândalo Cambridge Analytica do Facebook.
Embora o Instagram seja propriedade do Facebook, ele resolveu o problema racista dos GIFs rapidamente. As ações do Snapchat caíram amplamente à medida que as celebridades expressavam reclamações sobre ele, como Kylie Jenner perguntando se alguém já usou e Rihanna abandonar o aplicativo depois que um anúncio perguntou aos usuários se eles preferiam dar um tapa nela ou socar Chris Brown.
O incidente do GIF marca um momento de ajuste de contas para as plataformas de mídia social que antes usavam a Primeira Emenda como escudo. A velocidade da resolução sinaliza uma mudança no poder, especialmente porque os usuários de mídia social estão excluindo contas e começando a monitorar suas próprias configurações de privacidade. À medida que as pessoas se afastam da Internet, é importante observar como as grandes empresas de tecnologia e mídia lutam com seu lugar na sociedade e o que os usuários exigem delas. Eles ganharam dinheiro conosco por muito tempo. É hora de responsabilidade.
[Foto: Getty Images]
