FASTNET

The greatest WordPress.com site in all the land!

Combatendo o bullying na internet com algoritmos

 

Face

 

Por mais que tenham exagerado no uso do termo nos últimos anos, o bullying é um dos maiores problemas da internet, todo mundo sabe. A coisa está ruim desse jeito muito por que as políticas de proteção do usuário em redes sociais são cheias de falhas. Até em sites como o Facebook, que tenta implementar um controle rígido sobre o conteúdo ofensivo compartilhado pelos usuários, o desafio de conter comportamentos agressivos — e que podem chegar a finais trágicos, como o caso Amanda Todd — sem esbarrar na liberdade de expressão parece distante de uma solução. Apesar deste triste cenário, não precisamos olhar para a questão do cyberbullying com cara de “esquece, isso não tem jeito, é um dos lados maus da internet e ponto”. Aos poucos, alguns bitezinhos de esperança surgem no horizonte. O segredo para conter o cyberbullying, como boa parte da mágica que acontece na internet, pode estar em novos algoritmos.

É o que a jornalista Emily Bazelon mostra em seu livro Sticks and Stones: Defeating the Culture of Bullying and Rediscovering the Power of Character and Empathy – (Algo como “paus e pedras: derrotando a cultura do bullying e redescobrindo o poder do caráter e a empatia”, que tem um trecho adaptado na Atlantic), lançado esta semana. Emily conta que estava pesquisando um caso de cyberbullying que afetou o cotidiano dos alunos da Woodrow Wilson Middle School, em Middletown, no estado de Connecticut (EUA), quando percebeu que o atendimento das denúncias enviadas ao Facebook não funciona muito bem. “Enviar uma mensagem pedindo para que um conteúdo ofensivo seja removido do Facebook é como ‘colocar uma mensagem em uma garrafa e atirá-la ao mar’”, escreve Emily.

O foco da denúncia era uma página chamada “Let’s Start Drama”, rede de fofocas criada supostamente por uma adolescente da escola para compartilhar informações “picantes” de outros alunos como forma de ridicularizá-los. A autora havia registrado a página com um fake, o que não permitiu que a escola a localizasse. Um dos diretores da Woodrow Wilson Middle Schoo denunciou a página ao Facebook duas vezes seguidas e não obteve resposta alguma. Enquanto isso, o cyberbyullying tornava a vida de centenas de alunos um inferno.

Intrigada com o caso, Emily, resolveu visitar a sede do Facebook, no Vale do Silício, para descobrir por que a escola não recebia respostas às denúncias. Dave Willner, gerente da equipe de Ódio e Agressão, uma das divisões das equipes de Operações do Usuário do Facebook, mostrou-lhe o sistema de administração das denúncias de abuso e agressão e a forma como a equipe decide deletar o conteúdo e/ou bloquear um usuário — o processo dura cerca de um segundo, segundo Dave. Ao buscar pelo nome da página “Let’s Start Drama”, Dave admitiu que as equipes de segurança receberam as denúncias, mas “por algum erro humano elas passaram batido”.

Não é difícil imaginar que falhas como esta acontecem o tempo todo no Facebook – como aconteciam no Orkut e Youtube. É bem comum ver páginas com conteúdo ofensivo que demoraram semanas para serem tiradas do ar, o Google já levou alguns processos no Brasil por causa dessa demora. Mas há também problemas de ação rápida por motivos errados, já que a avaliação do conteúdo considerado ofensivo pelo Facebook é algo sempre contestável, como por exemplo as fotos com protestos de mulheres com os seios de fora. Por isso, o controle maior com o cyberbullying e sua prevenção são um dilema para o Facebook. Como Dave diz à Emily, acima de tudo, o contexto é “algo difícil de lidar” — não é fácil descobrir se um determinado comentário é bullying.

Agora vem a parte da esperança. Depois do Facebook, Emily visitou o MIT para conhecer o trabalho de pesquisa do cientista da computação Henry Lieberman no Media Lab do instituto. O pesquisador voltou suas atenções para o cyberbullying logo que o problema começou a crescer, sensibilizado por uma questão bem pessoal: ele também sofreu muito bullying quando era uma criança gordinha. Henry pensou que uma hora ou outra o cyberbullying “sucatearia as possibilidades de interação nas redes sociais para adolescentes, assim como antigamente o spam tentou estragar completamente o email — transformando-se em uma numerosa peste”. E se perguntou “como poderíamos intervir de uma forma mais personalizada e específica, mas em grande escala?”.

Henry e a sua equipe começaram o trabalho por algo que, para muitos de nós seria um pesadelo digno de um “nooooooooooo” com horas de duração, analisando e catalogando milhares de comentários ofensivos no Youtube e cerca de um milhão de posts também nada agradáveis do Formspring. Depois desta catalogação heroica, eles descobriram que há muitas formas de se praticar bullying, é claro, mas que 95% dos bullers utilizam seis principais temas ou categorias de insulto: aparência, inteligência, raça, etnia, sexualidade ou aceitação e rejeição social.

A pesquisa permitiu que Henry e sua equipe criassem uma “base de dados de senso comum” chamada BullySpace, composta de palavras e frases mais utilizadas pelos comentaristas ofensivos e que seriam capazes de serem combinadas por um algorítimo. O cientista explicou como isso funcionaria se alguém postasse uma frase que não necessariamente contém uma expressão ofensiva, por exemplo a “Você comeu seis hambúrgueres!”:

“Em si, a palavra hambúrguer não revela um cyberbullying — a palavra é neutra. Mas a relação entre a hambúrguer e seis não é neutra”, argumenta Henry. O BullySpace pode fazer um paralelo nesta relação. Para uma criança com sobrepeso, a mensagem “você comeu seis hambúrgueres” pode facilmente ser cruel. Em outras situações, isso poderia ser dito com um tom de admiração. O BullySpace deve ser capaz de dizer a diferença baseada no contexto (talvez avaliando as informações pessoais que os usuários de redes sociais compartilham) e pode assinalar o comentário para um humano analisar posteriormente”.

Parece promissor? O BullySpace é mais incrível ainda. Segundo o pesquisador, o sistema também pode identificar ofensas baseadas em estereótipos. Por exemplo, para ofensas contra gays, Henry incluiu informações no banco de dados baseado no fato que uma frase do tipo “Vista uma peruca, passe batom e revele quem você é”, é mais provável que seja um insulto se for direcionada para um garoto. O BullySpace entende que batom é mais usado por garotas e também reconhece mais de outras 200 afirmações baseadas em estereótipos sobre gênero e sexualidade. “Henry não está endossando estereótipos, é claro: ele está se utilizando deles para fazer o BullySpace mais inteligente”, diz Emily.

Utilizando novamente comentários de Youtube e Formspring como teste, a equipe de Henry descobriu que o BullySpace conseguiu identificar 80% do total de conteúdos ofensivos. Segundo a reportagem de Emily, até o momento não há nada parecido na maioria das redes sociais que filtre o bullying antes mesmo dele ser postado. Além do BullySpace, Henry criou um sistema de observação do bullying nas redes sociais parecido com um programa de controle de tráfego aéreo. Ele consegue mostrar pontos específicos de bullying e qual usuário está “causando” mais e mobilizando outros para ações ofensivas. Esse sistema resolveria, por exemplo, o caso da página “Let’s Start Drama” que virou um problema para a escola citada no começo deste texto. O programa poderia ser usado por escolas, comunidades e até em casos extremos, quando as autoridades do “mundo real” precisam intervir em algo grave acontecendo online.

Bem, parece que é uma solução plausível. Mas, como nada é 8 ou 80, uma dos dilemas possíveis de uma rede social que resolvesse implantar uma ferramenta como esta estaria apoiado na simples questão da liberdade de expressão. E mais: não é muito legal imaginar que uma ingênua mensagem sua poderia estar no alvo de um algorítimo que identificou a combinação como conteúdo ofensivo, não é? Por conta disso, Henry propõe que o sistema faça o passo a passo para o qual foi programado, identificando as palavras e frases com intuito de agredir, mas no lugar de deletar a postagem, deixe que o próprio usuário decida se quer, realmente, levar esta atitude à frente:

“Que tal se, quando ele clicasse no botão ‘postar’, uma caixa de pop-up surgisse dizendo “Aguarde 60 segundos para postar”, próxima de outra opção que diz “Eu não quero postar isso” oferecendo um grande X para ele clicar em cima? Ou se a mensagem dissesse “Isso soa ofensivo! Tem certeza de que quer enviar isto?”. Ou se simplesmente lembrasse ao usuário que seu comentário está prestes a chegar a milhares de pessoas?”

Após deixar o MIT, Emily ainda acompanhou uma ação de dois membros do Anonymous, a rede de hackers que tenta “fazer justiça com as próprias mãos”. Eles descobriram que uma menina de 12 anos estava recebendo ameaças de quatro universitários, que diziam que iriam estuprá-la e que ela deveria morrer. Os hackers tiraram print de seus tuítes ofensivos, encontraram suas informações pessoais e postaram no perfil do Anonymous no Twitter. Os garotos se sentiram envergonhados, pediram desculpas e disseram que “nunca tiveram a intenção real de ofender alguém”. Emily reflete que, por mais que esta técnica radical do Anonymous seja contestável, ela se pegou pensando que concorda com eles. Simplesmente porque a justificativa de que “é melhor fazer algo do que não fazer nada” realmente faz sentido quando as redes sociais ainda não conseguem conter este tipo de agressão.

Na verdade, o exemplo do Anonymous funciona como se estivéssemos usando o algorítimo desenvolvido por Henry de forma manual (e bem mais ofensiva, convenhamos). Como Henry demonstra, podemos sim buscar formas de conter estes agressores usando a tecnologia dos algoritmos, que consegue analisar rapidamente se uma música viola direitos autorais no Youtube ou se uma foto mostra um seio de fora no Facebook. Emily opina que devemos pressionar os responsáveis pelas redes sociais para que reforcem suas próprias regras de privacidade e segurança. “Se o Facebook e o Twitter não gostam da solução dele [Henry], certamente eles têm recursos para apresentar algo próprio”.

oene.com

Navegação de Post Único

Deixe uma resposta

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s

%d blogueiros gostam disto: