O cyber bullying contribuiu para o fim trágico de Caroline Flack. Há uma app que quer acabar com isso

Em fevereiro de 2020, Caroline Flack, uma famosa apresentadora de televisão britânica, foi encontrada morta no seu apartamento. Enforcou-se. Tinha 40 anos. A investigação demonstrou que o suicídio estava relacionado com o intenso abuso, assédio moral e bullying que lhe foi dirigido nas redes sociais nas semanas que antecederam a sua morte. O motivo? Para além dos usuais – o peso, a aparência, as roupas, os namorados –, no final de 2019, uma discussão acalorada com o então namorado Lewis Burton, ex-tenista e modelo britânico, resultou numa acusação de violência doméstica contra Flack que a apresentadora considerava injusta e que, de acordo com família e amigos, a deixou profundamente perturbada – Burton não quis apresentar a queixa, mas o Ministério Público britânico avançou na mesma. A cobertura mediática invasiva, o intenso escrutínio da sua vida pessoal e o ódio de que foi alvo nas redes sociais atiraram gasolina para uma fogueira que estava acesa há muito. Pouco antes da data do julgamento, Caroline decidiu tirar a própria vida.

A morte da jovem apresentadora de Love Island, um famoso concurso de emparelhamento de casais, gerou uma onda de tristeza, consternação e revolta. Mas o mal estava feito. Já não havia nada a fazer. Ou será que havia? À data da morte de Flack, David Cole, um especialista em inteligência artificial, estava a trabalhar para o governo britânico. A notícia abalou-o e Cole soube, imediatamente, que podia fazer algo para ajudar. Não Caroline, era tarde para isso, mas outras pessoas que passassem pelo mesmo tipo de cyber bullying – uma violência constante, a cair no smartphone a cada minuto de cada dia, todos os dias.

Ao jornal britânico The Times, David Cole falou sobre essa vontade de fazer uma contribuição positiva: “Quando Caroline Flack morreu, lembro-me de pensar como era perturbador que alguém pudesse ser alvo de bullying daquela forma. Isso andava às voltas na minha cabeça numa altura em que eu trabalhava com IA [inteligência artificial] para o governo, e eu sabia que tínhamos a capacidade de detetar comentários negativos, escondê-los dos utilizadores e fazê-lo de forma tão rápida que impediria as pessoas de verem esse tipo de conteúdo.”

Cole despediu-se do seu emprego e uniu-se ao especialista em tecnologias da informação Matt McGrory. Juntos desenvolveram a Arwen AI, uma aplicação que identifica e põe fim a qualquer abuso online. Funciona assim: primeiro, a Arwen detecta que um comentário foi publicado no feed do utilizador; depois, utiliza um algoritmo para analisar a linguagem e identificar discurso de ódio, misoginia, racismo ou palavrões; finalmente, classifica o comentário como seguro, severo ou suspeito – estes últimos podem resultar numa denúncia à polícia. Comentários severos são quase imediatamente ocultados do feed do utilizador ou apagados. A aplicação é programada para sinalizar comentários com base nas instruções do utilizador. 

Ao The Times, Cole deu o exemplo de uma futebolista que quer filtrar comentários misóginos: “No futebol feminino, utilizadores abusivos podem dizer ‘ela não devia estar a jogar’. Isso não seria misógino noutro contexto, por isso construímos uma base de dados com esses exemplos, etiquetamo-los manualmente e criamos o nosso próprio classificador usando um modelo de linguagem grande.” McGrory acrescenta o seguinte: “Muitos destes comentários fazem parte da categoria daquilo a que chamamos ‘legal, mas horrível’ – provavelmente não infringem leis, mas causam muito dano às pessoas.”

Um comentário negativo é normalmente ocultado em dois ou três segundos após ser publicado e detectado pelo algoritmo, o que significa que desaparece antes que quase ninguém tenha a oportunidade de o ver.

Ainda de acordo com o jornal britânico, esta tecnologia está, agora, a ser usada pelo antigo empregador de Flack, a estação de televisão ITV, assim como pela Sky, outra cadeia de televisão, a Mercedes, o Six Nations, um torneio internacional de râguebi, e a aplicação de encontros Hinge, entre dezenas de outras celebridades e empresas.

O único problema? Pela lista de utilizadores, talvez tenha intuído que a Arwen não é barata – e tem razão. Afinal, a aplicação foi pensada para artistas, celebridades, figuras públicas, marcas, empresas, instituições e clubes desportivos. De acordo com a plataforma AI Chief, os preços começam em torno dos 300 euros por mês, mas dá como exemplo uma subscrição mensal no valor mil euros, para gerir comentários em apenas rede social, até 10 mil comentários. Para mais do que uma rede social e até 50 mil comentários por mês, a subscrição passa para cerca de 2600 euros por mês.

Se gostou da ideia, mas o orçamento está fora do seu alcance, saiba que há outras aplicações, algumas gratuitas, outras muito mais acessíveis, que prestam mais ou menos o mesmo tipo de serviço, como TweetDeck, Social Mention, Buffer, Smart Moderation, Survey Sparrow ou YouScan. 

Próxima Notícia "Posso comprar-te?" Utilizadoras da Vinted denunciam assédio sexual na plataforma