O aumento do discurso de ódio 'online' em Portugal levou investigadores académicos a criarem um modelo de identificação automática deste tipo de registos, com recurso a inteligência artificial.

Na apresentação das conclusões do projeto 'Knowhate', a coordenadora, Rita Guerra, explicou que o aumento do discurso de ódio 'online' tem-se acentuado e verificam-se cada vez mais casos de passagem das acusações e insultos na Internet para ações concretas no mundo real.

"O discurso de ódio tem consequências graves do ponto de vista das vítimas e há uma correlação entre fenómenos 'online' e offline", afirmou a investigadora do ISCTE, salientando que essa é uma tendência que se tem acentuado, com "picos de violência e ataques a várias comunidades", principalmente os Roma, racializadas e grupos LGBTQIA+.

Durante um debate denominado "Discurso de ódio 'online' em Portugal: que presente e que futuro?", a investigadora apresentou um protótipo do projeto de identificação automática deste tipo de registos, disponível no site: https://huggingface.co/knowhate.

O protótipo utiliza um conjunto de dados anotados, que inclui 24.739 comentários de 88 vídeos do YouTube e 29.846 publicações de 2.775 conversas na antiga rede social Twitter, com avaliação de anotadores com formação em psicologia social e linguística.

Cada utilizador pode incluir uma frase e pedir a sua avaliação pelo sistema, que irá identificar se é ou não discurso de ódio.

O discurso de ódio pode ser indireto ou indireto, utilizando muitas vezes estereótipos, ironia ou insultos, o que dificulta os sistemas de identificação automática. Só com recurso a inteligência artificial e o carregamento de muitos dados permite identificar, por comparação, novas frases.

Este projeto teve início em 2021, durante a pandemia, ao ser identificado "um grande aumento do discurso de ódio", explicou Rita Guerra, salientando que a iniciativa conta com o apoio de várias organizações como o SOS Racismo, a Casa do Brasil, a Ilga ou a Comissão para a Igualdade e Contra a Discriminação Racial (CICDR).

Os dados "indicavam um aumento do discurso de ódio 'online' contra minorias e grupos" e, ao mesmo tempo, uma "maioria silenciosa, pessoas que são bombardeadas com milhares de comentários", para quem este tipo de discurso se torna "normal", num "fenómeno de dessensibilização".

O objetivo final do projeto é "desenvolver um conjunto de ferramentas e recursos que possam sensibilizar para o discurso de ódio", pelo que o projeto inclui também ações de campanha mais tradicionais, como vídeos e 'podcast', explicou Rita Guerra.

Paula Carvalho, do Instituto de Engenharia de Sistemas e Computadores (Inesc), explicou que a criação destes modelos de linguagem foi muito exigente, para permitir identificar as 'nuances' entre o discurso de ódio e a simples ironia, por exemplo.

"O discurso de ódio direto está frequentemente associado a estereótipos" e à "desumanização do outro" enquanto o "discurso de ódio indireto está relacionado com a negação do ódio e a inversão de papéis", utilizando "a ironia verbal".

Por outro lado, o "contra-discurso de ódio" utiliza "figuras de estilo semelhantes", explicou.

Para a investigadora, "o contexto revela-se ainda mais importante para detetar o discurso de ódio indireto", porque só assim é "possível perceber o que se quer dizer de facto".

Sara Soares, da associação Ilga, que defende a causa LGBTQIA+, explicou que os ativistas perceberam que, durante a pandemia, "o discurso de ódio aumentou imenso".

Na sociedade atual, "o discurso de ódio tem um papel muito maior do que ter como alvo uma pessoa em particular. É um crime de mensagem, não é criar desconforto naquela pessoa em particular, mas uma expulsão do espaço público" para toda uma comunidade.

"O discurso de ódio está a sair do 'online' e a entrar nos nossos espaços, nas coisas que organizamos" e "isso é uma coisa que nos preocupa cada vez mais, afirmou a dirigente da Ilga.