Como apps de jogos expõem crianças ao ódio, mas os pais nem desconfiam

São Paulo — Crianças e adolescentes são os principais alvos de discursos de ódio nas redes sociais e em plataformas de jogos on-line – o que, nem sempre, é percebido pelos pais e responsáveis. Comportamentos racistas, homofóbicos e misóginos estão cada vez mais frequentes na rotina dos mais jovens que acessam a internet, assim como conteúdos que incitam diferentes formas de violência, seja contra si ou grupos minoritários.

Mais de 1 bilhão de crianças e adolescentes acessam a internet diariamente no mundo inteiro. E dessas, mais de 50 milhões estão no Brasil, afirmou o presidente da Safernet Brasil, Thiago Tavares, em entrevista ao Metrópoles.

“A gente tem visto, nos últimos anos, uma tendência muito preocupante, não só no Brasil, mas em várias partes do mundo. Mas aqui no Brasil, isso se materializa de uma forma muito, muito séria, muito grave, que é a radicalização de adolescentes e jovens”, disse o especialista em Direitos Humanos na Web.

Aumento do ódio na web

Segundo Thiago, esses conteúdos de ódio têm se tornado mais frequentes por conta de três fatores. O primeiro é a influência dos algoritmos, que mudam a depender da plataforma.

“Lamentavelmente, algumas plataformas têm, em busca de reter audiência, calibrados os seus algoritmos de recomendação para atribuir relevância a conteúdos de baixa qualidade, sintéticos, muitas vezes até criados por inteligência artificial generativa, e conteúdos que muitas vezes têm cenas de violência e que despertam instintos mais primitivos do usuário, seja raiva, repulsa, nojo, revolta, indignação”, disse.

Conforme o especialista, pessoas em situação de vulnerabilidade e em desenvolvimento, como crianças e adolescentes, são as mais sensíveis a essa exposição. “Esse conteúdo pode causar dano também por isso, porque ele pode acabar engajando a pessoa, incentivando a pessoa a se engajar numa atividade de autolesão, de reforçar ideação e pensamentos suicidas, e assim por diante”, destacou.

O segundo fator é a redução dos times de integridade dessas plataformas. Thiago dá o exemplo do X (antigo Twitter), que demitiu 80% da força de trabalho após aquisição da empresa pelo bilionário Elon Musk.

“As equipes de segurança e integridade da plataforma foram duramente atingidas. Elas foram reduzidas ao mínimo do mínimo. E, em paralelo, o novo controlador da empresa passou a adotar o discurso de defesa da liberdade de expressão como escusa, ou seja, como um anteparo para justificar ali a inação em relação à moderação de conteúdo violento”, analisou Thiago.

Por fim, o terceiro fator que contribuiu para o aumento de conteúdos extremistas e violentos nas redes e jogos on-line é a mudança na política dessas plataformas. O presidente da Safernet Brasil deu o exemplo da Meta, dona do WhatsApp, Facebook e Instagram, que anunciou mudanças importantes na política de conteúdo de ódio no início deste ano. Segundo Thiago, as mudanças foram feitas respeitando apenas a legislação local, dos Estados Unidos, em detrimento do que define a legislação brasileira, por exemplo.

Impacto na prática

A exposição frequente a conteúdos de ódio pode ter consequências desastrosas entre crianças e adolescentes, como o Brasil viu em abril de 2023, com a série de ataques à escolas. “Isso é um problema real, grave, e que precisa também ser considerado. Afinal de contas, ninguém nasce odiando ninguém. As pessoas, se elas aprenderam algum momento a odiar, é porque alguém ensinou, alguém incentivou”, disse Thiago.

Nesse contexto, surgiu uma necessidade de compreender os crimes virtuais que acabam vitimando crianças e adolescentes, o que levou à criação do Núcleo de Observação e Análise Digital (Noad), da Polícia Civil de São Paulo, coordenado pela delegada Lisandréa Salvariego.

Segundo a policial, o discurso de ódio no ambiente virtual tem evoluído “de maneira gradativa e exponencial, e também tem migrado para outros tipos criminais”. Como exemplo, ela cita xingamentos que surgem como simples ofensas e culminam em episódios de suicídio.

“O discurso de ódio tem uma projeção na vítima que a gente não consegue aferir, e isso é muito grave pra gente. [Os agressores] partem para estupro virtual, para [incentivo à] automutilação, porque a vítima não sabe lidar com tudo aquilo, e isso acaba culminando em outros tipos penais”, disse a delegada.

Os agentes do Noad, que trabalham infiltrados 24h por dia nas plataformas, dizem ser frequente e “muito nítido” crianças e adolescentes sendo aliciados para cometer crimes — que vão desde o cyberbullying, de forma mais frequente, à prática de maus-tratos.

Também são frequentes, especialmente contra meninas, relações que culminam em autolesões, tentativas de suicídio e estupros virtuais.

Segundo Lisandréa, desde quando o Noad surgiu, em novembro do ano passado, 96 vítimas já foram salvas de estupros virtuais e tentativas de suicídio. Demais dados não puderam ser compartilhados com a reportagem por se tratar de um trabalho de inteligência, justificou a delegada.

Controle parental

Para a coordenadora do Noad, é importante que os pais monitorem as plataformas às quais os filhos têm acesso. “É fácil julgá-los e dizer que o pai não está prestando atenção, o pai está omisso, sendo que eles nem sabem que isso está acontecendo. Então, eu acho que [precisamos] difundir  informação e alertá-los sobre o que está acontecendo nas redes”, disse.

Na prática, no entanto, o controle parental é muitas vezes negligenciado. Dados colhidos pelo Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic.br), e expostos na pesquisa TIC Kids Online Brasil, mostram que ainda há uma grande defasagem no conhecimento dos pais e responsáveis sobre o que as crianças e adolescentes têm feito na internet.

Dados do último levantamento, que entrevistou pais e responsáveis de jovens de 9 a 17 anos sobre os 12 meses de 2024, mostrou uma realidade preocupante. Veja os números:

• 32% não veem o histórico ou registro dos sites visitados pelos filhos;
• 27% não veem e-mails ou mensagens;
• 33% não veem as redes sociais;
• 25% não conferem os aplicativos baixados;
• 58% disseram não usar recurso para bloquear ou filtrar alguns tipos de sites;
• 61% não usam recurso para monitorar os sites ou aplicativos que a/o criança/adolescente acessa;
• 60% não usam recurso que filtra os aplicativos que a/o criança/adolescente pode baixar;
• 60% não usam recurso que limita as pessoas com quem a/o criança/adolescente pode entrar em contato por meio de chamadas de voz e mensagens.

Por outro lado, 25% das crianças e adolescentes entre 9 e 17 anos afirmam que os pais “nunca” olham seus celulares e com quem estão falando. Uma em cada três (34%) não tem regras para usar o aparelho.

A pesquisa mostrou ainda que 75% dos jovens entrevistados têm autorização para enviar mensagens instantâneas sem supervisão e 72% podem usar redes sociais sem acompanhamento de um adulto.

Dados alarmantes mostram também que 13% dos jovens podem dar informações pessoais para outras pessoas na internet sem supervisão e que 62% podem postar fotos e vídeos em que aparecem sozinhos.

Sobre conteúdos de ódio, 42% das crianças revelaram ter visto alguém ser discriminado na internet nos últimos meses. O preconceito racial é o mais frequente, sendo testemunhado por 25% dos jovens.

Sobre conteúdos sensíveis e que promovem o auto-dano, 10% dos jovens dizem ter sido expostos a formas de machucar a si mesmo, enquanto 14% experienciaram cenas de violência ou com muito sangue.

Como as plataformas dizem combater conteúdos de ódio

Lisandréa apontou o Discord e o Roblox como plataformas mais desafiadoras para o trabalho do Noad, principalmente pela demora em atender aos pedidos da polícia.

Em nota, o Roblox afirmou que conta “com um conjunto robusto de recursos de segurança, incluindo filtros rigorosos de bate-papo por texto, projetados para bloquear palavras ou frases inapropriadas, e um conjunto de padrões da comunidade que proíbe explicitamente conteúdo ou comportamento que represente ou promova discriminação ou discurso de ódio de qualquer forma”.

O jogo on-line afirmou ainda usar “tecnologia de detecção automatizada de última geração, juntamente com uma equipe especializada de milhares de moderadores, para aplicar esses padrões e tomar medidas contra os responsáveis”. A plataforma ainda afirmou incentivar “qualquer pessoa a denunciar conteúdo ou comportamento que possa não estar em conformidade com nossos Padrões da Comunidade”.

O Discord, assim como as demais plataformas citadas (veja mais abaixo), não respondeu a tentativa de contato da reportagem. No entanto, em sua política de uso, afirmou “não permitir conduta odiosa ou discurso de ódio”, a menos que se trate de uma sátira “óbvia”. O aplicativo, que possui uma ferramenta para que os pais acompanhem a atividade dos filhos, incentiva que conteúdos violentos sejam denunciados.

O FreeFire, jogo on-line apontado por crianças à reportagem como ambiente repleto de discurso de ódio, destaca aos pais que está comprometido em “proporcionar uma experiência positiva, segura e agradável para todos os usuários”. Quem é menor de idade deve obter o consentimento dos pais antes de começar a jogar, destaca a Garena, desenvolvedora do jogo, nos termos de uso.

O Telegram, que teve o pior desempenho no relatório divulgado pela Simon Wiesenthal Center, pede sucintamente nos termos de uso para que os usuários, que devem ter pelo menos 16 anos, não promovam violência, conteúdo pornográfico e crimes, como abuso infantil.

Outras plataformas analisadas pela reportagem que dizem, em seus termos de uso, combater discursos de ódio são o X, a Meta, o TikTok e o Kwai. Todas essas redes também têm limitações para o acesso e cadastro de menores de idade.

Como denunciar discurso de ódio na web

• O especialista Thiago Tavares, presidente da Safernet Brasil, e a delegada da Polícia Civil Lisandréa Salvariego apontaram ao Metrópoles as principais formas de denunciar conteúdos de ódio na internet.
• Para denunciar à Safernet, use o denuncie.org.br. A denúncia é anônima, e basta especificar qual violação o conteúdo comete e adicionar o link da publicação.
• Outra opção é o Disque Denúncia, através do 181, que também permite contatos anônimos.
• Há ainda o WebDenúncia, dentro do site da Secretaria da Segurança Pública (SSP).
• Para denunciar diretamente ao Noad, da Polícia Civil, é possível encaminhar um e-mail para [email protected].
• Vale destacar que comportamentos como abuso sexual infantil, racismo, homofobia, induzir ou instigar ao suicídio e divulgar imagens privadas são crimes, com penas que começam em um ano de reclusão.