Baixo Calão Ou Escalão

Como funciona a moderação de conteúdo por escalões de baixo calão

Trabalhar com filtros de linguagem imprópria em português é mais complicado do que a maioria das pessoas imagina. O problema não é detectar palavrões óbvios. É lidar com variação regional, gírias que mudam de significado conforme o contexto e os sistemas automatizados que tentam separar baixo calão de escalão de severidade para decidir se um comentário precisa de aprovação manual ou só de bloqueio automático. O conceito básico é simples. Você tem conteúdo que passa por um filtro. Se o conteúdo contém palavras consideradas vulgares, ele é classificado em um dos escalões de risco. O primeiro escalão geralmente cobre linguagem moderada ou contexto ambíguo. O segundo escalão envolve calão claro sem contexto justificável. O terceiro escalão é para discurso de ódio combinado com palavrões, que costuma ser banido sem análise humana. O que ninguém te conta é que a granularidade real importa muito mais do que três níveis genéricos. Em projetos reais, eu dividi os escalões em subcategorias: escalão A para gírias neutras como "caralho" usado como intensificador informal, escalão B para palavrões direcionados como ataque pessoal, e escalão C para combinação com discurso discriminatório. Isso mudou completamente a taxa de falsos positivos no meu último projeto de moderação para uma comunidade de jogos online.

Aqui está o problema que eu encontrei na prática. Tinha um usuário que escrevia em português brasileiro mas frequentava um fórum com moderadores em Portugal. Palavras como "cavalos" usadas no sentido figurado de "dinheiro" eram capturadas pelo detector de baixo calão porque o termo também existe como vulgaresidade em certos contextos regionais. O sistema simplesmente não diferenciava. Eu precisava configurar um dicionário de exceções por variante linguística e adicionar regras de contexto baseadas nas palavras vizinhas. Levei cerca de três semanas para estabilizar a taxa de erro abaixo de 8 por cento.

Implementação técnica

A abordagem mais comum envolve três camadas. A primeira é uma lista de palavras conhecida combinada com expressões regulares para variações ortográficas. A segunda é um modelo de linguagem que entende contexto. A terceira é o sistema de escalão que toma a decisão final de classificação. Para a camada de palavras, você pode começar com listas abertas como a brasileira LEXIBRA ou a portuguesa PALavras. Essas listas são gratuitas e mantidas por pesquisadores. Basta fazer o download e carregar no seu pipeline. O problema é que listas estáticas pegam tudo. Você vai bloquear "droga" quando alguém disser "que droga boa" referindo-se a uma planta, e vai permitir "puta que pariu" quando usado como exclamação enfática entre amigos. Por isso a segunda camada existe. Modelos como o DistilBERT treinado em português do Instagram ou tweets brasileiros conseguem distinguir uso pejorativo de uso coloquial com razoável precisão. O custo é maior: rodar um modelo de linguagem requer GPU ou aceitar latência de 200 a 500 milissegundos por análise. Para comunidades pequenas, isso pode ser acceptable. Para plataformas com milhões de posts diários, vira gargalo.

O escalão propriamente dito funciona como um classificador multinível sobre os outputs desses dois primeiros passos. Se a lista de palavrões detectou uma palavra e o modelo contextual assignou probabilidade alta de uso ofensivo, o escalão sobe. Se apenas o modelo detectou ambiguidade, o conteúdo vai para revisão humana. Se nenhum dos dois apontou nada, o conteúdo passa direto.

Configuração passo a passo

Vou descrever o que fiz no meu último setup porque achei que seria útil para quem está começando agora. Usei Python como linguagem principal e Combinei bibliotecas diferentes para cada etapa. Para a detecção baseada em palavras, instalei a biblioteca profanity-cleaner e adaptei com a LEXIBRA. Baixe o arquivo CSV das palavras marcadas como baixo calão, limpei as duplicatas e formatei para um dicionário que a biblioteca reconhece. Coloquei o dicionário para funcionar com suporte a variantes ortográficas usando regras de normalização que removem acentos e substituem caracteres especiais antes da comparação. Para o modelo contextual, parti para o transformers da Hugging Face com o checkpoint cointegrated/rubert-tiny2. É um modelo pequeno, rápido, e funciona decentemente para detectar tom ofensivo em português. Carreguei com torch.no_grad() para evitar alocação desnecessária de memória e fiz batch processing com tamanho 16 para otimizar throughput.

O escalão em si foi uma lógica condicional simples. Se probabilidade ofensiva maior que 0.85 e presença confirmada na lista de palavrões, escalão alto. Se probabilidade entre 0.5 e 0.85, escalão médio com flag para revisão. Se abaixo de 0.5, escalão baixo ou neutro. Achei que precisava de machine learning para o escalão também, mas a regra simples funcionou melhor porque os thresholds se ajustaram conforme o volume de conteúdo passava pelo sistema ao longo de semanas.

Erros comuns que eu cometi

O primeiro erro foi não separar contexto de intenção. No começo eu tratava qualquer ocorrência de palavrão como igual. Dois usuários usavam a mesma palavra, mas um usava num discurso de ódio e outro num jogo de palavras entre amigos. O resultado foi uma onda de appeals porque gente justa tendo conteúdo marcado erroneamente como escalão alto. O segundo erro foi ignorar variação regional. Português brasileiro e português europeu dividem uso de certas expressões de forma significativa. O que é baixo calão leve no Brasil pode ser considerado ofensa grave em Portugal e vice-versa. A solução foi criar perfis regionais configuráveis no pipeline de classificação. O terceiro erro, e talvez o mais importante, foi não implementar um mecanismo de feedback loop. Um sistema de moderação sem forma de os moderadores humanos corrigirem classificações erradas fica parado nos mesmos erros para sempre. Eu adicionei um painel onde moderadores podiam marcar classificações como corretas ou erradas, e esses dados alimentavam um refinamento mensal dos thresholds do modelo.

Limitações que você precisa aceitar

Nenhum sistema automatizado de baixo calão ou escalão vai ser perfeito. Os falsos positivos nunca vão a zero porque linguagem é inerentemente contextual e dependente de cultura. Especialmente em português, onde há tanta variação dialetal que um modelo treinado em dados de São Paulo pode falhar feio com conteúdo do interior nordestino ou de comunidades angolanas. Outra limitação séria é que esse tipo de sistema é facilmente contornado. Usuários que querem burlar o filtro descobrem em minutos formas de escrever palavrões com números, caracteres especiais ou segmentação de sílabas. Para problemas reais de moderação, você precisa combinar isso com detecção heurística de padrões de evasão, não só confiar na lista de palavras e no modelo contextual. Se o seu projeto é grande e você tem recursos, o caminho mais robusto é usar o sistema automatizado como triagem inicial e reservar a decisão final para moderadores humanos treinados. Automáticos reduzem o volume de trabalho em cerca de 70 a 80 por cento. O resto exige julgamento humano, especialmente em casos limítrofes onde o contexto cultural é decisivo.