Palavra De Alto Calão

Filtrando conteúdo impróprio em sistemas de moderação automática

A detecção de palavra de alto calão em pipelines de processamento de linguagem natural é muito mais complicada do que a maioria dos desenvolvedores assume quando começa. A solução óbvia é criar uma lista negra de termos e pronto, mas esse caminho gera problemas sérios que aparecem horas depois de colocar o sistema em produção. O método básico envolve carregar um vocabulário de termos impróprios e verificar se alguma ocorrência aparece no texto de entrada. Em Python, você pode fazer isso com regex simples ou com bibliotecas como bad-words ou detox. A instalação é rápida: pip install detox

O problema é que a biblioteca padrão cobre português brasileiro com uma lista fixa. Se seu sistema precisa lidar com português de Portugal, variantes regionais ou gírias locais, a cobertura cai para algo em torno de 60% dos casos reais. Eu descobri isso em 2022 quando implementei um filtro para uma plataforma de comentários e, durante uma semana inteira, milhares de variações de calão passaram direto porque usavam grafias informais como "putz" escrito como "puth" ou "merda" com "mehda". A solução que funcionou foi combinar três camadas: uma lista de dicionário tradicional, uma lista de variações fonéticas geradas por distância de Levenshtein, e um classificador treinado com exemplos reais da plataforma. O modelo leve (TinyBERT fine-tuned) custava cerca de 30ms por requisição e capturava 94% das ocorrências que as duas listas combinadas perdiam.

Pegadinhas que ninguém conta

A primeiraarmadilha é o falso positivo com palavras legítimas. Termos como "porra" existem em expressões coloquiais que não são necessariamente ofensivas em certos contextos, e "caralho" aparece em nomes próprios e topônimos. Um sistema que filtra tudo indiscriminadamente vai bloquear conteúdos que não deveriam ser bloqueados. Minha equipe resolveu isso com um classificador de intenção de duas classes que analisa o contexto ao redor do termo detectado, não apenas o termo isolado. Isso reduziu falsos positivos de 18% para cerca de 3%. A segundaarmadilha é muito mais chata. Palavras de alto calão em outras línguas que aparecem em textos bilinguals são facilmente ignoradas por listas monolíngues. Se sua plataforma recebe comentários em português com empréstimos do inglês ou espanhol, o filtro precisa ser multilíngue ou ter um detector de linguagem antes da etapa de moderação. Eu perdi duas semanas refazendo um pipeline inteiro porque o primeiro modelo não lia corretamente misturas PT/EN no mesmo parágrafo.

Limitações reais

Um sistema baseado apenas em listas de palavras não escala bem. Conforme a plataforma cresce, a lista de termos proibidos cresce junto e o custo computacional da verificação aumenta linearmente. Para plataformas com mais de 50 mil comentários por dia, a abordagem híbrida (lista + modelo leve) se mostra mais eficiente do que apenas aumentar a lista. O modelo captura padrões que listas não conseguem representar, como duplo sentido e ironia. O outro limitador importante é que nenhum filtro automatizado acerta 100% dos casos. Sistemas reais precisam ter um fluxo de revisão humana para os casos borderline. Um dashboard simples que mostra os textos classificados como impróprios mas que podem ser legítimos permite ajustar o limiar de confiança do modelo sem quebrar o resto do pipeline.

Recursos práticos

Para quem quer começar, a biblioteca detox é um ponto de partida válido para protótipos rápidos. Para produção, considere o Hugging Face Transformers com modelos como DistilBERT-base-uncased fine-tunado em datasets como o Brazilian Toxic Tweets ou BROTOX. Ambos são gratuitos e têm boa cobertura de calão em português brasileiro. A chave é testar com dados reais da sua plataforma antes de confiar cegamente nas métricas do dataset de treinamento. O que funciona em tweets não funciona necessariamente em comentários de fóruns, e o contrário também é verdadeiro.