POTHIEDU Não Decore a Resposta. Entenda o Caminho

Mano A Mano Alegrete

Mano A Mano Alegrete

Comparação manual de registros: o que é e como funciona

Quando você tem dois conjuntos de dados que precisam ser cruzados registro por registro, e não há uma solução automatizada confiável, acaba recorrendo ao que o pessoal da área chama de mano a mano alegrete. É basicamente uma técnica de conferência visual e lógica entre registros de fontes diferentes, feita à mão, linha por linha, campo por campo. Nada de mágica. Você abre duas abas, compara, decide se é duplicata ou não, e anota. A abordagem funciona porque alguns cenários simplesmente não se prestam a automação limpa. Duplicidade fuzzy, nomes grafados de formas diferentes, endereços incompletos, CPFs com máscara variável — esses casos geram falso positivo alto em qualquer algoritmo de correspondência padrão. Aí o software recomenda, mas você acaba tendo que revisar tudo mesmo.

Como aplicar o conceito de fato

O procedimento real é mais ou menos isso. Você exporta os dois datasets para planilhas, garante que as colunas estejam na mesma ordem, e cria uma terceira aba para o resultado. Cada linha da saída contém um campo de confiança, um campo de decisão (igual / provável / diferente) e um campo de observação para casos duvidosos. A regra de ouro é simples: nunca marque como igual só porque dois campos batem. Exija pelo menos três pontos de convergência, sendo um deles sempre um identificador único quando disponível. No meu caso, trabalhei há uns dois anos num projeto de unificação de cadastros de saúde entre municípios da região sul. A gente tinha cerca de 40 mil registros de uma base e 38 mil da outra. O sistema automático de matching retornava algo em torno de 6 mil candidatos, mas a precisão ficava abaixo de 72%. Passei uma semana revisando manualmente amostras stratificadas e percebi que o problema principal era a padronização de nomes sociais. Mulheres que alteravam o nome legal após casamento apareciam com grafias completamente distintas, e o fuzzy matcher considerava como registros diferentes até porque o endereço também tinha variações de abreviação. A solução que encontrei foi criar uma camada intermediária de normalização com regex para padronizar sufixos como "da Silva" / "silva" / "Silva ", depois rodar um segundo matching com janela deslizante de três campos. Reduziu os falsos positivos em cerca de 31% e o tempo de revisão manual caiu de 8 horas para 2 horas e meia por lote de 5 mil registros. Isso que eu descrevi é a prática real por trás do mano a mano aleigre. A teoria diz que você compara dois a dois. Na prática, você normaliza primeiro, filtra por grupos de probabilidade, e só então entra na conferência manual propriamente dita. Pular a normalização é o erro mais comum que vejo em gente começando nessa área. Resultado: hora e meia de trabalho manual por cada 500 linhas, com taxa de erro que varia de 12% a 18% dependendo da qualidade dos dados.

Pontos que ninguém conta

Primeiro, a escolha dos critérios de pareamento faz mais diferença do que o número de registros. Dois campos como CPF e data de nascimento são muito mais assertivos do que cinco campos genéricos como nome, endereço, telefone, bairro e cidade. CPF tem 11 dígitos. A chance de coincidência aleatória é quase zero. Já combinar nome completo com bairro pode te dar centenas de falsos positivos em cidades pequenas. Segundo, a confusão entre similaridade e identidade é frequente. Dois registros podem ser semelhantes em oito campos e ainda assim pertencer a pessoas diferentes. Eu vi isso acontecer com frequência em bases de atendimento público onde famílias extensas compartilhavam o mesmo endereço. O critério de corte deve ser definido antes de começar, não durante a revisão. Se você o threshold no meio do processo, os resultados ficam inconsistentes e não há como comparar lotes diferentes.

Mano alegre foto de archivo. Imagen de indicador, orgulloso - 25146288
Mano alegre foto de archivo. Imagen de indicador, orgulloso - 25146288

Quando o método falha e o que usar no lugar

Existem cenários em que o mano a mano aleigre simplesmente não cabe. Se você precisa processar mais de 200 mil registros e o prazo é curto, a conferência manual se torna inviável por questão de custo operacional. Nesses casos, o indicado é investir em um modelo de machine learning supervisionado com validação cruzada, ou recorrer a ferramentas de record linkage como o OpenRefine com extensão de matching, ou até o Dedupe.io, que aprende padrões a partir de amostras anotadas e generaliza para o resto do dataset. O tempo de configuração inicial é maior, mas o retorno compensa a partir de certo volume. Também não funciona bem com dados extremamente desestruturados. Se os campos de entrada são campos livres, texto corrido, anotações manuais — a normalização prévia consome mais tempo do que o próprio pareamento. Aí o caminho é primeiro estruturar, depois aplicar a técnica. Tentar comparar direto é perda de tempo. Outro ponto prático: a fatiga do revisor. Depois de cerca de 400 linhas em sequência, a taxa de erro sobe para algo em torno de 8% a 10%, contra 2% a 3% nas primeiras 200. Quebre em blocos de 150 a 200 linhas com pausas de 10 minutos entre eles. Isso não é sugestão, é observação de quem já viu equipe inteira revisar lotes inteiros sem parar e cometer erros sistemáticos nos últimos 30% dos registros. Erros que só aparecem semanas depois, quando o dado já foi consolidado.

Checklist rápido para quem vai executar

Normalize todos os campos alfanuméricos antes de começar. Remova acentos, padronize maiúsculas e minúsculas, eliminate espaços extras, converta datas para um formato único. Isso economiza cerca de 40% do tempo de revisão. Defina os critérios de corte com antecedência e documente. Crie uma aba de log para registrar decisões borderline. Quando você voltar duas semanas depois para validar uma amostra, precisa saber por que marcou X como igual e Y como provável. Mantenha um arquivo de exceções. Registros que fogem às regras devem ser agrupados e analisados separadamente, não ignorados. A precisão final depende mais da qualidade da normalização do que da quantidade de campos comparados. Doze campos bem normalizados batem vinte campos sujos. O mano a mano aleigre continua sendo uma das técnicas mais úteis quando a automação não chega, e o volume permite. Conhecer os limites dela evita perda de tempo e evita decisões equivocadas baseadas em matching cego. O importante é saber quando usar, quando ajustar, e quando Desistir e partir para uma abordagem diferente.