O Que É Verossimilhança

O que você realmente precisa saber sobre verossimilhança

A verossimilhança não é probabilidade. Ela responde à pergunta inversa: dado que eu já vi esses dados, quais parâmetros do modelo explicariam melhor o que aconteceu? No dia a dia da modelagem, isso parece óbvio até você se deparar com dados raros e entender que o otimizador tá achando máximos locais que parecem perfeitos mas não existem na realidade. Quando comecei a trabalhar com dados de sobrevivência, a primeira coisa que aprendi foi que a função de verossimilhança pode ser plana em certas regiões do espaço de parâmetros. Isso significa que você gasta horas rodando algoritmos e o resultado final muda conforme a semente aleatória. O problema é que a maioria das pessoas não percebe até tentar comparar modelos com base em valores absolutos em vez de diferenças relativas.

O que é verossimilhança na prática?

A função de verossimilhança L( | dados) pega cada observação, calcula a probabilidade dela ocorrer sob o modelo com parâmetros e multiplica todos esses valores. Na prática, trabalha-se com o logaritmo dessa função porque os números ficam menores e mais tratáveis. Um detalhe que quase ninguém menciona é que a escala absoluta do valor de verossimilhança não tem significado por si só. O que importa é a razão entre verossimilhanças de modelos diferentes. Tive um caso onde eu estava ajustando um modelo gama com covariáveis e ooptimizer parava em valores de log-verossimilhança absurdos, como -100000, quando o mesmo conjunto de dados em outra implementação dava valores na casa de -50. A causa era uma parametrização diferente da distribuição. Um usava forma e escala, o outro forma e taxa. O modelo era matematicamente idêntico, mas os gradientes comportavam-se de maneiras completamente distintas durante a otimização. A solução foi padronizar a parametrização antes de rodar e não confiar no valor absoluto do log-verossimilhança como critério de comparação entre implementações. O conceito de verossimilhança também aparece em contextos que as pessoas esquecem. Análise de sobrevivência com censura, modelos mistos, inferência bayesiana. Em todos esses casos, o núcleo é o mesmo: encontrar os parâmetros que maximizam a probabilidade dos dados observados. Mas o que muda é a complexidade da função e a quantidade de informação que se perde ao marginalizar parâmetros.

Um erro comum é tratar a verossimilhança como se ela fosse uma medida de acerto do modelo. Ela não é. Um modelo pode ter alta verossimilhança e ainda assim ser completamente inadequado para previsão. Isso acontece frequentemente quando há muitos parâmetros em relação ao número de observações. O modelo se ajusta aos ruídos e a verossimilhança sobe, mas o desempenho fora da amostra despenca. Outro ponto que vale a pena mencionar é a questão da identidade. Duas funções de verossimilhança são consideradas equivalentes se uma for um múltiplo positivo da outra, mas na prática muitos estatísticos trabalham com verossimilhanças que diferem por constantes aditivas. O resultado da otimização é o mesmo, mas intervalos de confiança baseados em aproximações normais podem variar ligeiramente dependendo de como a constante é tratada. Se você está começando agora, foque em entender primeiro o que a função está fazendo em casos simples. Uma distribuição normal com média desconhecida e variância conhecida é um bom ponto de partida. A verossimilhança aqui é uma curva simétrica em torno da média amostral. Conforme você adiciona variância desconhecida, a superfície de verossimilhança vira um paraboloide e o comportamento do otimizador muda drasticamente. Teste isso com dados simulados antes de aplicar em dados reais, porque a intuição muitas vezes falha quando a dimensionalidade sobe.