Nas Decadas De 1970 E 1980 Importantes Conceitos E Modelos

Redes neurais, sistemas especialistas e o caos lógico dos anos 70 e 80

Quem tenta entender os fundamentos da inteligência artificial moderna costuma pular direto para o deep learning dos anos 2010. Esse é o primeiro erro. Os nas décadas de 1970 e 1980 importantes conceitos e modelos que surgiram nessa época ainda determinam como as coisas funcionam hoje, só que de forma menos visível. Não adianta falar de redes neurais sem entender por que elas quase morreram nos anos 70 e o que salvou a ideia lá na frente. O modelo mais simples que existia era o perceptron de Rosenblatt, dos anos 60, que basicamente fazia uma soma ponderada dos inputs e aplicava um passo de limiar. Achei isso bom até Minsky e Papert publicarem Perceptrons em 1969. O livro mostrava, de forma rigorosa, que um perceptron de uma única camada não conseguia resolver nem o XOR. Isso não era um detalhe técnico. Foi o suficiente pra desacreditar toda a linha de pesquisa durante quase uma década. Eu lembro de tentar implementar um classificador baseado nessa lógica num projeto de mestrado no início dos anos 90 e ter que lidar com a realidade de que, pra qualquer problema que tivesse mais de uma classe separável de forma não-linear, a abordagem simplesmente não funcionava. O workaround que usamos foi encadear camadas, mas aí entrava outro problema: não havia um algoritmo prático de treinamento multi-camada.

Backpropagation e o renascimento conectado

O que mudou foi a descoberta de que o gradiente da função de erro em relação aos pesos de camadas ocultas podia ser calculado de trás pra frente, usando a regra da cadeia. Rumelhart, Hinton e Williams publicaram isso em 1986. Antes disso, várias pessoas já tinham chegado em resultados parecidos, incluindo Werbos em 1974, mas o artigo deles foi o que realmente espalhou a ideia. A parte que os livros didáticos modernos geralmente omite é que a backpropagation sozinha não resolveu o problema do XOR. Ela só permitiu treinar redes com múltiplas camadas. O que realmente fez a coisa funcionar na prática foi uma combinação de fatores: inicialização dos pesos com valores pequenos e aleatórios, uso de funções de ativação suaves como a sigmoide em vez do degrau, e learning rates ajustados manualmente. Sem esses três elementos juntos, o treinamento divergia ou travava em mínimos locais. Um detalhe que ninguém conta é sobre o vanishing gradient. Quando você tem camadas profundas e usa sigmoide, o gradiente fica tão pequeno nas camadas iniciais que os pesos praticamente não atualizam. A solução que surgiu depois foi a ReLU, mas nos anos 80 a comunidade simplesmente aceitava que redes com mais de duas ou três camadas ocultas eram inviáveis na prática.

Sistemas especialistas: a aposta simbólica

Enquanto os conexionistas lidavam com limites matemáticos, o campo simbólico crescia de outra forma. Sistemas especialistas como o MYCIN, desenvolvido no início dos anos 70, e o PROSPECTOR, dos anos 80, eram programas que copiavam o raciocínio de especialistas humanos em domínios restritos. A ideia era simples: regras do tipo SE condição ENTÃO ação, combinadas com uma base de conhecimento estruturada. O MYCIN era específico pra diagnóstico de infecções sanguíneas e usava fatores de confirmação em vez de probabilidade bayesiana pura. Isso gerava polêmica porque a combinação de fatores não respeitava as propriedades de uma distribuição probabilística real. Ainda assim, o sistema atingia precisão comparável a médicos em tarefas controladas. O problema prático que todo mundo que implementou isso enfrentava era a fragilidade nas bordas. Regras bem definidas funcionavam bem dentro do domínio delimitado, mas qualquer situação fora do esperado causava comportamento imprevisível. Eu trabalhei numa versão adaptada de um sistema baseado em regras pro controle de processos industriais e a dor de cabeça constante era manter o conjunto de regras consistentes conforme novas exceções surgiam. O número de regras cresciam de forma exponencial e a manutenção virava um inferno.

Logic Programming e a visão declarativa

Prolog surgiu no final dos anos 70 na França, com Alain Colmerauer, e ganhou tração no Japão com o projeto Fifth Generation Computer Systems do Japão nos anos 80. A proposta era diferente das redes neurais: em vez de aprender a partir de dados, o programa descrevia relações lógicas e o mecanismo de inferência encontrava respostas. O que era atraente na teoria era a separação entre o conhecimento e o controle. Você declarava o que era verdade e o motor de resolução de objetivos decidia como responder. Na prática, o controle de eficiência era um pesadelo. Backtracking ingênuo sem restrições adequadas de corte (cut) podia gerar combinações exponenciais em problemas simples. Um case que eu vi acontecer em projetos reais era a dificuldade de representar incerteza. Prolog é verdadeiro ou falso por construção. Quando o mundo real exige graduações, você precisa de extensões como Fuzzy Prolog ou combinar com métodos probabilísticos, o que complicava a arquitectura de forma significativa.

Competição entre paradigmas

A divisão entre conexãoismo e simbolismo nos anos 80 não era apenas acadêmica. Havia investimento real atrás de cada lado. Nos Estados Unidos, o connectionismo ganhou força com o grupo de PDP. No Japão, o governo investiu bilhões nos computadores de quinta geração baseados em lógica. Nenhuma das duas vertentes venceu de forma absoluta. Ambas contribuiram com ideias que foram absorvidas pelas abordagens atuais. O que era subestimado naquela época era a possibilidade de híbridos. Sistemas neuro-simbólicos, que combinam aprendizado de representação com raciocínio estruturado, só ganharam atenção séria décadas depois. A minha opinião é que a disputa binária distraiu a comunidade de uma direção mais produtiva por muito tempo.

Por que isso importa hoje

Se você estuda machine learning atualmente, entender o contexto dos anos 70 e 80 ajuda a não repetir erros. A backpropagation não é uma bala de prata. Ela depende criticamente de inicialização, regularização e arquitetura. Redes neurais não eram a solução favorita nos anos 80 por falta de poder computacional, mas também por limitações teóricas que só foram parcialmente resolvidas depois. Sistemas baseados em regras também não morreram. Eles migraram pra áreas onde a interpretabilidade e a garantia de constraints são mais importantes que a acurácia máxima. Controle industrial, diagnósticos clínicos validados e ambientes regulados ainda usam abordagens híbridas que herdam diretamente aquela tradição. Os conceitos fundamentais — generalização a partir de exemplos, busca em espaços de hipótese, trade-off entre expressividade e computabilidade — foram todos formulados ou refinados nesse período. Repetir essa história ajuda a reconhecer padrões que aparecem em cada nova onda tecnológica.