Um passeio interativo pelos blocos fundamentais de uma rede neural: neurônio, funções
de ativação, propagação à frente e o treinamento por backpropagation com
descida do gradiente. Ajuste os controles e veja a matemática ganhar vida.
Não é preciso instalar nada — é apenas um .html.
O menor "átomo" de uma rede neural. Um neurônio recebe várias entradas, faz a soma ponderada, adiciona um viés (bias) e passa o resultado por uma função de ativação. Ajuste os valores e observe a saída.
O traço vertical laranja marca o z atual; a altura do ponto mostra a saída y. A curvatura é o que permite à rede modelar relações complicadas — sem ela, empilhar camadas não adiantaria.
💡 Por que uma função curva? Puxe w₁ e w₂ e observe: uma soma linear sozinha só desenha retas. A ativação emenda essas retas em formas complexas, e é isso que dá poder a uma rede com muitas camadas.
A escolha da ativação decide como a rede aprende. Compare as principais e clique/arraste no gráfico para mover o ponto de leitura e ler os valores.
| Função | Valor em x | Derivada | Características |
|---|---|---|---|
| sigmoid | — | — | Saída 0–1, tipo probabilidade; mora na saturação. |
| tanh | — | — | Saída −1…1, centrada; saturação nas pontas. |
| ReLU | — | — | Rápida e barata; ativa acima de 0, nula abaixo. |
| swish | — | — | Suave e auto-regulada; favorita em modelos grandes. |
Uma rede com 2 entradas, 3 neurônios ocultos e 1 saída. Defina as entradas e a propagação à frente calcula, camada por camada, cada ativação. A cor de cada neurônio mostra o quão ativo ele está.
💡 O problema XOR é não-linear: a saída só é 1 quando os dois bits são diferentes. Nenhuma combinação linear separa os 4 pontos — por isso precisamos da camada escondida, que "deforma" o espaço para uma reta então resolver.
Ensinamos a mesma rede 2→3→1 a resolver o XOR com backpropagation. Cada época recalcula a saída, mede o erro, propaga os gradientes de volta pela rede e ajusta os pesos na direção que diminui o erro. Com momentum (deslize) o algoritmo "ganha inércia", evitando os mínimos locais de saddle em que o XOR costuma ficar preso.
A fronteira começa aleatória e se curva enquanto o erro cai — é a camada oculta separando o espaço em regiões. No fim, cada ponto de treino cai no lado certo.
| x₁ | x₂ | Alvo | Predição | Erro |
|---|---|---|---|---|
| 0 | 0 | 0 | — | — |
| 1 | 1 | 0 | — | — |
| 0 | 1 | 1 | — | — |
| 1 | 0 | 1 | — | — |