Importância de dados com média zero e desvio padrão unitário

Intro

A normalização de dados é crucial para o treinamento eficiente de redes neurais, então é bastante comum tentar forçar uma média = 0 e desvio padrão = 1 no conjunto de treino.

1. Conceitos Fundamentais

(a) Média Zero (μ = 0)

O que significa?

Os dados são centralizados em torno de 0.
Equação:
$x_{\text{normalizado}} = x - \mu$

Impacto na rede neural

Evita viés inicial nos pesos, facilitando a convergência.

(b) Desvio Padrão Unitário (σ = 1)

O que significa?

Os dados são escalonados para terem variabilidade uniforme.
Equação:
$z = \dfrac{x - \mu}{\sigma}$

Impacto na rede neural

Garante que todas as features contribuam igualmente ao aprendizado.

2. Importância

3. Exemplo Gráfico em Python

Vamos comparar dados antes e depois da normalização:

(a) Dados Originais (Não Normalizados)

​x
import numpy as np
import matplotlib.pyplot as plt
from sklearn.preprocessing import StandardScaler
​
# Dados de exemplo (2 features com escalas diferentes)
X = np.array([
    [1000, 0.1], 
    [2000, 0.2], 
    [3000, 0.3], 
    [4000, 0.4]
])
​
plt.scatter(X[:, 0], X[:, 1], c='red', label="Dados Originais")
plt.xlabel("Feature 1 (Escala ~1000s)")
plt.ylabel("Feature 2 (Escala ~0.1s)")
plt.title("Dados Não Normalizados")
plt.grid()
plt.legend()
plt.show()

(b) Dados Normalizados (StandardScaler)

xxxxxxxxxx
scaler = StandardScaler()
X_normalized = scaler.fit_transform(X)
​
plt.scatter(X_normalized[:, 0], X_normalized[:, 1], c='blue', label="Dados Normalizados")
plt.xlabel("Feature 1 (Média = 0)")
plt.ylabel("Feature 2 (DP = 1)")
plt.title("Dados Normalizados (StandardScaler)")
plt.grid()
plt.axhline(0, color='black', linestyle='--')
plt.axvline(0, color='black', linestyle='--')
plt.legend()
plt.show()

Obs.: O arquivo test_dados_normalizados.py concentra estes 2 "snaps" de código.

Saídas:

Dados não normalizados	Dados normalizados
Note como a Feature 1 domina completamente a escala!	Agora as features estão na mesma escala!

(c) Exemplo mais completo, com Histograma dos dados

O códio abaixo trabalha com valores aleatórios gerados em faixas diferntes para as 2 fetures e ainda gera um histograma ilustrando a distribuição dos valores em cada caso:

Código test_dados_normalizados2.py:

xxxxxxxxxx
"""
Importância de dados com média zero e desvio padrão unitário
Fernando Passold, em 30/03/2025
"""
import numpy as np
import matplotlib.pyplot as plt
from sklearn.preprocessing import StandardScaler
​
# Dados de exemplo (2 features com escalas diferentes)
# - Coluna 1: valores entre -10 e 20
# - Coluna 2: valores entre -0.5 e 0.75
n_samples = 100  # Número de pontos
X = np.column_stack([
    np.random.uniform(low=-10, high=20, size=n_samples),  # Coluna 1
    np.random.uniform(low=-0.5, high=0.75, size=n_samples)  # Coluna 2
])
​
# Calculando as médias antes da normalização
mean_feature1 = np.mean(X[:, 0])
mean_feature2 = np.mean(X[:, 1])
​
# Visualização dos dados originais
plt.figure(figsize=(12, 5))
​
plt.subplot(1, 2, 1)
​
plt.scatter(X[:, 0], X[:, 1], c='red', alpha=0.6, label='Dados')
plt.axhline(y=mean_feature2, color='blue', linestyle='--', linewidth=1.5, 
            label=f'Média Feature 2 = {mean_feature2:.2f}')
plt.axvline(x=mean_feature1, color='blue', linestyle='--', linewidth=1.5, 
            label=f'Média Feature 1 = {mean_feature1:.2f}')
plt.title("Dados Originais com Linhas de Média")
plt.xlabel("Feature 1 (Faixa: -10 a 20)")
plt.ylabel("Feature 2 (Faixa: -0.5 a 0.75)")
plt.grid(True, linestyle='--', alpha=0.5)
plt.legend()
​
# (b) Dados Normalizados (StandardScaler)
scaler = StandardScaler()
X_normalized = scaler.fit_transform(X)
​
plt.subplot(1, 2, 2)
​
plt.scatter(X_normalized[:, 0], X_normalized[:, 1], c='blue', alpha=0.6)
plt.title("Dados Normalizados\n(Média=0, Desvio Padrão=1)")
plt.xlabel("Feature 1 (Normalizada)")
plt.ylabel("Feature 2 (Normalizada)")
plt.grid(True, linestyle='--', alpha=0.7)
plt.axhline(0, color='black', linewidth=0.5)
plt.axvline(0, color='black', linewidth=0.5)
​
plt.tight_layout()
plt.show()
​
# Mostrando Histogramas
​
plt.figure(figsize=(12, 5))
​
# Histograma dos dados originais
plt.subplot(1, 2, 1)
plt.hist(X[:, 0], bins=20, alpha=0.7, label='Feature 1', color='red')
plt.hist(X[:, 1], bins=20, alpha=0.7, label='Feature 2', color='green')
plt.title("Distribuição Original")
plt.xlabel("Valores")
plt.ylabel("Frequência")
plt.legend()
​
# Histograma dos dados normalizados
plt.subplot(1, 2, 2)
plt.hist(X_normalized[:, 0], bins=20, alpha=0.7, label='Feature 1', color='red')
plt.hist(X_normalized[:, 1], bins=20, alpha=0.7, label='Feature 2', color='green')
plt.title("Distribuição Normalizada")
plt.xlabel("Valores (Média=0, Desvio=1)")
plt.legend()
​
plt.tight_layout()
plt.show()
​

Saída

Note no último gráfico, como a função como o StandardScaler centralizou os dados na origem.

4. Efeito no Treinamento de Redes Neurais

Gradiente Descendente:

• Com dados normalizados, os passos de atualização dos pesos são mais equilibrados.
• Sem normalização, o gradiente pode oscilar violentamente (instabilidade).

Exemplo com Keras:

xxxxxxxxxx
from keras.models import Sequential
from keras.layers import Dense
​
model = Sequential()
model.add(Dense(64, activation='relu', input_dim=2))
model.add(Dense(1, activation='sigmoid'))
​
model.compile(optimizer='adam', loss='binary_crossentropy')
​
# Treinar com dados NÃO normalizados (problema!)
# model.fit(X, y, epochs=100)  # Lento/instável
​
# Treinar com dados normalizados (ideal)
model.fit(X_normalized, y, epochs=100)  # Convergência rápida

5. Quando NÃO Usar StandardScaler?

• Dados categóricos (use OneHotEncoder).
• Dados com outliers extremos (prefira RobustScaler).
• Redes neurais com normalização incorporada (ex: BatchNormalization).

Referências

• Ioffe, S., & Szegedy, C. (2015). Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. arXiv:1502.03167.
• Géron, A. (2019). Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow (2nd ed.). O’Reilly Media.

Fernando Passold, em 30/03/2025