A Deep Extreme Learning Machine (DELM), uma extensão profunda da Extreme Learning Machine (ELM) tradicional, demonstra vantagens significativas na modelagem preditiva. Sua essência reside na extração hierárquica de características através de múltiplos Autoencoders (AE), mantendo a rapidez de treinamento da ELM. Contudo, na prática, o desempenho da DELM é sensível à escolha de parâmetros cruciais como o número de neurônios na camada oculta e a inicialização dos pesos. É neste contexto que os algoritmos de otimização por inteligência de enxame se destacam.

Este projeto apresenta a integração de três algoritmos populares de inteligência de enxame – Grey Wolf Optimizer (GWO), Multi-Verse Optimizer (MVO) e Wind-Drivan Optimizaton (WDO) – com a DELM. Utilizando a plataforma MATLAB, foram desenvolvidos os modelos preditivos otimizados GWO-DELM, MVO-DELM e WDO-DELM. Diferentemente da sintonia manual de parâmetros tradicional, estes algoritmos emulam comportamentos inteligentes observados na natureza para buscar a combinação ótima de parâmetros da DELM, elevando a eficiência do desenvolvimento e assegurando a precisão do modelo.

Ponto chave de inovação: A introdução de mecanismos de otimização bio-inspirados no processo de otimização de parâmetros de deep learning, alcançando um duplo efeito de otimização com "busca global + ajuste fino local". Testes práticos indicam que os modelos otimizados apresentam um aumento médio de 15-23% na precisão preditiva em diversas tarefas, comparados à DELM tradicional.

2. Princípios dos Algoritmos Centrais e Arquitetura de Implementação

2.1 Estrutura Fundamental da Deep Extreme Learning Machine (DELM)

A DELM baseia-se na empilhamento de múltiplos ELM Autoencoders (ELM-AE) para formar uma rede profunda. Cada ELM-AE compreende três etapas computacionais essenciais:

1. Camada de Projeção Aleatória: Os dados de entrada X são mapeados para a camada oculta através de uma matriz de pesos aleatórios W. ```

   H = W * InputData'; % Projeção linear H = sigmoid(H); % Ativação Sigmoid

2. Solução via Pseudo-inverso: O peso de saída β é calculado diretamente usando a pseudo-inversa de Moore-Penrose. ```

   Beta = pinv(H') * InputData; % Cálculo da solução analítica

3. Treinamento Camada a Camada: Ao concatenar múltiplos ELM-AE, a saída de uma camada serve como entrada para a próxima, permitindo a propagação hierárquica das características.

2.2 Comparativo dos Princípios dos Algoritmos de Inteligência de Enxame

Todos os três algoritmos buscam a solução ótima através de iterações populacionais, porém com focos distintos:

• GWO enfatiza a orientação por indivíduos líderes (adequado para ajuste grosseiro de parâmetros estruturais da rede).
• MVO foca no equilíbrio entre exploração e explotação (adequado para problemas complexos e não lineares).
• WDO é especializado em ajustes finos (adequado para otimização precisa de parâmetros de peso).

2.3 Desenho da Estrutura de Otimização Conjunta

O processo de otimização adota uma estratégia em duas fases:

1. Fase de Otimização Estrutural: Utilização de algoritmos inteligentes para determinar a estrutura ótima da rede.

   • Espaço de busca: Número de camadas ocultas [1, 5], número de neurônios [50, 500].
   • Função de fitness: RMSE no conjunto de validação.

2. Fase de Otimização de Parâmetros: Ajuste dos pesos após a estrutura ser definida. ```

   % Exemplo de otimização de pesos com GWO for iteration = 1:maxIterations [~, leaderIndex] = sort(fitnessValues); % Seleciona o lobo líder convergenceFactor = 2 - iteration*(2/maxIterations); % Fator de convergência encirclementCoefficient = 2*rand()-1 * convergenceFactor; % Coeficiente de envolvimento

    % Atualiza a posição (pesos)
    newPositions = leaderPosition - encirclementCoefficient * abs(leaderPosition - currentPositions); 
    currentWeights = reshape(newPositions, [hiddenDim, inputDim]); % Atualiza a matriz de pesos
   

   end

3. Técnicas-Chave e Passos Operacionais em MATLAB

3.1 Configuração do Ambiente Básico

Recomenda-se o uso do MATLAB R2020b ou superior. As seguintes Toolboxes são necessárias:

• Deep Learning Toolbox (essencial)
• Parallel Computing Toolbox (para aceleração computacional)
• Statistics and Machine Learning Toolbox (opcional)

Dica para evitar problemas: Ao instalar no sistema Ubuntu, pode ser necessário executar sudo apt-get install libfreetype6 para resolver dependências de fontes.

3.2 Fluxo Padronizado de Pré-processamento de Dados

% Padronização e divisão dos dados
normalizedData = normalize(inputData, 'zscore'); % Padronização Z-score
[trainIdx, valIdx, testIdx] = dividerand(size(normalizedData, 1), 0.7, 0.15, 0.15);

% Dados de séries temporais requerem tratamento especial
if isTimeSeriesData
   [XTrain, YTrain] = createTimeSeriesDataset(trainingData, lagOrder);
end
 

3.3 Pontos Essenciais na Implementação das Funções Centrais

Implementação do ELM-AE com Pesos Iniciais: ```

function [output, outputWeights, hiddenLayerOutput] = ELM_AutoencoderWithInitialWeights(initialWeights, inputData, activationFunction, numHiddenNeurons) % Calcula a saída da camada oculta usando os pesos iniciais fornecidos hiddenLayerInput = initialWeights * inputData';

switch lower(activationFunction)
    case 'sig'
        hiddenLayerOutput = 1 ./ (1 + exp(-hiddenLayerInput));
    case 'radbas'
        hiddenLayerOutput = exp(-(hiddenLayerInput.^2));
    otherwise
        hiddenLayerOutput = tanh(hiddenLayerInput); % Função tanh como padrão
end

% Calcula os pesos de saída usando a pseudo-inversa
outputWeights = pinv(hiddenLayerOutput') * inputData;

% Reconstrói a entrada (saída do autoencoder)
reconstructedInput = inputData * outputWeights';
output = reconstructedInput; % Saída final do autoencoder

end

 **Loop Principal do Otimizador GWO**: ```

while currentIteration < maxIterations
    convergence = 2 - currentIteration * (2 / maxIterations); % Decremento linear
    
    for agentIndex = 1:populationSize
        % Atualização da posição do agente
        rand1 = rand();
        rand2 = rand();
        
        coefficientA = 2 * convergence * rand1 - convergence; % Coeficiente A
        coefficientC = 2 * rand2; % Coeficiente C
        
        % Calcula a distância para o lobo alfa
        distanceAlpha = abs(coefficientC * alphaPosition - agentPositions(agentIndex, :));
        
        % Nova posição baseada na atração pelo alfa
        newPosition = alphaPosition - coefficientA * distanceAlpha;
        
        % Avalia a nova posição
        newFitness = evaluateDELMModel(newPosition, trainingDataset);
        if newFitness < currentFitness(agentIndex)
            agentPositions(agentIndex, :) = newPosition;
            currentFitness(agentIndex) = newFitness;
        end
    end
    
    % Atualiza a posição do lobo alfa (melhor agente)
    [~, bestAgentIndex] = sort(currentFitness);
    alphaPosition = agentPositions(bestAgentIndex(1), :);
    currentIteration = currentIteration + 1;
end
  

3.4 Otimização de Desempenho com Computação Paralela

Utilize o parfor do MATLAB para paralelizar a avaliação da população:

parfor i = 1:populationSize
   fitnessValues(i) = evaluateDELMModel(positions(i,:), trainingData);
end
 

Dados de teste: Em um processador Ryzen 9 5900X, a ativação do paralelismo aumentou a velocidade de iteração em 4.8 vezes.

4. Solução de Problemas Típicos e Sugestões de Otimização

4.1 Soluções para Erros Comuns

4.2 Experiência com Ajuste de Parâmetros

4.3 Recomendações de Seleção de Algoritmo por Cenário

• Dados com alta dimensionalidade de características: Priorizar MVO-DELM; seu mecanismo de expansão cósmica é mais adequado para lidar com espaços de alta dimensão.
• Dados com poucas amostras: Recomendar WDO-DELM; a capacidade de ajuste fino pode prevenir o overfitting.
• Alta exigência de tempo real: Selecionar GWO-DELM; sua velocidade de convergência é a mais rápida.

5. Aplicações Avançadas e Comparação de Desempenho

5.1 Tratamento Específico em Previsão de Séries Temporais

Para problemas de séries temporais como previsão de mercado de ações, é necessário adicionar termos defasados à camada de entrada:

% Construção da matriz de defasagem temporal
for i = 1:(numSamples - lagOrder)
   inputFeatureVector(i, :) = data(i : (i + lagOrder - 1));
   targetValue(i) = data(i + lagOrder); 
end
 

5.2 Teste Comparativo de Desempenho dos Três Algoritmos

Resultados de testes práticos em conjuntos de dados UCI:

Recomendação de Engenharia: Selecione MVO para requisitos rigorosos de precisão, GWO para buscar eficiência, e WDO como uma opção de equilíbrio.

5.3 Vantagens Comparativas com Métodos Tradicionais

1. Velocidade de Treinamento: Comparado a redes neurais BP, o tempo de treinamento é reduzido em mais de 80%.
2. Sensibilidade a Parâmetros: O modelo otimizado é menos sensível aos parâmetros iniciais.
3. Interpretabilidade: Algoritmos inteligentes fornecem uma base objetiva para a seleção de parâmetros.

Em um projeto prático de previsão de potência eólica, o GWO-DELM reduziu o erro de previsão de 9.7% (método ELM tradicional) para 6.3%, mantendo o tempo de treinamento em 1/5 do tempo das abordagens de deep learning convencionais. Esse equilíbrio entre eficiência e precisão o torna altamente adequado para implantação em sistemas de previsão de nível industrial.