Introdução ao PyTorch

O PyTorch é um framwork de aprendizado deagem de código aberto que fornece ferramentas para construir e treinar redes neurais. Suas principais características incluem:

• Computação com grafos dinâmicos: Os grafos de cálculo são construídos em tempo de execução, permitindo maior flexibilidade na definição e depuração dos modelos.
• Suporte a GPU: Otimizado para operações em GPUs, acelerando significativamente o treinamento e a inferência.
• Diferenciação automática: Calcula gradientes automaticamente, simplificando o processo de backpropagation.
• Biblioteca extensa de modelos pré-treinados: Ecossistemas como TorchVision, TorchText e TorchAudio oferecem modelos prontos para uso.
• Interfaces de alto nível: Módulos como nn.Module simplificam a criação de arquiteturas complexas.
• Treinamento distribuído: Suporta paralelismo em múltiplas GPUs e máquinas.

Ambiente de Desenvolvimento

Configure o ambiente usando os seguintes comandos para garantir compatibilidade com CUDA:

conda create -n dl_env python=3.11
conda activate dl_env
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

Estruturas de Dados do PyTorch

Tensor

O tensor é a estrutura fundamental do PyTorch, equivalente a um array multidimensional que pode representar escalares, vetores, matrizes ou dados de dimensões superiores.

Propriedades dos Tensores

• Dimensões: A ordem ou número de eixos. Use .size() ou .dim() para inspecionar.
• Tipos de Dados: Suporta tipos como torch.float32, torch.float16, torch.int64, entre outros.

Outras Estruturas Essenciais

• Dataset: Classe abstrata para representar conjuntos de dados, com suporte a carregamento e pré-processamento.
• DataLoader: Gerencia carregamento em lotes, com opções de paralelismo e embaralhamento.
• Module: Classe base para definição de modelos, incluindo métodos de forward e backward.

Aceleração de GPU para Tensores

GPUs são hardware especializado em computação paralela, ideal para operações intensivas em tensores. O PyTorch permite transferir tensores entre CPU e GPU de forma transparente.

Verificação de GPU Disponível

Antes de utilizar a GPU, é necessário verificar sua disponibilidade no sistema:

import torch

gpu_disponivel = torch.cuda.is_available()
if gpu_disponivel:
    num_gpus = torch.cuda.device_count()
    print(f"GPUs detectadas: {num_gpus}")
    for idx in range(num_gpus):
        print(f"Dispositivo {idx}: {torch.cuda.get_device_name(idx)}")
else:
    print("Nenhuma GPU compatível com CUDA foi encontrada")

Transferência de Tensores para GPU

O método .to() é usado para mover tensores entre dispositivos. A operação é segura e mantém os dados no dispositivo alvo até serem explicitamente movidos.

import torch

# Criação do tensor na CPU
tensor_cpu = torch.tensor([5, 10, 15])

if torch.cuda.is_available():
    # Transferência para GPU
    tensor_gpu = tensor_cpu.to('cuda:0')
    # Operação executada na GPU
    resultado_gpu = tensor_gpu ** 2
    # Transferência de volta para CPU
    resultado_final = resultado_gpu.to('cpu')
    print(resultado_final)
else:
    # Execução alternativa na CPU
    resultado = tensor_cpu ** 2
    print(resultado)

Padrão de Código Reutilizável

Uma abordagem comum é definir o dispositivo como variável de configuração, permitindo que o mesmo código funcione tanto em GPU quanto em CPU:

import torch

# Definição automática do dispositivo
disp = torch.device('cuda:0' if torch.cuda.is_available() else 'cpu')

# Criação do tensor no dispositivo adequado
dados = torch.tensor([2.5, 3.7, 1.2], device=disp)
processado = torch.nn.functional.relu(dados)

print(f"Dispositivo utilizado: {processado.device}")
print(f"Resultado: {processado}")