Otimização de Gerenciamento de KV Cache com Imagens PyTorch‑CUDA
Em modelos Transformer, durante a geração autoregressiva, o cálculo da atenção a cada passo repete o processamento de toda a sequência histórica. Isso é altamente ineficiente, pois os tensores Key e Value das etapas anteriores já estão disponíveis. O KV Cache armazena esses tensores por camada, permitindo que a decodificação processe apenas o t ...
Publicado em 7-17 11:16