Identificação de Vazamento de Memória em ERNIE-4.5 com vLLM sob Alta Carga

Contexto e Objetivos do Teste Implementamos o modelo de geração de texto ERNIE-4.5-0.3B-PT usando vLLM em ambiente produtivo com frontend chainlit. Durante testes prolongados sob alta concorrência, identificamos crescimento progressivo no consumo de memória. O objetivo principal foi validar a estabilidade durante 7 dias sob carga intensa e diag ...

Publicado em 7-20 03:08

O que é realmente NULL/nullptr em C/C++?

Sistemas operacionais, ao executar programas, sempre buscam o conteúdo em endereços de memória para realizar operações. Portanto, é fundamental entender que todos os dados carregados na memória são armazenadso em endereços específicos. 1. Vamos analsiar o que é nullptr no seguinte código: Clique para ver o código``` #include int principal() { ...

Publicado em 7-18 23:20

Contêiner C++ STL -- vector

Introdução Nesta série sobre contêineres da STL do C++, vamos explorar em detalhes o contêiner vector, um dos mais versáteis e amplamente utilizados na programação moderna. Este artigo abordará os conceitos fundamentais, operações comuns e técnicas avançadas para trabalhar eficientemente com vetores em C++. I. Definição Básica e Declaração 1. D ...

Publicado em 7-14 16:06

Manipulação de Strings em C: Um Guia Completo

Introdução às Strings Strings em C são sequências de caracteres utilizadas para representar texto. Tecnicamente, uma string é um array de caracteres terminado por um caractere nulo ('\0'). O acesso aos elementos individuais é feito através de índices, semelhante a vetores. Declaração de Strings Existem várias formas de declarar strings em C. A ...

Publicado em 7-7 21:20

Implementação de uma Lista Sequencial Dinâmica em C

O modelo básico consiste em uma estrutura de cabeçalho que contém um ponteiro para os dados, a capacidade máxima e o comprimento atual. O ponteiro aponta para uma área de memória alocada dinamicamente para armaznear os elementos. Quando o comprimento atinge a capacidade, a lista é expandida para acomodar mais itens. Implementação em C A seguir, ...

Publicado em 6-27 01:22

Processo de Carregamento de Classes em Java

Referência: https://www.jianshu.com/p/52c38cf2e3d4 Pontos principais: Princípios do mecanismo de carregamento de classes Ordem de inicialização de programas Modelo de proxy de carregamento de classes (mecanismo de delegação parental) I. Mecanismo de Carregamento de Classes O JVM carrega arquivos class na memória, realiza validação, preparação ...

Publicado em 6-26 22:37

Cache e Memória: Localização de Programas no Sistema

O princípio de localidade desempenha um papel crucial no desempenho da CPU. Considere este código simples que demonstra o acesso a memória contígua: #include <stdio.h> int main() { int valores[5] = {10, 20, 30, 40, 50}; int total = 0; for (int idx = 0; idx < 5; idx++) { total += valores[idx]; printf("Va ...

Publicado em 6-19 21:12

Estrutura de Memória na Máquina Virtual Java

A máquina virtual Java (JVM) gerencia diversas áreas de memória em tempo de execução. Estas áreas são divididas entre regiões compartilhadas entre threads e regiões privadas para cada thread. Áreas de Dados em Tempo de Execução As principais regiões incluem o contador de programa, a pilha de máquina virtual, a pilha de métodos nativos, o heap e ...

Publicado em 6-17 03:21