Identificação de Vazamento de Memória em ERNIE-4.5 com vLLM sob Alta Carga
Contexto e Objetivos do Teste
Implementamos o modelo de geração de texto ERNIE-4.5-0.3B-PT usando vLLM em ambiente produtivo com frontend chainlit. Durante testes prolongados sob alta concorrência, identificamos crescimento progressivo no consumo de memória. O objetivo principal foi validar a estabilidade durante 7 dias sob carga intensa e diag ...
Publicado em 7-20 03:08
O que é realmente NULL/nullptr em C/C++?
Sistemas operacionais, ao executar programas, sempre buscam o conteúdo em endereços de memória para realizar operações. Portanto, é fundamental entender que todos os dados carregados na memória são armazenadso em endereços específicos.
1. Vamos analsiar o que é nullptr no seguinte código:
Clique para ver o código``` #include
int principal() { ...
Publicado em 7-18 23:20
Contêiner C++ STL -- vector
Introdução
Nesta série sobre contêineres da STL do C++, vamos explorar em detalhes o contêiner vector, um dos mais versáteis e amplamente utilizados na programação moderna. Este artigo abordará os conceitos fundamentais, operações comuns e técnicas avançadas para trabalhar eficientemente com vetores em C++.
I. Definição Básica e Declaração
1. D ...
Publicado em 7-14 16:06
Manipulação de Strings em C: Um Guia Completo
Introdução às Strings
Strings em C são sequências de caracteres utilizadas para representar texto. Tecnicamente, uma string é um array de caracteres terminado por um caractere nulo ('\0'). O acesso aos elementos individuais é feito através de índices, semelhante a vetores.
Declaração de Strings
Existem várias formas de declarar strings em C. A ...
Publicado em 7-7 21:20
Implementação de uma Lista Sequencial Dinâmica em C
O modelo básico consiste em uma estrutura de cabeçalho que contém um ponteiro para os dados, a capacidade máxima e o comprimento atual. O ponteiro aponta para uma área de memória alocada dinamicamente para armaznear os elementos. Quando o comprimento atinge a capacidade, a lista é expandida para acomodar mais itens.
Implementação em C
A seguir, ...
Publicado em 6-27 01:22
Processo de Carregamento de Classes em Java
Referência: https://www.jianshu.com/p/52c38cf2e3d4
Pontos principais:
Princípios do mecanismo de carregamento de classes
Ordem de inicialização de programas
Modelo de proxy de carregamento de classes (mecanismo de delegação parental)
I. Mecanismo de Carregamento de Classes
O JVM carrega arquivos class na memória, realiza validação, preparação ...
Publicado em 6-26 22:37
Cache e Memória: Localização de Programas no Sistema
O princípio de localidade desempenha um papel crucial no desempenho da CPU. Considere este código simples que demonstra o acesso a memória contígua:
#include <stdio.h>
int main() {
int valores[5] = {10, 20, 30, 40, 50};
int total = 0;
for (int idx = 0; idx < 5; idx++) {
total += valores[idx];
printf("Va ...
Publicado em 6-19 21:12
Estrutura de Memória na Máquina Virtual Java
A máquina virtual Java (JVM) gerencia diversas áreas de memória em tempo de execução. Estas áreas são divididas entre regiões compartilhadas entre threads e regiões privadas para cada thread.
Áreas de Dados em Tempo de Execução
As principais regiões incluem o contador de programa, a pilha de máquina virtual, a pilha de métodos nativos, o heap e ...
Publicado em 6-17 03:21