Modelos

Lançamento de comandos e parâmetros do llama.cpp

18 de novembro de 2026 · 2 min de leitura

red and yellow light on dark room
Compare Fibre / Unsplash

A última data de validação do sistema llama.cpp foi em 15 de novembro de 2026. O documento fornece uma visão geral dos comandos e parâmetros comuns utilizados no llama.cpp, incluindo suas funções e exemplos de uso. Este guia não é um manual completo, mas sim uma referência para aqueles que operam com modelos de linguagem localizados (LLM).

Os parâmetros comuns do llama.cpp são compatíveis entre as ferramentas llama-cli, llama-completion e llama-server. Cada parâmetro é descrito com seu nome, formato e uma explicação detalhada. O guia inclui informações sobre a versão atual e dados específicos da compilação, como suporte a CUDA.

Um dos aspectos discutidos é a quantidade de threads de CPU a serem utilizadas durante a geração de texto. Quanto maior o número de threads, teoricamente, maior a velocidade de operação. Contudo, a eficácia diminui após um certo ponto devido à largura de banda da memória. Para processadores da série Ryzen, recomenda-se usar o número de núcleos físicos, enquanto para Intel, o número de núcleos lógicos é preferido.

Outro parâmetro relevante é a máscara de afinidade da CPU, que permite especificar quais núcleos de CPU devem ser utilizados através de uma máscara em formato hexadecimal. Além disso, o guia aborda a prioridade do processo no agendador de processos do sistema operacional, onde um maior nível de prioridade pode resultar em um uso mais intensivo da CPU.

O documento também menciona a importância de configurar a quantidade de threads para o processamento de prompts e lotes, enfatizando que a eficiência pode variar com a configuração e o modelo utilizado. A configuração adequada desses parâmetros pode otimizar o desempenho do sistema llama.cpp para aplicações específicas.