Lançamento de comandos e parâmetros do llama.cpp
18 de novembro de 2026 · 2 min de leitura
A última data de validação do sistema llama.cpp foi em 15 de novembro de 2026. O documento fornece uma visão geral dos comandos e parâmetros comuns utilizados no llama.cpp, incluindo suas funções e exemplos de uso. Este guia não é um manual completo, mas sim uma referência para aqueles que operam com modelos de linguagem localizados (LLM).
Os parâmetros comuns do llama.cpp são compatíveis entre as ferramentas llama-cli, llama-completion e llama-server. Cada parâmetro é descrito com seu nome, formato e uma explicação detalhada. O guia inclui informações sobre a versão atual e dados específicos da compilação, como suporte a CUDA.
Um dos aspectos discutidos é a quantidade de threads de CPU a serem utilizadas durante a geração de texto. Quanto maior o número de threads, teoricamente, maior a velocidade de operação. Contudo, a eficácia diminui após um certo ponto devido à largura de banda da memória. Para processadores da série Ryzen, recomenda-se usar o número de núcleos físicos, enquanto para Intel, o número de núcleos lógicos é preferido.
Outro parâmetro relevante é a máscara de afinidade da CPU, que permite especificar quais núcleos de CPU devem ser utilizados através de uma máscara em formato hexadecimal. Além disso, o guia aborda a prioridade do processo no agendador de processos do sistema operacional, onde um maior nível de prioridade pode resultar em um uso mais intensivo da CPU.
O documento também menciona a importância de configurar a quantidade de threads para o processamento de prompts e lotes, enfatizando que a eficiência pode variar com a configuração e o modelo utilizado. A configuração adequada desses parâmetros pode otimizar o desempenho do sistema llama.cpp para aplicações específicas.