Início / Glossário / Parâmetros
O que é Parâmetros?
Parâmetros são os pesos aprendidos de uma rede neural. O catálogo do osFoundry rotula cada modelo com sua contagem de parâmetros (por exemplo, 7B, 70B) para você combinar o tamanho do modelo com seu hardware e necessidades de qualidade.
Detalhes
A contagem de parâmetros é a proxy aproximada da capacidade de um LLM. Um modelo de 7B tem 7 bilhões de pesos aprendidos; um de 70B tem 70 bilhões. Mais parâmetros geralmente significam melhor qualidade, mas exponencialmente mais memória e computação. Um modelo 7B Q4 precisa de ~6 GB de VRAM; um 70B Q4 precisa de ~50 GB.
A contagem de parâmetros não é o único fator de qualidade — dados de treinamento, arquitetura e pós-treinamento também importam. Modelos modernos de 7B frequentemente superam modelos mais antigos de 70B em benchmarks comuns.
Perguntas frequentes
What is the practical difference between 8B and 70B models?
Knowledge breadth, consistency over long reasoning chains, and multi-step instruction following. For simple rewriting or short summaries the gap is often barely noticeable.
How do I estimate memory from parameter count?
Bit width x count: FP16 needs ~2 bytes per parameter (7B ≈ 14 GB), 4-bit quantization ~0.5 bytes plus overhead (7B ≈ 4-5 GB). Add KV-cache memory on top at runtime.
Do MoE models use all their parameters at once?
No — memory must hold the total parameter count, but each token only runs through the active subset. Estimate speed from active parameters and memory from the total.
Termos relacionados
Recursos relacionados