Inicio / Glosario / Parámetros
¿Qué es Parámetros?
Los parámetros son los pesos aprendidos de una red neuronal. El catálogo de osFoundry etiqueta cada modelo con su número de parámetros (p. ej. 7B, 70B) para que puedan ajustar el tamaño del modelo a su hardware y necesidades de calidad.
Detalles
El número de parámetros es la aproximación habitual de la capacidad de un LLM. Un modelo de 7B tiene 7 mil millones de pesos aprendidos; uno de 70B tiene 70 mil millones. Más parámetros generalmente significa mejor calidad pero exponencialmente más memoria y cómputo. Un modelo de 7B Q4 necesita ~6 GB de VRAM; un 70B Q4 necesita ~50 GB.
El número de parámetros no es el único factor de calidad: los datos de entrenamiento, la arquitectura y el post-entrenamiento también importan. Los modelos modernos de 7B a menudo superan a los antiguos de 70B en benchmarks comunes.
Preguntas frecuentes
What is the practical difference between 8B and 70B models?
Knowledge breadth, consistency over long reasoning chains, and multi-step instruction following. For simple rewriting or short summaries the gap is often barely noticeable.
How do I estimate memory from parameter count?
Bit width x count: FP16 needs ~2 bytes per parameter (7B ≈ 14 GB), 4-bit quantization ~0.5 bytes plus overhead (7B ≈ 4-5 GB). Add KV-cache memory on top at runtime.
Do MoE models use all their parameters at once?
No — memory must hold the total parameter count, but each token only runs through the active subset. Estimate speed from active parameters and memory from the total.
Términos relacionados
Funciones relacionadas