Inicio / Glosario / Parámetros
What is Parámetros?
Los parámetros son los pesos aprendidos de una red neuronal. El catálogo de osFoundry etiqueta cada modelo con su número de parámetros (p. ej. 7B, 70B) para que puedan ajustar el tamaño del modelo a su hardware y necesidades de calidad.
Detail
El número de parámetros es la aproximación habitual de la capacidad de un LLM. Un modelo de 7B tiene 7 mil millones de pesos aprendidos; uno de 70B tiene 70 mil millones. Más parámetros generalmente significa mejor calidad pero exponencialmente más memoria y cómputo. Un modelo de 7B Q4 necesita ~6 GB de VRAM; un 70B Q4 necesita ~50 GB.
El número de parámetros no es el único factor de calidad: los datos de entrenamiento, la arquitectura y el post-entrenamiento también importan. Los modelos modernos de 7B a menudo superan a los antiguos de 70B en benchmarks comunes.
Related terms
Related features