Inicio / Glosario / LLM
What is Modelo de Lenguaje Grande?
Abbreviation: LLM
Un modelo de lenguaje grande (LLM) es una red neuronal entrenada con enormes corpus de texto para predecir el siguiente token, produciendo salida fluida en lenguaje natural. osFoundry enruta solicitudes a más de 100 LLMs de cualquier proveedor: local, nube o autohospedado.
Detail
Los LLMs son redes neuronales basadas en transformers que van desde ~1.000 millones hasta más de un billón de parámetros. Impulsan el chat, la generación de código, la sumarización, la traducción y la mayor parte de la IA agéntica actual. La calidad varía según los datos de entrenamiento, la arquitectura y el post-entrenamiento (RLHF, DPO).
Los LLMs vienen en dos modos de distribución: closed-source (accesibles solo vía API, p. ej. GPT-4, Claude) y pesos abiertos (descargables para autohospedaje, p. ej. Llama, Mistral, Qwen). El catálogo de osFoundry indexa 76 000 modelos de pesos abiertos más 364 modelos de API alojados.
How osFoundry approaches Modelo de Lenguaje Grande
osFoundry trata cada LLM como un backend intercambiable. Traigan su propia clave de API (BYOK) para modelos alojados; instalen modelos de pesos abiertos para inferencia local; desplieguen endpoints de GPU dedicados para capacidad reservada. Maestro enruta por solicitud según reglas que ustedes definen en osStudio.
FAQ
¿Cómo se relaciona osFoundry con los LLMs?
osFoundry es la capa de orquestación por encima de los LLMs. No fabrica LLMs: les permite enrutar solicitudes a LLMs locales, en la nube y autohospedados desde un solo workspace.
¿Cuál es el mejor LLM?
Ningún LLM es el mejor en todo. osFoundry les permite hacer A/B con distintos LLMs por carga de trabajo y enrutar en consecuencia.
¿Puedo usar varios LLMs en un solo chat?
Sí. Maestro puede cambiar de modelo a mitad de conversación según las reglas de enrutamiento de osStudio.
Related terms
Related features