首页 / 术语表 / 参数
What is 参数(Parameters)?
参数是神经网络学习到的权重。osFoundry 目录会为每个模型标注其参数量(如 7B、70B),方便您将模型规模与硬件和质量需求相匹配。
Detail
参数数量是衡量 LLM 容量的粗略指标。7B 模型有 70 亿个学习权重;70B 则有 700 亿个。参数越多通常质量越好,但所需内存和算力呈指数级增长。7B Q4 模型大约需要 6 GB 显存;70B Q4 大约需要 50 GB。
参数数量并非唯一的质量因素——训练数据、架构和后训练同样重要。在常见基准测试上,现代 7B 模型往往能超越较老的 70B 模型。
Related terms
Related features