Llama 2 URL: https://knowledge.ivjn.us/ms/works/llama-2.html Llama 2 是 Meta 于 2023 年 7 月 18 日发布的第二代 Llama 模型,首个开放权重且允许商用的 Llama 世代。 Llama 2 是 Meta 于 2023 年 7 月 18 日发布的第二代 Llama 模型,首个开放权重且允许商用的 Llama 世代。[^s1] ## 发布背景 发布时上下文窗口为4,096 tokens。[^s1] 7B、13B、70B 三种尺寸,含预训练版与对话微调版 Llama 2-Chat,预训练语料 2 万亿 tokens,比 Llama 1 多 40%,上下文由 2K 翻倍至 4K tokens[^s1] ## 定价与获取 按 Llama 2 Community License 免费提供权重,可用于研究与商业用途(月活超 7 亿的产品需另行申请许可),微软为首选合作伙伴并上架 Azure AI 模型目录。[^s1] ## 性能表现 以下为Meta公布的自家评测结果,尚未经独立复现。[^s1] - MMLU (5-shot, 70B):68.9(较 Llama 1 65B 高约 5 分;接近 GPT-3.5 的 70.0)[^s1] - GSM8K (8-shot, 70B):56.8(接近 GPT-3.5 的 57.1)[^s1] - Code average, HumanEval + MBPP pass@1 (70B):37.5(论文称与 GPT-3.5 相比编码基准仍有明显差距)[^s1] - Commonsense reasoning, 7-benchmark average (70B):71.9(高于 Llama 2 13B 的 66.9 和 7B 的 63.9)[^s1] ## 主要特点 - 34B 版本已训练但因红队测试时间不足未发布[^s1] ## 定位与后续 Llama 1(LLaMA)的继任者、Llama 3 的前代:首个开放权重且允许商用的 Llama 世代,奠定了 Meta 开放权重路线,后被 2024 年 4 月发布的 Llama 3 取代。 其前代为[Llama](https://knowledge.ivjn.us/ms/works/llama.html)。[^s1] Updated: 2026-11-10 Relations: - Published by: Meta https://knowledge.ivjn.us/ms/organizations/meta.html Mentioned in: - Code Llama https://knowledge.ivjn.us/ms/works/code-llama.html - Llama 3 https://knowledge.ivjn.us/ms/works/llama-3.html Sources: - Meta and Microsoft Introduce the Next Generation of Llama https://about.fb.com/news/2023/07/llama-2/ - Llama 2: Open Foundation and Fine-Tuned Chat Models https://arxiv.org/abs/2307.09288 - Llama 2 — Hugging Face Transformers documentation https://huggingface.co/docs/transformers/main/model_doc/llama2 - Llama (language model) — Wikipedia https://en.wikipedia.org/wiki/Llama_(language_model)