Llama 3 URL: https://knowledge.ivjn.us/fr/works/llama-3.html Llama 3 是 Meta 于 2024 年 4 月 18 日发布的第三代 Llama 模型,首发 8B 与 70B 两种尺寸。 Llama 3 是 Meta 于 2024 年 4 月 18 日发布的第三代 Llama 模型,首发 8B 与 70B 两种尺寸。[^s1] ## 发布背景 发布时上下文窗口为8,192 tokens。[^s1] 首发仅 8B 与 70B 两种尺寸,各有预训练版与指令微调版,纯文本、英文为主,预训练超 15 万亿 token;405B 并非原版 Llama 3,而是 2024-07-23 发布的 Llama 3.1 新增尺寸,128K 上下文亦属 Llama 3.1。[^s1] ## 定价与获取 开放权重模型,Meta 未设官方 API 定价,权重按 Llama 3 社区许可提供,可下载商用,托管推理定价由第三方云厂商自定。[^s1] ## 性能表现 以下为Meta公布的自家评测结果,尚未经独立复现。[^s1] - MMLU(5-shot,指令微调版):70B: 82.0;8B: 68.4(前代 Llama 2 70B 为 52.9,Llama 2 7B 为 34.1)[^s1] - HumanEval(0-shot,指令微调版):70B: 81.7;8B: 62.2(前代 Llama 2 70B 为 25.6,Llama 2 7B 为 7.9)[^s1] - GSM-8K(8-shot,CoT,指令微调版):70B: 93.0;8B: 79.6(前代 Llama 2 70B 为 57.5,Llama 2 7B 为 25.7)[^s1] - MATH(4-shot,CoT,指令微调版):70B: 50.4;8B: 30.0(前代 Llama 2 70B 为 11.6,Llama 2 7B 为 3.8)[^s1] ## 主要特点 - 随发布推出 Llama Guard 2 等安全工具,并驱动 Meta AI 助手;模型卡标注为静态模型。[^s1] ## 定位与后续 Llama 2 的继任者、Meta 开放权重系列第三代,首发 8B/70B 并大幅领先同级前代,后由 Llama 3.1(新增 405B 与 128K 上下文)接续,最终由 Llama 4 接棒。 其前代为[Llama 2](https://knowledge.ivjn.us/fr/works/llama-2.html)。[^s1] Updated: 2026-11-10 Relations: - Published by: Meta https://knowledge.ivjn.us/fr/organizations/meta.html Mentioned in: - Llama 3.1 https://knowledge.ivjn.us/fr/works/llama-3-1.html Sources: - Introducing Meta Llama 3: The most capable openly available LLM to date https://ai.meta.com/blog/meta-llama-3/ - Llama 3 Model Card https://github.com/meta-llama/llama-models/blob/HEAD/models/llama3/MODEL_CARD.md - Meta introduces Llama 3.1, its biggest and best open-source AI model to date https://siliconangle.com/2024/07/23/meta-introduces-llama-3-1-biggest-best-open-source-ai-model-date/ - Llama History: Every Meta Llama Release, 2023–2026 https://llama.online/models/llama-history