[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-meta-llama--llama-models":3,"tool-meta-llama--llama-models":64},[4,17,27,35,43,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",140436,2,"2026-04-05T23:32:43",[13,15,26],"语言模型",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":23,"last_commit_at":33,"category_tags":34,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,"2026-04-03T11:11:01",[13,14,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":23,"last_commit_at":41,"category_tags":42,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,26],{"id":44,"name":45,"github_repo":46,"description_zh":47,"stars":48,"difficulty_score":23,"last_commit_at":49,"category_tags":50,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,51,52,53,15,54,26,13,55],"数据工具","视频","插件","其他","音频",{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":10,"last_commit_at":62,"category_tags":63,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,26,54],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":77,"owner_avatar_url":78,"owner_bio":79,"owner_company":80,"owner_location":80,"owner_email":80,"owner_twitter":80,"owner_website":81,"owner_url":82,"languages":83,"stars":88,"forks":89,"last_commit_at":90,"license":91,"difficulty_score":10,"env_os":92,"env_gpu":93,"env_ram":94,"env_deps":95,"category_tags":102,"github_topics":80,"view_count":23,"oss_zip_url":80,"oss_zip_packed_at":80,"status":16,"created_at":103,"updated_at":104,"faqs":105,"releases":146},3740,"meta-llama\u002Fllama-models","llama-models","Utilities intended for use with Llama models.","llama-models 是 Meta 官方推出的一套实用工具库，旨在为开发者和管理者提供与 Llama 系列大语言模型交互的标准化支持。它主要解决了在获取、管理及使用 Llama 模型权重和分词器时流程繁琐的问题，通过命令行接口简化了从申请授权到下载部署的全过程，让用户能更专注于模型的应用与创新。\n\n这套工具非常适合人工智能开发者、科研人员以及希望构建生成式 AI 应用的企业团队使用。无论是需要快速验证想法的研究者，还是致力于将 AI 集成到产品中的工程师，都能从中获益。\n\nllama-models 的核心亮点在于其紧密跟随 Llama 家族的迭代步伐，全面支持从 Llama 2 到最新的 Llama 4（包括 Scout 和 Maverick 架构）等多个版本。它不仅涵盖了不同参数量级（从 1B 到 405B+）的文本模型，还原生支持多模态的 Vision 模型。此外，该工具库统一处理了复杂的上下文长度管理（最高支持千万级 token）及对应的分词器配置，确保了模型加载的一致性与便捷性。作为开源生态的重要基石，llama-models 在遵循严格许可协议的前提下，极大地降低了社区协","llama-models 是 Meta 官方推出的一套实用工具库，旨在为开发者和管理者提供与 Llama 系列大语言模型交互的标准化支持。它主要解决了在获取、管理及使用 Llama 模型权重和分词器时流程繁琐的问题，通过命令行接口简化了从申请授权到下载部署的全过程，让用户能更专注于模型的应用与创新。\n\n这套工具非常适合人工智能开发者、科研人员以及希望构建生成式 AI 应用的企业团队使用。无论是需要快速验证想法的研究者，还是致力于将 AI 集成到产品中的工程师，都能从中获益。\n\nllama-models 的核心亮点在于其紧密跟随 Llama 家族的迭代步伐，全面支持从 Llama 2 到最新的 Llama 4（包括 Scout 和 Maverick 架构）等多个版本。它不仅涵盖了不同参数量级（从 1B 到 405B+）的文本模型，还原生支持多模态的 Vision 模型。此外，该工具库统一处理了复杂的上下文长度管理（最高支持千万级 token）及对应的分词器配置，确保了模型加载的一致性与便捷性。作为开源生态的重要基石，llama-models 在遵循严格许可协议的前提下，极大地降低了社区协作与技术探索的门槛，助力全球用户安全、高效地释放 generative AI 的潜力。","\u003Cp align=\"center\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fmeta-llama_llama-models_readme_e46d7d53ba87.jpeg\" width=\"400\"\u002F>\n\u003C\u002Fp>\n\n\u003Cp align=\"center\">\n        🤗 \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fmeta-Llama\"> Models on Hugging Face\u003C\u002Fa>&nbsp | \u003Ca href=\"https:\u002F\u002Fai.meta.com\u002Fblog\u002F\"> Blog\u003C\u002Fa>&nbsp |  \u003Ca href=\"https:\u002F\u002Fllama.meta.com\u002F\">Website\u003C\u002Fa>&nbsp | \u003Ca href=\"https:\u002F\u002Fllama.meta.com\u002Fget-started\u002F\">Get Started\u003C\u002Fa>&nbsp | \u003Ca href=\"https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-cookbook\">Llama Cookbook\u003C\u002Fa>&nbsp\n\u003Cbr>\n\n---\n\n# Llama Models\n\nLlama is an accessible, open large language model (LLM) designed for developers, researchers, and businesses to build, experiment, and responsibly scale their generative AI ideas. Part of a foundational system, it serves as a bedrock for innovation in the global community. A few key aspects:\n1. **Open access**: Easy accessibility to cutting-edge large language models, fostering collaboration and advancements among developers, researchers, and organizations\n2. **Broad ecosystem**: Llama models have been downloaded hundreds of millions of times, there are thousands of community projects built on Llama and platform support is broad from cloud providers to startups - the world is building with Llama!\n3. **Trust & safety**: Llama models are part of a comprehensive approach to trust and safety, releasing models and tools that are designed to enable community collaboration and encourage the standardization of the development and usage of trust and safety tools for generative AI\n\nOur mission is to empower individuals and industry through this opportunity while fostering an environment of discovery and ethical AI advancements. The model weights are licensed for researchers and commercial entities, upholding the principles of openness.\n\n## Llama Models\n\n[![PyPI - Downloads](https:\u002F\u002Fimg.shields.io\u002Fpypi\u002Fdm\u002Fllama-models)](https:\u002F\u002Fpypi.org\u002Fproject\u002Fllama-models\u002F)\n[![Discord](https:\u002F\u002Fimg.shields.io\u002Fdiscord\u002F1257833999603335178)](https:\u002F\u002Fdiscord.gg\u002FTZAAYNVtrU)\n\n|  **Model** | **Launch date** | **Model sizes** | **Context Length** | **Tokenizer** | **Acceptable use policy**  |  **License** | **Model Card** |\n| :----: | :----: | :----: | :----:|:----:|:----:|:----:|:----:|\n| Llama 2 | 7\u002F18\u002F2023 | 7B, 13B, 70B | 4K | Sentencepiece | [Use Policy](models\u002Fllama2\u002FUSE_POLICY.md) | [License](models\u002Fllama2\u002FLICENSE) | [Model Card](models\u002Fllama2\u002FMODEL_CARD.md) |\n| Llama 3 | 4\u002F18\u002F2024 | 8B, 70B | 8K | TikToken-based | [Use Policy](models\u002Fllama3\u002FUSE_POLICY.md) | [License](models\u002Fllama3\u002FLICENSE) | [Model Card](models\u002Fllama3\u002FMODEL_CARD.md) |\n| Llama 3.1 | 7\u002F23\u002F2024 | 8B, 70B, 405B | 128K | TikToken-based | [Use Policy](models\u002Fllama3_1\u002FUSE_POLICY.md) | [License](models\u002Fllama3_1\u002FLICENSE) | [Model Card](models\u002Fllama3_1\u002FMODEL_CARD.md) |\n| Llama 3.2 | 9\u002F25\u002F2024 | 1B, 3B | 128K | TikToken-based | [Use Policy](models\u002Fllama3_2\u002FUSE_POLICY.md) | [License](models\u002Fllama3_2\u002FLICENSE) | [Model Card](models\u002Fllama3_2\u002FMODEL_CARD.md) |\n| Llama 3.2-Vision | 9\u002F25\u002F2024 | 11B, 90B | 128K | TikToken-based | [Use Policy](models\u002Fllama3_2\u002FUSE_POLICY.md) | [License](models\u002Fllama3_2\u002FLICENSE) | [Model Card](models\u002Fllama3_2\u002FMODEL_CARD_VISION.md) |\n| Llama 3.3 | 12\u002F04\u002F2024 | 70B | 128K | TikToken-based | [Use Policy](models\u002Fllama3_3\u002FUSE_POLICY.md) | [License](models\u002Fllama3_3\u002FLICENSE) | [Model Card](models\u002Fllama3_3\u002FMODEL_CARD.md) |\n| Llama 4 | 4\u002F5\u002F2025 | Scout-17B-16E, Maverick-17B-128E | 10M, 1M | TikToken-based | [Use Policy](models\u002Fllama4\u002FUSE_POLICY.md) | [License](models\u002Fllama4\u002FLICENSE) | [Model Card](models\u002Fllama4\u002FMODEL_CARD.md) |\n\n## Download\n\nTo download the model weights and tokenizer:\n\n1. Visit the [Meta Llama website](https:\u002F\u002Fllama.meta.com\u002Fllama-downloads\u002F).\n2. Read and accept the license.\n3. Once your request is approved you will receive a signed URL via email.\n4. Install the Llama Models CLI: `pip install llama-models`. (**\u003C-- Start Here if you have received an email already.**)\n5. Run `llama-model list` to show the latest available models and determine the model ID you wish to download. **NOTE**:\nIf you want older versions of models, run `llama-model list --show-all` to show all the available Llama models.\n\n6. Run: `llama-model download --source meta --model-id CHOSEN_MODEL_ID`\n7. Pass the URL provided when prompted to start the download.\n\nRemember that the links expire after 24 hours and a certain amount of downloads. You can always re-request a link if you start seeing errors such as `403: Forbidden`.\n\n### CLI Commands Reference\n\nOnce installed, the `llama-model` CLI provides the following commands:\n\n```bash\nllama-model list              # List available models\nllama-model list --show-all   # List all models (including older versions)\nllama-model describe -m MODEL_ID     # Show detailed information about a model\nllama-model download          # Download models from Meta or Hugging Face\nllama-model verify-download   # Verify integrity of downloaded models\nllama-model remove -m MODEL_ID       # Remove a downloaded model\nllama-model prompt-format -m MODEL_ID  # Show the prompt format for a model\n```\n\nFor detailed help on any command, run `llama-model COMMAND --help`.\n\n## Running the models\n\nIn order to run the models, you will need to install dependencies after checking out the repository.\n\n```bash\n# Run this within a suitable Python environment (uv, conda, or virtualenv)\npip install .[torch]\n```\n\nExample scripts are available in `models\u002F{ llama3, llama4 }\u002Fscripts\u002F` sub-directory. Note that the Llama4 series of models require at least 4 GPUs to run inference at full (bf16) precision.\n\n```bash\n#!\u002Fbin\u002Fbash\n\nNGPUS=4\nCHECKPOINT_DIR=~\u002F.llama\u002Fcheckpoints\u002FLlama-4-Scout-17B-16E-Instruct\nPYTHONPATH=$(git rev-parse --show-toplevel) \\\n  torchrun --nproc_per_node=$NGPUS \\\n  -m models.llama4.scripts.chat_completion $CHECKPOINT_DIR \\\n  --world_size $NGPUS\n```\n\nThe above script should be used with an Instruct (Chat) model. For a Base model, update the `CHECKPOINT_DIR` path and use the script `models.llama4.scripts.completion`.\n\n\n## Running inference with FP8 and Int4 Quantization\n\nYou can reduce the memory footprint of the models at the cost of minimal loss in accuracy by running inference with FP8 or Int4 quantization. Use the `--quantization-mode` flag to specify the quantization mode. There are two modes:\n- `fp8_mixed`: Mixed precision inference with FP8 for some weights and bfloat16 for activations.\n- `int4_mixed`: Mixed precision inference with Int4 for some weights and bfloat16 for activations.\n\nUsing FP8, running Llama-4-Scout-17B-16E-Instruct requires 2 GPUs with 80GB of memory. Using Int4, you need a single GPU with 80GB of memory.\n\n```bash\nMODE=fp8_mixed  # or int4_mixed\nif [ $MODE == \"fp8_mixed\" ]; then\n  NGPUS=2\nelse\n  NGPUS=1\nfi\nCHECKPOINT_DIR=~\u002F.llama\u002Fcheckpoints\u002FLlama-4-Scout-17B-16E-Instruct\nPYTHONPATH=$(git rev-parse --show-toplevel) \\\n  torchrun --nproc_per_node=$NGPUS \\\n  -m models.llama4.scripts.chat_completion $CHECKPOINT_DIR \\\n  --world_size $NGPUS \\\n  --quantization-mode $MODE\n```\n\n\nFor more flexibility in running inference (including using other providers), please see the [`Llama Stack`](https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-stack) toolset.\n\n\n## Access to Hugging Face\n\nWe also provide downloads on [Hugging Face](https:\u002F\u002Fhuggingface.co\u002Fmeta-llama), in both transformers and native `llama4` formats. To download the weights from Hugging Face, please follow these steps:\n\n- Visit one of the repos, for example [meta-llama\u002FLlama-4-Scout-17B-16E](https:\u002F\u002Fhuggingface.co\u002Fmeta-llama\u002FLlama-4-Scout-17B-16E).\n- Read and accept the license. Once your request is approved, you'll be granted access to all Llama 3.1 models as well as previous versions. Note that requests used to take up to one hour to get processed.\n- To download the original native weights to use with this repo, click on the \"Files and versions\" tab and download the contents of the `original` folder. You can also download them from the command line if you `pip install huggingface-hub`:\n\n```bash\nhuggingface-cli download meta-llama\u002FLlama-4-Scout-17B-16E-Instruct-Original --local-dir meta-llama\u002FLlama-4-Scout-17B-16E-Instruct-Original\n```\n\n- To use with transformers, the following snippet will download and cache the weights:\n\n  ```python\n  # inference.py\n  from transformers import AutoTokenizer, Llama4ForConditionalGeneration\n  import torch\n\n  model_id = \"meta-llama\u002FLlama-4-Scout-17B-16E-Instruct\"\n\n  tokenizer = AutoTokenizer.from_pretrained(model_id)\n\n  messages = [\n      {\"role\": \"user\", \"content\": \"Who are you?\"},\n  ]\n  inputs = tokenizer.apply_chat_template(\n      messages, add_generation_prompt=True, return_tensors=\"pt\", return_dict=True\n  )\n\n  model = Llama4ForConditionalGeneration.from_pretrained(\n      model_id, device_map=\"auto\", torch_dtype=torch.bfloat16\n  )\n\n  outputs = model.generate(**inputs.to(model.device), max_new_tokens=100)\n  outputs = tokenizer.batch_decode(outputs[:, inputs[\"input_ids\"].shape[-1] :])\n  print(outputs[0])\n  ```\n  ```bash\n   torchrun --nnodes=1 --nproc_per_node=8 inference.py\n   ```\n\n## Installations\n\nYou can install this repository as a [package](https:\u002F\u002Fpypi.org\u002Fproject\u002Fllama-models\u002F) by just doing `pip install llama-models`\n\n## Responsible Use\n\nLlama models are a new technology that carries potential risks with use. Testing conducted to date has not — and could not — cover all scenarios.\nTo help developers address these risks, we have created the [Responsible Use Guide](https:\u002F\u002Fai.meta.com\u002Fstatic-resource\u002Fresponsible-use-guide\u002F).\n\n## Issues\n\nPlease report any software “bug” or other problems with the models through one of the following means:\n- Reporting issues with the model: [https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues](https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues)\n- Reporting risky content generated by the model: [developers.facebook.com\u002Fllama_output_feedback](http:\u002F\u002Fdevelopers.facebook.com\u002Fllama_output_feedback)\n- Reporting bugs and security concerns: [facebook.com\u002Fwhitehat\u002Finfo](http:\u002F\u002Ffacebook.com\u002Fwhitehat\u002Finfo)\n\n\n## Questions\n\nFor common questions, the FAQ can be found [here](https:\u002F\u002Fllama.meta.com\u002Ffaq), which will be updated over time as new questions arise.\n","\u003Cp align=\"center\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fmeta-llama_llama-models_readme_e46d7d53ba87.jpeg\" width=\"400\"\u002F>\n\u003C\u002Fp>\n\n\u003Cp align=\"center\">\n        🤗 \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fmeta-Llama\"> Hugging Face 上的模型\u003C\u002Fa>&nbsp | \u003Ca href=\"https:\u002F\u002Fai.meta.com\u002Fblog\u002F\"> 博客\u003C\u002Fa>&nbsp |  \u003Ca href=\"https:\u002F\u002Fllama.meta.com\u002F\">官网\u003C\u002Fa>&nbsp | \u003Ca href=\"https:\u002F\u002Fllama.meta.com\u002Fget-started\u002F\">入门指南\u003C\u002Fa>&nbsp | \u003Ca href=\"https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-cookbook\">Llama 烹饪书\u003C\u002Fa>&nbsp\n\u003Cbr>\n\n---\n\n# Llama 模型\n\nLlama 是一款面向开发者、研究人员和企业的开放且易于使用的大型语言模型（LLM），旨在帮助他们构建、实验并负责任地扩展生成式 AI 创意。作为基础系统的一部分，Llama 为全球社区的创新奠定了坚实的基础。其核心特点包括：\n1. **开放访问**：轻松获取前沿的大型语言模型，促进开发者、研究人员和各组织之间的协作与进步。\n2. **广泛的生态系统**：Llama 模型已被下载数亿次，社区基于 Llama 构建了数千个项目，从云服务提供商到初创公司都提供了广泛的支持——全世界都在使用 Llama 进行开发！\n3. **信任与安全**：Llama 模型是全面信任与安全方法的一部分，我们发布模型和工具，旨在支持社区协作，并推动生成式 AI 领域中信任与安全工具的标准化开发与应用。\n\n我们的使命是通过这一机会赋能个人和行业，同时营造一个充满发现与伦理 AI 进步的环境。模型权重以开放原则为基础，向研究机构和商业实体授权许可。\n\n## Llama 模型\n\n[![PyPI - 下载量](https:\u002F\u002Fimg.shields.io\u002Fpypi\u002Fdm\u002Fllama-models)](https:\u002F\u002Fpypi.org\u002Fproject\u002Fllama-models\u002F)\n[![Discord](https:\u002F\u002Fimg.shields.io\u002Fdiscord\u002F1257833999603335178)](https:\u002F\u002Fdiscord.gg\u002FTZAAYNVtrU)\n\n|  **模型** | **发布日期** | **模型规模** | **上下文长度** | **分词器** | **可接受使用政策**  |  **许可证** | **模型卡片** |\n| :----: | :----: | :----: | :----:|:----:|:----:|:----:|:----:|\n| Llama 2 | 2023年7月18日 | 7B, 13B, 70B | 4K | Sentencepiece | [使用政策](models\u002Fllama2\u002FUSE_POLICY.md) | [许可证](models\u002Fllama2\u002FLICENSE) | [模型卡片](models\u002Fllama2\u002FMODEL_CARD.md) |\n| Llama 3 | 2024年4月18日 | 8B, 70B | 8K | 基于 TikToken | [使用政策](models\u002Fllama3\u002FUSE_POLICY.md) | [许可证](models\u002Fllama3\u002FLICENSE) | [模型卡片](models\u002Fllama3\u002FMODEL_CARD.md) |\n| Llama 3.1 | 2024年7月23日 | 8B, 70B, 405B | 128K | 基于 TikToken | [使用政策](models\u002Fllama3_1\u002FUSE_POLICY.md) | [许可证](models\u002Fllama3_1\u002FLICENSE) | [模型卡片](models\u002Fllama3_1\u002FMODEL_CARD.md) |\n| Llama 3.2 | 2024年9月25日 | 1B, 3B | 128K | 基于 TikToken | [使用政策](models\u002Fllama3_2\u002FUSE_POLICY.md) | [许可证](models\u002Fllama3_2\u002FLICENSE) | [模型卡片](models\u002Fllama3_2\u002FMODEL_CARD.md) |\n| Llama 3.2-Vision | 2024年9月25日 | 11B, 90B | 128K | 基于 TikToken | [使用政策](models\u002Fllama3_2\u002FUSE_POLICY.md) | [许可证](models\u002Fllama3_2\u002FLICENSE) | [模型卡片](models\u002Fllama3_2\u002FMODEL_CARD_VISION.md) |\n| Llama 3.3 | 2024年12月4日 | 70B | 128K | 基于 TikToken | [使用政策](models\u002Fllama3_3\u002FUSE_POLICY.md) | [许可证](models\u002Fllama3_3\u002FLICENSE) | [模型卡片](models\u002Fllama3_3\u002FMODEL_CARD.md) |\n| Llama 4 | 2025年4月5日 | Scout-17B-16E, Maverick-17B-128E | 10M, 1M | 基于 TikToken | [使用政策](models\u002Fllama4\u002FUSE_POLICY.md) | [许可证](models\u002Fllama4\u002FLICENSE) | [模型卡片](models\u002Fllama4\u002FMODEL_CARD.md) |\n\n## 下载\n\n要下载模型权重和分词器：\n\n1. 访问 [Meta Llama 官网](https:\u002F\u002Fllama.meta.com\u002Fllama-downloads\u002F)。\n2. 阅读并接受许可证协议。\n3. 请求获批后，您将通过电子邮件收到一个签名后的下载链接。\n4. 安装 Llama Models CLI：`pip install llama-models`。（**\u003C-- 如果您已收到邮件，请从此处开始。**）\n5. 运行 `llama-model list` 查看最新可用模型，并确定您想要下载的模型 ID。**注意**：\n如果您需要较旧版本的模型，请运行 `llama-model list --show-all` 以显示所有可用的 Llama 模型。\n\n6. 运行：`llama-model download --source meta --model-id CHOSEN_MODEL_ID`\n7. 在提示时输入提供的 URL 以开始下载。\n\n请记住，链接在 24 小时后或达到一定下载次数后会失效。如果出现类似 `403: Forbidden` 的错误，您可以随时重新请求链接。\n\n### CLI 命令参考\n\n安装完成后，`llama-model` CLI 提供以下命令：\n\n```bash\nllama-model list              # 列出可用模型\nllama-model list --show-all   # 列出所有模型（包括旧版本）\nllama-model describe -m MODEL_ID     # 显示特定模型的详细信息\nllama-model download          # 从 Meta 或 Hugging Face 下载模型\nllama-model verify-download   # 验证已下载模型的完整性\nllama-model remove -m MODEL_ID       # 删除已下载的模型\nllama-model prompt-format -m MODEL_ID  # 显示模型的提示格式\n```\n\n如需了解任何命令的详细帮助，请运行 `llama-model COMMAND --help`。\n\n## 运行模型\n\n要运行模型，您需要在克隆仓库后安装依赖项。\n\n```bash\n# 在合适的 Python 环境中运行（uv、conda 或 virtualenv）\npip install .[torch]\n```\n\n示例脚本位于 `models\u002F{ llama3, llama4 }\u002Fscripts\u002F` 子目录中。请注意，Llama 4 系列模型至少需要 4 张 GPU 卡才能以全精度（bf16）进行推理。\n\n```bash\n#!\u002Fbin\u002Fbash\n\nNGPUS=4\nCHECKPOINT_DIR=~\u002F.llama\u002Fcheckpoints\u002FLlama-4-Scout-17B-16E-Instruct\nPYTHONPATH=$(git rev-parse --show-toplevel) \\\n  torchrun --nproc_per_node=$NGPUS \\\n  -m models.llama4.scripts.chat_completion $CHECKPOINT_DIR \\\n  --world_size $NGPUS\n```\n\n上述脚本适用于 Instruct（聊天）模型。对于 Base 模型，请更新 `CHECKPOINT_DIR` 路径，并使用 `models.llama4.scripts.completion` 脚本。\n\n## 使用 FP8 和 Int4 量化进行推理\n\n通过使用 FP8 或 Int4 量化进行推理，可以在精度损失最小的情况下降低模型的内存占用。使用 `--quantization-mode` 标志来指定量化模式。有两种模式：\n- `fp8_mixed`：混合精度推理，部分权重使用 FP8，激活值使用 bfloat16。\n- `int4_mixed`：混合精度推理，部分权重使用 Int4，激活值使用 bfloat16。\n\n使用 FP8 时，运行 Llama-4-Scout-17B-16E-Instruct 需要两块 80GB 显存的 GPU。而使用 Int4 时，则只需一块 80GB 显存的 GPU 即可。\n\n```bash\nMODE=fp8_mixed  # 或 int4_mixed\nif [ $MODE == \"fp8_mixed\" ]; then\n  NGPUS=2\nelse\n  NGPUS=1\nfi\nCHECKPOINT_DIR=~\u002F.llama\u002Fcheckpoints\u002FLlama-4-Scout-17B-16E-Instruct\nPYTHONPATH=$(git rev-parse --show-toplevel) \\\n  torchrun --nproc_per_node=$NGPUS \\\n  -m models.llama4.scripts.chat_completion $CHECKPOINT_DIR \\\n  --world_size $NGPUS \\\n  --quantization-mode $MODE\n```\n\n\n如需更灵活地进行推理（包括使用其他提供商），请参阅 [`Llama Stack`](https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-stack) 工具集。\n\n\n## 访问 Hugging Face\n\n我们也在 [Hugging Face](https:\u002F\u002Fhuggingface.co\u002Fmeta-llama) 上提供了下载，支持 transformers 和原生 `llama4` 格式。要从 Hugging Face 下载权重，请按照以下步骤操作：\n\n- 访问其中一个仓库，例如 [meta-llama\u002FLlama-4-Scout-17B-16E](https:\u002F\u002Fhuggingface.co\u002Fmeta-llama\u002FLlama-4-Scout-17B-16E)。\n- 阅读并接受许可协议。一旦您的申请获得批准，您将被授予访问所有 Llama 3.1 模型以及早期版本的权限。请注意，过去处理申请可能需要长达一小时。\n- 要下载用于本仓库的原始原生权重，请点击“Files and versions”选项卡，然后下载 `original` 文件夹中的内容。您也可以通过命令行下载，只需先执行 `pip install huggingface-hub`：\n\n```bash\nhuggingface-cli download meta-llama\u002FLlama-4-Scout-17B-16E-Instruct-Original --local-dir meta-llama\u002FLlama-4-Scout-17B-16E-Instruct-Original\n```\n\n- 若要与 transformers 一起使用，可以使用以下代码片段下载并缓存权重：\n\n  ```python\n  # inference.py\n  from transformers import AutoTokenizer, Llama4ForConditionalGeneration\n  import torch\n\n  model_id = \"meta-llama\u002FLlama-4-Scout-17B-16E-Instruct\"\n\n  tokenizer = AutoTokenizer.from_pretrained(model_id)\n\n  messages = [\n      {\"role\": \"user\", \"content\": \"你是谁？\"},\n  ]\n  inputs = tokenizer.apply_chat_template(\n      messages, add_generation_prompt=True，return_tensors=\"pt\", return_dict=True\n  )\n\n  model = Llama4ForConditionalGeneration.from_pretrained(\n      model_id，device_map=\"auto\"，torch_dtype=torch.bfloat16\n  )\n\n  outputs = model.generate(**inputs.to(model.device)，max_new_tokens=100)\n  outputs = tokenizer.batch_decode(outputs[:, inputs[\"input_ids\"].shape[-1] :])\n  print(outputs[0])\n  ```\n  ```bash\n   torchrun --nnodes=1 --nproc_per_node=8 inference.py\n   ```\n\n## 安装\n\n您可以将此仓库作为 [包](https:\u002F\u002Fpypi.org\u002Fproject\u002Fllama-models\u002F) 进行安装，只需执行 `pip install llama-models` 即可。\n\n## 负责任的使用\n\nLlama 模型是一种新技术，使用过程中可能存在潜在风险。迄今为止的测试尚未——也不可能——覆盖所有场景。\n为帮助开发者应对这些风险，我们制定了《负责任使用指南》[链接](https:\u002F\u002Fai.meta.com\u002Fstatic-resource\u002Fresponsible-use-guide\u002F)。\n\n## 问题反馈\n\n如发现任何软件“漏洞”或其他与模型相关的问题，请通过以下方式之一提交报告：\n- 模型相关问题反馈：[https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues](https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues)\n- 模型生成的有害内容反馈：[developers.facebook.com\u002Fllama_output_feedback](http:\u002F\u002Fdevelopers.facebook.com\u002Fllama_output_feedback)\n- 漏洞及安全问题反馈：[facebook.com\u002Fwhitehat\u002Finfo](http:\u002F\u002Ffacebook.com\u002Fwhitehat\u002Finfo)\n\n\n## 常见问题\n\n常见问题解答可在 [这里](https:\u002F\u002Fllama.meta.com\u002Ffaq) 找到，并会随着新问题的出现不断更新。","# Llama Models 快速上手指南\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**: Linux 或 macOS (Windows 用户建议使用 WSL2)。\n*   **Python 版本**: Python 3.10 或更高版本。\n*   **GPU 支持**: \n    *   运行大模型推理需要 NVIDIA GPU。\n    *   **Llama 4 系列**: 全精度 (bf16) 推理至少需要 **4 张 GPU**；使用 FP8 量化需 2 张 80GB 显存 GPU；使用 Int4 量化需 1 张 80GB 显存 GPU。\n    *   较小模型 (如 Llama 3.2 1B\u002F3B) 可在单卡或 CPU 上运行。\n*   **依赖管理**: 推荐使用 `uv`, `conda` 或 `virtualenv` 创建独立的 Python 环境。\n\n## 安装步骤\n\n### 1. 获取模型下载权限\nLlama 模型权重受许可协议保护，需先申请下载链接：\n1. 访问 [Meta Llama 官网](https:\u002F\u002Fllama.meta.com\u002Fllama-downloads\u002F)。\n2. 阅读并接受许可协议。\n3. 审核通过后，您将收到一封包含**签名下载 URL**的邮件。\n\n### 2. 安装 CLI 工具\n安装官方提供的 `llama-models` 命令行工具（国内用户若遇网络问题，可配置 pip 镜像源）：\n\n```bash\n# 推荐国内镜像源加速安装\npip install llama-models -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n### 3. 下载模型权重\n使用 CLI 工具管理模型下载：\n\n1. **查看可用模型**：\n   ```bash\n   llama-model list\n   # 如需查看旧版本模型\n   llama-model list --show-all\n   ```\n\n2. **执行下载**：\n   运行以下命令，当提示输入 URL 时，粘贴您邮件中收到的签名链接。\n   ```bash\n   llama-model download --source meta --model-id CHOSEN_MODEL_ID\n   ```\n   *注意：下载链接有效期为 24 小时且有下载次数限制。若出现 `403: Forbidden` 错误，请重新申请链接。*\n\n3. **验证完整性**（可选）：\n   ```bash\n   llama-model verify-download\n   ```\n\n### 4. 安装运行依赖\n克隆仓库后，安装推理所需的 PyTorch 依赖：\n\n```bash\n# 在项目根目录下执行\npip install .[torch] -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n## 基本使用\n\n### 方式一：使用官方脚本运行推理\n以下示例展示如何运行 **Llama 4 Instruct** 模型进行对话。请根据您的实际模型路径修改 `CHECKPOINT_DIR`。\n\n**全精度运行 (需 4 张 GPU):**\n```bash\n#!\u002Fbin\u002Fbash\n\nNGPUS=4\nCHECKPOINT_DIR=~\u002F.llama\u002Fcheckpoints\u002FLlama-4-Scout-17B-16E-Instruct\nPYTHONPATH=$(git rev-parse --show-toplevel) \\\n  torchrun --nproc_per_node=$NGPUS \\\n  -m models.llama4.scripts.chat_completion $CHECKPOINT_DIR \\\n  --world_size $NGPUS\n```\n\n**量化运行 (降低显存需求):**\n使用 `--quantization-mode` 参数可选择 `fp8_mixed` (需 2 张 80GB GPU) 或 `int4_mixed` (需 1 张 80GB GPU)。\n\n```bash\nMODE=int4_mixed  # 或 fp8_mixed\nif [ $MODE == \"fp8_mixed\" ]; then\n  NGPUS=2\nelse\n  NGPUS=1\nfi\nCHECKPOINT_DIR=~\u002F.llama\u002Fcheckpoints\u002FLlama-4-Scout-17B-16E-Instruct\nPYTHONPATH=$(git rev-parse --show-toplevel) \\\n  torchrun --nproc_per_node=$NGPUS \\\n  -m models.llama4.scripts.chat_completion $CHECKPOINT_DIR \\\n  --world_size $NGPUS \\\n  --quantization-mode $MODE\n```\n\n*注：如果是 Base 模型而非 Instruct 模型，请将脚本路径中的 `chat_completion` 改为 `completion`。*\n\n### 方式二：通过 Hugging Face Transformers 运行\n如果您已通过 Hugging Face 获得授权并下载了模型，可直接使用 `transformers` 库调用：\n\n```python\n# inference.py\nfrom transformers import AutoTokenizer, Llama4ForConditionalGeneration\nimport torch\n\n# 替换为您使用的具体模型 ID\nmodel_id = \"meta-llama\u002FLlama-4-Scout-17B-16E-Instruct\"\n\ntokenizer = AutoTokenizer.from_pretrained(model_id)\n\nmessages = [\n    {\"role\": \"user\", \"content\": \"Who are you?\"},\n]\ninputs = tokenizer.apply_chat_template(\n    messages, add_generation_prompt=True, return_tensors=\"pt\", return_dict=True\n)\n\nmodel = Llama4ForConditionalGeneration.from_pretrained(\n    model_id, device_map=\"auto\", torch_dtype=torch.bfloat16\n)\n\noutputs = model.generate(**inputs.to(model.device), max_new_tokens=100)\noutputs = tokenizer.batch_decode(outputs[:, inputs[\"input_ids\"].shape[-1] :])\nprint(outputs[0])\n```\n\n运行上述 Python 脚本：\n```bash\ntorchrun --nnodes=1 --nproc_per_node=8 inference.py\n```","某初创团队正急于将最新的 Llama 3.2 视觉模型集成到其移动端文档扫描应用中，以实现对复杂图表的自动解读。\n\n### 没有 llama-models 时\n- **环境配置繁琐**：开发者需手动在 Hugging Face、Meta 官网等多处查找不同版本模型的权重链接和对应的 Tokenizer 文件，极易下错版本导致兼容性问题。\n- **依赖管理混乱**：缺乏统一的命令行工具，每次切换实验模型（如从 8B 切换到 70B）都需要重写下载脚本和处理不同的分词器依赖。\n- **合规风险高**：难以快速确认特定模型版本的许可协议和使用政策，可能在未授权的情况下将模型用于商业产品，埋下法律隐患。\n- **迭代效率低下**：从决定尝试新模型到实际跑通\"Hello World\"，往往需要耗费数小时进行资源搜集和环境调试，严重拖慢研发节奏。\n\n### 使用 llama-models 后\n- **一键获取资源**：通过 `llama-model list` 即可查看所有可用模型及元数据，配合 CLI 命令直接下载指定版本的权重与 Tokenizer，彻底消除查找成本。\n- **标准化工作流**：统一的安装包的 (`pip install llama-models`) 自动处理底层依赖，让团队能像切换开关一样轻松在不同参数量模型间进行 A\u002FB 测试。\n- **内置合规指引**：工具链直接关联官方许可和使用政策文档，开发者在下载前即可清晰知晓商业使用边界，确保产品上线安全无忧。\n- **极速原型验证**：将模型集成时间从数小时压缩至几分钟，团队得以将精力集中在业务逻辑优化而非基础设施搭建上，快速响应市场需求。\n\nllama-models 通过标准化的分发与管理机制，将开发者从繁琐的资源调度中解放出来，使其能专注于基于 Llama 生态的创新应用构建。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fmeta-llama_llama-models_62f2be8c.png","meta-llama","Meta Llama","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fmeta-llama_449342bd.png","",null,"https:\u002F\u002Fllama.meta.com\u002F","https:\u002F\u002Fgithub.com\u002Fmeta-llama",[84],{"name":85,"color":86,"percentage":87},"Python","#3572A5",100,7544,1357,"2026-04-05T06:21:49","NOASSERTION","未说明","运行 Llama 4 系列模型全精度 (bf16) 推理至少需要 4 张 GPU；使用 FP8 量化运行 Llama-4-Scout-17B 需要 2 张 80GB 显存的 GPU；使用 Int4 量化需要 1 张 80GB 显存的 GPU。依赖 PyTorch (torch)，隐含需要支持 CUDA 的 NVIDIA GPU。","未说明 (取决于模型大小和量化方式，大模型需大量系统内存)",{"notes":96,"python":97,"dependencies":98},"1. 模型权重需通过 Meta 官网申请授权后获取下载链接，或使用 Hugging Face (需接受协议)。2. Llama 4 系列模型对硬件要求极高，建议使用多卡环境。3. 支持通过 --quantization-mode 参数开启 FP8 或 Int4 量化以降低显存需求。4. 提供了命令行工具 (llama-model) 用于管理模型下载和验证。5. 代码示例显示需要使用 torchrun 进行分布式推理。","未说明 (需在合适的 Python 环境中运行，如 uv, conda, 或 virtualenv)",[99,100,101],"torch","llama-models (CLI)","transformers (可选，用于 HF 格式)",[26,13],"2026-03-27T02:49:30.150509","2026-04-06T08:45:19.919593",[106,111,116,121,126,131,136,141],{"id":107,"question_zh":108,"answer_zh":109,"source_url":110},17124,"如何验证下载的 Llama 3.1 模型文件的完整性（获取 MD5 校验和）？","请使用 `llama-toolchain` 包中新增的 `llama download` CLI 命令。该命令在下载过程中会自动处理并提供文件校验和功能，无需单独寻找校验和文件。确保已安装最新版本的工具链：`pip install llama-toolchain`。","https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues\u002F73",{"id":112,"question_zh":113,"answer_zh":114,"source_url":115},17121,"下载 Llama 模型时遇到 403 Forbidden 错误怎么办？","请勿使用旧的 `download.sh` 脚本。正确的做法是安装 `llama-stack` 或 `llama-toolchain` pip 包，然后使用新的 `llama download` CLI 命令进行下载。例如：先运行 `pip install llama-stack`，然后使用 `llama download` 命令获取模型。","https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues\u002F43",{"id":117,"question_zh":118,"answer_zh":119,"source_url":120},17122,"安装成功后运行 'llama' 命令提示 'Command not found' 如何解决？","这通常是由于 Python 版本不兼容或虚拟环境嵌套导致的环境问题。建议创建一个新的干净虚拟环境，并使用 Python 3.11 或更高版本（如 3.11.10 或 3.13）。在升级 Python 版本并重新安装 `llama-stack` 后，通常无需手动配置 PATH 即可正常使用 CLI。","https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues\u002F202",{"id":122,"question_zh":123,"answer_zh":124,"source_url":125},17123,"下载模型时出现 SSL 证书过期错误（CERTIFICATE_VERIFY_FAILED）如何处理？","该问题通常是由于服务器端证书临时过期引起的。维护者通常会尽快修复此问题。如果遇到此错误，请稍后重试。如果问题持续，请检查本地系统时间是否正确，或尝试更新本地的 CA 证书包。","https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues\u002F368",{"id":127,"question_zh":128,"answer_zh":129,"source_url":130},17125,"文档中的 Prompt 格式链接失效了，哪里可以找到正确的实现代码？","官方文档中的链接已修复。此外，您可以直接参考 GitHub 仓库中的源代码来获取 Prompt 格式和分词逻辑：\n1. Generation 逻辑：https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fblob\u002Fmain\u002Fmodels\u002Fllama3\u002Fgeneration.py\n2. Tokenizer 逻辑：https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fblob\u002Fmain\u002Fmodels\u002Fllama3\u002Ftokenizer.py\n团队也在致力于简化依赖，方便用户将分词工具复制到下游代码中。","https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues\u002F91",{"id":132,"question_zh":133,"answer_zh":134,"source_url":135},17126,"Llama 3.2 模型的 RoPE scale factor 应该是多少？参考代码中是 8 还是 32？","Llama 3.1 模型使用的 scale factor 是 8，但新的 Llama 3.2 模型（如 1B 版本）在 Hugging Face 配置中使用的是 32。请注意，部分参考实现代码可能仍指向 Llama 3 的逻辑。在使用 Llama 3.2 时，应确保加载的配置与模型版本匹配，即使用 scale factor 为 32 的配置。","https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues\u002F166",{"id":137,"question_zh":138,"answer_zh":139,"source_url":140},17127,"下载 Llama 3.1-405B FP8 权重时链接报错或脚本中有拼写错误怎么办？","此前脚本中存在将 `fp8` 误写为 `fb8` 的拼写错误，且下载链接曾返回 HTTP 400 错误。维护者已通过改进 `llama download` CLI 工具修复了这些问题。请确保使用最新版的 CLI 工具进行下载，不要手动构造下载链接。","https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues\u002F21",{"id":142,"question_zh":143,"answer_zh":144,"source_url":145},17128,"在 Windows 上运行 llama 命令出现 'No module named termios' 错误如何解决？","`termios` 是 Unix\u002FLinux 特有的模块，Windows 不支持。如果在 Windows 上遇到此错误，说明该 CLI 工具当前主要面向类 Unix 系统设计。建议在 WSL (Windows Subsystem for Linux) 环境中运行，或使用 Docker 容器来避免操作系统兼容性问题。","https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fissues\u002F144",[147,152,157,162],{"id":148,"version":149,"summary_zh":150,"released_at":151},99317,"v0.2.0","Llama 4 支持（https:\u002F\u002Fwww.llama.com）","2025-04-05T19:02:56",{"id":153,"version":154,"summary_zh":155,"released_at":156},99318,"v0.1.4","## 变更内容\n* 修复：在编码非代码解释器类型的 tool_calls 时，不再使用 python_tag，由 @ehhuang 在 https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fpull\u002F283 中完成。\n* 修复：tool_call 未被正确编码，由 @ehhuang 在 https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fpull\u002F284 中完成。\n\n\n**完整变更日志**：https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fcompare\u002Fv0.1.3...v0.1.4","2025-02-25T00:04:44",{"id":158,"version":159,"summary_zh":160,"released_at":161},99319,"v0.1.3","## 变更内容\n* 将所有 Llama Stack 类型移至 llama-stack，由 @ashwinb 在 https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fpull\u002F279 中完成。\n\n\n**完整变更日志**：https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-models\u002Fcompare\u002Fv0.1.2...v0.1.3","2025-02-14T22:11:36",{"id":163,"version":164,"summary_zh":165,"released_at":166},99320,"v0.1.0","遵循 https:\u002F\u002Fgithub.com\u002Fmeta-llama\u002Fllama-stack\u002Freleases\u002Ftag\u002Fv0.1.0","2025-01-24T17:48:23"]