[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-antimatter15--alpaca.cpp":3,"tool-antimatter15--alpaca.cpp":61},[4,18,26,36,44,52],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",141543,2,"2026-04-06T11:32:54",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107888,"2026-04-06T11:32:50",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":10,"last_commit_at":50,"category_tags":51,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[35,15,13,14],{"id":53,"name":54,"github_repo":55,"description_zh":56,"stars":57,"difficulty_score":10,"last_commit_at":58,"category_tags":59,"status":17},4292,"Deep-Live-Cam","hacksider\u002FDeep-Live-Cam","Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具，用户仅需一张静态照片，即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点，让高质量的数字内容创作变得触手可及。\n\n这款工具不仅适合开发者和技术研究人员探索算法边界，更因其极简的操作逻辑（仅需三步：选脸、选摄像头、启动），广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换，还是制作趣味短视频和直播互动，Deep-Live-Cam 都能提供流畅的支持。\n\n其核心技术亮点在于强大的实时处理能力，支持口型遮罩（Mouth Mask）以保留使用者原始的嘴部动作，确保表情自然精准；同时具备“人脸映射”功能，可同时对画面中的多个主体应用不同面孔。此外，项目内置了严格的内容安全过滤机制，自动拦截涉及裸露、暴力等不当素材，并倡导用户在获得授权及明确标注的前提下合规使用，体现了技术发展与伦理责任的平衡。",88924,"2026-04-06T03:28:53",[14,15,13,60],"视频",{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":75,"owner_location":76,"owner_email":77,"owner_twitter":75,"owner_website":78,"owner_url":79,"languages":80,"stars":105,"forks":106,"last_commit_at":107,"license":108,"difficulty_score":109,"env_os":110,"env_gpu":111,"env_ram":112,"env_deps":113,"category_tags":120,"github_topics":75,"view_count":32,"oss_zip_url":75,"oss_zip_packed_at":75,"status":17,"created_at":121,"updated_at":122,"faqs":123,"releases":157},4494,"antimatter15\u002Falpaca.cpp","alpaca.cpp","Locally run an Instruction-Tuned Chat-Style LLM ","alpaca.cpp 是一款能让你在本地设备上快速运行类 ChatGPT 对话模型的工具。它巧妙地将 Facebook 的 LLaMA 基础模型与斯坦福大学的 Alpaca 指令微调技术相结合，并基于 llama.cpp 进行了优化，添加了便捷的聊天交互界面。\n\n这一工具主要解决了大型语言模型通常依赖昂贵云端算力、难以在个人电脑上运行的痛点。通过高效的量化技术，alpaca.cpp 让拥有普通硬件（如 M2 MacBook Air 甚至部分 Windows 和 Linux 电脑）的用户也能离线体验流畅的指令跟随式 AI 对话，无需联网即可保护数据隐私。\n\n它非常适合对 AI 感兴趣的开发者、研究人员以及希望探索本地大模型潜力的技术爱好者使用。虽然官方建议后续可转向功能更全面的 llama.cpp，但 alpaca.cpp 作为早期将“指令微调”与“本地高效推理”完美结合的典范，其技术思路极具参考价值。其核心亮点在于将复杂的模型权重压缩量化，在大幅降低内存占用的同时，依然保持了出色的响应速度和对话质量，让在本地运行 7B 参数量的智能助手变得触手可及。","# Alpaca.cpp\n\nRun a fast ChatGPT-like model locally on your device. The screencast below is not sped up and running on an M2 Macbook Air with 4GB of weights. \n\n\n[![asciicast](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fantimatter15_alpaca.cpp_readme_d964eb8ac564.gif)](https:\u002F\u002Fasciinema.org\u002Fa\u002FdfJ8QXZ4u978Ona59LPEldtKK)\n\n\nThis combines the [LLaMA foundation model](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama) with an [open reproduction](https:\u002F\u002Fgithub.com\u002Ftloen\u002Falpaca-lora) of [Stanford Alpaca](https:\u002F\u002Fgithub.com\u002Ftatsu-lab\u002Fstanford_alpaca) a fine-tuning of the base model to obey instructions (akin to the [RLHF](https:\u002F\u002Fhuggingface.co\u002Fblog\u002Frlhf) used to train ChatGPT) and a set of modifications to [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp) to add a chat interface. \n\n\n## Consider using LLaMA.cpp instead\n\nThe changes from alpaca.cpp have since been upstreamed in [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp).\n\n## Get Started (7B)\n\nDownload the zip file corresponding to your operating system from the [latest release](https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\u002Freleases\u002Flatest). On Windows, download `alpaca-win.zip`, on Mac (both Intel or ARM) download `alpaca-mac.zip`, and on Linux (x64) download `alpaca-linux.zip`. \n\nDownload  [ggml-alpaca-7b-q4.bin](https:\u002F\u002Fhuggingface.co\u002FSosaka\u002FAlpaca-native-4bit-ggml\u002Fblob\u002Fmain\u002Fggml-alpaca-7b-q4.bin) and place it in the same folder as the `chat` executable in the zip file. There are several options: \n\nOnce you've downloaded the model weights and placed them into the same directory as the `chat` or `chat.exe` executable, run:\n\n```\n.\u002Fchat\n```\n\nThe weights are based on the published fine-tunes from `alpaca-lora`, converted back into a pytorch checkpoint with a [modified script](https:\u002F\u002Fgithub.com\u002Ftloen\u002Falpaca-lora\u002Fpull\u002F19) and then quantized with llama.cpp the regular way. \n\n## Building from Source (MacOS\u002FLinux)\n\n\n```sh\ngit clone https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\ncd alpaca.cpp\n\nmake chat\n.\u002Fchat\n```\n\n\n## Building from Source (Windows)\n\n- Download and install CMake: \u003Chttps:\u002F\u002Fcmake.org\u002Fdownload\u002F>\n- Download and install `git`. If you've never used git before, consider a GUI client like \u003Chttps:\u002F\u002Fdesktop.github.com\u002F>\n- Clone this repo using your git client of choice (for GitHub Desktop, go to File -> Clone repository -> From URL and paste `https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp` in as the URL)\n- Open a Windows Terminal inside the folder you cloned the repository to\n- Run the following commands one by one:\n\n```ps1\ncmake .\ncmake --build . --config Release\n```\n\n- Download the weights via any of the links in \"Get started\" above, and save the file as `ggml-alpaca-7b-q4.bin` in the main Alpaca directory.\n- In the terminal window, run this command:\n```ps1\n.\\Release\\chat.exe\n```\n- (You can add other launch options like `--n 8` as preferred onto the same line)\n- You can now type to the AI in the terminal and it will reply. Enjoy!\n\n## Credit\n\nThis combines [Facebook's LLaMA](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama), [Stanford Alpaca](https:\u002F\u002Fcrfm.stanford.edu\u002F2023\u002F03\u002F13\u002Falpaca.html), [alpaca-lora](https:\u002F\u002Fgithub.com\u002Ftloen\u002Falpaca-lora) and [corresponding weights](https:\u002F\u002Fhuggingface.co\u002Ftloen\u002Falpaca-lora-7b\u002Ftree\u002Fmain) by Eric Wang (which uses [Jason Phang's implementation of LLaMA](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftransformers\u002Fpull\u002F21955) on top of Hugging Face Transformers), and [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp) by Georgi Gerganov. The chat implementation is based on Matvey Soloviev's [Interactive Mode](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp\u002Fpull\u002F61) for llama.cpp. Inspired by [Simon Willison's](https:\u002F\u002Ftil.simonwillison.net\u002Fllms\u002Fllama-7b-m2) getting started guide for LLaMA. [Andy Matuschak](https:\u002F\u002Ftwitter.com\u002Fandy_matuschak\u002Fstatus\u002F1636769182066053120)'s thread on adapting this to 13B, using fine tuning weights by [Sam Witteveen](https:\u002F\u002Fhuggingface.co\u002Fsamwit\u002Falpaca13B-lora). \n\n\n## Disclaimer\n\nNote that the model weights are only to be used for research purposes, as they are derivative of LLaMA, and uses the published instruction data from the Stanford Alpaca project which is generated by OpenAI, which itself disallows the usage of its outputs to train competing models. \n\n\n","# Alpaca.cpp\n\n在您的设备上本地运行一个快速的类 ChatGPT 模型。下面的屏幕录像未加速，是在搭载 4GB 权重的 M2 版 MacBook Air 上运行的。\n\n\n[![asciicast](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fantimatter15_alpaca.cpp_readme_d964eb8ac564.gif)](https:\u002F\u002Fasciinema.org\u002Fa\u002FdfJ8QXZ4u978Ona59LPEldtKK)\n\n\n该项目结合了 [LLaMA 基础模型](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama) 和 [斯坦福 Alpaca](https:\u002F\u002Fgithub.com\u002Ftatsu-lab\u002Fstanford_alpaca) 的开源复现版 [alpaca-lora](https:\u002F\u002Fgithub.com\u002Ftloen\u002Falpaca-lora)，后者是对基础模型进行微调以遵循指令（类似于用于训练 ChatGPT 的 [RLHF](https:\u002F\u002Fhuggingface.co\u002Fblog\u002Frlhf)），并在此基础上对 [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp) 进行了一系列修改，添加了聊天界面。\n\n\n## 建议改用 LLaMA.cpp\n\nalpaca.cpp 中的改动现已合并到 [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp) 的主分支中。\n\n## 快速入门（7B）\n\n从 [最新发布](https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\u002Freleases\u002Flatest) 下载对应您操作系统的压缩包。Windows 用户下载 `alpaca-win.zip`，Mac（Intel 或 ARM）用户下载 `alpaca-mac.zip`，Linux（x64）用户下载 `alpaca-linux.zip`。\n\n然后下载 [ggml-alpaca-7b-q4.bin](https:\u002F\u002Fhuggingface.co\u002FSosaka\u002FAlpaca-native-4bit-ggml\u002Fblob\u002Fmain\u002Fggml-alpaca-7b-q4.bin)，将其放置于压缩包中的 `chat` 可执行文件所在的同一目录下。有多种选项可供选择：\n\n下载完模型权重并将其放入与 `chat` 或 `chat.exe` 可执行文件相同的目录后，运行以下命令：\n\n```\n.\u002Fchat\n```\n\n这些权重基于 `alpaca-lora` 公开的微调结果，通过一个[修改后的脚本](https:\u002F\u002Fgithub.com\u002Ftloen\u002Falpaca-lora\u002Fpull\u002F19)将其转换回 PyTorch 检查点，随后使用 llama.cpp 的常规方法进行量化。\n\n## 从源码构建（MacOS\u002FLinux）\n\n\n```sh\ngit clone https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\ncd alpaca.cpp\n\nmake chat\n.\u002Fchat\n```\n\n\n## 从源码构建（Windows）\n\n- 下载并安装 CMake：\u003Chttps:\u002F\u002Fcmake.org\u002Fdownload\u002F>\n- 下载并安装 `git`。如果您从未使用过 git，可以考虑使用图形化客户端，例如 \u003Chttps:\u002F\u002Fdesktop.github.com\u002F>。\n- 使用您选择的 git 客户端克隆此仓库（对于 GitHub Desktop，依次点击“文件”->“克隆仓库”->“从 URL”，并将 `https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp` 粘贴为 URL）。\n- 在您克隆仓库的文件夹内打开 Windows 终端。\n- 依次运行以下命令：\n\n```ps1\ncmake .\ncmake --build . --config Release\n```\n\n- 通过上述“快速入门”部分中的任一链接下载权重，并将文件保存为 `ggml-alpaca-7b-q4.bin` 放置在 Alpaca 主目录中。\n- 在终端窗口中运行以下命令：\n```ps1\n.\\Release\\chat.exe\n```\n- （您还可以根据需要在同一行添加其他启动选项，如 `--n 8`）\n- 现在您可以在终端中与 AI 对话，它会作出回应。尽情享受吧！\n\n## 致谢\n\n本项目结合了 Facebook 的 LLaMA、斯坦福 Alpaca、alpaca-lora 以及 Eric Wang 提供的相应权重（该权重基于 Jason Phang 在 Hugging Face Transformers 上实现的 LLaMA；详见 [此处](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftransformers\u002Fpull\u002F21955)），还有 Georgi Gerganov 的 llama.cpp。聊天功能的实现基于 Matvey Soloviev 为 llama.cpp 添加的交互模式。灵感来源于 Simon Willison 关于 LLaMA 的入门指南。此外，Andy Matuschak（见 [此处](https:\u002F\u002Ftwitter.com\u002Fandy_matuschak\u002Fstatus\u002F1636769182066053120)）提出的将此方法扩展至 13B 参数规模的思路，也借鉴了 Sam Witteveen 提供的 13B 参数微调权重（详见 [Hugging Face](https:\u002F\u002Fhuggingface.co\u002Fsamwit\u002Falpaca13B-lora)）。\n\n\n## 免责声明\n\n请注意，这些模型权重仅可用于研究目的。它们是 LLaMA 的衍生作品，并使用了斯坦福 Alpaca 项目公开的指令数据，而这些数据是由 OpenAI 生成的。OpenAI 明确禁止将自身输出用于训练竞争性模型。","# Alpaca.cpp 快速上手指南\n\nAlpaca.cpp 允许你在本地设备上运行一个类似 ChatGPT 的快速对话模型。它结合了 LLaMA 基础模型、Stanford Alpaca 的微调权重以及 llama.cpp 的聊天接口修改。\n\n> **注意**：本项目的相关功能已合并至上游项目 [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp)，建议新用户优先考虑直接使用 llama.cpp。若需体验本特定版本，请参考以下指南。\n\n## 环境准备\n\n*   **操作系统**：\n    *   macOS (支持 Intel 和 ARM\u002FM 系列芯片)\n    *   Linux (x64 架构)\n    *   Windows (需安装 CMake 和 Git)\n*   **硬件要求**：\n    *   内存：建议至少 8GB（运行 7B 量化模型）。示例中在 4GB 权重的 M2 Macbook Air 上流畅运行。\n*   **前置依赖 (仅源码编译需要)**：\n    *   **Linux\u002FmacOS**: `make`, `g++` (通常包含在 build-essential 或 Xcode Command Line Tools 中)。\n    *   **Windows**:\n        *   [CMake](https:\u002F\u002Fcmake.org\u002Fdownload\u002F)\n        *   [Git](https:\u002F\u002Fgit-scm.com\u002F) 或 GitHub Desktop\n\n## 安装步骤\n\n你可以选择下载预编译包（推荐）或从源码编译。\n\n### 方法一：使用预编译包 (推荐)\n\n1.  **下载程序**：\n    访问 [最新 Release 页面](https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\u002Freleases\u002Flatest)，根据你的系统下载对应压缩包：\n    *   Windows: `alpaca-win.zip`\n    *   macOS: `alpaca-mac.zip`\n    *   Linux: `alpaca-linux.zip`\n    \n    解压后，你将看到 `chat` (或 `chat.exe`) 可执行文件。\n\n2.  **下载模型权重**：\n    下载 7B 量化模型文件 [ggml-alpaca-7b-q4.bin](https:\u002F\u002Fhuggingface.co\u002FSosaka\u002FAlpaca-native-4bit-ggml\u002Fblob\u002Fmain\u002Fggml-alpaca-7b-q4.bin)。\n    *   *国内用户提示*：如果 HuggingFace 下载缓慢，可尝试使用国内镜像站（如 ModelScope 魔搭社区）搜索同名文件下载，或使用代理加速。\n\n3.  **放置文件**：\n    将下载的 `ggml-alpaca-7b-q4.bin` 文件移动到与 `chat` (或 `chat.exe`) 相同的文件夹目录下。\n\n### 方法二：从源码编译\n\n#### macOS \u002F Linux\n\n```sh\ngit clone https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\ncd alpaca.cpp\n\nmake chat\n```\n*编译完成后，同样需要手动下载 `ggml-alpaca-7b-q4.bin` 并放入当前目录。*\n\n#### Windows\n\n1.  克隆仓库：\n    ```ps1\n    git clone https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\n    cd alpaca.cpp\n    ```\n2.  配置并构建：\n    ```ps1\n    cmake .\n    cmake --build . --config Release\n    ```\n3.  将下载的 `ggml-alpaca-7b-q4.bin` 文件放入项目根目录。\n\n## 基本使用\n\n确保模型文件 `ggml-alpaca-7b-q4.bin` 与可执行文件在同一目录下，然后在终端中运行：\n\n### macOS \u002F Linux\n\n```bash\n.\u002Fchat\n```\n\n### Windows\n\n```ps1\n.\\Release\\chat.exe\n```\n\n*(注：如果你使用的是预编译的 Windows zip 包且直接在解压目录运行，可能只需输入 `.\\chat.exe`)*\n\n启动后，你可以在终端直接输入指令与 AI 对话。例如：\n```text\n>>> Write a poem about spring.\n```\n\n**可选参数**：\n你可以在命令后添加参数，例如限制生成长度：\n```bash\n.\u002Fchat --n 8\n```\n\n---\n*免责声明：本模型权重仅供研究使用。其衍生自 LLaMA，并使用了由 OpenAI 生成的 Stanford Alpaca 指令数据，该数据的使用条款禁止用于训练竞争模型。*","一位独立开发者需要在无网络连接的出差途中，利用本地笔记本电脑快速原型化一个具备指令遵循能力的智能客服对话功能。\n\n### 没有 alpaca.cpp 时\n- **依赖云端 API**：必须调用远程大模型服务，一旦处于飞机或弱网环境，开发工作完全停滞。\n- **数据隐私风险**：将敏感的业务测试数据发送至第三方服务器，存在合规隐患且无法完全掌控数据流向。\n- **硬件门槛过高**：运行原始 LLaMA 或 Stanford Alpaca 模型通常需要高端 GPU 服务器，普通轻薄本无法承载。\n- **部署流程繁琐**：需要配置复杂的 Python 深度学习环境、安装 PyTorch 及各类依赖库，极易出现版本冲突。\n\n### 使用 alpaca.cpp 后\n- **纯本地离线运行**：直接在 M2 MacBook Air 等消费级设备上运行量化后的模型，无需任何网络连接即可实时响应。\n- **数据完全私有**：所有对话推理过程均在本地内存完成，敏感业务逻辑与测试数据绝不流出设备，确保绝对安全。\n- **极低资源占用**：通过 4bit 量化技术，仅需 4GB 显存\u002F内存即可流畅运行 7B 参数模型，让旧电脑也能跑大模型。\n- **开箱即用体验**：下载预编译的二进制文件与权重文件后，单条命令 `.\u002Fchat` 即可启动交互界面，零配置成本。\n\nalpaca.cpp 通过将高性能指令微调模型轻量化并本地化，让开发者在任意设备上都能低成本、高隐私地构建类 ChatGPT 应用。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fantimatter15_alpaca.cpp_4b7f4200.png","antimatter15","Kevin Kwok","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fantimatter15_cf6f3895.jpg",null,"San Francisco, CA","antimatter15@gmail.com","https:\u002F\u002Fantimatter15.com","https:\u002F\u002Fgithub.com\u002Fantimatter15",[81,85,89,93,97,101],{"name":82,"color":83,"percentage":84},"C","#555555",79.4,{"name":86,"color":87,"percentage":88},"C++","#f34b7d",17,{"name":90,"color":91,"percentage":92},"Makefile","#427819",1.3,{"name":94,"color":95,"percentage":96},"Python","#3572A5",1.2,{"name":98,"color":99,"percentage":100},"CMake","#DA3434",1,{"name":102,"color":103,"percentage":104},"Shell","#89e051",0.1,10164,863,"2026-04-04T15:29:23","MIT",4,"Linux, macOS, Windows","未说明 (基于 llama.cpp，主要依赖 CPU 运行，支持 Apple Silicon)","最低约 4GB (参考 M2 MacBook Air 运行 4GB 权重模型)",{"notes":114,"python":115,"dependencies":116},"该工具是 llama.cpp 的早期分支，目前功能已合并回主项目，建议直接使用 llama.cpp。需手动下载约 4GB 的量化模型文件 (ggml-alpaca-7b-q4.bin) 并与可执行文件放在同一目录。Windows 用户需安装 CMake 和 Git 进行源码编译或直接下载发布包。","未说明",[117,118,119],"cmake (Windows 构建必需)","git","make (MacOS\u002FLinux 构建必需)",[35,14],"2026-03-27T02:49:30.150509","2026-04-06T23:56:27.110693",[124,129,134,139,144,148,153],{"id":125,"question_zh":126,"answer_zh":127,"source_url":128},20456,"在哪里可以下载 Alpaca 模型文件（如 7B 或 13B）？","由于法律原因，官方仓库可能不直接提供下载链接。您可以尝试以下来源：\n1. IPFS 链接：`curl -o .\u002Fmodels\u002Fggml-alpaca-7b-q4.bin -C - https:\u002F\u002Fipfs.io\u002Fipfs\u002FQmUp1UGeQFDqJKvtjbSYPBiZZKRjLp8shVP9hT8ZB9Ynv1`\n2. Hugging Face: `https:\u002F\u002Fhuggingface.co\u002FPi3141\u002Falpaca-lora-7B-ggml\u002Ftree\u002Fmain`\n3. 百度网盘（由社区用户分享）：`https:\u002F\u002Fpan.baidu.com\u002Fs\u002F1zIyjFb6c7biq7Wb2PqPkWw?pwd=2mnu`\n4. 查看仓库的 test 分支或 README 中的 'Get Started' 部分获取最新指引。","https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\u002Fissues\u002F165",{"id":130,"question_zh":131,"answer_zh":132,"source_url":133},20457,"运行 13B 或更大模型时出现 'Segmentation fault'（段错误）怎么办？","这通常是由于内存不足导致的，特别是在 WSL (Windows Subsystem for Linux) 环境下。解决方案包括：\n1. 增加物理内存或使用页面文件（Page File）：在 WSL 中，可以通过配置 `.wslconfig` 文件增加内存限制。例如设置 `memory=32GB`。\n2. 直接在 Windows 原生环境下编译和运行，而不是在 WSL 中，因为 WSL 对页面文件的支持可能不佳。\n3. 确保您的系统有足够的 RAM（运行 13B 模型建议至少 16GB-32GB，30B 模型需要更多）。\n4. 检查代码是否已更新以包含更好的内存分配错误处理（参考相关 PR #142）。","https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\u002Fissues\u002F45",{"id":135,"question_zh":136,"answer_zh":137,"source_url":138},20458,"在 Windows 上运行 cmake 时遇到 'nmake' 找不到文件或编译器未设置的错误如何解决？","该错误表明系统缺少 C\u002FC++ 编译环境。解决方法是安装 Visual Studio（包含 C++ 构建工具）。\n安装完成后，确保在 'Developer Command Prompt for VS' 中运行 cmake，或者将 Visual Studio 的编译器路径添加到系统环境变量中。安装 Visual Studio 后，`nmake` 和必要的编译器（CMAKE_C_COMPILER, CMAKE_CXX_COMPILER）将被正确识别。","https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\u002Fissues\u002F35",{"id":140,"question_zh":141,"answer_zh":142,"source_url":143},20459,"如何运行 30B、33B 或 65B 等更大参数的模型？","运行大模型需要代码支持和强大的硬件：\n1. 代码支持：确保拉取了最新的代码，相关支持（如 #104 和 #108）已合并到主分支，允许加载多部分权重文件。\n2. 重新编译：如果遇到问题，尝试运行 `make chat` 重新编译脚本。\n3. 硬件要求：这些模型非常消耗内存和 CPU。例如，运行 30B 模型可能需要 32GB 以上内存，并占用大量 CPU 资源，生成速度会比 7B 模型慢 2-3 倍。\n4. 注意：如果加载时报错 'tensor has wrong size'，请确认模型文件完整性并重新编译。","https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\u002Fissues\u002F94",{"id":145,"question_zh":146,"answer_zh":147,"source_url":128},20460,"下载模型后加载失败，提示 'invalid model file (bad magic)' 是什么原因？","这通常意味着下载的模型文件损坏或不完整，或者是从非官方来源下载了格式错误的文件。\n解决方法：\n1. 不要使用随机搜索到的第三方链接（如某些 mega.nz 链接），它们可能已过时或损坏。\n2. 使用官方推荐的 IPFS 链接或 Hugging Face 仓库重新下载文件。\n3. 校验文件的 Checksum（如果官方提供），确保与预期值匹配。\n4. 确保下载过程中网络稳定，文件完全下载。",{"id":149,"question_zh":150,"answer_zh":151,"source_url":152},20461,"Torrent 下载卡在 92.7% 且没有种子（seeds）怎么办？","这是 P2P 下载的常见问题，当没有做种者时会卡住。\n建议方案：\n1. 等待社区成员重新做种（有时会有志愿者在周末保持做种）。\n2. 放弃 Torrent，转而使用上述提到的 IPFS、Hugging Face 或网盘直链下载，这些方式通常更稳定且速度更快。\n3. 在社区 Issue 或讨论区询问是否有用户正在做种。","https:\u002F\u002Fgithub.com\u002Fantimatter15\u002Falpaca.cpp\u002Fissues\u002F37",{"id":154,"question_zh":155,"answer_zh":156,"source_url":133},20462,"为什么 7B 模型运行正常，但切换到其他模型或环境时出现问题？","7B 模型对资源要求较低，兼容性最好。切换模型时需注意：\n1. 内存限制：13B 及以上模型需要显著更多的 RAM。WSL 用户尤其要注意默认内存限制可能不足以运行大模型。\n2. 编译一致性：更换模型版本或大小后，建议清理并重新编译项目（`make clean && make chat`），以确保二进制文件与新模型格式兼容。\n3. 平台差异：某些模型在 Windows 原生环境下表现优于 WSL，反之亦然，建议在不同环境下测试。",[158,162,166,170,174,178,182,186,190,194,198,202,206,210,214,218],{"id":159,"version":160,"summary_zh":75,"released_at":161},124381,"81bd894","2023-03-21T21:42:26",{"id":163,"version":164,"summary_zh":75,"released_at":165},124382,"428aa70","2023-03-21T21:00:17",{"id":167,"version":168,"summary_zh":75,"released_at":169},124383,"9116ae9","2023-03-21T20:59:12",{"id":171,"version":172,"summary_zh":75,"released_at":173},124384,"99f3908","2023-03-20T10:55:30",{"id":175,"version":176,"summary_zh":75,"released_at":177},124385,"953e04a","2023-03-20T10:28:45",{"id":179,"version":180,"summary_zh":75,"released_at":181},124386,"82f9cc5","2023-03-20T10:27:24",{"id":183,"version":184,"summary_zh":75,"released_at":185},124387,"master-ad0f01b","2023-03-18T21:02:46",{"id":187,"version":188,"summary_zh":75,"released_at":189},124388,"master-b64ca1c","2023-03-18T14:40:04",{"id":191,"version":192,"summary_zh":75,"released_at":193},124389,"master-4a524c5","2023-03-18T08:17:56",{"id":195,"version":196,"summary_zh":75,"released_at":197},124390,"master-ddc4e24","2023-03-18T08:13:14",{"id":199,"version":200,"summary_zh":75,"released_at":201},124391,"master-564b861","2023-03-18T08:09:02",{"id":203,"version":204,"summary_zh":75,"released_at":205},124392,"master-3f7d187","2023-03-18T07:55:53",{"id":207,"version":208,"summary_zh":75,"released_at":209},124393,"master-1c62e35","2023-03-18T07:39:45",{"id":211,"version":212,"summary_zh":75,"released_at":213},124394,"master-7e12661","2023-03-18T07:37:27",{"id":215,"version":216,"summary_zh":75,"released_at":217},124395,"master-501a8e1","2023-03-18T07:30:31",{"id":219,"version":220,"summary_zh":75,"released_at":221},124396,"master-7b24407","2023-03-18T07:08:21"]