[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-IBM--Dromedary":3,"tool-IBM--Dromedary":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",154349,2,"2026-04-13T23:32:16",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":76,"owner_email":76,"owner_twitter":77,"owner_website":78,"owner_url":79,"languages":80,"stars":88,"forks":89,"last_commit_at":90,"license":91,"difficulty_score":92,"env_os":93,"env_gpu":94,"env_ram":93,"env_deps":95,"category_tags":102,"github_topics":76,"view_count":32,"oss_zip_url":76,"oss_zip_packed_at":76,"status":17,"created_at":103,"updated_at":104,"faqs":105,"releases":106},7394,"IBM\u002FDromedary","Dromedary","Dromedary: towards helpful, ethical and reliable LLMs.","Dromedary 是一款致力于构建有益、道德且可靠的大型语言模型（LLM）的开源项目。它核心解决了传统大模型训练过度依赖昂贵人工标注数据的问题，提出了一种“原则驱动的自对齐”技术路线。通过让模型在极少的人工监督下，依据预设的道德与行为准则进行自我学习和调整，Dromedary 能够从零开始训练出具备高度对齐能力的模型。\n\n该项目特别适合 AI 研究人员和开发者使用，尤其是那些希望探索高效模型对齐方法、降低训练成本或基于 LLaMA 架构进行二次开发的团队。其独特的技术亮点在于创新的 SELF-ALIGN 流程：利用多样化的用户提示词和特定的“总 - 分 - 总”回答范式作为示例，引导模型自我优化。升级版 Dromedary-2 进一步简化了流程，仅用两个阶段即可在 LLaMA-2 基座上实现性能提升，甚至无需繁琐的克隆阶段或少样本推理。此外，项目还开源了基于原则遵循奖励模型的 SALMON 训练管线。Dromedary 以开放的态度分享代码与权重增量，为社区提供了一条通往更可控、更可信人工智能的实用路径。","\u003Cdiv align=\"center\">\n\n\u003Cimg src=\"assets\u002Fimages\u002Fdromedary_logo_with_text.svg\" alt=\"Dromedary Logo\"\u002F>\n\n\u003C\u002Fdiv>\n\n\u003Cdiv align=\"center\">\n\n\u003C!-- # Dromedary -->\n\n### NeurIPS 2023 (Spotlight)\n\n## Principle-Driven Self-Alignment of Language Models from Scratch with Minimal Human Supervision\n\n\u003C\u002Fdiv>\n\n[![Code License](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FCode%20License-GPL_3.0-green.svg)](LICENSE)\n[![Data License](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FData%20License-CC%20By%20NC%204.0-red.svg)](DATA_LICENSE)\n\n## Introduction\n\nDromedary is an open-source self-aligned language model trained with minimal human supervision.  For comprehensive details and insights, we kindly direct you to our [project page](https:\u002F\u002Fgithub.com\u002FIBM\u002FDromedary) and [paper](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.03047).\n\n\u003Cp align=\"center\">\n\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FIBM_Dromedary_readme_cb20b76743bd.png\" alt=\"Dromedary Pipeline\"\u002F>\n\n\u003C\u002Fp>\n\n### Update: Dromedary-2 (SFT)\n\nThe new **SELF-ALIGN** process in *Dromedary-2* only involves two stages, We replace the first stage with diverse user prompts from [ShareGPT](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fanon8231489123\u002FShareGPT_Vicuna_unfiltered), [Dolly-15k](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fdatabricks\u002Fdatabricks-dolly-15k), [OpenAssistant](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FOpenAssistant\u002Foasst1), and [OpenOrca](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FOpen-Orca\u002FOpenOrca), and create an improved prompt with one additional exemplar that encourages the LLM AI-assistant to generate responses in a [general-specific-general response style](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.15717), i.e., initiate with an overview, delve into specifics, and wrap up with a summary. Specifically, we directly take the one-shot exemplar from [FastChat](https:\u002F\u002Fgithub.com\u002Flm-sys\u002FFastChat\u002Fblob\u002F2855bf974f0973f85adb2bb7a9d075255b353ecf\u002Ffastchat\u002Fconversation.py\\#L311) as this additional exemplar.\n\nBy utilizing the new principle-driven self-alignment prompt, we found that the [LLaMA-2](https:\u002F\u002Farxiv.org\u002Fabs\u002F2307.09288) base model with the improved ICL exemplars can achieve enhanced performance even without the verbose cloning phase nor inference-time few-shot examples. Therefore, we also drop the last stage of the original **SELF-ALIGN** process.\n\n### Dromedary-2 (RLAIF)\n\nThe SALMON (Self-ALignMent with principle-fOllowiNg reward models) training pipeline of *Dromedary-2* can be found in the [`IBM\u002FSALMON`](https:\u002F\u002Fgithub.com\u002FIBM\u002FSALMON) repository.\n\n### Original Dromedary\n\nThe repo for the original Dromedary release is in the [`dromedary_v1`](https:\u002F\u002Fgithub.com\u002FIBM\u002FDromedary\u002Ftree\u002Fdromedary_v1) branch.\n\n## Setup\n\nTo train your own self-aligned model with the LLaMA base language model, or to perform inference on GPUs with quantities differing from 1, 2, 4, or 8 (i.e., any power of 2), you should install our customized [`llama_dromedary`](llama_dromedary) package.\n\nIn a conda env with pytorch \u002F cuda available, run:\n\n```bash\ncd llama_dromedary\npip install -r requirements.txt\npip install -e .\ncd ..\n```\n\nOtherwise, if you only want to perform inference on 1, 2, 4, 8, or 16 GPUs, you can reuse the original LLaMA repo.\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama.git\ncd llama\npip install -r requirements.txt\npip install -e .\ncd ..\n```\n\nIn addition, you should at least install the packages required for inference:\n\n```bash\ncd inference\npip install -r requirements.txt\n```\n\n## Model Weights\n\nWe release Dromedary weights as delta weights to comply with the LLaMA model license. You can add our delta to the original LLaMA weights to obtain the Dromedary weights. Instructions:\n\n1. Get the original LLaMA weights in the Hugging Face format by following the instructions [here](https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Ftransformers\u002Fmain\u002Fmodel_doc\u002Fllama).\n2. Download the LoRA delta weights from our Hugging Face [model hub](https:\u002F\u002Fhuggingface.co\u002Fzhiqings\u002Fdromedary-65b-lora-delta-v0).\n3. Follow our [inference guide](inference) to see how to deploy Dromedary\u002FLLaMA on your own machine with [model parallel](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Ffairscale\u002Ftree\u002Fmain\u002Ffairscale\u002Fnn\u002Fmodel_parallel) (which should be significantly faster than Hugging Face's default pipeline parallel when using multiple GPUs).\n\n## Synthetic Data for Self-Align\n\nWe release the synthetic data used to train `Dromedary-65b (final)` in Hugging Face Datasets Hub [here](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fzhiqings\u002Fdromedary-65b-verbose-clone-v0).\n\nThe instructions are generated by the base `LLaMA` model with the (Topic-Guided Red-Teaming) Self-Instruct framework, while the responses are generated by the `Dromedary (non-verbose)` model prompted with the [verbose prompt](prompts\u002Fverbose_dromedary_prompt.txt).\n\n**Update**: We also release the synthetic data used to train `Dromedary-2-70b (SFT)` in Hugging Face Datasets Hub [here](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fzhiqings\u002Fdromedary-2-70b-v2).\n\n## Inference\n\nWe provide a [chatbot demo](inference) for Dromedary.\n\n## Training\n\nWe provide the full [training pipeline](training) of Dromedary for reproduction.\n\n## Prompts\n\nAll the human annotations used in this project can be found [here](prompts).\n\n### Citation\n\nPlease cite the following paper if you use the data or code in this repo.\n\n```\n@inproceedings{sun2023principle,\n      title = {Principle-Driven Self-Alignment of Language Models from Scratch with Minimal Human Supervision},\n      author = {Sun, Zhiqing and Shen, Yikang and Zhou, Qinhong and Zhang, Hongxin and Chen, Zhenfang and Cox, David and Yang, Yiming and Gan, Chuang},\n      booktitle = {Thirty-seventh Conference on Neural Information Processing Systems},\n      year = {2023},\n      url = {https:\u002F\u002Fopenreview.net\u002Fforum?id=p40XRfBX96},\n}\n```\n\n### Acknowledgements\n\nWe thank Yizhong Wang for providing the code for the parse analysis plot.\nWe also thank [Meta LLaMA team](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama), [Standford Alpaca team](https:\u002F\u002Fgithub.com\u002Ftatsu-lab\u002Fstanford_alpaca), [Vicuna team](https:\u002F\u002Fgithub.com\u002Flm-sys\u002FFastChat), [Alpaca-LoRA](https:\u002F\u002Fgithub.com\u002Ftloen\u002Falpaca-lora), [QLoRA team](https:\u002F\u002Fgithub.com\u002Fartidoro\u002Fqlora), and [Hugging Face PEFT](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Fpeft) for their open-source efforts in democratizing large language models.\n","\u003Cdiv align=\"center\">\n\n\u003Cimg src=\"assets\u002Fimages\u002Fdromedary_logo_with_text.svg\" alt=\"骆驼标志\"\u002F>\n\n\u003C\u002Fdiv>\n\n\u003Cdiv align=\"center\">\n\n\u003C!-- # 骆驼 -->\n\n### NeurIPS 2023（亮点论文）\n\n## 基于原则驱动的零起点语言模型自我对齐：极简人类监督下的实现\n\n\u003C\u002Fdiv>\n\n[![代码许可证](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FCode%20License-GPL_3.0-green.svg)](LICENSE)\n[![数据许可证](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FData%20License-CC%20By%20NC%204.0-red.svg)](DATA_LICENSE)\n\n## 引言\n\nDromedary 是一款开源的自我对齐语言模型，在极低的人类监督下进行训练。如需更全面的细节与见解，请访问我们的 [项目页面](https:\u002F\u002Fgithub.com\u002FIBM\u002FDromedary) 和 [论文](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.03047)。\n\n\u003Cp align=\"center\">\n\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FIBM_Dromedary_readme_cb20b76743bd.png\" alt=\"Dromedary 流程图\"\u002F>\n\n\u003C\u002Fp>\n\n### 更新：Dromedary-2（SFT）\n\n*Dromedary-2* 中全新的 **SELF-ALIGN** 流程仅包含两个阶段。我们用来自 [ShareGPT](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fanon8231489123\u002FShareGPT_Vicuna_unfiltered)、[Dolly-15k](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fdatabricks\u002Fdatabricks-dolly-15k)、[OpenAssistant](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FOpenAssistant\u002Foasst1) 和 [OpenOrca](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FOpen-Orca\u002FOpenOrca) 的多样化用户提示替换了第一阶段，并创建了一个改进的提示模板，其中增加了一条示例，鼓励 LLM 人工智能助手以一种 [一般—具体—一般] 的回应风格生成回答（参见论文：https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.15717），即先概述、再深入细节、最后总结。具体而言，我们直接从 [FastChat](https:\u002F\u002Fgithub.com\u002Flm-sys\u002FFastChat\u002Fblob\u002F2855bf974f0973f85adb2bb7a9d075255b353ecf\u002Ffastchat\u002Fconversation.py#L311) 中提取单次示例作为这一额外的示例。\n\n通过使用这种基于原则的新式自我对齐提示，我们发现，即使没有冗长的克隆阶段或推理时的小样本示例，搭载改进 ICL 示例的 [LLaMA-2](https:\u002F\u002Farxiv.org\u002Fabs\u002F2307.09288) 基础模型也能获得更好的性能。因此，我们也取消了原始 **SELF-ALIGN** 流程中的最后一道工序。\n\n### Dromedary-2（RLAIF）\n\n*Dromedary-2* 的 SALMON（遵循原则奖励模型的自我对齐）训练流程可在 [`IBM\u002FSALMON`](https:\u002F\u002Fgithub.com\u002FIBM\u002FSALMON) 仓库中找到。\n\n### 原始 Dromedary\n\n原始 Dromedary 发布版本的代码库位于 [`dromedary_v1`](https:\u002F\u002Fgithub.com\u002FIBM\u002FDromedary\u002Ftree\u002Fdromedary_v1) 分支。\n\n## 环境搭建\n\n若要使用 LLaMA 基础语言模型训练您自己的自我对齐模型，或者在 GPU 数量不是 1、2、4 或 8（即不是 2 的幂次）的情况下进行推理，您需要安装我们定制的 [`llama_dromedary`](llama_dromedary) 包。\n\n在已配置好 PyTorch 和 CUDA 的 conda 环境中，执行以下命令：\n\n```bash\ncd llama_dromedary\npip install -r requirements.txt\npip install -e .\ncd ..\n```\n\n否则，如果您只想在 1、2、4、8 或 16 个 GPU 上进行推理，可以直接复用原版 LLaMA 代码库。\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama.git\ncd llama\npip install -r requirements.txt\npip install -e .\ncd ..\n```\n\n此外，您还至少需要安装用于推理的依赖包：\n\n```bash\ncd inference\npip install -r requirements.txt\n```\n\n## 模型权重\n\n为遵守 LLaMA 模型许可协议，我们以增量权重的形式发布 Dromedary 权重。您可以将我们的增量权重叠加到原始 LLaMA 权重上，从而得到 Dromedary 权重。操作步骤如下：\n\n1. 按照 [此处](https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Ftransformers\u002Fmain\u002Fmodel_doc\u002Fllama) 的说明，获取 Hugging Face 格式的原始 LLaMA 权重。\n2. 从我们的 Hugging Face [模型中心](https:\u002F\u002Fhuggingface.co\u002Fzhiqings\u002Fdromedary-65b-lora-delta-v0) 下载 LoRA 增量权重。\n3. 参阅我们的 [推理指南](inference)，了解如何在您的设备上部署 Dromedary\u002FLLaMA，并采用 [模型并行](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Ffairscale\u002Ftree\u002Fmain\u002Ffairscale\u002Fnn\u002Fmodel_parallel) 技术（该技术在多 GPU 场景下通常比 Hugging Face 默认的流水线并行更快）。\n\n## 自我对齐用合成数据\n\n我们将在 Hugging Face 数据集中心发布用于训练 `Dromedary-65b（最终版）` 的合成数据，链接如下：[此处](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fzhiqings\u002Fdromedary-65b-verbose-clone-v0)。\n\n这些指令由基础 `LLaMA` 模型借助（主题引导红队攻击）Self-Instruct 框架生成，而回复则由 `Dromedary（非冗长版）` 模型在 [冗长提示](prompts\u002Fverbose_dromedary_prompt.txt) 的引导下生成。\n\n**更新**：我们还在 Hugging Face 数据集中心发布了用于训练 `Dromedary-2-70b（SFT）` 的合成数据，链接如下：[此处](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fzhiqings\u002Fdromedary-2-70b-v2)。\n\n## 推理\n\n我们为 Dromedary 提供了一个 [聊天机器人演示](inference)。\n\n## 训练\n\n我们提供了完整的 Dromedary [训练流程](training)，供他人复现。\n\n## 提示语\n\n本项目中使用的所有人工标注文本均可在 [此处](prompts) 找到。\n\n### 引用\n\n如果您使用本仓库中的数据或代码，请引用以下论文：\n\n```\n@inproceedings{sun2023principle,\n      title = {Principle-Driven Self-Alignment of Language Models from Scratch with Minimal Human Supervision},\n      author = {Sun, Zhiqing and Shen, Yikang and Zhou, Qinhong and Zhang, Hongxin and Chen, Zhenfang and Cox, David and Yang, Yiming and Gan, Chuang},\n      booktitle = {Thirty-seventh Conference on Neural Information Processing Systems},\n      year = {2023},\n      url = {https:\u002F\u002Fopenreview.net\u002Fforum?id=p40XRfBX96},\n}\n```\n\n### 致谢\n\n我们感谢 Yizhong Wang 提供解析分析图的代码。\n同时，我们也感谢 [Meta LLaMA 团队](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama)、[斯坦福 Alpaca 团队](https:\u002F\u002Fgithub.com\u002Ftatsu-lab\u002Fstanford_alpaca)、[Vicuna 团队](https:\u002F\u002Fgithub.com\u002Flm-sys\u002FFastChat)、[Alpaca-LoRA](https:\u002F\u002Fgithub.com\u002Ftloen\u002Falpaca-lora)、[QLoRA 团队](https:\u002F\u002Fgithub.com\u002Fartidoro\u002Fqlora)以及 [Hugging Face PEFT](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Fpeft)，感谢他们在推动大型语言模型开源化方面所做出的努力。","# Dromedary 快速上手指南\n\nDromedary 是一个开源的自对齐语言模型项目，旨在通过极少量的人工监督实现大模型的自我对齐。本项目基于 LLaMA 架构，提供了从训练到推理的完整流程。\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**: Linux (推荐 Ubuntu)\n*   **Python**: 3.8 或更高版本\n*   **深度学习框架**: PyTorch (需支持 CUDA)\n*   **硬件**: \n    *   **训练\u002F自定义推理**: 需要安装定制的 `llama_dromedary` 包以支持任意数量的 GPU。\n    *   **标准推理**: 若仅使用 1, 2, 4, 8 或 16 张 GPU 进行推理，可直接使用原版 LLaMA 仓库。\n*   **前置依赖**: \n    *   Conda (推荐用于环境管理)\n    *   Git\n    *   Hugging Face Account (用于下载 LLaMA 基础权重和 Dromedary Delta 权重)\n\n> **注意**：由于 LLaMA 模型授权限制，您需要先自行申请并下载原始 LLaMA 权重。\n\n## 安装步骤\n\n根据您的具体需求（训练\u002F自定义推理 或 仅标准推理），选择以下一种安装方式。\n\n### 方案 A：训练或自定义 GPU 数量推理（推荐）\n\n如果您计划训练自己的自对齐模型，或者需要在非 2 的幂次方数量（如 3 张、5 张等）的 GPU 上进行推理，请安装定制的 `llama_dromedary` 包。\n\n```bash\n# 克隆或进入项目目录后\ncd llama_dromedary\npip install -r requirements.txt\npip install -e .\ncd ..\n```\n\n### 方案 B：仅标准推理 (1, 2, 4, 8, 16 GPUs)\n\n如果您仅需在特定数量的 GPU 上进行推理，可以复用原始的 LLaMA 仓库。\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama.git\ncd llama\npip install -r requirements.txt\npip install -e .\ncd ..\n```\n\n### 安装推理依赖\n\n无论选择哪种方案，都必须安装推理模块所需的额外依赖：\n\n```bash\ncd inference\npip install -r requirements.txt\n```\n\n## 基本使用\n\nDromedary 发布的权重为 **Delta 权重**（增量权重），以符合 LLaMA 的许可协议。使用前需将其合并到原始 LLaMA 权重中。\n\n### 第一步：获取模型权重\n\n1.  **下载原始 LLaMA 权重**：\n    按照 [Hugging Face 官方指南](https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Ftransformers\u002Fmain\u002Fmodel_doc\u002Fllama) 获取 Hugging Face 格式的原始 LLaMA 权重。\n\n2.  **下载 Dromedary Delta 权重**：\n    从 Hugging Face Model Hub 下载对应的 LoRA Delta 权重。\n    *   示例地址 (Dromedary-65b): `zhiqings\u002Fdromedary-65b-lora-delta-v0`\n    *   示例地址 (Dromedary-2-70b SFT 数据): `zhiqings\u002Fdromedary-2-70b-v2`\n\n    ```bash\n    # 使用 huggingface-cli 下载示例 (需先登录)\n    huggingface-cli download zhiqings\u002Fdromedary-65b-lora-delta-v0 --local-dir .\u002Fdromedary_delta\n    ```\n\n### 第二步：部署与推理\n\n合并权重并启动推理通常通过项目提供的推理脚本完成。Dromedary 支持**模型并行 (Model Parallel)** 部署，这在多 GPU 环境下比默认的流水线并行更高效。\n\n请参考 `inference` 目录下的具体指南执行部署。以下是一个典型的推理启动逻辑示意（具体参数需根据显存和模型大小调整）：\n\n```bash\n# 进入推理目录\ncd inference\n\n# 运行推理脚本 (示例命令，具体参数请参阅 inference\u002FREADME)\n# 需指定原始 LLaMA 权重路径和 Delta 权重路径\npython chatbot_demo.py \\\n    --ckpt_dir \u002Fpath\u002Fto\u002Foriginal_llama_weights \\\n    --delta_path .\u002Fdromedary_delta \\\n    --tokenizer_path \u002Fpath\u002Fto\u002Ftokenizer.model \\\n    --max_seq_len 512 \\\n    --max_batch_size 1\n```\n\n> **提示**：详细的命令行参数说明、多卡配置方法以及对话演示代码，请查阅项目根目录下的 [`inference`](inference) 文件夹文档。\n\n### 进阶：使用合成数据训练\n\n如果您希望复现训练过程，项目已公开用于训练 `Dromedary-65b` 和 `Dromedary-2-70b` 的合成数据集。\n\n*   **Dromedary-65b 数据**: [Hugging Face Dataset](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fzhiqings\u002Fdromedary-65b-verbose-clone-v0)\n*   **Dromedary-2-70b 数据**: [Hugging Face Dataset](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fzhiqings\u002Fdromedary-2-70b-v2)\n\n完整的训练流水线代码位于 [`training`](training) 目录中。","某初创教育科技公司希望快速构建一个能独立辅导学生的 AI 助教，但面临标注数据稀缺且对回答伦理安全性要求极高的挑战。\n\n### 没有 Dromedary 时\n- **数据依赖重**：团队需耗费数周人工编写成千上万条“提问 - 回答”配对数据，成本高昂且进度缓慢。\n- **价值观难对齐**：模型常输出带有偏见或不安全的建议，必须依赖大量人工反馈强化学习（RLHF）来反复修正。\n- **回答结构混乱**：生成的辅导内容逻辑跳跃，缺乏“总览 - 细节 - 总结”的清晰结构，学生难以理解。\n- **冷启动困难**：在缺乏高质量人类监督信号的情况下，基座模型难以自我进化，项目迟迟无法上线。\n\n### 使用 Dromedary 后\n- **极简监督训练**：利用 Dromedary 的“原则驱动自对齐”技术，仅需少量人类指令即可让模型从源头学会遵循伦理规范。\n- **内置安全机制**：模型通过自我对齐过程内化了帮助性与道德原则，显著减少了有害输出，降低了后期审核压力。\n- **结构化输出增强**：Dromedary-2 引入的少样本示例引导模型自动采用“总 - 分 - 总”的回答风格，使解题思路条理清晰。\n- **高效迭代部署**：无需繁琐的克隆阶段或推理时示例，直接基于 LLaMA 基座微调即可得到高性能模型，大幅缩短研发周期。\n\nDromedary 通过最小化人类监督实现了模型在伦理、可靠性与表达能力上的自我进化，让资源有限的团队也能低成本打造高质量垂直领域助手。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FIBM_Dromedary_c7dc6010.png","IBM","International Business Machines","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FIBM_251be740.jpg","Open Source @ IBM",null,"ibmdeveloper","https:\u002F\u002Fwww.ibm.com\u002Fopensource\u002F","https:\u002F\u002Fgithub.com\u002FIBM",[81,85],{"name":82,"color":83,"percentage":84},"Python","#3572A5",97,{"name":86,"color":87,"percentage":10},"Shell","#89e051",1142,89,"2026-04-07T10:35:29","GPL-3.0",4,"未说明","必需 NVIDIA GPU。推理支持 1, 2, 4, 8 或 16 张 GPU；若要使用其他数量的 GPU 进行训练或推理，需安装自定义的 llama_dromedary 包。具体显存大小取决于所选基础模型（如 LLaMA-65b\u002F70b 通常需要高显存），需具备 CUDA 环境。",{"notes":96,"python":93,"dependencies":97},"1. 该项目基于 LLaMA 模型，需先获取原始 LLaMA 权重并应用提供的 LoRA 增量权重（delta weights）才能使用。\n2. 若仅在 1, 2, 4, 8 或 16 张 GPU 上进行推理，可复用原始 LLaMA 仓库；否则必须安装项目定制的 'llama_dromedary' 包以支持任意数量 GPU。\n3. 多卡推理建议使用 'fairscale' 实现的模型并行（model parallel），其速度显著快于 Hugging Face 默认的流水线并行。\n4. Dromedary-2 的 RLAIF 训练流程位于独立的 'IBM\u002FSALMON' 仓库中。",[98,99,100,101],"torch","cuda","llama_dromedary (自定义包)","fairscale (用于模型并行)",[35,14],"2026-03-27T02:49:30.150509","2026-04-14T15:25:27.833921",[],[]]