[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-CryptoAILab--Awesome-LM-SSP":3,"tool-CryptoAILab--Awesome-LM-SSP":64},[4,17,27,35,43,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",140436,2,"2026-04-05T23:32:43",[13,15,26],"语言模型",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":23,"last_commit_at":33,"category_tags":34,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,"2026-04-03T11:11:01",[13,14,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":23,"last_commit_at":41,"category_tags":42,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,26],{"id":44,"name":45,"github_repo":46,"description_zh":47,"stars":48,"difficulty_score":23,"last_commit_at":49,"category_tags":50,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,51,52,53,15,54,26,13,55],"数据工具","视频","插件","其他","音频",{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":10,"last_commit_at":62,"category_tags":63,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,26,54],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":80,"owner_twitter":79,"owner_website":79,"owner_url":81,"languages":79,"stars":82,"forks":83,"last_commit_at":84,"license":85,"difficulty_score":86,"env_os":87,"env_gpu":88,"env_ram":88,"env_deps":89,"category_tags":92,"github_topics":93,"view_count":23,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":105,"updated_at":106,"faqs":107,"releases":141},3813,"CryptoAILab\u002FAwesome-LM-SSP","Awesome-LM-SSP","A reading list for large models safety, security, and privacy (including Awesome LLM Security, Safety, etc.).","Awesome-LM-SSP 是一份专注于大型模型可信度的精选阅读清单，核心涵盖安全性、安全性和隐私保护三大维度。随着大语言模型及多模态模型（如视觉 - 语言模型、扩散模型）的广泛应用，如何防范越狱攻击、提示注入、数据投毒、深度伪造及隐私泄露等风险成为行业痛点。Awesome-LM-SSP 旨在解决这一信息分散难题，通过人工收集与整理，为社区提供系统化、结构化的学术资源导航。\n\n该工具特别适合 AI 安全领域的研究人员、开发者以及关注模型伦理的技术决策者使用。它不仅收录了数千篇前沿论文，还细致地按“安全”、“防御”、“基准测试”等标签进行分类，甚至区分了针对 LLM、VLM 等不同模型类型的研究成果。其独特亮点在于极高的更新频率与广泛的覆盖范围，从基础的对抗样本研究到复杂的智能体安全，再到中文语境下的特有挑战，均有所涉猎。此外，项目采用开放的协作模式，鼓励全球学者共同维护元数据表，确保列表始终紧跟最新技术动态。对于希望快速把握大模型安全领域全貌、寻找攻防灵感或构建鲁棒系统的专业人士而言，Awesome-LM-SSP 是不可或缺的权威参考库。","# Awesome-LM-SSP\n\n[![Awesome](https:\u002F\u002Fawesome.re\u002Fbadge.svg)](https:\u002F\u002Fawesome.re)\n[![Stars](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002FThuCCSLab\u002FAwesome-LM-SSP)](.)\n\n[\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FCryptoAILab_Awesome-LM-SSP_readme_ff5aa1b2a928.png\" alt=\"Awesome-LM-SSP\" width=\"1000\" height=\"auto\" class=\"center\">](.)\n\n## Introduction \nThe resources related to the trustworthiness of large models (LMs) across multiple dimensions (e.g., safety, security, and privacy),                  with a special focus on multi-modal LMs (e.g., vision-language models and diffusion models). \n\n- This repo is in progress :seedling: (manually collected).\n- Badges: \n\n    - Model:\n        - ![LLM](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FLLM_(Large_Language_Model)-589cf4)\n        - ![VLM](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FVLM_(Vision_Language_Model)-c7688b) \n        - ![SLM](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FSLM_(Speech_Language_Model)-39c5bb) \n        - ![Diffusion](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDiffusion-a99cf4)\n\n    - Comment: ![Benchmark](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FBenchmark-87b800) ![New_dataset](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FNew_dataset-87b800) ![Agent](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FAgent-87b800)                 ![CodeGen](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FCodeGen-87b800) ![Defense](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDefense-87b800) ![RAG](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FRAG-87b800) ![Chinese](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FChinese-87b800) ...\n\n   - Venue: ![conference](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fconference-f1b800) ![blog](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fblog-f1b800) ![OpenAI](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FOpenAI-f1b800)  ![Meta AI](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FMeta_AI-f1b800) ...\n\n\n- 🔥🔥🔥 Help us update the list! 🔥🔥🔥\n  - First, check papers through our database: [Metadata of LM-SSP](https:\u002F\u002Fdocs.google.com\u002Fspreadsheets\u002Fd\u002F1i2IfQJiAdFJueoy7sTv7snn__ZJx11GfiJx8rhDyfc0\u002Fedit?usp=sharing).\n  - If you want to update the information of a paper (e.g., an arXiv paper has been accepted by a venue), search the paper title in our [metadata table](https:\u002F\u002Fdocs.google.com\u002Fspreadsheets\u002Fd\u002F1i2IfQJiAdFJueoy7sTv7snn__ZJx11GfiJx8rhDyfc0\u002Fedit?usp=sharing) and then leave a message in the corresponding cell of the table.\n  - If you would like to add some paper, please fill in the following table through `ISSUE`:\n\n| Title | Link  | Code |   Venue |  Classification |  Model | Comment | \n| ---- |---- |---- |---- |---- |----|----| \n| This is a title |  paper.com | github  | bb'23    |  A1. Jailbreak | LLM  | Agent | \n\n## News\n- [2026.01.09] 🎂🎂 Happy 2nd Birthday to Awesome-LM-SSP! Keep Going! 💪\n- [2025.01.09] 🎂 Happy 1st Birthday to Awesome-LM-SSP! Keep Going! 💪\n- [2024.01.09] 🚀 LM-SSP is released!\n\n## Collections\n- [Book](collection\u002Fbook.md) (3)\n- [Competition](collection\u002Fcompetition.md) (5)\n- [Leaderboard](collection\u002Fleaderboard.md) (5)\n- [Toolkit](collection\u002Ftoolkit.md) (24)\n- [Survey](collection\u002Fsurvey.md) (41)\n- Paper (2387)\n    - A. Safety (1193)\n        - [A0. General](collection\u002Fpaper\u002Fsafety\u002Fgeneral.md) (30)\n        - [A1. Jailbreak](collection\u002Fpaper\u002Fsafety\u002Fjailbreak.md) (534)\n        - [A2. Alignment](collection\u002Fpaper\u002Fsafety\u002Falignment.md) (147)\n        - [A3. Deepfake](collection\u002Fpaper\u002Fsafety\u002Fdeepfake.md) (94)\n        - [A4. Ethics](collection\u002Fpaper\u002Fsafety\u002Fethics.md) (8)\n        - [A5. Fairness](collection\u002Fpaper\u002Fsafety\u002Ffairness.md) (60)\n        - [A6. Hallucination](collection\u002Fpaper\u002Fsafety\u002Fhallucination.md) (116)\n        - [A7. Prompt Injection](collection\u002Fpaper\u002Fsafety\u002Fprompt_injection.md) (118)\n        - [A8. Toxicity](collection\u002Fpaper\u002Fsafety\u002Ftoxicity.md) (86)\n    - B. Security (472)\n        - [B0. General](collection\u002Fpaper\u002Fsecurity\u002Fgeneral.md) (16)\n        - [B1. Adversarial Examples](collection\u002Fpaper\u002Fsecurity\u002Fadversarial_examples.md) (105)\n        - [B2. Agent](collection\u002Fpaper\u002Fsecurity\u002Fagent.md) (138)\n        - [B3. Poison & Backdoor](collection\u002Fpaper\u002Fsecurity\u002Fpoison_&_backdoor.md) (183)\n        - [B4. Side-Channel](collection\u002Fpaper\u002Fsecurity\u002Fside-channel.md) (5)\n        - [B5. System](collection\u002Fpaper\u002Fsecurity\u002Fsystem.md) (25)\n    - C. Privacy (722)\n        - [C0. General](collection\u002Fpaper\u002Fprivacy\u002Fgeneral.md) (55)\n        - [C1. Contamination](collection\u002Fpaper\u002Fprivacy\u002Fcontamination.md) (17)\n        - [C2. Data Reconstruction](collection\u002Fpaper\u002Fprivacy\u002Fdata_reconstruction.md) (64)\n        - [C3. Membership Inference Attacks](collection\u002Fpaper\u002Fprivacy\u002Fmembership_inference_attacks.md) (69)\n        - [C4. Model Extraction](collection\u002Fpaper\u002Fprivacy\u002Fmodel_extraction.md) (14)\n        - [C5. Privacy-Preserving Computation](collection\u002Fpaper\u002Fprivacy\u002Fprivacy-preserving_computation.md) (133)\n        - [C6. Property Inference Attacks](collection\u002Fpaper\u002Fprivacy\u002Fproperty_inference_attacks.md) (8)\n        - [C7. Side-Channel](collection\u002Fpaper\u002Fprivacy\u002Fside-channel.md) (10)\n        - [C8. Unlearning](collection\u002Fpaper\u002Fprivacy\u002Funlearning.md) (70)\n        - [C9. Watermark & Copyright](collection\u002Fpaper\u002Fprivacy\u002Fwatermark_&_copyright.md) (282)\n\n## Big love to the community — thank you! 🙏\n\n[![Star History Chart](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FCryptoAILab_Awesome-LM-SSP_readme_c02173284302.png)](https:\u002F\u002Fstar-history.com\u002F#CryptoAILab\u002FAwesome-LM-SSP&Date)\n\n## Acknowledgement\n\n- Organizers: [Tianshuo Cong (丛天硕)](https:\u002F\u002Ftianshuocong.github.io\u002F), [Xinlei He (何新磊)](https:\u002F\u002Fxinleihe.github.io\u002F), [Zhengyu Zhao (赵正宇)](https:\u002F\u002Fzhengyuzhao.github.io\u002F), [Yugeng Liu (刘禹更)](https:\u002F\u002Fliu.ai\u002F), [Delong Ran (冉德龙)](https:\u002F\u002Fgithub.com\u002Feggry)\n\n- This project is inspired by [LLM Security](https:\u002F\u002Fllmsecurity.net\u002F), [Awesome LLM Security](https:\u002F\u002Fgithub.com\u002Fcorca-ai\u002Fawesome-llm-security), [LLM Security & Privacy](https:\u002F\u002Fgithub.com\u002Fchawins\u002Fllm-sp),             [UR2-LLMs](https:\u002F\u002Fgithub.com\u002Fjxzhangjhu\u002FAwesome-LLM-Uncertainty-Reliability-Robustness), [PLMpapers](https:\u002F\u002Fgithub.com\u002Fthunlp\u002FPLMpapers), [EvaluationPapers4ChatGPT](https:\u002F\u002Fgithub.com\u002FTHU-KEG\u002FEvaluationPapers4ChatGPT)\n\n\u003Cp align=\"center\">\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FCryptoAILab_Awesome-LM-SSP_readme_723070de40db.png\" width=\"900\" \u002F>\u003C\u002Fp>","# Awesome-LM-SSP\n\n[![Awesome](https:\u002F\u002Fawesome.re\u002Fbadge.svg)](https:\u002F\u002Fawesome.re)\n[![Stars](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002FThuCCSLab\u002FAwesome-LM-SSP)](.)\n\n[\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FCryptoAILab_Awesome-LM-SSP_readme_ff5aa1b2a928.png\" alt=\"Awesome-LM-SSP\" width=\"1000\" height=\"auto\" class=\"center\">](.)\n\n## 简介\n本仓库汇集了关于大型模型（LMs）在多个维度上的可信性相关资源，包括安全性、保障性和隐私性等，特别关注多模态大型模型，如视觉-语言模型和扩散模型。\n\n- 本仓库仍在持续更新中 :seedling: （手动整理）。\n- 标签分类：\n\n    - 模型：\n        - ![LLM](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FLLM_(Large_Language_Model)-589cf4)\n        - ![VLM](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FVLM_(Vision_Language_Model)-c7688b) \n        - ![SLM](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FSLM_(Speech_Language_Model)-39c5bb) \n        - ![Diffusion](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDiffusion-a99cf4)\n\n    - 类别：\n        - ![Benchmark](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FBenchmark-87b800) ![New_dataset](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FNew_dataset-87b800) ![Agent](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FAgent-87b800)                 ![CodeGen](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FCodeGen-87b800) ![Defense](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDefense-87b800) ![RAG](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FRAG-87b800) ![Chinese](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FChinese-87b800) ...\n\n   - 出处：\n        - ![conference](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fconference-f1b800) ![blog](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fblog-f1b800) ![OpenAI](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FOpenAI-f1b800)  ![Meta AI](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FMeta_AI-f1b800) ...\n\n\n- 🔥🔥🔥 欢迎大家帮助我们更新列表！🔥🔥🔥\n  - 首先，请通过我们的数据库查阅论文：[LM-SSP元数据](https:\u002F\u002Fdocs.google.com\u002Fspreadsheets\u002Fd\u002F1i2IfQJiAdFJueoy7sTv7snn__ZJx11GfiJx8rhDyfc0\u002Fedit?usp=sharing)。\n  - 如果您想更新某篇论文的信息（例如，arXiv预印本已被某个会议接收），请在我们的[元数据表格](https:\u002F\u002Fdocs.google.com\u002Fspreadsheets\u002Fd\u002F1i2IfQJiAdFJueoy7sTv7snn__ZJx11GfiJx8rhDyfc0\u002Fedit?usp=sharing)中搜索论文标题，然后在对应的单元格中留言。\n  - 如果您希望添加新的论文，请通过`ISSUE`填写以下表格：\n\n| 标题 | 链接  | 代码 |   出处 |  分类 |  模型 | 备注 | \n| ---- |---- |---- |---- |---- |----|----| \n| 这是标题 |  paper.com | github  | bb'23    |  A1. Jailbreak | LLM  | Agent | \n\n## 最新动态\n- [2026.01.09] 🎂🎂 Awesome-LM-SSP 两岁啦！继续加油！💪\n- [2025.01.09] 🎂 Awesome-LM-SSP 一岁啦！继续加油！💪\n- [2024.01.09] 🚀 LM-SSP 正式发布！\n\n## 资源合集\n- [书籍](collection\u002Fbook.md) (3)\n- [竞赛](collection\u002Fcompetition.md) (5)\n- [排行榜](collection\u002Fleaderboard.md) (5)\n- [工具包](collection\u002Ftoolkit.md) (24)\n- [综述](collection\u002Fsurvey.md) (41)\n- 论文 (2387)\n    - A. 安全性 (1193)\n        - [A0. 总论](collection\u002Fpaper\u002Fsafety\u002Fgeneral.md) (30)\n        - [A1. Jailbreak](collection\u002Fpaper\u002Fsafety\u002Fjailbreak.md) (534)\n        - [A2. 对齐](collection\u002Fpaper\u002Fsafety\u002Falignment.md) (147)\n        - [A3. 深度伪造](collection\u002Fpaper\u002Fsafety\u002Fdeepfake.md) (94)\n        - [A4. 伦理](collection\u002Fpaper\u002Fsafety\u002Fethics.md) (8)\n        - [A5. 公平性](collection\u002Fpaper\u002Fsafety\u002Ffairness.md) (60)\n        - [A6. 幻觉](collection\u002Fpaper\u002Fsafety\u002Fhallucination.md) (116)\n        - [A7. 提示注入](collection\u002Fpaper\u002Fsafety\u002Fprompt_injection.md) (118)\n        - [A8. 毒性](collection\u002Fpaper\u002Fsafety\u002Ftoxicity.md) (86)\n    - B. 保障性 (472)\n        - [B0. 总论](collection\u002Fpaper\u002Fsecurity\u002Fgeneral.md) (16)\n        - [B1. 对抗样本](collection\u002Fpaper\u002Fsecurity\u002Fadversarial_examples.md) (105)\n        - [B2. 代理](collection\u002Fpaper\u002Fsecurity\u002Fagent.md) (138)\n        - [B3. 毒品与后门](collection\u002Fpaper\u002Fsecurity\u002Fpoison_&_backdoor.md) (183)\n        - [B4. 侧信道](collection\u002Fpaper\u002Fsecurity\u002Fside-channel.md) (5)\n        - [B5. 系统](collection\u002Fpaper\u002Fsecurity\u002Fsystem.md) (25)\n    - C. 隐私性 (722)\n        - [C0. 总论](collection\u002Fpaper\u002Fprivacy\u002Fgeneral.md) (55)\n        - [C1. 污染](collection\u002Fpaper\u002Fprivacy\u002Fcontamination.md) (17)\n        - [C2. 数据重建](collection\u002Fpaper\u002Fprivacy\u002Fdata_reconstruction.md) (64)\n        - [C3. 成员身份推断攻击](collection\u002Fpaper\u002Fprivacy\u002Fmembership_inference_attacks.md) (69)\n        - [C4. 模型提取](collection\u002Fpaper\u002Fprivacy\u002Fmodel_extraction.md) (14)\n        - [C5. 隐私保护计算](collection\u002Fpaper\u002Fprivacy\u002Fprivacy-preserving_computation.md) (133)\n        - [C6. 属性推断攻击](collection\u002Fpaper\u002Fprivacy\u002Fproperty_inference_attacks.md) (8)\n        - [C7. 侧信道](collection\u002Fpaper\u002Fprivacy\u002Fside-channel.md) (10)\n        - [C8. 消除学习](collection\u002Fpaper\u002Fprivacy\u002Funlearning.md) (70)\n        - [C9. 水印与版权](collection\u002Fpaper\u002Fprivacy\u002Fwatermark_&_copyright.md) (282)\n\n## 衷心感谢社区的支持 — 谢谢大家！🙏\n\n[![Star History Chart](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FCryptoAILab_Awesome-LM-SSP_readme_c02173284302.png)](https:\u002F\u002Fstar-history.com\u002F#CryptoAILab\u002FAwesome-LM-SSP&Date)\n\n## 致谢\n\n- 组织者：[丛天硕](https:\u002F\u002Ftianshuocong.github.io\u002F)、[何新磊](https:\u002F\u002Fxinleihe.github.io\u002F)、[赵正宇](https:\u002F\u002Fzhengyuzhao.github.io\u002F)、[刘禹更](https:\u002F\u002Fliu.ai\u002F)、[冉德龙](https:\u002F\u002Fgithub.com\u002Feggry)\n\n- 本项目受到以下项目的启发：[LLM Security](https:\u002F\u002Fllmsecurity.net\u002F)、[Awesome LLM Security](https:\u002F\u002Fgithub.com\u002Fcorca-ai\u002Fawesome-llm-security)、[LLM Security & Privacy](https:\u002F\u002Fgithub.com\u002Fchawins\u002Fllm-sp)、             [UR2-LLMs](https:\u002F\u002Fgithub.com\u002Fjxzhangjhu\u002FAwesome-LLM-Uncertainty-Reliability-Robustness)、[PLMpapers](https:\u002F\u002Fgithub.com\u002Fthunlp\u002FPLMpapers)、[EvaluationPapers4ChatGPT](https:\u002F\u002Fgithub.com\u002FTHU-KEG\u002FEvaluationPapers4ChatGPT)\n\n\u003Cp align=\"center\">\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FCryptoAILab_Awesome-LM-SSP_readme_723070de40db.png\" width=\"900\" \u002F>\u003C\u002Fp>","# Awesome-LM-SSP 快速上手指南\n\nAwesome-LM-SSP 是一个专注于大语言模型（LLM）、多模态模型（VLM\u002FSLM）及扩散模型在**可信性**（安全、隐私、鲁棒性）方面的开源资源汇总项目。本项目主要作为论文、数据集、工具包和基准测试的索引库，而非单一的可执行软件包，因此无需复杂的编译安装过程。\n\n## 环境准备\n\n由于本项目本质为资源列表，对系统环境无特殊要求，仅需具备基础的文档阅读和网络访问能力。\n\n*   **操作系统**：Windows \u002F macOS \u002F Linux 均可。\n*   **前置依赖**：\n    *   Web 浏览器（推荐 Chrome 或 Edge）。\n    *   Git（可选，用于克隆仓库到本地离线浏览）。\n    *   Google 账号（可选，用于参与社区协作更新元数据表）。\n\n## 安装步骤\n\n你可以通过以下两种方式获取资源列表：\n\n### 方式一：在线浏览（推荐）\n直接访问 GitHub 仓库页面查看最新整理的分类目录：\n```bash\n# 访问地址\nhttps:\u002F\u002Fgithub.com\u002FThuCCSLab\u002FAwesome-LM-SSP\n```\n\n### 方式二：本地克隆\n若需离线查阅或二次开发，可使用 Git 克隆仓库：\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002FThuCCSLab\u002FAwesome-LM-SSP.git\ncd Awesome-LM-SSP\n```\n\n> **提示**：国内用户若下载速度较慢，可使用 Gitee 镜像（如有）或通过加速代理克隆：\n> ```bash\n> git clone https:\u002F\u002Fghproxy.com\u002Fhttps:\u002F\u002Fgithub.com\u002FThuCCSLab\u002FAwesome-LM-SSP.git\n> ```\n\n## 基本使用\n\n本项目按**安全 (Safety)**、**安全防御 (Security)** 和 **隐私 (Privacy)** 三大维度对资源进行了详细分类。\n\n### 1. 查找特定领域的论文与资源\n进入本地仓库的 `collection` 目录，根据需求打开对应的 Markdown 文件。例如，若要查找关于“越狱攻击 (Jailbreak)\"的资源：\n\n```bash\n# 在终端直接预览（Linux\u002FmacOS）\ncat collection\u002Fpaper\u002Fsafety\u002Fjailbreak.md\n\n# 或在浏览器中打开该文件\nopen collection\u002Fpaper\u002Fsafety\u002Fjailbreak.md\n```\n\n**资源标签说明：**\n在阅读列表时，请注意以下徽章（Badge）含义以快速筛选资源：\n*   **模型类型**：`LLM` (大语言模型), `VLM` (视觉语言模型), `Diffusion` (扩散模型)。\n*   **资源类型**：`Benchmark` (基准测试), `New_dataset` (新数据集), `Defense` (防御方案), `Agent` (智能体相关)。\n*   **来源**：`conference` (顶会论文), `blog` (技术博客), `OpenAI`\u002F`Meta AI` (大厂报告)。\n\n### 2. 参与社区共建\n如果你发现新的论文或需要更新已有论文的状态（如从 arXiv 转为正式会议录用），可以通过以下方式贡献：\n\n*   **更新现有论文信息**：\n    访问官方元数据表格，搜索论文标题并在对应单元格留言：\n    [Metadata of LM-SSP](https:\u002F\u002Fdocs.google.com\u002Fspreadsheets\u002Fd\u002F1i2IfQJiAdFJueoy7sTv7snn__ZJx11GfiJx8rhDyfc0\u002Fedit?usp=sharing)\n\n*   **新增论文条目**：\n    在 GitHub 仓库提交 `Issue`，按照以下格式填写：\n\n| Title | Link | Code | Venue | Classification | Model | Comment |\n| :--- | :--- | :--- | :--- | :--- | :--- | :--- |\n| 论文标题 | 论文链接 | 代码库链接 | 会议\u002F年份 | 分类 (如 A1. Jailbreak) | 模型类型 | 备注 (如 Agent) |\n\n### 3. 核心资源分类速查\n*   **安全 (Safety)**: 包含越狱 (Jailbreak)、对齐 (Alignment)、幻觉 (Hallucination)、毒性 (Toxicity) 等。\n*   **安全防御 (Security)**: 包含对抗样本 (Adversarial Examples)、后门攻击 (Poison & Backdoor)、智能体安全 (Agent) 等。\n*   **隐私 (Privacy)**: 包含成员推断攻击 (Membership Inference)、数据重构 (Data Reconstruction)、机器遗忘 (Unlearning)、水印 (Watermark) 等。","某金融科技公司安全团队正紧急评估即将上线的多模态客服大模型，需确保其能抵御越狱攻击、防止敏感数据泄露并符合伦理规范。\n\n### 没有 Awesome-LM-SSP 时\n- **检索效率低下**：研究人员需在 arXiv、GitHub 和各类会议论文集中手动大海捞针，耗时数天才能凑齐关于“多模态越狱”或“提示词注入”的零散资料。\n- **技术视野盲区**：难以系统性覆盖从传统 LLM 到视觉语言模型（VLM）、扩散模型的全方位风险，容易遗漏针对图像输入的特定攻击手法。\n- **复现验证困难**：找到的论文往往缺乏对应的代码链接或基准测试（Benchmark）标识，导致防御方案无法快速落地验证。\n- **分类标准混乱**：面对海量文献，难以区分哪些是理论综述、哪些是实用防御工具包，增加了技术选型的决策成本。\n\n### 使用 Awesome-LM-SSP 后\n- **一站式精准获取**：直接利用其分类索引（如 A1. Jailbreak、B3. Poison & Backdoor），几分钟内即可锁定 500+ 篇针对性高质论文及对应代码库。\n- **多模态全面覆盖**：借助清晰的模型标签（LLM\u002FVLM\u002FDiffusion），快速补齐对视觉输入攻击的认知短板，构建无死角的安全评估矩阵。\n- **工程落地加速**：通过\"Benchmark\"和\"Toolkit\"标签，直接调用成熟的评测数据集和防御工具包，将原本数周的验证周期缩短至两天。\n- **前沿动态同步**：依托社区持续更新的机制，即时掌握最新的中奖论文和开源项目，确保安全策略始终领先于攻击手段。\n\nAwesome-LM-SSP 将原本碎片化、高门槛的大模型安全研究转化为结构化、可执行的工程指南，极大提升了可信 AI 系统的构建效率。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FCryptoAILab_Awesome-LM-SSP_ff5aa1b2.png","CryptoAILab","SDU CryptoAI Lab","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FCryptoAILab_bb1776b6.png","CryptoAI Lab, School of Cryptologic Science and Engineering, Shandong University. Former @ThuCCSLab.",null,"tianshuo.cong@sdu.edu.cn","https:\u002F\u002Fgithub.com\u002FCryptoAILab",1923,131,"2026-04-03T09:43:52","Apache-2.0",1,"","未说明",{"notes":90,"python":88,"dependencies":91},"该项目是一个资源列表（Awesome List），用于收集大模型可信度（安全、隐私等）相关的论文、数据集和工具，本身不是一个可运行的软件工具，因此没有具体的运行环境、依赖库或硬件需求。用户需根据列表中引用的具体子项目（如特定的代码库或模型）去查看其各自的环境要求。",[],[14,13,26],[94,95,96,97,98,99,100,101,102,103,104],"adversarial-attacks","awesome-list","diffusion-models","jailbreak","language-model","llm","nlp","privacy","safety","security","vlm","2026-03-27T02:49:30.150509","2026-04-06T08:52:31.148203",[108,113,118,123,127,132,136],{"id":109,"question_zh":110,"answer_zh":111,"source_url":112},17460,"如何提交新的论文或研究成果以收录到该仓库中？","用户可以通过创建新的 Issue 来请求添加论文。在 Issue 正文中，请提供包含以下列的表格：标题 (Title)、链接 (Link)、代码库 (Code)、发表 venue (Venue)、分类 (Classification)、模型类型 (Model) 以及备注 (Comment)。维护者审核后会将其添加到相应的类别列表中（例如 'survey' 或特定的安全\u002F隐私分类），并会在评论中告知您具体的收录位置链接。","https:\u002F\u002Fgithub.com\u002FCryptoAILab\u002FAwesome-LM-SSP\u002Fissues\u002F29",{"id":114,"question_zh":115,"answer_zh":116,"source_url":117},17461,"如果不确定我的论文应该归类到哪个章节，该怎么办？","您可以在提交请求时说明您的论文与仓库中现有哪些工作类似（例如提到具体的论文名称或章节），并询问维护者的建议。维护者会根据论文内容决定最合适的分类（如 'A7. Safety, Prompt Injection'），有时还会为论文添加特定的标签（如 'Agent' badge）以示区分。最终分类结果会在评论中反馈给您，并附上查看链接。","https:\u002F\u002Fgithub.com\u002FCryptoAILab\u002FAwesome-LM-SSP\u002Fissues\u002F49",{"id":119,"question_zh":120,"answer_zh":121,"source_url":122},17462,"如果我的论文已被会议接收但仓库中信息未更新，如何申请更新？","请创建一个新 Issue，在正文中提供论文的标题、arXiv 链接、代码库链接以及最新的录用会议信息（如 ICLR 2025, NDSS '25 等）。维护者在核实后，会更新该条目在仓库中的 Venue 字段和分类信息，并在评论中确认更新完成，通常会附带更新后的文件路径供您核对。","https:\u002F\u002Fgithub.com\u002FCryptoAILab\u002FAwesome-LM-SSP\u002Fissues\u002F47",{"id":124,"question_zh":125,"answer_zh":126,"source_url":112},17463,"仓库是否收录关于 LLM 有害微调（Harmful Fine-tuning）攻击与防御的相关综述或论文？","是的，仓库已收录相关研究。例如，题为 \"Harmful Fine-tuning Attacks and Defenses for Large Language Models: A Survey\" 的综述论文已被同时添加到 'survey'（综述）和 'A2. Alignment'（对齐）分类下。如果您有该领域的具体论文（如 Vaccine, Lisa, Booster 等），也可以按标准格式提交请求进行收录。",{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},17464,"除了论文列表，仓库是否包含相关的评测榜单（Leaderboard）资源？","是的，仓库不仅收录论文，也收录相关的评测榜单。例如，Hugging Face 上的 HaizeLab Leaderboards 已被添加到列表中。如果您发现其他有价值的榜单资源，可以通过 Issue 推荐，维护者确认后会将其加入仓库。","https:\u002F\u002Fgithub.com\u002FCryptoAILab\u002FAwesome-LM-SSP\u002Fissues\u002F4",{"id":133,"question_zh":134,"answer_zh":135,"source_url":131},17465,"如何查找关于多模态大模型（VLM）越狱（Jailbreak）或对抗攻击的研究？","仓库在 'A1. Jailbreak' 和 'B1. Adversarial Examples' 等分类下收录了针对 VLM 的研究。例如，已收录 \"Query-Relevant Images Jailbreak Large Multi-Modal Models\" (MM-SafetyBench) 和 \"On the Robustness of Large Multimodal Models Against Image Adversarial Attacks\" 等论文。您可以直接浏览仓库中对应分类的 markdown 文件，或通过搜索 Issue 历史查看新增的 VLM 相关论文请求。",{"id":137,"question_zh":138,"answer_zh":139,"source_url":140},17466,"仓库是否涵盖隐私保护计算（Privacy-Preserving Computation）相关的最新顶会论文？","是的，仓库在 'C6. Privacy-Preserving Computation' 分类下持续更新相关论文。例如，已收录来自 NDSS '25 的 \"SHAFT\" 和 \"Secure Transformer Inference Made Non-interactive\"，以及 ICLR 2025 的 \"Differentially Private Steering for LLM Alignment\"。用户可以随时提交最新的顶会论文请求以确保列表的时效性。","https:\u002F\u002Fgithub.com\u002FCryptoAILab\u002FAwesome-LM-SSP\u002Fissues\u002F46",[]]