Sec-Context - 面向大语言模型的代码安全反模式

一份从150+来源提炼出的全面安全参考，帮助大语言模型生成更安全的代码

登陆页及GitHub Pages网站

问题背景

AI编码助手已无处不在。如今，97%的开发者在使用AI工具，而企业报告称其代码库中超过40%是由AI生成的。然而，一个关键的差距依然存在：AI模型会持续重复同样的危险安全反模式，研究表明：

• AI生成代码中的XSS失败率高达86%
• 72%的Java AI代码包含漏洞
• AI代码出现XSS漏洞的可能性是人工编写代码的2.74倍
• 81%的企业曾将含有漏洞的AI生成代码部署到生产环境

我们构建这份指南正是为了填补这一空白。

---

我们的工作成果

我们创建了两份专为AI和大语言模型设计的全面安全反模式文档：

ANTI_PATTERNS_BREADTH.md（约6.5万token）

这是一份完整的参考文档，涵盖了25+种安全反模式，包括：

• 每种模式的伪代码BAD/GOOD示例
• CWE引用及严重性评级
• 快速参考查找表
• 简洁的缓解策略

ANTI_PATTERNS_DEPTH.md（约10万token）

这份文档深入探讨了7个最高优先级的漏洞，内容包括：

• 每种模式的多个代码示例
• 详细的攻击场景
• 常被忽视的边缘情况
• 包含权衡的完整缓解策略
• 为什么AI模型会产生这些特定的漏洞

---

AI代码十大反模式

根据我们的排名矩阵（频率×2 + 严重点×2 + 可检测性），以下是需要重点关注的最严重的模式：

排名	反模式	优先级得分	关键统计数据
1	依赖风险（Slopsquatting）	24	5-21%的AI建议包并不存在
2	XSS漏洞	23	AI代码中86%的失败率
3	硬编码密钥	23	密钥暴露后几分钟内即被窃取
4	SQL注入	22	AI训练数据中“成千上万的实例”
5	认证失败	22	75.8%的开发者错误地信任AI生成的认证代码
6	缺失输入验证	21	所有注入攻击的根本原因
7	命令注入	21	CVE-2025-53773展示了现实世界的RCE攻击
8	缺少速率限制	20	出现频率极高，易于检测
9	过度数据暴露	20	API返回完整对象而非DTO
10	无限制文件上传	20	严重性极高，可导致RCE

---

如何使用这些文件

重要提示：文件较大

• 广度版： ~6.5万token
• 深度版： ~10万token

这是有意为之，旨在提供全面的参考。

方案1：大上下文窗口模型

如果您使用的模型具有128K+的上下文长度（如Claude、GPT-4 Turbo、Gemini 1.5），可以将整个广度文档纳入系统提示或作为参考文件。

方案2：针对小上下文的片段

提取与您的任务相关的特定部分：

• 正在处理认证？提取“认证失败”部分。
• 正在构建API？使用“API安全”和“输入验证”部分。
• 处理文件上传？参考“文件处理”部分。

方案3：独立安全审查代理（推荐）

理想的使用场景是部署一个专门的代理，用于根据这些模式审查AI生成的代码。该代理：

• 接受代码作为输入
• 对照所有25+种反模式进行检查
• 返回发现的具体漏洞及修复步骤
• 作为AI代码生成与生产之间的安全屏障。

方案4：独立安全审查技能 - Claude Code（推荐）

另一个理想的使用场景是在Claude Code中部署一个专门的技能，用于根据这些模式审查AI生成的代码。该技能：

• 接受代码作为输入
• 对照所有25+种反模式进行检查
• 返回发现的具体漏洞及修复步骤
• 作为AI代码生成与生产之间的安全屏障。

┌─────────────────┐     ┌──────────────────────┐     ┌─────────────┐
│ AI代码生成     │────>│ 安全审查代理         │────>│ 审查后的    │
│ （Copilot等）   │     │ + 反模式指南         │     │ 代码输出    │
└─────────────────┘     └──────────────────────┘     └─────────────┘

---

研究来源

本指南综合了来自6大研究类别的150+个独立来源的研究成果：

主要来源类别

来源类型	示例	关键贡献
CVE数据库	NVD、MITRE CWE、Wiz	记录了40+个CVE，包括IDEsaster集合
学术研究	斯坦福大学、ACM、arXiv、IEEE、USENIX	实证漏洞率研究
安全博客	Dark Reading、Veracode、Snyk、Checkmarx、OWASP	行业报告与分析
开发者论坛	HackerNews（17+条讨论）、Reddit（6个子版块）	开发者的实际经验
社交媒体	Twitter/X上的安全研究人员	实时事件记录
GitHub	安全公告、学术研究	大规模代码分析

---

文件位置

├── ANTI_PATTERNS_BREADTH.md   # 全面覆盖，25+种模式
├── ANTI_PATTERNS_DEPTH.md     # 深入探讨，目前聚焦7种关键模式

---

开始使用

1. 获取文件
2. 根据您的上下文窗口和使用场景选择合适的方式
3. 集成到您的AI编码工作流中，作为系统提示、RAG参考或审查代理
4. 生成更安全的代码

我们的目标并非取代人工安全审查，而是捕捉AI反复出现的明显且有据可查的反模式，从而让人类审查员专注于那些微妙且依赖上下文的安全决策。

---

贡献

发现我们遗漏的模式了吗？或者有更好的示例？欢迎提交PR！

---

基于学术论文、CVE数据库、安全博客和开发者社区的150+个来源整合而成。因为AI不应该再重复同样的安全错误。

许可证

版权所有 © 2026 年 贾森·哈迪克斯，Arcanum 信息安全公司

本作品采用知识共享署名 4.0 国际许可协议授权。

您有权：

复制与再分发——以任何媒介或格式复制和再分发该材料。 改编——为任何目的（包括商业目的）混编、转换或在此基础上创作新作品。 但须遵守以下条件：

署名——您必须给予适当的署名，提供原始仓库的链接，并说明是否进行了修改。您可以采用任何合理的方式做到这一点，但不得以任何暗示许可方认可您或您的使用方式的方式进行。

署名示例：

本内容/方法论基于由 Arcanum 信息安全公司的贾森·哈迪克斯创建的 Arc PI 分类法。

有关详细信息及完整法律文本，请访问官方许可页面：

知识共享署名 4.0 国际许可协议

sec-context 快速上手指南

sec-context 并非传统的可安装软件包，而是一套专为大语言模型（LLM）设计的安全反模式参考文档库。它旨在帮助 AI 助手识别并避免生成包含常见安全漏洞的代码。本指南将指导你如何获取并集成这些文档到你的 AI 开发工作流中。

环境准备

本项目无需特定的系统环境或运行时依赖，核心需求如下：

• 操作系统：任意支持 Git 和文本编辑器的系统 (Windows, macOS, Linux)。
• 前置依赖：
  • git：用于克隆仓库。
  • 支持长上下文的 LLM：推荐使用上下文窗口 ≥ 128K 的模型（如 Claude 3.5/3 Opus, GPT-4 Turbo, Gemini 1.5 Pro），以便一次性载入完整文档。
  • 代码编辑器/IDE：用于查看 .md 文档或配置 System Prompt。

安装步骤

通过 Git 克隆官方仓库获取最新的安全反模式文档。

git clone https://github.com/arcanum-sec/sec-context.git
cd sec-context

提示：如果在国内访问 GitHub 速度较慢，可使用镜像源加速：

git clone https://ghp.ci/https://github.com/arcanum-sec/sec-context.git
cd sec-context

克隆完成后，你将获得两个核心文件：

• ANTI_PATTERNS_BREADTH.md (~65K tokens)：涵盖 25+ 种安全反模式的广度参考。
• ANTI_PATTERNS_DEPTH.md (~100K tokens)：针对 7 种最高优先级漏洞的深度分析。

基本使用

根据你的 AI 工具链上下文窗口大小，选择以下任一方式集成：

方式一：直接作为系统提示词（推荐长上下文模型）

如果你使用的是支持 128K+ 上下文的模型，可以直接将 ANTI_PATTERNS_BREADTH.md 的内容复制并粘贴到 System Prompt 中，或者作为知识库文件上传。

示例操作（以 Claude Desktop 或类似工具为例）：

1. 打开 ANTI_PATTERNS_BREADTH.md 文件，复制全部内容。
2. 在你的 AI 助手配置文件中，找到 system_prompt 部分。
3. 粘贴内容，并添加如下指令前缀：

You are an expert secure coding assistant. Below is a comprehensive security reference guide containing 25+ anti-patterns. 
Always review your generated code against these patterns before outputting.

<security_reference>
[在此处粘贴 ANTI_PATTERNS_BREADTH.md 的完整内容]
</security_reference>

方式二：按需提取片段（适用于中小上下文模型）

如果上下文有限，仅复制与你当前任务相关的章节。

示例：正在开发用户登录功能

1. 打开 ANTI_PATTERNS_BREADTH.md。
2. 定位到 "Authentication Failures" (认证失败) 章节。
3. 复制该章节内容放入 Prompt：

I am building an authentication module. Please follow these specific security guidelines to avoid common AI pitfalls:

[在此处粘贴 Authentication Failures 章节内容]

Now, generate a secure login function in Python using Flask.

方式三：构建独立安全审查 Agent（最佳实践）

将文档作为知识库挂载到一个独立的审查 Agent 上，在代码生成后、提交前进行自动扫描。

工作流逻辑：

1. 开发者请求 AI 生成代码 -> 2. 初步代码产出 
-> 3. [安全审查 Agent] 加载 sec-context 文档比对代码 
-> 4. 输出包含具体漏洞及修复建议的报告 
-> 5. 开发者修正后上线

简易实现思路（伪代码）：

# 概念性示例：调用 LLM 进行安全审查
review_prompt = f"""
Act as a Security Reviewer. Analyze the following code against these anti-patterns:
{open('ANTI_PATTERNS_BREADTH.md').read()}

Code to review:
{generated_code}

Identify any violations and suggest fixes.
"""
response = llm.chat(review_prompt)

通过上述任一方式，即可让 sec-context 成为你 AI 编程流程中的“安全护栏”，显著降低 XSS、SQL 注入、硬编码密钥等常见漏洞的产生率。