[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-jaymody--picoGPT":3,"tool-jaymody--picoGPT":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",157379,2,"2026-04-15T23:32:42",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":67,"readme_en":68,"readme_zh":69,"quickstart_zh":70,"use_case_zh":71,"hero_image_url":72,"owner_login":73,"owner_name":74,"owner_avatar_url":75,"owner_bio":76,"owner_company":77,"owner_location":77,"owner_email":77,"owner_twitter":77,"owner_website":78,"owner_url":79,"languages":80,"stars":85,"forks":86,"last_commit_at":87,"license":88,"difficulty_score":89,"env_os":90,"env_gpu":91,"env_ram":92,"env_deps":93,"category_tags":100,"github_topics":101,"view_count":32,"oss_zip_url":77,"oss_zip_packed_at":77,"status":17,"created_at":110,"updated_at":111,"faqs":112,"releases":128},7938,"jaymody\u002FpicoGPT","picoGPT","An unnecessarily tiny implementation of GPT-2 in NumPy.","picoGPT 是一个基于 NumPy 实现的极简版 GPT-2 模型项目，其核心目标并非追求运行效率或功能完备，而是致力于将复杂的深度学习架构拆解为最纯粹的代码逻辑。它解决了大型语言模型通常因框架依赖繁重、代码抽象层级高而难以被初学者透彻理解的问题，让开发者能够透过短短 40 行的前向传播代码，直观地看清 Transformer 内部的数学运作机制。\n\n该项目非常适合希望深入理解大模型原理的开发者、人工智能教育者以及研究人员使用。对于想要从零开始手写神经网络，或者不依赖 PyTorch、TensorFlow 等重型框架就能探究 GPT 本质的学习者来说，picoGPT 是绝佳的教学素材。需要注意的是，picoGPT 仅支持贪婪搜索（greedy sampling）进行单条文本生成，不具备训练功能，且运行速度较慢，因此不适合需要高性能推理或实际业务部署的场景。\n\npicoGPT 独特的技术亮点在于其“不必要的微小”设计理念：它摒弃了所有工程优化，仅用基础 NumPy 数组操作复现了 GPT-2 的核心逻辑，并直接集成了 OpenAI 的 BPE 分词器与权重加载工具。这种极致的简化让复","picoGPT 是一个基于 NumPy 实现的极简版 GPT-2 模型项目，其核心目标并非追求运行效率或功能完备，而是致力于将复杂的深度学习架构拆解为最纯粹的代码逻辑。它解决了大型语言模型通常因框架依赖繁重、代码抽象层级高而难以被初学者透彻理解的问题，让开发者能够透过短短 40 行的前向传播代码，直观地看清 Transformer 内部的数学运作机制。\n\n该项目非常适合希望深入理解大模型原理的开发者、人工智能教育者以及研究人员使用。对于想要从零开始手写神经网络，或者不依赖 PyTorch、TensorFlow 等重型框架就能探究 GPT 本质的学习者来说，picoGPT 是绝佳的教学素材。需要注意的是，picoGPT 仅支持贪婪搜索（greedy sampling）进行单条文本生成，不具备训练功能，且运行速度较慢，因此不适合需要高性能推理或实际业务部署的场景。\n\npicoGPT 独特的技术亮点在于其“不必要的微小”设计理念：它摒弃了所有工程优化，仅用基础 NumPy 数组操作复现了 GPT-2 的核心逻辑，并直接集成了 OpenAI 的 BPE 分词器与权重加载工具。这种极致的简化让复杂的模型结构变得透明可见，是连接理论公式与代码实现的理想桥梁。","# PicoGPT\nAccompanying blog post: [GPT in 60 Lines of Numpy](https:\u002F\u002Fjaykmody.com\u002Fblog\u002Fgpt-from-scratch\u002F)\n\n---\n\nYou've seen [openai\u002Fgpt-2](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fgpt-2).\n\nYou've seen [karpathy\u002FminGPT](https:\u002F\u002Fgithub.com\u002Fkarpathy\u002Fmingpt).\n\nYou've even seen [karpathy\u002FnanoGPT](https:\u002F\u002Fgithub.com\u002Fkarpathy\u002Fnanogpt)!\n\nBut have you seen [picoGPT](https:\u002F\u002Fgithub.com\u002Fjaymody\u002FpicoGPT)??!?\n\n`picoGPT` is an unnecessarily tiny and minimal implementation of [GPT-2](https:\u002F\u002Fd4mucfpksywv.cloudfront.net\u002Fbetter-language-models\u002Flanguage_models_are_unsupervised_multitask_learners.pdf) in plain [NumPy](https:\u002F\u002Fnumpy.org). The entire forward pass code is [40 lines of code](https:\u002F\u002Fgithub.com\u002Fjaymody\u002FpicoGPT\u002Fblob\u002Fmain\u002Fgpt2_pico.py#L3-L41).\n\npicoGPT features:\n* Fast? ❌ Nah, picoGPT is megaSLOW 🐌\n* Training code? ❌ Error, 4️⃣0️⃣4️⃣ not found\n* Batch inference? ❌ picoGPT is civilized, single file line, one at a time only\n* top-p sampling? ❌ top-k? ❌ temperature? ❌ categorical sampling?! ❌ greedy? ✅\n* Readable? `gpt2.py` ✅ `gpt2_pico.py` ❌\n* Smol??? ✅✅✅✅✅✅ YESS!!! TEENIE TINY in fact 🤏\n\nA quick breakdown of each of the files:\n\n* `encoder.py` contains the code for OpenAI's BPE Tokenizer, taken straight from their [gpt-2 repo](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fgpt-2\u002Fblob\u002Fmaster\u002Fsrc\u002Fencoder.py).\n* `utils.py` contains the code to download and load the GPT-2 model weights, tokenizer, and hyper-parameters.\n* `gpt2.py` contains the actual GPT model and generation code which we can run as a python script.\n* `gpt2_pico.py` is the same as `gpt2.py`, but in even fewer lines of code. Why? Because why not 😎👍.\n\n#### Dependencies\n```bash\npip install -r requirements.txt\n```\nTested on `Python 3.9.10`.\n\n#### Usage\n```bash\npython gpt2.py \"Alan Turing theorized that computers would one day become\"\n```\n\nWhich generates\n\n```\n the most powerful machines on the planet.\n\nThe computer is a machine that can perform complex calculations, and it can perform these calculations in a way that is very similar to the human brain.\n```\n\nYou can also control the number of tokens to generate, the model size (one of `[\"124M\", \"355M\", \"774M\", \"1558M\"]`), and the directory to save the models:\n\n```bash\npython gpt2.py \\\n    \"Alan Turing theorized that computers would one day become\" \\\n    --n_tokens_to_generate 40 \\\n    --model_size \"124M\" \\\n    --models_dir \"models\"\n```\n","# PicoGPT\n配套博文：[用60行NumPy实现GPT](https:\u002F\u002Fjaykmody.com\u002Fblog\u002Fgpt-from-scratch\u002F)\n\n---\n\n你见过 [openai\u002Fgpt-2](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fgpt-2)。\n\n你见过 [karpathy\u002FminGPT](https:\u002F\u002Fgithub.com\u002Fkarpathy\u002Fmingpt)。\n\n你甚至见过 [karpathy\u002FnanoGPT](https:\u002F\u002Fgithub.com\u002Fkarpathy\u002Fnanogpt)！\n\n但是，你见过 [picoGPT](https:\u002F\u002Fgithub.com\u002Fjaymody\u002FpicoGPT) 吗??!?\n\n`picoGPT` 是一个过度精简、极小的 [GPT-2](https:\u002F\u002Fd4mucfpksywv.cloudfront.net\u002Fbetter-language-models\u002Flanguage_models_are_unsupervised_multitask_learners.pdf) 实现，完全使用原生 [NumPy](https:\u002F\u002Fnumpy.org) 编写。整个前向传播代码只有 [40行](https:\u002F\u002Fgithub.com\u002Fjaymody\u002FpicoGPT\u002Fblob\u002Fmain\u002Fgpt2_pico.py#L3-L41)。\n\npicoGPT 的特点：\n* 快吗？❌ 不，picoGPT 巨慢 🐌\n* 有训练代码吗？❌ 错误，4️⃣0️⃣4️⃣ 未找到\n* 支持批量推理吗？❌ picoGPT 很“文明”，一次只处理一行输入\n* top-p 采样？❌ top-k？❌ 温度调节？❌ 分类采样？❌ 贪心策略？✅\n* 易读吗？`gpt2.py` ✅ `gpt2_pico.py` ❌\n* 小吗？✅✅✅✅✅✅ 是的！！！ 确实超级小巧 🤏\n\n各文件的简要说明：\n\n* `encoder.py` 包含 OpenAI 的 BPE 分词器代码，直接取自他们的 [gpt-2 仓库](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fgpt-2\u002Fblob\u002Fmaster\u002Fsrc\u002Fencoder.py)。\n* `utils.py` 包含下载和加载 GPT-2 模型权重、分词器及超参数的代码。\n* `gpt2.py` 包含实际的 GPT 模型及生成代码，可以直接作为 Python 脚本运行。\n* `gpt2_pico.py` 和 `gpt2.py` 功能相同，但代码量更少。为什么？因为为什么不呢 😎👍。\n\n#### 依赖\n```bash\npip install -r requirements.txt\n```\n已在 `Python 3.9.10` 上测试通过。\n\n#### 使用方法\n```bash\npython gpt2.py \"艾伦·图灵曾理论认为，计算机终有一天会成为\"\n```\n\n输出结果为：\n\n```\n地球上最强大的机器。\n\n计算机是一种能够执行复杂计算的机器，它的计算方式与人类大脑非常相似。\n```\n\n你还可以控制生成的 token 数量、模型大小（可选 `\"124M\"`, `\"355M\"`, `\"774M\"`, `\"1558M\"` 中的一个）以及保存模型的目录：\n\n```bash\npython gpt2.py \\\n    \"艾伦·图灵曾理论认为，计算机终有一天会成为\" \\\n    --n_tokens_to_generate 40 \\\n    --model_size \"124M\" \\\n    --models_dir \"models\"\n```","# picoGPT 快速上手指南\n\npicoGPT 是一个极简的 GPT-2 实现，仅使用 NumPy 编写。其核心前向传播代码仅有 40 行，旨在通过极度精简的代码帮助开发者理解 GPT 架构原理。请注意，该项目专注于教学演示，推理速度较慢且不支持训练。\n\n## 环境准备\n\n*   **操作系统**：Linux \u002F macOS \u002F Windows\n*   **Python 版本**：推荐 Python 3.9.10 或更高版本\n*   **前置依赖**：\n    *   `numpy`\n    *   `requests`\n    *   `tqdm`\n\n> **国内加速建议**：安装依赖时建议使用清华或阿里镜像源以提升下载速度。\n\n## 安装步骤\n\n1.  克隆项目代码（如果尚未获取）：\n    ```bash\n    git clone https:\u002F\u002Fgithub.com\u002Fjaymody\u002FpicoGPT.git\n    cd picoGPT\n    ```\n\n2.  安装所需依赖包：\n    ```bash\n    pip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n    ```\n\n## 基本使用\n\n### 1. 快速生成文本\n运行以下命令，模型将自动下载权重并基于提示词生成文本：\n\n```bash\npython gpt2.py \"Alan Turing theorized that computers would one day become\"\n```\n\n**预期输出示例：**\n```text\n the most powerful machines on the planet.\n\nThe computer is a machine that can perform complex calculations, and it can perform these calculations in a way that is very similar to the human brain.\n```\n\n### 2. 自定义参数\n您可以指定生成的 token 数量、模型大小以及模型存储目录：\n\n```bash\npython gpt2.py \\\n    \"Alan Turing theorized that computers would one day become\" \\\n    --n_tokens_to_generate 40 \\\n    --model_size \"124M\" \\\n    --models_dir \"models\"\n```\n\n**参数说明：**\n*   `--n_tokens_to_generate`: 生成 token 的数量。\n*   `--model_size`: 模型规模，可选值为 `[\"124M\", \"355M\", \"774M\", \"1558M\"]`。\n*   `--models_dir`: 模型权重保存目录（首次运行时会自动下载）。","一位深度学习讲师正在准备\"Transformer 架构原理”的课程，需要向学生展示 GPT-2 内部的前向传播细节，而不仅仅是调用现成 API。\n\n### 没有 picoGPT 时\n- **代码黑盒难拆解**：主流实现（如 Hugging Face 或官方 repo）封装层级过深，学生难以在几百个文件中定位核心的矩阵运算逻辑。\n- **依赖环境臃肿**：运行最小示例往往需要安装 PyTorch 或 TensorFlow 等重型框架，配置过程繁琐且容易报错，分散了教学注意力。\n- **干扰信息过多**：现有的精简版代码仍包含批量推理、温度采样等复杂功能，导致初学者无法聚焦于最基础的 Greedy 搜索和单行前向传递。\n- **数学映射不直观**：复杂的类继承结构掩盖了公式与代码的直接对应关系，讲师不得不花费大量时间手写伪代码来辅助讲解。\n\n### 使用 picoGPT 后\n- **核心逻辑透明化**：picoGPT 将完整的前向传播压缩至 40 行 NumPy 代码，学生可直接阅读源码，清晰看到注意力机制和残差连接的具体实现。\n- **极简依赖零门槛**：仅依赖基础的 NumPy 库，无需配置 GPU 环境或安装深度学习框架，在任何普通笔记本上即可秒级运行演示。\n- **专注基础原理**：picoGPT 刻意移除了训练代码、批量处理和复杂采样策略，只保留最纯粹的贪心生成，完美契合“理解架构而非工程优化”的教学目标。\n- **公式代码一一对照**：其极度精简的结构让数学公式能直接映射到具体代码行，讲师可直接对着代码逐行推导，极大降低了认知负荷。\n\npicoGPT 通过极致的代码压缩，将高深的 GPT 架构还原为纯粹的线性代数运算，成为理解大模型内部机理的最佳教学教具。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fjaymody_picoGPT_a798bb34.png","jaymody","Jay Mody","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fjaymody_2b735a88.png","programmer \r\n\r\n\r\n\r\n\r\n\r\n\r\n@janestreet",null,"jaykmody.com","https:\u002F\u002Fgithub.com\u002Fjaymody",[81],{"name":82,"color":83,"percentage":84},"Python","#3572A5",100,3458,456,"2026-04-10T07:39:56","MIT",1,"","不需要 GPU，仅使用 NumPy 在 CPU 上运行","未说明（取决于加载的模型大小，124M-1558M 参数）",{"notes":94,"python":95,"dependencies":96},"该项目是一个极简的教育用 GPT-2 实现，仅支持贪婪搜索（greedy sampling），不支持批量推理或训练。首次运行会自动下载模型权重和分词器文件。由于纯 NumPy 实现且无优化，推理速度非常慢。","3.9.10",[97,98,99],"numpy","requests","tqdm",[35,13,14],[102,103,104,105,106,107,108,109],"deep-learning","gpt","gpt-2","large-language-models","machine-learning","neural-network","python","nlp","2026-03-27T02:49:30.150509","2026-04-16T08:12:13.537843",[113,118,123],{"id":114,"question_zh":115,"answer_zh":116,"source_url":117},35544,"在使用 PyTorch 复现 TransformerBlock 时，为什么输出结果不正确？","问题通常出在 `forward` 函数中归一化（Layer Norm）的应用位置。错误做法是先将归一化应用于 `x` 并重新赋值给 `x`，导致残差连接中的 `x` 也被归一化了。正确做法是仅将归一化应用于输入到 `mha`（多头注意力）或 `ffn`（前馈网络）的部分，而保留原始 `x` 用于残差相加。\n\n错误代码示例：\n```python\nx = self.norm1(x)\nx = x + self.mulit_head_attention(x) # 这里的 x 已经被归一化，导致错误\n```\n\n正确代码逻辑应参考：\n```python\nx = x + mha(layer_norm(x, **ln_1), **attn, n_head=n_head)\nx = x + ffn(layer_norm(x, **ln_2), **mlp)\n```\n确保 Layer Norm 只作用于进入子层的输入，而不是残差分支。","https:\u002F\u002Fgithub.com\u002Fjaymody\u002FpicoGPT\u002Fissues\u002F22",{"id":119,"question_zh":120,"answer_zh":121,"source_url":122},35545,"模型文件下载总是超时，如何手动下载或修改下载方式？","如果自动下载超时，可以查看代码中的 `download_gpt2_files` 函数。用户可以参考该函数的实现逻辑，手动下载所需的模型文件，或者修改该函数以适配自己的网络环境（例如添加重试机制、更换下载源或手动指定本地路径）。","https:\u002F\u002Fgithub.com\u002Fjaymody\u002FpicoGPT\u002Fissues\u002F13",{"id":124,"question_zh":125,"answer_zh":126,"source_url":127},35546,"在 macOS M1 上将 numpy 替换为 jax.numpy 时出现 TypeError 怎么办？","这是一个已知问题，当尝试直接用 `jax.numpy` 替换 `numpy` 时，由于 JAX 数组的不可变性和追踪机制，某些操作（如 `np.append`）会报错。该问题已在 Pull Request #10 中修复。请拉取最新的代码更新，或者查看相关 PR 中的具体修改方案来解决兼容性错误。","https:\u002F\u002Fgithub.com\u002Fjaymody\u002FpicoGPT\u002Fissues\u002F9",[]]