[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-scrapy--scrapy":3,"tool-scrapy--scrapy":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",157379,2,"2026-04-15T23:32:42",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":64,"owner_name":72,"owner_avatar_url":73,"owner_bio":74,"owner_company":75,"owner_location":75,"owner_email":75,"owner_twitter":75,"owner_website":76,"owner_url":77,"languages":78,"stars":98,"forks":99,"last_commit_at":100,"license":101,"difficulty_score":102,"env_os":103,"env_gpu":104,"env_ram":104,"env_deps":105,"category_tags":109,"github_topics":110,"view_count":32,"oss_zip_url":75,"oss_zip_packed_at":75,"status":17,"created_at":119,"updated_at":120,"faqs":121,"releases":152},8020,"scrapy\u002Fscrapy","scrapy","Scrapy, a fast high-level web crawling & scraping framework for Python.","Scrapy 是一个专为 Python 打造的高效网络爬虫框架，旨在帮助开发者快速从网站中提取结构化数据。面对互联网上海量且非标准化的网页信息，手动收集不仅耗时费力，还难以保证数据的规范性，而 Scrapy 正是为了解决这一痛点而生。它提供了一套完整的自动化流程，让用户只需定义少量规则，即可实现大规模数据的自动抓取、清洗与存储。\n\n这款工具主要面向软件开发者和数据研究人员，特别适合需要构建数据采集管道、进行市场分析或训练 AI 模型的专业人群。与普通浏览器插件不同，Scrapy 拥有异步处理架构，能够并发请求大量页面，显著提升抓取速度；同时内置了强大的中间件机制，轻松应对反爬策略、Cookie 管理及数据解析等复杂场景。此外，它跨平台支持 Windows、macOS 和 Linux，并兼容多种安装方式，社区生态成熟稳定。无论是初创团队搭建数据后台，还是科研人员收集实验素材，Scrapy 都能以低代码成本提供工业级的解决方案，让数据获取变得简单可靠。","|logo|\n\n.. |logo| image:: https:\u002F\u002Fraw.githubusercontent.com\u002Fscrapy\u002Fscrapy\u002Fmaster\u002Fdocs\u002F_static\u002Flogo.svg\n   :target: https:\u002F\u002Fscrapy.org\n   :alt: Scrapy\n   :width: 480px\n\n|version| |python_version| |ubuntu| |macos| |windows| |coverage| |conda| |deepwiki|\n\n.. |version| image:: https:\u002F\u002Fimg.shields.io\u002Fpypi\u002Fv\u002FScrapy.svg\n   :target: https:\u002F\u002Fpypi.org\u002Fpypi\u002FScrapy\n   :alt: PyPI Version\n\n.. |python_version| image:: https:\u002F\u002Fimg.shields.io\u002Fpypi\u002Fpyversions\u002FScrapy.svg\n   :target: https:\u002F\u002Fpypi.org\u002Fpypi\u002FScrapy\n   :alt: Supported Python Versions\n\n.. |ubuntu| image:: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fworkflows\u002FUbuntu\u002Fbadge.svg\n   :target: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Factions?query=workflow%3AUbuntu\n   :alt: Ubuntu\n\n.. |macos| image:: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fworkflows\u002FmacOS\u002Fbadge.svg\n   :target: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Factions?query=workflow%3AmacOS\n   :alt: macOS\n\n.. |windows| image:: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fworkflows\u002FWindows\u002Fbadge.svg\n   :target: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Factions?query=workflow%3AWindows\n   :alt: Windows\n\n.. |coverage| image:: https:\u002F\u002Fimg.shields.io\u002Fcodecov\u002Fc\u002Fgithub\u002Fscrapy\u002Fscrapy\u002Fmaster.svg\n   :target: https:\u002F\u002Fcodecov.io\u002Fgithub\u002Fscrapy\u002Fscrapy?branch=master\n   :alt: Coverage report\n\n.. |conda| image:: https:\u002F\u002Fanaconda.org\u002Fconda-forge\u002Fscrapy\u002Fbadges\u002Fversion.svg\n   :target: https:\u002F\u002Fanaconda.org\u002Fconda-forge\u002Fscrapy\n   :alt: Conda Version\n\n.. |deepwiki| image:: https:\u002F\u002Fdeepwiki.com\u002Fbadge.svg\n   :target: https:\u002F\u002Fdeepwiki.com\u002Fscrapy\u002Fscrapy\n   :alt: Ask DeepWiki\n\nScrapy_ is a web scraping framework to extract structured data from websites.\nIt is cross-platform, and requires Python 3.10+. It is maintained by Zyte_\n(formerly Scrapinghub) and `many other contributors`_.\n\n.. _many other contributors: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fgraphs\u002Fcontributors\n.. _Scrapy: https:\u002F\u002Fscrapy.org\u002F\n.. _Zyte: https:\u002F\u002Fwww.zyte.com\u002F\n\nInstall with:\n\n.. code:: bash\n\n    pip install scrapy\n\nAnd follow the documentation_ to learn how to use it.\n\n.. _documentation: https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002F\n\nIf you wish to contribute, see Contributing_.\n\n.. _Contributing: https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Fmaster\u002Fcontributing.html\n","|logo|\n\n.. |logo| image:: https:\u002F\u002Fraw.githubusercontent.com\u002Fscrapy\u002Fscrapy\u002Fmaster\u002Fdocs\u002F_static\u002Flogo.svg\n   :target: https:\u002F\u002Fscrapy.org\n   :alt: Scrapy\n   :width: 480px\n\n|version| |python_version| |ubuntu| |macos| |windows| |coverage| |conda| |deepwiki|\n\n.. |version| image:: https:\u002F\u002Fimg.shields.io\u002Fpypi\u002Fv\u002FScrapy.svg\n   :target: https:\u002F\u002Fpypi.org\u002Fpypi\u002FScrapy\n   :alt: PyPI 版本\n\n.. |python_version| image:: https:\u002F\u002Fimg.shields.io\u002Fpypi\u002Fpyversions\u002FScrapy.svg\n   :target: https:\u002F\u002Fpypi.org\u002Fpypi\u002FScrapy\n   :alt: 支持的 Python 版本\n\n.. |ubuntu| image:: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fworkflows\u002FUbuntu\u002Fbadge.svg\n   :target: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Factions?query=workflow%3AUbuntu\n   :alt: Ubuntu\n\n.. |macos| image:: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fworkflows\u002FmacOS\u002Fbadge.svg\n   :target: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Factions?query=workflow%3AmacOS\n   :alt: macOS\n\n.. |windows| image:: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fworkflows\u002FWindows\u002Fbadge.svg\n   :target: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Factions?query=workflow%3AWindows\n   :alt: Windows\n\n.. |coverage| image:: https:\u002F\u002Fimg.shields.io\u002Fcodecov\u002Fc\u002Fgithub\u002Fscrapy\u002Fscrapy\u002Fmaster.svg\n   :target: https:\u002F\u002Fcodecov.io\u002Fgithub\u002Fscrapy\u002Fscrapy?branch=master\n   :alt: 覆盖率报告\n\n.. |conda| image:: https:\u002F\u002Fanaconda.org\u002Fconda-forge\u002Fscrapy\u002Fbadges\u002Fversion.svg\n   :target: https:\u002F\u002Fanaconda.org\u002Fconda-forge\u002Fscrapy\n   :alt: Conda 版本\n\n.. |deepwiki| image:: https:\u002F\u002Fdeepwiki.com\u002Fbadge.svg\n   :target: https:\u002F\u002Fdeepwiki.com\u002Fscrapy\u002Fscrapy\n   :alt: 咨询 DeepWiki\n\nScrapy_ 是一个用于从网站中提取结构化数据的网络爬虫框架。\n它跨平台，需要 Python 3.10 或更高版本。该框架由 Zyte_（前身为 Scrapinghub）以及 `众多其他贡献者`_ 维护。\n\n.. _众多其他贡献者: https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fgraphs\u002Fcontributors\n.. _Scrapy: https:\u002F\u002Fscrapy.org\u002F\n.. _Zyte: https:\u002F\u002Fwww.zyte.com\u002F\n\n安装方法如下：\n\n.. code:: bash\n\n    pip install scrapy\n\n然后请参考文档_ 以了解如何使用。\n\n.. _文档: https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002F\n\n如果您希望参与贡献，请参阅贡献指南_。\n\n.. _贡献指南: https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Fmaster\u002Fcontributing.html","# Scrapy 快速上手指南\n\nScrapy 是一个用于从网站提取结构化数据的高速、高层级的 Web 爬虫框架。它跨平台支持，广泛应用于数据采集、监控和自动化测试。\n\n## 环境准备\n\n- **操作系统**：Windows、macOS 或 Linux（如 Ubuntu）\n- **Python 版本**：Python 3.10 或更高版本\n- **包管理工具**：推荐使用 `pip` 或 `conda`\n\n> 💡 国内用户建议使用清华或阿里云镜像源加速安装。\n\n## 安装步骤\n\n### 使用 pip 安装（推荐）\n\n```bash\npip install scrapy -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n或使用阿里云镜像：\n\n```bash\npip install scrapy -i https:\u002F\u002Fmirrors.aliyun.com\u002Fpypi\u002Fsimple\u002F\n```\n\n### 使用 conda 安装（可选）\n\n```bash\nconda install -c conda-forge scrapy\n```\n\n## 基本使用\n\n### 1. 创建新项目\n\n```bash\nscrapy startproject myproject\ncd myproject\n```\n\n### 2. 定义爬虫\n\n在 `myproject\u002Fspiders\u002F` 目录下创建 `example_spider.py`：\n\n```python\nimport scrapy\n\nclass ExampleSpider(scrapy.Spider):\n    name = \"example\"\n    start_urls = ['https:\u002F\u002Fquotes.toscrape.com\u002F']\n\n    def parse(self, response):\n        for quote in response.css('div.quote'):\n            yield {\n                'text': quote.css('span.text::text').get(),\n                'author': quote.css('small.author::text').get(),\n            }\n```\n\n### 3. 运行爬虫\n\n```bash\nscrapy crawl example -o output.json\n```\n\n该命令将抓取结果保存为 `output.json` 文件。\n\n---\n\n现在你已成功使用 Scrapy 完成一次基础网页抓取。更多高级功能请参考官方文档：https:\u002F\u002Fdocs.scrapy.org\u002F","某电商数据分析师需要每日监控竞争对手在多个商品页面的价格变动与库存状态，以动态调整自家定价策略。\n\n### 没有 scrapy 时\n- 开发人员需手动编写大量重复的 HTTP 请求代码，每换一个网站就要重写一套逻辑，维护成本极高。\n- 面对反爬机制（如 IP 封禁、请求频率限制）束手无策，脚本运行几分钟就会因被封 IP 而中断，数据获取极不稳定。\n- 缺乏内置的数据清洗与结构化输出功能，抓取到的 HTML 碎片需要额外编写复杂的解析代码才能存入数据库。\n- 无法高效处理并发请求，抓取成千上万个商品页面往往需要数小时甚至数天，严重滞后于市场变化。\n- 错误处理机制薄弱，一旦某个页面结构微调或网络波动，整个爬虫程序就会直接崩溃退出。\n\n### 使用 scrapy 后\n- 利用 Scrapy 统一的蜘蛛（Spider）类架构，只需定义少量规则即可适配不同网站，代码复用率提升 80% 以上。\n- 内置中间件自动处理用户代理轮换、IP 代理池及请求限流，确保持续稳定地抓取数据而不被封锁。\n- 强大的选择器（Selectors）配合 Item Pipeline，能直接将非结构化 HTML 清洗为标准的 JSON 或 CSV 格式并入库。\n- 基于 Twisted 的异步并发引擎，可将原本数小时的抓取任务压缩至几分钟内完成，实现准实时监控。\n- 完善的异常捕获与重试机制，即使遇到个别页面报错或网络抖动，也能自动记录日志并继续执行后续任务。\n\nScrapy 将繁琐脆弱的手工脚本转化为健壮高效的工业级数据采集流水线，让实时市场洞察成为可能。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fscrapy_scrapy_cb082bd5.png","Scrapy project","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fscrapy_f5cf9aa0.png","  An open source and collaborative framework for extracting the data you need from websites.  In a fast, simple, yet extensible way.",null,"https:\u002F\u002Fscrapy.org","https:\u002F\u002Fgithub.com\u002Fscrapy",[79,83,87,91,94],{"name":80,"color":81,"percentage":82},"Python","#3572A5",99.5,{"name":84,"color":85,"percentage":86},"Go Template","#00ADD8",0.3,{"name":88,"color":89,"percentage":90},"HTML","#e34c26",0.1,{"name":92,"color":93,"percentage":90},"Roff","#ecdebe",{"name":95,"color":96,"percentage":97},"Shell","#89e051",0,61338,11471,"2026-04-15T17:19:12","BSD-3-Clause",1,"Linux, macOS, Windows","未说明",{"notes":106,"python":107,"dependencies":108},"该工具为跨平台网络爬虫框架，可通过 pip 或 conda 安装。README 中未列出具体的主要依赖库列表、GPU 需求及内存需求。","3.10+",[],[14,16,52],[111,112,113,114,115,116,117,118],"python","scraping","crawling","framework","crawler","hacktoberfest","web-scraping","web-scraping-python","2026-03-27T02:49:30.150509","2026-04-16T15:51:16.115500",[122,127,132,137,142,147],{"id":123,"question_zh":124,"answer_zh":125,"source_url":126},35907,"在 Linux 上安装 Scrapy 时遇到 'gcc 编译失败 (exit status 1)' 错误怎么办？","这通常是因为缺少必要的系统构建依赖库。请根据您的 Python 版本运行以下命令安装依赖：\n\n对于 Python 3：\nsudo apt-get install python3 python3-dev build-essential libssl-dev libffi-dev libxml2-dev libxslt1-dev zlib1g-dev python3-pip\n\n对于 Python 2：\nsudo apt-get install python-dev build-essential libssl-dev libffi-dev libxml2-dev libxslt1-dev zlib1g-dev python-pip\n\n安装完成后，建议升级 pip：sudo -H pip3 install --upgrade pip，然后重新尝试安装 Scrapy。","https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fissues\u002F2115",{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},35908,"如何从脚本中直接运行 Scrapy 爬虫？","您可以使用 `CrawlerProcess` 类在脚本中运行爬虫。基本代码如下：\n\nimport scrapy\nfrom scrapy.crawler import CrawlerProcess\n\nclass MySpider(scrapy.Spider):\n    name = \"basic\"\n    start_urls = ['http:\u002F\u002Fwww.example.com']\n    def parse(self, response):\n        # 解析逻辑\n        pass\n\nprocess = CrawlerProcess({\n    'USER_AGENT': 'Mozilla\u002F4.0 (compatible; MSIE 7.0; Windows NT 5.1)'\n})\nprocess.crawl(MySpider)\nprocess.start()\n\n注意：如果在运行过程中遇到 SSL\u002FTLS 版本相关的属性错误（如 AttributeError: 'module' object has no attribute 'OP_NO_TLSv1_1'），可能是 Twisted 版本过旧或与当前 Python 环境不兼容，建议更新相关依赖或检查文档中关于运行环境的最新要求。","https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fissues\u002F2473",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},35909,"Scrapy Selector 是否有方法可以直接获取第一个匹配元素，避免索引越界错误？","是的，Scrapy 已经支持直接获取第一个元素的方法。早期用户常使用 `.extract()[0]` 但这在列表为空时会报错。现在的推荐做法是使用 `.get()` 方法（或在较新版本中的 `.getall()` 配合索引）。\n\n例如，将:\nresult = sel.xpath('\u002F\u002Fdiv\u002Ftext()').extract()[0]\n\n替换为:\nresult = sel.xpath('\u002F\u002Fdiv\u002Ftext()').get()\n\n如果未找到匹配项，`.get()` 会返回 None 而不是抛出异常。此外，在使用 ItemLoader 时，也可以配合 `TakeFirst()` 处理器来自动提取第一个值。","https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fissues\u002F568",{"id":138,"question_zh":139,"answer_zh":140,"source_url":141},35910,"Scrapy 是否支持 Python 3？","是的，现代版本的 Scrapy 已经完全支持 Python 3。早期的 Scrapy 版本主要基于 Python 2，但社区和维护者早已完成了向 Python 3 的迁移。如果您现在遇到兼容性问题，请确保您安装的是最新版本的 Scrapy，并使用 Python 3.6 或更高版本。不再需要额外的“黑客”技巧或补丁来支持 Python 3。","https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fissues\u002F263",{"id":143,"question_zh":144,"answer_zh":145,"source_url":146},35911,"Scrapy 的选择器（Selector）底层是基于什么库实现的？可以单独使用吗？","Scrapy 的选择器功能最初是基于 lxml 构建的，但后来被重构并封装到了独立的库 `parsel` 中。Scrapy 内部的 `scrapy.selector` 实际上是对 `parsel.Selector` 的包装。如果您只想使用选择器功能而不需要完整的 Scrapy 框架，可以直接安装并使用 `parsel` 库，它提供了与 Scrapy 相同的选择器 API（支持 XPath 和 CSS 选择器）。","https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fissues\u002F906",{"id":148,"question_zh":149,"answer_zh":150,"source_url":151},35912,"Scrapy 如何处理 robots.txt 协议？是否支持不同的解析规则？","Scrapy 内置了对 robots.txt 的支持，可以通过设置 `ROBOTSTXT_OBEY = True` 来启用。默认的解析器遵循标准的 robots.txt 规范。针对某些特殊网站或非标准解析需求，社区曾讨论并推进了支持不同 robots.txt 解析器的功能（如 GSoC 项目）。如果遇到特定网站的抓取限制问题，建议检查 Scrapy 文档中关于 `RobotsTxtMiddleware` 的配置，或查看是否有针对该网站的特殊解析器实现。","https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fissues\u002F3656",[153,158,163,168,173,178,183,188,193,198,203,208,213,218,223,228,233,238,243,248],{"id":154,"version":155,"summary_zh":156,"released_at":157},281185,"2.15.0","- 实验性支持在不使用 Twisted reactor 的情况下运行\n- 基于 ``httpx`` 的实验性下载处理器\n\n[完整变更日志](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-15-0-2026-04-09)","2026-04-09T12:22:20",{"id":159,"version":160,"summary_zh":161,"released_at":162},281186,"2.14.2","- HTTP 响应的 `Referrer-Policy` 头部值不再作为 Python 可调用对象执行。详情请参阅 [cwxj-rr6w-m6w7](https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fscrapy\u002Fsecurity\u002Fadvisories\u002FGHSA-cwxj-rr6w-m6w7) 安全公告。\n- 依照 [标准](https:\u002F\u002Ffetch.spec.whatwg.org\u002F#http-redirect-fetch)，POST 请求的 301 重定向将被转换为 GET 请求。\n\n[完整变更日志](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-14-2-2026-03-12)","2026-03-18T11:01:44",{"id":164,"version":165,"summary_zh":166,"released_at":167},281187,"2.14.1","* 弃用 `maybeDeferred_coro()`\n* 将 spider 参数传递给自定义统计收集器的 `{open,close}_spider()` 方法\n* 替换已弃用的 Codecov CI 操作\n\n[完整变更日志](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-14-1-2026-01-12)","2026-01-12T20:37:09",{"id":169,"version":170,"summary_zh":171,"released_at":172},281188,"2.14.0","* 更多基于协程的、用于替代基于 Deferred 的 API\n* 默认的优先级队列现已改为 `DownloaderAwarePriorityQueue`\n* 停止支持 Python 3.9 和 PyPy 3.10\n* 改进了自定义下载处理器的 API，并为其添加了文档\n\n[完整变更日志](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-14-0-2026-01-05)","2026-01-05T10:19:32",{"id":174,"version":175,"summary_zh":176,"released_at":177},281189,"2.13.4","针对 [CVE-2025-6176](https:\u002F\u002Fnvd.nist.gov\u002Fvuln\u002Fdetail\u002FCVE-2025-6176) 安全漏洞的修复：在 `HttpCompressionMiddleware` 中，增强了对使用 `br` 和 `deflate` 压缩方法响应的解压缩炸弹防护。需要 `brotli >= 1.2.0`。\n\n[完整变更日志](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-13-4-2025-11-17)","2025-11-17T11:45:24",{"id":179,"version":180,"summary_zh":181,"released_at":182},281190,"2.13.3","- 在默认项目模板中，将 `DOWNLOAD_DELAY` 的值从 `0` 改为 `1`，并将 `CONCURRENT_REQUESTS_PER_DOMAIN` 的值从 `8` 改为 `1`。\n- 修复了引擎初始化和异常处理逻辑中的多个 bug。\n- 再次允许使用 Twisted 25.5.0 及更高版本运行测试，并修复了在 lxml 6.0.0 下出现的测试失败问题。\n\n[查看完整变更日志](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002F2.13\u002Fnews.html#scrapy-2-13-3-2025-07-02)","2025-07-02T15:45:15",{"id":184,"version":185,"summary_zh":186,"released_at":187},281191,"2.13.2","* 修复了 Scrapy 2.13.0 中引入的一个 bug：当 errback 是因下载器错误而被调用时，请求的 errback 结果会被忽略。\n* 改进了与 Scrapy 2.13.0 默认 Reactor 更改相关的文档和错误信息。\n\n[查看完整变更日志](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002F2.13\u002Fnews.html#scrapy-2-13-2-2025-06-09)","2025-06-09T10:51:35",{"id":189,"version":190,"summary_zh":191,"released_at":192},281192,"2.13.1","* 当优先级值相同时，使回调请求优先于启动请求。\n\n[查看完整更新日志](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002F2.13\u002Fnews.html#scrapy-2-13-1-2025-05-28)","2025-06-09T10:50:16",{"id":194,"version":195,"summary_zh":196,"released_at":197},281193,"2.13.0","-   asyncio 事件循环现已默认启用\n-   将 `start_requests()`（同步）替换为 `start()`（异步），并更改了其迭代方式。\n-   添加了 `allow_offsite` 请求元数据键\n-   不支持异步爬虫输出的爬虫中间件已被弃用\n-   添加了通用爬虫中间件的基类\n\n[查看完整变更日志](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002F2.13\u002Fnews.html)","2025-05-08T09:54:46",{"id":199,"version":200,"summary_zh":201,"released_at":202},281194,"2.12.0","- 停止对 Python 3.8 的支持，新增对 Python 3.13 的支持\n- `start_requests` 现在可以生成项目\n- 新增 `scrapy.http.JsonResponse`\n- 新增 `CLOSESPIDER_PAGECOUNT_NO_ITEM` 设置\n\n[查看完整变更日志。](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002F2.12\u002Fnews.html#scrapy-2-12-0-2024-11-18)\n","2024-11-18T08:43:50",{"id":204,"version":205,"summary_zh":206,"released_at":207},281195,"2.11.2","Mostly bug fixes, including security bug fixes.\r\n\r\n[See the full changelog.](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-11-2-2024-05-14)","2024-05-14T12:12:22",{"id":209,"version":210,"summary_zh":211,"released_at":212},281196,"1.8.4","Security bug fixes.\r\n\r\n[See the full changelog.](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-1-8-4-2024-02-14)","2024-02-14T19:10:54",{"id":214,"version":215,"summary_zh":216,"released_at":217},281197,"2.11.1","- Security bug fixes.\r\n- Support for Twisted >= 23.8.0.\r\n- Documentation improvements.\r\n\r\n[See the full changelog.](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-11-1-2024-02-14)","2024-02-14T19:10:21",{"id":219,"version":220,"summary_zh":221,"released_at":222},281198,"2.11.0","-   Spiders can now modify settings in their `from_crawler` methods, e.g. based on spider arguments.\r\n-   Periodic logging of stats.\r\n-   Bug fixes.\r\n\r\n[See the full changelog.](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-11-0-2023-09-18)","2023-09-18T11:37:22",{"id":224,"version":225,"summary_zh":226,"released_at":227},281199,"2.10.1","Marked `Twisted >= 23.8.0` as unsupported. \r\n","2023-08-30T08:57:00",{"id":229,"version":230,"summary_zh":231,"released_at":232},281200,"2.10.0","-   Added Python 3.12 support, dropped Python 3.7 support.\r\n-   The new add-ons framework simplifies configuring 3rd-party components that support it.\r\n-   Exceptions to retry can now be configured.\r\n-   Many fixes and improvements for feed exports.\r\n\r\n[See the full changelog.](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002F2.10\u002Fnews.html#scrapy-2-10-0-2023-08-04)","2023-08-04T13:59:19",{"id":234,"version":235,"summary_zh":236,"released_at":237},281201,"2.9.0","* Per-domain download settings.\r\n* Compatibility with new [cryptography](https:\u002F\u002Fcryptography.io\u002Fen\u002Flatest\u002F) and new [parsel](https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fparsel).\r\n* JMESPath selectors from the new [parsel](https:\u002F\u002Fgithub.com\u002Fscrapy\u002Fparsel).\r\n* Bug fixes.\r\n\r\n[See the full changelog.](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-9-0-2023-05-08)","2023-05-08T11:05:45",{"id":239,"version":240,"summary_zh":241,"released_at":242},281202,"2.8.0","This is a maintenance release, with minor features, bug fixes, and cleanups.\r\n\r\n[See the full changelog](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-8-0-2023-02-02).","2023-02-02T04:14:21",{"id":244,"version":245,"summary_zh":246,"released_at":247},281203,"2.7.1","* Relaxed the restriction introduced in 2.6.2 so that the `Proxy-Authentication` header can again be set explicitly in certain cases, restoring compatibility with scrapy-zyte-smartproxy 2.1.0 and older\r\n* Bug fixes\r\n\r\n[See the full changelog](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-7-1-2022-11-02)","2022-11-02T11:15:10",{"id":249,"version":250,"summary_zh":251,"released_at":252},281204,"2.7.0","- Added Python 3.11 support, dropped Python 3.6 support\r\n- Improved support for [asynchronous callbacks](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Ftopics\u002Fcoroutines.html#topics-coroutines)\r\n- [Asyncio support](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Ftopics\u002Fasyncio.html#using-asyncio) is enabled by default on new projects\r\n- Output names of item fields can now be arbitrary strings\r\n- Centralized [request fingerprinting](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Ftopics\u002Frequest-response.html#request-fingerprints) configuration is now possible\r\n\r\n[See the full changelog](https:\u002F\u002Fdocs.scrapy.org\u002Fen\u002Flatest\u002Fnews.html#scrapy-2-7-0-2022-10-17)\r\n\r\n","2022-10-17T13:25:58"]