[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-cxcscmu--Craw4LLM":3,"tool-cxcscmu--Craw4LLM":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",158594,2,"2026-04-16T23:34:05",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":72,"owner_avatar_url":73,"owner_bio":74,"owner_company":74,"owner_location":74,"owner_email":74,"owner_twitter":74,"owner_website":74,"owner_url":75,"languages":76,"stars":81,"forks":82,"last_commit_at":83,"license":84,"difficulty_score":85,"env_os":86,"env_gpu":86,"env_ram":87,"env_deps":88,"category_tags":97,"github_topics":98,"view_count":32,"oss_zip_url":74,"oss_zip_packed_at":74,"status":17,"created_at":107,"updated_at":108,"faqs":109,"releases":137},8152,"cxcscmu\u002FCraw4LLM","Craw4LLM","Official repository for \"Craw4LLM: Efficient Web Crawling for LLM Pretraining\"","Craw4LLM 是一款专为大语言模型（LLM）预训练设计的高效网页爬虫工具，旨在解决传统爬虫在构建高质量训练数据集时效率低下、内容筛选不够精准的问题。它并非盲目抓取全网数据，而是基于论文《Craw4LLM: Efficient Web Crawling for LLM Pretraining》的核心算法，通过对文档进行智能评分与排序，优先获取对模型训练最有价值的文本内容。\n\n该工具主要面向 AI 研究人员和开发者，特别是那些需要从零构建或优化大规模预训练数据集的团队。Craw4LLM 的独特亮点在于其灵活的评分机制：用户不仅可以依据文档长度、入链数量等基础指标进行筛选，还能集成 FastText 等机器学习模型（如 DCLM 分类器）对内容质量进行深度打分。系统支持多线程并发处理，并允许用户通过简单的 YAML 配置文件自定义抓取策略、种子文档及存储路径，甚至能模拟随机抓取或基于链接关系的基线对比实验。配合 ClueWeb22 等大型数据集，Craw4LLM 能帮助研究者以更低的计算成本，快速构建出更纯净、更具代表性的语料库，从而提升后续模型训练的效果。","# Craw4LLM\n\nThis repo contains the code for the paper \"[Craw4LLM: Efficient Web Crawling for LLM Pretraining](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2502.13347)\".\n\n## Prerequisite\n\n1. [Request the ClueWeb22 dataset](https:\u002F\u002Flemurproject.org\u002Fclueweb22\u002F).\n2. Create a virtual environment with python >= 3.10 and install the following requirements:\n```\nnumpy\ntqdm\nfasttext\npyyaml\nwandb\n```\n3. [Download the DCLM fastText classifier](https:\u002F\u002Fhuggingface.co\u002Fmlfoundations\u002Ffasttext-oh-eli5\u002Ftree\u002Fmain) to `fasttext_scorers\u002F`.\n\n> [!IMPORTANT] \n> To run the crawler efficiently, the ClueWeb22 data should be placed on **an SSD**.\n\n## Run the Crawler\n\nTo run a (simulated) crawl, first create a yaml configuration file under `configs\u002F`, and run the following command:\n\n```bash\npython crawl.py crawl --config \u003Cpath_to_your_config_file>\n```\n\n### Craw4LLM\n\nCreate a yaml file in `configs\u002F` with the following content:\n\n```yaml\ncw22_root_path: \u003Cpath_to_clueweb22_a>\nseed_docs_file: seed.txt\noutput_dir: crawl_results\u002Fseed_10k_crawl_20m_dclm_fasttext\nnum_selected_docs_per_iter: 10000\nnum_workers: 16  # set to a number that fits your machine\nsave_state_every: -1  # set to a positive number to save the state (queue & visited set) of the crawler every certain steps\nmax_num_docs: 20000000\nselection_method: dclm_fasttext_score\norder: desc  # desc for descending, asc for ascending\nwandb: true  # set to false to disable wandb logging\nwandb_project: crawler\nwandb_run_name: seed_10k_crawl_20m_dclm_fasttext\nrating_methods:\n    - \n        type: length\n    - \n        type: fasttext_score\n        rater_name: dclm_fasttext_score\n        model_path: fasttext_scorers\u002Fopenhermes_reddit_eli5_vs_rw_v2_bigram_200k_train.bin\n```\n\nDocuments are scored by all scorers in `rating_methods`. In the above configuration file, we set a `length` scorer, which scores a document by its length, and a `fasttext_score` scorer which uses the DCLM fastText model to score a document. The final ranking is determined by `selection_method` which is set to `dclm_fasttext_score`, the name of the `fasttext_score` scorer.\n\n### Baseline Crawlers\n\n#### Random Crawler\n\n```yaml\ncw22_root_path: \u003Cpath_to_clueweb22_a>\nseed_docs_file: seed.txt\noutput_dir: crawl_results\u002Fseed_10k_crawl_20m_random\nnum_selected_docs_per_iter: 10000\nnum_workers: 16\nsave_state_every: -1\nmax_num_docs: 20000000\nselection_method: random_score\norder: desc\nwandb: true\nwandb_project: crawler\nwandb_run_name: seed_10k_crawl_20m_random\nrating_methods:\n    - \n        type: random_score\n```\n\n#### Indegree-based Crawler\n\n```yaml\ncw22_root_path: \u003Cpath_to_clueweb22_a>\nseed_docs_file: seed.txt\noutput_dir: crawl_results\u002Fseed_10k_crawl_20m_indegree\nnum_selected_docs_per_iter: 10000\nnum_workers: 16\nsave_state_every: -1\nmax_num_docs: 20000000\nselection_method: inlink_count\norder: desc\nwandb: true\nwandb_project: crawler\nwandb_run_name: seed_10k_crawl_20m_indegree\nrating_methods:\n    - \n        type: inlink_count\n```\n\n## Pretraining and Evaluation\n\nAfter running the crawler, the crawled document ids will be placed in `output_dir` in the configuration file. Run the following command to get the document texts:\n\n```bash\npython fetch_docs.py  --input_dir \u003Cdocument_ids_dir>  --output_dir \u003Cdocument_texts_dir>  --num_workers \u003Cnum_workers>\n```\n\nThen you can use the [DCLM](https:\u002F\u002Fgithub.com\u002Fmlfoundations\u002Fdclm\u002F) framework to run LLM pretraining and evaluation.\n\n## Miscellaneous\n\n### Browse the Data\n\nRun the following command to print a document and its outlinks by its id:\n\n```bash\npython access_data.py \u003Cpath_to_clueweb22> \u003Cdocument_id>\n```\n","# Craw4LLM\n\n此仓库包含论文“[Craw4LLM: 面向 LLM 预训练的高效网络爬取](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2502.13347)”的代码。\n\n## 前置条件\n\n1. [申请 ClueWeb22 数据集](https:\u002F\u002Flemurproject.org\u002Fclueweb22\u002F)。\n2. 创建一个 Python >= 3.10 的虚拟环境，并安装以下依赖：\n   ```\n   numpy\n   tqdm\n   fasttext\n   pyyaml\n   wandb\n   ```\n3. 将 [DCLM fastText 分类器](https:\u002F\u002Fhuggingface.co\u002Fmlfoundations\u002Ffasttext-oh-eli5\u002Ftree\u002Fmain) 下载至 `fasttext_scorers\u002F` 目录下。\n\n> [!重要] \n> 为高效运行爬虫，ClueWeb22 数据应放置在 **SSD 硬盘** 上。\n\n## 运行爬虫\n\n要执行（模拟）爬取，首先在 `configs\u002F` 目录下创建一个 YAML 配置文件，然后运行以下命令：\n\n```bash\npython crawl.py crawl --config \u003C你的配置文件路径>\n```\n\n### Craw4LLM\n\n在 `configs\u002F` 目录下创建一个 YAML 文件，内容如下：\n\n```yaml\ncw22_root_path: \u003Cclueweb22_a 数据路径>\nseed_docs_file: seed.txt\noutput_dir: crawl_results\u002Fseed_10k_crawl_20m_dclm_fasttext\nnum_selected_docs_per_iter: 10000\nnum_workers: 16  # 根据你的机器配置设置\nsave_state_every: -1  # 设置为正数以每隔若干步保存爬虫状态（队列及已访问集合）\nmax_num_docs: 20000000\nselection_method: dclm_fasttext_score\norder: desc  # desc 表示降序，asc 表示升序\nwandb: true  # 设置为 false 可禁用 WandB 日志记录\nwandb_project: crawler\nwandb_run_name: seed_10k_crawl_20m_dclm_fasttext\nrating_methods:\n    - \n        type: length\n    - \n        type: fasttext_score\n        rater_name: dclm_fasttext_score\n        model_path: fasttext_scorers\u002Fopenhermes_reddit_eli5_vs_rw_v2_bigram_200k_train.bin\n```\n\n文档将由 `rating_methods` 中的所有评分器进行打分。在上述配置文件中，我们设置了一个按长度打分的 `length` 评分器，以及一个使用 DCLM fastText 模型打分的 `fasttext_score` 评分器。最终排名由 `selection_method` 决定，此处设置为 `dclm_fasttext_score`，即 `fasttext_score` 评分器的名称。\n\n### 基线爬虫\n\n#### 随机爬虫\n\n```yaml\ncw22_root_path: \u003Cclueweb22_a 数据路径>\nseed_docs_file: seed.txt\noutput_dir: crawl_results\u002Fseed_10k_crawl_20m_random\nnum_selected_docs_per_iter: 10000\nnum_workers: 16\nsave_state_every: -1\nmax_num_docs: 20000000\nselection_method: random_score\norder: desc\nwandb: true\nwandb_project: crawler\nwandb_run_name: seed_10k_crawl_20m_random\nrating_methods:\n    - \n        type: random_score\n```\n\n#### 基于入链数的爬虫\n\n```yaml\ncw22_root_path: \u003Cclueweb22_a 数据路径>\nseed_docs_file: seed.txt\noutput_dir: crawl_results\u002Fseed_10k_crawl_20m_indegree\nnum_selected_docs_per_iter: 10000\nnum_workers: 16\nsave_state_every: -1\nmax_num_docs: 20000000\nselection_method: inlink_count\norder: desc\nwandb: true\nwandb_project: crawler\nwandb_run_name: seed_10k_crawl_20m_indegree\nrating_methods:\n    - \n        type: inlink_count\n```\n\n## 预训练与评估\n\n爬虫运行完成后，爬取到的文档 ID 将被存放在配置文件中指定的 `output_dir` 目录下。运行以下命令以获取文档文本：\n\n```bash\npython fetch_docs.py  --input_dir \u003C文档ID目录>  --output_dir \u003C文档文本目录>  --num_workers \u003C工作进程数>\n```\n\n随后，您可以使用 [DCLM](https:\u002F\u002Fgithub.com\u002Fmlfoundations\u002Fdclm\u002F) 框架进行 LLM 的预训练和评估。\n\n## 其他\n\n### 浏览数据\n\n运行以下命令可按文档 ID 打印该文档及其外链：\n\n```bash\npython access_data.py \u003Cclueweb22路径> \u003C文档ID>\n```","# Craw4LLM 快速上手指南\n\nCraw4LLM 是一个专为大语言模型（LLM）预训练设计的高效网页爬虫工具，基于论文 *[Craw4LLM: Efficient Web Crawling for LLM Pretraining](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2502.13347)* 实现。它支持基于多种评分策略（如 FastText 质量评分、入链数量等）从 ClueWeb22 数据集中筛选高质量文档。\n\n## 环境准备\n\n在开始之前，请确保满足以下系统和依赖要求：\n\n*   **操作系统**：Linux 推荐（需高性能磁盘 I\u002FO）。\n*   **Python 版本**：>= 3.10。\n*   **存储要求**：**强烈建议将 ClueWeb22 数据集放置在 SSD 固态硬盘上**，以保证爬虫运行效率。\n*   **前置数据**：\n    1.  申请并下载 [ClueWeb22 数据集](https:\u002F\u002Flemurproject.org\u002Fclueweb22\u002F)。\n    2.  下载 [DCLM FastText 分类器模型](https:\u002F\u002Fhuggingface.co\u002Fmlfoundations\u002Ffasttext-oh-eli5\u002Ftree\u002Fmain)，并将其放入项目根目录下的 `fasttext_scorers\u002F` 文件夹中。\n\n## 安装步骤\n\n1.  **创建虚拟环境**（推荐使用 conda 或 venv）：\n    ```bash\n    python -m venv craw4llm_env\n    source craw4llm_env\u002Fbin\u002Factivate  # Windows 用户请使用: craw4llm_env\\Scripts\\activate\n    ```\n\n2.  **安装依赖包**：\n    为确保下载速度，建议使用国内镜像源（如清华源）安装：\n    ```bash\n    pip install numpy tqdm fasttext pyyaml wandb -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n    ```\n    > 注意：`fasttext` 在某些系统上可能需要先安装构建工具（如 `build-essential` 或 `gcc`）。\n\n## 基本使用\n\n以下是使用 **Craw4LLM 策略**（基于 DCLM FastText 评分）进行模拟爬取的最简流程。\n\n### 1. 准备配置文件\n\n在项目根目录的 `configs\u002F` 文件夹下创建一个 YAML 配置文件（例如 `my_crawl.yaml`），内容如下。请根据实际情况修改路径：\n\n```yaml\ncw22_root_path: \u003Cpath_to_clueweb22_a>  # 替换为你的 ClueWeb22 数据实际路径\nseed_docs_file: seed.txt               # 种子文档列表文件\noutput_dir: crawl_results\u002Fseed_10k_crawl_20m_dclm_fasttext\nnum_selected_docs_per_iter: 10000      # 每轮迭代选择的文档数\nnum_workers: 16                        # 根据机器 CPU 核心数调整\nsave_state_every: -1                   # 设为正整数可定期保存爬虫状态\nmax_num_docs: 20000000                 # 最大抓取文档总数\nselection_method: dclm_fasttext_score  # 选择策略：基于 FastText 评分\norder: desc                            # 排序：desc 为降序（高分优先）\nwandb: true                            # 是否启用 WandB 日志\nwandb_project: crawler\nwandb_run_name: seed_10k_crawl_20m_dclm_fasttext\nrating_methods:\n    - \n        type: length                   # 长度评分器\n    - \n        type: fasttext_score           # FastText 质量评分器\n        rater_name: dclm_fasttext_score\n        model_path: fasttext_scorers\u002Fopenhermes_reddit_eli5_vs_rw_v2_bigram_200k_train.bin\n```\n\n> **提示**：如果你没有 `seed.txt`，需要自行准备一个包含初始文档 ID 的文本文件。\n\n### 2. 运行爬虫\n\n执行以下命令启动爬取任务：\n\n```bash\npython crawl.py crawl --config configs\u002Fmy_crawl.yaml\n```\n\n### 3. 获取文档文本\n\n爬虫结束后，输出目录中将包含被选中的文档 ID 列表。使用以下命令提取具体的文档文本内容：\n\n```bash\npython fetch_docs.py --input_dir \u003Cdocument_ids_dir> --output_dir \u003Cdocument_texts_dir> --num_workers 16\n```\n*请将 `\u003Cdocument_ids_dir>` 替换为配置文件中 `output_dir` 的路径，`\u003Cdocument_texts_dir>` 为你希望保存文本的路径。*\n\n提取完成后，即可使用 [DCLM](https:\u002F\u002Fgithub.com\u002Fmlfoundations\u002Fdclm\u002F) 框架进行后续的 LLM 预训练和评估。\n\n### 其他内置策略\n\n除了默认的 FastText 评分策略，工具还支持通过修改配置文件中的 `selection_method` 和 `rating_methods` 来使用其他基线策略：\n*   **随机爬取 (Random Crawler)**: 设置 `selection_method: random_score`。\n*   **基于入链数量爬取 (Indegree-based Crawler)**: 设置 `selection_method: inlink_count`。\n\n### 数据浏览（可选）\n\n若需查看特定文档的内容及其出链信息，可运行：\n\n```bash\npython access_data.py \u003Cpath_to_clueweb22> \u003Cdocument_id>\n```","某大型语言模型实验室的研究团队正计划基于 ClueWeb22 海量网页数据，构建一个高质量的领域专用预训练数据集。\n\n### 没有 Craw4LLM 时\n- **数据筛选盲目低效**：团队只能采用随机抓取或简单的入度统计策略，导致抓取到的 2000 万文档中包含大量短文本、广告或低质内容，清洗成本极高。\n- **算力资源严重浪费**：由于缺乏智能评分机制，宝贵的 GPU 预训练时间被消耗在噪声数据上，模型收敛速度慢且最终性能不佳。\n- **流程复现困难**：传统的爬虫脚本缺乏状态保存和配置化管理，一旦中断难以断点续传，且不同实验间的抓取策略难以精确对比和复现。\n\n### 使用 Craw4LLM 后\n- **智能优选高质量语料**：通过集成 DCLM fastText 分类器，Craw4LLM 能实时对文档进行语义打分，优先抓取长度适宜且信息密度高的“精英”网页，显著提升数据纯度。\n- **预训练效率大幅跃升**：基于评分排序的定向抓取确保了输入数据的质量，使得模型在相同数据量下收敛更快，在下游任务评测中表现更优。\n- **工程化流程稳健可控**：利用 YAML 配置文件灵活定义评分组合与抓取策略，配合 SSD 加速读取和状态自动保存功能，让大规模分布式抓取任务稳定且可复现。\n\nCraw4LLM 通过将“质量评分”前置到抓取环节，从根本上解决了大模型预训练中数据获取“多而不精”的难题，实现了从粗放式采集到精细化运营的跨越。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fcxcscmu_Craw4LLM_44120e57.png","cxcscmu","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fcxcscmu_59110107.png",null,"https:\u002F\u002Fgithub.com\u002Fcxcscmu",[77],{"name":78,"color":79,"percentage":80},"Python","#3572A5",100,652,60,"2026-04-11T16:08:49","MIT",4,"未说明","未说明（建议根据 num_workers 数量配置，需配合 SSD 使用）",{"notes":89,"python":90,"dependencies":91},"1. 必须预先申请并获取 ClueWeb22 数据集。2. 为高效运行爬虫，ClueWeb22 数据必须存放在固态硬盘（SSD）上。3. 需要手动下载 DCLM fastText 分类器模型并放置于指定目录。4. 支持通过配置文件调整并发工作线程数（num_workers）以适配机器性能。",">=3.10",[92,93,94,95,96],"numpy","tqdm","fasttext","pyyaml","wandb",[35,16,14],[99,100,101,102,103,104,105,106],"crawler","crawling","large-language-models","llm","pre-training","pretraining","web-crawler","web-crawling","2026-03-27T02:49:30.150509","2026-04-17T09:54:33.810166",[110,115,119,124,128,132],{"id":111,"question_zh":112,"answer_zh":113,"source_url":114},36463,"项目依赖的数据集申请耗时较长，能否提供部分测试数据集示例或构建方法？","官方数据集（ClueWeb22）是免费的但需要申请，官网地址：https:\u002F\u002Flemurproject.org\u002Fclueweb22\u002Fobtain.php。虽然可以自行构建简单数据集进行测试，但效果可能不明显，建议申请正式数据集。\n\n若需自行构建测试数据，需注意以下几点：\n1. 数据结构参考：{\"doc_id\": \"doc_0\", \"url\": \"http:\u002F\u002Fexample.com\u002Fpage1\", \"text\": \"Sample text...\", \"inlinks\": [\"doc_10\"], \"outlinks\": [\"doc_5\"]}。\n2. 配置文件：检查 config.yaml 中的 cw22_root_path、max_num_docs 和 rating_methods 参数。\n3. 代码逻辑：理解 corpus_interface 文件中的 get_base_filename_by_id 和 get_json_record 方法。\n4. 目录结构示例（爬取模式 inlink_count）：\n   ----clueweb22\n       |----txt\n       |    |----en\n       |    |    |----en01\n       |    |    |    |----en0119\n       |    |    |    |    |----en0119-49.json.gz\n       |    |    |    |    |----en0119-49.offset\n       |----inlink\n       |    |----en...","https:\u002F\u002Fgithub.com\u002Fcxcscmu\u002FCraw4LLM\u002Fissues\u002F1",{"id":116,"question_zh":117,"answer_zh":118,"source_url":114},36464,"ClueWeb22 数据集是免费的吗？申请是否需要付费？","ClueWeb22 数据集本身是免费的，但是需要通过官方网站进行申请。申请流程请参考：https:\u002F\u002Flemurproject.org\u002Fclueweb22\u002Fobtain.php。虽然没有提及直接的费用，但申请过程可能需要时间审批。",{"id":120,"question_zh":121,"answer_zh":122,"source_url":123},36465,"必须使用 ClueWeb22 数据集吗？是否可以使用其他数据集（如医疗对话数据）替代？","项目代码逻辑是围绕 ClueWeb22 数据集的结构（如 seed.txt、inlinks\u002Foutlinks 关系）设计的。虽然理论上可以尝试适配其他数据集，但需要深度修改 corpus_interface 中的解析逻辑（如 get_base_filename_by_id 和 get_json_record 方法），并调整 config.yaml 配置。对于特定领域（如医疗对话），目前官方未提供直接替代方案，建议先申请 ClueWeb22 以跑通流程，再尝试迁移。","https:\u002F\u002Fgithub.com\u002Fcxcscmu\u002FCraw4LLM\u002Fissues\u002F5",{"id":125,"question_zh":126,"answer_zh":127,"source_url":114},36466,"如何配置项目以正确读取自建或下载的数据集目录结构？","需要在项目的 config.yaml 文件中正确设置以下参数：\n1. cw22_root_path: 指向数据集根目录（例如 clueweb22 文件夹路径）。\n2. max_num_docs: 限制处理的文档数量。\n3. rating_methods: 设置评分方法。\n同时，确保数据目录结构符合代码预期，例如包含 txt 和 inlink 子目录，且内部按语言（en）和编号（en01\u002Fen00）分层，文件后缀需为 .json.gz 和 .offset。",{"id":129,"question_zh":130,"answer_zh":131,"source_url":114},36467,"自建测试数据集的 JSON 记录格式应该是什么样的？","自建数据集的 JSON 记录应包含以下关键字段：\n- doc_id: 文档唯一标识符 (字符串)\n- url: 原始网页链接 (字符串)\n- text: 网页文本内容 (字符串)\n- inlinks: 指向该文档的其他文档 ID 列表 (数组)\n- outlinks: 该文档指向的其他文档 ID 列表 (数组)\n\n示例：\n{\n  \"doc_id\": \"doc_0\",\n  \"url\": \"http:\u002F\u002Fexample.com\u002Fpage1\",\n  \"text\": \"This is a sample text generated by Faker...\",\n  \"inlinks\": [\"doc_10\", \"doc_20\"],\n  \"outlinks\": [\"doc_5\", \"doc_15\"]\n}",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},36468,"该项目可以用来爬取网页上的特定数据吗？","该项目主要设计用于处理已下载的 ClueWeb22 格式数据集，而非直接作为通用网页爬虫使用。其核心逻辑在于解析特定的 .json.gz 和 .offset 文件结构以及处理链接关系（inlinks\u002Foutlinks）。如果您想爬取特定网页数据，需要先编写爬虫将数据清洗并转换为项目支持的 JSON 格式和目录结构，然后才能利用项目进行后续处理。","https:\u002F\u002Fgithub.com\u002Fcxcscmu\u002FCraw4LLM\u002Fissues\u002F3",[]]