[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-lonePatient--Bert-Multi-Label-Text-Classification":3,"tool-lonePatient--Bert-Multi-Label-Text-Classification":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",149489,2,"2026-04-10T11:32:46",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":77,"owner_email":78,"owner_twitter":76,"owner_website":79,"owner_url":80,"languages":81,"stars":86,"forks":87,"last_commit_at":88,"license":89,"difficulty_score":10,"env_os":90,"env_gpu":91,"env_ram":90,"env_deps":92,"category_tags":104,"github_topics":105,"view_count":32,"oss_zip_url":76,"oss_zip_packed_at":76,"status":17,"created_at":116,"updated_at":117,"faqs":118,"releases":154},6330,"lonePatient\u002FBert-Multi-Label-Text-Classification","Bert-Multi-Label-Text-Classification","This repo contains a PyTorch implementation of a pretrained BERT model for multi-label text classification.","Bert-Multi-Label-Text-Classification 是一个基于 PyTorch 构建的开源项目，旨在利用预训练的 BERT 和 XLNet 模型高效解决文本多标签分类问题。与传统单标签分类不同，它能精准识别一段文本中同时存在的多个类别（例如在内容审核中，一句话可能同时包含“侮辱”、“威胁”和“仇恨言论”），有效应对了现实场景中标签重叠复杂的挑战。\n\n该项目非常适合自然语言处理领域的开发者、算法工程师及研究人员使用。其代码结构清晰，模块化设计了数据预处理、模型训练、监控回调及配置管理等环节，并提供了完整的从数据下载、微调训练到预测评估的运行脚本。技术亮点在于它不仅支持主流的 BERT 和 XLNet 架构，还针对多 GPU 训练环境进行了适配，并内置了学习率调度与训练监控功能。通过在有毒评论分类数据集上的验证，该工具在多个细分标签上均取得了极高的 AUC 指标，证明了其卓越的泛化能力。对于希望快速复现前沿成果或将大模型应用于实际多标签分类任务的团队而言，这是一个兼具实用性与参考价值的优质基线方案。","## Bert multi-label text classification by PyTorch\r\n\r\nThis repo contains a PyTorch implementation of the pretrained BERT and XLNET model for multi-label text classification.\r\n\r\n###  Structure of the code\r\n\r\nAt the root of the project, you will see:\r\n\r\n```text\r\n├── pybert\r\n|  └── callback\r\n|  |  └── lrscheduler.py　　\r\n|  |  └── trainingmonitor.py　\r\n|  |  └── ...\r\n|  └── config\r\n|  |  └── basic_config.py #a configuration file for storing model parameters\r\n|  └── dataset　　　\r\n|  └── io　　　　\r\n|  |  └── dataset.py　　\r\n|  |  └── data_transformer.py　　\r\n|  └── model\r\n|  |  └── nn　\r\n|  |  └── pretrain　\r\n|  └── output #save the ouput of model\r\n|  └── preprocessing #text preprocessing \r\n|  └── train #used for training a model\r\n|  |  └── trainer.py \r\n|  |  └── ...\r\n|  └── common # a set of utility functions\r\n├── run_bert.py\r\n├── run_xlnet.py\r\n```\r\n### Dependencies\r\n\r\n- csv\r\n- tqdm\r\n- numpy\r\n- pickle\r\n- scikit-learn\r\n- PyTorch 1.1+\r\n- matplotlib\r\n- pandas\r\n- transformers=2.5.1\r\n\r\n### How to use the code\r\n\r\nyou need download pretrained bert model and xlnet model.\r\n\r\n\u003Cdiv class=\"note info\">\u003Cp> BERT:  bert-base-uncased\u003C\u002Fp>\u003C\u002Fdiv>\r\n\r\n\u003Cdiv class=\"note info\">\u003Cp> XLNET:  xlnet-base-cased\u003C\u002Fp>\u003C\u002Fdiv>\r\n\r\n1. Download the Bert pretrained model from [s3](https:\u002F\u002Fs3.amazonaws.com\u002Fmodels.huggingface.co\u002Fbert\u002Fbert-base-uncased-pytorch_model.bin) \r\n2. Download the Bert config file from [s3](https:\u002F\u002Fs3.amazonaws.com\u002Fmodels.huggingface.co\u002Fbert\u002Fbert-base-uncased-config.json) \r\n3. Download the Bert vocab file from [s3](https:\u002F\u002Fs3.amazonaws.com\u002Fmodels.huggingface.co\u002Fbert\u002Fbert-base-uncased-vocab.txt) \r\n4. Rename:\r\n\r\n    - `bert-base-uncased-pytorch_model.bin` to `pytorch_model.bin`\r\n    - `bert-base-uncased-config.json` to `config.json`\r\n    - `bert-base-uncased-vocab.txt` to `bert_vocab.txt`\r\n5. Place `model` ,`config` and `vocab` file into  the `\u002Fpybert\u002Fpretrain\u002Fbert\u002Fbase-uncased` directory.\r\n6. `pip install pytorch-transformers` from [github](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Fpytorch-transformers).\r\n7. Download [kaggle data](https:\u002F\u002Fwww.kaggle.com\u002Fc\u002Fjigsaw-toxic-comment-classification-challenge\u002Fdata) and place in `pybert\u002Fdataset`.\r\n    -  you can modify the `io.task_data.py` to adapt your data.\r\n8. Modify configuration information in `pybert\u002Fconfigs\u002Fbasic_config.py`(the path of data,...).\r\n9. Run `python run_bert.py --do_data` to preprocess data.\r\n10. Run `python run_bert.py --do_train --save_best --do_lower_case` to fine tuning bert model.\r\n11. Run `run_bert.py --do_test --do_lower_case` to predict new data.\r\n\r\n### training \r\n\r\n```text\r\n[training] 8511\u002F8511 [>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>] -0.8s\u002Fstep- loss: 0.0640\r\ntraining result:\r\n[2019-01-14 04:01:05]: bert-multi-label trainer.py[line:176] INFO  \r\nEpoch: 2 - loss: 0.0338 - val_loss: 0.0373 - val_auc: 0.9922\r\n```\r\n### training figure\r\n\r\n![]( https:\u002F\u002Flonepatient-1257945978.cos.ap-chengdu.myqcloud.com\u002F20190214210111.png)\r\n\r\n### result\r\n\r\n```python\r\n---- train report every label -----\r\nLabel: toxic - auc: 0.9903\r\nLabel: severe_toxic - auc: 0.9913\r\nLabel: obscene - auc: 0.9951\r\nLabel: threat - auc: 0.9898\r\nLabel: insult - auc: 0.9911\r\nLabel: identity_hate - auc: 0.9910\r\n---- valid report every label -----\r\nLabel: toxic - auc: 0.9892\r\nLabel: severe_toxic - auc: 0.9911\r\nLabel: obscene - auc: 0.9945\r\nLabel: threat - auc: 0.9955\r\nLabel: insult - auc: 0.9903\r\nLabel: identity_hate - auc: 0.9927\r\n```\r\n\r\n## Tips\r\n\r\n- When converting the tensorflow checkpoint into the pytorch, it's expected to choice the \"bert_model.ckpt\", instead of \"bert_model.ckpt.index\", as the input file. Otherwise, you will see that the model can learn nothing and give almost same random outputs for any inputs. This means, in fact, you have not loaded the true ckpt for your model\r\n- When using multiple GPUs, the non-tensor calculations, such as accuracy and f1_score, are not supported by DataParallel instance\r\n- As recommanded by Jocob in his paper \u003Curl>https:\u002F\u002Farxiv.org\u002Fpdf\u002F1810.04805.pdf\u003Curl\u002F>, in fine-tuning tasks, the hyperparameters are expected to set as following: **Batch_size**: 16 or 32, **learning_rate**: 5e-5 or 2e-5 or 3e-5, **num_train_epoch**: 3 or 4\r\n- The pretrained model has a limit for the sentence of input that its length should is not larger than 512, the max position embedding dim. The data flows into the model as: Raw_data -> WordPieces -> Model. Note that the length of wordPieces is generally larger than that of raw_data, so a safe max length of raw_data is at ~128 - 256 \r\n- Upon testing, we found that fine-tuning all layers could get much better results than those of only fine-tuning the last classfier layer. The latter is actually a feature-based way \r\n","## 基于 PyTorch 的 BERT 多标签文本分类\n\n本仓库包含一个使用 PyTorch 实现的预训练 BERT 和 XLNET 模型，用于多标签文本分类任务。\n\n### 代码结构\n\n在项目的根目录下，您会看到以下文件和目录：\n\n```text\n├── pybert\n|  └── callback\n|  |  └── lrscheduler.py　　\n|  |  └── trainingmonitor.py　\n|  |  └── ...\n|  └── config\n|  |  └── basic_config.py # 存储模型参数的配置文件\n|  └── dataset　　　\n|  └── io　　　　\n|  |  └── dataset.py　　\n|  |  └── data_transformer.py　　\n|  └── model\n|  |  └── nn　\n|  |  └── pretrain　\n|  └── output # 保存模型输出\n|  └── preprocessing # 文本预处理\n|  └── train # 用于训练模型\n|  |  └── trainer.py \n|  |  └── ...\n|  └── common # 工具函数集合\n├── run_bert.py\n├── run_xlnet.py\n```\n\n### 依赖项\n\n- csv\n- tqdm\n- numpy\n- pickle\n- scikit-learn\n- PyTorch 1.1+\n- matplotlib\n- pandas\n- transformers=2.5.1\n\n### 如何使用代码\n\n您需要下载预训练的 BERT 模型和 XLNET 模型。\n\n\u003Cdiv class=\"note info\">\u003Cp> BERT: bert-base-uncased\u003C\u002Fp>\u003C\u002Fdiv>\n\n\u003Cdiv class=\"note info\">\u003Cp> XLNET: xlnet-base-cased\u003C\u002Fp>\u003C\u002Fdiv>\n\n1. 从 [s3](https:\u002F\u002Fs3.amazonaws.com\u002Fmodels.huggingface.co\u002Fbert\u002Fbert-base-uncased-pytorch_model.bin) 下载 BERT 预训练模型。\n2. 从 [s3](https:\u002F\u002Fs3.amazonaws.com\u002Fmodels.huggingface.co\u002Fbert\u002Fbert-base-uncased-config.json) 下载 BERT 配置文件。\n3. 从 [s3](https:\u002F\u002Fs3.amazonaws.com\u002Fmodels.huggingface.co\u002Fbert\u002Fbert-base-uncased-vocab.txt) 下载 BERT 词汇表文件。\n4. 重命名：\n   - `bert-base-uncased-pytorch_model.bin` 重命名为 `pytorch_model.bin`\n   - `bert-base-uncased-config.json` 重命名为 `config.json`\n   - `bert-base-uncased-vocab.txt` 重命名为 `bert_vocab.txt`\n5. 将 `model`、`config` 和 `vocab` 文件放入 `\u002Fpybert\u002Fpretrain\u002Fbert\u002Fbase-uncased` 目录中。\n6. 通过 [GitHub](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Fpytorch-transformers) 安装 `pytorch-transformers`。\n7. 下载 [Kaggle 数据集](https:\u002F\u002Fwww.kaggle.com\u002Fc\u002Fjigsaw-toxic-comment-classification-challenge\u002Fdata) 并放置在 `pybert\u002Fdataset` 目录中。\n   - 您可以修改 `io.task_data.py` 来适配您的数据。\n8. 修改 `pybert\u002Fconfigs\u002Fbasic_config.py` 中的配置信息（数据路径等）。\n9. 运行 `python run_bert.py --do_data` 进行数据预处理。\n10. 运行 `python run_bert.py --do_train --save_best --do_lower_case` 对 BERT 模型进行微调。\n11. 运行 `run_bert.py --do_test --do_lower_case` 对新数据进行预测。\n\n### 训练过程\n\n```text\n[training] 8511\u002F8511 [>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>] -0.8s\u002Fstep- loss: 0.0640\n训练结果：\n[2019-01-14 04:01:05]: bert-multi-label trainer.py[line:176] INFO  \nEpoch: 2 - loss: 0.0338 - val_loss: 0.0373 - val_auc: 0.9922\n```\n\n### 训练曲线图\n\n![]( https:\u002F\u002Flonepatient-1257945978.cos.ap-chengdu.myqcloud.com\u002F20190214210111.png )\n\n### 结果\n\n```python\n---- 每个标签的训练报告 -----\nLabel: toxic - auc: 0.9903\nLabel: severe_toxic - auc: 0.9913\nLabel: obscene - auc: 0.9951\nLabel: threat - auc: 0.9898\nLabel: insult - auc: 0.9911\nLabel: identity_hate - auc: 0.9910\n---- 每个标签的验证报告 -----\nLabel: toxic - auc: 0.9892\nLabel: severe_toxic - auc: 0.9911\nLabel: obscene - auc: 0.9945\nLabel: threat - auc: 0.9955\nLabel: insult - auc: 0.9903\nLabel: identity_hate - auc: 0.9927\n```\n\n## 使用提示\n\n- 在将 TensorFlow 检查点转换为 PyTorch 格式时，应选择 `bert_model.ckpt` 而不是 `bert_model.ckpt.index` 作为输入文件。否则，模型将无法学习，并对任何输入产生几乎相同的随机输出。这表明您并未正确加载模型的真实检查点。\n- 在使用多 GPU 时，DataParallel 实例不支持非张量计算，例如准确率和 F1 分数。\n- 根据 Jacob 在论文 \u003Curl>https:\u002F\u002Farxiv.org\u002Fpdf\u002F1810.04805.pdf\u003Curl\u002F> 中的建议，在微调任务中，超参数应设置为：**Batch_size**: 16 或 32，**learning_rate**: 5e-5、2e-5 或 3e-5，**num_train_epoch**: 3 或 4。\n- 预训练模型对输入句子的长度有限制，不得超过 512 个标记（即最大位置嵌入维度）。数据流经以下流程进入模型：原始数据 -> WordPieces -> 模型。需要注意的是，WordPieces 的长度通常会比原始数据长，因此原始数据的安全最大长度约为 128–256 个标记。\n- 经过测试发现，微调所有层的效果通常优于仅微调最后一层分类器的效果。后者实际上是一种基于特征的方法。","# Bert-Multi-Label-Text-Classification 快速上手指南\n\n本指南帮助中国开发者快速部署基于 PyTorch 的 BERT\u002FXLNet 多标签文本分类模型。\n\n## 环境准备\n\n### 系统要求\n- **Python**: 建议 Python 3.6+\n- **PyTorch**: 1.1 或更高版本\n- **Transformers**: 2.5.1 (注意版本兼容性)\n\n### 前置依赖\n请确保安装以下 Python 库：\n```bash\npip install csv tqdm numpy pickle scikit-learn matplotlib pandas\n```\n\n> **国内加速建议**：推荐使用清华源或阿里源加速安装，例如：\n> `pip install -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple \u003Cpackage_name>`\n\n## 安装步骤\n\n### 1. 安装核心依赖\n安装指定的 transformers 版本（原项目依赖 `pytorch-transformers`，即旧版 `transformers`）：\n```bash\npip install pytorch-transformers==2.5.1\n# 或者使用国内镜像\npip install -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple pytorch-transformers==2.5.1\n```\n\n### 2. 下载预训练模型\n本项目需要手动下载 BERT 或 XLNet 预训练权重文件。以 **BERT (bert-base-uncased)** 为例：\n\n1.  **下载文件**：\n    *   模型权重: [pytorch_model.bin](https:\u002F\u002Fs3.amazonaws.com\u002Fmodels.huggingface.co\u002Fbert\u002Fbert-base-uncased-pytorch_model.bin)\n    *   配置文件: [config.json](https:\u002F\u002Fs3.amazonaws.com\u002Fmodels.huggingface.co\u002Fbert\u002Fbert-base-uncased-config.json)\n    *   词表文件: [vocab.txt](https:\u002F\u002Fs3.amazonaws.com\u002Fmodels.huggingface.co\u002Fbert\u002Fbert-base-uncased-vocab.txt)\n    \n    > **提示**：若 S3 下载缓慢，可尝试在 Hugging Face 官网或国内 ModelScope 社区搜索对应模型资源。\n\n2.  **重命名文件**：\n    将下载的文件重命名为：\n    *   `bert-base-uncased-pytorch_model.bin` -> `pytorch_model.bin`\n    *   `bert-base-uncased-config.json` -> `config.json`\n    *   `bert-base-uncased-vocab.txt` -> `bert_vocab.txt`\n\n3.  **放置文件**：\n    将上述三个文件放入项目目录下的指定文件夹：\n    ```text\n    \u002Fpybert\u002Fpretrain\u002Fbert\u002Fbase-uncased\u002F\n    ```\n    *(如果目录不存在，请手动创建)*\n\n### 3. 准备数据集\n下载 [Kaggle Jigsaw Toxic Comment](https:\u002F\u002Fwww.kaggle.com\u002Fc\u002Fjigsaw-toxic-comment-classification-challenge\u002Fdata) 数据集，并将数据文件放置在 `pybert\u002Fdataset` 目录下。\n*如需使用自定义数据，请修改 `pybert\u002Fio\u002Ftask_data.py` 适配您的数据格式。*\n\n### 4. 配置参数\n编辑 `pybert\u002Fconfig\u002Fbasic_config.py`，修改数据路径、模型路径等配置信息以匹配您的本地环境。\n\n## 基本使用\n\n完成上述准备后，即可通过命令行运行模型。\n\n### 1. 数据预处理\n执行以下命令处理原始数据：\n```bash\npython run_bert.py --do_data\n```\n\n### 2. 微调训练 (Fine-tuning)\n开始训练模型，并保存最佳权重：\n```bash\npython run_bert.py --do_train --save_best --do_lower_case\n```\n*训练过程中会输出 Loss 和 AUC 指标，类似如下：*\n```text\nEpoch: 2 - loss: 0.0338 - val_loss: 0.0373 - val_auc: 0.9922\n```\n\n### 3. 预测新数据\n使用训练好的模型进行推理：\n```bash\npython run_bert.py --do_test --do_lower_case\n```\n\n### 💡 关键调参建议\n根据原论文推荐，微调任务的最佳超参数设置如下：\n- **Batch_size**: 16 或 32\n- **Learning_rate**: 5e-5, 2e-5 或 3e-5\n- **Num_train_epoch**: 3 或 4\n- **输入长度**: 原始文本建议控制在 128-256 字符以内（经 WordPiece 分词后不超过 512）。","某电商内容安全团队每天需处理数万条用户评论，要求同时识别“广告引流”、“辱骂攻击”、“色情低俗”等多种违规标签。\n\n### 没有 Bert-Multi-Label-Text-Classification 时\n- **模型架构复杂**：传统方案需为每种违规类型单独训练一个二分类模型，导致维护成本高且推理速度慢。\n- **语义理解不足**：基于关键词或浅层机器学习的方法无法捕捉上下文语境，常将正常的反讽或调侃误判为违规。\n- **开发周期漫长**：从数据清洗、特征工程到模型调优全靠人工手写代码，缺乏标准化的训练监控模块，迭代一次需数周。\n- **多标签关联缺失**：难以处理一条评论同时包含多种违规属性的情况，往往只能标记最明显的一个问题，漏报率高。\n\n### 使用 Bert-Multi-Label-Text-Classification 后\n- **一站式多标签输出**：利用预训练的 BERT 模型直接实现端到端的多标签分类，单次推理即可输出所有违规概率，系统响应速度提升 5 倍。\n- **深层语义精准识别**：借助 BERT 强大的上下文表征能力，准确区分恶意攻击与用户玩笑，大幅降低误杀率。\n- **标准化高效开发**：依托工具内置的 `trainer.py` 和回调机制（如学习率调度、训练监控），团队仅需修改配置文件即可完成数据预处理与微调，上线周期缩短至 3 天。\n- **细粒度违规洞察**：完美支持单条文本对应多个标签（如同时判定为“广告”和“辱骂”），配合高 AUC 指标（实测超 0.99），确保内容审核无死角。\n\nBert-Multi-Label-Text-Classification 通过复用预训练大模型的语义理解力与标准化的工程实现，将复杂的多标签文本分类任务转化为高效、精准的自动化流程。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FlonePatient_Bert-Multi-Label-Text-Classification_1d40488f.png","lonePatient","Weitang Liu","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FlonePatient_49a4190d.png","weibo: https:\u002F\u002Fweibo.com\u002F277974397",null,"HangZhou in China","liuweitangmath@163.com","https:\u002F\u002Flonepatient.top","https:\u002F\u002Fgithub.com\u002FlonePatient",[82],{"name":83,"color":84,"percentage":85},"Python","#3572A5",100,924,207,"2026-04-01T20:56:41","MIT","未说明","未明确必需，但支持多 GPU (DataParallel)；具体型号、显存及 CUDA 版本未说明",{"notes":93,"python":90,"dependencies":94},"需手动下载 BERT (bert-base-uncased) 或 XLNet (xlnet-base-cased) 预训练模型文件（权重、配置、词表）并放置于指定目录。输入文本原始长度建议控制在 128-256 之间（因分词后长度会增加，模型最大限制为 512）。微调时建议对所有层进行微调而非仅微调分类层。若使用多 GPU，非张量计算（如 accuracy, f1_score）可能不受 DataParallel 支持。",[95,96,97,98,99,100,101,102,103],"PyTorch>=1.1","transformers==2.5.1","scikit-learn","pandas","numpy","tqdm","matplotlib","pickle","csv",[35,14],[106,107,108,109,110,111,112,113,114,115],"pytorch","pytorch-implmention","nlp","multi-label-classification","text-classification","bert","fine-tuning","xlnet","transformers","albert","2026-03-27T02:49:30.150509","2026-04-11T03:31:37.848413",[119,124,129,134,139,144,149],{"id":120,"question_zh":121,"answer_zh":122,"source_url":123},28661,"如何处理多标签分类任务中的原始标签数据？","在进入 Dataset 之前，需要将原始标签数据处理为等长的编码格式（One-hot 编码）。例如，如果有 5 个可能的标签，样本包含第 1 和第 4 个标签，则应转换为 [1, 0, 0, 1, 0]。具体代码实现可以参考：先清洗数据去除空值，将标签字符串分割为列表，提取所有唯一标签构建列名，最后遍历数据将对应标签位置设为 1。","https:\u002F\u002Fgithub.com\u002FlonePatient\u002FBert-Multi-Label-Text-Classification\u002Fissues\u002F1",{"id":125,"question_zh":126,"answer_zh":127,"source_url":128},28662,"遇到 ImportError: cannot import name 'WarmupLinearSchedule' 错误如何解决？","这是因为 transformers 库版本更新导致 API 变更。请修改导入语句和调用方式：\n1. 将 `from pytorch_pretrained_bert import WarmupLinearSchedule` 替换为 `from transformers import AdamW, get_linear_schedule_with_warmup`。\n2. 将实例化代码改为：`lr_scheduler = get_linear_schedule_with_warmup(optimizer, num_warmup_steps=warmup_steps, num_training_steps=t_total)`。\n注意参数名可能从 `t_total` 变为了 `num_training_steps`，具体请参考 transformers 官方文档。","https:\u002F\u002Fgithub.com\u002FlonePatient\u002FBert-Multi-Label-Text-Classification\u002Fissues\u002F33",{"id":130,"question_zh":131,"answer_zh":132,"source_url":133},28663,"加载预训练 BERT 权重时出现 'Weights not initialized' 或形状不匹配错误怎么办？","这通常是因为模型定义中包含了一些预训练权重中不存在的层（如分类头），或者代码中有强制检查权重的逻辑。解决方案是打开 `trainer.py` 文件，删除第 141 到 147 行的代码（这部分代码通常在初始化时严格比对权重名称），然后重新运行即可。","https:\u002F\u002Fgithub.com\u002FlonePatient\u002FBert-Multi-Label-Text-Classification\u002Fissues\u002F36",{"id":135,"question_zh":136,"answer_zh":137,"source_url":138},28664,"日志中的 f1 和 valid_f1 指标有什么区别？","两者的区别在于评估的数据集不同：\n- `f1`：表示在训练集（Training Dataset）上计算的 F1 分数。\n- `valid_f1`：表示在验证集\u002F开发集（Dev\u002FValidation Dataset）上计算的 F1 分数。\n通常应主要关注 `valid_f1` 以判断模型的泛化能力。","https:\u002F\u002Fgithub.com\u002FlonePatient\u002FBert-Multi-Label-Text-Classification\u002Fissues\u002F56",{"id":140,"question_zh":141,"answer_zh":142,"source_url":143},28665,"运行时出现 'ValueError: Only one class present in y_true' 导致 ROC AUC 计算失败，如何解决？","该错误通常发生在验证集或测试集中某个类别的样本全部为 0 或全部为 1（即数据不平衡，某些类别在当前的 batch 或验证集中只有一个类的实例）。ROC AUC 需要正负样本同时存在才能计算。解决方法包括：\n1. 检查并重新划分数据集，确保验证集中每个标签都有正负样本。\n2. 增加验证集的大小或调整随机种子。\n3. 如果是个别极端稀疏标签，考虑在计算指标时跳过这些标签或使用其他评价指标。","https:\u002F\u002Fgithub.com\u002FlonePatient\u002FBert-Multi-Label-Text-Classification\u002Fissues\u002F44",{"id":145,"question_zh":146,"answer_zh":147,"source_url":148},28666,"无法使用 GPU 进行训练，可能是什么原因？","无法使用 GPU 通常是环境版本不兼容导致的。请检查以下配置：\n1. CUDA 版本：建议使用 CUDA 9 或更高版本（CUDA 8 可能存在兼容性问题，特别是配合 apex 使用时）。\n2. PyTorch 版本：确保 PyTorch 版本与 CUDA 匹配（例如 PyTorch 1.0 配合 CUDA 9）。\n3. 依赖包版本：检查 `pytorch_pretrained_bert` 或其他相关库的版本是否与当前 PyTorch 版本兼容。","https:\u002F\u002Fgithub.com\u002FlonePatient\u002FBert-Multi-Label-Text-Classification\u002Fissues\u002F9",{"id":150,"question_zh":151,"answer_zh":152,"source_url":153},28667,"如何对单条文本进行测试或预测，而不是运行整个测试集？","不需要修改主脚本或创建假的 CSV 文件。项目通常提供了专门的脚本来处理单条文本预测。你可以直接运行 `predict_one.py` 脚本来输入单行文本并获取预测结果。","https:\u002F\u002Fgithub.com\u002FlonePatient\u002FBert-Multi-Label-Text-Classification\u002Fissues\u002F41",[]]