[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-VinAIResearch--PhoBERT":3,"tool-VinAIResearch--PhoBERT":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",159267,2,"2026-04-17T11:29:14",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":76,"owner_email":76,"owner_twitter":76,"owner_website":77,"owner_url":78,"languages":76,"stars":79,"forks":80,"last_commit_at":81,"license":82,"difficulty_score":32,"env_os":83,"env_gpu":83,"env_ram":83,"env_deps":84,"category_tags":91,"github_topics":94,"view_count":32,"oss_zip_url":76,"oss_zip_packed_at":76,"status":17,"created_at":114,"updated_at":115,"faqs":116,"releases":152},8577,"VinAIResearch\u002FPhoBERT","PhoBERT","PhoBERT: Pre-trained language models for Vietnamese (EMNLP-2020 Findings)","PhoBERT 是专为越南语打造的预训练语言模型，由 VinAI 研究团队开发，旨在解决越南语自然语言处理中高质量预训练资源匮乏的难题。作为首个公开的大规模越南语单语模型，PhoBERT 基于 RoBERTa 架构优化了训练流程，在词性标注、依存句法分析、命名实体识别及自然语言推理等核心任务上，性能显著超越了此前的单语及多语言模型，确立了新的行业标杆。\n\n该工具主要面向从事越南语 NLP 开发的工程师、研究人员及数据科学家。用户可轻松通过 Hugging Face `transformers` 库或 `fairseq` 框架调用 PhoBERT 的\"base\"和\"large\"两种版本，快速构建下游应用。其独特的技术亮点在于针对越南语特性进行了深度优化：训练数据涵盖了维基百科、新闻文本及海量 OSCAR 语料；同时，官方特别强调输入文本必须预先进行分词处理（如使用下划线连接词语），这一设计契合了越南语的语言学特征，确保了模型能更精准地捕捉语义信息。无论是希望提升现有系统精度，还是从零开始探索越南语 AI 应用，PhoBERT 都是一个强大且易用的基础选择。","\n#### Table of contents\n1. [Introduction](#introduction)\n2. [Using PhoBERT with `transformers`](#transformers)\n\t- [Installation](#install2)\n\t- [Pre-trained models](#models2)\n\t- [Example usage](#usage2)\n3. [Using PhoBERT with `fairseq`](#fairseq)\n4. [Notes](#vncorenlp)\n\n# \u003Ca name=\"introduction\">\u003C\u002Fa> PhoBERT: Pre-trained language models for Vietnamese \n\nPre-trained PhoBERT models are the state-of-the-art language models for Vietnamese ([Pho](https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPho), i.e. \"Phở\", is a popular food in Vietnam): \n\n - Two PhoBERT versions of \"base\" and \"large\" are the first public large-scale monolingual language models pre-trained for Vietnamese. PhoBERT pre-training approach is based on [RoBERTa](https:\u002F\u002Fgithub.com\u002Fpytorch\u002Ffairseq\u002Fblob\u002Fmaster\u002Fexamples\u002Froberta\u002FREADME.md)  which optimizes the [BERT](https:\u002F\u002Fgithub.com\u002Fgoogle-research\u002Fbert) pre-training procedure for more robust performance.\n - PhoBERT outperforms previous monolingual and multilingual approaches, obtaining new state-of-the-art performances on four downstream Vietnamese NLP tasks of Part-of-speech tagging, Dependency parsing, Named-entity recognition and Natural language inference.\n\nThe general architecture and experimental results of PhoBERT can be found in our [paper](https:\u002F\u002Fwww.aclweb.org\u002Fanthology\u002F2020.findings-emnlp.92\u002F):\n\n    @inproceedings{phobert,\n    title     = {{PhoBERT: Pre-trained language models for Vietnamese}},\n    author    = {Dat Quoc Nguyen and Anh Tuan Nguyen},\n    booktitle = {Findings of the Association for Computational Linguistics: EMNLP 2020},\n    year      = {2020},\n    pages     = {1037--1042}\n    }\n\n**Please CITE** our paper when PhoBERT is used to help produce published results or is incorporated into other software.\n\n## \u003Ca name=\"transformers\">\u003C\u002Fa> Using PhoBERT with `transformers` \n\n### Installation \u003Ca name=\"install2\">\u003C\u002Fa>\n- Install `transformers` with pip: `pip install transformers`, or [install `transformers` from source](https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Ftransformers\u002Finstallation#installing-from-source).  \u003Cbr \u002F> \nNote that we merged a slow tokenizer for PhoBERT into the main `transformers` branch. The process of merging a fast tokenizer for PhoBERT is in the discussion, as mentioned in [this pull request](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftransformers\u002Fpull\u002F17254#issuecomment-1133932067). If users would like to utilize the fast tokenizer, the users might install `transformers` as follows:\n\n\n```\ngit clone --single-branch --branch fast_tokenizers_BARTpho_PhoBERT_BERTweet https:\u002F\u002Fgithub.com\u002Fdatquocnguyen\u002Ftransformers.git\ncd transformers\npip3 install -e .\n```\n\n- Install `tokenizers` with pip: `pip3 install tokenizers`\n\n### Pre-trained models \u003Ca name=\"models2\">\u003C\u002Fa>\n\n\nModel | #params | Arch.\t | Max length | Pre-training data | License\n---|---|---|---|---|---\n[`vinai\u002Fphobert-base-v2`](https:\u002F\u002Fhuggingface.co\u002Fvinai\u002Fphobert-base-v2) | 135M | base | 256 | 20GB  of Wikipedia and News texts + 120GB of texts from OSCAR-2301 | [GNU Affero GPL v3](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fblob\u002Fmaster\u002FLICENSE_for_PhoBERT_v2)\n[`vinai\u002Fphobert-base`](https:\u002F\u002Fhuggingface.co\u002Fvinai\u002Fphobert-base) | 135M | base | 256 | 20GB  of Wikipedia and News texts | [MIT License](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fblob\u002Fmaster\u002FLICENSE)\n[`vinai\u002Fphobert-large`](https:\u002F\u002Fhuggingface.co\u002Fvinai\u002Fphobert-large) | 370M | large | 256 | 20GB  of Wikipedia and News texts | [MIT License](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fblob\u002Fmaster\u002FLICENSE)\n\n\n### Example usage \u003Ca name=\"usage2\">\u003C\u002Fa>\n\n```python\nimport torch\nfrom transformers import AutoModel, AutoTokenizer\n\nphobert = AutoModel.from_pretrained(\"vinai\u002Fphobert-base-v2\")\ntokenizer = AutoTokenizer.from_pretrained(\"vinai\u002Fphobert-base-v2\")\n\n# INPUT TEXT MUST BE ALREADY WORD-SEGMENTED!\nsentence = 'Chúng_tôi là những nghiên_cứu_viên .'  \n\ninput_ids = torch.tensor([tokenizer.encode(sentence)])\n\nwith torch.no_grad():\n    features = phobert(input_ids)  # Models outputs are now tuples\n\n## With TensorFlow 2.0+:\n# from transformers import TFAutoModel\n# phobert = TFAutoModel.from_pretrained(\"vinai\u002Fphobert-base\")\n```\n\n\n## \u003Ca name=\"fairseq\">\u003C\u002Fa> Using PhoBERT with `fairseq`\n\nPlease see details at [HERE](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fblob\u002Fmaster\u002FREADME_fairseq.md)!\n\n## \u003Ca name=\"vncorenlp\">\u003C\u002Fa> Notes \n\nIn case the input texts are `raw`, i.e. without word segmentation, a word segmenter must be applied to produce word-segmented texts before feeding to PhoBERT. As PhoBERT employed the [RDRSegmenter](https:\u002F\u002Fgithub.com\u002Fdatquocnguyen\u002FRDRsegmenter) from [VnCoreNLP](https:\u002F\u002Fgithub.com\u002Fvncorenlp\u002FVnCoreNLP) to pre-process the pre-training data (including [Vietnamese tone normalization](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FBARTpho\u002Fblob\u002Fmain\u002FVietnameseToneNormalization.md) and word and sentence segmentation), it is recommended to also use the same word segmenter for PhoBERT-based downstream applications w.r.t. the input raw texts.\n\n#### Installation\n\n    pip install py_vncorenlp\n\n#### Example usage \u003Ca name=\"example\">\u003C\u002Fa>\n\n```python\nimport py_vncorenlp\n\n# Automatically download VnCoreNLP components from the original repository\n# and save them in some local machine folder\npy_vncorenlp.download_model(save_dir='\u002Fabsolute\u002Fpath\u002Fto\u002Fvncorenlp')\n\n# Load the word and sentence segmentation component\nrdrsegmenter = py_vncorenlp.VnCoreNLP(annotators=[\"wseg\"], save_dir='\u002Fabsolute\u002Fpath\u002Fto\u002Fvncorenlp')\n\ntext = \"Ông Nguyễn Khắc Chúc  đang làm việc tại Đại học Quốc gia Hà Nội. Bà Lan, vợ ông Chúc, cũng làm việc tại đây.\"\n\noutput = rdrsegmenter.word_segment(text)\n\nprint(output)\n# ['Ông Nguyễn_Khắc_Chúc đang làm_việc tại Đại_học Quốc_gia Hà_Nội .', 'Bà Lan , vợ ông Chúc , cũng làm_việc tại đây .']\n```\n","#### 目录\n1. [简介](#introduction)\n2. [使用 `transformers` 搭配 PhoBERT](#transformers)\n\t- [安装](#install2)\n\t- [预训练模型](#models2)\n\t- [示例用法](#usage2)\n3. [使用 `fairseq` 搭配 PhoBERT](#fairseq)\n4. [注释](#vncorenlp)\n\n# \u003Ca name=\"introduction\">\u003C\u002Fa> PhoBERT：面向越南语的预训练语言模型\n\nPhoBERT 预训练模型是目前越南语最先进的语言模型（[Pho](https:\u002F\u002Fen.wikipedia.org\u002Fwiki\u002FPho)，即“河粉”，是越南一种受欢迎的食物）：\n\n - PhoBERT 有两个版本：“base”和“large”，它们是首个公开的大规模单语种预训练越南语语言模型。PhoBERT 的预训练方法基于 [RoBERTa](https:\u002F\u002Fgithub.com\u002Fpytorch\u002Ffairseq\u002Fblob\u002Fmaster\u002Fexamples\u002Froberta\u002FREADME.md)，该方法优化了 [BERT](https:\u002F\u002Fgithub.com\u002Fgoogle-research\u002Fbert) 的预训练流程，以获得更稳健的性能。\n - PhoBERT 在之前的单语和多语方法中表现优异，在词性标注、依存句法分析、命名实体识别和自然语言推理这四项越南语下游 NLP 任务上均取得了新的最先进成果。\n\nPhoBERT 的总体架构和实验结果可在我们的论文中找到：\n\n    @inproceedings{phobert,\n    title     = {{PhoBERT: Pre-trained language models for Vietnamese}},\n    author    = {Dat Quoc Nguyen and Anh Tuan Nguyen},\n    booktitle = {Findings of the Association for Computational Linguistics: EMNLP 2020},\n    year      = {2020},\n    pages     = {1037--1042}\n    }\n\n**请在引用** PhoBERT 以生成已发表的结果或将它整合到其他软件中时，注明我们的论文。\n\n## \u003Ca name=\"transformers\">\u003C\u002Fa> 使用 `transformers` 搭配 PhoBERT\n\n### 安装 \u003Ca name=\"install2\">\u003C\u002Fa>\n- 使用 pip 安装 `transformers`：`pip install transformers`，或从源码安装 [`transformers`](https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Ftransformers\u002Finstallation#installing-from-source)。\u003Cbr \u002F>\n请注意，我们已将 PhoBERT 的慢速分词器合并到 `transformers` 的主分支中。关于 PhoBERT 快速分词器的合并工作仍在讨论中，详情见 [此 Pull Request](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftransformers\u002Fpull\u002F17254#issuecomment-1133932067)。如果用户希望使用快速分词器，可以按如下方式安装 `transformers`：\n\n```\ngit clone --single-branch --branch fast_tokenizers_BARTpho_PhoBERT_BERTweet https:\u002F\u002Fgithub.com\u002Fdatquocnguyen\u002Ftransformers.git\ncd transformers\npip3 install -e .\n```\n\n- 使用 pip 安装 `tokenizers`：`pip3 install tokenizers`\n\n### 预训练模型 \u003Ca name=\"models2\">\u003C\u002Fa>\n\n\n模型 | 参数量 | 架构 | 最大长度 | 预训练数据 | 许可证\n---|---|---|---|---|---\n[`vinai\u002Fphobert-base-v2`](https:\u002F\u002Fhuggingface.co\u002Fvinai\u002Fphobert-base-v2) | 1.35亿 | base | 256 | 20GB 维基百科和新闻文本 + 120GB OSCAR-2301 数据集中的文本 | [GNU Affero GPL v3](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fblob\u002Fmaster\u002FLICENSE_for_PhoBERT_v2)\n[`vinai\u002Fphobert-base`](https:\u002F\u002Fhuggingface.co\u002Fvinai\u002Fphobert-base) | 1.35亿 | base | 256 | 20GB 维基百科和新闻文本 | [MIT 许可证](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fblob\u002Fmaster\u002FLICENSE)\n[`vinai\u002Fphobert-large`](https:\u002F\u002Fhuggingface.co\u002Fvinai\u002Fphobert-large) | 3.7亿 | large | 256 | 20GB 维基百科和新闻文本 | [MIT 许可证](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fblob\u002Fmaster\u002FLICENSE)\n\n\n### 示例用法 \u003Ca name=\"usage2\">\u003C\u002Fa>\n\n```python\nimport torch\nfrom transformers import AutoModel, AutoTokenizer\n\nphobert = AutoModel.from_pretrained(\"vinai\u002Fphobert-base-v2\")\ntokenizer = AutoTokenizer.from_pretrained(\"vinai\u002Fphobert-base-v2\")\n\n# 输入文本必须已经进行分词！\nsentence = 'Chúng_tôi là những nghiên_cứu_viên .'  \n\ninput_ids = torch.tensor([tokenizer.encode(sentence)])\n\nwith torch.no_grad():\n    features = phobert(input_ids)  # 模型输出现在是元组\n\n## 使用 TensorFlow 2.0+：\n# from transformers import TFAutoModel\n# phobert = TFAutoModel.from_pretrained(\"vinai\u002Fphobert-base\")\n```\n\n\n## \u003Ca name=\"fairseq\">\u003C\u002Fa> 使用 `fairseq` 搭配 PhoBERT\n\n详情请参阅 [此处](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fblob\u002Fmaster\u002FREADME_fairseq.md)！\n\n## \u003Ca name=\"vncorenlp\">\u003C\u002Fa> 注释\n\n如果输入文本是“原始”的，即未经过分词处理，则在将其输入 PhoBERT 之前，必须先使用分词工具对文本进行分词处理。由于 PhoBERT 在预训练数据处理过程中采用了来自 [VnCoreNLP](https:\u002F\u002Fgithub.com\u002Fvncorenlp\u002FVnCoreNLP) 的 [RDRSegmenter](https:\u002F\u002Fgithub.com\u002Fdatquocnguyen\u002FRDRsegmenter)，并进行了包括 [越南语声调归一化](https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FBARTpho\u002Fblob\u002Fmain\u002FVietnameseToneNormalization.md)、词语和句子分词在内的预处理操作，因此建议在基于 PhoBERT 的下游应用中，也对原始输入文本使用相同的分词工具。\n\n#### 安装\n\n    pip install py_vncorenlp\n\n#### 示例用法 \u003Ca name=\"example\">\u003C\u002Fa>\n\n```python\nimport py_vncorenlp\n\n# 自动从原始仓库下载 VnCoreNLP 组件，并保存到本地某个文件夹\npy_vncorenlp.download_model(save_dir='\u002Fabsolute\u002Fpath\u002Fto\u002Fvncorenlp')\n\n# 加载词语和句子分词组件\nrdrsegmenter = py_vncorenlp.VnCoreNLP(annotators=[\"wseg\"], save_dir='\u002Fabsolute\u002Fpath\u002Fto\u002Fvncorenlp')\n\ntext = \"Ông Nguyễn Khắc Chúc  đang làm việc tại Đại học Quốc gia Hà Nội. Bà Lan, vợ ông Chúc, cũng làm việc tại đây.\"\n\noutput = rdrsegmenter.word_segment(text)\n\nprint(output)\n# ['Ông Nguyễn_Khắc_Chúc đang làm_việc tại Đại_học Quốc_gia Hà_Nội .', 'Bà Lan , vợ ông Chúc , cũng làm_việc tại đây .']\n```","# PhoBERT 快速上手指南\n\nPhoBERT 是专为越南语设计的预训练语言模型，基于 RoBERTa 架构优化，在越南语 NLP 任务（如词性标注、依存句法分析、命名实体识别等）中表现卓越。本指南帮助中国开发者快速集成并使用 PhoBERT。\n\n## 环境准备\n\n- **操作系统**：Linux \u002F macOS \u002F Windows\n- **Python 版本**：3.6+\n- **前置依赖**：\n  - `torch` (PyTorch)\n  - `transformers` (Hugging Face)\n  - `tokenizers`\n  - （可选）`py_vncorenlp`：用于处理未分词的原始越南语文本\n\n> **注意**：PhoBERT 的输入文本**必须已完成分词**。若输入为原始文本，需先使用 `VnCoreNLP` 进行分词处理。\n\n## 安装步骤\n\n### 1. 安装基础依赖\n\n推荐使用国内镜像源加速安装：\n\n```bash\npip install torch transformers tokenizers -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n### 2. （可选）安装支持快速分词器的 transformers 版本\n\n官方慢速分词器已合并至主分支，若需使用**快速分词器**，请从特定分支安装：\n\n```bash\ngit clone --single-branch --branch fast_tokenizers_BARTpho_PhoBERT_BERTweet https:\u002F\u002Fgithub.com\u002Fdatquocnguyen\u002Ftransformers.git\ncd transformers\npip3 install -e .\n```\n\n### 3. 安装越南语分词工具（处理原始文本必备）\n\n```bash\npip install py_vncorenlp -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n## 基本使用\n\n### 场景一：输入已是分词文本\n\n若输入文本已用下划线 `_` 完成分词（如 `Chúng_tôi`），可直接使用：\n\n```python\nimport torch\nfrom transformers import AutoModel, AutoTokenizer\n\n# 加载模型与分词器\nphobert = AutoModel.from_pretrained(\"vinai\u002Fphobert-base-v2\")\ntokenizer = AutoTokenizer.from_pretrained(\"vinai\u002Fphobert-base-v2\")\n\n# 输入必须是已分词文本\nsentence = 'Chúng_tôi là những nghiên_cứu_viên .'\n\n# 编码并获取特征\ninput_ids = torch.tensor([tokenizer.encode(sentence)])\n\nwith torch.no_grad():\n    features = phobert(input_ids)  # 输出为元组形式\n```\n\n### 场景二：输入为原始文本（需先分词）\n\n若输入为未分词的越南语句子，需先调用 `VnCoreNLP` 进行分词：\n\n```python\nimport py_vncorenlp\n\n# 下载并配置 VnCoreNLP（仅需运行一次）\npy_vncorenlp.download_model(save_dir='\u002Fabsolute\u002Fpath\u002Fto\u002Fvncorenlp')\n\n# 加载分词组件\nrdrsegmenter = py_vncorenlp.VnCoreNLP(annotators=[\"wseg\"], save_dir='\u002Fabsolute\u002Fpath\u002Fto\u002Fvncorenlp')\n\ntext = \"Ông Nguyễn Khắc Chúc đang làm việc tại Đại học Quốc gia Hà Nội.\"\n\n# 执行分词\noutput = rdrsegmenter.word_segment(text)\n# 输出示例：['Ông Nguyễn_Khắc_Chúc đang làm_việc tại Đại_học Quốc_gia Hà_Nội .']\n\n# 将分词结果传入 PhoBERT\nfrom transformers import AutoModel, AutoTokenizer\nimport torch\n\nphobert = AutoModel.from_pretrained(\"vinai\u002Fphobert-base-v2\")\ntokenizer = AutoTokenizer.from_pretrained(\"vinai\u002Fphobert-base-v2\")\n\nsentence = output[0]  # 取第一句分词结果\ninput_ids = torch.tensor([tokenizer.encode(sentence)])\n\nwith torch.no_grad():\n    features = phobert(input_ids)\n```\n\n## 可用模型\n\n| 模型名称 | 参数量 | 最大长度 | 许可证 |\n|----------|--------|----------|--------|\n| `vinai\u002Fphobert-base-v2` | 135M | 256 | GNU Affero GPL v3 |\n| `vinai\u002Fphobert-base`    | 135M | 256 | MIT |\n| `vinai\u002Fphobert-large`   | 370M | 256 | MIT |\n\n> 提示：生产环境建议优先选用 `phobert-base-v2`，其训练数据更丰富（含 OSCAR 语料）。","越南某电商平台的客服团队每天需处理数万条越南语用户评论，急需自动识别其中的情感倾向与关键实体以优化服务。\n\n### 没有 PhoBERT 时\n- 通用多语言模型对越南语特有的分词习惯（如字间下划线）理解偏差大，导致“研究_人员”等词汇被错误切分，语义提取不准。\n- 在命名实体识别（NER）任务中，难以准确区分越南人名、地名与普通名词，人工复核成本极高。\n- 依赖传统规则或小型模型，无法捕捉复杂的上下文依赖，对反讽或隐含情感的判断准确率不足 60%。\n- 缺乏针对越南新闻和维基百科大规模预训练的底座，模型在本地化场景下的泛化能力弱，频繁出现“水土不服”。\n\n### 使用 PhoBERT 后\n- 利用 PhoBERT 专为越南语优化的分词机制，完美兼容已分词输入，精准还原“Chúng_tôi\"等词汇的完整语义。\n- 基于在四大下游任务（含命名实体识别）上的 SOTA 表现，能自动高精度提取评论中的品牌名与地点，无需人工二次清洗。\n- 借助 RoBERTa 优化的预训练策略，深层理解越南语句法结构，将情感分析准确率提升至 90% 以上，有效识别隐性不满。\n- 直接调用 Hugging Face 上的 `vinai\u002Fphobert-base-v2` 模型，仅需少量微调即可适配业务，大幅缩短从开发到上线的周期。\n\nPhoBERT 通过提供首个大规模越南语单语预训练模型，彻底解决了当地 NLP 应用因语言特性复杂而导致的精度瓶颈。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FVinAIResearch_PhoBERT_b62bbe28.png","VinAIResearch","VinAI Research","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FVinAIResearch_c5892e09.png","",null,"https:\u002F\u002Fwww.vinai.io\u002F","https:\u002F\u002Fgithub.com\u002FVinAIResearch",777,112,"2026-04-12T17:24:00","MIT","未说明",{"notes":85,"python":83,"dependencies":86},"输入文本必须预先进行分词处理（Word Segmentation），若输入为原始文本，需使用 VnCoreNLP (RDRSegmenter) 进行预处理。官方提供了慢速分词器（已合并至主分支）和快速分词器（需从特定分支安装）。模型最大支持长度为 256。提供 base (135M) 和 large (370M) 两种版本。",[87,88,89,90],"transformers","tokenizers","torch","py_vncorenlp",[14,35,92,93,15],"视频","音频",[95,96,97,98,99,100,101,102,103,104,105,106,107,108,109,110,87,111,112,113],"python3","bert","bert-embeddings","pos-tagging","ner","nli","roberta","part-of-speech-tagging","named-entity-recognition","natural-language-inference","language-models","vietnamese","vietnamese-nlp","vncorenlp","rdrsegmenter","deep-learning","transformers-library","fairseq","phobert","2026-03-27T02:49:30.150509","2026-04-18T02:22:11.746378",[117,122,127,132,137,142,147],{"id":118,"question_zh":119,"answer_zh":120,"source_url":121},38420,"遇到 'Non-consecutive added token' 错误或词汇表索引不匹配怎么办？","这通常是因为使用了旧版本的 transformers 或缓存了错误的模型文件。请执行以下步骤修复：\n1. 从源码安装最新版的 transformers：\n   ```bash\n   git clone https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftransformers.git\n   cd transformers\n   pip3 install --upgrade .\n   ```\n2. 清理缓存目录，删除 `~\u002F.cache\u002Ftorch` 下的 `transformers` 文件夹，以便重新自动下载正确的 PhoBERT 模型。","https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fissues\u002F21",{"id":123,"question_zh":124,"answer_zh":125,"source_url":126},38421,"导入时出现 'PhobertTokenizerFast does not exist' 错误如何解决？","目前 PhoBERT 尚未实现 Fast Tokenizer（PhobertTokenizerFast），但新版 transformers 可能默认尝试调用它。您可以采用以下两种方案之一：\n1. 显式使用普通 tokenizer 而不是 AutoTokenizer：\n   ```python\n   from transformers import PhobertTokenizer\n   tokenizer = PhobertTokenizer.from_pretrained(\"vinai\u002Fphobert-base\")\n   ```\n2. 或者安装 transformers 3.2 或 3.3 版本。","https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fissues\u002F25",{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},38422,"无法导入 'PhobertModel' 或在 Google Colab 中报错怎么办？","请使用通用的 `AutoModel` 和 `AutoTokenizer`（或 `PhobertTokenizer`）来加载模型，而不是直接导入具体的类名。同时，请确保参考项目主页最新的安装和使用说明，因为 API 可能已更新。","https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fissues\u002F19",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},38423,"使用 Python 版 tokenizer 时报错 'word_ids() is not available' 怎么处理？","这是因为标准的 PhoBERT tokenizer 暂不支持 fast variant 中的 `word_ids()` 方法。如果您急需使用该功能进行实验，可以安装维护者提供的包含 fast tokenizer 支持的分支版本：\n```bash\ngit clone --single-branch --branch fast_tokenizers_BARTpho_PhoBERT_BERTweet https:\u002F\u002Fgithub.com\u002Fdatquocnguyen\u002Ftransformers.git\ncd transformers\npip3 install -e .\n```\n否则，请等待官方合并相关 Pull Request 后更新正式版 transformers。","https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fissues\u002F40",{"id":138,"question_zh":139,"answer_zh":140,"source_url":141},38424,"PhoBERT-base 和 PhoBERT-large 模型可以使用同一个 Tokenizer 吗？","可以。预训练的 PhoBERT-base 和 PhoBERT-large 模型使用的是完全相同的分词器（PhobertTokenizer），它们的词汇表大小均为 64001。您可以使用其中一个 tokenizer 处理数据，然后分别用于两个模型的微调，无需重复准备数据。","https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fissues\u002F44",{"id":143,"question_zh":144,"answer_zh":145,"source_url":146},38425,"在进行 POS 标注微调时，如何处理子词（subword）的标签对齐问题？","当单词被拆分为多个子词（例如 'liên_cảng_A5' 拆分为 'liên_@@', 'cảng_@@', 'A5'）时，需要参考原论文中的脚注 4（footnote 4）来处理标签分配策略。通常的做法是将第一个子词保留原始标签，后续子词标记为特殊标签（如 'X' 或忽略），并在评估时通过特定的逻辑将预测结果还原到单词级别以计算准确率。","https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fissues\u002F11",{"id":148,"question_zh":149,"answer_zh":150,"source_url":151},38426,"VLSP2013 POS 测试集的数据量与论文中描述的不一致（2131 vs 2120），原因是什么？","维护者使用的原始测试数据来自 7 年前参与 VLSP 2013 比赛时的版本，共包含 2120 个句子。如果您手中的数据有 2131 个样本，可能是数据来源版本不同或经过了后续修正。建议直接联系 VLSP 组织方获取官方原始数据进行核对，或者使用维护者提供的旧版测试数据进行复现对比。","https:\u002F\u002Fgithub.com\u002FVinAIResearch\u002FPhoBERT\u002Fissues\u002F27",[]]