[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-pkoukk--tiktoken-go":3,"tool-pkoukk--tiktoken-go":64},[4,17,25,39,48,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",138956,2,"2026-04-05T11:33:21",[13,14,15],"开发框架","Agent","语言模型","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":10,"last_commit_at":23,"category_tags":24,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,15],{"id":26,"name":27,"github_repo":28,"description_zh":29,"stars":30,"difficulty_score":10,"last_commit_at":31,"category_tags":32,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[33,34,35,36,14,37,15,13,38],"图像","数据工具","视频","插件","其他","音频",{"id":40,"name":41,"github_repo":42,"description_zh":43,"stars":44,"difficulty_score":45,"last_commit_at":46,"category_tags":47,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,3,"2026-04-04T04:44:48",[14,33,13,15,37],{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":45,"last_commit_at":54,"category_tags":55,"status":16},519,"PaddleOCR","PaddlePaddle\u002FPaddleOCR","PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来，转换成计算机可读取的结构化数据，让机器真正“看懂”图文内容。\n\n面对海量纸质或电子文档，PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域，它扮演着连接图像与大型语言模型（LLM）的桥梁角色，能将视觉信息直接转化为文本输入，助力智能问答、文档分析等应用场景落地。\n\nPaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显：不仅支持全球 100 多种语言的识别，还能在 Windows、Linux、macOS 等多个系统上运行，并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目，PaddleOCR 既能满足快速集成的需求，也能支撑前沿的视觉语言研究，是处理文字识别任务的理想选择。",74913,"2026-04-05T10:44:17",[15,33,13,37],{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":45,"last_commit_at":62,"category_tags":63,"status":16},2181,"OpenHands","OpenHands\u002FOpenHands","OpenHands 是一个专注于 AI 驱动开发的开源平台，旨在让智能体（Agent）像人类开发者一样理解、编写和调试代码。它解决了传统编程中重复性劳动多、环境配置复杂以及人机协作效率低等痛点，通过自动化流程显著提升开发速度。\n\n无论是希望提升编码效率的软件工程师、探索智能体技术的研究人员，还是需要快速原型验证的技术团队，都能从中受益。OpenHands 提供了灵活多样的使用方式：既可以通过命令行（CLI）或本地图形界面在个人电脑上轻松上手，体验类似 Devin 的流畅交互；也能利用其强大的 Python SDK 自定义智能体逻辑，甚至在云端大规模部署上千个智能体并行工作。\n\n其核心技术亮点在于模块化的软件智能体 SDK，这不仅构成了平台的引擎，还支持高度可组合的开发模式。此外，OpenHands 在 SWE-bench 基准测试中取得了 77.6% 的优异成绩，证明了其解决真实世界软件工程问题的能力。平台还具备完善的企业级功能，支持与 Slack、Jira 等工具集成，并提供细粒度的权限管理，适合从个人开发者到大型企业的各类用户场景。",70612,"2026-04-05T11:12:22",[15,14,13,36],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":77,"owner_avatar_url":78,"owner_bio":79,"owner_company":79,"owner_location":80,"owner_email":81,"owner_twitter":79,"owner_website":79,"owner_url":82,"languages":83,"stars":92,"forks":93,"last_commit_at":94,"license":95,"difficulty_score":10,"env_os":96,"env_gpu":97,"env_ram":97,"env_deps":98,"category_tags":105,"github_topics":106,"view_count":10,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":114,"updated_at":115,"faqs":116,"releases":152},3444,"pkoukk\u002Ftiktoken-go","tiktoken-go","go version of tiktoken","tiktoken-go 是 OpenAI 官方 tiktoken 库的 Go 语言版本，专为处理大模型文本分词而设计。它实现了高效的 BPE（字节对编码）算法，能够帮助开发者准确计算文本被转换为 Token 的数量，这是使用 GPT-3.5、GPT-4 等模型时控制成本和确保输入符合长度限制的关键步骤。\n\n对于使用 Go 语言进行 AI 应用开发的工程师而言，tiktoken-go 解决了原生缺乏高效分词工具的痛点。在调用 OpenAI API 前，精确预估对话消息的 Token 消耗至关重要，否则可能导致请求失败或预算超支。此工具让 Go 开发者无需切换语言或调用外部服务，即可在本地完成高精度的分词与计数工作。\n\n其技术亮点在于完美复刻了原版的缓存机制，支持通过环境变量配置本地缓存目录，避免重复下载词典文件，显著提升初始化速度。此外，它还提供了灵活的加载器接口，允许开发者嵌入离线词典包，实现完全无网络依赖的运行环境，非常适合对部署安全性或网络环境有特殊要求的生产场景。无论是构建聊天机器人、分析长文本数据，还是进行模型微调研究，只要你的技术栈包含 Go，tiktoken-go 都是不可","tiktoken-go 是 OpenAI 官方 tiktoken 库的 Go 语言版本，专为处理大模型文本分词而设计。它实现了高效的 BPE（字节对编码）算法，能够帮助开发者准确计算文本被转换为 Token 的数量，这是使用 GPT-3.5、GPT-4 等模型时控制成本和确保输入符合长度限制的关键步骤。\n\n对于使用 Go 语言进行 AI 应用开发的工程师而言，tiktoken-go 解决了原生缺乏高效分词工具的痛点。在调用 OpenAI API 前，精确预估对话消息的 Token 消耗至关重要，否则可能导致请求失败或预算超支。此工具让 Go 开发者无需切换语言或调用外部服务，即可在本地完成高精度的分词与计数工作。\n\n其技术亮点在于完美复刻了原版的缓存机制，支持通过环境变量配置本地缓存目录，避免重复下载词典文件，显著提升初始化速度。此外，它还提供了灵活的加载器接口，允许开发者嵌入离线词典包，实现完全无网络依赖的运行环境，非常适合对部署安全性或网络环境有特殊要求的生产场景。无论是构建聊天机器人、分析长文本数据，还是进行模型微调研究，只要你的技术栈包含 Go，tiktoken-go 都是不可或缺的实用组件。","# tiktoken-go\n\n[简体中文](.\u002FREADME_zh-hans.md)\n\nOpenAI's tiktoken in Go.\n\nTiktoken is a fast BPE tokeniser for use with OpenAI's models.\n\nThis is a port of the original [tiktoken](https:\u002F\u002Fgithub.com\u002Fopenai\u002Ftiktoken).\n\n# Usage\n\n## Install\n\n```bash\ngo get github.com\u002Fpkoukk\u002Ftiktoken-go\n```\n\n## Cache\n\nTiktoken-go has the same cache mechanism as the original Tiktoken library.\n\nYou can set the cache directory by using the environment variable TIKTOKEN_CACHE_DIR.\n\nOnce this variable is set, tiktoken-go will use this directory to cache the token dictionary.\n\nIf you don't set this environment variable, tiktoken-go will download the dictionary each time you initialize an\nencoding for the first time.\n\n## Alternative BPE loaders\n\nIf you don't want to use cache or download the dictionary each time, you can use alternative BPE loader.\n\nJust call `tiktoken.SetBpeLoader` before calling `tiktoken.GetEncoding` or `tiktoken.EncodingForModel`.\n\n`BpeLoader` is an interface, you can implement your own BPE loader by implementing this interface.\n\n### Offline BPE loader\n\nThe offline BPE loader loads the BPE dictionary from embed files, it helps if you don't want to download the dictionary\nat runtime.\n\nDue to the size of the BPE dictionary, this loader is in other project.\n\nInclude if you require this loader: [tiktoken_loader](https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go-loader)\n\n## Examples\n\n### Get Token By Encoding\n\n```go\npackage main\n\nimport (\n\t\"fmt\"\n\t\"github.com\u002Fpkoukk\u002Ftiktoken-go\"\n)\n\nfunc main() {\n\ttext := \"Hello, world!\"\n\tencoding := \"cl100k_base\"\n\n\t\u002F\u002F if you don't want download dictionary at runtime, you can use offline loader\n\t\u002F\u002F tiktoken.SetBpeLoader(tiktoken_loader.NewOfflineLoader())\n\ttke, err := tiktoken.GetEncoding(encoding)\n\tif err != nil {\n\t\terr = fmt.Errorf(\"getEncoding: %v\", err)\n\t\treturn\n\t}\n\n\t\u002F\u002F encode\n\ttoken := tke.Encode(text, nil, nil)\n\n\t\u002F\u002Ftokens\n\tfmt.Println((token))\n\t\u002F\u002F num_tokens\n\tfmt.Println(len(token))\n}\n```\n\n### Get Token By Model\n\n```go\npackage main\n\nimport (\n\t\"fmt\"\n\t\"github.com\u002Fpkoukk\u002Ftiktoken-go\"\n)\n\nfunc main() {\n\ttext := \"Hello, world!\"\n\tencoding := \"gpt-3.5-turbo\"\n\n\ttkm, err := tiktoken.EncodingForModel(encoding)\n\tif err != nil {\n\t\terr = fmt.Errorf(\"getEncoding: %v\", err)\n\t\treturn\n\t}\n\n\t\u002F\u002F encode\n\ttoken := tkm.Encode(text, nil, nil)\n\n\t\u002F\u002F tokens\n\tfmt.Println(token)\n\t\u002F\u002F num_tokens\n\tfmt.Println(len(token))\n}\n```\n\n### Counting Tokens For Chat API Calls\n\nBelow is an example function for counting tokens for messages passed to gpt-3.5-turbo or gpt-4.\n\nThe following code was written based\non [openai-cookbook](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fopenai-cookbook\u002Fblob\u002Fmain\u002Fexamples\u002FHow_to_count_tokens_with_tiktoken.ipynb)\nexamples at `Wednesday, 28 June 2023`.\n\nPlease note that the token calculation method for the message may change at any time, so this code may not necessarily\nbe applicable in the future.\n\nIf you need accurate calculation, please refer to the official documentation.\n\nIf you find that this code is no longer applicable, please feel free to submit a PR or Issue.\n\n```go\npackage main\n\nimport (\n\t\"fmt\"\n\n\t\"github.com\u002Fpkoukk\u002Ftiktoken-go\"\n\t\"github.com\u002Fsashabaranov\u002Fgo-openai\"\n)\n\n\u002F\u002F OpenAI Cookbook: https:\u002F\u002Fgithub.com\u002Fopenai\u002Fopenai-cookbook\u002Fblob\u002Fmain\u002Fexamples\u002FHow_to_count_tokens_with_tiktoken.ipynb\nfunc NumTokensFromMessages(messages []openai.ChatCompletionMessage, model string) (numTokens int) {\n\ttkm, err := tiktoken.EncodingForModel(model)\n\tif err != nil {\n\t\terr = fmt.Errorf(\"encoding for model: %v\", err)\n\t\tlog.Println(err)\n\t\treturn\n\t}\n\n\tvar tokensPerMessage, tokensPerName int\n\tswitch model {\n\tcase \"gpt-3.5-turbo-0613\",\n\t\t\"gpt-3.5-turbo-16k-0613\",\n\t\t\"gpt-4-0314\",\n\t\t\"gpt-4-32k-0314\",\n\t\t\"gpt-4-0613\",\n\t\t\"gpt-4-32k-0613\":\n\t\ttokensPerMessage = 3\n\t\ttokensPerName = 1\n\tcase \"gpt-3.5-turbo-0301\":\n\t\ttokensPerMessage = 4 \u002F\u002F every message follows \u003C|start|>{role\u002Fname}\\n{content}\u003C|end|>\\n\n\t\ttokensPerName = -1   \u002F\u002F if there's a name, the role is omitted\n\tdefault:\n\t\tif strings.Contains(model, \"gpt-3.5-turbo\") {\n\t\t\tlog.Println(\"warning: gpt-3.5-turbo may update over time. Returning num tokens assuming gpt-3.5-turbo-0613.\")\n\t\t\treturn NumTokensFromMessages(messages, \"gpt-3.5-turbo-0613\")\n\t\t} else if strings.Contains(model, \"gpt-4\") {\n\t\t\tlog.Println(\"warning: gpt-4 may update over time. Returning num tokens assuming gpt-4-0613.\")\n\t\t\treturn NumTokensFromMessages(messages, \"gpt-4-0613\")\n\t\t} else {\n\t\t\terr = fmt.Errorf(\"num_tokens_from_messages() is not implemented for model %s. See https:\u002F\u002Fgithub.com\u002Fopenai\u002Fopenai-python\u002Fblob\u002Fmain\u002Fchatml.md for information on how messages are converted to tokens.\", model)\n\t\t\tlog.Println(err)\n\t\t\treturn\n\t\t}\n\t}\n\n\tfor _, message := range messages {\n\t\tnumTokens += tokensPerMessage\n\t\tnumTokens += len(tkm.Encode(message.Content, nil, nil))\n\t\tnumTokens += len(tkm.Encode(message.Role, nil, nil))\n\t\tnumTokens += len(tkm.Encode(message.Name, nil, nil))\n\t\tif message.Name != \"\" {\n\t\t\tnumTokens += tokensPerName\n\t\t}\n\t}\n\tnumTokens += 3 \u002F\u002F every reply is primed with \u003C|start|>assistant\u003C|message|>\n\treturn numTokens\n}\n\n```\n\n# Available Encodings\n\n| Encoding name           | OpenAI models                                                                                          |\n|-------------------------|--------------------------------------------------------------------------------------------------------|\n| `o200k_base`            | `gpt-4o`, `gpt-4.1`, `gpt-4.5`                                                                         |\n| `cl100k_base`           | `gpt-4`, `gpt-3.5-turbo`, `text-embedding-ada-002`, `text-embedding-3-small`, `text-embedding-3-large` |\n| `p50k_base`             | Codex models, `text-davinci-002`, `text-davinci-003`                                                   |\n| `r50k_base` (or `gpt2`) | GPT-3 models like `davinci`                                                                            |\n\n# Available Models\n\n| Model name                   | OpenAI models |\n|------------------------------|---------------|\n| gpt-4.5-*                    | o200k_base    |\n| gpt-4.1-*                    | o200k_base    |\n| gpt-4o-*                     | o200k_base    |\n| gpt-4-*                      | cl100k_base   |\n| gpt-3.5-turbo-*              | cl100k_base   |\n| gpt-4o                       | o200k_base    |\n| gpt-4                        | cl100k_base   |\n| gpt-3.5-turbo                | cl100k_base   |\n| text-davinci-003             | p50k_base     |\n| text-davinci-002             | p50k_base     |\n| text-davinci-001             | r50k_base     |\n| text-curie-001               | r50k_base     |\n| text-babbage-001             | r50k_base     |\n| text-ada-001                 | r50k_base     |\n| davinci                      | r50k_base     |\n| curie                        | r50k_base     |\n| babbage                      | r50k_base     |\n| ada                          | r50k_base     |\n| code-davinci-002             | p50k_base     |\n| code-davinci-001             | p50k_base     |\n| code-cushman-002             | p50k_base     |\n| code-cushman-001             | p50k_base     |\n| davinci-codex                | p50k_base     |\n| cushman-codex                | p50k_base     |\n| text-davinci-edit-001        | p50k_edit     |\n| code-davinci-edit-001        | p50k_edit     |\n| text-embedding-ada-002       | cl100k_base   |\n| text-embedding-3-small       | cl100k_base   |\n| text-embedding-3-large       | cl100k_base   |\n| text-similarity-davinci-001  | r50k_base     |\n| text-similarity-curie-001    | r50k_base     |\n| text-similarity-babbage-001  | r50k_base     |\n| text-similarity-ada-001      | r50k_base     |\n| text-search-davinci-doc-001  | r50k_base     |\n| text-search-curie-doc-001    | r50k_base     |\n| text-search-babbage-doc-001  | r50k_base     |\n| text-search-ada-doc-001      | r50k_base     |\n| code-search-babbage-code-001 | r50k_base     |\n| code-search-ada-code-001     | r50k_base     |\n| gpt2                         | gpt2          |\n\n# Test\n\n> you can run test in [test](.\u002Ftest) folder\n\n## compare with original [tiktoken](https:\u002F\u002Fgithub.com\u002Fopenai\u002Ftiktoken)\n\n## get token by encoding\n\n[result](.\u002Fdoc\u002Ftest_result.md#encoding-test-result)\n\n## get token by model\n\n[result](.\u002Fdoc\u002Ftest_result.md#model-test-result)\n\n# Benchmark\n\n> you can run benchmark in [test](.\u002Ftest) folder\n\n## Benchmark result\n\n| name        | time\u002Fop | os         | cpu      | text                             | times  |\n|-------------|---------|------------|----------|----------------------------------|--------|\n| tiktoken-go | 8795ns  | macOS 13.2 | Apple M1 | [UDHR](https:\u002F\u002Funicode.org\u002Fudhr) | 100000 |\n| tiktoken    | 8838ns  | macOS 13.2 | Apple M1 | [UDHR](https:\u002F\u002Funicode.org\u002Fudhr) | 100000 |\n\nIt looks like the performance is almost the same.\n\nMaybe the difference is due to the difference in the performance of the machine.\n\nOr maybe my benchmark method is not appropriate.\n\nIf you have better benchmark method or if you want add your benchmark result, please feel free to submit a PR.\n\nFor new `o200k_base` encoding, it seems slower than `cl100k_base`. tiktoken-go is slightly slower than tiktoken on the\nfollowing benchmark.\n\n| name        | encoding    | time\u002Fop   | os           | cpu                | text                                                | times  |\n|-------------|-------------|-----------|--------------|--------------------|-----------------------------------------------------|--------|\n| tiktoken-go | o200k_base  | 108522 ns | Ubuntu 22.04 | AMD Ryzen 9 5900HS | [UDHR](http:\u002F\u002Fresearch.ics.aalto.fi\u002Fcog\u002Fdata\u002Fudhr\u002F) | 100000 |\n| tiktoken    | o200k_base  | 70198 ns  | Ubuntu 22.04 | AMD Ryzen 9 5900HS | [UDHR](http:\u002F\u002Fresearch.ics.aalto.fi\u002Fcog\u002Fdata\u002Fudhr\u002F) | 100000 |\n| tiktoken-go | cl100k_base | 94502 ns  | Ubuntu 22.04 | AMD Ryzen 9 5900HS | [UDHR](http:\u002F\u002Fresearch.ics.aalto.fi\u002Fcog\u002Fdata\u002Fudhr\u002F) | 100000 |\n| tiktoken    | cl100k_base | 54642 ns  | Ubuntu 22.04 | AMD Ryzen 9 5900HS | [UDHR](http:\u002F\u002Fresearch.ics.aalto.fi\u002Fcog\u002Fdata\u002Fudhr\u002F) | 100000 |\n\n# License\n\n[MIT](.\u002FLICENSE)\n","# tiktoken-go\n\n[简体中文](.\u002FREADME_zh-hans.md)\n\nOpenAI 的 tiktoken 的 Go 语言实现。\n\nTiktoken 是一个用于 OpenAI 模型的快速 BPE 分词器。\n\n这是对原始 [tiktoken](https:\u002F\u002Fgithub.com\u002Fopenai\u002Ftiktoken) 的移植。\n\n# 使用方法\n\n## 安装\n\n```bash\ngo get github.com\u002Fpkoukk\u002Ftiktoken-go\n```\n\n## 缓存\n\nTiktoken-go 具有与原版 Tiktoken 库相同的缓存机制。\n\n你可以通过设置环境变量 `TIKTOKEN_CACHE_DIR` 来指定缓存目录。\n\n一旦设置了该变量，tiktoken-go 将使用此目录来缓存分词字典。\n\n如果你没有设置这个环境变量，tiktoken-go 会在你首次初始化编码时每次都下载字典。\n\n## 替代的 BPE 加载器\n\n如果你不想使用缓存或每次都要下载字典，可以使用替代的 BPE 加载器。\n\n只需在调用 `tiktoken.GetEncoding` 或 `tiktoken.EncodingForModel` 之前调用 `tiktoken.SetBpeLoader` 即可。\n\n`BpeLoader` 是一个接口，你可以通过实现该接口来编写自己的 BPE 加载器。\n\n### 离线 BPE 加载器\n\n离线 BPE 加载器从嵌入文件中加载 BPE 字典，这在你不希望在运行时下载字典的情况下非常有用。\n\n由于 BPE 字典的大小，这个加载器位于另一个项目中。\n\n如果你需要这个加载器，请包含：[tiktoken_loader](https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go-loader)\n\n## 示例\n\n### 通过编码获取 token\n\n```go\npackage main\n\nimport (\n\t\"fmt\"\n\t\"github.com\u002Fpkoukk\u002Ftiktoken-go\"\n)\n\nfunc main() {\n\ttext := \"Hello, world!\"\n\tencoding := \"cl100k_base\"\n\n\t\u002F\u002F 如果你不想在运行时下载字典，可以使用离线加载器\n\t\u002F\u002F tiktoken.SetBpeLoader(tiktoken_loader.NewOfflineLoader())\n\ttke, err := tiktoken.GetEncoding(encoding)\n\tif err != nil {\n\t\terr = fmt.Errorf(\"getEncoding: %v\", err)\n\t\treturn\n\t}\n\n\t\u002F\u002F 编码\n\ttoken := tke.Encode(text, nil, nil)\n\n\t\u002F\u002F tokens\n\tfmt.Println(token)\n\t\u002F\u002F num_tokens\n\tfmt.Println(len(token))\n}\n```\n\n### 通过模型获取 token\n\n```go\npackage main\n\nimport (\n\t\"fmt\"\n\t\"github.com\u002Fpkoukk\u002Ftiktoken-go\"\n)\n\nfunc main() {\n\ttext := \"Hello, world!\"\n\tencoding := \"gpt-3.5-turbo\"\n\n\ttkm, err := tiktoken.EncodingForModel(encoding)\n\tif err != nil {\n\t\terr = fmt.Errorf(\"getEncoding: %v\", err)\n\t\treturn\n\t}\n\n\t\u002F\u002F 编码\n\ttoken := tkm.Encode(text, nil, nil)\n\n\t\u002F\u002F tokens\n\tfmt.Println(token)\n\t\u002F\u002F num_tokens\n\tfmt.Println(len(token))\n}\n```\n\n### 计算聊天 API 调用的 token 数量\n\n以下是用于计算传递给 gpt-3.5-turbo 或 gpt-4 的消息 token 数量的示例函数。\n\n以下代码是基于 [openai-cookbook](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fopenai-cookbook\u002Fblob\u002Fmain\u002Fexamples\u002FHow_to_count_tokens_with_tiktoken.ipynb) 中的示例编写的，时间是 2023 年 6 月 28 日星期三。\n\n请注意，消息的 token 计算方法可能会随时更改，因此这段代码在未来可能不再适用。\n\n如果你需要精确的计算，请参考官方文档。\n\n如果你发现这段代码不再适用，请随时提交 PR 或 Issue。\n\n```go\npackage main\n\nimport (\n\t\"fmt\"\n\n\t\"github.com\u002Fpkoukk\u002Ftiktoken-go\"\n\t\"github.com\u002Fsashabaranov\u002Fgo-openai\"\n)\n\n\u002F\u002F OpenAI Cookbook: https:\u002F\u002Fgithub.com\u002Fopenai\u002Fopenai-cookbook\u002Fblob\u002Fmain\u002Fexamples\u002FHow_to_count_tokens_with_tiktoken.ipynb\nfunc NumTokensFromMessages(messages []openai.ChatCompletionMessage, model string) (numTokens int) {\n\ttkm, err := tiktoken.EncodingForModel(model)\n\tif err != nil {\n\t\terr = fmt.Errorf(\"encoding for model: %v\", err)\n\t\tlog.Println(err)\n\t\treturn\n\t}\n\n\tvar tokensPerMessage, tokensPerName int\n\tswitch model {\n\tcase \"gpt-3.5-turbo-0613\",\n\t\t\"gpt-3.5-turbo-16k-0613\",\n\t\t\"gpt-4-0314\",\n\t\t\"gpt-4-32k-0314\",\n\t\t\"gpt-4-0613\",\n\t\t\"gpt-4-32k-0613\":\n\t\ttokensPerMessage = 3\n\t\ttokensPerName = 1\n\tcase \"gpt-3.5-turbo-0301\":\n\t\ttokensPerMessage = 4 \u002F\u002F 每条消息遵循 \u003C|start|>{role\u002Fname}\\n{content}\u003C|end|>\\n\n\t\ttokensPerName = -1   \u002F\u002F 如果有 name，则省略 role\n\tdefault:\n\t\tif strings.Contains(model, \"gpt-3.5-turbo\") {\n\t\t\tlog.Println(\"警告：gpt-3.5-turbo 可能会随时间更新。返回假设为 gpt-3.5-turbo-0613 的 token 数量。\")\n\t\t\treturn NumTokensFromMessages(messages, \"gpt-3.5-turbo-0613\")\n\t\t} else if strings.Contains(model, \"gpt-4\") {\n\t\t\tlog.Println(\"警告：gpt-4 可能会随时间更新。返回假设为 gpt-4-0613 的 token 数量。\")\n\t\t\treturn NumTokensFromMessages(messages, \"gpt-4-0613\")\n\t\t} else {\n\t\t\terr = fmt.Errorf(\"num_tokens_from_messages() 对于模型 %s 尚未实现。请参阅 https:\u002F\u002Fgithub.com\u002Fopenai\u002Fopenai-python\u002Fblob\u002Fmain\u002Fchatml.md，了解消息如何转换为 token 的信息。\")\n\t\t\tlog.Println(err)\n\t\t\treturn\n\t\t}\n\t}\n\n\tfor _, message := range messages {\n\t\tnumTokens += tokensPerMessage\n\t\tnumTokens += len(tkm.Encode(message.Content, nil, nil))\n\t\tnumTokens += len(tkm.Encode(message.Role, nil, nil))\n\t\tnumTokens += len(tkm.Encode(message.Name, nil, nil))\n\t\tif message.Name != \"\" {\n\t\t\tnumTokens += tokensPerName\n\t\t}\n\t}\n\tnumTokens += 3 \u002F\u002F 每个回复都以 \u003C|start|>assistant\u003C|message|> 开头\n\treturn numTokens\n}\n```\n\n# 可用的编码\n\n| 编码名称           | OpenAI 模型                                                                                          |\n|-------------------------|--------------------------------------------------------------------------------------------------------|\n| `o200k_base`            | `gpt-4o`, `gpt-4.1`, `gpt-4.5`                                                                         |\n| `cl100k_base`           | `gpt-4`, `gpt-3.5-turbo`, `text-embedding-ada-002`, `text-embedding-3-small`, `text-embedding-3-large` |\n| `p50k_base`             | Codex 模型、`text-davinci-002`、`text-davinci-003`                                                   |\n| `r50k_base` (或 `gpt2`) | GPT-3 模型，如 `davinci`                                                                            |\n\n# 可用模型\n\n| 模型名称                   | OpenAI 模型 |\n|------------------------------|---------------|\n| gpt-4.5-*                    | o200k_base    |\n| gpt-4.1-*                    | o200k_base    |\n| gpt-4o-*                     | o200k_base    |\n| gpt-4-*                      | cl100k_base   |\n| gpt-3.5-turbo-*              | cl100k_base   |\n| gpt-4o                       | o200k_base    |\n| gpt-4                        | cl100k_base   |\n| gpt-3.5-turbo                | cl100k_base   |\n| text-davinci-003             | p50k_base     |\n| text-davinci-002             | p50k_base     |\n| text-davinci-001             | r50k_base     |\n| text-curie-001               | r50k_base     |\n| text-babbage-001             | r50k_base     |\n| text-ada-001                 | r50k_base     |\n| davinci                      | r50k_base     |\n| curie                        | r50k_base     |\n| babbage                      | r50k_base     |\n| ada                          | r50k_base     |\n| code-davinci-002             | p50k_base     |\n| code-davinci-001             | p50k_base     |\n| code-cushman-002             | p50k_base     |\n| code-cushman-001             | p50k_base     |\n| davinci-codex                | p50k_base     |\n| cushman-codex                | p50k_base     |\n| text-davinci-edit-001        | p50k_edit     |\n| code-davinci-edit-001        | p50k_edit     |\n| text-embedding-ada-002       | cl100k_base   |\n| text-embedding-3-small       | cl100k_base   |\n| text-embedding-3-large       | cl100k_base   |\n| text-similarity-davinci-001  | r50k_base     |\n| text-similarity-curie-001    | r50k_base     |\n| text-similarity-babbage-001  | r50k_base     |\n| text-similarity-ada-001      | r50k_base     |\n| text-search-davinci-doc-001  | r50k_base     |\n| text-search-curie-doc-001    | r50k_base     |\n| text-search-babbage-doc-001  | r50k_base     |\n| text-search-ada-doc-001      | r50k_base     |\n| code-search-babbage-code-001 | r50k_base     |\n| code-search-ada-code-001     | r50k_base     |\n| gpt2                         | gpt2          |\n\n# 测试\n\n> 你可以在 [test](.\u002Ftest) 文件夹中运行测试\n\n## 与原始 [tiktoken](https:\u002F\u002Fgithub.com\u002Fopenai\u002Ftiktoken) 对比\n\n## 通过编码获取 token\n\n[结果](.\u002Fdoc\u002Ftest_result.md#encoding-test-result)\n\n## 通过模型获取 token\n\n[结果](.\u002Fdoc\u002Ftest_result.md#model-test-result)\n\n# 基准测试\n\n> 你可以在 [test](.\u002Ftest) 文件夹中运行基准测试\n\n## 基准测试结果\n\n| 名称        | time\u002Fop | 操作系统         | CPU      | 文本                             | 次数  |\n|-------------|---------|------------------|----------|----------------------------------|-------|\n| tiktoken-go | 8795ns  | macOS 13.2       | Apple M1 | [UDHR](https:\u002F\u002Funicode.org\u002Fudhr) | 100000 |\n| tiktoken    | 8838ns  | macOS 13.2       | Apple M1 | [UDHR](https:\u002F\u002Funicode.org\u002Fudhr) | 100000 |\n\n看起来性能几乎相同。\n\n也许差异是由于机器性能的不同造成的。\n\n或者我的基准测试方法可能不太合适。\n\n如果你有更好的基准测试方法，或者想添加你的基准测试结果，请随时提交 PR。\n\n对于新的 `o200k_base` 编码，它似乎比 `cl100k_base` 更慢。在以下基准测试中，tiktoken-go 略慢于 tiktoken。\n\n| 名称        | 编码        | time\u002Fop   | 操作系统           | CPU                | 文本                                                | 次数  |\n|-------------|-------------|-----------|--------------------|--------------------|-----------------------------------------------------|-------|\n| tiktoken-go | o200k_base  | 108522 ns | Ubuntu 22.04       | AMD Ryzen 9 5900HS | [UDHR](http:\u002F\u002Fresearch.ics.aalto.fi\u002Fcog\u002Fdata\u002Fudhr\u002F) | 100000 |\n| tiktoken    | o200k_base  | 70198 ns  | Ubuntu 22.04       | AMD Ryzen 9 5900HS | [UDHR](http:\u002F\u002Fresearch.ics.aalto.fi\u002Fcog\u002Fdata\u002Fudhr\u002F) | 100000 |\n| tiktoken-go | cl100k_base | 94502 ns  | Ubuntu 22.04       | AMD Ryzen 9 5900HS | [UDHR](http:\u002F\u002Fresearch.ics.aalto.fi\u002Fcog\u002Fdata\u002Fudhr\u002F) | 100000 |\n| tiktoken    | cl100k_base | 54642 ns  | Ubuntu 22.04       | AMD Ryzen 9 5900HS | [UDHR](http:\u002F\u002Fresearch.ics.aalto.fi\u002Fcog\u002Fdata\u002Fudhr\u002F) | 100000 |\n\n# 许可证\n\n[MIT](.\u002FLICENSE)","# tiktoken-go 快速上手指南\n\n`tiktoken-go` 是 OpenAI 官方 `tiktoken` 库的 Go 语言移植版本，用于快速计算 OpenAI 模型（如 GPT-4、GPT-3.5-Turbo）的 Token 数量。\n\n## 环境准备\n\n- **操作系统**：Linux, macOS, Windows\n- **Go 版本**：建议 Go 1.18 及以上版本\n- **前置依赖**：无特殊系统依赖，仅需标准的 Go 开发环境\n\n## 安装步骤\n\n使用 Go 模块直接安装：\n\n```bash\ngo get github.com\u002Fpkoukk\u002Ftiktoken-go\n```\n\n> **提示**：如果下载速度较慢，可配置国内 Go 代理：\n> ```bash\n> export GOPROXY=https:\u002F\u002Fgoproxy.cn,direct\n> go get github.com\u002Fpkoukk\u002Ftiktoken-go\n> ```\n\n## 基本使用\n\n### 1. 通过编码名称获取 Token\n\n最基础的用法是指定编码名称（如 `cl100k_base`）对文本进行编码。\n\n```go\npackage main\n\nimport (\n\t\"fmt\"\n\t\"github.com\u002Fpkoukk\u002Ftiktoken-go\"\n)\n\nfunc main() {\n\ttext := \"Hello, world!\"\n\tencodingName := \"cl100k_base\"\n\n\t\u002F\u002F 获取编码器\n\ttke, err := tiktoken.GetEncoding(encodingName)\n\tif err != nil {\n\t\tfmt.Printf(\"getEncoding: %v\\n\", err)\n\t\treturn\n\t}\n\n\t\u002F\u002F 编码文本\n\ttoken := tke.Encode(text, nil, nil)\n\n\t\u002F\u002F 输出结果\n\tfmt.Println(token)        \u002F\u002F Token ID 列表\n\tfmt.Println(len(token))   \u002F\u002F Token 数量\n}\n```\n\n### 2. 通过模型名称获取 Token\n\n直接指定 OpenAI 模型名称（如 `gpt-3.5-turbo`），库会自动匹配对应的编码规则。\n\n```go\npackage main\n\nimport (\n\t\"fmt\"\n\t\"github.com\u002Fpkoukk\u002Ftiktoken-go\"\n)\n\nfunc main() {\n\ttext := \"Hello, world!\"\n\tmodelName := \"gpt-3.5-turbo\"\n\n\t\u002F\u002F 根据模型获取编码器\n\ttkm, err := tiktoken.EncodingForModel(modelName)\n\tif err != nil {\n\t\tfmt.Printf(\"getEncoding: %v\\n\", err)\n\t\treturn\n\t}\n\n\t\u002F\u002F 编码文本\n\ttoken := tkm.Encode(text, nil, nil)\n\n\t\u002F\u002F 输出结果\n\tfmt.Println(token)        \u002F\u002F Token ID 列表\n\tfmt.Println(len(token))   \u002F\u002F Token 数量\n}\n```\n\n### 注意事项\n- **缓存机制**：首次运行时会自动下载编码字典。可通过设置环境变量 `TIKTOKEN_CACHE_DIR` 指定缓存目录，避免重复下载。\n- **离线使用**：若需完全离线运行，可结合 [tiktoken-go-loader](https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go-loader) 项目加载本地字典文件。","某 Go 语言后端团队正在开发一款企业级 AI 客服系统，需要实时计算用户对话与上下文历史的 Token 数量，以精准控制 GPT-4 模型的调用成本并防止超出上下文窗口限制。\n\n### 没有 tiktoken-go 时\n- **跨语言调用延迟高**：团队被迫通过 HTTP 请求调用 Python 微服务进行分词计算，网络往返导致每次对话响应增加 50-100ms 延迟。\n- **部署运维复杂**：生产环境必须同时维护 Go 主程序和 Python 运行时依赖，增加了容器镜像体积和故障排查难度。\n- **离线场景不可用**：在内部隔离网络或无外网权限的服务器中，无法动态下载 OpenAI 的分词字典，导致服务启动失败。\n- **成本预估不准**：缺乏本地精确计数能力，只能按字符数粗略估算，常因实际 Token 超标引发 API 报错或意外扣费。\n\n### 使用 tiktoken-go 后\n- **原生高性能计算**：直接在 Go 代码中调用 `EncodingForModel` 完成分词，消除网络开销，将计数延迟降低至毫秒级。\n- **架构极简统一**：仅需引入单一 Go 模块即可运行，移除了 Python 依赖，显著简化了 CI\u002FCD 流程和容器化部署。\n- **灵活缓存与离线支持**：通过配置 `TIKTOKEN_CACHE_DIR` 环境变量或嵌入离线加载器（tiktoken-loader），确保在无网环境下也能稳定初始化。\n- **精准成本控制**：利用官方对齐的计数逻辑（如 `NumTokensFromMessages`），精确匹配 Chat API 的实际消耗，有效避免预算超支。\n\ntiktoken-go 让 Go 开发者能以原生方式获得与 OpenAI 官方完全一致的分词能力，彻底解决了多语言架构下的性能瓶颈与部署难题。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fpkoukk_tiktoken-go_c8a06b85.png","pkoukk","ImmortalFog","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fpkoukk_fac5185d.png",null,"Shanghai,China","pkoukk@hotmail.com","https:\u002F\u002Fgithub.com\u002Fpkoukk",[84,88],{"name":85,"color":86,"percentage":87},"Go","#00ADD8",87.9,{"name":89,"color":90,"percentage":91},"Python","#3572A5",12.1,897,101,"2026-04-03T14:01:00","MIT","Linux, macOS, Windows","未说明",{"notes":99,"python":100,"dependencies":101},"这是一个 Go 语言库，非 Python 项目。运行需安装 Go 环境。首次运行时默认会下载分词字典文件，可通过设置环境变量 TIKTOKEN_CACHE_DIR 配置缓存目录以避免重复下载；若需完全离线运行，需引入额外的 tiktoken-go-loader 包加载嵌入文件。","不适用 (Go 语言项目)",[102,103,104],"github.com\u002Fpkoukk\u002Ftiktoken-go","github.com\u002Fsashabaranov\u002Fgo-openai (示例依赖)","github.com\u002Fpkoukk\u002Ftiktoken-go-loader (可选离线加载器)",[15],[107,108,109,110,111,112,113],"gpt-35-turbo","openai","tiktoken","chatgpt","go","golang","gpt-4","2026-03-27T02:49:30.150509","2026-04-06T05:38:00.137818",[117,122,127,132,137,142,147],{"id":118,"question_zh":119,"answer_zh":120,"source_url":121},15810,"为什么计算的 Token 数量与 OpenAI 接口报错显示的数量不一致？","这是因为计算 Chat 模型的 Token 时，不仅包含消息内容，还包含额外的格式开销（如 role、name 等）。不同的模型有不同的计算规则：\n1. 对于 gpt-3.5-turbo：每条消息额外消耗 4 个 token，如果包含 name 则额外 -1 个 token。\n2. 对于 gpt-4：每条消息额外消耗 3 个 token，如果包含 name 则额外 +1 个 token。\n\n建议不要只计算 prompt 字符串的长度，而应使用专门针对 Chat 消息结构的计算方法。参考代码逻辑如下：\n```go\nif model == \"gpt-3.5-turbo\" {\n    tokens_per_message = 4\n    tokens_per_name = -1\n} else if model == \"gpt-4\" {\n    tokens_per_message = 3\n    tokens_per_name = 1\n}\n\u002F\u002F 遍历消息累加：num_tokens += tokens_per_message + len(content_tokens) + len(role_tokens)\n\u002F\u002F 最后还需加上每条回复固定的 3 个 token (assistant 前缀)\n```","https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fissues\u002F6",{"id":123,"question_zh":124,"answer_zh":125,"source_url":126},15811,"Tiktoken 实例可以在多个 Go 协程（goroutines）之间共享吗？","可以。所有的 `Tiktoken` 方法都是线程安全的，您可以安全地在多个 Go 协程中并发调用同一个实例。\n为了提高性能并避免重复初始化带来的开销（如编译正则表达式），建议在程序启动时（例如在 `init` 函数中或使用 `sync.Once`）创建单例实例，然后在所有请求处理中复用该实例，而不是每次计算都重新创建。","https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fissues\u002F33",{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},15812,"频繁调用 `EncodingForModel` 导致服务器内存溢出（OOM）或响应缓慢怎么办？","`GetEncoding` 或 `EncodingForModel` 是昂贵的操作，因为它需要加载文件、编译正则并分配大量内存。如果在高并发场景下频繁调用，会导致内存迅速耗尽或延迟增加。\n\n解决方案是采用单例模式（Singleton Pattern）：\n1. 在服务器启动时（main 函数或 init 中）初始化一次 Encoding 实例。\n2. 将该实例传递给所有处理请求的 Handler 复用。\n3. 确保不要为每个请求或每个协程都调用一次初始化函数。\n\n维护者已优化库内部使用 `sync.Once` 来确保同一编码名称只初始化一次，但用户端仍应避免在循环或高频路径中重复调用获取方法。","https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fissues\u002F34",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},15813,"为什么中文文本的 Token 计算结果与 OpenAI 官方在线工具不一致？","这通常是因为使用了错误的编码模型（Encoding Model）。\nOpenAI 官方的在线 Tokenizer 工具默认可能使用的是旧模型（如 `p50k_base`，对应 gpt-3），而较新的模型（如 gpt-3.5-turbo, gpt-4）使用的是 `cl100k_base` 编码。\n不同编码模型对中文的分词策略不同，导致结果差异巨大。请确保您的代码中指定的模型与您实际使用的 API 模型一致。例如，如果使用 `gpt-3.5-turbo`，请务必使用 `tiktoken.GetEncoding(\"cl100k_base\")` 或 `tiktoken.EncodingForModel(\"gpt-3.5-turbo\")`。","https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fissues\u002F36",{"id":138,"question_zh":139,"answer_zh":140,"source_url":141},15814,"如何高效地缓存 Encoder 以避免重复初始化的性能损耗？","由于 `tiktoken.EncodingForModel` 初始化较慢（可能涉及网络请求或文件系统读取及复杂设置），强烈建议在应用层面进行缓存。\n最佳实践是使用 `sync.Once` 确保全局只初始化一次，或者手动实现一个单例映射（Map）来存储已创建的 `*Tiktoken` 实例。不要依赖库内部的自动缓存机制来处理高并发下的实例复用，显式地在应用层持有一个全局共享的 Encoder 实例是最优解。","https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fissues\u002F51",{"id":143,"question_zh":144,"answer_zh":145,"source_url":146},15815,"调用 `EncodingForModel` 时报错找不到特定的模型版本（如 gpt-3.5-turbo-16k-0613）怎么办？","这通常是因为您使用的库版本过旧，尚未包含新发布的模型编码定义。\n解决方法是更新依赖到最新版本。请运行以下命令：\n```bash\ngo get -u github.com\u002Fpkoukk\u002Ftiktoken-go\n```\n更新后，库将支持最新的模型版本。如果更新后仍有问题，请检查是否手动加载了过期的本地编码文件。","https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fissues\u002F28",{"id":148,"question_zh":149,"answer_zh":150,"source_url":151},15816,"在哪里可以找到该库的性能基准测试（Benchmark）数据？","您可以在项目的 README 文件中找到基准测试结果。维护者使用《世界人权宣言》的不同语言版本进行了测试。\n查看地址：https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go#benchmark\n注意：具体性能表现与测试的语言和数据特征高度相关，README 中的数据可作为一般性参考。","https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fissues\u002F14",[153,158,163,168,173,178,182,187,192],{"id":154,"version":155,"summary_zh":156,"released_at":157},90508,"v0.1.8","## 变更内容\n* 功能新增：@kuzminT 在 https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fpull\u002F61 中增加了对 gpt-4.1 和 gpt-4.5 模型的支持\n* 移除已弃用的方法：@kuzminT 在 https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fpull\u002F62 中完成了此操作\n* 在获取编码时使用读写锁：@justadogistaken 在 https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fpull\u002F59 中实现了这一改进\n\n## 新贡献者\n* @kuzminT 在 https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fpull\u002F61 中完成了首次贡献\n* @justadogistaken 在 https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fpull\u002F59 中完成了首次贡献\n\n**完整变更日志**：https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fcompare\u002Fv0.1.7...v0.1.8","2025-09-10T12:45:03",{"id":159,"version":160,"summary_zh":161,"released_at":162},90509,"v0.1.7","## 变更内容\n* 功能：新增对最新嵌入模型的支持，由 @matthiasthomas 在 https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fpull\u002F43 中实现。\n* 功能：支持 o200k_base（gpt-4o），由 @WqyJh 在 https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fpull\u002F47 中实现。\n\n## 新贡献者\n* @matthiasthomas 在 https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fpull\u002F43 中完成了首次贡献。\n* @WqyJh 在 https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fpull\u002F47 中完成了首次贡献。\n\n**完整变更日志**：https:\u002F\u002Fgithub.com\u002Fpkoukk\u002Ftiktoken-go\u002Fcompare\u002Fv0.1.6...v0.1.7","2024-05-21T09:12:30",{"id":164,"version":165,"summary_zh":166,"released_at":167},90510,"v0.1.6","添加自定义构造函数","2023-09-08T08:17:44",{"id":169,"version":170,"summary_zh":171,"released_at":172},90511,"v0.1.5","修复使用多个 goroutine 初始化 Encoding 时内存消耗过高的问题。","2023-07-13T06:54:25",{"id":174,"version":175,"summary_zh":176,"released_at":177},90512,"v0.1.4","允许设置BPE加载器","2023-06-27T09:31:23",{"id":179,"version":180,"summary_zh":79,"released_at":181},90513,"v0.1.3","2023-06-16T09:15:08",{"id":183,"version":184,"summary_zh":185,"released_at":186},90514,"v0.1.2","由 @bakks 合并 Optimize 中的 encodeNative 分支。","2023-06-02T03:36:14",{"id":188,"version":189,"summary_zh":190,"released_at":191},90515,"v0.1.1","修复特殊标记的 bug  \n新增对 gpt-3.5-turbo-* 和 gpt-4-* 的支持","2023-04-19T10:49:36",{"id":193,"version":194,"summary_zh":195,"released_at":196},90516,"v0.1.0","初始化版本","2023-03-30T06:39:52"]