[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-SKT-AI--KoGPT2":3,"tool-SKT-AI--KoGPT2":64},[4,17,25,39,48,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",140436,2,"2026-04-05T23:32:43",[13,14,15],"开发框架","Agent","语言模型","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":10,"last_commit_at":23,"category_tags":24,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,15],{"id":26,"name":27,"github_repo":28,"description_zh":29,"stars":30,"difficulty_score":10,"last_commit_at":31,"category_tags":32,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[33,34,35,36,14,37,15,13,38],"图像","数据工具","视频","插件","其他","音频",{"id":40,"name":41,"github_repo":42,"description_zh":43,"stars":44,"difficulty_score":45,"last_commit_at":46,"category_tags":47,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,3,"2026-04-04T04:44:48",[14,33,13,15,37],{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":45,"last_commit_at":54,"category_tags":55,"status":16},519,"PaddleOCR","PaddlePaddle\u002FPaddleOCR","PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来，转换成计算机可读取的结构化数据，让机器真正“看懂”图文内容。\n\n面对海量纸质或电子文档，PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域，它扮演着连接图像与大型语言模型（LLM）的桥梁角色，能将视觉信息直接转化为文本输入，助力智能问答、文档分析等应用场景落地。\n\nPaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显：不仅支持全球 100 多种语言的识别，还能在 Windows、Linux、macOS 等多个系统上运行，并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目，PaddleOCR 既能满足快速集成的需求，也能支撑前沿的视觉语言研究，是处理文字识别任务的理想选择。",74939,"2026-04-05T23:16:38",[15,33,13,37],{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":45,"last_commit_at":62,"category_tags":63,"status":16},2181,"OpenHands","OpenHands\u002FOpenHands","OpenHands 是一个专注于 AI 驱动开发的开源平台，旨在让智能体（Agent）像人类开发者一样理解、编写和调试代码。它解决了传统编程中重复性劳动多、环境配置复杂以及人机协作效率低等痛点，通过自动化流程显著提升开发速度。\n\n无论是希望提升编码效率的软件工程师、探索智能体技术的研究人员，还是需要快速原型验证的技术团队，都能从中受益。OpenHands 提供了灵活多样的使用方式：既可以通过命令行（CLI）或本地图形界面在个人电脑上轻松上手，体验类似 Devin 的流畅交互；也能利用其强大的 Python SDK 自定义智能体逻辑，甚至在云端大规模部署上千个智能体并行工作。\n\n其核心技术亮点在于模块化的软件智能体 SDK，这不仅构成了平台的引擎，还支持高度可组合的开发模式。此外，OpenHands 在 SWE-bench 基准测试中取得了 77.6% 的优异成绩，证明了其解决真实世界软件工程问题的能力。平台还具备完善的企业级功能，支持与 Slack、Jira 等工具集成，并提供细粒度的权限管理，适合从个人开发者到大型企业的各类用户场景。",70626,"2026-04-05T22:51:36",[15,14,13,36],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":79,"owner_twitter":79,"owner_website":80,"owner_url":81,"languages":79,"stars":82,"forks":83,"last_commit_at":84,"license":85,"difficulty_score":10,"env_os":78,"env_gpu":86,"env_ram":86,"env_deps":87,"category_tags":93,"github_topics":94,"view_count":10,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":97,"updated_at":98,"faqs":99,"releases":140},4162,"SKT-AI\u002FKoGPT2","KoGPT2","Korean GPT-2 pretrained cased (KoGPT2)","KoGPT2 是一款专为韩语优化的开源语言模型，基于 GPT-2 架构打造。它旨在解决通用大模型在韩语理解与生成能力上的不足，能够流畅地预测下文、创作文章甚至进行逻辑推理。该模型使用了超过 40GB 的韩语语料（包括维基百科、新闻及政府公开数据集）进行训练，显著提升了在韩语语境下的表现。\n\nKoGPT2 特别适合 AI 开发者、自然语言处理研究人员以及需要构建韩语智能应用的企业团队使用。无论是开发聊天机器人、自动摘要系统，还是进行情感分析与文本分类任务，它都能提供强大的底层支持。普通用户也可以通过在线演示体验其续写故事或生成建议的能力。\n\n其技术亮点在于采用了定制的 Character BPE 分词器，词汇表大小达 51,200，并特别纳入了大量韩网常用的表情符号和颜文字，使其在处理非正式对话时更加自然。此外，模型预留了未使用令牌，方便开发者根据特定任务灵活调整。作为 SKT 推出的开源项目，KoGPT2 在非商业用途下免费开放，是进入韩语 NLP 领域的优质起点。","\n\u003C!-- @import \"[TOC]\" {cmd=\"toc\" depthFrom=1 depthTo=6 orderedList=false} -->\n\n\u003C!-- code_chunk_output -->\n\n* [KoGPT2 (한국어 GPT-2) Ver 2.0](#kogpt2-한국어-gpt-2-ver-20)\n  * [Tokenizer](#tokenizer)\n  * [Model](#model)\n    * [Performances](#performances)\n    * [Classification or Regression](#classification-or-regression)\n  * [Data](#data)\n  * [Demo](#demo)\n  * [User Contributed Examples](#user-contributed-examples)\n  * [Related press releases](#related-press-releases)\n  * [Contacts](#contacts)\n  * [License](#license)\n\n\u003C!-- \u002Fcode_chunk_output -->\n\n\n## KoGPT2 (한국어 GPT-2) Ver 2.0\n\n[GPT-2](https:\u002F\u002Fopenai.com\u002Fblog\u002Fbetter-language-models\u002F)는 주어진 텍스트의 다음 단어를 잘 예측할 수 있도록 학습된 언어모델이며 문장 생성에 최적화 되어 있습니다. `KoGPT2`는 부족한 한국어 성능을 극복하기 위해 40GB 이상의 텍스트로 학습된 한국어 디코더(`decoder`) 언어모델입니다.\n\n\u003Ctable>\u003Ctr>\u003Ctd>\n    \u003Ccenter>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSKT-AI_KoGPT2_readme_ec40bb6004c9.png\" width=\"452\"\u002F>\u003C\u002Fcenter>\n\u003C\u002Ftd>\u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n\n### Tokenizer\n\n\n[`tokenizers`](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftokenizers) 패키지의 `Character BPE tokenizer`로 학습되었습니다.\n\n사전 크기는 51,200 이며 대화에 자주 쓰이는 아래와 같은 이모티콘, 이모지 등을 추가하여 해당 토큰의 인식 능력을 올렸습니다.\n> 😀, 😁, 😆, 😅, 🤣, .. , `:-)`, `:)`, `-)`, `(-:`...\n\n또한 `\u003Cunused0>` ~ `\u003Cunused99>`등의 미사용 토큰을 정의해 필요한 테스크에 따라 자유롭게 정의해 사용할 수 있게 했습니다.\n\n```python\n> from transformers import PreTrainedTokenizerFast\n> tokenizer = PreTrainedTokenizerFast.from_pretrained(\"skt\u002Fkogpt2-base-v2\",\n  bos_token='\u003C\u002Fs>', eos_token='\u003C\u002Fs>', unk_token='\u003Cunk>',\n  pad_token='\u003Cpad>', mask_token='\u003Cmask>')\n> tokenizer.tokenize(\"안녕하세요. 한국어 GPT-2 입니다.😤:)l^o\")\n['▁안녕', '하', '세', '요.', '▁한국어', '▁G', 'P', 'T', '-2', '▁입', '니다.', '😤', ':)', 'l^o']\n```\n\n### Model\n\n| Model       |  # of params |   Type   | # of layers  | # of heads | ffn_dim | hidden_dims |\n|--------------|:----:|:-------:|--------:|--------:|--------:|--------------:|\n| `kogpt2-base-v2` |  125M  |  Decoder |   12     | 12      | 3072    | 768 |\n\n\n```python\n> import torch\n> from transformers import GPT2LMHeadModel\n\n> model = GPT2LMHeadModel.from_pretrained('skt\u002Fkogpt2-base-v2')\n> text = '근육이 커지기 위해서는'\n> input_ids = tokenizer.encode(text, return_tensors='pt')\n> gen_ids = model.generate(input_ids,\n                           max_length=128,\n                           repetition_penalty=2.0,\n                           pad_token_id=tokenizer.pad_token_id,\n                           eos_token_id=tokenizer.eos_token_id,\n                           bos_token_id=tokenizer.bos_token_id,\n                           use_cache=True)\n> generated = tokenizer.decode(gen_ids[0])\n> print(generated)\n근육이 커지기 위해서는 무엇보다 규칙적인 생활습관이 중요하다.\n특히, 아침식사는 단백질과 비타민이 풍부한 과일과 채소를 많이 섭취하는 것이 좋다.\n또한 하루 30분 이상 충분한 수면을 취하는 것도 도움이 된다.\n아침 식사를 거르지 않고 규칙적으로 운동을 하면 혈액순환에 도움을 줄 뿐만 아니라 신진대사를 촉진해 체내 노폐물을 배출하고 혈압을 낮춰준다.\n운동은 하루에 10분 정도만 하는 게 좋으며 운동 후에는 반드시 스트레칭을 통해 근육량을 늘리고 유연성을 높여야 한다.\n운동 후 바로 잠자리에 드는 것은 피해야 하며 특히 아침에 일어나면 몸이 피곤해지기 때문에 무리하게 움직이면 오히려 역효과가 날 수도 있다...\n```\n\n#### Performances\n\n#### Classification or Regression\n\n|   |  [NSMC](https:\u002F\u002Fgithub.com\u002Fe9t\u002Fnsmc)(acc)  | [KorSTS](https:\u002F\u002Fgithub.com\u002Fkakaobrain\u002FKorNLUDatasets)(spearman) |\n|---|---|---|\n| **KoGPT2 2.0**  | 89.1  | 77.8  |\n\n\n### Data\n\n[한국어 위키 백과](https:\u002F\u002Fko.wikipedia.org\u002F) 이외, 뉴스, [모두의 말뭉치 v1.0](https:\u002F\u002Fcorpus.korean.go.kr\u002F) 등의 다양한 데이터가 모델 학습에 사용되었습니다.\n\n\n\n### Demo\n\n[데모 링크](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fgogamza\u002Fkogpt2-base-v2)\n\n\u003Ctable>\u003Ctr>\u003Ctd>\n    \u003Ccenter>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSKT-AI_KoGPT2_readme_5e119a5fa330.png\" width=\"452\"\u002F>\u003C\u002Fcenter>\n\u003C\u002Ftd>\u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### User Contributed Examples\n- [국립국어원 신문 말뭉치(Ver.1.1) 뉴스기사 토픽 분류](https:\u002F\u002Fgithub.com\u002Fseawavve\u002FnewsTopicClassification)\n\n### Related press releases\n\n- [SKT, 글 쓰는 AI 'KoGPT2' 새 버전 개발…문장→문단생성으로 성능 향상](https:\u002F\u002Fwww.ajunews.com\u002Fview\u002F20210504120317549)\n- [[AI 모델 탐험기] #7 한글 버전의 GPT-2, KoGPT2](https:\u002F\u002Fmedium.com\u002Fai-networkkr\u002Fai-%EB%AA%A8%EB%8D%B8-%ED%83%90%ED%97%98%EA%B8%B0-7-%ED%95%9C%EA%B8%80-%EB%B2%84%EC%A0%84%EC%9D%98-gpt-2-f7317e6499f9)\n\n### Contacts\n\n`KoGPT2` 관련 이슈는 [이곳](https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues)에 올려주세요.\n\n\n### License\n\n`KoGPT2`는 [CC-BY-NC-SA 4.0 라이선스](https:\u002F\u002Fcreativecommons.org\u002Flicenses\u002Fby-nc-sa\u002F4.0\u002F) 하에 공개되어 있습니다. 모델 및 코드를 사용할 경우 라이선스 내용을 준수해주세요. 라이선스 전문은 [LICENSE](https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fblob\u002Fmaster\u002FLICENSE) 파일에서 확인하실 수 있습니다.\n","\u003C!-- @import \"[TOC]\" {cmd=\"toc\" depthFrom=1 depthTo=6 orderedList=false} -->\n\n\u003C!-- code_chunk_output -->\n\n* [KoGPT2（韩语GPT-2）Ver 2.0](#kogpt2-한국어-gpt-2-ver-20)\n  * [分词器](#tokenizer)\n  * [模型](#model)\n    * [性能](#performances)\n    * [分类或回归](#classification-or-regression)\n  * [数据](#data)\n  * [演示](#demo)\n  * [用户贡献示例](#user-contributed-examples)\n  * [相关新闻稿](#related-press-releases)\n  * [联系方式](#contacts)\n  * [许可证](#license)\n\n\u003C!-- \u002Fcode_chunk_output -->\n\n\n## KoGPT2（韩语GPT-2）Ver 2.0\n\n[GPT-2](https:\u002F\u002Fopenai.com\u002Fblog\u002Fbetter-language-models\u002F) 是一种经过训练能够很好地预测给定文本中下一个单词的语言模型，特别适合用于生成句子。`KoGPT2` 是一个基于超过40GB的文本数据训练而成的韩语解码器语言模型，旨在克服韩语相关性能不足的问题。\n\n\u003Ctable>\u003Ctr>\u003Ctd>\n    \u003Ccenter>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSKT-AI_KoGPT2_readme_ec40bb6004c9.png\" width=\"452\"\u002F>\u003C\u002Fcenter>\n\u003C\u002Ftd>\u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n\n### 分词器\n\n\n它使用了 [`tokenizers`](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftokenizers) 包中的 `Character BPE 分词器` 进行训练。\n\n词汇表大小为51,200，并添加了以下常用表情符号、emoji等，以提高对这些标记的识别能力：\n> 😀, 😁, 😆, 😅, 🤣, .. , `:-)`, `:)`, `-)`, `(-:`...\n\n此外，还定义了 `\u003Cunused0>` ~ `\u003Cunused99>` 等未使用的标记，以便根据需要自由定义和使用。\n\n```python\n> from transformers import PreTrainedTokenizerFast\n> tokenizer = PreTrainedTokenizerFast.from_pretrained(\"skt\u002Fkogpt2-base-v2\",\n  bos_token='\u003C\u002Fs>', eos_token='\u003C\u002Fs>', unk_token='\u003Cunk>',\n  pad_token='\u003Cpad>', mask_token='\u003Cmask>')\n> tokenizer.tokenize(\"안녕하세요. 한국어 GPT-2 입니다.😤:)l^o\")\n['▁안녕', '하', '세', '요.', '▁한국어', '▁G', 'P', 'T', '-2', '▁입', '니다.', '😤', ':)', 'l^o']\n```\n\n### 模型\n\n| 模型       | 参数量 | 类型   | 层数  | 注意头数 | FFN维度 | 隐藏层维度 |\n|--------------|:----:|:-------:|--------:|--------:|--------:|--------------:|\n| `kogpt2-base-v2` |  125M  |  解码器 |   12     | 12      | 3072    | 768 |\n\n\n```python\n> import torch\n> from transformers import GPT2LMHeadModel\n\n> model = GPT2LMHeadModel.from_pretrained('skt\u002Fkogpt2-base-v2')\n> text = '근육이 커지기 위해서는'\n> input_ids = tokenizer.encode(text, return_tensors='pt')\n> gen_ids = model.generate(input_ids,\n                           max_length=128,\n                           repetition_penalty=2.0,\n                           pad_token_id=tokenizer.pad_token_id,\n                           eos_token_id=tokenizer.eos_token_id,\n                           bos_token_id=tokenizer.bos_token_id,\n                           use_cache=True)\n> generated = tokenizer.decode(gen_ids[0])\n> print(generated)\n근육이 커지기 위해서는 무엇보다 규칙적인 생활습관이 중요하다.\n특히, 아침식사는 단백질과 비타민이 풍부한 과일과 채소를 많이 섭취하는 것이 좋다.\n또한 하루 30분 이상 충분한 수면을 취하는 것도 도움이 된다.\n아침 식사를 거르지 않고 규칙적으로 운동을 하면 혈액순환에 도움을 줄 뿐만 아니라 신진대사를 촉진해 체내 노폐물을 배출하고 혈압을 낮춰준다.\n운동은 하루에 10분 정도만 하는 게 좋으며 운동 후에는 반드시 스트레칭을 통해 근육량을 늘리고 유연성을 높여야 한다.\n운동 후 바로 잠자리에 드는 것은 피해야 하며 특히 아침에 일어나면 몸이 피곤해지기 때문에 무리하게 움직이면 오히려 역효果가 날 수도 있다...\n```\n\n#### 性能\n\n#### 分类或回归\n\n|   |  [NSMC](https:\u002F\u002Fgithub.com\u002Fe9t\u002Fnsmc)(准确率)  | [KorSTS](https:\u002F\u002Fgithub.com\u002Fkakaobrain\u002FKorNLUDatasets)(斯皮尔曼相关系数) |\n|---|---|---|\n| **KoGPT2 2.0**  | 89.1  | 77.8  |\n\n\n### 数据\n\n除了[韩语维基百科](https:\u002F\u002Fko.wikipedia.org\u002F)之外，新闻、[大家的语料库 v1.0](https:\u002F\u002Fcorpus.korean.go.kr\u002F)等多种数据也被用于模型的训练。\n\n\n\n### 演示\n\n[演示链接](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fgogamza\u002Fkogpt2-base-v2)\n\n\u003Ctable>\u003Ctr>\u003Ctd>\n    \u003Ccenter>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSKT-AI_KoGPT2_readme_5e119a5fa330.png\" width=\"452\"\u002F>\u003C\u002Fcenter>\n\u003C\u002Ftd>\u003C\u002Ftr>\n\u003C\u002Ftable>\n\n\n### 用户贡献示例\n- [国立国语院报纸语料库(Ver.1.1) 新闻文章主题分类](https:\u002F\u002Fgithub.com\u002Fseawavve\u002FnewsTopicClassification)\n\n### 相关新闻稿\n\n- [SKT开发写作AI“KoGPT2”新版本…从句子生成提升至段落生成](https:\u002F\u002Fwww.ajunews.com\u002Fview\u002F20210504120317549)\n- [[AI模型探索] #7 韩语版的GPT-2，KoGPT2](https:\u002F\u002Fmedium.com\u002Fai-networkkr\u002Fai-%EB%AA%A8%EB%8D%B8-%ED%83%90%ED%97%98%EA%B8%B0-7-%ED%95%9C%EA%B8%80-%EB%B2%84%EC%A0%84%EC%9D%98-gpt-2-f7317e6499f9)\n\n### 联系方式\n\n关于`KoGPT2`的相关问题，请提交至[此处](https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues)。\n\n\n### 许可证\n\n`KoGPT2` 根据 [CC-BY-NC-SA 4.0 许可证](https:\u002F\u002Fcreativecommons.org\u002Flicenses\u002Fby-nc-sa\u002F4.0\u002F) 公开发布。在使用该模型及代码时，请遵守许可证条款。许可证全文可在[LICENSE](https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fblob\u002Fmaster\u002FLICENSE)文件中查看。","# KoGPT2 快速上手指南\n\nKoGPT2 是由 SKT 开发的韩语专用 GPT-2 语言模型（Ver 2.0），基于超过 40GB 的韩语文本训练，擅长韩语句子生成、文本分类及回归任务。\n\n## 环境准备\n\n*   **系统要求**：支持 Linux、macOS 或 Windows。\n*   **Python 版本**：推荐 Python 3.7 及以上。\n*   **前置依赖**：\n    *   `torch` (PyTorch)\n    *   `transformers` (Hugging Face)\n    *   `tokenizers`\n\n确保已安装基础深度学习环境。若需加速下载，可配置 Hugging Face 国内镜像（如适用）。\n\n## 安装步骤\n\n使用 pip 安装必要的库：\n\n```bash\npip install torch transformers tokenizers\n```\n\n> **提示**：如果下载预训练模型速度较慢，建议在代码中设置 `HF_ENDPOINT` 环境变量指向国内镜像源（例如：`export HF_ENDPOINT=https:\u002F\u002Fhf-mirror.com`）。\n\n## 基本使用\n\n以下示例展示如何加载 KoGPT2 模型并进行文本生成。\n\n### 1. 初始化 Tokenizer 和 Model\n\n```python\nfrom transformers import PreTrainedTokenizerFast, GPT2LMHeadModel\nimport torch\n\n# 加载分词器\ntokenizer = PreTrainedTokenizerFast.from_pretrained(\"skt\u002Fkogpt2-base-v2\",\n  bos_token='\u003C\u002Fs>', eos_token='\u003C\u002Fs>', unk_token='\u003Cunk>',\n  pad_token='\u003Cpad>', mask_token='\u003Cmask>')\n\n# 加载模型\nmodel = GPT2LMHeadModel.from_pretrained('skt\u002Fkogpt2-base-v2')\n```\n\n### 2. 文本生成示例\n\n输入一段韩语文本，模型将自动续写后续内容：\n\n```python\n# 输入提示文本\ntext = '근육이 커지기 위해서는'\n\n# 编码输入\ninput_ids = tokenizer.encode(text, return_tensors='pt')\n\n# 生成文本\ngen_ids = model.generate(input_ids,\n                         max_length=128,\n                         repetition_penalty=2.0,\n                         pad_token_id=tokenizer.pad_token_id,\n                         eos_token_id=tokenizer.eos_token_id,\n                         bos_token_id=tokenizer.bos_token_id,\n                         use_cache=True)\n\n# 解码并输出结果\ngenerated = tokenizer.decode(gen_ids[0])\nprint(generated)\n```\n\n**输出示例：**\n> 근육이 커지기 위해서는 무엇보다 규칙적인 생활습관이 중요하다. 특히, 아침식사는 단백질과 비타민이 풍부한 과일과 채소를 많이 섭취하는 것이 좋다...\n\n### 注意事项\n*   该模型主要针对**韩语**优化，输入中文可能无法得到预期效果。\n*   模型遵循 **CC-BY-NC-SA 4.0** 许可协议，仅限非商业用途使用。","一家韩国本土电商初创公司希望为其客服系统开发一个能自动回复用户咨询并生成个性化产品推荐文案的智能助手。\n\n### 没有 KoGPT2 时\n- **语言理解生硬**：直接使用英文 GPT-2 或早期翻译模型，无法准确捕捉韩语特有的敬语体系（如\"-요\", \"-습니다\"）和细微的情感色彩，导致回复机械且无礼。\n- **上下文断裂**：在处理长段用户投诉或复杂查询时，模型难以维持连贯的逻辑，经常生成前后矛盾或重复的废话。\n- **文化适配缺失**：无法识别韩国网络文化中常用的表情符号（如 `^^`, `ㅠㅠ`）和特定缩略语，导致交互体验缺乏亲和力。\n- **开发成本高昂**：团队需从零收集数百 GB 的韩语新闻、维基百科及对话数据进行预训练，耗时数月且算力成本巨大。\n\n### 使用 KoGPT2 后\n- **地道韩语表达**：KoGPT2 基于 40GB+ 纯韩语语料训练，能自然运用正确的敬语层级，生成的回复语气礼貌且符合韩国人阅读习惯。\n- **长文本逻辑连贯**：利用其 Decoder 架构优势，模型能根据用户前文精准预测后续内容，生成结构完整、逻辑清晰的段落级建议，而非零散句子。\n- **情感与符号识别**：内置优化的 Character BPE 分词器能完美解析 `😤`, `:)` 等表情符号及网络用语，使机器回复更具“人情味”。\n- **快速落地部署**：开发者可直接调用 `skt\u002Fkogpt2-base-v2` 预训练权重，仅需少量微调即可上线高性能客服机器人，将研发周期从数月缩短至数天。\n\nKoGPT2 通过提供原生韩语的高精度语言理解与生成能力，彻底解决了韩国企业在构建本地化 AI 应用时的语言壁垒与数据瓶颈。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSKT-AI_KoGPT2_e76471c6.png","SKT-AI","SKT AI","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FSKT-AI_8da01f92.png","",null,"https:\u002F\u002Fwww.sktelecom.com","https:\u002F\u002Fgithub.com\u002FSKT-AI",558,104,"2026-03-20T12:33:44","NOASSERTION","未说明",{"notes":88,"python":86,"dependencies":89},"README 中未明确列出具体的操作系统、GPU、内存及 Python 版本要求。该模型基于 Hugging Face Transformers 库，通常依赖 PyTorch 环境。模型参数量为 1.25 亿（125M），属于轻量级模型，对显存要求相对较低。许可证为 CC-BY-NC-SA 4.0（禁止商业用途）。",[90,91,92],"torch","transformers","tokenizers",[15],[95,96],"korean-nlp","language-model","2026-03-27T02:49:30.150509","2026-04-06T12:04:29.983566",[100,105,110,115,120,125,130,135],{"id":101,"question_zh":102,"answer_zh":103,"source_url":104},18958,"运行示例代码时只输出空格字符（▁）且陷入死循环，如何解决？","这是由于新版 sentencepiece 中 `SampleEncodeAsPieces` 函数的 alpha 参数行为发生了变化。在最新版本的 sentencepiece 中，必须将 alpha 值显式设置为 0 以确保确定性输出。\n\n请修改代码如下：\n```python\n# 错误写法（旧版兼容）\n# tok = SentencepieceTokenizer(tok_path)\n\n# 正确写法（新版需指定 alpha=0）\ntok = SentencepieceTokenizer(tok_path, 0, 1)\ntoked = tok(sent)\nprint(toked)\n```\n大多数推理场景下，将 alpha 设为 0 是正确的做法。","https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues\u002F18",{"id":106,"question_zh":107,"answer_zh":108,"source_url":109},18959,"KoGPT2 模型似乎无法生成换行符，如何实现换行？","这是因为预训练的 BPE 词典中可能没有包含换行符 token，或者模型未学习到该用法。\n\n解决方案有两种：\n1. **修改数据策略**：在训练或微调数据预处理阶段，将换行符替换为模型能识别的特殊标记或自然语言描述（如“下一段”），生成后再还原。\n2. **修改词典（高级）**：尝试使用 sentencepiece 工具重新训练或修改 `.spiece` 词典文件以包含换行符，但这需要重新处理模型权重，难度较大。建议优先采用第一种通过数据层面解决的方法。","https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues\u002F11",{"id":111,"question_zh":112,"answer_zh":113,"source_url":114},18960,"进行 Fine-tuning 时报错 `ModuleNotFoundError: No module named 'transformers.configuration_gpt2'`，如何解决？","该错误是因为 Hugging Face `transformers` 库的版本更新导致模块路径变更。旧版本的导入方式 `from transformers.configuration_gpt2 import GPT2Config` 已失效。\n\n解决方法是更新导入语句以适应新版本：\n```python\n# 旧版（已废弃）\n# from transformers.configuration_gpt2 import GPT2Config\n\n# 新版推荐写法\nfrom transformers import GPT2Config\n# 或者\nfrom transformers.models.gpt2 import GPT2Config\n```\n请检查您的 `transformers` 库版本，并参考官方文档调整导入路径。由于官方示例代码可能滞后，建议直接参考 Hugging Face 最新的 GPT2 微调示例。","https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues\u002F45",{"id":116,"question_zh":117,"answer_zh":118,"source_url":119},18961,"在哪里可以找到 KoGPT2 的 Fine-tuning（微调）示例代码或子任务实现？","官方维护者提供了一个专门的子任务仓库，包含了分类、生成等任务的微调示例代码。\n\n请访问以下地址获取最新代码：\nhttps:\u002F\u002Fgithub.com\u002Fhaven-jeon\u002FKoGPT2-subtasks\n\n该仓库提供了基于 PyTorch Lightning 的实现，涵盖了数据加载、模型定义及训练循环的完整流程，是进行微调的最佳参考。","https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues\u002F34",{"id":121,"question_zh":122,"answer_zh":123,"source_url":124},18962,"如何通过 Prompt Engineering 提升 KoGPT2 生成故事或长文本的质量？","如果生成的文本逻辑混乱或不连贯，可以通过优化输入的前缀（Prefix\u002FPrompt）来引导模型。\n\n**具体技巧**：在输入句子前添加包含上下文信息的描述性前缀。\n例如，不要只输入：\n`옛날에 한 소녀가 살고 있었어요.` (从前住着一个小女孩)\n\n而是输入：\n`소녀가 주인공인 슬픈 동화를 쓰고 있습니다:: 옛날에 한 소녀가 살고 있었어요.` (正在写一篇以小女孩为主角的悲伤童话:: 从前住着一个小女孩)\n\n通过明确告知模型任务类型（如“写悲伤童话”）和角色设定，可以显著提高生成内容的相关性和连贯性。","https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues\u002F49",{"id":126,"question_zh":127,"answer_zh":128,"source_url":129},18963,"微调时遇到 `Invalid URL` 错误或 tokenizer 下载失败，该如何修复？","这通常是因为代码中使用的 tokenizer 下载链接已过时或配置错误。\n\n请检查您的 `utils.py` 或相关配置文件中的 tokenizer 字典，确保 `url` 指向正确的有效地址。错误的配置可能如下：\n```python\n# 错误示例（可能导致 Invalid URL 或 404）\ntokenizer = {\n    'url': 'https:\u002F\u002Fpypi.org\u002Fproject\u002Fkogpt2-transformers\u002F', # 这不是直接的文件链接\n    'fname': '...',\n    ...\n}\n```\n\n应修正为直接的_blob_存储链接（以 v2 版本为例）：\n```python\n# 正确示例\ntokenizer = {\n    'url': 'https:\u002F\u002Fkobert.blob.core.windows.net\u002Fmodels\u002Fkogpt2\u002Ftokenizer\u002Fkogpt2_news_wiki_ko_cased_818bfa919d.spiece',\n    'fname': 'kogpt2_news_wiki_ko_cased_818bfa919d.spiece',\n    'chksum': '818bfa919d'\n}\n```\n如果使用的是最新版的 `transformers` 库，建议直接使用 `AutoTokenizer.from_pretrained('skt\u002Fkogpt2-base-v2')` 自动处理下载，避免手动配置 URL。","https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues\u002F48",{"id":131,"question_zh":132,"answer_zh":133,"source_url":134},18964,"Tokenizer 的词汇表大小（51,200）与模型 Config 中的嵌入维度大小（52,003）不一致，这会影响模型吗？","这是正常现象，不会影响模型运行。\n\n1. **原因**：模型配置中的 `vocab_size` (52,003) 通常包含了特殊 token（如 PAD, BOS, EOS, UNK 等）以及可能的保留位，而基础词典大小（51,200）仅指实际学习到的子词单元。\n2. **影响**：模型的嵌入层（Embedding Layer）大小必须大于或等于 Tokenizer 可能输出的最大 ID。只要 Config 中的尺寸覆盖了 Tokenizer 的范围，模型即可正常工作。\n3. **验证**：您可以查看 Hugging Face 模型卡片中的 `config.json`，确认 `vocab_size` 字段。在使用 `transformers` 库加载模型时，它会自动处理这种对齐，无需手动干预。","https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues\u002F43",{"id":136,"question_zh":137,"answer_zh":138,"source_url":139},18965,"在 NSMC 数据集上使用 `skt\u002Fkogpt2-base-v2` 微调时，准确率无法达到预期的 93.3%，如何复现该结果？","准确率差异可能源于评估指标的计算时机和方式。\n\n**关键注意点**：\n在 PyTorch Lightning 等框架中，不要在每个 batch 结束时记录准确率，而应在整个 Epoch 结束后计算。\n\n错误的做法是在 `validation_step` 中直接记录，这会导致统计偏差。正确的做法是在 `validation_epoch_end` 中聚合所有结果后计算：\n```python\ndef validation_epoch_end(self, outputs):\n    avg_loss = torch.stack([x[\"loss\"] for x in outputs]).mean()\n    # 在所有验证步骤完成后计算整体准确率\n    val_acc = self.metric_acc.compute() \n    \n    self.log('val_loss', avg_loss)\n    self.log('val_acc', val_acc, on_epoch=True, prog_bar=True)\n    \n    # 重置指标以便下一个 epoch 使用\n    self.metric_acc.reset()\n```\n此外，请确保超参数（如 Batch Size, Learning Rate, Epochs）与官方实验设置保持一致，并检查是否使用了正确的模型头（Classification Head 而非 LM Head）。","https:\u002F\u002Fgithub.com\u002FSKT-AI\u002FKoGPT2\u002Fissues\u002F36",[]]