[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-km1994--NLP-Interview-Notes":3,"tool-km1994--NLP-Interview-Notes":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",154349,2,"2026-04-13T23:32:16",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[35,15,13,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":77,"owner_email":77,"owner_twitter":77,"owner_website":77,"owner_url":78,"languages":77,"stars":79,"forks":80,"last_commit_at":81,"license":77,"difficulty_score":82,"env_os":83,"env_gpu":84,"env_ram":84,"env_deps":85,"category_tags":88,"github_topics":91,"view_count":32,"oss_zip_url":77,"oss_zip_packed_at":77,"status":17,"created_at":97,"updated_at":98,"faqs":99,"releases":135},7280,"km1994\u002FNLP-Interview-Notes","NLP-Interview-Notes","该仓库主要记录 NLP 算法工程师相关的面试题","NLP-Interview-Notes 是一个专为自然语言处理（NLP）算法工程师打造的面试备考知识库。它系统性地整理了从传统机器学习到深度学习领域的核心面试题与详细解析，旨在帮助求职者高效应对技术面试中的高频考点。\n\n该资源重点解决了 NLP 领域知识点繁杂、理论深度要求高以及实战技巧难以总结的痛点。内容覆盖信息抽取、命名实体识别（NER）等关键方向，不仅深入剖析了 HMM、MEMM、CRF 等经典模型的数学原理与演进逻辑，还详细探讨了 BiLSTM-CRF、IDCNN 等深度学习架构及其在中文场景下的特殊优化策略（如词汇增强方法）。此外，项目还独家收录了大量工程落地\"Trick\"，针对数据噪声、标注不平衡、嵌套实体识别等实际难题提供了具体的解决方案。\n\nNLP-Interview-Notes 特别适合准备求职的 NLP 算法工程师、希望夯实理论基础的研究人员，以及想要系统梳理知识体系的在校学生使用。通过结构化的问答形式和深度的对比分析，它能帮助用户快速构建完整的知识框架，提升对算法本质的理解与应变能力。","# NLP 面无不过\n\n> 介绍：本项目是作者们根据个人面试和经验总结出的自然语言处理(NLP)面试准备的学习笔记与资料，该资料目前包含 自然语言处理各领域的 面试题积累。\n> \n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fkm1994_NLP-Interview-Notes_readme_81e30ba31d8a.png\" width=\"50%\" >\n>  NLP 面无不过 面试交流群 (注：人满 可 添加 小编wx：yzyykm666 加群！)\n\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fkm1994_NLP-Interview-Notes_readme_6f30ce152de0.png\" width=\"50%\" >\n\n## 四、NLP 学习算法 常见面试篇\n\n#### 4.1 信息抽取 常见面试篇\n\n##### 4.1.1 命名实体识别 常见面试篇\n\n- [隐马尔科夫算法 HMM 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_1q8xawb5rjwk.html)\n  - 一、基础信息 介绍篇\n    - 1.1 什么是概率图模型？\n    - 1.2 什么是 随机场？\n  - 二、马尔可夫过程 介绍篇\n    - 2.1 什么是 马尔可夫过程？\n    - 2.2 马尔可夫过程 的核心思想 是什么？\n  - 三、隐马尔科夫算法 篇\n    - 3.1 隐马尔科夫算法 介绍篇\n      - 3.1.1 隐马尔科夫算法 是什么？\n      - 3.1.2 隐马尔科夫算法 中 两个序列 是什么？\n      - 3.1.3 隐马尔科夫算法 中 三个矩阵 是什么？\n      - 3.1.4 隐马尔科夫算法 中 两个假设 是什么？\n      - 3.1.5 隐马尔科夫算法 中 工作流程 是什么？\n    - 3.2 隐马尔科夫算法 模型计算过程篇\n      - 3.2.1 隐马尔科夫算法 学习训练过程 是什么样的？\n      - 3.2.2 隐马尔科夫算法 序列标注（解码）过程 是什么样的？\n      - 3.2.3 隐马尔科夫算法 序列概率过程 是什么样的？\n    - 3.3 隐马尔科夫算法 问题篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_1q8xawb5rjwk.html)\n\n- [最大熵马尔科夫模型 MEMM 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_gcfcvw10h89u.html)\n  - 四、最大熵马尔科夫模型（MEMM）篇\n    - 4.1 最大熵马尔科夫模型（MEMM）动机篇\n      - 4.1.1 HMM 存在 什么问题？\n    - 4.2 最大熵马尔科夫模型（MEMM）介绍篇\n      - 4.2.1 最大熵马尔科夫模型（MEMM） 是什么样？\n      - 4.2.2 最大熵马尔科夫模型（MEMM） 如何解决 HMM 问题？\n    - 4.3 最大熵马尔科夫模型（MEMM）问题篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_gcfcvw10h89u.html)\n\n- [条件随机场（CRF） 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_3votd06mbvxv.html)\n  - 五、条件随机场（CRF）篇\n    - 5.1 CRF 动机篇\n      - 5.1.1 HMM 和 MEMM 存在什么问题？\n    - 5.2 CRF 介绍篇\n      - 5.2.1 什么是 CRF?\n      - 5.2.2 CRF 的 主要思想是什么？\n      - 5.2.3  CRF 的定义是什么?\n      - 5.2.4 CRF 的 流程是什么？\n    - 5.3 CRF 优缺点篇\n      - 5.3.1 CRF 的 优点在哪里？\n      - 5.3.2 CRF 的 缺点在哪里？\n    - 5.4 CRF 复现？\n  - 六、对比篇\n    - 6.1 CRF模型 和 HMM和MEMM模型 区别？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_3votd06mbvxv.html)\n\n- [DNN-CRF 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8u0rtbsjt64l.html)\n  - 一、基本信息\n    - 1.1 命名实体识别 评价指标 是什么？\n  - 二、传统的命名实体识别方法\n    - 2.1 基于规则的命名实体识别方法是什么？\n    - 2.2 基于无监督学习的命名实体识别方法是什么？\n    - 2.3 基于特征的监督学习的命名实体识别方法是什么？\n  - 三、基于深度学习的命名实体识别方法\n    - 3.1 基于深度学习的命名实体识别方法 相比于 基于机器学习的命名实体识别方法的优点？\n    - 3.2 基于深度学习的命名实体识别方法  的 结构是怎么样？\n    - 3.3 分布式输入层 是什么，有哪些方法？\n    - 3.4 文本编码器篇\n      - 3.4.1 BiLSTM-CRF 篇\n        - 3.4.1.1 什么是 BiLSTM-CRF？\n        - 3.4.1.2 为什么要用 BiLSTM？\n      - 3.4.2 IDCNN-CRF 篇\n        - 3.4.2.1 什么是 Dilated CNN？\n        - 3.4.2.2 为什么会有 Dilated CNN？\n        - 3.4.2.3 Dilated CNN 的优点？\n        - 3.4.2.4 IDCNN-CRF 介绍\n    - 3.5 标签解码器篇\n      - 3.5.1 标签解码器是什么？\n      - 3.5.2 MLP+softmax层 介绍？\n      - 3.5.3 条件随机场CRF层 介绍？\n      - 3.5.4 循环神经网络RNN层 介绍？\n      - 3.5.3 指针网路层 介绍？\n  - 四、对比 篇\n    - 4.1 CNN-CRF vs BiLSTM-CRF vs IDCNN-CRF?\n    - 4.2 为什么 DNN 后面要加 CRF?\n    - 4.3 CRF in TensorFlow V.S. CRF in discrete toolkit？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8u0rtbsjt64l.html)\n\n- [中文领域 NER 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_sgbknf1i6zer.html)\n  - 一、动机篇\n    - 1.1 中文命名实体识别 与 英文命名实体识别的区别？\n  - 二、词汇增强篇\n    - 2.1 什么是 词汇增强？\n    - 2.2 为什么说 「词汇增强」 方法对于中文 NER 任务有效呢？\n    - 2.3 词汇增强 方法有哪些？\n    - 2.4 Dynamic Architecture\n      - 2.4.1 什么是 Dynamic Architecture？\n      - 2.4.2 常用方法有哪些？\n      - 2.4.3 什么是 Lattice LSTM ，存在什么问题？\n      - 2.4.4 什么是 FLAT ，存在什么问题？\n    - 2.5 Adaptive Embedding 范式\n      - 2.5.1 什么是 Adaptive Embedding 范式？\n      - 2.5.2 常用方法有哪些？\n      - 2.5.3 什么是 WC-LSTM ，存在什么问题？\n  - 三、词汇\u002F实体类型信息增强篇\n    - 3.1 什么是 词汇\u002F实体类型信息增强？\n    - 3.2 为什么说 「词汇\u002F实体类型信息增强」 方法对于中文 NER 任务有效呢？\n    - 3.3 词汇\u002F实体类型信息增强 方法有哪些？\n    - 3.4 什么是 LEX-BERT ？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_sgbknf1i6zer.html)\n\n- [命名实体识别 trick 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_ik69rzw4ql5j.html)\n  - trick 1：领域词典匹配\n  - trick 2：规则抽取\n  - trick 3：词向量选取：词向量 or 字向量？\n  - trick 4：特征提取器 如何选择？\n  - trick 5：专有名称 怎么 处理？\n  - trick 6：标注数据 不足怎么处理？\n  - trick 7：嵌套命名实体识别怎么处理 \n    - 7.1 什么是实体嵌套？\n    - 7.2 与 传统命名实体识别任务的区别\n    - 7.3 解决方法：\n      - 7.3.1 方法一：序列标注\n      - 7.3.2 方法二：指针标注\n      - 7.3.3 方法三：多头标注\n      - 7.3.4 方法四：片段排列\n  - trick 8：为什么说 「词汇增强」 方法对于中文 NER 任务有效？\n  - trick 9：NER实体span过长怎么办？\n  - trick 10: NER 标注数据噪声问题？\n  - trick 11： 给定两个命名实体识别任务，一个任务数据量足够，另外一个数据量很少，可以怎么做？\n  - trick 12： NER 标注数据不均衡问题？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_ik69rzw4ql5j.html)\n\n##### 4.1.2 关系抽取 常见面试篇\n\n- [关系抽取 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_0uqcsdxwhg8c.html)\n  - 一、动机篇\n    - 1.1 什么是关系抽取？\n    - 1.2 关系抽取技术有哪些类型？\n    - 1.3 常见的关系抽取流程是怎么做的？\n  - 二、经典关系抽取篇\n    - 2.1 模板匹配方法是指什么？有什么优缺点？\n    - 2.2 远监督关系抽取是指什么？它有什么优缺点？\n    - 2.3 什么是关系重叠？复杂关系问题？\n    - 2.4 联合抽取是什么？难点在哪里？\n    - 2.5 联合抽取总体上有哪些方法？各有哪些缺点？\n    - 2.6 介绍基于共享参数的联合抽取方法？\n    - 2.7 介绍基于联合解码的联合抽取方法？\n    - 2.8 实体关系抽取的前沿技术和挑战有哪些？如何解决低资源和复杂样本下的实体关系抽取？\n  - 三、文档级关系抽取篇\n    - 3.1 文档级关系抽取与经典关系抽取有何区别？\n    - 3.2 文档级别关系抽取中面临什么样的问题？\n    - 3.3 文档级关系抽取的方法有哪些？\n      - 3.3.1 基于BERT-like的文档关系抽取是怎么做的？\n      - 3.3.2 基于graph的文档关系抽取是怎么做的？\n    - 3.4 文档级关系抽取常见数据集有哪些以及其评估方法？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_0uqcsdxwhg8c.html)\n\n##### 4.1.3 事件抽取 常见面试篇\n\n- [事件抽取 常见面试篇](NLPinterview\u002FEventExtraction\u002F)\n  - 一、原理篇\n    - 1.1 什么是事件？\n    - 1.2 什么是事件抽取？\n    - 1.3 ACE测评中事件抽取涉及的几个基本术语及任务是什么？\n    - 1.4 事件抽取怎么发展的？\n    - 1.5 事件抽取存在什么问题？\n  - 二、基本任务篇\n    - 2.1 触发词检测\n      - 2.1.1 什么是触发词检测？\n      - 2.1.2 触发词检测有哪些方法？\n    - 2.2 类型识别\n      - 2.2.1 什么是类型识别？\n      - 2.2.2 类型识别有哪些方法？\n    - 2.3 角色识别\n      - 2.3.1 什么是角色识别？\n      - 2.3.2 角色识别有哪些方法？\n    - 2.4 论元检测\n      - 2.4.1 什么是论元检测？\n      - 2.4.2 论元检测有哪些方法？\n  - 三、常见方法篇\n    - 3.1 模式匹配方法怎么用在事件抽取中?\n    - 3.2 统计机器学习方法怎么用在事件抽取中?\n    - 3.3 深度学习方法怎么用在事件抽取中?\n  - 四、数据集及评价指标篇\n    - 4.1 事件抽取中常见的英文数据集有哪些？\n    - 4.2 事件抽取中常见的中文数据集有哪些？\n    - 4.3 事件抽取的评价指标是什么？怎么计算的？\n  - 五、对比篇\n    - 5.1 事件抽取和命名实体识别（即实体抽取）有什么异同？\n    - 5.2 事件抽取和关系抽取有什么异同？\n    - 5.3 什么是事理图谱？有哪些事件关系类型？事理图谱怎么构建？主要技术领域及当前发展热点是什么？\n  - 六、应用篇\n  - 七、拓展篇\n    - 7.1 事件抽取论文综述\n    - 7.2 事件抽取常见问题\n\n#### 4.2 NLP 预训练算法 常见面试篇\n\n- [【关于TF-idf】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_8b6f6rux9dr0.html)\n  - 一、one-hot 篇\n    - 1.1 为什么有 one-hot ？\n    - 1.2 one-hot 是什么?\n    - 1.3 one-hot 有什么特点?\n    - 1.4 one-hot 存在哪些问题?\n  - 二、TF-IDF 篇\n    - 2.1 什么是 TF-IDF？\n    - 2.2  TF-IDF 如何评估词的重要程度？\n    - 2.3  TF-IDF 的思想是什么？\n    - 2.4  TF-IDF 的计算公式是什么？\n    - 2.5  TF-IDF 怎么描述？\n    - 2.6  TF-IDF 的优点是什么？\n    - 2.7  TF-IDF 的缺点是什么？\n    - 2.8  TF-IDF 的应用？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8b6f6rux9dr0.html)\n\n- [【关于word2vec】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_2vpr5crbfbrp.html)\n  - 一、Wordvec 介绍篇\n    - 1.1 Wordvec 指什么?\n    - 1.2 Wordvec 中 CBOW 指什么?\n    - 1.3 Wordvec 中 Skip-gram 指什么?\n    - 1.4 CBOW vs Skip-gram 哪一个好？\n  - 二、Wordvec 优化篇\n    - 2.1  Word2vec 中 霍夫曼树 是什么？\n    - 2.2  Word2vec 中 为什么要使用 霍夫曼树？\n    - 2.3  Word2vec 中使用 霍夫曼树 的好处？\n    - 2.4 为什么 Word2vec 中会用到 负采样？\n    - 2.5 Word2vec 中会用到 负采样 是什么样？\n    - 2.6  Word2vec 中 负采样 的采样方式？\n  - 三、Wordvec 对比篇\n    - 3.1 word2vec和NNLM对比有什么区别？（word2vec vs NNLM）\n    - 3.2 word2vec和tf-idf 在相似度计算时的区别？\n  - 四、word2vec 实战篇\n    - 4.1 word2vec训练trick，window设置多大？\n    - 4.1 word2vec训练trick，词向量纬度，大与小有什么影响，还有其他参数？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_2vpr5crbfbrp.html)\n\n- [【关于FastText】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_tw45wd5ae23q.html)\n  - 一、fastText  动机篇\n    - 1.1 word-level Model 是什么？\n    - 1.2 word-level Model 存在什么问题？\n    - 1.3 Character-Level Model 是什么？\n    - 1.4 Character-Level Model 优点？\n    - 1.5 Character-Level Model 存在问题？\n    - 1.6 Character-Level Model 问题的解决方法？\n  - 二、 词内的n-gram信息(subword n-gram information) 介绍篇\n    - 2.1 引言\n    - 2.2 fastText 是什么?\n    - 2.3 fastText 的结构是什么样?\n    - 2.4 为什么 fastText 要使用词内的n-gram信息(subword n-gram information)?\n    - 2.5 fastText 词内的n-gram信息(subword n-gram information) 介绍?\n    - 2.6 fastText 词内的n-gram信息 的 训练过程?\n    - 2.7 fastText 词内的n-gram信息 存在问题?\n  - 三、 层次化Softmax回归(Hierarchical Softmax) 介绍篇\n    - 3.1 为什么要用 层次化Softmax回归(Hierarchical Softmax) ？\n    - 3.2 层次化Softmax回归(Hierarchical Softmax) 的思想是什么？\n    - 3.3 层次化Softmax回归(Hierarchical Softmax) 的步骤？\n  - 四、fastText 存在问题？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_tw45wd5ae23q.html)\n\n- [【关于Elmo】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_we1wwkpdrpfn.html)\n  - 一、Elmo 动机篇\n    - 1.1 为什么会有 Elmo？\n  - 二、Elmo 介绍篇\n    - 2.1 Elmo 的 特点？\n    - 2.2 Elmo 的 思想是什么？\n  - 三、Elmo 问题篇\n    - 3.1 Elmo 存在的问题是什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_we1wwkpdrpfn.html)\n\n#### 4.3 Bert 常见面试篇\n\n- [Bert 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_0ceqw3u9o2i5.html) \n  - 一、动机篇\n    - 1.1 【演变史】one-hot 存在问题?\n    - 1.2【演变史】wordvec 存在问题?\n    - 1.3【演变史】fastText 存在问题?\n    - 1.4【演变史】elmo 存在问题?\n  - 二、Bert 篇\n    - 2.1 Bert 介绍篇\n      - 2.1.1【BERT】Bert 是什么?\n      - 2.1.2【BERT】Bert 三个关键点？\n    - 2.2 Bert 输入输出表征篇\n      - 2.2.1 【BERT】Bert 输入输出表征长啥样？\n    - 2.3 【BERT】Bert 预训练篇\n      - 2.3.1 【BERT】Bert 预训练任务介绍\n      - 2.3.2 【BERT】Bert 预训练任务 之 Masked LM 篇\n        - 2.3.2.1 【BERT】 Bert 为什么需要预训练任务 Masked LM ？\n        - 2.3.2.2 【BERT】 Bert 预训练任务 Masked LM 怎么做？\n        - 2.3.2.3 【BERT】 Bert 预训练任务 Masked LM 存在问题？\n        - 2.3.2.4 【BERT】 预训练和微调之间的不匹配的解决方法？\n      - 2.3.3 【BERT】Bert 预训练任务 之 Next Sentence Prediction 篇\n        - 2.3.3.1 【BERT】Bert 为什么需要预训练任务 Next Sentence Prediction ？\n        - 2.3.3.2 【BERT】 Bert 预训练任务 Next Sentence Prediction 怎么做？\n    - 2.4 【BERT】 fine-turning 篇？\n      - 2.4.1 【BERT】为什么 Bert 需要 fine-turning？\n      - 2.4.2 【BERT】 Bert 如何 fine-turning？\n    - 2.5 【BERT】 Bert 损失函数篇？\n      - 2.5.1 【BERT】BERT的两个预训练任务对应的损失函数是什么(用公式形式展示)？\n  - 三、 对比篇？\n    - 3.1 【对比】多义词问题是什么？\n    - 3.2 【对比】word2vec 为什么解决不了多义词问题？\n    - 3.3 【对比】GPT和BERT有什么不同？\n    - 3.4 【对比】为什么 elmo、GPT、Bert能够解决多义词问题？（以 elmo 为例）\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_0ceqw3u9o2i5.html)\n\n- [【关于 Bert 源码解析I 之 主体篇】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_918gk4sl2l8b.html)\n- [【关于 Bert 源码解析II 之 预训练篇】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_m1pcu7g25bd6.html)\n- [【关于 Bert 源码解析III 之 微调篇】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_uxcwvhqvvbes.html)\n- [【关于 Bert 源码解析IV 之 句向量生成篇】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_1ccw29hl80o8.html)\n- [【关于 Bert 源码解析V 之 文本相似度篇】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_vauhnwe9m7aj.html)\n\n##### 4.3.1 Bert 模型压缩 常见面试篇\n\n- [Bert 模型压缩 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_bknkkgtxj45f.html)\n  - 一、Bert 模型压缩 动机篇\n  - 二、Bert 模型压缩对比表\n  - 三、 Bert 模型压缩方法介绍\n    - 3.1 Bert 模型压缩方法 之 低秩因式分解&跨层参数共享\n      - 3.1.1 什么是低秩因式分解？\n      - 3.1.2 什么是跨层参数共享？\n      - 3.1.3 ALBERT 所所用的方法？\n    - 3.2 Bert 模型压缩方法 之 蒸馏\n      - 3.2.1 什么是蒸馏？\n      - 3.2.2 使用 模型蒸馏 的论文 有哪些，稍微介绍一下？\n    - 3.3 Bert 模型压缩方法 之 量化\n      - 3.3.1 什么是量化？\n      - 3.3.2  Q-BERT: Hessian Based Ultra Low Precision Quantization of BERT 【量化】\n    - 3.4 Bert 模型压缩方法 之 剪枝\n      - 3.4.1 什么是剪枝？\n  - 四、模型压缩存在问题？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_bknkkgtxj45f.html)\n\n##### 4.3.2 Bert 模型系列 常见面试篇\n\n- 认识 XLNet 么？能不能讲一下？ 和 Bert 的 区别在哪里？\n- 认识 RoBERTa 么？能不能讲一下？ 和 Bert 的 区别在哪里？\n- 认识 SpanBERT 么？能不能讲一下？ 和 Bert 的 区别在哪里？\n- 认识 MASS 么？能不能讲一下？ 和 Bert 的 区别在哪里？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_bsqbmanv6upr.html)\n\n#### 4.4 文本分类 常见面试篇\n\n- [文本分类 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_24linkt6tidj.html)\n  - 一、 抽象命题\n    - 1.1 分类任务有哪些类别？它们都有什么特征？\n    - 1.2 文本分类任务相较于其他领域的分类任务有何不同之处？\n    - 1.3 文本分类任务和文本领域的其他任务相比有何不同之处？\n    - 1.4 文本分类的过程？\n  - 二、数据预处理\n    - 2.1 文本分类任务的数据预处理方法有哪些？\n    - 2.2 你使用过哪些分词方法和工具？\n    - 2.3 中文文本分词的方法？\n    - 2.4 基于字符串匹配的分词方法的原理 是什么？\n    - 2.5 统计语言模型如何应用于分词？N-gram最大概率分词？\n    - 2.6 基于序列标注的分词方法 是什么？\n    - 2.7 基于(Bi-)LSTM的词性标注 是什么？\n    - 2.8 词干提取和词形还原有什么区别？\n  - 三、特征提取\n    - 3.1 （一个具体的）文本分类任务可以使用哪些特征？\n    - 3.2 （对于西文文本）使用单词和使用字母作为特征相比，差异如何？\n    - 3.3 能不能简单介绍下词袋模型？\n    - 3.4 n-gram 篇\n      - 3.4.1 什么是n元语法？为什么要用n-gram？\n      - 3.4.2 n-gram算法的局限性是什么？\n    - 3.5 主题建模篇\n      - 3.5.1 介绍一下主题建模任务？\n      - 3.5.2 主题建模的常用方法\n      - 3.5.3 TF-IDF算法是做什么的？简单介绍下TF-IDF算法\n      - 3.5.4 tf-idf高意味着什么？\n      - 3.5.5 tf-idf的不足之处\n    - 3.6 文本相似度篇\n      - 3.6.1 如何计算两段文本之间的距离？\n      - 3.6.2 什么是jaccard距离？\n      - 3.6.3 Dice系数和Jaccard系数的区别？\n      - 3.6.4 同样是编辑距离，莱文斯坦距离和汉明距离的区别在哪里？\n      - 3.6.5 写一下计算编辑距离（莱温斯坦距离）的编程题吧？\n  - 四、模型篇\n    - 4.1 fastText 篇\n      - 4.1.1 fastText的分类过程？\n      - 4.1.2 fastText的优点？\n    - 4.2 TextCNN 篇\n      - 4.2.1 TextCNN进行文本分类的过程?\n      - 4.2.2 TextCNN可以调整哪些参数？\n      - 4.2.3 使用CNN作为文本分类器时，不同通道channels对应着文本的什么信息？\n      - 4.2.4 TextCNN中卷积核的长与宽代表了什么？\n      - 4.2.5 在TextCNN中的pooling操作与一般CNN的pooling操作有何不同？\n      - 4.2.6 TextCNN的局限性？\n    - 4.3 DPCNN 篇\n      - 4.3.1 如何解决长文本分类任务？\n      - 4.3.2 简单介绍DPCNN模型相较于TextCNN的改进？\n    - 4.4 TextRCNN 篇\n      - 4.4.1 简要介绍TextRCNN相较于TextCNN的改进？\n    - 4.5 RNN+Attention 篇\n      - 4.5.1 RNN+Attention进行文本分类任务的思路，以及为什么要加Attention \u002F 注意力机制如何应用于文本分类领域？\n    - 4.6 GNN 图神经网络篇\n      - 4.6.1 GNN 图神经网络如何应用于文本分类领域？\n    - 4.7 Transformer 篇\n      - 4.7.1 基于Transformer的预训练模型如何应用于文本分类领域？\n    - 4.8 预训练模型 篇\n      - 4.8.1 你了解哪些预训练模型？它们的特点是什么？\n  - 五、损失函数\n    - 5.1 激活函数sigmoid篇\n      - 5.1.1 二分类问题使用的激活函数sigmoid简介？\n      - 5.1.2 Sigmod的缺点是什么？\n    - 5.2 激活函数softmax篇\n      - 5.2.1 softmax函数是什么？\n      - 5.2.2 softmax函数怎么求导？\n    - 5.3 分类问题使用的损失函数还有有哪些？\n  - 六、模型评估和算法比较\n    - 6.1 文本分类任务使用的评估算法和指标有哪些？\n    - 6.2 简单介绍混淆矩阵和kappa？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_24linkt6tidj.html)\n\n- [文本分类 trick  常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_jcs3manhpbd9.html)\n  - 一、文本分类数据预处理 如何做？\n  - 二、文本分类 预训练模型 如何选择？\n  - 三、文本分类 参数 如何优化？\n  - 四、文本分类 有哪些棘手任务？\n  - 五、文本分类 标签体系构建？\n  - 六、文本分类 策略构建？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_jcs3manhpbd9.html)\n\n- [用检索的方式做文本分类  常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_tln637w4a3sg.html)\n  - 为什么需要用检索的方式做文本分类？\n  - 基于检索的方法做文本分类思路？\n  - 检索的方法的召回库如何构建？\n  - 检索的方法 的 训练阶段 如何做？\n  - 检索的方法 的 预测阶段 如何做？\n  - 用检索的方式做文本分类 方法 适用场景有哪些？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_tln637w4a3sg.html)\n\n#### 4.5 文本匹配 常见面试篇\n\n- [文本匹配模型 ESIM  常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_dfaagvc24cwa.html)\n  - 为什么需要 ESIM？\n  - 介绍一下 ESIM 模型？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_dfaagvc24cwa.html)\n\n- [语义相似度匹配任务中的 BERT 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_slnosr1n8a0z.html)\n  - 一、Sentence Pair Classification Task：使用 CLS\n  - 二、cosine similairity\n  - 三、长短文本的区别\n  - 四、sentence\u002Fword embedding\n  - 五、siamese network 方式\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_slnosr1n8a0z.html)\n\n#### 4.6 问答系统 常见面试篇\n\n##### 4.6.1 [FAQ 检索式问答系统 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_vtkf1m0gq2or.html)\n\n- 一、动机\n  - 1.1 问答系统的动机？\n  - 1.2 问答系统 是什么？\n- 二、FAQ 检索式问答系统介绍篇\n  - 2.1 FAQ 检索式问答系统 是 什么？\n  - 2.2 query 匹配标准 QA 的核心是什么?\n- 三、FAQ 检索式问答系统 方案篇\n  - 3.1 常用 方案有哪些？\n  - 3.2 为什么 QQ 匹配比较常用？\n    - 3.2.1 QQ 匹配的优点有哪些？\n    - 3.2.2 QQ 匹配的语义空间是什么？\n    - 3.2.3 QQ 匹配的语料的稳定性是什么？\n    - 3.2.4 QQ 匹配的业务回答与算法模型的解耦是什么？\n    - 3.2.5 QQ 匹配的新问题发现与去重是什么？\n    - 3.2.6 QQ 匹配的上线运行速度是什么？\n  - 3.3  QQ 匹配一般处理流程是怎么样？ 【假设 标准问题库 已处理好】\n- 四、FAQ 标准问题库构建篇\n  - 4.1 如何发现 FAQ 中标准问题？\n  - 4.2 FAQ 如何做拆分？\n  - 4.3 FAQ 如何做合并？\n  - 4.4 FAQ 标准库如何实时更新？\n- 五、FAQ 标准问题库答案优化篇\n  - 5.1 FAQ 标准问题库答案如何优化？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_vtkf1m0gq2or.html)\n\n##### 4.6.2 问答系统工具篇 常见面试篇\n\n- [Faiss 常见面试篇](NLPinterview\u002FQA\u002FFaiss\u002F)\n  - 一、动机篇\n    - 1.1 传统的相似度算法所存在的问题？\n  - 二、介绍篇\n    - 2.1 什么是 Faiss ？\n    - 2.2 Faiss 如何使用？\n    - 2.3 Faiss原理与核心算法\n  - 三、Faiss 实战篇\n    - 3.1 Faiss 如何安装？\n    - 3.2 Faiss 的索引Index有哪些？\n    - 3.3 Faiss 的索引Index都怎么用？\n      - 3.3.1 数据预备\n      - 3.3.2 暴力美学 IndexFlatL2\n      - 3.3.3 闪电侠 IndexIVFFlat\n      - 3.3.4 内存管家 IndexIVFPQ\n    - 3.4 Faiss 然后使用 GPU？\n  - 四、 Faiss 对比篇\n    - 4.1 sklearn cosine_similarity  和 Faiss  哪家强\n\n#### 4.7 对话系统 常见面试篇\n\n- [对话系统 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_kz2t0faje3jw.html)\n  - 一、对话系统 介绍篇\n    - 1.1 对话系统有哪几种？\n    - 1.2 这几种对话系统的区别？\n  - 二、多轮对话系统 介绍篇\n    - 2.1 为什么要用 多轮对话系统？\n    - 2.2 常见的多轮对话系统解决方案是什么？\n  - 三、任务型对话系统 介绍篇\n    - 3.1 什么是任务型对话系统？\n    - 3.2 任务型对话系统的流程是怎么样？\n    - 3.3 任务型对话系统 语言理解（SLU）篇\n      - 3.3.1 什么是 语言理解（SLU）？\n      - 3.3.2 语言理解（SLU）的输入输出是什么？\n      - 3.3.3 语言理解（SLU）所使用的技术是什么？\n    - 3.4 任务型对话系统 DST（对话状态跟踪）篇\n      - 3.4.1 什么是 DST（对话状态跟踪）？\n      - 3.4.2 DST（对话状态跟踪）的输入输出是什么？\n      - 3.4.3 DST（对话状态跟踪）存在问题和解决方法？\n      - 3.4.4 DST（对话状态跟踪）实现方式是什么？\n    - 3.5 任务型对话系统 DPO（对话策略学习）篇\n      - 3.5.1 DPO（对话策略学习）是什么？\n      - 3.5.2 DPO（对话策略学习）的输入输出是什么？\n      - 3.5.3 DPO（对话策略学习）的实现方法是什么？\n    - 3.6 任务型对话系统 NLG（自然语言生成）篇\n      - 3.6.1 NLG（自然语言生成）是什么？\n      - 3.6.2 NLG（自然语言生成）的输入输出是什么？\n      - 3.6.3 NLG（自然语言生成）的实现方式？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_kz2t0faje3jw.html)\n\n#### 4.8 知识图谱 常见面试篇\n\n##### 4.8.1 [知识图谱 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_360j8cpd0shj.html)\n\n- 一、知识图谱简介\n  - 1.1 引言\n  - 1.2 什么是知识图谱呢？\n    - 1.2.1 什么是图（Graph）呢？\n    - 1.2.2 什么是 Schema 呢？\n  - 1.3 知识图谱的类别有哪些？\n  - 1.4 知识图谱的价值在哪呢？\n- 二、怎么构建知识图谱呢？\n  - 2.1 知识图谱的数据来源于哪里？\n  - 2.2 信息抽取的难点在哪里？\n  - 2.3 构建知识图谱所涉及的技术？\n  - 2.4、知识图谱的具体构建技术是什么？\n    - 2.4.1 实体命名识别（Named Entity Recognition）\n    - 2.4.2 关系抽取（Relation Extraction）\n    - 2.4.3 实体统一（Entity Resolution）\n    - 2.4.4 指代消解（Disambiguation）\n- 三、知识图谱怎么存储？\n- 四、知识图谱可以做什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_360j8cpd0shj.html)\n\n##### 4.8.2 [KBQA 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_u6seb5h3pnof.html)\n\n- 一、基于词典和规则的方法\n  - 基于词典和规则的方法 实现 KBQA?\n  - 基于词典和规则的方法 实现 KBQA 流程?\n- 二、基于信息抽取的方法\n  - 基于信息抽取的方法 实现 KBQA 流程?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_u6seb5h3pnof.html)\n\n##### 4.8.3 [Neo4j 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_w6uxxvpj9fl0.html)\n\n- 一、Neo4J 介绍与安装\n  - 1.1 引言\n  - 1.2 Neo4J 怎么下载？\n  - 1.3 Neo4J 怎么安装？\n  - 1.4 Neo4J Web 界面 介绍\n  - 1.5 Cypher查询语言是什么？\n- 二、Neo4J 增删查改篇\n  - 2.1 引言\n  - 2.2 Neo4j 怎么创建节点？\n  - 2.3 Neo4j 怎么创建关系？\n  - 2.4 Neo4j 怎么创建 出生地关系？\n  - 2.5 Neo4j 怎么查询？\n  - 2.6 Neo4j 怎么删除和修改？\n- 三、如何利用 Python 操作 Neo4j 图数据库？\n  - 3.1 neo4j模块：执行CQL ( cypher ) 语句是什么？\n  - 3.2 py2neo模块是什么？\n- 四、数据导入 Neo4j 图数据库篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_w6uxxvpj9fl0.html)\n\n#### 4.9 [文本摘要 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8ndah4nf876w.html)\n\n- 一、动机篇\n  - 1.1 什么是文本摘要？\n  - 1.2 文本摘要技术有哪些类型？\n- 二、抽取式摘要篇\n  - 2.1 抽取式摘要是怎么做的？\n    - 2.1.1 句子重要性评估算法有哪些？\n    - 2.1.2 基于约束的摘要生成方法有哪些？\n    - 2.1.3 TextTeaser算法是怎么抽取摘要的？\n    - 2.1.4 TextRank算法是怎么抽取摘要的？\n  - 2.2 抽取式摘要的可读性问题是什么？\n- 三、压缩式摘要篇\n  - 3.1 压缩式摘要是怎么做的？\n- 四、生成式摘要篇\n  - 4.1 生成式摘要是怎么做的？\n  - 4.2 生成式摘要存在哪些问题？\n  - 4.3 Pointer-generator network解决了什么问题？\n- 五、摘要质量评估方法\n  - 5.1 摘要质量的评估方法有哪些类型？\n  - 5.2 什么是ROUGE？\n  - 5.3 几种ROUGE指标之间的区别是什么？\n  - 5.4 BLEU和ROUGE有什么不同？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8ndah4nf876w.html)\n\n#### 4.10  [文本纠错篇 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_2retvz8l0es7.html)\n\n- 一、介绍篇\n  - 1.1 什么是文本纠错？\n  - 1.2 常见的文本错误类型？\n  - 1.3 文本纠错 常用方法？\n- 二、pipeline 方法 介绍篇\n  - pipeline 中的 错误检测 如何实现？\n  - pipeline 中的 候选召回 如何实现？\n  - pipeline 中的 纠错排序 如何实现？\n  - pipeline 中的 ASR 回显优化 如何实现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_2retvz8l0es7.html)\n\n#### 4.11 [文本摘要 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8ndah4nf876w.html)\n\n- 一、动机篇\n  - 1.1 什么是文本摘要？\n  - 1.2 文本摘要技术有哪些类型？\n- 二、抽取式摘要篇\n  - 2.1 抽取式摘要是怎么做的？\n    - 2.1.1 句子重要性评估算法有哪些？\n    - 2.1.2 基于约束的摘要生成方法有哪些？\n    - 2.1.3 TextTeaser算法是怎么抽取摘要的？\n    - 2.1.4 TextRank算法是怎么抽取摘要的？\n  - 2.2 抽取式摘要的可读性问题是什么？\n- 三、压缩式摘要篇\n  - 3.1 压缩式摘要是怎么做的？\n- 四、生成式摘要篇\n  - 4.1 生成式摘要是怎么做的？\n  - 4.2 生成式摘要存在哪些问题？\n  - 4.3 Pointer-generator network解决了什么问题？\n- 五、摘要质量评估方法\n  - 5.1 摘要质量的评估方法有哪些类型？\n  - 5.2 什么是ROUGE？\n  - 5.3 几种ROUGE指标之间的区别是什么？\n  - 5.4 BLEU和ROUGE有什么不同？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8ndah4nf876w.html)\n\n#### 4.12 文本生成 常见面试篇\n\n- [生成模型的解码方法 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_m3wckj5bhgu8.html)\n  - 什么是生成模型？\n  - 介绍一下 基于搜索的解码方法？\n  - 介绍一下 基于采样的解码方法？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_m3wckj5bhgu8.html)\n\n## 三、深度学习算法篇 常见面试篇\n  \n- [CNN 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_b3xp06wevahd.html)\n  - 一、动机篇\n  - 二、CNN 卷积层篇\n    - 2.1 卷积层的本质是什么？\n    - 2.2 CNN 卷积层与全连接层的联系？\n    - 2.3 channel的含义是什么？\n  - 三、CNN 池化层篇\n    - 3.1 池化层针对区域是什么？\n    - 3.2 池化层的种类有哪些？\n    - 3.3 池化层的作用是什么？\n    - 3.4 池化层 反向传播 是什么样的？\n    - 3.5 mean pooling 池化层 反向传播 是什么样的？\n    - 3.6 max pooling 池化层 反向传播 是什么样的？\n  - 四、CNN 整体篇\n    - 4.1 CNN 的流程是什么？\n    - 4.2 CNN 的特点是什么？\n    - 4.3 卷积神经网络为什么会具有平移不变性？\n    - 4.4 卷积神经网络中im2col是如何实现的？\n    - 4.5 CNN 的局限性是什么？\n  - 五、Iterated Dilated CNN 篇\n    - 5.1 什么是 Dilated CNN 空洞卷积？\n    - 5.2 什么是 Iterated Dilated CNN？\n  - 六、反卷积 篇\n    - 6.1 解释反卷积的原理和用途？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_b3xp06wevahd.html)\n\n- [RNN 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_2et1rj7sn8c4.html)\n  - 一、RNN 篇\n    - 1.2 为什么需要 RNN?\n    - 1.2 RNN 结构是怎么样的？\n    - 1.3 RNN 前向计算公式？\n    - 1.4 RNN 存在什么问题？\n  - 二、长短时记忆网络(Long Short Term Memory Network, LSTM) 篇\n    - 2.1 为什么 需要 LSTM?\n    - 2.2 LSTM 的结构是怎么样的?\n    - 2.3 LSTM 如何缓解 RNN 梯度消失和梯度爆炸问题?\n    - 2.3 LSTM 的流程是怎么样的?\n    - 2.4 LSTM 中激活函数区别?\n    - 2.5 LSTM的复杂度？\n    - 2.6 LSTM 存在什么问题？\n  - 三、GRU (Gated Recurrent Unit)\n    - 3.1 为什么 需要 GRU?\n    - 3.2 GRU 的结构是怎么样的?\n    - 3.3 GRU 的前向计算?\n    - 3.4 GRU 与其他 RNN系列模型的区别？\n  - 四、RNN系列模型篇\n    - 4.1 RNN系列模型 有什么特点？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_2et1rj7sn8c4.html)\n\n- [Attention 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_hs7zqva04b9g.html)\n  - 一、seq2seq 篇\n    - 1.1 seq2seq （Encoder-Decoder）是什么？\n    - 1.2 seq2seq 中 的 Encoder 怎么样？\n    - 1.3 seq2seq 中 的 Decoder 怎么样？\n    - 1.4 在 数学角度上 的 seq2seq ，你知道么？\n    - 1.5 seq2seq 存在 什么 问题？\n  - 二、Attention 篇\n    - 2.1 什么是 Attention?\n    - 2.2 为什么引入 Attention机制？\n    - 2.3 Attention 有什么作用？\n    - 2.4 Attention 流程是怎么样？\n      - 步骤一  执行encoder (与 seq2seq 一致)\n      - 步骤二  计算对齐系数 a\n      - 步骤三  计算上下文语义向量 C\n      - 步骤四  更新decoder状态\n      - 步骤五 计算输出预测词\n    - 2.5 Attention 的应用领域有哪些？\n  - 三、Attention 变体篇\n    - 3.1 Soft Attention 是什么？\n    - 3.2 Hard Attention 是什么？\n    - 3.3 Global Attention 是什么？\n    - 3.4 Local Attention 是什么？\n    - 3.5 self-attention 是什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_hs7zqva04b9g.html)\n\n- [生成对抗网络 GAN 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_s5wm5safsqse.html)\n  - 一、动机\n  - 二、介绍篇\n    - 2.1 GAN 的基本思想\n    - 2.2 GAN 基本介绍\n      - 2.2.1  GAN 的基本结构\n      - 2.2.2 GAN 的基本思想\n  - 三、训练篇\n    - 3.1 生成器介绍\n    - 3.2 判别器介绍\n    - 3.3 训练过程\n    - 3.4  训练所涉及相关理论基础\n  - 四、总结\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_s5wm5safsqse.html)\n\n### 3.1  Transformer 常见面试篇\n\n- [Transformer 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8nv1s9vsr2ow.html) \n  - 一、动机篇\n    - 1.1 为什么要有 Transformer?\n    - 1.2 Transformer 作用是什么？\n  - 二、整体结构篇\n    - 2.1 Transformer 整体结构是怎么样？\n    - 2.2 Transformer-encoder 结构怎么样？\n    - 2.3 Transformer-decoder 结构怎么样?\n  - 三、模块篇\n    - 3.1 self-attention 模块\n      - 3.1.1 传统 attention 是什么?\n      - 3.1.2 为什么 会有self-attention?\n      - 3.1.3 self-attention 的核心思想是什么?\n      - 3.1.4 self-attention 的目的是什么?\n      - 3.1.5 self-attention 的怎么计算的?\n      - 3.1.6 self-attention 为什么Q和K使用不同的权重矩阵生成，为何不能使用同一个值进行自身的点乘？\n      - 3.1.7 为什么采用点积模型的 self-attention 而不采用加性模型？\n      - 3.1.8 Transformer 中在计算 self-attention 时为什么要除以 $\\sqrt{d}$？\n      - 3.1.9 self-attention 如何解决长距离依赖问题？\n      - 3.1.10 self-attention 如何并行化？\n    - 3.2 multi-head attention 模块\n      - 3.2.1 multi-head attention 的思路是什么样?\n      - 3.2.2 multi-head attention 的步骤是什么样?\n      - 3.2.3 Transformer为何使用多头注意力机制？（为什么不使用一个头）\n      - 3.2.4 为什么在进行多头注意力的时候需要对每个head进行降维？\n      - 3.2.5 multi-head attention 代码介绍\n    - 3.3 位置编码（Position encoding）模块\n      - 3.3.1 为什么要 加入 位置编码（Position encoding） ？\n      - 3.3.2 位置编码（Position encoding）的思路是什么 ？\n      - 3.3.3 位置编码（Position encoding）的作用是什么 ？\n      - 3.3.4 位置编码（Position encoding）的步骤是什么 ？\n      - 3.3.5 Position encoding为什么选择相加而不是拼接呢？\n      - 3.3.6 Position encoding和 Position embedding的区别？\n      - 3.3.7 为何17年提出Transformer时采用的是 Position Encoder  而不是Position Embedding？而Bert却采用的是 Position Embedding ？\n      - 3.3.8 位置编码（Position encoding）的代码介绍\n    - 3.4 残差模块模块\n      - 3.4.1 为什么要 加入 残差模块？\n    - 3.5 Layer normalization 模块\n      - 3.5.1 为什么要 加入 Layer normalization 模块？\n      - 3.5.2 Layer normalization 模块的是什么？\n      - 3.5.3 Batch normalization 和 Layer normalization 的区别？\n      - 3.5.4 Transformer 中为什么要舍弃 Batch normalization 改用 Layer normalization 呢?\n      - 3.5.5  Layer normalization 模块代码介绍\n    - 3.6 Mask 模块\n      - 3.6.1 什么是 Mask？\n      - 3.6.2 Transformer 中用到 几种 Mask？\n      - 3.6.3 能不能介绍一下 Transformer 中用到几种 Mask？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8nv1s9vsr2ow.html)\n\n- [【关于 Transformer 问题及改进】那些你不知道的事](DeepLearningAlgorithm\u002Ftransformer\u002Ftransformer_error.md) \n  - 一、Transformer 问题篇\n    - 1.1 既然 Transformer 怎么牛逼，是否还存在一些问题？\n  - 二、每个问题的解决方法是什么？\n    - 2.1 问题一：Transformer 不能很好的处理超长输入问题\n      - 2.1.1 Transformer 固定了句子长度？\n      - 2.1.2 Transformer 固定了句子长度 的目的是什么？\n      - 2.1.3 Transformer 针对该问题的处理方法？\n    - 2.2 问题二：Transformer 方向信息以及相对位置 的 缺失 问题\n    - 2.3  问题三：缺少Recurrent Inductive Bias\n    - 问题四：问题四：Transformer是非图灵完备的： 非图灵完备通俗的理解，就是无法解决所有的问题\n    - 问题五：transformer缺少conditional computation；\n    - 问题六：transformer 时间复杂度 和 空间复杂度 过大问题；\n\n## 五、NLP 技巧面\n\n### 5.1 少样本问题面\n\n#### 5.1.1 [数据增强（EDA） 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_e043c3q53sbc.html)\n\n- 一、动机篇\n  - 1.1 什么是 数据增强？\n  - 1.2 为什么需要 数据增强？\n- 二、常见的数据增强方法篇\n  - 2.1 词汇替换篇\n    - 2.1.1 什么是基于词典的替换方法？\n    - 2.1.2 什么是基于词向量的替换方法？\n    - 2.1.3 什么是基于 MLM 的替换方法？\n    - 2.1.4 什么是基于 TF-IDF 的词替换？\n  - 2.2 词汇插入篇\n    - 2.2.1 什么是随机插入法？\n  - 2.3 词汇交换篇\n    - 2.3.1 什么是随机交换法？\n  - 2.4 词汇删除篇\n    - 2.4.1 什么是随机删除法？\n  - 2.5 回译篇\n    - 2.5.1 什么是回译法？\n  - 2.6 交叉增强篇\n    - 2.6.1 什么是 交叉增强篇\n  - 2.7 语法树篇\n    - 2.7.1 什么是语法树操作？\n  - 2.8 对抗增强篇\n    - 2.8.1 什么是对抗增强？\n  \n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_e043c3q53sbc.html)\n\n#### 5.1.2 [主动学习 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_6sj7him8b4p1.html)\n  - 一、动机篇\n    - 1.1 主动学习是什么？\n    - 1.2 为什么需要主动学习？\n  - 二、主动学习篇\n    - 2.1 主动学习的思路是什么？\n    - 2.2 主动学习方法 的价值点在哪里？\n  - 三、样本选取策略篇\n    - 3.1 以未标记样本的获取方式的差别进行划分\n    - 3.2 测试集内选取“信息”量最大的数据标记\n      - 3.2.1 测试集内选取“信息”量最大的数据标记\n      - 3.2.2 依赖不确定度的样本选取策略（Uncertainty Sampling, US）\n      - 3.2.3 基于委员会查询的方法（Query-By-Committee，QBC）\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_6sj7him8b4p1.html)\n\n#### 5.1.3 [数据增强 之 对抗训练 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_n5ugs6lig5td.html)\n\n- 一、介绍篇\n  - 1.1 什么是 对抗训练 ？\n  - 1.2 为什么 对抗训练 能够 提高模型效果？\n  - 1.3  对抗训练 有什么特点？\n  - 1.4 对抗训练 的作用?\n- 二、概念篇\n  - 2.1 对抗训练的基本概念?\n  - 2.2 如何计算扰动?\n  - 2.3 如何优化?\n- 三、实战篇\n  - 3.1 NLP 中经典对抗训练 之  Fast Gradient Method（FGM）\n  - 3.2 NLP 中经典对抗训练 之  Projected Gradient Descent（PGD）\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_n5ugs6lig5td.html)\n\n### 5.2 [“脏数据”处理  面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_o903pl26wtgu.html)\n\n- 一、动机\n  - 1.1 何为“脏数据”？\n  - 1.2 “脏数据” 会带来什么后果？\n- 二、“脏数据” 处理篇\n  - 2.1 “脏数据” 怎么处理呢？\n  - 2.2 置信学习方法篇\n    - 2.2.1 什么是 置信学习方法？\n    - 2.2.2 置信学习方法 优点？\n    - 2.2.3 置信学习方法 怎么做？\n    - 2.2.4 置信学习方法 怎么用？有什么开源框架？\n    - 2.2.5 置信学习方法 的工作原理？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_o903pl26wtgu.html)\n\n### 5.3 [batch_size设置 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_64423hvlqv6w.html)\n\n- 一、训练模型时，batch_size的设置，学习率的设置?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_64423hvlqv6w.html)\n\n### 5.4 [早停法 EarlyStopping 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_u31j73pqq773.html)\n\n- 一、 为什么要用 早停法 EarlyStopping？\n- 二、 早停法 EarlyStopping 是什么？\n- 三、早停法 torch 版本怎么实现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_u31j73pqq773.html)\n\n### 5.5 [标签平滑法 LabelSmoothing 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_87tkbsbcwk1d.html)\n\n- 一、为什么要有 标签平滑法 LabelSmoothing？\n- 二、 标签平滑法 是什么？\n- 三、 标签平滑法 torch 怎么复现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_87tkbsbcwk1d.html)\n\n### 5.6 Bert Trick 面试篇\n\n#### 5.6.1 [Bert 未登录词处理 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_3gbrn1bn19am.html)\n\n- 什么是 Bert 未登录词？\n- Bert 未登录词 如何处理？\n-  Bert 未登录词各种处理方法 有哪些优缺点？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_3gbrn1bn19am.html)\n\n#### 5.6.2 [BERT在输入层引入额外特征 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_gd208jzrpafg.html)\n\n- BERT在输入层如何引入额外特征？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_gd208jzrpafg.html)\n\n#### 5.6.3 [关于BERT 继续预训练 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_03lsi10e8iim.html)\n\n- 什么是 继续预训练？\n- 为什么会存在 【数据分布\u002F领域差异】大 问题？\n- 如何进行 继续预训练？\n- 还有哪些待解决问题？\n- 训练数据问题解决方案？\n- 知识缺乏问题解决方案？\n- 知识理解缺乏问题解决方案？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_03lsi10e8iim.html)\n\n#### 5.6.4 [BERT如何处理篇章级长文本 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_e5aaclwgbwue.html)\n\n- 为什么 Bert 不能 处理 长文本？\n- BERT 有哪些处理篇章级长文本?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_e5aaclwgbwue.html)\n\n## 六、 Prompt Tuning 面试篇\n\n### 6.1 [Prompt 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_0dwe6olrn4uw.html)\n\n1. 什么是prompt？\n2. 如何设计prompt？\n3. prompt进阶——如何自动学习prompt？\n4. Prompt 有哪些关键要点？\n5. Prompt 如何实现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_0dwe6olrn4uw.html)\n\n### 6.2 [Prompt 文本生成 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_po1gopdolinx.html)\n\n1. Prompt之文本生成评估手段有哪些？\n2. Prompt文本生成具体任务有哪些？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_po1gopdolinx.html)\n\n### 6.3 [LoRA 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_da8pumsjwbqw.html)\n\n1. 什么是lora？\n2. lora 是 怎么做的呢？\n3. lora 为什么可以这样做？\n4. 用一句话描述 lora？\n5. lora 优点是什么？\n6. lora 缺点是什么？\n7.  lora 如何实现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_da8pumsjwbqw.html)\n\n### 6.4 [PEFT（State-of-the-art Parameter-Efficient Fine-Tuning）面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_2r4w85eov81e.html)\n\n- 一、微调 Fine-tuning 篇\n  - 1.1 什么是 微调 Fine-tuning ？\n  - 1.2 微调 Fine-tuning 基本思想是什么？\n- 二、轻度微调（lightweight Fine-tuning）篇\n  - 2.1 什么是 轻度微调（lightweight Fine-tuning）？\n- 三、适配器微调（Adapter-tuning）篇\n  - 3.1 什么 是 适配器微调（Adapter-tuning）？\n  - 3.2 适配器微调（Adapter-tuning）变体有哪些？\n- 四、提示学习（Prompting）篇\n  - 4.1 什么是 提示学习（Prompting）？\n  - 4.2 提示学习（Prompting）的目的是什么？\n  - 4.3 提示学习（Prompting） 代表方法有哪些？\n    - 4.3.1 前缀微调（Prefix-tining）篇\n      - 4.3.1.1 什么是 前缀微调（Prefix-tining）？\n      - 4.3.1.2 前缀微调（Prefix-tining）的核心是什么？\n      - 4.3.1.3 前缀微调（Prefix-tining）的技术细节有哪些？\n      - 4.3.1.4 前缀微调（Prefix-tining）的优点是什么？\n      - 4.3.1.5 前缀微调（Prefix-tining）的缺点是什么？\n    - 4.3.2 指示微调（Prompt-tuning）篇\n      - 4.3.2.1 什么是 指示微调（Prompt-tuning）？\n      - 4.3.2.2 指示微调（Prompt-tuning）的核心思想？\n      - 4.3.2.3 指示微调（Prompt-tuning）的 优点\u002F贡献 是什么？\n      - 4.3.2.4 指示微调（Prompt-tuning）的 缺点 是什么？\n      - 4.3.2.5 指示微调（Prompt-tuning）与 Prefix-tuning 区别 是什么？\n      - 4.3.2.6 指示微调（Prompt-tuning）与 fine-tuning 区别 是什么？\n    - 4.3.3 P-tuning 篇\n      - 4.3.3.1 P-tuning 动机是什么？\n      - 4.3.3.2 P-tuning 核心思想是什么？\n      - 4.3.3.3 P-tuning 做了哪些改进？\n      - 4.3.3.4 P-tuning 有哪些优点\u002F贡献？\n      - 4.3.3.5 P-tuning 有哪些缺点？\n    - 4.3.4 P-tuning v2 篇\n      - 4.3.4.1 为什么需要 P-tuning v2？\n      - 4.3.4.2 P-tuning v2 是什么？\n      - 4.3.4.3 P-tuning v2 有哪些优点？\n      - 4.3.4.4 P-tuning v2 有哪些缺点？\n    - 4.3.5 PPT 篇\n      - 4.3.5.1 为什么需要 PPT ？\n      - 4.3.5.2 PPT 核心思想 是什么？\n      - 4.3.5.3 PPT 具体做法是怎么样？\n      - 4.3.5.4 常用的soft prompt初始化方法？\n      - 4.3.5.5 PPT 的优点是什么？\n      - 4.3.5.6 PPT 的缺点是什么？\n  - 4.4 提示学习（Prompting） 优点 是什么？\n  - 4.5 提示学习（Prompting） 本质 是什么？\n- 五、指令微调（Instruct-tuning）篇\n  - 5.1 为什么需要 指令微调（Instruct-tuning）？\n  - 5.2 指令微调（Instruct-tuning）是什么？\n  - 5.3 指令微调（Instruct-tuning）的优点是什么？\n  - 5.4 指令微调（Instruct-tuning） vs 提升学习（Prompting）？\n  - 5.5 指令微调（Instruct-tuning） vs 提升学习（Prompting） vs Fine-tuning？\n- 六、指令提示微调（Instruct Prompt tuning）篇\n  - 6.1 为什么需要 指令微调（Instruct-tuning）？\n  - 6.2 指令微调（Instruct-tuning） 是什么？\n  - 6.3 指令微调（Instruct-tuning） 在不同任务上性能？\n- 七、self-instruct篇\n  - 7.1 什么是 self-instruct？\n- 八、Chain-of-Thought 篇\n  - 8.1 为什么需要 Chain-of-Thought ？\n  - 8.2 什么是 Chain-of-Thought ？\n  - 8.3 Chain-of-Thought 的思路是怎么样的？\n  - 8.4 Chain-of-Thought 的优点是什么？\n  - 8.5 为什么 chain-of-thought 会成功？\n- 九、LoRA 篇\n  - 9.1 LoRA 篇\n    - 9.1.1 LoRA 核心思想是什么？\n    - 9.1.2 LoRA 具体思路是什么？\n    - 9.1.3 LoRA 优点是什么？\n    - 9.1.4 LoRA 缺点是什么？\n  - 9.2 AdaLoRA 篇\n    - 9.2.1 AdaLoRA 核心思想是什么？\n    - 9.2.2 AdaLoRA 实现思路是什么？\n  - 9.3  DyLoRA 篇\n    - 9.3.1 AdaLoRA 动机是什么？\n    - 9.3.2 AdaLoRA 核心思想是什么？\n    - 9.3.3 AdaLoRA 优点是什么？\n- 十、BitFit 篇\n  - 10.1 AdaLoRA 核心思想是什么？\n  - 10.2 AdaLoRA 优点是什么？\n  - 10.3 AdaLoRA 缺点是什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_2r4w85eov81e.html)\n\n## 七、LLMs 面试篇\n\n### 7.1 [【现在达模型LLM，微调方式有哪些？各有什么优缺点？](https:\u002F\u002Farticles.zsxq.com\u002Fid_i6uv0mtg4mah.html)\n\n- 现在达模型LLM，微调方式有哪些？各有什么优缺点？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_i6uv0mtg4mah.html)\n\n### 7.2  [GLM：ChatGLM的基座模型 常见面试题](https:\u002F\u002Farticles.zsxq.com\u002Fid_bwx8btw6h2p1.html)\n\n- GLM 的 核心是什么？\n- GLM 的 模型架构是什么？\n- GLM 如何进行 多任务训练？\n- 在进行 NLG 时， GLM 如何保证 生成长度的未知性？\n- GLM 的 多任务微调方式有什么差异？\n- GLM 的 多任务微调方式有什么优点？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_bwx8btw6h2p1.html)\n\n## 一、基础算法 常见面试篇\n\n- [过拟合和欠拟合 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_0xjh0m6e44br.html)\n  - 一、过拟合和欠拟合 是什么？\n  - 二、过拟合\u002F高方差（overfiting \u002F high variance）篇\n    - 2.1 过拟合是什么及检验方法？\n    - 2.2 导致过拟合的原因是什么？\n    - 2.3 过拟合的解决方法是什么？\n  - 三、欠拟合\u002F高偏差（underfiting \u002F high bias）篇\n    - 3.1 欠拟合是什么及检验方法？\n    - 3.2 导致欠拟合的原因是什么？\n    - 3.3 过拟合的解决方法是什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_0xjh0m6e44br.html)\n\n- [BatchNorm vs LayerNorm 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_wbep87ht600b.html)\n  - 一、动机篇\n    - 1.1 独立同分布（independent and identically distributed）与白化\n    - 1.2 （ Internal Covariate Shift，ICS）\n    - 1.3 ICS问题带来的后果是什么？\n  - 二、Normalization 篇\n    - 2.1 Normalization 的通用框架与基本思想\n  - 三、Batch Normalization 篇\n    - 3.1 Batch Normalization（纵向规范化）是什么？\n    - 3.2 Batch Normalization（纵向规范化）存在什么问题？\n    - 3.3 Batch Normalization（纵向规范化）适用的场景是什么？\n    - 3.4 BatchNorm 存在什么问题？\n  - 四、Layer Normalization（横向规范化） 篇\n    - 4.1 Layer Normalization（横向规范化）是什么？\n    - 4.2 Layer Normalization（横向规范化）有什么用？\n  - 五、BN vs LN 篇\n  - 六、主流 Normalization 方法为什么有效？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_wbep87ht600b.html)\n\n- [激活函数 常见面试篇](BasicAlgorithm\u002F激活函数.md)\n  - 一、动机篇\n    - 1.1 为什么要有激活函数？\n  - 二、激活函数介绍篇\n    - 2.1 sigmoid 函数篇\n      - 2.1.1 什么是 sigmoid 函数？\n      - 2.1.2 为什么选 sigmoid 函数 作为激活函数？\n      - 2.1.3 sigmoid 函数 有什么缺点？\n    - 2.2 tanh 函数篇\n      - 2.2.1 什么是 tanh 函数？\n      - 2.2.2 为什么选 tanh 函数 作为激活函数？\n      - 2.2.3 tanh 函数 有什么缺点？\n    - 2.3 relu 函数篇\n      - 2.3.1 什么是 relu 函数？\n      - 2.3.2 为什么选 relu 函数 作为激活函数？\n      - 2.3.3 relu 函数 有什么缺点？\n  - 三、激活函数选择篇\n\n\n- [正则化常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_g6mir08c0s8d.html)\n  - 一、L0，L1，L2正则化 篇\n    - 1.1 正则化 是什么？\n    - 1.2 什么是 L0 正则化 ？\n    - 1.3 什么是 L1 （稀疏规则算子 Lasso regularization）正则化 ？\n    - 1.4 什么是 L2 正则化（岭回归 Ridge Regression 或者 权重衰减 Weight Decay）正则化 ？\n  - 二、对比篇\n    - 2.1 什么是结构风险最小化？\n    - 2.2 从结构风险最小化的角度理解L1和L2正则化\n    - 2.3 L1 vs L2\n  - 三、dropout 篇\n    - 3.1 什么是 dropout？\n    - 3.2 dropout 在训练和测试过程中如何操作？\n    - 3.3 dropout 如何防止过拟合?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_g6mir08c0s8d.html)\n\n- [优化算法及函数 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_hqd9p17b6afk.html)\n  - 一、动机篇\n    - 1.1 为什么需要 优化函数？\n    - 1.2 优化函数的基本框架是什么?\n  - 二、优化函数介绍篇\n    - 2.1 梯度下降法是什么?\n    - 2.2 随机梯度下降法是什么?\n    - 2.3 Momentum 是什么?\n    - 2.4 SGD with Nesterov Acceleration 是什么?\n    - 2.5 Adagrad 是什么?\n    - 2.6 RMSProp\u002FAdaDelta 是什么？\n    - 2.7 Adam 是什么?\n    - 2.8 Nadam 是什么?\n  - 三、优化函数学霸笔记篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_hqd9p17b6afk.html)\n\n- [归一化 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8iemf392t53n.html)\n  - 一、动机篇\n    - 1.1 为什么要归一化？\n  - 二、介绍篇\n    - 2.1  归一化 有 哪些方法？\n    - 2.2  归一化 各方法 特点？\n    - 2.3  归一化 的 意义？\n  - 三、应用篇\n    - 3.1 哪些机器学习算法 需要做 归一化？\n    - 3.2 哪些机器学习算法 不需要做 归一化？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8iemf392t53n.html)\n\n- [判别式（discriminative）模型 vs. 生成式(generative)模型 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_siv7mtg3573r.html)\n  - 一、判别式模型篇\n    - 1.1 什么是判别式模型？\n    - 1.2 判别式模型是思路是什么？\n    - 1.3 判别式模型的优点是什么？\n  - 二、生成式模型篇\n    - 2.1 什么是生成式模型？\n    - 2.2 生成式模型是思路是什么？\n    - 2.3 生成式模型的优点是什么？\n    - 2.4 生成式模型的缺点是什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_siv7mtg3573r.html)\n\n## 二、机器学习算法篇 常见面试篇\n\n- [逻辑回归 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_98g8ef7zir1q.html)\n  - 一、介绍篇\n    - 1.1什么是逻辑回归\n    - 1.2逻辑回归的优势\n  - 二、推导篇\n    - 2.1逻辑回归推导\n    - 2.2求解优化\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_98g8ef7zir1q.html)\n\n- [支持向量机 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_nqeiewjxovjq.html)\n  - 一、原理篇\n    - 1.1 什么是SVM？\n      - Q.A\n    - 1.2 SVM怎么发展的？\n    - 1.3 SVM存在什么问题？\n      - Q.A\n  - 二、算法篇\n    - 2.1 什么是块算法？\n    - 2.2 什么是分解算法？\n    - 2.3 什么是序列最小优化算法？\n    - 2.4 什么是增量算法？\n      - Q.A\n  - 三、其他SVM篇\n    - 3.1 什么是最小二次支持向量机？\n    - 3.2 什么是模糊支持向量机？\n    - 3.3 什么是粒度支持向量机？\n    - 3.4 什么是多类训练算法？\n    - 3.5 什么是孪生支持向量机？\n    - 3.6 什么是排序支持向量机？\n      - Q.A\n  - 四、应用篇\n    - 4.1 模式识别\n    - 4.2 网页分类\n    - 4.3 系统建模与系统辨识\n    - 4.4 其他\n  - 五、对比篇\n  - 六、拓展篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_nqeiewjxovjq.html)\n\n- [集成学习 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_iqq9rzq9ctcd.html)\n  - 一、动机\n  - 二、集成学习介绍篇\n    - 2.1 介绍篇\n      - 2.1.1 集成学习的基本思想是什么？\n      - 2.1.2 集成学习为什么有效？\n  - 三、 Boosting 篇\n    - 3.1 用一句话概括 Boosting？\n    - 3.2 Boosting 的特点是什么？\n    - 3.3 Boosting 的基本思想是什么？\n    - 3.4 Boosting 的特点是什么？\n    - 3.5 GBDT 是什么？\n    - 3.6 Xgboost 是什么？\n  - 四、Bagging 篇\n    - 4.1 用一句话概括 Bagging？\n    - 4.2 Bagging 的特点是什么？\n    - 4.3 Bagging 的基本思想是什么？\n    - 4.4 Bagging 的基分类器如何选择？\n    - 4.5 Bagging 的优点 是什么？\n    - 4.6 Bagging 的特点是什么？\n    - 4.7 随机森林 是什么？\n  - 五、 Stacking 篇\n    - 5.1 用一句话概括 Stacking ？\n    - 5.2 Stacking 的特点是什么？\n    - 5.3 Stacking 的基本思路是什么？\n  - 六、常见问题篇\n    - 6.1 为什么使用决策树作为基学习器？\n    - 6.2 为什么不稳定的学习器更适合作为基学习器？\n    - 6.3 哪些模型适合作为基学习器？\n    - 6.4 Bagging 方法中能使用线性分类器作为基学习器吗？ Boosting 呢？\n    - 6.5 Boosting\u002FBagging 与 偏差\u002F方差 的关系？\n  - 七、对比篇\n    - 7.1 LR vs GBDT?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_iqq9rzq9ctcd.html)\n\n## 九、[【关于 Python 】那些你不知道的事](python\u002F)\n\n- [【关于 Python 】那些你不知道的事](python\u002F)\n  - 一、什么是*args 和 **kwargs？\n    - 1.1 为什么会有 *args 和 **kwargs？\n    - 1.2 *args 和 **kwargs 的用途是什么？\n    - 1.3 *args 是什么？\n    - 1.4 **kwargs是什么？\n    - 1.5 *args 与 **kwargs 的区别是什么？\n  - 二、什么是装饰器？\n    - 2.1 装饰器是什么？\n    - 2.2 装饰器怎么用？\n  - 三、Python垃圾回收（GC）\n    - 3.1 垃圾回收算法有哪些？\n    - 3.2 引用计数（主要）是什么？\n    - 3.3 标记-清除是什么？\n    - 3.4 分代回收是什么？\n  - 四、python的sorted函数对字典按key排序和按value排序\n    - 4.1 python 的sorted函数是什么？\n    - 4.2 python 的sorted函数举例说明？\n  - 五、直接赋值、浅拷贝和深度拷贝\n    - 5.1 概念介绍\n    - 5.2 介绍\n    - 5.3 变量定义流程\n    - 5.3 赋值\n    - 5.4 浅拷贝\n    - 5.5  深度拷贝\n    - 5.6 核心：不可变对象类型 and 可变对象类型\n      - 5.6.1 不可变对象类型\n      - 5.6.2 可变对象类型\n  - 六、进程、线程、协程\n    - 6.1 进程\n      - 6.1.1 什么是进程？\n      - 6.1.2 进程间如何通信？\n    - 6.2 线程\n      - 6.2.1 什么是线程？\n      - 6.2.2 线程间如何通信？\n    - 6.3 进程 vs 线程\n      - 6.3.1 区别\n      - 6.3.2 应用场景\n    - 6.4 协程\n      - 6.4.1 什么是协程？\n      - 6.4.2 协程的优点？\n  - 七、全局解释器锁\n    - 7.1 什么是全局解释器锁？\n    - 7.2 GIL有什么作用？\n    - 7.3 GIL有什么影响？\n    - 7.4 如何避免GIL带来的影响？\n  \n## 十、[【关于 Tensorflow 】那些你不知道的事](Tensorflow\u002F)\n\n- [【关于 Tensorflow 损失函数】 那些你不知道的事](Tensorflow\u002Floss_study\u002F)\n  - 一、动机\n  - 二、什么是损失函数？\n  - 三、目标函数、损失函数、代价函数之间的关系与区别？\n  - 四、损失函数的类别\n    - 4.1 回归模型的损失函数\n      - （1）L1正则损失函数（即绝对值损失函数）\n      - （2）L2正则损失函数（即欧拉损失函数）\n      - （3）均方误差（MSE, mean squared error）\n      - （4）Pseudo-Huber 损失函数\n    - 4.2 分类模型的损失函数\n      - （1）Hinge损失函数\n      - （2）两类交叉熵（Cross-entropy）损失函数\n      - （3）Sigmoid交叉熵损失函数\n      - （4）加权交叉熵损失函数\n      - （5）Softmax交叉熵损失函数\n      - (6) SparseCategoricalCrossentropy vs sparse_categorical_crossentropy\n  - 五、总结\n\n","# NLP 面无不过\n\n> 介绍：本项目是作者们根据个人面试和经验总结出的自然语言处理(NLP)面试准备的学习笔记与资料，该资料目前包含 自然语言处理各领域的 面试题积累。\n> \n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fkm1994_NLP-Interview-Notes_readme_81e30ba31d8a.png\" width=\"50%\" >\n>  NLP 面无不过 面试交流群 (注：人满 可 添加 小编wx：yzyykm666 加群！)\n\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fkm1994_NLP-Interview-Notes_readme_6f30ce152de0.png\" width=\"50%\" >\n\n## 四、NLP 学习算法 常见面试篇\n\n#### 4.1 信息抽取 常见面试篇\n\n##### 4.1.1 命名实体识别 常见面试篇\n\n- [隐马尔科夫算法 HMM 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_1q8xawb5rjwk.html)\n  - 一、基础信息 介绍篇\n    - 1.1 什么是概率图模型？\n    - 1.2 什么是 随机场？\n  - 二、马尔可夫过程 介绍篇\n    - 2.1 什么是 马尔可夫过程？\n    - 2.2 马尔可夫过程 的核心思想 是什么？\n  - 三、隐马尔科夫算法 篇\n    - 3.1 隐马尔科夫算法 介绍篇\n      - 3.1.1 隐马尔科夫算法 是什么？\n      - 3.1.2 隐马尔科夫算法 中 两个序列 是什么？\n      - 3.1.3 隐马尔科夫算法 中 三个矩阵 是什么？\n      - 3.1.4 隐马尔科夫算法 中 两个假设 是什么？\n      - 3.1.5 隐马尔科夫算法 中 工作流程 是什么？\n    - 3.2 隐马尔科夫算法 模型计算过程篇\n      - 3.2.1 隐马尔科夫算法 学习训练过程 是什么样的？\n      - 3.2.2 隐马尔科夫算法 序列标注（解码）过程 是什么样的？\n      - 3.2.3 隐马尔科夫算法 序列概率过程 是什么样的？\n    - 3.3 隐马尔科夫算法 问题篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_1q8xawb5rjwk.html)\n\n- [最大熵马尔科夫模型 MEMM 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_gcfcvw10h89u.html)\n  - 四、最大熵马尔科夫模型（MEMM）篇\n    - 4.1 最大熵马尔科夫模型（MEMM）动机篇\n      - 4.1.1 HMM 存在 什么问题？\n    - 4.2 最大熵马尔科夫模型（MEMM）介绍篇\n      - 4.2.1 最大熵马尔科夫模型（MEMM） 是什么样？\n      - 4.2.2 最大熵马尔科夫模型（MEMM） 如何解决 HMM 问题？\n    - 4.3 最大熵马尔科夫模型（MEMM）问题篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_gcfcvw10h89u.html)\n\n- [条件随机场（CRF） 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_3votd06mbvxv.html)\n  - 五、条件随机场（CRF）篇\n    - 5.1 CRF 动机篇\n      - 5.1.1 HMM 和 MEMM 存在什么问题？\n    - 5.2 CRF 介绍篇\n      - 5.2.1 什么是 CRF?\n      - 5.2.2 CRF 的 主要思想是什么？\n      - 5.2.3  CRF 的定义是什么?\n      - 5.2.4 CRF 的 流程是什么？\n    - 5.3 CRF 优缺点篇\n      - 5.3.1 CRF 的 优点在哪里？\n      - 5.3.2 CRF 的 缺点在哪里？\n    - 5.4 CRF 复现？\n  - 六、对比篇\n    - 6.1 CRF模型 和 HMM和MEMM模型 区别？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_3votd06mbvxv.html)\n\n- [DNN-CRF 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8u0rtbsjt64l.html)\n  - 一、基本信息\n    - 1.1 命名实体识别 评价指标 是什么？\n  - 二、传统的命名实体识别方法\n    - 2.1 基于规则的命名实体识别方法是什么？\n    - 2.2 基于无监督学习的命名实体识别方法是什么？\n    - 2.3 基于特征的监督学习的命名实体识别方法是什么？\n  - 三、基于深度学习的命名实体识别方法\n    - 3.1 基于深度学习的命名实体识别方法 相比于 基于机器学习的命名实体识别方法的优点？\n    - 3.2 基于深度学习的命名实体识别方法  的 结构是怎么样？\n    - 3.3 分布式输入层 是什么，有哪些方法？\n    - 3.4 文本编码器篇\n      - 3.4.1 BiLSTM-CRF 篇\n        - 3.4.1.1 什么是 BiLSTM-CRF？\n        - 3.4.1.2 为什么要用 BiLSTM？\n      - 3.4.2 IDCNN-CRF 篇\n        - 3.4.2.1 什么是 Dilated CNN？\n        - 3.4.2.2 为什么会有 Dilated CNN？\n        - 3.4.2.3 Dilated CNN 的优点？\n        - 3.4.2.4 IDCNN-CRF 介绍\n    - 3.5 标签解码器篇\n      - 3.5.1 标签解码器是什么？\n      - 3.5.2 MLP+softmax层 介绍？\n      - 3.5.3 条件随机场CRF层 介绍？\n      - 3.5.4 循环神经网络RNN层 介绍？\n      - 3.5.3 指针网路层 介绍？\n  - 四、对比 篇\n    - 4.1 CNN-CRF vs BiLSTM-CRF vs IDCNN-CRF?\n    - 4.2 为什么 DNN 后面要加 CRF?\n    - 4.3 CRF in TensorFlow V.S. CRF in discrete toolkit？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8u0rtbsjt64l.html)\n\n- [中文领域 NER 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_sgbknf1i6zer.html)\n  - 一、动机篇\n    - 1.1 中文命名实体识别 与 英文命名实体识别的区别？\n  - 二、词汇增强篇\n    - 2.1 什么是 词汇增强？\n    - 2.2 为什么说 「词汇增强」 方法对于中文 NER 任务有效呢？\n    - 2.3 词汇增强 方法有哪些？\n    - 2.4 Dynamic Architecture\n      - 2.4.1 什么是 Dynamic Architecture？\n      - 2.4.2 常用方法有哪些？\n      - 2.4.3 什么是 Lattice LSTM ，存在什么问题？\n      - 2.4.4 什么是 FLAT ，存在什么问题？\n    - 2.5 Adaptive Embedding 范式\n      - 2.5.1 什么是 Adaptive Embedding 范式？\n      - 2.5.2 常用方法有哪些？\n      - 2.5.3 什么是 WC-LSTM ，存在什么问题？\n  - 三、词汇\u002F实体类型信息增强篇\n    - 3.1 什么是 词汇\u002F实体类型信息增强？\n    - 3.2 为什么说 「词汇\u002F实体类型信息增强」 方法对于中文 NER 任务有效呢？\n    - 3.3 词汇\u002F实体类型信息增强 方法有哪些？\n    - 3.4 什么是 LEX-BERT ？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_sgbknf1i6zer.html)\n\n- [命名实体识别 trick 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_ik69rzw4ql5j.html)\n  - trick 1：领域词典匹配\n  - trick 2：规则抽取\n  - trick 3：词向量选取：词向量 or 字向量？\n  - trick 4：特征提取器 如何选择？\n  - trick 5：专有名称 怎么 处理？\n  - trick 6：标注数据 不足怎么处理？\n  - trick 7：嵌套命名实体识别怎么处理 \n    - 7.1 什么是实体嵌套？\n    - 7.2 与 传统命名实体识别任务的区别\n    - 7.3 解决方法：\n      - 7.3.1 方法一：序列标注\n      - 7.3.2 方法二：指针标注\n      - 7.3.3 方法三：多头标注\n      - 7.3.4 方法四：片段排列\n  - trick 8：为什么说 「词汇增强」 方法对于中文 NER 任务有效？\n  - trick 9：NER实体span过长怎么办？\n  - trick 10: NER 标注数据噪声问题？\n  - trick 11： 给定两个命名实体识别任务，一个任务数据量足够，另外一个数据量很少，可以怎么做？\n  - trick 12： NER 标注数据不均衡问题？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_ik69rzw4ql5j.html)\n\n##### 4.1.2 关系抽取 常见面试篇\n\n- [关系抽取 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_0uqcsdxwhg8c.html)\n  - 一、动机篇\n    - 1.1 什么是关系抽取？\n    - 1.2 关系抽取技术有哪些类型？\n    - 1.3 常见的关系抽取流程是怎么做的？\n  - 二、经典关系抽取篇\n    - 2.1 模板匹配方法是指什么？有什么优缺点？\n    - 2.2 远监督关系抽取是指什么？它有什么优缺点？\n    - 2.3 什么是关系重叠？复杂关系问题？\n    - 2.4 联合抽取是什么？难点在哪里？\n    - 2.5 联合抽取总体上有哪些方法？各有哪些缺点？\n    - 2.6 介绍基于共享参数的联合抽取方法？\n    - 2.7 介绍基于联合解码的联合抽取方法？\n    - 2.8 实体关系抽取的前沿技术和挑战有哪些？如何解决低资源和复杂样本下的实体关系抽取？\n  - 三、文档级关系抽取篇\n    - 3.1 文档级关系抽取与经典关系抽取有何区别？\n    - 3.2 文档级别关系抽取中面临什么样的问题？\n    - 3.3 文档级关系抽取的方法有哪些？\n      - 3.3.1 基于BERT-like的文档关系抽取是怎么做的？\n      - 3.3.2 基于graph的文档关系抽取是怎么做的？\n    - 3.4 文档级关系抽取常见数据集有哪些以及其评估方法？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_0uqcsdxwhg8c.html)\n\n##### 4.1.3 事件抽取 常见面试篇\n\n- [事件抽取 常见面试篇](NLPinterview\u002FEventExtraction\u002F)\n  - 一、原理篇\n    - 1.1 什么是事件？\n    - 1.2 什么是事件抽取？\n    - 1.3 ACE测评中事件抽取涉及的几个基本术语及任务是什么？\n    - 1.4 事件抽取怎么发展的？\n    - 1.5 事件抽取存在什么问题？\n  - 二、基本任务篇\n    - 2.1 触发词检测\n      - 2.1.1 什么是触发词检测？\n      - 2.1.2 触发词检测有哪些方法？\n    - 2.2 类型识别\n      - 2.2.1 什么是类型识别？\n      - 2.2.2 类型识别有哪些方法？\n    - 2.3 角色识别\n      - 2.3.1 什么是角色识别？\n      - 2.3.2 角色识别有哪些方法？\n    - 2.4 论元检测\n      - 2.4.1 什么是论元检测？\n      - 2.4.2 论元检测有哪些方法？\n  - 三、常见方法篇\n    - 3.1 模式匹配方法怎么用在事件抽取中?\n    - 3.2 统计机器学习方法怎么用在事件抽取中?\n    - 3.3 深度学习方法怎么用在事件抽取中?\n  - 四、数据集及评价指标篇\n    - 4.1 事件抽取中常见的英文数据集有哪些？\n    - 4.2 事件抽取中常见的中文数据集有哪些？\n    - 4.3 事件抽取的评价指标是什么？怎么计算的？\n  - 五、对比篇\n    - 5.1 事件抽取和命名实体识别（即实体抽取）有什么异同？\n    - 5.2 事件抽取和关系抽取有什么异同？\n    - 5.3 什么是事理图谱？有哪些事件关系类型？事理图谱怎么构建？主要技术领域及当前发展热点是什么？\n  - 六、应用篇\n  - 七、拓展篇\n    - 7.1 事件抽取论文综述\n    - 7.2 事件抽取常见问题\n\n#### 4.2 NLP 预训练算法 常见面试篇\n\n- [【关于TF-idf】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_8b6f6rux9dr0.html)\n  - 一、one-hot 篇\n    - 1.1 为什么有 one-hot ？\n    - 1.2 one-hot 是什么?\n    - 1.3 one-hot 有什么特点?\n    - 1.4 one-hot 存在哪些问题?\n  - 二、TF-IDF 篇\n    - 2.1 什么是 TF-IDF？\n    - 2.2  TF-IDF 如何评估词的重要程度？\n    - 2.3  TF-IDF 的思想是什么？\n    - 2.4  TF-IDF 的计算公式是什么？\n    - 2.5  TF-IDF 怎么描述？\n    - 2.6  TF-IDF 的优点是什么？\n    - 2.7  TF-IDF 的缺点是什么？\n    - 2.8  TF-IDF 的应用？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8b6f6rux9dr0.html)\n\n- [【关于word2vec】那些你不知道的事](https:\u002F\u002Farticles.zsxq.com\u002Fid_2vpr5crbfbrp.html)\n  - 一、Wordvec 介绍篇\n    - 1.1 Wordvec 指什么?\n    - 1.2 Wordvec 中 CBOW 指什么?\n    - 1.3 Wordvec 中 Skip-gram 指什么?\n    - 1.4 CBOW vs Skip-gram 哪一个好？\n  - 二、Wordvec 优化篇\n    - 2.1  Word2vec 中 霍夫曼树 是什么？\n    - 2.2  Word2vec 中 为什么要使用 霍夫曼树？\n    - 2.3  Word2vec 中使用 霍夫曼树 的好处？\n    - 2.4 为什么 Word2vec 中会用到 负采样？\n    - 2.5 Word2vec 中会用到 负采样 是什么样？\n    - 2.6  Word2vec 中 负采样的采样方式？\n  - 三、Wordvec 对比篇\n    - 3.1 word2vec和NNLM对比有什么区别？（word2vec vs NNLM）\n    - 3.2 word2vec和tf-idf 在相似度计算时的区别？\n  - 四、word2vec 实战篇\n    - 4.1 word2vec训练trick，window设置多大？\n    - 4.1 word2vec训练trick，词向量纬度，大与小有什么影响，还有其他参数？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_2vpr5crbfbrp.html)\n\n- [【关于FastText】那些你不知道的事】(https:\u002F\u002Farticles.zsxq.com\u002Fid_tw45wd5ae23q.html)\n  - 一、fastText 动机篇\n    - 1.1 词级模型是什么？\n    - 1.2 词级模型存在哪些问题？\n    - 1.3 字符级模型是什么？\n    - 1.4 字符级模型有哪些优点？\n    - 1.5 字符级模型存在哪些问题？\n    - 1.6 如何解决字符级模型的问题？\n  - 二、词内n-gram信息（subword n-gram information）介绍篇\n    - 2.1 引言\n    - 2.2 fastText是什么？\n    - 2.3 fastText的结构是怎样的？\n    - 2.4 为什么fastText要使用词内n-gram信息（subword n-gram information）？\n    - 2.5 fastText词内n-gram信息（subword n-gram information）的介绍？\n    - 2.6 fastText词内n-gram信息的训练过程？\n    - 2.7 fastText词内n-gram信息是否存在问题？\n  - 三、层次化Softmax回归（Hierarchical Softmax）介绍篇\n    - 3.1 为什么要使用层次化Softmax回归（Hierarchical Softmax）？\n    - 3.2 层次化Softmax回归的思想是什么？\n    - 3.3 层次化Softmax回归的步骤？\n  - 四、fastText是否存在问题？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_tw45wd5ae23q.html)\n\n- [【关于Elmo】那些你不知道的事】(https:\u002F\u002Farticles.zsxq.com\u002Fid_we1wwkpdrpfn.html)\n  - 一、Elmo 动机篇\n    - 1.1 为什么会出现Elmo？\n  - 二、Elmo 介绍篇\n    - 2.1 Elmo有哪些特点？\n    - 2.2 Elmo的思想是什么？\n  - 三、Elmo问题篇\n    - 3.1 Elmo存在哪些问题？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_we1wwkpdrpfn.html)\n\n#### 4.3 Bert 常见面试篇\n\n- [Bert 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_0ceqw3u9o2i5.html) \n  - 一、动机篇\n    - 1.1 【演变史】one-hot编码存在什么问题？\n    - 1.2【演变史】word2vec存在什么问题？\n    - 1.3【演变史】fastText存在什么问题？\n    - 1.4【演变史】elmo存在什么问题？\n  - 二、Bert 篇\n    - 2.1 Bert 介绍篇\n      - 2.1.1【BERT】Bert是什么？\n      - 2.1.2【BERT】Bert的三个关键点是什么？\n    - 2.2 Bert 输入输出表征篇\n      - 2.2.1 【BERT】Bert输入输出表征是什么样子？\n    - 2.3 【BERT】Bert 预训练篇\n      - 2.3.1 【BERT】Bert预训练任务介绍\n      - 2.3.2 【BERT】Bert预训练任务之Masked LM篇\n        - 2.3.2.1 【BERT】Bert为什么需要预训练任务Masked LM？\n        - 2.3.2.2 【BERT】Bert如何进行Masked LM预训练？\n        - 2.3.2.3 【BERT】Bert预训练任务Masked LM是否存在问题？\n        - 2.3.2.4 【BERT】如何解决预训练与微调之间的不匹配问题？\n      - 2.3.3 【BERT】Bert预训练任务之Next Sentence Prediction篇\n        - 2.3.3.1 【BERT】Bert为什么需要预训练任务Next Sentence Prediction？\n        - 2.3.3.2 【BERT】Bert如何进行Next Sentence Prediction预训练？\n    - 2.4 【BERT】fine-turning篇？\n      - 2.4.1 【BERT】为什么Bert需要fine-tuning？\n      - 2.4.2 【BERT】Bert如何进行fine-tuning？\n    - 2.5 【BERT】Bert损失函数篇？\n      - 2.5.1 【BERT】BERT的两个预训练任务对应的损失函数分别是什么（用公式表示）？\n  - 三、对比篇？\n    - 3.1 【对比】多义词问题是什么？\n    - 3.2 【对比】word2vec为什么无法解决多义词问题？\n    - 3.3 【对比】GPT和BERT有什么不同？\n    - 3.4 【对比】为什么Elmo、GPT、BERT能够解决多义词问题？（以Elmo为例）\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_0ceqw3u9o2i5.html)\n\n- [【关于 Bert 源码解析I 之 主体篇】那些你不知道的事】(https:\u002F\u002Farticles.zsxq.com\u002Fid_918gk4sl2l8b.html)\n- [【关于 Bert 源码解析II 之 预训练篇】那些你不知道的事】(https:\u002F\u002Farticles.zsxq.com\u002Fid_m1pcu7g25bd6.html)\n- [【关于 Bert 源码解析III 之 微调篇】那些你不知道的事】(https:\u002F\u002Farticles.zsxq.com\u002Fid_uxcwvhqvvbes.html)\n- [【关于 Bert 源码解析IV 之 句向量生成篇】那些你不知道的事】(https:\u002F\u002Farticles.zsxq.com\u002Fid_1ccw29hl80o8.html)\n- [【关于 Bert 源码解析V 之 文本相似度篇】那些你不知道的事】(https:\u002F\u002Farticles.zsxq.com\u002Fid_vauhnwe9m7aj.html)\n\n##### 4.3.1 Bert 模型压缩 常见面试篇\n\n- [Bert 模型压缩 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_bknkkgtxj45f.html)\n  - 一、Bert 模型压缩 动机篇\n  - 二、Bert 模型压缩对比表\n  - 三、Bert 模型压缩方法介绍\n    - 3.1 Bert 模型压缩方法 之 低秩因式分解&跨层参数共享\n      - 3.1.1 什么是低秩因式分解？\n      - 3.1.2 什么是跨层参数共享？\n      - 3.1.3 ALBERT所采用的方法？\n    - 3.2 Bert 模型压缩方法 之 蒸馏\n      - 3.2.1 什么是蒸馏？\n      - 3.2.2 使用模型蒸馏的论文有哪些，稍微介绍一下？\n    - 3.3 Bert 模型压缩方法 之 量化\n      - 3.3.1 什么是量化？\n      - 3.3.2  Q-BERT: Hessian Based Ultra Low Precision Quantization of BERT 【量化】\n    - 3.4 Bert 模型压缩方法 之 剪枝\n      - 3.4.1 什么是剪枝？\n  - 四、模型压缩是否存在问题？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_bknkkgtxj45f.html)\n\n##### 4.3.2 Bert 模型系列 常见面试篇\n\n- 你了解XLNet吗？能简单介绍一下吗？它和Bert有什么区别？\n- 你了解RoBERTa吗？能简单介绍一下吗？它和Bert有什么区别？\n- 你了解SpanBERT吗？能简单介绍一下吗？它和Bert有什么区别？\n- 你了解MASS吗？能简单介绍一下吗？它和Bert有什么区别？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_bsqbmanv6upr.html)\n\n#### 4.4 文本分类 常见面试篇\n\n- [文本分类 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_24linkt6tidj.html)\n  - 一、 抽象命题\n    - 1.1 分类任务有哪些类别？它们都有什么特征？\n    - 1.2 文本分类任务相较于其他领域的分类任务有何不同之处？\n    - 1.3 文本分类任务和文本领域的其他任务相比有何不同之处？\n    - 1.4 文本分类的过程？\n  - 二、数据预处理\n    - 2.1 文本分类任务的数据预处理方法有哪些？\n    - 2.2 你使用过哪些分词方法和工具？\n    - 2.3 中文文本分词的方法？\n    - 2.4 基于字符串匹配的分词方法的原理是什么？\n    - 2.5 统计语言模型如何应用于分词？N-gram最大概率分词？\n    - 2.6 基于序列标注的分词方法是什么？\n    - 2.7 基于(Bi-)LSTM的词性标注是什么？\n    - 2.8 词干提取和词形还原有什么区别？\n  - 三、特征提取\n    - 3.1 （一个具体的）文本分类任务可以使用哪些特征？\n    - 3.2 （对于西文文本）使用单词和使用字母作为特征相比，差异如何？\n    - 3.3 能不能简单介绍下词袋模型？\n    - 3.4 n-gram篇\n      - 3.4.1 什么是n元语法？为什么要用n-gram？\n      - 3.4.2 n-gram算法的局限性是什么？\n    - 3.5 主题建模篇\n      - 3.5.1 介绍一下主题建模任务？\n      - 3.5.2 主题建模的常用方法\n      - 3.5.3 TF-IDF算法是做什么的？简单介绍下TF-IDF算法\n      - 3.5.4 tf-idf高意味着什么？\n      - 3.5.5 tf-idf的不足之处\n    - 3.6 文本相似度篇\n      - 3.6.1 如何计算两段文本之间的距离？\n      - 3.6.2 什么是jaccard距离？\n      - 3.6.3 Dice系数和Jaccard系数的区别是什么？\n      - 3.6.4 同样是编辑距离，莱文斯坦距离和汉明距离的区别在哪里？\n      - 3.6.5 写一下计算编辑距离（莱温斯坦距离）的编程题吧？\n  - 四、模型篇\n    - 4.1 fastText篇\n      - 4.1.1 fastText的分类过程？\n      - 4.1.2 fastText的优点是什么？\n    - 4.2 TextCNN篇\n      - 4.2.1 TextCNN进行文本分类的过程？\n      - 4.2.2 TextCNN可以调整哪些参数？\n      - 4.2.3 使用CNN作为文本分类器时，不同通道channels对应着文本的什么信息？\n      - 4.2.4 TextCNN中卷积核的长与宽代表了什么？\n      - 4.2.5 在TextCNN中的pooling操作与一般CNN的pooling操作有何不同？\n      - 4.2.6 TextCNN的局限性？\n    - 4.3 DPCNN篇\n      - 4.3.1 如何解决长文本分类任务？\n      - 4.3.2 简单介绍DPCNN模型相较于TextCNN的改进？\n    - 4.4 TextRCNN篇\n      - 4.4.1 简要介绍TextRCNN相较于TextCNN的改进？\n    - 4.5 RNN+Attention篇\n      - 4.5.1 RNN+Attention进行文本分类任务的思路，以及为什么要加Attention \u002F 注意力机制如何应用于文本分类领域？\n    - 4.6 GNN 图神经网络篇\n      - 4.6.1 GNN 图神经网络如何应用于文本分类领域？\n    - 4.7 Transformer篇\n      - 4.7.1 基于Transformer的预训练模型如何应用于文本分类领域？\n    - 4.8 预训练模型篇\n      - 4.8.1 你了解哪些预训练模型？它们的特点是什么？\n  - 五、损失函数\n    - 5.1 激活函数sigmoid篇\n      - 5.1.1 二分类问题使用的激活函数sigmoid简介？\n      - 5.1.2 Sigmod的缺点是什么？\n    - 5.2 激活函数softmax篇\n      - 5.2.1 softmax函数是什么？\n      - 5.2.2 softmax函数怎么求导？\n    - 5.3 分类问题使用的损失函数还有有哪些？\n  - 六、模型评估和算法比较\n    - 6.1 文本分类任务使用的评估算法和指标有哪些？\n    - 6.2 简单介绍混淆矩阵和kappa？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_24linkt6tidj.html)\n\n- [文本分类 trick 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_jcs3manhpbd9.html)\n  - 一、文本分类数据预处理如何做？\n  - 二、文本分类 预训练模型如何选择？\n  - 三、文本分类 参数如何优化？\n  - 四、文本分类有哪些棘手任务？\n  - 五、文本分类 标签体系构建？\n  - 六、文本分类 策略构建？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_jcs3manhpbd9.html)\n\n- [用检索的方式做文本分类 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_tln637w4a3sg.html)\n  - 为什么需要用检索的方式做文本分类？\n  - 基于检索的方法做文本分类思路是什么？\n  - 检索的方法的召回库如何构建？\n  - 检索的方法的训练阶段如何做？\n  - 检索的方法的预测阶段如何做？\n  - 用检索的方式做文本分类 方法适用场景有哪些？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_tln637w4a3sg.html)\n\n#### 4.5 文本匹配 常见面试篇\n\n- [文本匹配模型 ESIM 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_dfaagvc24cwa.html)\n  - 为什么需要ESIM？\n  - 介绍一下ESIM模型？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_dfaagvc24cwa.html)\n\n- [语义相似度匹配任务中的 BERT 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_slnosr1n8a0z.html)\n  - 一、Sentence Pair Classification Task：使用CLS\n  - 二、cosine similarity\n  - 三、长短文本的区别\n  - 四、sentence\u002Fword embedding\n  - 五、siamese network方式\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_slnosr1n8a0z.html)\n\n#### 4.6 问答系统 常见面试篇\n\n##### 4.6.1 [FAQ 检索式问答系统 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_vtkf1m0gq2or.html)\n\n- 一、动机\n  - 1.1 问答系统的动机？\n  - 1.2 问答系统 是什么？\n- 二、FAQ 检索式问答系统介绍篇\n  - 2.1 FAQ 检索式问答系统 是 什么？\n  - 2.2 query 匹配标准 QA 的核心是什么?\n- 三、FAQ 检索式问答系统 方案篇\n  - 3.1 常用 方案有哪些？\n  - 3.2 为什么 QQ 匹配比较常用？\n    - 3.2.1 QQ 匹配的优点有哪些？\n    - 3.2.2 QQ 匹配的语义空间是什么？\n    - 3.2.3 QQ 匹配的语料的稳定性是什么？\n    - 3.2.4 QQ 匹配的业务回答与算法模型的解耦是什么？\n    - 3.2.5 QQ 匹配的新问题发现与去重是什么？\n    - 3.2.6 QQ 匹配的上线运行速度是什么？\n  - 3.3  QQ 匹配一般处理流程是怎么样？ 【假设 标准问题库 已处理好】\n- 四、FAQ 标准问题库构建篇\n  - 4.1 如何发现 FAQ 中标准问题？\n  - 4.2 FAQ 如何做拆分？\n  - 4.3 FAQ 如何做合并？\n  - 4.4 FAQ 标准库如何实时更新？\n- 五、FAQ 标准问题库答案优化篇\n  - 5.1 FAQ 标准问题库答案如何优化？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_vtkf1m0gq2or.html)\n\n##### 4.6.2 问答系统工具篇 常见面试篇\n\n- [Faiss 常见面试篇](NLPinterview\u002FQA\u002FFaiss\u002F)\n  - 一、动机篇\n    - 1.1 传统的相似度算法所存在的问题？\n  - 二、介绍篇\n    - 2.1 什么是 Faiss ？\n    - 2.2 Faiss 如何使用？\n    - 2.3 Faiss原理与核心算法\n  - 三、Faiss 实战篇\n    - 3.1 Faiss 如何安装？\n    - 3.2 Faiss 的索引Index有哪些？\n    - 3.3 Faiss 的索引Index都怎么用？\n      - 3.3.1 数据预备\n      - 3.3.2 暴力美学 IndexFlatL2\n      - 3.3.3 闪电侠 IndexIVFFlat\n      - 3.3.4 内存管家 IndexIVFPQ\n    - 3.4 Faiss 然后使用 GPU？\n  - 四、 Faiss 对比篇\n    - 4.1 sklearn cosine_similarity  和 Faiss  哪家强\n\n#### 4.7 对话系统 常见面试篇\n\n- [对话系统 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_kz2t0faje3jw.html)\n  - 一、对话系统 介绍篇\n    - 1.1 对话系统有哪几种？\n    - 1.2 这几种对话系统的区别？\n  - 二、多轮对话系统 介绍篇\n    - 2.1 为什么要用 多轮对话系统？\n    - 2.2 常见的多轮对话系统解决方案是什么？\n  - 三、任务型对话系统 介绍篇\n    - 3.1 什么是任务型对话系统？\n    - 3.2 任务型对话系统的流程是怎么样？\n    - 3.3 任务型对话系统 语言理解（SLU）篇\n      - 3.3.1 什么是 语言理解（SLU）？\n      - 3.3.2 语言理解（SLU）的输入输出是什么？\n      - 3.3.3 语言理解（SLU）所使用的技术是什么？\n    - 3.4 任务型对话系统 DST（对话状态跟踪）篇\n      - 3.4.1 什么是 DST（对话状态跟踪）？\n      - 3.4.2 DST（对话状态跟踪）的输入输出是什么？\n      - 3.4.3 DST（对话状态跟踪）存在问题和解决方法？\n      - 3.4.4 DST（对话状态跟踪）实现方式是什么？\n    - 3.5 任务型对话系统 DPO（对话策略学习）篇\n      - 3.5.1 DPO（对话策略学习）是什么？\n      - 3.5.2 DPO（对话策略学习）的输入输出是什么？\n      - 3.5.3 DPO（对话策略学习）的实现方法是什么？\n    - 3.6 任务型对话系统 NLG（自然语言生成）篇\n      - 3.6.1 NLG（自然语言生成）是什么？\n      - 3.6.2 NLG（自然语言生成）的输入输出是什么？\n      - 3.6.3 NLG（自然语言生成）的实现方式？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_kz2t0faje3jw.html)\n\n#### 4.8 知识图谱 常见面试篇\n\n##### 4.8.1 [知识图谱 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_360j8cpd0shj.html)\n\n- 一、知识图谱简介\n  - 1.1 引言\n  - 1.2 什么是知识图谱呢？\n    - 1.2.1 什么是图（Graph）呢？\n    - 1.2.2 什么是 Schema 呢？\n  - 1.3 知识图谱的类别有哪些？\n  - 1.4 知识图谱的价值在哪呢？\n- 二、怎么构建知识图谱呢？\n  - 2.1 知识图谱的数据来源于哪里？\n  - 2.2 信息抽取的难点在哪里？\n  - 2.3 构建知识图谱所涉及的技术？\n  - 2.4、知识图谱的具体构建技术是什么？\n    - 2.4.1 实体命名识别（Named Entity Recognition）\n    - 2.4.2 关系抽取（Relation Extraction）\n    - 2.4.3 实体统一（Entity Resolution）\n    - 2.4.4 指代消解（Disambiguation）\n- 三、知识图谱怎么存储？\n- 四、知识图谱可以做什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_360j8cpd0shj.html)\n\n##### 4.8.2 [KBQA 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_u6seb5h3pnof.html)\n\n- 一、基于词典和规则的方法\n  - 基于词典和规则的方法 实现 KBQA?\n  - 基于词典和规则的方法 实现 KBQA 流程?\n- 二、基于信息抽取的方法\n  - 基于信息抽取的方法 实现 KBQA 流程?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_u6seb5h3pnof.html)\n\n##### 4.8.3 [Neo4j 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_w6uxxvpj9fl0.html)\n\n- 一、Neo4J 介绍与安装\n  - 1.1 引言\n  - 1.2 Neo4J 怎么下载？\n  - 1.3 Neo4J 怎么安装？\n  - 1.4 Neo4J Web 界面 介绍\n  - 1.5 Cypher查询语言是什么？\n- 二、Neo4J 增删查改篇\n  - 2.1 引言\n  - 2.2 Neo4j 怎么创建节点？\n  - 2.3 Neo4j 怎么创建关系？\n  - 2.4 Neo4j 怎么创建 出生地关系？\n  - 2.5 Neo4j 怎么查询？\n  - 2.6 Neo4j 怎么删除和修改？\n- 三、如何利用 Python 操作 Neo4j 图数据库？\n  - 3.1 neo4j模块：执行CQL ( cypher ) 语句是什么？\n  - 3.2 py2neo模块是什么？\n- 四、数据导入 Neo4j 图数据库篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_w6uxxvpj9fl0.html)\n\n#### 4.9 [文本摘要 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8ndah4nf876w.html)\n\n- 一、动机篇\n  - 1.1 什么是文本摘要？\n  - 1.2 文本摘要技术有哪些类型？\n- 二、抽取式摘要篇\n  - 2.1 抽取式摘要是怎么做的？\n    - 2.1.1 句子重要性评估算法有哪些？\n    - 2.1.2 基于约束的摘要生成方法有哪些？\n    - 2.1.3 TextTeaser算法是怎么抽取摘要的？\n    - 2.1.4 TextRank算法是怎么抽取摘要的？\n  - 2.2 抽取式摘要的可读性问题是什么？\n- 三、压缩式摘要篇\n  - 3.1 压缩式摘要是怎么做的？\n- 四、生成式摘要篇\n  - 4.1 生成式摘要是怎么做的？\n  - 4.2 生成式摘要存在哪些问题？\n  - 4.3 Pointer-generator network解决了什么问题？\n- 五、摘要质量评估方法\n  - 5.1 摘要质量的评估方法有哪些类型？\n  - 5.2 什么是ROUGE？\n  - 5.3 几种ROUGE指标之间的区别是什么？\n  - 5.4 BLEU和ROUGE有什么不同？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8ndah4nf876w.html)\n\n#### 4.10  [文本纠错篇 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_2retvz8l0es7.html)\n\n- 一、介绍篇\n  - 1.1 什么是文本纠错？\n  - 1.2 常见的文本错误类型？\n  - 1.3 文本纠错 常用方法？\n- 二、pipeline 方法 介绍篇\n  - pipeline 中的 错误检测 如何实现？\n  - pipeline 中的 候选召回 如何实现？\n  - pipeline 中的 纠错排序 如何实现？\n  - pipeline 中的 ASR 回显优化 如何实现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_2retvz8l0es7.html)\n\n#### 4.11 [文本摘要 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8ndah4nf876w.html)\n\n- 一、动机篇\n  - 1.1 什么是文本摘要？\n  - 1.2 文本摘要技术有哪些类型？\n- 二、抽取式摘要篇\n  - 2.1 抽取式摘要是怎么做的？\n    - 2.1.1 句子重要性评估算法有哪些？\n    - 2.1.2 基于约束的摘要生成方法有哪些？\n    - 2.1.3 TextTeaser算法是怎么抽取摘要的？\n    - 2.1.4 TextRank算法是怎么抽取摘要的？\n  - 2.2 抽取式摘要的可读性问题是什么？\n- 三、压缩式摘要篇\n  - 3.1 压缩式摘要是怎么做的？\n- 四、生成式摘要篇\n  - 4.1 生成式摘要是怎么做的？\n  - 4.2 生成式摘要存在哪些问题？\n  - 4.3 Pointer-generator network解决了什么问题？\n- 五、摘要质量评估方法\n  - 5.1 摘要质量的评估方法有哪些类型？\n  - 5.2 什么是ROUGE？\n  - 5.3 几种ROUGE指标之间的区别是什么？\n  - 5.4 BLEU和ROUGE有什么不同？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8ndah4nf876w.html)\n\n#### 4.12 文本生成 常见面试篇\n\n- [生成模型的解码方法 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_m3wckj5bhgu8.html)\n  - 什么是生成模型？\n  - 介绍一下 基于搜索的解码方法？\n  - 介绍一下 基于采样的解码方法？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_m3wckj5bhgu8.html)\n\n## 三、深度学习算法篇 常见面试篇\n  \n- [CNN 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_b3xp06wevahd.html)\n  - 一、动机篇\n  - 二、CNN 卷积层篇\n    - 2.1 卷积层的本质是什么？\n    - 2.2 CNN 卷积层与全连接层的联系？\n    - 2.3 channel的含义是什么？\n  - 三、CNN 池化层篇\n    - 3.1 池化层针对区域是什么？\n    - 3.2 池化层的种类有哪些？\n    - 3.3 池化层的作用是什么？\n    - 3.4 池化层 反向传播 是什么样的？\n    - 3.5 mean pooling 池化层 反向传播 是什么样的？\n    - 3.6 max pooling 池化层 反向传播 是什么样的？\n  - 四、CNN 整体篇\n    - 4.1 CNN 的流程是什么？\n    - 4.2 CNN 的特点是什么？\n    - 4.3 卷积神经网络为什么会具有平移不变性？\n    - 4.4 卷积神经网络中im2col是如何实现的？\n    - 4.5 CNN 的局限性是什么？\n  - 五、Iterated Dilated CNN 篇\n    - 5.1 什么是 Dilated CNN 空洞卷积？\n    - 5.2 什么是 Iterated Dilated CNN？\n  - 六、反卷积 篇\n    - 6.1 解释反卷积的原理和用途？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_b3xp06wevahd.html)\n\n- [RNN 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_2et1rj7sn8c4.html)\n  - 一、RNN 篇\n    - 1.2 为什么需要 RNN?\n    - 1.2 RNN 结构是怎么样的？\n    - 1.3 RNN 前向计算公式？\n    - 1.4 RNN 存在什么问题？\n  - 二、长短时记忆网络(Long Short Term Memory Network, LSTM) 篇\n    - 2.1 为什么 需要 LSTM?\n    - 2.2 LSTM 的结构是怎么样的?\n    - 2.3 LSTM 如何缓解 RNN 梯度消失和梯度爆炸问题?\n    - 2.3 LSTM 的流程是怎么样的?\n    - 2.4 LSTM 中激活函数区别?\n    - 2.5 LSTM的复杂度？\n    - 2.6 LSTM 存在什么问题？\n  - 三、GRU (Gated Recurrent Unit)\n    - 3.1 为什么 需要 GRU?\n    - 3.2 GRU 的结构是怎么样的?\n    - 3.3 GRU 的前向计算?\n    - 3.4 GRU 与其他 RNN系列模型的区别？\n  - 四、RNN系列模型篇\n    - 4.1 RNN系列模型 有什么特点？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_2et1rj7sn8c4.html)\n\n- [Attention 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_hs7zqva04b9g.html)\n  - 一、seq2seq 篇\n    - 1.1 seq2seq （Encoder-Decoder）是什么？\n    - 1.2 seq2seq 中 的 Encoder 怎么样？\n    - 1.3 seq2seq 中 的 Decoder 怎么样？\n    - 1.4 在 数学角度上 的 seq2seq ，你知道么？\n    - 1.5 seq2seq 存在 什么 问题？\n  - 二、Attention 篇\n    - 2.1 什么是 Attention?\n    - 2.2 为什么引入 Attention机制？\n    - 2.3 Attention 有什么作用？\n    - 2.4 Attention 流程是怎么样？\n      - 步骤一  执行encoder (与 seq2seq 一致)\n      - 步骤二  计算对齐系数 a\n      - 步骤三  计算上下文语义向量 C\n      - 步骤四  更新decoder状态\n      - 步骤五 计算输出预测词\n    - 2.5 Attention 的应用领域有哪些？\n  - 三、Attention 变体篇\n    - 3.1 Soft Attention 是什么？\n    - 3.2 Hard Attention 是什么？\n    - 3.3 Global Attention 是什么？\n    - 3.4 Local Attention 是什么？\n    - 3.5 self-attention 是什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_hs7zqva04b9g.html)\n\n- [生成对抗网络 GAN 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_s5wm5safsqse.html)\n  - 一、动机\n  - 二、介绍篇\n    - 2.1 GAN 的基本思想\n    - 2.2 GAN 基本介绍\n      - 2.2.1  GAN 的基本结构\n      - 2.2.2 GAN 的基本思想\n  - 三、训练篇\n    - 3.1 生成器介绍\n    - 3.2 判别器介绍\n    - 3.3 训练过程\n    - 3.4  训练所涉及相关理论基础\n  - 四、总结\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_s5wm5safsqse.html)\n\n### 3.1  Transformer 常见面试篇\n\n- [Transformer 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8nv1s9vsr2ow.html) \n  - 一、动机篇\n    - 1.1 为什么要有 Transformer?\n    - 1.2 Transformer 作用是什么？\n  - 二、整体结构篇\n    - 2.1 Transformer 整体结构是怎么样？\n    - 2.2 Transformer-encoder 结构怎么样？\n    - 2.3 Transformer-decoder 结构怎么样?\n  - 三、模块篇\n    - 3.1 self-attention 模块\n      - 3.1.1 传统 attention 是什么?\n      - 3.1.2 为什么 会有self-attention?\n      - 3.1.3 self-attention 的核心思想是什么?\n      - 3.1.4 self-attention 的目的是什么?\n      - 3.1.5 self-attention 的怎么计算的?\n      - 3.1.6 为什么 Q 和 K 使用不同的权重矩阵生成，为何不能使用同一个值进行自身的点乘？\n      - 3.1.7 为什么采用点积模型的 self-attention 而不采用加性模型？\n      - 3.1.8 为什么 Transformer 中在计算 self-attention 时为什么要除以 $\\sqrt{d}$？\n      - 3.1.9  how self-attention solves long-range dependency issues?\n      - 3.1.10  how self-attention is parallelized?\n    - 3.2 multi-head attention 模块\n      - 3.2.1 multi-head attention 的思路是什么样?\n      - 3.2.2 multi-head attention 的步骤是什么样?\n      - 3.2.3 为什么 Transformer 采用多头注意力机制？（为什么不使用一个头）\n      - 3.2.4 为什么在进行多头注意力的时候需要对每个head进行降维？\n      - 3.2.5  multi-head attention code introduction\n    - 3.3 位置编码（Position encoding）模块\n      - 3.3.1 为什么要 加入 位置编码（Position encoding） ？\n      - 3.3.2 位置编码（Position encoding）的思路是什么 ？\n      - 3.3.3 位置编码（Position encoding）的作用是什么 ？\n      - 3.3.4 位置编码（Position encoding）的步骤是什么 ？\n      - 3.3.5 为什么 Position encoding 选择相加而不是拼接呢？\n      - 3.3.6  Position encoding 和 Position embedding 的区别？\n      - 3.3.7 为什么17年提出Transformer时采用的是 Position Encoder  而不是Position Embedding？而Bert却采用的是 Position Embedding ？\n      - 3.3.8 位置编码（Position encoding）的代码介绍\n    - 3.4 残差模块模块\n      - 3.4.1 为什么要 加入 残差模块？\n    - 3.5 Layer normalization 模块\n      - 3.5.1 为什么要 加入 Layer normalization 模块？\n      - 3.5.2 Layer normalization 模块的是什么？\n      - 3.5.3 Batch normalization 和 Layer normalization 的区别？\n      - 3.5.4 为什么 Transformer 中舍弃 Batch normalization 改用 Layer normalization 呢?\n      - 3.5.5  Layer normalization 模块代码介绍\n    - 3.6 Mask 模块\n      - 3.6.1 什么是 Mask？\n      - 3.6.2 Transformer 中用到 几种 Mask？\n      - 3.6.3 有没有可能介绍一下 Transformer 中用到几种 Mask？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8nv1s9vsr2ow.html)\n\n- [【关于 Transformer 问题及改进】那些你不知道的事](DeepLearningAlgorithm\u002Ftransformer\u002Ftransformer_error.md) \n  - 一、Transformer 问题篇\n    - 1.1 既然 Transformer 怎么牛逼，是否还存在一些问题？\n  - 二、每个问题的解决方法是什么？\n    - 2.1 问题一：Transformer 不能很好的处理超长输入问题\n      - 2.1.1 Transformer 固定了句子长度？\n      - 2.1.2 Transformer 固定了句子长度 的目的是什么？\n      - 2.1.3 Transformer 针对该问题的处理方法？\n    - 2.2 问题二：Transformer 方向信息以及相对位置 的 缺失 问题\n    - 2.3  问题三：缺少Recurrent Inductive Bias\n    - 问题四：Transformer是非图灵完备的： 非图灵完备通俗的理解，就是无法解决所有的问题\n    - 问题五：transformer缺少conditional computation；\n    - 问题六：transformer 时间复杂度 和 空间复杂度 过大问题；\n\n## 五、NLP 技巧面\n\n### 5.1 少样本问题面\n\n#### 5.1.1 [数据增强（EDA） 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_e043c3q53sbc.html)\n\n- 一、动机篇\n  - 1.1 什么是 数据增强？\n  - 1.2 为什么需要 数据增强？\n- 二、常见的数据增强方法篇\n  - 2.1 词汇替换篇\n    - 2.1.1 什么是基于词典的替换方法？\n    - 2.1.2 什么是基于词向量的替换方法？\n    - 2.1.3 什么是基于 MLM 的替换方法？\n    - 2.1.4 什么是基于 TF-IDF 的词替换？\n  - 2.2 词汇插入篇\n    - 2.2.1 什么是随机插入法？\n  - 2.3 词汇交换篇\n    - 2.3.1 什么是随机交换法？\n  - 2.4 词汇删除篇\n    - 2.4.1 什么是随机删除法？\n  - 2.5 回译篇\n    - 2.5.1 什么是回译法？\n  - 2.6 交叉增强篇\n    - 2.6.1 什么是 交叉增强篇\n  - 2.7 语法树篇\n    - 2.7.1 什么是语法树操作？\n  - 2.8 对抗增强篇\n    - 2.8.1 什么是对抗增强？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_e043c3q53sbc.html)\n\n#### 5.1.2 [主动学习 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_6sj7him8b4p1.html)\n  - 一、动机篇\n    - 1.1 主动学习是什么？\n    - 1.2 为什么需要主动学习？\n  - 二、主动学习篇\n    - 2.1 主动学习的思路是什么？\n    - 2.2 主动学习方法 的价值点在哪里？\n  - 三、样本选取策略篇\n    - 3.1 以未标记样本的获取方式的差别进行划分\n    - 3.2 测试集内选取“信息”量最大的数据标记\n      - 3.2.1 测试集内选取“信息”量最大的数据标记\n      - 3.2.2 依赖不确定度的样本选取策略（Uncertainty Sampling, US）\n      - 3.2.3 基于委员会查询的方法（Query-By-Committee，QBC）\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_6sj7him8b4p1.html)\n\n#### 5.1.3 [数据增强 之 对抗训练 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_n5ugs6lig5td.html)\n\n- 一、介绍篇\n  - 1.1 什么是 对抗训练 ？\n  - 1.2 为什么 对抗训练 能够 提高模型效果？\n  - 1.3  对抗训练 有什么特点？\n  - 1.4 对抗训练 的作用?\n- 二、概念篇\n  - 2.1 对抗训练的基本概念?\n  - 2.2 如何计算扰动?\n  - 2.3 如何优化?\n- 三、实战篇\n  - 3.1 NLP 中经典对抗训练 之  Fast Gradient Method（FGM）\n  - 3.2 NLP 中经典对抗训练 之  Projected Gradient Descent（PGD）\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_n5ugs6lig5td.html)\n\n### 5.2 [“脏数据”处理  面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_o903pl26wtgu.html)\n\n- 一、动机\n  - 1.1 何为“脏数据”？\n  - 1.2 “脏数据” 会带来什么后果？\n- 二、“脏数据” 处理篇\n  - 2.1 “脏数据” 怎么处理呢？\n  - 2.2 置信学习方法篇\n    - 2.2.1 什么是 置信学习方法？\n    - 2.2.2 置信学习方法 优点？\n    - 2.2.3 置信学习方法 怎么做？\n    - 2.2.4 置信学习方法 怎么用？有什么开源框架？\n    - 2.2.5 置信学习方法 的工作原理？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_o903pl26wtgu.html)\n\n### 5.3 [batch_size设置 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_64423hvlqv6w.html)\n\n- 一、训练模型时，batch_size的设置，学习率的设置?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_64423hvlqv6w.html)\n\n### 5.4 [早停法 EarlyStopping 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_u31j73pqq773.html)\n\n- 一、 为什么要用 早停法 EarlyStopping？\n- 二、 早停法 EarlyStopping 是什么？\n- 三、早停法 torch 版本怎么实现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_u31j73pqq773.html)\n\n### 5.5 [标签平滑法 LabelSmoothing 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_87tkbsbcwk1d.html)\n\n- 一、为什么要有 标签平滑法 LabelSmoothing？\n- 二、 标签平滑法 是什么？\n- 三、 标签平滑法 torch 怎么复现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_87tkbsbcwk1d.html)\n\n### 5.6 Bert Trick 面试篇\n\n#### 5.6.1 [Bert 未登录词处理 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_3gbrn1bn19am.html)\n\n- 什么是 Bert 未登录词？\n- Bert 未登录词 如何处理？\n-  Bert 未登录词各种处理方法 有哪些优缺点？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_3gbrn1bn19am.html)\n\n#### 5.6.2 [BERT在输入层引入额外特征 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_gd208jzrpafg.html)\n\n- BERT在输入层如何引入额外特征？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_gd208jzrpafg.html)\n\n#### 5.6.3 [关于BERT 继续预训练 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_03lsi10e8iim.html)\n\n- 什么是 继续预训练？\n- 为什么会存在 【数据分布\u002F领域差异】大 问题？\n- 如何进行 继续预训练？\n- 还有哪些待解决问题？\n- 训练数据问题解决方案？\n- 知识缺乏问题解决方案？\n- 知识理解缺乏问题解决方案？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_03lsi10e8iim.html)\n\n#### 5.6.4 [BERT如何处理篇章级长文本 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_e5aaclwgbwue.html)\n\n- 为什么 Bert 不能 处理 长文本？\n- BERT 有哪些处理篇章级长文本?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_e5aaclwgbwue.html)\n\n## 六、 Prompt Tuning 面试篇\n\n### 6.1 [Prompt 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_0dwe6olrn4uw.html)\n\n1. 什么是prompt？\n2. 如何设计prompt？\n3. prompt进阶——如何自动学习prompt？\n4. Prompt 有哪些关键要点？\n5. Prompt 如何实现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_0dwe6olrn4uw.html)\n\n### 6.2 [Prompt 文本生成 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_po1gopdolinx.html)\n\n1. Prompt之文本生成评估手段有哪些？\n2. Prompt文本生成具体任务有哪些？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_po1gopdolinx.html)\n\n### 6.3 [LoRA 面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_da8pumsjwbqw.html)\n\n1. 什么是lora？\n2. lora 是 怎么做的呢？\n3. lora 为什么可以这样做？\n4. 用一句话描述 lora？\n5. lora 优点是什么？\n6. lora 缺点是什么？\n7.  lora 如何实现？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_da8pumsjwbqw.html)\n\n### 6.4 [PEFT（State-of-the-art Parameter-Efficient Fine-Tuning）面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_2r4w85eov81e.html)\n\n- 一、微调 Fine-tuning 篇\n  - 1.1 什么是 微调 Fine-tuning ？\n  - 1.2 微调 Fine-tuning 基本思想是什么？\n- 二、轻度微调（lightweight Fine-tuning）篇\n  - 2.1 什么是 轻度微调（lightweight Fine-tuning）？\n- 三、适配器微调（Adapter-tuning）篇\n  - 3.1 什么 是 适配器微调（Adapter-tuning）？\n  - 3.2 适配器微调（Adapter-tuning）变体有哪些？\n- 四、提示学习（Prompting）篇\n  - 4.1 什么是 提示学习（Prompting）？\n  - 4.2 提示学习（Prompting）的目的是什么？\n  - 4.3 提示学习（Prompting） 代表方法有哪些？\n    - 4.3.1 前缀微调（Prefix-tining）篇\n      - 4.3.1.1 什么是 前缀微调（Prefix-tining）？\n      - 4.3.1.2 前缀微调（Prefix-tining）的核心是什么？\n      - 4.3.1.3 前缀微调（Prefix-tining）的技术细节有哪些？\n      - 4.3.1.4 前缀微调（Prefix-tining）的优点是什么？\n      - 4.3.1.5 前缀微调（Prefix-tining）的缺点是什么？\n    - 4.3.2 指示微调（Prompt-tuning）篇\n      - 4.3.2.1 什么是 指示微调（Prompt-tuning）？\n      - 4.3.2.2 指示微调（Prompt-tuning）的核心思想？\n      - 4.3.2.3 指示微调（Prompt-tuning）的 优点\u002F贡献 是什么？\n      - 4.3.2.4 指示微调（Prompt-tuning）的 缺点 是什么？\n      - 4.3.2.5 指示微调（Prompt-tuning）与 Prefix-tuning 区别 是什么？\n      - 4.3.2.6 指示微调（Prompt-tuning）与 fine-tuning 区别 是什么？\n    - 4.3.3 P-tuning 篇\n      - 4.3.3.1 P-tuning 动机是什么？\n      - 4.3.3.2 P-tuning 核心思想是什么？\n      - 4.3.3.3 P-tuning 做了哪些改进？\n      - 4.3.3.4 P-tuning 有哪些优点\u002F贡献？\n      - 4.3.3.5 P-tuning 有哪些缺点？\n    - 4.3.4 P-tuning v2 篇\n      - 4.3.4.1 为什么需要 P-tuning v2？\n      - 4.3.4.2 P-tuning v2 是什么？\n      - 4.3.4.3 P-tuning v2 有哪些优点？\n      - 4.3.4.4 P-tuning v2 有哪些缺点？\n    - 4.3.5 PPT 篇\n      - 4.3.5.1 为什么需要 PPT ？\n      - 4.3.5.2 PPT 核心思想 是什么？\n      - 4.3.5.3 PPT 具体做法是怎么样？\n      - 4.3.5.4 常用的soft prompt初始化方法？\n      - 4.3.5.5 PPT 的优点是什么？\n      - 4.3.5.6 PPT 的缺点是什么？\n  - 4.4 提示学习（Prompting） 优点 是什么？\n  - 4.5 提示学习（Prompting） 本质 是什么？\n- 五、指令微调（Instruct-tuning）篇\n  - 5.1 为什么需要 指令微调（Instruct-tuning）？\n  - 5.2 指令微调（Instruct-tuning）是什么？\n  - 5.3 指令微调（Instruct-tuning）的优点是什么？\n  - 5.4 指令微调（Instruct-tuning） vs 提升学习（Prompting）？\n  - 5.5 指令微调（Instruct-tuning） vs 提升学习（Prompting） vs Fine-tuning？\n- 六、指令提示微调（Instruct Prompt tuning）篇\n  - 6.1 为什么需要 指令微调（Instruct-tuning）？\n  - 6.2 指令微调（Instruct-tuning） 是什么？\n  - 6.3 指令微调（Instruct-tuning） 在不同任务上性能？\n- 七、self-instruct篇\n  - 7.1 什么是 self-instruct？\n- 八、Chain-of-Thought 篇\n  - 8.1 为什么需要 Chain-of-Thought ？\n  - 8.2 什么是 Chain-of-Thought ？\n  - 8.3 Chain-of-Thought 的思路是怎么样的？\n  - 8.4 Chain-of-Thought 的优点是什么？\n  - 8.5 为什么 chain-of-thought 会成功？\n- 九、LoRA 篇\n  - 9.1 LoRA 篇\n    - 9.1.1 LoRA 核心思想是什么？\n    - 9.1.2 LoRA 具体思路是什么？\n    - 9.1.3 LoRA 优点是什么？\n    - 9.1.4 LoRA 缺点是什么？\n  - 9.2 AdaLoRA 篇\n    - 9.2.1 AdaLoRA 核心思想是什么？\n    - 9.2.2 AdaLoRA 实现思路是什么？\n  - 9.3  DyLoRA 篇\n    - 9.3.1 AdaLoRA 动机是什么？\n    - 9.3.2 AdaLoRA 核心思想是什么？\n    - 9.3.3 AdaLoRA 优点是什么？\n- 十、BitFit 篇\n  - 10.1 AdaLoRA 核心思想是什么？\n  - 10.2 AdaLoRA 优点是什么？\n  - 10.3 AdaLoRA 缺点是什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_2r4w85eov81e.html)\n\n## 七、LLMs 面试篇\n\n### 7.1 [【现在达模型LLM，微调方式有哪些？各有什么优缺点？](https:\u002F\u002Farticles.zsxq.com\u002Fid_i6uv0mtg4mah.html)\n\n- 现在达模型LLM，微调方式有哪些？各有什么优缺点？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_i6uv0mtg4mah.html)\n\n### 7.2  [GLM：ChatGLM的基座模型 常见面试题](https:\u002F\u002Farticles.zsxq.com\u002Fid_bwx8btw6h2p1.html)\n\n- GLM 的 核心是什么？\n- GLM 的 模型架构是什么？\n- GLM 如何进行 多任务训练？\n- 在进行 NLG 时， GLM 如何保证 生成长度的未知性？\n- GLM 的 多任务微调方式有什么差异？\n- GLM 的 多任务微调方式有什么优点？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_bwx8btw6h2p1.html)\n\n## 一、基础算法 常见面试篇\n\n- [过拟合和欠拟合 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_0xjh0m6e44br.html)\n  - 一、过拟合和欠拟合 是什么？\n  - 二、过拟合\u002F高方差（overfiting \u002F high variance）篇\n    - 2.1 过拟合是什么及检验方法？\n    - 2.2 导致过拟合的原因是什么？\n    - 2.3 过拟合的解决方法是什么？\n  - 三、欠拟合\u002F高偏差（underfiting \u002F high bias）篇\n    - 3.1 欠拟合是什么及检验方法？\n    - 3.2 导致欠拟合的原因是什么？\n    - 3.3 欠拟合的解决方法是什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_0xjh0m6e44br.html)\n\n- [BatchNorm vs LayerNorm 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_wbep87ht600b.html)\n  - 一、动机篇\n    - 1.1 独立同分布（independent and identically distributed）与白化\n    - 1.2 （ Internal Covariate Shift，ICS）\n    - 1.3 ICS问题带来的后果是什么？\n  - 二、Normalization 篇\n    - 2.1 Normalization 的通用框架与基本思想\n  - 三、Batch Normalization 篇\n    - 3.1 Batch Normalization（纵向规范化）是什么？\n    - 3.2 Batch Normalization（纵向规范化）存在什么问题？\n    - 3.3 Batch Normalization（纵向规范化）适用的场景是什么？\n    - 3.4 BatchNorm 存在什么问题？\n  - 四、Layer Normalization（横向规范化） 篇\n    - 4.1 Layer Normalization（横向规范化）是什么？\n    - 4.2 Layer Normalization（横向规范化）有什么用？\n  - 五、BN vs LN 篇\n  - 六、主流 Normalization 方法为什么有效？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_wbep87ht600b.html)\n\n- [激活函数 常见面试篇](BasicAlgorithm\u002F激活函数.md)\n  - 一、动机篇\n    - 1.1 为什么要有激活函数？\n  - 二、激活函数介绍篇\n    - 2.1 sigmoid 函数篇\n      - 2.1.1 什么是 sigmoid 函数？\n      - 2.1.2 为什么选 sigmoid 函数 作为激活函数？\n      - 2.1.3 sigmoid 函数 有什么缺点？\n    - 2.2 tanh 函数篇\n      - 2.2.1 什么是 tanh 函数？\n      - 2.2.2 为什么选 tanh 函数 作为激活函数？\n      - 2.2.3 tanh 函数 有什么缺点？\n    - 2.3 relu 函数篇\n      - 2.3.1 什么是 relu 函数？\n      - 2.3.2 为什么选 relu 函数 作为激活函数？\n      - 2.3.3 relu 函数 有什么缺点？\n  - 三、激活函数选择篇\n\n\n- [正则化常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_g6mir08c0s8d.html)\n  - 一、L0，L1，L2正则化 篇\n    - 1.1 正则化 是什么？\n    - 1.2 什么是 L0 正则化 ？\n    - 1.3 什么是 L1 （稀疏规则算子 Lasso regularization）正则化 ？\n    - 1.4 什么是 L2 正则化（岭回归 Ridge Regression 或者 权重衰减 Weight Decay）正则化 ？\n  - 二、对比篇\n    - 2.1 什么是结构风险最小化？\n    - 2.2 从结构风险最小化的角度理解L1和L2正则化\n    - 2.3 L1 vs L2\n  - 三、dropout 篇\n    - 3.1 什么是 dropout？\n    - 3.2 dropout 在训练和测试过程中如何操作？\n    - 3.3 dropout 如何防止过拟合?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_g6mir08c0s8d.html)\n\n- [优化算法及函数 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_hqd9p17b6afk.html)\n  - 一、动机篇\n    - 1.1 为什么需要 优化函数？\n    - 1.2 优化函数的基本框架是什么?\n  - 二、优化函数介绍篇\n    - 2.1 梯度下降法是什么?\n    - 2.2 随机梯度下降法是什么?\n    - 2.3 Momentum 是什么?\n    - 2.4 SGD with Nesterov Acceleration 是什么?\n    - 2.5 Adagrad 是什么?\n    - 2.6 RMSProp\u002FAdaDelta 是什么？\n    - 2.7 Adam 是什么?\n    - 2.8 Nadam 是什么?\n  - 三、优化函数学霸笔记篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_hqd9p17b6afk.html)\n\n- [归一化 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_8iemf392t53n.html)\n  - 一、动机篇\n    - 1.1 为什么要归一化？\n  - 二、介绍篇\n    - 2.1  归一化 有 哪些方法？\n    - 2.2  归一化 各方法 特点？\n    - 2.3  归一化 的 意义？\n  - 三、应用篇\n    - 3.1 哪些机器学习算法 需要做 归一化？\n    - 3.2 哪些机器学习算法 不需要做 归一化？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_8iemf392t53n.html)\n\n- [判别式（discriminative）模型 vs. 生成式(generative)模型 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_siv7mtg3573r.html)\n  - 一、判别式模型篇\n    - 1.1 什么是判别式模型？\n    - 1.2 判别式模型是思路是什么？\n    - 1.3 判别式模型的优点是什么？\n  - 二、生成式模型篇\n    - 2.1 什么是生成式模型？\n    - 2.2 生成式模型是思路是什么？\n    - 2.3 生成式模型的优点是什么？\n    - 2.4 生成式模型的缺点是什么？\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_siv7mtg3573r.html)\n\n## 二、机器学习算法篇 常见面试篇\n\n- [逻辑回归 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_98g8ef7zir1q.html)\n  - 一、介绍篇\n    - 1.1什么是逻辑回归\n    - 1.2逻辑回归的优势\n  - 二、推导篇\n    - 2.1逻辑回归推导\n    - 2.2求解优化\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_98g8ef7zir1q.html)\n\n- [支持向量机 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_nqeiewjxovjq.html)\n  - 一、原理篇\n    - 1.1 什么是SVM？\n      - Q.A\n    - 1.2 SVM怎么发展的？\n    - 1.3 SVM存在什么问题？\n      - Q.A\n  - 二、算法篇\n    - 2.1 什么是块算法？\n    - 2.2 什么是分解算法？\n    - 2.3 什么是序列最小优化算法？\n    - 2.4 什么是增量算法？\n      - Q.A\n  - 三、其他SVM篇\n    - 3.1 什么是最小二次支持向量机？\n    - 3.2 什么是模糊支持向量机？\n    - 3.3 什么是粒度支持向量机？\n    - 3.4 什么是多类训练算法？\n    - 3.5 什么是孪生支持向量机？\n    - 3.6 什么是排序支持向量机？\n      - Q.A\n  - 四、应用篇\n    - 4.1 模式识别\n    - 4.2 网页分类\n    - 4.3 系统建模与系统辨识\n    - 4.4 其他\n  - 五、对比篇\n  - 六、拓展篇\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_nqeiewjxovjq.html)\n\n- [集成学习 常见面试篇](https:\u002F\u002Farticles.zsxq.com\u002Fid_iqq9rzq9ctcd.html)\n  - 一、动机\n  - 二、集成学习介绍篇\n    - 2.1 介绍篇\n      - 2.1.1 集成学习的基本思想是什么？\n      - 2.1.2 集成学习为什么有效？\n  - 三、 Boosting 篇\n    - 3.1 用一句话概括 Boosting？\n    - 3.2 Boosting 的特点是什么？\n    - 3.3 Boosting 的基本思想是什么？\n    - 3.4 Boosting 的特点是什么？\n    - 3.5 GBDT 是什么？\n    - 3.6 Xgboost 是什么？\n  - 四、Bagging 篇\n    - 4.1 用一句话概括 Bagging？\n    - 4.2 Bagging 的特点是什么？\n    - 4.3 Bagging 的基本思想是什么？\n    - 4.4 Bagging 的基分类器如何选择？\n    - 4.5 Bagging 的优点 是什么？\n    - 4.6 Bagging 的特点是什么？\n    - 4.7 随机森林 是什么？\n  - 五、 Stacking 篇\n    - 5.1 用一句话概括 Stacking ？\n    - 5.2 Stacking 的特点是什么？\n    - 5.3 Stacking 的基本思路是什么？\n  - 六、常见问题篇\n    - 6.1 为什么使用决策树作为基学习器？\n    - 6.2 为什么不稳定的学习器更适合作为基学习器？\n    - 6.3 哪些模型适合作为基学习器？\n    - 6.4 Bagging 方法中能使用线性分类器作为基学习器吗？ Boosting 呢？\n    - 6.5 Boosting\u002FBagging 与 偏差\u002F方差 的关系？\n  - 七、对比篇\n    - 7.1 LR vs GBDT?\n\n> [点击查看答案](https:\u002F\u002Farticles.zsxq.com\u002Fid_iqq9rzq9ctcd.html)\n\n## 九、[【关于 Python 】那些你不知道的事](python\u002F)\n\n- [【关于 Python 】那些你不知道的事](python\u002F)\n  - 一、什么是*args 和 **kwargs？\n    - 1.1 为什么会有 *args 和 **kwargs？\n    - 1.2 *args 和 **kwargs 的用途是什么？\n    - 1.3 *args 是什么？\n    - 1.4 **kwargs是什么？\n    - 1.5 *args 与 **kwargs 的区别是什么？\n  - 二、什么是装饰器？\n    - 2.1 装饰器是什么？\n    - 2.2 装饰器怎么用？\n  - 三、Python垃圾回收（GC）\n    - 3.1 垃圾回收算法有哪些？\n    - 3.2 引用计数（主要）是什么？\n    - 3.3 标记-清除是什么？\n    - 3.4 分代回收是什么？\n  - 四、python的sorted函数对字典按key排序和按value排序\n    - 4.1 python 的sorted函数是什么？\n    - 4.2 python 的sorted函数举例说明？\n  - 五、直接赋值、浅拷贝和深度拷贝\n    - 5.1 概念介绍\n    - 5.2 介绍\n    - 5.3 变量定义流程\n    - 5.3 赋值\n    - 5.4 浅拷贝\n    - 5.5  深度拷贝\n    - 5.6 核心：不可变对象类型 and 可变对象类型\n      - 5.6.1 不可变对象类型\n      - 5.6.2 可变对象类型\n  - 六、进程、线程、协程\n    - 6.1 进程\n      - 6.1.1 什么是进程？\n      - 6.1.2 进程间如何通信？\n    - 6.2 线程\n      - 6.2.1 什么是线程？\n      - 6.2.2 线程间如何通信？\n    - 6.3 进程 vs 线程\n      - 6.3.1 区别\n      - 6.3.2 应用场景\n    - 6.4 协程\n      - 6.4.1 什么是协程？\n      - 6.4.2 协程的优点？\n  - 七、全局解释器锁\n    - 7.1 什么是全局解释器锁？\n    - 7.2 GIL有什么作用？\n    - 7.3 GIL有什么影响？\n    - 7.4 如何避免GIL带来的影响？\n  \n## 十、[【关于 Tensorflow 】那些你不知道的事](Tensorflow\u002F)\n\n- [【关于 Tensorflow 损失函数】 那些你不知道的事](Tensorflow\u002Floss_study\u002F)\n  - 一、动机\n  - 二、什么是损失函数？\n  - 三、目标函数、损失函数、代价函数之间的关系与区别？\n  - 四、损失函数的类别\n    - 4.1 回归模型的损失函数\n      - （1）L1正则损失函数（即绝对值损失函数）\n      - （2）L2正则损失函数（即欧拉损失函数）\n      - （3）均方误差（MSE, mean squared error）\n      - （4）Pseudo-Huber 损失函数\n    - 4.2 分类模型的损失函数\n      - （1）Hinge损失函数\n      - （2）两类交叉熵（Cross-entropy）损失函数\n      - （3）Sigmoid交叉熵损失函数\n      - （4）加权交叉熵损失函数\n      - （5）Softmax交叉熵损失函数\n      - (6) SparseCategoricalCrossentropy vs sparse_categorical_crossentropy\n  - 五、总结","# NLP-Interview-Notes 快速上手指南\n\n`NLP-Interview-Notes`（NLP 面无不过）并非一个需要安装运行的软件库或框架，而是一个**自然语言处理（NLP）面试知识点与学习资料汇总项目**。它主要以文档、思维导图和文章链接的形式存在，旨在帮助开发者系统性地复习 NLP 算法、模型及面试技巧。\n\n因此，本指南将指导你如何获取、浏览及使用这份资料库。\n\n## 环境准备\n\n本项目无需特定的操作系统或复杂的依赖环境，只需具备以下条件即可：\n\n*   **操作系统**：Windows \u002F macOS \u002F Linux 均可。\n*   **核心工具**：\n    *   **Git**：用于克隆代码仓库（可选，也可直接下载 ZIP）。\n    *   **Markdown 阅读器**：推荐使用 VS Code、Typora 或 GitHub 在线预览功能查看 `.md` 文件。\n    *   **浏览器**：用于访问项目中指向的外部详细解析文章（主要为知识星球\u002F腾讯文档链接）。\n*   **前置知识**：具备基础的 Python 编程能力及机器学习\u002F深度学习概念。\n\n## 安装步骤（获取资料）\n\n你可以通过以下两种方式获取该学习资料：\n\n### 方式一：使用 Git 克隆（推荐）\n\n打开终端（Terminal 或 CMD），执行以下命令：\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Flouislva\u002FNLP-Interview-Notes.git\n```\n\n> **国内加速提示**：如果直接克隆速度较慢，可使用国内镜像源（如 Gitee 镜像，若有）或配置 git 代理。若无法使用 git，请直接采用方式二。\n\n### 方式二：直接下载压缩包\n\n1.  访问项目 GitHub 主页：`https:\u002F\u002Fgithub.com\u002Flouislva\u002FNLP-Interview-Notes`\n2.  点击绿色的 **Code** 按钮。\n3.  选择 **Download ZIP**。\n4.  下载完成后解压到本地任意目录。\n\n## 基本使用\n\n由于该项目是资料合集，\"使用\"即意味着**阅读与检索**。以下是最高效的使用路径：\n\n### 1. 本地浏览目录结构\n\n进入项目根目录，你会看到按模块分类的文件夹和 Markdown 文件。核心内容主要集中在 `NLPinterview` 文件夹或直接列出的 `.md` 文件中。\n\n主要涵盖板块：\n*   **信息抽取**：命名实体识别 (NER)、关系抽取、事件抽取。\n*   **预训练算法**：TF-IDF, Word2Vec, FastText, ELMo, BERT 及其变体。\n*   **经典任务**：文本分类、文本相似度、机器阅读理解等。\n*   **进阶技巧**：模型压缩、中文 NER 特有问题、Trick 总结。\n\n### 2. 快速开始复习（示例）\n\n假设你想复习 **BERT** 相关的面试题：\n\n**步骤 1：定位文件**\n在本地文件管理器或终端中找到名为 `Bert 常见面试篇.md` 的文件（通常位于根目录或 `NLPinterview\u002FBert\u002F` 下）。\n\n**步骤 2：阅读大纲**\n用 Markdown 编辑器打开该文件，你将看到类似以下的结构化问题列表：\n\n```markdown\n## 二、Bert 篇\n- 2.1 Bert 介绍篇\n  - 2.1.1【BERT】Bert 是什么？\n  - 2.1.2【BERT】Bert 三个关键点？\n- 2.3【BERT】Bert 预训练篇\n  - 2.3.2【BERT】Bert 预训练任务 之 Masked LM 篇\n...\n```\n\n**步骤 3：查看详细解析**\n文件中包含指向详细答案的链接（通常为 `articles.zsxq.com` 开头的链接）。\n*   **操作方法**：按住 `Ctrl` (或 Mac 上的 `Cmd`) 并点击链接，浏览器将自动跳转到对应的详细图文解析页面。\n*   **注意**：部分深度解析文章可能位于知识星球等社区，若链接需要权限，请优先阅读本地 Markdown 文件中已概括的核心知识点，或根据文件名在搜索引擎中查找公开的技术博客解读。\n\n### 3. 针对性搜索\n\n如果你需要准备特定主题的面试（例如“中文命名实体识别”）：\n\n*   **VS Code \u002F IDE 用户**：在项目文件夹中按下 `Ctrl + Shift + F`，输入关键词 `中文 NER` 或 `词汇增强`，可快速定位到 `中文领域 NER 常见面试篇.md` 及相关章节。\n*   **命令行用户**：\n    ```bash\n    grep -r \"词汇增强\" .\n    ```\n\n通过以上方式，你可以将该仓库作为一本随时查阅的\"NLP 面试百科全书”，根据自身薄弱环节进行模块化学习。","某位准备跳槽的 NLP 算法工程师正在紧急备战大厂面试，面对海量且分散的自然语言处理理论知识感到无从下手。\n\n### 没有 NLP-Interview-Notes 时\n- **知识碎片化严重**：需要在知乎、博客和论文中四处搜索 HMM、MEMM 到 CRF 的演进逻辑，难以构建完整的知识体系。\n- **深度理解不足**：对于“为什么 DNN 后必须接 CRF\"或“中文 NER 词汇增强原理”等深层问题，只能找到零散结论，缺乏系统性的推导过程。\n- **实战技巧缺失**：面对“标注数据噪声”、“实体嵌套”或“长尾分布”等实际工程难题，缺乏具体的 Trick 总结和解决方案参考。\n- **复习效率低下**：大量时间浪费在筛选低质量面经上，无法精准覆盖命名实体识别（NER）等核心高频考点。\n\n### 使用 NLP-Interview-Notes 后\n- **体系化知识梳理**：直接利用仓库中从概率图模型到深度学习 NER 的结构化笔记，快速理清算法演进脉络，建立清晰的知识框架。\n- **深度原理掌握**：通过针对性的问答解析，透彻理解 BiLSTM-CRF 结构优势及 FLAT、Lattice LSTM 等模型的优缺点，从容应对原理深挖。\n- **工程经验加持**：直接参考总结好的 12+ 个 NER 实战 Trick（如领域词典匹配、动态架构设计），将理论转化为解决具体问题的能力的谈资。\n- **精准高效备考**：聚焦信息抽取领域的常见面试题，跳过无效信息，用最短时间覆盖最高频考点，显著提升面试通过率。\n\nNLP-Interview-Notes 将分散的面试经验转化为系统化的实战指南，帮助求职者从“盲目刷题”转向“精准突破”，极大提升了备战效率与信心。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fkm1994_NLP-Interview-Notes_55997e6d.png","km1994","杨夕","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fkm1994_2be0e4c3.jpg","公众号《关于NLP那些你不知道的事》","某某螺丝钉加工厂",null,"https:\u002F\u002Fgithub.com\u002Fkm1994",2583,499,"2026-04-13T08:39:35",1,"","未说明",{"notes":86,"python":84,"dependencies":87},"本项目为自然语言处理（NLP）面试学习笔记与资料汇总，主要包含面试题、算法原理介绍及外部文章链接（如知识星球），并非可执行的代码库或模型工具，因此无具体的运行环境、依赖库或硬件需求。",[],[35,89,90,15],"视频","音频",[92,93,94,95,96],"bert","transformer","nlp","ner","deel-learning","2026-03-27T02:49:30.150509","2026-04-14T12:35:37.420902",[100,105,110,115,120,125,130],{"id":101,"question_zh":102,"answer_zh":103,"source_url":104},32683,"为什么 GitHub 网页上无法显示 LaTeX 数学公式和图片？","GitHub 网页原生不支持直接渲染复杂的 LaTeX 公式。建议将仓库克隆（clone）到本地，然后使用 VS Code 编辑器打开 README 文件查看，或者在浏览器中安装支持 MathJax\u002FKaTeX 的插件（如 GitHub with MathJax）来正常显示公式和图片。","https:\u002F\u002Fgithub.com\u002Fkm1994\u002FNLP-Interview-Notes\u002Fissues\u002F2",{"id":106,"question_zh":107,"answer_zh":108,"source_url":109},32684,"文档中的某些链接点击后显示'Page Not Found'怎么办？","这通常是因为项目目录结构发生过调整，导致主页上的旧链接失效。解决方法是不要直接点击主页链接，而是通过左侧的文件目录树手动导航进入对应的文件夹查找文件。","https:\u002F\u002Fgithub.com\u002Fkm1994\u002FNLP-Interview-Notes\u002Fissues\u002F12",{"id":111,"question_zh":112,"answer_zh":113,"source_url":114},32685,"如何在本地获得最佳的文档阅读体验（包含公式和图片）？","推荐先将仓库 clone 到本地，然后使用 VS Code 编辑器打开项目进行阅读。作者最初是使用 VS Code 编写和预览这些内容的，因此本地查看能确保公式渲染和图片加载正常。","https:\u002F\u002Fgithub.com\u002Fkm1994\u002FNLP-Interview-Notes\u002Fissues\u002F6",{"id":116,"question_zh":117,"answer_zh":118,"source_url":119},32686,"关于 BatchNorm 与 LayerNorm 对比部分的公式是否有误？","是的，之前版本中梯度计算的公式存在错误。梯度计算应对变量求偏导，该问题已被确认并修复，请以最新代码库中的公式为准。","https:\u002F\u002Fgithub.com\u002Fkm1994\u002FNLP-Interview-Notes\u002Fissues\u002F9",{"id":121,"question_zh":122,"answer_zh":123,"source_url":124},32687,"小标题中关于'过拟合'的描述是否应为'欠拟合'？","是的，这是一个笔误。原内容讨论的是欠拟合的解决方法，但标题错误地写成了过拟合。该错误已被修正，标题现已更新为“欠拟合的解决方法”。","https:\u002F\u002Fgithub.com\u002Fkm1994\u002FNLP-Interview-Notes\u002Fissues\u002F3",{"id":126,"question_zh":127,"answer_zh":128,"source_url":129},32688,"文中提到 BN 效果不理想时，'Batch size 很小的适合'是否由错别字？","是的，此处为错别字，应将“适合”改为“时候”。即：“当 Batch size 很小的时候，BN 的效果就非常不理想了”。该处文本错误已确认并修正。","https:\u002F\u002Fgithub.com\u002Fkm1994\u002FNLP-Interview-Notes\u002Fissues\u002F4",{"id":131,"question_zh":132,"answer_zh":133,"source_url":134},32689,"这个项目有英文翻译版本吗？","目前暂无官方英文翻译版本。作者表示英语水平有限（\"my English is pool\"），因此仓库主要维护中文内容，暂未提供英文版。","https:\u002F\u002Fgithub.com\u002Fkm1994\u002FNLP-Interview-Notes\u002Fissues\u002F7",[]]