[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-KeKe-Li--tutorial":3,"tool-KeKe-Li--tutorial":64},[4,17,27,35,43,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",140436,2,"2026-04-05T23:32:43",[13,15,26],"语言模型",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":23,"last_commit_at":33,"category_tags":34,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,"2026-04-03T11:11:01",[13,14,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":23,"last_commit_at":41,"category_tags":42,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,26],{"id":44,"name":45,"github_repo":46,"description_zh":47,"stars":48,"difficulty_score":23,"last_commit_at":49,"category_tags":50,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,51,52,53,15,54,26,13,55],"数据工具","视频","插件","其他","音频",{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":10,"last_commit_at":62,"category_tags":63,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,26,54],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":80,"owner_twitter":81,"owner_website":82,"owner_url":83,"languages":81,"stars":84,"forks":85,"last_commit_at":86,"license":87,"difficulty_score":88,"env_os":89,"env_gpu":90,"env_ram":90,"env_deps":91,"category_tags":94,"github_topics":95,"view_count":23,"oss_zip_url":81,"oss_zip_packed_at":81,"status":16,"created_at":100,"updated_at":101,"faqs":102,"releases":103},2163,"KeKe-Li\u002Ftutorial","tutorial","Deeplearning Algorithms Tutorial","tutorial 是一个专注于深度学习与机器学习算法的开源学习教程项目。它旨在解决 AI 领域知识体系庞杂、跨学科门槛高以及初学者难以系统入门的痛点。通过作者亲身实践总结的笔记，该项目将概率论、统计学等抽象理论与实际应用紧密结合，为学习者提供了一条清晰的技术成长路径。\n\n内容涵盖从基础环境搭建、核心概念解析（如监督\u002F非监督学习、训练集与测试集划分）到具体算法实现的完整框架。不仅详细介绍了深度神经网络、BP 网络、CART 决策树、协同过滤等经典算法，还结合了 AlphaGo Zero 等前沿案例，深入探讨认知层算法的逻辑。此外，教程还梳理了机器学习在语音识别、自动驾驶、计算机视觉及推荐系统等领域的落地应用。\n\n非常适合希望转型或入门 AI 的开发者、计算机专业学生以及相关领域的研究人员使用。无论是想夯实理论基础，还是寻求算法实战参考，都能从中获得系统性的指导。作为一份由社区驱动的学习指南，tutorial 以通俗易懂的方式拆解复杂技术，帮助用户跨越从理论到实践的鸿沟，是探索人工智能世界的优质伴读资源。","### Deeplearning Algorithms tutorial\n\u003Cp align='left'>\n\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fbuild-passing-brightgreen.svg\">\n\u003Ca href=\"https:\u002F\u002Ftwitter.com\u002Fperfactsen\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Ftwitter-keke-green.svg?style=flat&colorA=009df2\">\u003C\u002Fa>\n\u003Ca href=\"https:\u002F\u002Fwww.zhihu.com\u002Fpeople\u002Fsencoed.com\u002Factivities\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F%E7%9F%A5%E4%B9%8E-keke-green.svg?style=flat&colorA=009df2\">\u003C\u002Fa>\n\u003C\u002Fp>\n\n最近以来一直在学习机器学习和算法，然后自己就在不断总结和写笔记，记录下自己的学习AI与算法历程。\n机器学习(Machine Learning, ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。\n\n\u003Cp align=\"center\">\n\u003Cimg width=\"100%\" align=\"center\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FKeKe-Li_tutorial_readme_bf74120d7565.png\" \u002F>\n\u003C\u002Fp>\n\n* 机器学习是计算机科学的一个子领域，在人工智能领域，机器学习逐渐发展成模式识别和计算科学理论的研究。\n* 机器学习：多领域交叉学科，涉及概率论统计学，逼近论，凸分析，算法复杂度理论等多门学科。\n* 机器学习的应用：语音识别，自动驾驶，语言翻译，计算机视觉，推荐系统，无人机，识别垃圾邮件，人脸识别，电商推荐系统。\n* 机器学习的基本概念：训练集，测试集，特征值，监督学习，非监督学习，分类，回归 \n\n目前国内在AI感知层面应用已经百花齐放，主要是无人驾驶、智能音箱、嵌入式。但在认知层面还是比较缺乏，所以新入行的AI应用团队可以放在认知层。如开头所述，认知层最重要的是算法，因此需要阅读Nature上最领先的算法公司DeepMind的几篇大作，如下：\n\n* 2016.01.Mastering the game of Go with deep neural networks and tree search\n* 2016.10.Hybrid computing using a neural network with dynamic external memory\n* 2017.10.Mastering the game of Go without human knowledge\n\n#### 机器学习步骤框架\n\n* 把数据拆分为训练集合测试集\n* 用训练集合训练集的特征向量来训练算法\n* 用学习来的算法运用在测试集上累评估算法(可能要设计到调整参数(parameter tuning) 用来验证集(validation set))\n\n#### 机器学习\n\n* 机器学习：机器学习是计算机科学的一个子领域，在人工智能领域，机器学习逐渐发展成模式识别和计算科学理论的研究。通俗的讲机器学习是一种能够赋予机器学习的能力，可以让它完成直接编程无法完成的功能的方法。但从实践的意义上来说，机器学习是一种通过利用数据，训练出模型，然后使用模型预测的一种方法。\n* 机器学习的应用：机器学习已广泛应用于数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信用卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏和机器人等领域。下面开启我们的机器学习！\n  \n * [机器学习环境的搭建](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FMachine%20Learning\u002FML.01.md)\n * [机器学习的入门](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FMachine%20Learning\u002FML.02.md)\n * [机器学习的框架](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FMachine%20Learning\u002FML.03.md)\n * [机器学习的应用案例]()\n\n#### 深度学习\n* 深度学习：深度学习是基于机器学习延伸出来的一个新的领域，由以人大脑结构为启发的神经网络算法为起源加之模型结构深度的增加发展，并伴随大数据和计算能力的提高而产生的一系列新的算法。\n* 深度学习的方向：被应用在图像处理与计算机视觉，自然语言处理以及语音识别等领域。 \n\n * [深度神经网络](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FNeural%20Network\u002FNNK.01.md)\n * [深度学习的入门](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FNeural%20Network\u002FNNK.02.md)\n * [深度学习环境的搭建](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FNeural%20Network\u002FNNK.03.md)\n * [深度学习的应用案例]()\n\n#### 机器学习算法概览\n\u003Cp align=\"center\">\n\u003Cimg width=\"100%\" align=\"center\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FKeKe-Li_tutorial_readme_cb1d1a1c7cfd.png\" \u002F>\n\u003C\u002Fp>\n\n从2016年起，机器学习有了新的突破和发展。但是，有效的机器学习是困难的，因为机器学习本身就是一个交叉学科，没有科学的方法及一定的积累很难入门。\n从2017年10月19日，Nature上发表了新一代AlphaGo版本AlphaGo Zero的技术论文。指出一种仅基于强化学习的算法，AlphaGo Zero不使用人类的数据、指导或规则以外的领域知识成了自己的老师。DeepMind代表了目前人工智能领域最强的技术，其核心是两个字：算法。\n很多人都想成为一个AI开发者，不仅是因为AI开发的薪资高，更主要是因为AI这几年的快速发展,但是因为AI本身的门槛就比较高,很多人可能就会比较徘徊，因而想把自己学习AI的过程写成本书,供大家参考和学习！\n\n * [BP神经网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBP\u002FBP.md)\n * [RBF算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRBF\u002FRBF.md)\n * [SOM神经网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FSOM\u002FSOM.md)\n * [ART神经网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FART\u002FART.md)\n * [贝叶斯网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.md)\n * [粗糙集](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRST\u002FRST.md)\n * [孤立点分析](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FOTR\u002FOTR.md)\n * [CART](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCART\u002FCART.md)\n * [EM](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FEM\u002FEM.md)\n * [FP—tree](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FFP\u002FFP.md)\n * [GSP序列](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FGSP\u002FGSP.md)\n * [协同过滤](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCF\u002FCF.md)\n * [BIRCH](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBIR\u002FBIR.md)\n * [Prefixspan](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FPN\u002FPN.md)\n * [PageRank](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FPRK\u002FPRK.md)\n * [AdaBoost](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FABT\u002FABT.md)\n * [CBA](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCBA\u002FCBA.md)\n * [KNN](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKNN\u002FKNN.md)\n * [Hopfield神经网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FHPD\u002FHPD.md)\n * [决策树](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.md)\n * [聚类分析](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCAS\u002FCAS.md)\n * [关联规则](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARS\u002FARS.md)\n * [支持向量机（SVM）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FSVM\u002FSVM.md)\n\n后面的算法和我们的算法模型，我会持续更新整理，后续的算法章节会不断的补上，希望可以对新入门学习AI开发和算法的开发者有所帮助！\n\n#### 算法模型\n * [回归算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.1.md)\n     * [线性回归](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.2.md)  \n     * [逻辑回归](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.3.md)  \n     * [多元自适应回归(MARS)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.4.md)  \n     * [本地散点平滑估计(LOESS)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.5.md)  \n * [基于实例的学习算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.1.md) \n     * [K-近邻算法（KNN）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.2.md)\n     * [学习矢量化（LVQ）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.3.md)\n     * [自组织映射算法（SOM）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.4.md)\n     * [局部加权学习算法（LWR）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.5.md)\n * [正则化算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.1.md)    \n     * [岭回归（Ridge Regression）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.2.md)\n     * [LASSO（Least Absolute Shrinkage and Selection Operator）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.3.md)\n     * [弹性网络(Elastic Net)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.4.md)\n     * [最小角回归(LARS)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.5.md)\n * [决策树算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.1.md)\n     * [分类和回归树（CART）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.2.md)\n     * [ID3算法(Iterative Dichotomiser 3)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.3.md)\n     * [CHAID（Chi-squared Automatic Interaction Detection)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.4.md)\n     * [随机森林（Random Forest）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.5.md)\n     * [多元自适应回归样条（MARS）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.6.md)\n     * [梯度推进机（Gradient Boosting Machine,GBM）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.7.md)\n * [贝叶斯算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.1.md)\n     * [朴素贝叶斯(Naive Bayes)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.2.md)\n     * [高斯朴素贝叶斯(Gaussian Naive Bayes)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.3.md)\n     * [多项式朴素贝叶斯(Multinomial Naive Bayes)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.4.md)\n     * [平均单依赖估计量（Averaged One-Dependence Estimators）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.5.md)\n     * [贝叶斯网络（Bayesian Belief Network）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.6.md)\n * [基于核的算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKBO\u002FKBO.0.1.md)   \n     * [支持向量机（SVM）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKBO\u002FKBO.0.2.md)\n     * [径向基函数（Radial Basis Function ，RBF)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKBO\u002FKBO.0.3.md)\n     * [线性判别分析（Linear Discriminate Analysis ，LDA)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKBO\u002FKBO.0.4.md)\n * [聚类算法(Cluster analysis)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.1.md)\n     * [K-均值(K-Means Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.2.md)\n     * [模糊c-均值聚类算法(Fuzzy C-means Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.3.md)\n     * [期望最大化(Expectation-Maximization)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.4.md)\n     * [聚类分析(Cluster Analysis)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.5.md)\n * [关联规则学习(Association Rule Learning)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARL\u002FARL.0.1.md)   \n     * [先验算法(Apriori Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARL\u002FARL.0.2.md) \n     * [Eclat算法(Eclat Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARL\u002FARL.0.3.md) \n     * [FP-growth算法(FP-Growth Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARL\u002FARL.0.4.md) \n * [人工神经网络(Artificial Neural Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.1.md)      \n     * [自动编码器(Autoencoder)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.2.md) \n     * [反向传播(Backpropagation)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.3.md) \n     * [递归神经网络(Recurrent Neural Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.4.md)) \n     * [多层感知器(Multilayer Perceptron)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.5.md) \n     * [玻尔兹曼机(Boltzmann Machine)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.6.md) \n     * [卷积神经网络(Convolutional Neural Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.7.md) \n     * [Hopfield网络(Hopfield Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.8.md) \n     * [径向基函数网络(Radial Basis Function Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.9.md) \n     * [受限玻尔兹曼机(Restricted Boltzmann Machine)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.10.md) \n     * [自组织映射(Self-Organizing Map)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.11.md) \n     * [脉冲神经网络(Spiking Neural Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.12.md) \n * [深度学习(Deep Learning)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.1.md) \n     * [深度信念网络(Deep Belief Machines)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.2.md) \n     * [深度卷积神经网络(Deep Convolutional Neural Networks)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.3.md) \n     * [深度递归神经网络(Deep Recurrent Neural Networks)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.4.md) \n     * [分层时间记忆(Hierarchical Temporal Memory)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.5.md) \n     * [堆叠自动编码器(Stacked AutoEncoder)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.6.md) \n     * [生成式对抗网络(Generative Adversarial Networks)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.7.md)\n * [降维算法(Dimensionality Reduction Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.1.md)\n     * [主成分分析法(Principal Component Analysis)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.2.md)\n     * [多维缩放(Mutiple Dimensional Scaling)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.3.md)\n     * [线性判别分析(Linear Discriminant Analysis)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.4.md)\n     * [等度量映射(IsometricMapping,Isomap)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.5.md)\n     * [局部线性嵌入(Locally Linear Embedding)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.6.md)\n     * [拉普拉斯特征映射(Laplacian Eigenmaps)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.7.md)\n     * [t－分布随机近邻嵌入(t-SNE)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.8.md)\n     * [深度自动编码器(Deep Autoencoder Networks)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.9.md)\n * [集成算法(Ensemble Learning)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FEL\u002FEL.0.1.md)\n      * [Boosting](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FEL\u002FEL.0.2.md)\n      * [Bagging](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FEL\u002FEL.0.3.md)\n      * [AdaBoost]()\n      * [堆叠泛化（混合）]()\n      * [GBM 算法]()\n      * [GBRT 算法]()\n      * [随机森林]()\n * [其他算法]()\n      * [特征选择算法]()\n      * [性能评估算法]()\n      * [自然语言处理]()\n      * [计算机视觉]()\n      * [推荐系统]()\n      * [强化学习]()\n      * [迁移学习]()\n\n算法模型的整体基本就是这样目录，后续的算法模型我会不断完善和补充，更新！\n\n#### 大模型LLM\n\n大型语言模型（LLM,Large Language Model）伴随着chatgpt的诞生，走进了我们的视野，GPT 3.0它不仅仅是一项具体的技术，其实体现的是LLM应该往何处去的一个发展理念。\n\n自此之后，差距拉得越来越远，ChatGPT只是这种发展理念差异的一个自然结果。\n\n那么什么是大语言模型呢， 我们深入探索和学习下。\n\n大型语言模型（LLM）是基于大量数据进行预训练的超大型深度学习模型。底层转换器是一组神经网络，这些神经网络由具有自注意力功能的编码器和解码器组成。编码器和解码器从一系列文本中提取含义，并理解其中的单词和短语之间的关系。\n\n转换器 LLM 能够进行无监督的训练，但更精确的解释是转换器可以执行自主学习。通过此过程，转换器可学会理解基本的语法、语言和知识。\n\n与早期按顺序处理输入的循环神经网络（RNN）不同，转换器并行处理整个序列。这可让数据科学家使用 GPU 训练基于转换器的 LLM，从而大幅度缩短训练时间。\n\n借助转换器神经网络架构，您可使用非常大规模的模型，其中通常具有数千亿个参数。这种大规模模型可以摄取通常来自互联网的大量数据，但也可以从包含 500 多亿个网页的 Common Crawl 和拥有约 5700 万个页面的 Wikipedia 等来源摄取数据。\n\n* [走进大语言模型LLM)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FLLM\u002Fllm.md)\n\n#### 机器学习的基础\n\n* 机器学习需要的理论基础：数学，线性代数，数理统计，概率论，高等数学、凸优化理论，形式逻辑等\n\n#### 参考书籍\n\n* [同济线性代数教材](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E5%90%8C%E6%B5%8E%E7%BA%BF%E6%80%A7%E4%BB%A3%E6%95%B0%E6%95%99%E6%9D%90.pdf)\n* [同济高等数学第六版上下册](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E5%90%8C%E6%B5%8E%E9%AB%98%E7%AD%89%E6%95%B0%E5%AD%A6%E7%AC%AC%E5%85%AD%E7%89%88%E4%B8%8A%E4%B8%8B%E5%86%8C.pdf)\n* [概率论与数理统计同济大学](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%A6%82%E7%8E%87%E8%AE%BA%E4%B8%8E%E6%95%B0%E7%90%86%E7%BB%9F%E8%AE%A1%E5%90%8C%E6%B5%8E%E5%A4%A7%E5%AD%A6.pdf)\n* [凸优化理论](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E5%87%B8%E4%BC%98%E5%8C%96%E7%90%86%E8%AE%BA.pdf)\n* [机器学习-周志华](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0.pdf)\n* [面向机器智能的TensorFlow实践](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E9%9D%A2%E5%90%91%E6%9C%BA%E5%99%A8%E6%99%BA%E8%83%BD%E7%9A%84TensorFlow%E5%AE%9E%E8%B7%B5%20(%E6%99%BA%E8%83%BD%E7%B3%BB%E7%BB%9F%E4%B8%8E%E6%8A%80%E6%9C%AF%E4%B8%9B%E4%B9%A6)_.pdf)\n* [机器学习](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0.pdf)\n* [数学之美](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%95%B0%E5%AD%A6%E4%B9%8B%E7%BE%8E.pdf)\n* [深度学习](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0Deep%20Learning.pdf)\n* [神经网络和深度学习](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%92%8C%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0.pdf)\n* [梯度下降](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%A2%AF%E5%BA%A6%E4%B8%8B%E9%99%8D.pdf)\n* [无监督神经元](https:\u002F\u002Fblog.openai.com\u002Funsupervised-sentiment-neuron\u002F)\n* [Tensorflow实践](https:\u002F\u002Ftensorflow.feisky.xyz\u002Finstall\u002Fcpu.html)\n* [Artificial Intelligence](https:\u002F\u002Fgithub.com\u002Fowainlewis\u002Fawesome-artificial-intelligence)\n* [Tensorflow新手入门](http:\u002F\u002Fwww.tensorfly.cn\u002Ftfdoc\u002Ftutorials\u002Fmnist_beginners.html)\n\n### 机器学习\n\n觉得此文章不错，支持我的话可以给我star ，:star:！ 如果有问题可以加我的微信,也可以加入我们的交流群一起交流技术！\n\u003Cp align=\"center\">\n\u003Cimg width=\"300\" align=\"center\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FKeKe-Li_tutorial_readme_812533c54e3f.jpg\" \u002F>\n\u003C\u002Fp>\n\n### License\nThis is free software distributed under the terms of the MIT license\n","### 深度学习算法教程\n\u003Cp align='left'>\n\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fbuild-passing-brightgreen.svg\">\n\u003Ca href=\"https:\u002F\u002Ftwitter.com\u002Fperfactsen\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Ftwitter-keke-green.svg?style=flat&colorA=009df2\">\u003C\u002Fa>\n\u003Ca href=\"https:\u002F\u002Fwww.zhihu.com\u002Fpeople\u002Fsencoed.com\u002Factivities\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F%E7%9F%A5%E4%B9%8E-keke-green.svg?style=flat&colorA=009df2\">\u003C\u002Fa>\n\u003C\u002Fp>\n\n最近以来一直在学习机器学习和算法，然后自己就在不断总结和写笔记，记录下自己的学习AI与算法历程。\n机器学习(Machine Learning, ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。\n\n\u003Cp align=\"center\">\n\u003Cimg width=\"100%\" align=\"center\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FKeKe-Li_tutorial_readme_bf74120d7565.png\" \u002F>\n\u003C\u002Fp>\n\n* 机器学习是计算机科学的一个子领域，在人工智能领域，机器学习逐渐发展成模式识别和计算科学理论的研究。\n* 机器学习：多领域交叉学科，涉及概率论统计学，逼近论，凸分析，算法复杂度理论等多门学科。\n* 机器学习的应用：语音识别，自动驾驶，语言翻译，计算机视觉，推荐系统，无人机，识别垃圾邮件，人脸识别，电商推荐系统。\n* 机器学习的基本概念：训练集，测试集，特征值，监督学习，非监督学习，分类，回归 \n\n目前国内在AI感知层面应用已经百花齐放，主要是无人驾驶、智能音箱、嵌入式。但在认知层面还是比较缺乏，所以新入行的AI应用团队可以放在认知层。如开头所述，认知层最重要的是算法，因此需要阅读Nature上最领先的算法公司DeepMind的几篇大作，如下：\n\n* 2016.01.Mastering the game of Go with deep neural networks and tree search\n* 2016.10.Hybrid computing using a neural network with dynamic external memory\n* 2017.10.Mastering the game of Go without human knowledge\n\n#### 机器学习步骤框架\n\n* 把数据拆分为训练集合测试集\n* 用训练集合训练集的特征向量来训练算法\n* 用学习来的算法运用在测试集上累评估算法(可能要设计到调整参数(parameter tuning) 用来验证集(validation set))\n\n#### 机器学习\n\n* 机器学习：机器学习是计算机科学的一个子领域，在人工智能领域，机器学习逐渐发展成模式识别和计算科学理论的研究。通俗的讲机器学习是一种能够赋予机器学习的能力，可以让它完成直接编程无法完成的功能的方法。但从实践的意义上来说，机器学习是一种通过利用数据，训练出模型，然后使用模型预测的一种方法。\n* 机器学习的应用：机器学习已广泛应用于数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信用卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏和机器人等领域。下面开启我们的机器学习！\n\n * [机器学习环境的搭建](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FMachine%20Learning\u002FML.01.md)\n * [机器学习的入门](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FMachine%20Learning\u002FML.02.md)\n * [机器学习的框架](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FMachine%20Learning\u002FML.03.md)\n * [机器学习的应用案例]()\n\n#### 深度学习\n* 深度学习：深度学习是基于机器学习延伸出来的一个新的领域，由以人大脑结构为启发的神经网络算法为起源加之模型结构深度的增加发展，并伴随大数据和计算能力的提高而产生的一系列新的算法。\n* 深度学习的方向：被应用在图像处理与计算机视觉，自然语言处理以及语音识别等领域。\n\n * [深度神经网络](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FNeural%20Network\u002FNNK.01.md)\n * [深度学习的入门](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FNeural%20Network\u002FNNK.02.md)\n * [深度学习环境的搭建](https:\u002F\u002Fgithub.com\u002FAI-algorithms\u002FAlgorithms-Tutorial\u002Fblob\u002Fmaster\u002Fsrc\u002FNeural%20Network\u002FNNK.03.md)\n * [深度学习的应用案例]()\n\n#### 机器学习算法概览\n\u003Cp align=\"center\">\n\u003Cimg width=\"100%\" align=\"center\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FKeKe-Li_tutorial_readme_cb1d1a1c7cfd.png\" \u002F>\n\u003C\u002Fp>\n\n从2016年起，机器学习有了新的突破和发展。但是，有效的机器学习是困难的，因为机器学习本身就是一个交叉学科，没有科学的方法及一定的积累很难入门。\n从2017年10月19日，Nature上发表了新一代AlphaGo版本AlphaGo Zero的技术论文。指出一种仅基于强化学习的算法，AlphaGo Zero不使用人类的数据、指导或规则以外的领域知识成了自己的老师。DeepMind代表了目前人工智能领域最强的技术，其核心是两个字：算法。\n很多人都想成为一个AI开发者，不仅是因为AI开发的薪资高，更主要是因为AI这几年的快速发展,但是因为AI本身的门槛就比较高,很多人可能就会比较徘徊，因而想把自己学习AI的过程写成本书,供大家参考和学习！\n\n * [BP神经网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBP\u002FBP.md)\n * [RBF算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRBF\u002FRBF.md)\n * [SOM神经网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FSOM\u002FSOM.md)\n * [ART神经网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FART\u002FART.md)\n * [贝叶斯网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.md)\n * [粗糙集](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRST\u002FRST.md)\n * [孤立点分析](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FOTR\u002FOTR.md)\n * [CART](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCART\u002FCART.md)\n * [EM](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FEM\u002FEM.md)\n * [FP—tree](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FFP\u002FFP.md)\n * [GSP序列](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FGSP\u002FGSP.md)\n * [协同过滤](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCF\u002FCF.md)\n * [BIRCH](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBIR\u002FBIR.md)\n * [Prefixspan](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FPN\u002FPN.md)\n * [PageRank](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FPRK\u002FPRK.md)\n * [AdaBoost](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FABT\u002FABT.md)\n * [CBA](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCBA\u002FCBA.md)\n * [KNN](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKNN\u002FKNN.md)\n * [Hopfield神经网络](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FHPD\u002FHPD.md)\n * [决策树](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.md)\n * [聚类分析](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCAS\u002FCAS.md)\n * [关联规则](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARS\u002FARS.md)\n * [支持向量机（SVM）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FSVM\u002FSVM.md)\n\n后面的算法和我们的算法模型，我会持续更新整理，后续的算法章节会不断的补上，希望可以对新入门学习AI开发和算法的开发者有所帮助！\n\n#### 算法模型\n * [回归算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.1.md)\n     * [线性回归](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.2.md)  \n     * [逻辑回归](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.3.md)  \n     * [多元自适应回归(MARS)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.4.md)  \n     * [本地散点平滑估计(LOESS)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRAM\u002FRAM.0.5.md)  \n * [基于实例的学习算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.1.md) \n     * [K-近邻算法（KNN）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.2.md)\n     * [学习矢量化（LVQ）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.3.md)\n     * [自组织映射算法（SOM）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.4.md)\n     * [局部加权学习算法（LWR）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBA\u002FBA.0.5.md)\n * [正则化算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.1.md)    \n     * [岭回归（Ridge Regression）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.2.md)\n     * [LASSO（Least Absolute Shrinkage and Selection Operator）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.3.md)\n     * [弹性网络(Elastic Net)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.4.md)\n     * [最小角回归(LARS)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FRGN\u002FRGN.0.5.md)\n * [决策树算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.1.md)\n     * [分类和回归树（CART）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.2.md)\n     * [ID3算法(Iterative Dichotomiser 3)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.3.md)\n     * [CHAID（Chi-squared Automatic Interaction Detection)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.4.md)\n     * [随机森林（Random Forest）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.5.md)\n     * [多元自适应回归样条（MARS）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.6.md)\n     * [梯度推进机（Gradient Boosting Machine,GBM）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDT\u002FDT.0.7.md)\n * [贝叶斯算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.1.md)\n     * [朴素贝叶斯(Naive Bayes)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.2.md)\n     * [高斯朴素贝叶斯(Gaussian Naive Bayes)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.3.md)\n     * [多项式朴素贝叶斯(Multinomial Naive Bayes)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.4.md)\n     * [平均单依赖估计量（Averaged One-Dependence Estimators）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.5.md)\n     * [贝叶斯网络（Bayesian Belief Network）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FBNS\u002FBNS.0.6.md)\n * [基于核的算法](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKBO\u002FKBO.0.1.md)   \n     * [支持向量机（SVM）](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKBO\u002FKBO.0.2.md)\n     * [径向基函数（Radial Basis Function ，RBF)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKBO\u002FKBO.0.3.md)\n     * [线性判别分析（Linear Discriminate Analysis ，LDA)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FKBO\u002FKBO.0.4.md)\n * [聚类算法(Cluster analysis)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.1.md)\n     * [K-均值(K-Means Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.2.md)\n     * [模糊c-均值聚类算法(Fuzzy C-means Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.3.md)\n     * [期望最大化(Expectation-Maximization)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.4.md)\n     * [聚类分析(Cluster Analysis)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FCA\u002FCA.0.5.md)\n * [关联规则学习(Association Rule Learning)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARL\u002FARL.0.1.md)   \n     * [先验算法(Apriori Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARL\u002FARL.0.2.md) \n     * [Eclat算法(Eclat Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARL\u002FARL.0.3.md) \n     * [FP-growth算法(FP-Growth Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FARL\u002FARL.0.4.md) \n * [人工神经网络(Artificial Neural Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.1.md)      \n     * [自动编码器(Autoencoder)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.2.md) \n     * [反向传播(Backpropagation)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.3.md) \n     * [递归神经网络(Recurrent Neural Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.4.md)) \n     * [多层感知器(Multilayer Perceptron)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.5.md) \n     * [玻尔兹曼机(Boltzmann Machine)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.6.md) \n     * [卷积神经网络(Convolutional Neural Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.7.md) \n     * [Hopfield网络(Hopfield Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.8.md) \n     * [径向基函数网络(Radial Basis Function Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.9.md) \n     * [受限玻尔兹曼机(Restricted Boltzmann Machine)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.10.md) \n     * [自组织映射(Self-Organizing Map)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.11.md) \n     * [脉冲神经网络(Spiking Neural Network)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FANN\u002FANN.0.12.md) \n * [深度学习(Deep Learning)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.1.md) \n     * [深度信念网络(Deep Belief Machines)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.2.md) \n     * [深度卷积神经网络(Deep Convolutional Neural Networks)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.3.md) \n     * [深度递归神经网络(Deep Recurrent Neural Networks)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.4.md) \n     * [分层时间记忆(Hierarchical Temporal Memory)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.5.md) \n     * [堆叠自动编码器(Stacked AutoEncoder)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.6.md) \n     * [生成式对抗网络(Generative Adversarial Networks)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDL\u002FDL.0.7.md)\n * [降维算法(Dimensionality Reduction Algorithm)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.1.md)\n     * [主成分分析法(Principal Component Analysis)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.2.md)\n     * [多维缩放(Mutiple Dimensional Scaling)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.3.md)\n     * [线性判别分析(Linear Discriminant Analysis)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.4.md)\n     * [等度量映射(IsometricMapping,Isomap)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.5.md)\n     * [局部线性嵌入(Locally Linear Embedding)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.6.md)\n     * [拉普拉斯特征映射(Laplacian Eigenmaps)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.7.md)\n     * [t－分布随机近邻嵌入(t-SNE)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.8.md)\n     * [深度自动编码器(Deep Autoencoder Networks)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FDRA\u002FDRA.0.9.md)\n * [集成算法(Ensemble Learning)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FEL\u002FEL.0.1.md)\n      * [Boosting](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FEL\u002FEL.0.2.md)\n      * [Bagging](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FEL\u002FEL.0.3.md)\n      * [AdaBoost]()\n      * [堆叠泛化（混合）]()\n      * [GBM 算法]()\n      * [GBRT 算法]()\n      * [随机森林]()\n * [其他算法]()\n      * [特征选择算法]()\n      * [性能评估算法]()\n      * [自然语言处理]()\n      * [计算机视觉]()\n      * [推荐系统]()\n      * [强化学习]()\n      * [迁移学习]()\n\n算法模型的整体基本就是这样目录，后续的算法模型我会不断完善和补充，更新！\n\n#### 大模型LLM\n\n大型语言模型（LLM,Large Language Model）伴随着chatgpt的诞生，走进了我们的视野，GPT 3.0它不仅仅是一项具体的技术，其实体现的是LLM应该往何处去的一个发展理念。\n\n自此之后，差距拉得越来越远，ChatGPT只是这种发展理念差异的一个自然结果。\n\n那么什么是大语言模型呢， 我们深入探索和学习下。\n\n大型语言模型（LLM）是基于大量数据进行预训练的超大型深度学习模型。底层转换器是一组神经网络，这些神经网络由具有自注意力功能的编码器和解码器组成。编码器和解码器从一系列文本中提取含义，并理解其中的单词和短语之间的关系。\n\n转换器 LLM 能够进行无监督的训练，但更精确的解释是转换器可以执行自主学习。通过此过程，转换器可学会理解基本的语法、语言和知识。\n\n与早期按顺序处理输入的循环神经网络（RNN）不同，转换器并行处理整个序列。这可让数据科学家使用 GPU 训练基于转换器的 LLM，从而大幅度缩短训练时间。\n\n借助转换器神经网络架构，您可使用非常大规模的模型，其中通常具有数千亿个参数。这种大规模模型可以摄取通常来自互联网的大量数据，但也可以从包含 500 多亿个网页的 Common Crawl 和拥有约 5700 万个页面的 Wikipedia 等来源摄取数据。\n\n* [走进大语言模型LLM)](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial\u002Fblob\u002Fmaster\u002Fassets\u002Fsrc\u002FLLM\u002Fllm.md)\n\n#### 机器学习的基础\n\n* 机器学习需要的理论基础：数学，线性代数，数理统计，概率论，高等数学、凸优化理论，形式逻辑等\n\n#### 参考书籍\n\n* [同济线性代数教材](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E5%90%8C%E6%B5%8E%E7%BA%BF%E6%80%A1%E4%BB%A3%E6%95%B0%E6%95%99%E6%9D%90.pdf)\n* [同济高等数学第六版上下册](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E5%90%8C%E6%B5%8E%E9%AB%98%E7%AD%89%E6%95%B0%E5%AD%A6%E7%AC%AC%E5%85%AD%E7%89%88%E4%B8%8A%E4%B8%8B%E5%86%8C.pdf)\n* [概率论与数理统计同济大学](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%A6%82%E7%8E%87%E8%AE%BA%E4%B8%8E%E6%95%B0%E7%90%86%E7%BB%9F%E8%AE%A1%E5%90%8C%E6%B5%8E%E5%A4%A7%E5%AD%A6.pdf)\n* [凸优化理论](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E5%87%B8%E4%BC%98%E5%8C%96%E7%90%86%E8%AE%BF.pdf)\n* [机器学习-周志华](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0.pdf)\n* [面向机器智能的TensorFlow实践](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E9%9D%A2%E5%90%91%E6%9C%BA%E5%99%A8%E6%99%BA%E8%83%BE%E7%9A%84TensorFlow%E5%AE%9E%E8%B7%B5%20(%E6%9C%BA%E5%99%A8%E6%99%BA%E8%83%BE%E7%B3%BB%E7%BB%9C%E4%B8%8E%E6%8A%80%E6%9C%AF%E4%B9%A6)_.pdf)\n* [机器学习](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0.pdf)\n* [数学之美](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%95%B0%E5%AD%A6%E4%B9%8B%E7%BE%8E.pdf)\n* [深度学习](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0Deep%20Learning.pdf)\n* [神经网络和深度学习](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%92%8C%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0.pdf)\n* [梯度下降](https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Fbook\u002Fblob\u002Fmaster\u002FAI\u002F%E6%A2%AF%E5%BA%A6%E4%B8%8B%E9%99%8D.pdf)\n* [无监督神经元](https:\u002F\u002Fblog.openai.com\u002Funsupervised-sentiment-neuron\u002F)\n* [Tensorflow实践](https:\u002F\u002Ftensorflow.feisky.xyz\u002Finstall\u002Fcpu.html)\n* [Artificial Intelligence](https:\u002F\u002Fgithub.com\u002Fowainlewis\u002Fawesome-artificial-intelligence)\n* [Tensorflow新手入门](http:\u002F\u002Fwww.tensorfly.cn\u002Ftfdoc\u002Ftutorials\u002Fmnist_beginners.html)\n\n\n\n### 机器学习\n\n觉得此文章不错，支持我的话可以给我star ，:star:！ 如果有问题可以加我的微信,也可以加入我们的交流群一起交流技术！\n\u003Cp align=\"center\">\n\u003Cimg width=\"300\" align=\"center\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FKeKe-Li_tutorial_readme_812533c54e3f.jpg\" \u002F>\n\u003C\u002Fp>\n\n### License\nThis is free software distributed under the terms of the MIT license","# tutorial 快速上手指南\n\n本教程是一个涵盖机器学习与深度学习算法的综合性学习资源库，旨在帮助开发者系统掌握从基础概念到前沿模型（如 AlphaGo Zero 相关算法）的核心技术。\n\n## 环境准备\n\n本教程主要为理论笔记与代码示例集合，运行示例代码通常需要以下基础环境：\n\n*   **操作系统**：Windows \u002F macOS \u002F Linux\n*   **编程语言**：Python 3.6+\n*   **核心依赖库**：\n    *   NumPy (数值计算)\n    *   Pandas (数据处理)\n    *   Scikit-learn (传统机器学习算法)\n    *   TensorFlow 或 PyTorch (深度学习框架)\n    *   Matplotlib (可视化)\n\n> **国内加速建议**：建议使用清华源或阿里源安装 Python 依赖包，以提升下载速度。\n> ```bash\n> pip install -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple numpy pandas scikit-learn matplotlib\n> ```\n\n## 安装步骤\n\n本项目无需复杂的编译安装，直接克隆仓库即可获取所有教程笔记与源码。\n\n1.  **克隆仓库**\n    ```bash\n    git clone https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002Ftutorial.git\n    ```\n\n2.  **进入目录**\n    ```bash\n    cd tutorial\n    ```\n\n3.  **安装深度学习依赖（可选）**\n    若需运行深度学习章节（如 CNN, RNN, GAN 等）的示例代码，建议安装对应的深度学习框架。\n    \n    *使用国内镜像安装 PyTorch 示例：*\n    ```bash\n    pip install torch torchvision torchaudio --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu118\n    ```\n    *(注：具体 CUDA 版本请根据本地显卡环境调整)*\n\n## 基本使用\n\n本教程采用模块化结构，分为“机器学习”、“深度学习”、“算法概览”及“算法模型”四大板块。你可以直接阅读 Markdown 笔记，或运行对应的 `.py` 脚本（如有）。\n\n### 1. 浏览学习路径\n项目根目录下的 `assets\u002Fsrc` 文件夹包含了所有算法的详细文档。推荐按以下顺序学习：\n\n*   **入门基础**：查看 `src\u002FMachine Learning\u002F` 目录，了解环境搭建与基本概念。\n    *   [机器学习环境的搭建](src\u002FMachine%20Learning\u002FML.01.md)\n    *   [机器学习的入门](src\u002FMachine%20Learning\u002FML.02.md)\n\n*   **核心算法**：在 `assets\u002Fsrc\u002F` 下选择具体算法深入学习，例如支持向量机 (SVM) 或 决策树。\n    *   [支持向量机（SVM）](assets\u002Fsrc\u002FSVM\u002FSVM.md)\n    *   [决策树](assets\u002Fsrc\u002FDT\u002FDT.md)\n    *   [K-近邻算法（KNN）](assets\u002Fsrc\u002FBA\u002FBA.0.2.md)\n\n*   **深度学习进阶**：查看 `assets\u002Fsrc\u002FDL\u002F` 目录，学习神经网络与前沿模型。\n    *   [卷积神经网络 (CNN)](assets\u002Fsrc\u002FANN\u002FANN.0.7.md)\n    *   [生成式对抗网络 (GAN)](assets\u002Fsrc\u002FDL\u002FDL.0.7.md)\n\n### 2. 运行示例代码\n如果特定算法目录下包含 Python 源代码文件（通常为 `.py`），可直接在终端运行：\n\n```bash\n# 以运行 KNN 算法示例为例（假设该目录下有 demo.py）\ncd assets\u002Fsrc\u002FKNN\npython demo.py\n```\n\n### 3. 学习建议\n*   **理论结合实践**：先阅读对应算法的 `.md` 文档理解数学原理（如概率论、凸分析基础），再尝试复现代码。\n*   **关注认知层应用**：参考文档中提到的 DeepMind 论文（如 AlphaGo Zero），重点关注算法在无人驾驶、自然语言处理等认知层面的应用逻辑。\n*   **持续更新**：本项目会持续补充新的算法章节，建议定期 `git pull` 同步最新内容。","某初创科技公司的算法团队正试图从传统软件开发转型，着手研发基于计算机视觉的工业缺陷检测系统，但团队成员普遍缺乏系统的深度学习理论基础。\n\n### 没有 tutorial 时\n- 学习路径支离破碎，成员在概率论、凸分析等交叉学科概念上反复卡壳，难以建立完整的知识框架。\n- 面对 BP 神经网络、CART、协同过滤等众多算法名称，只能零散搜索碎片化博客，无法理解其核心原理与适用场景。\n- 环境搭建耗时极长，因缺乏标准指引，团队成员在配置深度学习依赖库时频繁报错，严重拖慢项目进度。\n- 对业界前沿技术（如 AlphaGo Zero 背后的强化学习逻辑）认知空白，导致技术方案选型保守，缺乏创新性。\n\n### 使用 tutorial 后\n- 依托清晰的“机器学习步骤框架”，团队迅速掌握了从数据拆分、特征向量训练到参数调优的标准作业流程。\n- 通过系统化的算法概览章节，成员深入理解了从 RBF 到 Prefixspan 等十几种核心算法的数学推导与应用边界，选型更加精准。\n- 参照详细的环境搭建指南，团队在一天内统一完成了开发环境部署，将原本数周的试错成本压缩至小时级。\n- 借助对 DeepMind 经典论文的深度解读与笔记，团队成功将强化学习思路引入检测逻辑，显著提升了模型的泛化能力。\n\ntutorial 将晦涩的交叉学科理论转化为结构化的实战指南，帮助开发者跨越了从“理论迷茫”到“工程落地”的关键鸿沟。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FKeKe-Li_tutorial_a71bf127.png","KeKe-Li","KeKe","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FKeKe-Li_fdf785f5.jpg","Innovation and creativity drive new development","shanghai","2536485681li@gmail.com",null,"https:\u002F\u002Fgithub.com\u002FKeKe-Li\u002F","https:\u002F\u002Fgithub.com\u002FKeKe-Li",844,199,"2026-04-03T08:06:56","Apache-2.0",1,"","未说明",{"notes":92,"python":90,"dependencies":93},"该项目主要为机器学习与深度学习算法的学习教程和笔记文档（包含理论介绍及代码链接），README 中未明确列出具体的运行环境配置、依赖库版本或硬件需求。用户需根据具体实现的算法章节（如神经网络、SVM 等）自行配置相应的 Python 环境及库（如 TensorFlow, PyTorch, Scikit-learn 等）。",[],[13],[96,97,98,67,99],"machine-learning-algorithms","deeplearning","neural-network","algorithms-tutorial","2026-03-27T02:49:30.150509","2026-04-06T08:27:35.064944",[],[]]