Ad-papers
Ad-papers 是一份持续更新的“计算广告”知识地图，由一线算法工程师王喆整理并开源。它把散落在各处的顶会论文、工业界实践、优化技巧和学习笔记，按主题（CTR 预估、Embedding、实时竞价、优化算法、主题模型等）分门别类，提供可直接下载的 PDF 与代码链接，省去你四处检索、甄别版本的时间。
如果你正做推荐/广告系统的算法研究、工程落地或策略产品，Ad-papers 能帮你快速找到从 Airbnb Embedding、阿里 DIEN 到 Google Vizier 等经典与前沿方案，并给出中文解读与实现提示。
亮点在于：内容随作者工作动态增删，保持“不过时”；同时附带 SparkCTR、Reco-papers 等配套代码库，方便边学边跑实验。
使用场景
一家 20 人规模的电商广告算法团队，正在把首页 Banner 位的点击率从 3% 提升到 5%，以备战 618 大促。
没有 Ad-papers 时
- 工程师 A 在 Google 上搜 “Airbnb embedding”，结果全是新闻稿，找不到原始论文，只能凭记忆复现，浪费两天。
- 新人 B 想搞懂 DIEN，却误把 DIN 的旧代码当最新版，线上 A/B 测试效果反降 0.4%。
- 优化师 C 想调 FTRL 的超参，网上博客说法不一，团队内部各执一词，会议开了 3 小时仍无结论。
- 数据科学家 D 做 Topic Model 特征，只找到 2010 年的 LDA 讲义，缺少分布式实现细节，Spark 任务跑 6 小时才收敛。
使用 Ad-papers 后
- 工程师 A 在 Ad-papers 里直接下载 Airbnb Embedding 原版 PDF，对照伪代码 4 小时完成复现，CTR 提升 0.7%。
- 新人 B 拿到 DIEN 论文 + 官方实现笔记，一眼看出与 DIN 的差异，当天就合并进主分支，A/B 测试正向 1.2%。
- 优化师 C 翻到冯扬的《在线最优化求解》中文讲义，FTRL 学习率公式一目了然，10 分钟定好参数，会议取消。
- 数据科学家 D 用 Ad-papers 里的《LDA 数学八卦》和 Hogwild! 并行策略，把 Spark 任务压缩到 40 分钟，特征维度降低 60%。
Ad-papers 把散落在各处的计算广告核心论文和实战笔记一站式整合，让团队少踩坑、快迭代、直接拿结果。
运行环境要求
- 未说明
未说明
未说明
快速开始
计算广告论文、学习资料、业界分享
动态更新工作中实现或者阅读过的计算广告相关论文、学习资料和业界分享，作为自己工作的总结，也希望能为计算广告相关行业的同学带来便利。
所有资料均来自于互联网，如有侵权，请联系王喆。同时欢迎对计算广告感兴趣的同学与我讨论相关问题，我的联系方式如下：
- Email: wzhe06@gmail.com
- LinkedIn: 王喆的LinkedIn
- 知乎私信: 王喆的知乎
会不断加入一些重要的计算广告相关论文和资料，并去掉一些过时的或者跟计算广告不太相关的论文
New![Airbnb Embedding] Real-time Personalization using Embeddings for Search Ranking at Airbnb (Airbnb 2018)
2018 KDD最佳论文，Airbnb基于embedding构建的实时搜索推荐系统New![DIEN] Deep Interest Evolution Network for Click-Through Rate Prediction (Alibaba 2019)
阿里提出的深度兴趣网络（Deep Interest Network）最新改进DIEN
其他相关资源
- 张伟楠的RTB Papers列表
- 基于Spark MLlib的CTR预估模型(LR, FM, RF, GBDT, NN, PNN)
- 推荐系统相关论文和资源列表
- Honglei Zhang的推荐系统论文列表
目录
Optimization Method
在线优化、并行SGD、FTRL等优化方法，实用并且能够给出直观解释的文章
- Google Vizier A Service for Black-Box Optimization
- 在线最优化求解(Online Optimization)-冯扬
- Hogwild A Lock-Free Approach to Parallelizing Stochastic Gradient Descent
- Parallelized Stochastic Gradient Descent
- A Survey on Algorithms of the Regularized Convex Optimization Problem
- Follow-the-Regularized-Leader and Mirror Descent- Equivalence Theorems and L1 Regularization
- A Review of Bayesian Optimization
- Taking the Human Out of the Loop- A Review of Bayesian Optimization
- 非线性规划
Topic Model
话题模型相关文章，PLSA、LDA，进行广告Context特征提取、创意优化经常会用到Topic Model
- 概率语言模型及其变形系列
- Parameter estimation for text analysis
- LDA数学八卦
- Distributed Representations of Words and Phrases and their Compositionality
- Dirichlet Distribution, Dirichlet Process and Dirichlet Process Mixture(PPT)
- 理解共轭先验
Google Three Papers
Google三大篇，HDFS、MapReduce、BigTable，奠定大数据基础架构的三篇文章，任何从事大数据行业的工程师都应该了解
- MapReduce Simplified Data Processing on Large Clusters
- The Google File System
- Bigtable A Distributed Storage System for Structured Data
Factorization Machines
FM因子分解机模型的相关paper，在计算广告领域非常实用的模型
- FM PPT by CMU
- Factorization Machines Rendle2010
- libfm-1.42.manual
- Scaling Factorization Machines to Relational Data
- fastFM- A Library for Factorization Machines
嵌入
- [负采样] Word2vec详解——负采样词嵌入方法（2014年）
- [SDNE] 结构化深度网络嵌入（清华大学，2016年）
- [Item2Vec] Item2Vec——用于协同过滤的神经网络商品嵌入（微软，2016年）
- [Word2vec] 词与短语的分布式表示及其组合性（谷歌，2013年）
- [Word2vec] Word2vec参数学习详解（密歇根大学，2016年）
- [Node2vec] Node2vec——面向网络的可扩展特征学习（斯坦福大学，2016年）
- [图嵌入] DeepWalk——社交表征的在线学习（SBU，2014年）
- [Airbnb嵌入] Airbnb搜索排序中的嵌入实时个性化（Airbnb，2018年）
- [阿里巴巴嵌入] 阿里巴巴电商推荐中的十亿级商品嵌入（阿里巴巴，2018年）
- [Word2vec] 向量空间中词表示的有效估计（谷歌，2013年）
- [LINE] LINE——大规模信息网络嵌入（MSRA，2015年）
预算控制
广告系统中的Pacing、预算控制，以及如何将预算控制与其他模块相结合的问题
- 领英定向在线广告的预算 pacing
- 广告系统中的智能预算控制策略
- 从需求方平台视角预测实时竞价系统中的在线广告流量
- 在线广告中平滑预算投放的实时出价优化
- PID控制经典培训教程
- PID控制原理与控制算法
- 有效优化在线广告活动的智能 pacing
树模型
树模型及基于树模型的boosting模型，树模型在大多数问题上的效果都非常好，在CTR、CVR预估及特征工程方面的应用非常广泛。
保证合同广告
事实上，现在很多大的媒体主仍是合约广告系统，合约广告系统的在线分配、收益优化以及定价问题都是非常重要且有挑战性的问题。
- 展示广告中统一程序化保证与实时竞价的动态定价模型
- 在线展示广告中的保证合同定价
- 展示广告中程序化保证的风险感知动态保留价格
- 广告销售谈判中的定价指导——PrintAds案例
- 展示广告中的风险感知收益最大化
经典点击率预测
- [LR] 预测点击——估算新广告的点击率（微软，2007年）
- [FFM] 面向领域的因子分解机用于点击率预测（Criteo，2016年）
- [GBDT+LR] 来自Facebook广告点击预测的实践经验（Facebook，2014年）
- [PS-PLM] 从大规模数据中学习分段线性模型用于广告点击预测（阿里巴巴，2017年）
- [FTRL] 广告点击预测：来自一线的视角（谷歌，2013年）
- [FM] 基于因子分解机的快速上下文感知推荐（UKON，2011年）
竞价策略
计算广告中的广告定价及RTB过程中广告出价策略的相关问题
- 实时竞价展示广告研究前沿
- 展示广告中基于无模型强化学习的预算约束竞价
- 展示广告中的多智能体强化学习实时竞价
- 展示广告中的强化学习实时竞价
- 在预算受限条件下优化实时竞价策略时结合两个预测器的力量
- 面向展示广告中带删失数据的无偏学习的竞价感知梯度下降
- 淘宝展示广告中的优化每次点击成本
- 基于效果的展示广告投放中的实时竞价算法
- 用于赞助搜索实时竞价的深度强化学习
计算广告架构师
广告系统的架构问题
- [TensorFlow白皮书]TensorFlow——异构分布式系统上的大规模机器学习
- 大数据下的广告排序技术及实践
- 美团机器学习 吃喝玩乐中的算法问题
- [参数服务器]利用参数服务器扩展分布式机器学习
- 带有实时竞价（RTB）和行为定向的展示广告
- 分布式机器学习平台的比较
- 利用两级检索流程进行高效查询评估
- [TensorFlow白皮书]TensorFlow——大规模机器学习系统
- [参数服务器]用于分布式机器学习的参数服务器
- 重叠实验基础设施：更多、更好、更快的实验
机器学习教程
机器学习方面一些非常实用的学习资料
- 各种回归的概念学习
- 机器学习总图
- Efficient Estimation of Word Representations in Vector Space
- Rules of Machine Learning- Best Practices for ML Engineering
- An introduction to ROC analysis
- Deep Learning Tutorial
- 广义线性模型
- 贝叶斯统计学(PPT)
- 关联规则基本算法及其应用
迁移学习
迁移学习相关文章，计算广告中经常遇到新广告冷启动的问题，利用迁移学习能较好解决该问题
- [Multi-Task]An Overview of Multi-Task Learning in Deep Neural Networks
- Scalable Hands-Free Transfer Learning for Online Advertising
- A Survey on Transfer Learning
深度学习CTR预测
- [DCN] Deep & Cross Network for Ad Click Predictions (Stanford 2017)
- [Deep Crossing] Deep Crossing - Web-Scale Modeling without Manually Crafted Combinatorial Features (Microsoft 2016)
- [PNN] Product-based Neural Networks for User Response Prediction (SJTU 2016)
- [DIN] Deep Interest Network for Click-Through Rate Prediction (Alibaba 2018)
- [ESMM] Entire Space Multi-Task Model - An Effective Approach for Estimating Post-Click Conversion Rate (Alibaba 2018)
- [Wide & Deep] Wide & Deep Learning for Recommender Systems (Google 2016)
- [xDeepFM] xDeepFM - Combining Explicit and Implicit Feature Interactions for Recommender Systems (USTC 2018)
- [Image CTR] Image Matters - Visually modeling user behaviors using Advanced Model Server (Alibaba 2018)
- [AFM] Attentional Factorization Machines - Learning the Weight of Feature Interactions via Attention Networks (ZJU 2017)
- [DIEN] Deep Interest Evolution Network for Click-Through Rate Prediction (Alibaba 2019)
- [DSSM] Learning Deep Structured Semantic Models for Web Search using Clickthrough Data (UIUC 2013)
- [FNN] Deep Learning over Multi-field Categorical Data (UCL 2016)
- [DeepFM] A Factorization-Machine based Neural Network for CTR Prediction (HIT-Huawei 2017)
- [NFM] Neural Factorization Machines for Sparse Predictive Analytics (NUS 2017)
探索与利用
探索和利用，是计算广告领域中非常经典、却也容易被大家忽视的问题。实际上，所有广告系统都面临如何解决新广告主的冷启动问题，以及在效果不佳的情况下如何探索新的优质流量的问题。希望该目录下的几篇文章能够帮助到你。
- Thompson采样法的实证评估
- 基于多臂老虎机实验的不完全信息动态在线定价
- 广告系统中的探索与利用算法
- 多臂老虎机问题的有限时间分析
- 用于上下文老虎机的快速且简单的算法
- 利用多臂老虎机实验进行展示广告的客户获取
- 用深度神经网络与树搜索掌握围棋游戏
- 用线性回归探索紧凑的强化学习表示
- 用深度预测模型激励强化学习中的探索
- 老虎机算法续——UCB1
- 基于上下文老虎机的个性化新闻文章推荐方法（LinUCB）
- 基于绩效的上下文广告系统中的利用与探索
- 基于老虎机的蒙特卡洛规划
- 随机森林用于上下文老虎机问题
- 统一基于计数的探索与内在动机
- 多臂老虎机问题中Thompson采样的分析
- Thompson采样PPT
- 分层深度强化学习——整合时间抽象与内在动机
- 王哲关于探索与利用问题的演讲
- 围棋UCT中的探索与利用——用于蒙特卡洛围棋
- 对抗搜索、多臂老虎机问题、UCB算法
- 利用置信边界进行利用-探索权衡
分配
广告流量的分配问题
常见问题
相似工具推荐
stable-diffusion-webui
stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。
everything-claude-code
everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上
ComfyUI
ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。
NextChat
NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。 这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。 NextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。
ML-For-Beginners
ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。
ragflow
RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。