spotlight
Spotlight 是一个基于 PyTorch 构建的开源推荐系统库,旨在帮助开发者和研究人员快速探索与原型化各类推荐模型。它主要解决了传统推荐算法在应对复杂用户行为序列时建模困难、实验迭代慢的问题,让从基础的矩阵分解到前沿的深度序列预测都能轻松实现。
无论是需要处理显式评分数据,还是基于隐式反馈(如点击、浏览)进行排序学习,Spotlight 都提供了丰富的内置模块。其独特亮点在于不仅支持经典的点成对和配对排名损失函数,还集成了多种先进的深度序列模型架构,包括类似 YouTube 推荐的池化模型、基于 LSTM 的会话推荐模型,以及借鉴 WaveNet 思想的因果卷积模型。此外,它还内置了 MovieLens 等常用数据集的加载工具及全面的评估指标,大幅降低了数据预处理门槛。
这款工具非常适合从事推荐算法研究的学者、希望快速验证新想法的机器学习工程师,以及需要构建高性能推荐系统的后端开发者。通过简洁易用的 API,Spotlight 让用户能专注于模型创新而非底层代码实现,是连接学术研究与工业落地的得力助手。
使用场景
某电商初创公司的算法团队正急需为新款视频流媒体平台构建一个能理解用户观看顺序的个性化推荐系统。
没有 spotlight 时
- 模型复现困难:想要尝试 YouTube 的池化模型或基于 LSTM 的会话推荐,需从零编写复杂的 PyTorch 序列建模代码,耗时数周且易出错。
- 数据预处理繁琐:缺乏内置工具将原始用户行为日志转化为适合序列训练的格式,工程师需手动编写大量脚本处理时间步和对齐问题。
- 评估指标缺失:难以快速计算 MRR(平均倒数排名)等针对序列推荐的关键指标,导致模型迭代效果无法量化验证。
- 实验周期漫长:每次调整损失函数或网络结构都涉及底层代码大改,严重拖慢了从想法到原型的验证速度。
使用 spotlight 后
- 开箱即用模型:直接调用
ImplicitSequenceModel即可加载 LSTM 或因果卷积架构,几分钟内完成基线模型搭建。 - 自动化数据流水线:利用
generate_sequential等工具快速生成或转换数据集,自动处理用户交互序列的切分与填充。 - 内置专业评估:通过
sequence_mrr_score一键获取序列预测精度,实时监控模型在“下一个物品预测”任务上的表现。 - 敏捷原型迭代:借助模块化的损失函数和表示层组件,团队能在一天内对比多种前沿论文方案,迅速锁定最优策略。
spotlight 将原本需要数周的深度推荐模型研发周期压缩至数小时,让团队能专注于业务逻辑创新而非底层框架重复造轮子。
运行环境要求
- Linux
- macOS
- Windows
未说明(依赖 PyTorch,支持 CPU 或 GPU 运行)
未说明

快速开始
.. image:: docs/_static/img/spotlight.png
.. inclusion-marker-do-not-remove
.. image:: https://travis-ci.org/maciejkula/spotlight.svg?branch=master :target: https://travis-ci.org/maciejkula/spotlight
.. image:: https://ci.appveyor.com/api/projects/status/jq5e76a7a08ra2ji/branch/master?svg=true :target: https://ci.appveyor.com/project/maciejkula/spotlight/branch/master
.. image:: https://badges.gitter.im/gitterHQ/gitter.png :target: https://gitter.im/spotlight-recommendations/Lobby
.. image:: https://anaconda.org/maciejkula/spotlight/badges/version.svg :target: https://anaconda.org/maciejkula/spotlight
.. image:: https://img.shields.io/badge/docs-latest-brightgreen.svg?style=flat :target: https://maciejkula.github.io/spotlight/
.. image:: https://img.shields.io/badge/progress%20tracker-trello-brightgreen.svg :target: https://trello.com/b/G5iFgS1W/spotlight
|
Spotlight 使用 PyTorch <http://pytorch.org/>_ 来构建深度和浅层的推荐模型。它提供了丰富的损失函数构建模块(各种点对点和成对排序损失)、表示方法(浅层因子分解表示、深度序列模型)以及用于获取(或生成)推荐数据集的工具,旨在成为快速探索和原型化新推荐模型的工具。
有关详细信息,请参阅完整的 文档 <https://maciejkula.github.io/spotlight/>_。
安装
.. code-block:: python
conda install -c maciejkula -c pytorch spotlight
使用
因子分解模型
要在 MovieLens 数据集中拟合显式反馈模型:
.. code-block:: python
from spotlight.cross_validation import random_train_test_split
from spotlight.datasets.movielens import get_movielens_dataset
from spotlight.evaluation import rmse_score
from spotlight.factorization.explicit import ExplicitFactorizationModel
dataset = get_movielens_dataset(variant='100K')
train, test = random_train_test_split(dataset)
model = ExplicitFactorizationModel(n_iter=1)
model.fit(train)
rmse = rmse_score(model, test)
要在 MovieLens 数据集中拟合带有 BPR 成对损失的隐式排序模型:
.. code-block:: python
from spotlight.cross_validation import random_train_test_split
from spotlight.datasets.movielens import get_movielens_dataset
from spotlight.evaluation import mrr_score
from spotlight.factorization.implicit import ImplicitFactorizationModel
dataset = get_movielens_dataset(variant='100K')
train, test = random_train_test_split(dataset)
model = ImplicitFactorizationModel(n_iter=3,
loss='bpr')
model.fit(train)
mrr = mrr_score(model, test)
序列模型
推荐可以被视为一个序列预测任务:给定用户过去交互过的物品,他们接下来会与哪个物品交互呢?Spotlight 提供了一系列模型和工具来拟合下一个物品推荐模型,包括:
- 池化模型,如
YouTube 推荐 <https://pdfs.semanticscholar.org/bcdb/4da4a05f0e7bc17d1600f3a91a338cd7ffd3.pdf>_, - LSTM 模型,如
基于会话的推荐... <https://arxiv.org/pdf/1511.06939>_,以及 - 因果卷积模型,如
WaveNet <https://arxiv.org/pdf/1609.03499>_。
.. code-block:: python
from spotlight.cross_validation import user_based_train_test_split
from spotlight.datasets.synthetic import generate_sequential
from spotlight.evaluation import sequence_mrr_score
from spotlight.sequence.implicit import ImplicitSequenceModel
dataset = generate_sequential(num_users=100,
num_items=1000,
num_interactions=10000,
concentration_parameter=0.01,
order=3)
train, test = user_based_train_test_split(dataset)
train = train.to_sequence()
test = test.to_sequence()
model = ImplicitSequenceModel(n_iter=3,
representation='cnn',
loss='bpr')
model.fit(train)
mrr = sequence_mrr_score(model, test)
数据集
Spotlight 提供了许多流行的数据集,包括 Movielens 100K、1M、10M 和 20M。它还包含用于创建合成数据集的工具。例如,generate_sequential 会生成一个基于马尔可夫链的交互数据集,其中用户选择的下一个物品是其先前交互的函数:
.. code-block:: python
from spotlight.datasets.synthetic import generate_sequential
# 浓度参数控制链的可预测性;
# 阶数决定马尔可夫链的阶数。
dataset = generate_sequential(num_users=100,
num_items=1000,
num_interactions=10000,
concentration_parameter=0.01,
order=3)
示例
1. `在 MovieLens 数据集上进行评分预测 <https://github.com/maciejkula/spotlight/tree/master/examples/movielens_explicit>`_。
2. `使用因果卷积进行序列推荐 <https://github.com/maciejkula/spotlight/tree/master/examples/movielens_sequence>`_。
3. `Bloom 嵌入层 <https://github.com/maciejkula/spotlight/tree/master/examples/bloom_embeddings>`_。
如何引用
如果您在研究中使用了 Spotlight,请予以引用。您可以使用以下 BibTeX 条目:
.. code-block::
@misc{kula2017spotlight, title={Spotlight}, author={Kula, Maciej}, year={2017}, publisher={GitHub}, howpublished={\url{https://github.com/maciejkula/spotlight}}, }
贡献
Spotlight 的设计目标是可扩展的:欢迎提交 Pull Request。开发进度在 `Trello <https://trello.com/b/G5iFgS1W/spotlight>`_ 上跟踪:查看未完成的任务,以了解哪些贡献是有价值的。
我们接受将新的推荐模型实现到 Spotlight 模型库中:如果您刚刚发表了一篇描述您新模型的论文,或者拥有文献中某个模型的实现,请提交 PR!
版本历史
v0.1.62019/09/08v0.1.52018/05/20v0.1.42018/02/18v0.1.32017/12/14v0.1.22017/09/19v0.1.12017/07/19v0.1.02017/06/28常见问题
相似工具推荐
openclaw
OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你
stable-diffusion-webui
stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。
everything-claude-code
everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上
ComfyUI
ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。
gemini-cli
gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。
markitdown
MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器