Kaggle 网站流量时间序列预测

第一名解决方案

主要文件：

• make_features.py - 从源数据构建特征
• input_pipe.py - TensorFlow 数据预处理流水线（将特征组装成训练/评估张量，执行部分采样和归一化）
• model.py - 模型
• trainer.py - 训练模型
• hparams.py - 超参数配置集。
• submission-final.ipynb - 生成用于提交的预测结果

如何复现竞赛结果：

1. 从 https://www.kaggle.com/c/web-traffic-time-series-forecasting/data 下载输入文件： key_2.csv.zip、train_2.csv.zip，并将其放入 data 目录。
2. 运行 python make_features.py data/vars --add_days=63。该命令会从输入文件中提取数据和特征，并以 TensorFlow 检查点格式保存到 data/vars。
3. 运行训练脚本： python trainer.py --name s32 --hparam_set=s32 --n_models=3 --name s32 --no_eval --no_forward_split --asgd_decay=0.99 --max_steps=11500 --save_from_step=10500。此命令将在单个 TensorFlow 图上同时使用不同随机种子训练 3 个模型，并将从步骤 10500 到 11500 的 10 个检查点保存到 data/cpt。 注意： 训练需要 GPU，因为使用了 cuDNN。CPU 上无法进行训练。如果您有 3 块或更多 GPU，可以添加 --multi_gpu 标志以加快训练速度。此外，您还可以尝试不同的超参数配置（在 hparams.py 中定义）：--hparam_set=definc、--hparam_set=inst81 等。 训练过程中显示 NaN 损失无需担心，这是正常的，因为我们是在无监督模式下进行训练，未对模型性能进行评估。
4. 在标准 Jupyter Notebook 环境中运行 submission-final.ipynb，依次执行所有单元格。预测过程可能需要一些时间，因为需要加载并评估 30 组不同的模型权重。最终，您将在 data 目录中得到 submission.csv.gz 文件。

另请参阅 详细的模型说明

Kaggle Web Traffic 快速上手指南

本指南基于 Kaggle 网页流量时间序列预测竞赛冠军方案（1st place solution），帮助开发者快速复现结果。

环境准备

• 系统要求：Linux 或 macOS（Windows 需通过 WSL 运行）。
• 硬件要求：必须配备 NVIDIA GPU。由于使用了 cuDNN，CPU 训练无法运行。若拥有 3 块及以上 GPU，可开启多卡加速。
• 前置依赖：
  • Python 3.x
  • TensorFlow (支持 cuDNN 的版本)
  • Jupyter Notebook
  • 标准数据科学库 (pandas, numpy 等)

国内加速建议： 安装 Python 依赖时，推荐使用清华或阿里镜像源以提升下载速度： pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

安装与数据准备

1. 下载数据 从竞赛官网下载以下文件并放入项目根目录下的 data 文件夹中：

   • key_2.csv.zip
   • train_2.csv.zip

   下载地址：https://www.kaggle.com/c/web-traffic-time-series-forecasting/data

2. 构建特征 运行以下命令提取数据并生成 TensorFlow 检查点格式的特征文件：

   python make_features.py data/vars --add_days=63
   

   执行后，处理好的数据将保存在 data/vars 目录中。

基本使用

1. 训练模型

运行训练脚本以复现竞赛结果。以下命令将在单个计算图上同时训练 3 个不同随机种子的模型，并保存最佳检查点。

python trainer.py --name s32 --hparam_set=s32 --n_models=3 --name s32 --no_eval --no_forward_split --asgd_decay=0.99 --max_steps=11500 --save_from_step=10500

参数说明与提示：

• 多卡加速：如果你有 3 块或更多 GPU，请添加 --multi_gpu 标志以加快训练速度。
• 超参数调整：可尝试 hparams.py 中定义的其他配置，例如 --hparam_set=definc 或 --hparam_set=inst81。
• 关于 NaN Loss：训练过程中显示 NaN loss 是正常现象。因为该模式为“盲训”（blind mode），不进行实时评估，最终提交的模型权重是经过筛选的有效结果。
• 训练生成的检查点将保存在 data/cpt 目录。

2. 生成提交文件

训练完成后，使用 Jupyter Notebook 生成最终的预测文件：

1. 启动 Jupyter Notebook：

   jupyter notebook
   

2. 打开并运行 submission-final.ipynb 中的所有单元格。
3. 程序将加载并评估 30 组不同的模型权重（过程耗时较长）。
4. 完成后，将在 data 目录下生成最终的提交文件：submission.csv.gz。

如需了解模型内部原理，请参阅项目中的 how_it_works.md 文档。