[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-qingsongedu--Awesome-TimeSeries-SpatioTemporal-LM-LLM":3,"tool-qingsongedu--Awesome-TimeSeries-SpatioTemporal-LM-LLM":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",145895,2,"2026-04-08T11:32:59",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108111,"2026-04-08T11:23:26",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[35,15,13,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":77,"owner_email":78,"owner_twitter":72,"owner_website":79,"owner_url":80,"languages":78,"stars":81,"forks":82,"last_commit_at":83,"license":78,"difficulty_score":84,"env_os":85,"env_gpu":86,"env_ram":86,"env_deps":87,"category_tags":90,"github_topics":91,"view_count":32,"oss_zip_url":78,"oss_zip_packed_at":78,"status":17,"created_at":103,"updated_at":104,"faqs":105,"releases":106},5679,"qingsongedu\u002FAwesome-TimeSeries-SpatioTemporal-LM-LLM","Awesome-TimeSeries-SpatioTemporal-LM-LLM","A professional list on Large (Language) Models and Foundation Models (LLM, LM, FM) for Time Series, Spatiotemporal, and Event Data.","Awesome-TimeSeries-SpatioTemporal-LM-LLM 是一个专为时序数据、时空数据及事件数据打造的大模型资源宝库。它系统性地整理了当前利用大语言模型（LLM）和基础模型处理时间序列分析的最新进展，涵盖了学术论文、开源代码、数据集及综述报告等核心资源。\n\n面对传统时序分析方法在处理复杂模式和多模态数据时的局限，该项目致力于解决如何高效将大模型的强大推理与泛化能力迁移至时序预测、异常检测等场景的难题。通过汇聚如 Time-LLM、AutoTimes 等前沿成果，它不仅提供了理论指引，更给出了可落地的代码实现，帮助研究者跨越从理论到实践的鸿沟。\n\n这份资源特别适合人工智能研究人员、数据科学家以及从事时序分析开发的工程师使用。无论是希望快速了解领域全貌的初学者，还是寻求最新算法灵感的资深专家，都能从中获益。其独特亮点在于不仅提供清单，还配套了由多位 IEEE Fellow 联合撰写的权威综述论文，并持续追踪 ICML、NeurIPS 等顶级会议的最新动态，确保内容的专业性与时效性，是探索“大模型 + 时序数据”交叉领域不可或缺的导航图。","# Large (Language) Models and Foundation Models (LLM, LM, FM) for Time Series and Spatio-Temporal Data\n\n[![Awesome](https:\u002F\u002Fawesome.re\u002Fbadge.svg)](https:\u002F\u002Fawesome.re) \n![PRs Welcome](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FPRs-Welcome-green) \n![Stars](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002Fqingsongedu\u002FAwesome-TimeSeries-AIOps-LM-LLM)\n[![Visits Badge](https:\u002F\u002Fbadges.pufler.dev\u002Fvisits\u002Fqingsongedu\u002FAwesome-TimeSeries-AIOps-LM-LLM)](https:\u002F\u002Fbadges.pufler.dev\u002Fvisits\u002Fqingsongedu\u002FAwesome-TimeSeries-AIOps-LM-LLM)\n\u003C!-- ![Forks](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fforks\u002Fqingsongedu\u002FAwesome-TimeSeries-AIOps-LM-LLM) -->\n\n\nA professionally curated list of **Large (Language) Models and Foundation Models (LLM, LM, FM) for Temporal Data (Time Series, Spatio-temporal, and Event Data)** with awesome resources (paper, code, data, etc.), which aims to comprehensively and systematically summarize the recent advances to the best of our knowledge.\n\nWe will continue to update this list with the newest resources. If you find any missed resources (paper\u002Fcode) or errors, please feel free to open an issue or make a pull request.\n\nFor general **AI for Time Series (AI4TS)** Papers, Tutorials, and Surveys at the **Top AI Conferences and Journals**, please check [This Repo](https:\u002F\u002Fgithub.com\u002Fqingsongedu\u002Fawesome-AI-for-time-series-papers). \n\n\n## Survey paper\n\n[**Large Models for Time Series and Spatio-Temporal Data: A Survey and Outlook**](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.10196)  \n\n**Authors**: Ming Jin, Qingsong Wen*, Yuxuan Liang, Chaoli Zhang, Siqiao Xue, Xue Wang, James Zhang, Yi Wang, Haifeng Chen, Xiaoli Li (IEEE Fellow), Shirui Pan*, Vincent S. Tseng (IEEE Fellow), Yu Zheng (IEEE Fellow), Lei Chen (IEEE Fellow), Hui Xiong (IEEE Fellow)\n\n🌟 If you find this resource helpful, please consider to star this repository and cite our survey paper:\n\n```\n@article{jin2023lm4ts,\n  title={Large Models for Time Series and Spatio-Temporal Data: A Survey and Outlook}, \n  author={Ming Jin and Qingsong Wen and Yuxuan Liang and Chaoli Zhang and Siqiao Xue and Xue Wang and James Zhang and Yi Wang and Haifeng Chen and Xiaoli Li and Shirui Pan and Vincent S. Tseng and Yu Zheng and Lei Chen and Hui Xiong},\n  journal={arXiv preprint arXiv:2310.10196},\n  year={2023}\n}\n```\n\n## LLMs for Time Series\n#### General Time Series Analysis\n* Position Paper: What Can Large Language Models Tell Us about Time Series Analysis, in *ICML* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.02713)\n* Time-FFM: Towards LM-Empowered Federated Foundation Model for Time Series Forecasting, *NeurIPS* 2024. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2405.14252)\n* Time-MMD: A New Multi-Domain Multimodal Dataset for Time Series Analysis, *NeurIPS* 2024. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2406.08627) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fadityalab\u002Ftime-mmd)\n* From News to Forecast: Integrating Event Analysis in LLM-Based Time Series Forecasting with Reflection, *NeurIPS* 2024. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2409.17515) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fameliawong1996\u002FFrom_News_to_Forecast)\n* Autotimes: Autoregressive time series forecasters via large language models, *NeurIPS* 2024. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.02370) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fthuml\u002FAutoTimes)\n* S^2IP-LLM: Semantic Space Informed Prompt Learning with LLM for Time Series Forecasting, in *ICML* 2024, [\\[paper\\]](https:\u002F\u002Fopenreview.net\u002Fforum?id=qwQVV5R8Y7)\n* Multi-Patch Prediction: Adapting LLMs for Time Series Representation Learning, in *ICML* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.04852) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fyxbian23\u002FaLLM4TS)\n* TimeCMA: Towards LLM-Empowered Multivariate Time Series Forecasting via Cross-Modality Alignment, in *AAAI* 2025, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2406.01638)\n* Time-LLM: Time Series Forecasting by Reprogramming Large Language Models, in *ICLR* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.01728) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002FKimMeen\u002FTime-LLM)\n* TEMPO: Prompt-based Generative Pre-trained Transformer for Time Series Forecasting, in *ICLR* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.04948)\n* TEST: Text Prototype Aligned Embedding to Activate LLM's Ability for Time Series, in *ICLR* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.08241)\n* UniTime: A Language-Empowered Unified Model for Cross-Domain Time Series Forecasting, in *WWW* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.09751)\n* LLM4TS: Two-Stage Fine-Tuning for Time-Series Forecasting with Pre-Trained LLMs, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.08469)\n* The first step is the hardest: Pitfalls of Representing and Tokenizing Temporal Data for Large Language Models, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2309.06236)\n* PromptCast: A New Prompt-based Learning Paradigm for Time Series Forecasting, in *TKDE* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2210.08964)\n* One Fits All: Power General Time Series Analysis by Pretrained LM, in *NeurIPS* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2302.11939) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002FDAMO-DI-ML\u002FNeurIPS2023-One-Fits-All)\n* Large Language Models Are Zero-Shot Time Series Forecasters, in *NeurIPS* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.07820) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fngruver\u002Fllmtime)\n* NuwaTS: a Foundation Model Mending Every Incomplete Time Series, in *arXiv* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2405.15317)\n\n\n  \n#### Transportation Application\n* Where Would I Go Next? Large Language Models as Human Mobility Predictors, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.15197)\n* Leveraging Language Foundation Models for Human Mobility Forecasting, in *SIGSPATIAL* 2022, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2209.05479)\n#### Finance Application\n* Temporal Data Meets LLM -- Explainable Financial Time Series Forecasting, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.11025)\n* BloombergGPT: A Large Language Model for Finance, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2303.17564)\n* WeaverBird: Empowering Financial Decision-Making with Large Language Model, Knowledge Base, and Search Engine, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.05361)[\\[official-code\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002Ffin_domain_llm)\n* Can ChatGPT Forecast Stock Price Movements? Return Predictability and Large Language Models, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Fpapers.ssrn.com\u002Fsol3\u002Fpapers.cfm?abstract_id=4412788)\n* Instruct-FinGPT: Financial Sentiment Analysis by Instruction Tuning of General-Purpose Large Language Models, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.12659)\n* The Wall Street Neophyte: A Zero-Shot Analysis of ChatGPT Over MultiModal Stock Movement Prediction Challenges, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.05351)\n\n#### Healthcare Application \n* Large Language Models are Few-Shot Health Learners, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.15525)\n* Health system-scale language models are all-purpose prediction engines, in *Nature* 2023, [\\[paper\\]](https:\u002F\u002Fwww.nature.com\u002Farticles\u002Fs41586-023-06160-y)\n* A large language model for electronic health records, in *NPJ Digit. Med.* 2022, [\\[paper\\]](https:\u002F\u002Fwww.nature.com\u002Farticles\u002Fs41746-022-00742-2)\n\n#### Event Analysis\n* Drafting Event Schemas using Language Models, in *arXiv* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.14847)\n* Language Models Can Improve Event Prediction by Few-Shot Abductive Reasoning, in *NeurIPS* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.16646), [\\[official-code\\]](https:\u002F\u002Fgithub.com\u002FiLampard\u002Fep_llm)\n\n\n\n## PFMs for Time Series  \n##### General Time Series Analysis\n* Time-MoE: Billion-Scale Time Series Foundation Models with Mixture of Experts, *arXiv* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2409.16040) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Ftime-moe\u002Ftime-moe)\n* Unified training of universal time series forecasting transformers, in *ICML* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.02592) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002FSalesforceAIResearch\u002Funi2ts) \n* Moment: A family of open time-series foundation models, in *ICML* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.03885) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fmoment-timeseries-foundation-model\u002Fmoment) \n* A decoder-only foundation model for time-series forecasting, in *ICML* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.10688) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fgoogle-research\u002Ftimesfm) \n* Chronos: Learning the language of time series, in *TMLR* 2024, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2403.07815) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Famazon-science\u002Fchronos-forecasting) \n* SimMTM: A Simple Pre-Training Framework for Masked Time-Series Modeling, in *NeurIPS* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2302.00861)\n* A Time Series is Worth 64 Words: Long-term Forecasting with Transformers, in *ICLR* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2211.14730) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fyuqinie98\u002FPatchTST)\n* Contrastive Learning for Unsupervised Domain Adaptation of Time Series, in *ICLR* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2206.06243)\n* TSMixer: Lightweight MLP-Mixer Model for Multivariate Time Series Forecasting, in *KDD* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.09364)\n* Self-Supervised Contrastive Pre-Training For Time Series via Time-Frequency Consistency, in *NeurIPS* 2022, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2206.08496) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fmims-harvard\u002FTFC-pretraining)\n* Pre-training Enhanced Spatial-temporal Graph Neural Network for Multivariate Time Series Forecasting, in *KDD* 2022, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2206.09113)\n* TS2Vec: Towards Universal Representation of Time Series, in *AAAI* 2022, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2106.10466) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fyuezhihan\u002Fts2vec)\n* Voice2Series: Reprogramming Acoustic Models for Time Series Classification, in *ICML* 2021. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2106.09296) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fhuckiyang\u002FVoice2Series-Reprogramming)\n\n#### Event Analysis \n* Prompt-augmented Temporal Point Process for Streaming Event Sequence, in *NeurIPS* 2023, [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2310.04993.pdf) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002FyanyanSann\u002FPromptTPP)\n\n## LLMs for Spatio-Temporal Graphs\n* Language knowledge-Assisted Representation Learning for Skeleton-based Action Recognition, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.12398.pdf)\n* Chatgpt-Informed Graph Neural Network for Stock Movement Prediction, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.03763.pdf)\n\n## PFMs for Spatio-Temporal Graphs\n#### General Purposes\n* When do Contrastive Learning Signals help Spatio-Temporal Graph Forecasting? in *SIGSPATIAL* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2108.11873.pdf)\n* Mining Spatio-Temporal Relations via Self-Paced Graph Contrastive Learning, in *KDD* 2022. [\\[paper\\]](https:\u002F\u002Fdl.acm.org\u002Fdoi\u002Fpdf\u002F10.1145\u002F3534678.3539422)\n\n#### Climate\n* Accurate Medium-Range Global Weather Forecasting with 3D Neural Networks, in *Nature* 2023. [\\[paper\\]](https:\u002F\u002Fwww.nature.com\u002Farticles\u002Fs41586-023-06185-3)\n* ClimaX: A Foundation Model for Weather and Climate, in *ICML* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2301.10343) [\\[official code\\]](https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002FClimaX)\n* GraphCast: Learning Skillful Medium-Range Global Weather Forecasting, in *arXiv* 2022. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2212.12794)\n* FourCastNet: A Global Data-driven High-resolution Weather Model using Adaptive Fourier Neural Operator, in *arXiv* 2022. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2202.11214)\n* Accurate Medium-Range Global Weather Forecasting with 3d Neural Networks, in *Nature* 2023. [\\[paper\\]](https:\u002F\u002Fwww.nature.com\u002Farticles\u002Fs41586-023-06185-3)\n* W-MAE: Pre-Trained Weather Model with Masked Autoencoder for Multi-Variable Weather Forecasting, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2304.08754.pdf)\n* FengWu: Pushing the Skillful Global Medium-range Weather Forecast beyond 10 Days Lead, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.02948)\n\n\n#### Transportation\n* Pre-trained Bidirectional Temporal Representation for Crowd Flows Prediction in Regular Region, in *IEEE Access* 2019. [\\[paper\\]](https:\u002F\u002Fieeexplore.ieee.org\u002Fdocument\u002F8854786)\n* Trafficbert: Pretrained Model with Large-Scale Data for Long-Range Traffic Flow Forecasting, in *Expert Systems with Applications* 2021. [\\[paper\\]](https:\u002F\u002Fwww.sciencedirect.com\u002Fscience\u002Farticle\u002Fabs\u002Fpii\u002FS0957417421011179)\n* Building Transportation Foundation Model via Generative Graph Transformer, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.14826.pdf)\n\n## LLMs for Video Data\n* Zero-shot Video Question Answering via Frozen Bidirectional Language Models, in *NeurIPS* 2022. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2206.08155.pdf)\n* Language Models with Image Descriptors are Strong Few-Shot Video-Language Learners, in *NeurIPS* 2022. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2205.10747.pdf)\n* VideoLLM: Modeling Video Sequence with Large Language Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.13292.pdf)\n* VALLEY: Viode Assitant with Large Language Model Enhanced Ability, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.07207.pdf)\n* Vid2Seq: Large-Scale Pretraining of a Visual Language Model for Dense Video Captioning, in *CVPR* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2302.14115.pdf)\n* Retrieving-to-Answer: Zero-Shot Video Question Answering with Frozen Large Language Models, in *NeurIPS* 2022. [\\[paper\\]](https:\u002F\u002Fopenreview.net\u002Fpdf?id=9uRS5ysgb9)\n* VideoChat: Chat-Centric Video Understanding, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.06355.pdf)\n* MovieChat: From Dense Token to Sparse Memory for Long Video Understanding, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2307.16449.pdf)\n* Language Models are Causal Knowledge Extractors for Zero-shot Video Question Answering, in *CVPR* 2023.  [\\[paper\\]](https:\u002F\u002Fopenaccess.thecvf.com\u002Fcontent\u002FCVPR2023W\u002FL3D-IVU\u002Fpapers\u002FSu_Language_Models_Are_Causal_Knowledge_Extractors_for_Zero-Shot_Video_Question_CVPRW_2023_paper.pdf)\n* Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understanding, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.02858.pdf)\n* Learning Video Representations from Large Language Models, in *CVPR* 2023. \n[\\[paper\\]](https:\u002F\u002Fopenaccess.thecvf.com\u002Fcontent\u002FCVPR2023\u002Fpapers\u002FZhao_Learning_Video_Representations_From_Large_Language_Models_CVPR_2023_paper.pdf)\n* Video-ChatGPT: Towards Detailed Video Understanding via Large Vision and Language Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.05424.pdf)\n* Traffic-Domain Video Question Answering with Automatic Captioning, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2307.09636.pdf)\n* LAVENDER: Unifying Video-Language Understanding as Masked Language Modeling, in *CVPR* 2023. [\\[paper\\]](https:\u002F\u002Fopenaccess.thecvf.com\u002Fcontent\u002FCVPR2023\u002Fpapers\u002FLi_LAVENDER_Unifying_Video-Language_Understanding_As_Masked_Language_Modeling_CVPR_2023_paper.pdf)\n\n## PFMs for Video Data\n* OmniVL: One Foundation Model for Image-Language and Video-Language Tasks, in *NeurIPS* 2022. [\\[paper\\]](https:\u002F\u002Fopenreview.net\u002Fpdf?id=u4ihlSG240n)\n* Youku-mPLUG: A 10 Million Large-scale Chinese Video-Language Dataset for Pre-training and Benchmarks, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.04362.pdf)\n* PAXION: Patching Action Knowledge in Video-Language Foundation Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.10683.pdf)\n* mPLUG-2: A Modularized Multi-modal Foundation Model Across Text, Image and Video, in *ICML* 2023. [\\[paper\\]](https:\u002F\u002Fopenreview.net\u002Fpdf?id=DSOmy0ScK6)\n\n\n\n\n\n\n#### Datasets\n##### Traffic Application\n* METR-LA [\\[link\\]](https:\u002F\u002Fzenodo.org\u002Frecord\u002F5146275)\n* PEMS-BAY [\\[link\\]](https:\u002F\u002Fzenodo.org\u002Frecord\u002F5146275)\n* PEMS04 [\\[link\\]](https:\u002F\u002Fgithub.com\u002FDavidham3\u002FASTGCN)\n* SUTD-TrafficQA [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fsutdcv\u002FSUTD-TrafficQA)\n* TaxiBJ [\\link\\]](https:\u002F\u002Fgithub.com\u002FTolicWang\u002FDeepST\u002Ftree\u002Fmaster\u002Fdata\u002FTaxiBJ)\n* BikeNYC [\\[link\\]](https:\u002F\u002Fcitibikenyc.com\u002Fsystem-data)\n* TaxiNYC [\\[link\\]](https:\u002F\u002Fwww1.nyc.gov\u002Fsite\u002Ftlc\u002Fabout\u002Ftlc-trip-record-data.page)\n* Mobility [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fgmu-ggs-nsf-abm-research\u002Fmobility-trends)\n* LargeST [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fliuxu77\u002FLargeST)\n\n##### Healthcare Application\n* PTB-XL [\\[link\\]](https:\u002F\u002Fphysionet.org\u002Fcontent\u002Fptb-xl\u002F1.0.3\u002F)\n* NYUTron [\\[link\\]](https:\u002F\u002Fdatacatalog.med.nyu.edu\u002Fdataset\u002F10633)\n* UF Health clinical corpus [\\[link\\]](https:\u002F\u002Fcatalog.ngc.nvidia.com\u002Forgs\u002Fnvidia\u002Fteams\u002Fclara\u002Fmodels\u002Fgatortron_og)\n* i2b2-2012 [\\[link\\]](https:\u002F\u002Fwww.i2b2.org\u002FNLP\u002FTemporalRelations\u002F)\n* MIMIC-III [\\[link\\]](https:\u002F\u002Fphysionet.org\u002Fcontent\u002Fmimiciii\u002F1.4\u002F)\n* CirCor DigiScope [\\[link\\]](https:\u002F\u002Fphysionet.org\u002Fcontent\u002Fcircor-heart-sound\u002F1.0.3\u002F)\n\n##### Weather Application\n* SEVIR [\\[link\\]](https:\u002F\u002Fregistry.opendata.aws\u002Fsevir\u002F)\n* Shifts-Weather Prediction [\\[link\\]](https:\u002F\u002Fgithub.com\u002FShifts-Project\u002Fshifts)\n* AvePRE [\\[link\\]](https:\u002F\u002Fdisc.gsfc.nasa.gov\u002F)\n* SurTEMP [\\[link\\]](https:\u002F\u002Fdisc.gsfc.nasa.gov\u002F)\n* SurUPS [\\[link\\]](https:\u002F\u002Fdisc.gsfc.nasa.gov\u002F)\n* ERA5 reanalysis data [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fpangeo-data\u002FWeatherBench)\n* CMIP6 [\\[link\\]](https:\u002F\u002Fcds.climate.copernicus.eu\u002Fcdsapp\\#!\u002Fdataset\u002Fprojections-cmip6?tab=overview)\n\n##### Finance Application\n* Finance (Employment) [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fashfarhangi\u002FAA-Forecast\u002Ftree\u002Fmain\u002Fdataset)\n* StockNet [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fyumoxu\u002Fstocknet-dataset)\n* EDT [\\[link\\]](https:\u002F\u002Fgithub.com\u002FZhihan1996\u002FTradeTheEvent\u002Ftree\u002Fmain\u002Fdata\\#edt-dataset)\n* NASDAQ-100 [\\[link\\]](https:\u002F\u002Fcseweb.ucsd.edu\u002F~yaq007\u002FNASDAQ100_stock_data.html)\n\n##### Video Application\n* TGIF-QA [\\[link\\]](https:\u002F\u002Fgithub.com\u002FYunseokJANG\u002Ftgif-qa)\n* MSR-VTT [\\[link\\]](https:\u002F\u002Fdrive.google.com\u002Ffile\u002Fd\u002F1pWym3bMNW_WrOZCi5Ls-wKFpaPMbLOio\u002Fview)\n* WebVid [\\[link\\]](https:\u002F\u002Fmaxbain.com\u002Fwebvid-dataset\u002F)\n* MSVD [\\[link\\]](https:\u002F\u002Fwww.microsoft.com\u002Fen-us\u002Fdownload\u002F)\n* DiDeMo [\\[link\\]](https:\u002F\u002Fgithub.com\u002FLisaAnne\u002FTemporalLanguageRelease)\n* COCO [\\[link\\]](https:\u002F\u002Fcocodataset.org\u002F\\#home)\n\n##### Event Analysis Application\n* Amazon [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n* Taobao [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n* Retweet [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n* StackOverflow [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n* Taxi [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n\n##### Other General Application\n* ETT [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fzhouhaoyi\u002FETDataset)\n* M4 [\\[link\\]](https:\u002F\u002Fgithub.com\u002FMcompetitions\u002FM4-methods)\n* Electricity [\\[link\\]](https:\u002F\u002Farchive.ics.uci.edu\u002Fdataset\u002F235\u002Findividual+household+electric+power+consumption)\n* Alibaba Cluster Trace [\\[link\\]](https:\u002F\u002Fgithub.com\u002Falibaba\u002Fclusterdata)\n* TSSB [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fermshaua\u002Ftime-series-segmentation-benchmark)\n* UCR TS Classification Archive [\\[link\\]](https:\u002F\u002Fwww.cs.ucr.edu\u002F~eamonn\u002Ftime_series_data_2018\u002F)\n \n\n\n## Related LLM\u002FLM\u002FFM Resources\n#### Survey\n* A Survey of Large Language Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2303.18223) [\\[link\\]](https:\u002F\u002Fgithub.com\u002FRUCAIBox\u002FLLMSurvey)\n* Harnessing the Power of LLMs in Practice: A Survey on ChatGPT and Beyond, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.13712) [\\[link\\]](https:\u002F\u002Fgithub.com\u002FMooler0410\u002FLLMsPracticalGuide)  \n* LLM-Adapters: An Adapter Family for Parameter-Efficient Fine-Tuning of Large Language Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.01933) [\\[link\\]](https:\u002F\u002Fgithub.com\u002FAGI-Edgerunners\u002FLLM-Adapters)\n* Beyond One-Model-Fits-All: A Survey of Domain Specialization for Large Language Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.18703)\n* Large AI Models in Health Informatics: Applications, Challenges, and the Future, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2303.11568) [\\[link\\]](https:\u002F\u002Fgithub.com\u002FJianing-Qiu\u002FAwesome-Healthcare-Foundation-Models)\n* FinGPT: Open-Source Financial Large Language Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.06031) [\\[link\\]](https:\u002F\u002Fgithub.com\u002FAI4Finance-Foundation\u002FFinGPT) \n* On the Opportunities and Challenges of Foundation Models for Geospatial Artificial Intelligence, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.06798)\n\n\n#### Github\n* Awesome LLM. [\\[link\\]](https:\u002F\u002Fgithub.com\u002FHannibal046\u002FAwesome-LLM)\n* Open LLMs. [\\[link\\]](https:\u002F\u002Fgithub.com\u002Feugeneyan\u002Fopen-llms)\n* Awesome LLMOps. [\\[link\\]](https:\u002F\u002Fgithub.com\u002Ftensorchord\u002FAwesome-LLMOps)\n* Awesome Foundation Models. [\\[link\\]](https:\u002F\u002Fgithub.com\u002Funcbiag\u002FAwesome-Foundation-Models)\n* Awesome Graph LLM. [\\[link\\]](https:\u002F\u002Fgithub.com\u002FXiaoxinHe\u002FAwesome-Graph-LLM)\n* Awesome Multimodal Large Language Models. [\\[link\\]](https:\u002F\u002Fgithub.com\u002FBradyFU\u002FAwesome-Multimodal-Large-Language-Models)\n\n## Related Resources\n#### Surveys of Time Series\n* Foundation Models for Time Series Analysis: A Tutorial and Survey, in *KDD* 2024. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2403.14735)\n* What Can Large Language Models Tell Us about Time Series Analysis, in *ICML* 2024. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.02713)\n* Deep Learning for Multivariate Time Series Imputation: A Survey, in *arXiv* 2024. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.04059) [\\[Website\\]](https:\u002F\u002Fgithub.com\u002Fwenjiedu\u002Fawesome_imputation)\n* Self-Supervised Learning for Time Series Analysis: Taxonomy, Progress, and Prospects, in *TPAMI* 2024. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.10125) [\\[Website\\]](https:\u002F\u002Fgithub.com\u002Fqingsongedu\u002FAwesome-SSL4TS)\n* A Survey on Graph Neural Networks for Time Series: Forecasting, Classification, Imputation, and Anomaly Detection, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2307.03759) [\\[Website\\]](https:\u002F\u002Fgithub.com\u002FKimMeen\u002FAwesome-GNN4TS)\n* Transformers in Time Series: A Survey, in *IJCAI* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2202.07125) [\\[GitHub Repo\\]](https:\u002F\u002Fgithub.com\u002Fqingsongedu\u002Ftime-series-transformers-review)\n* Time series data augmentation for deep learning: a survey, in *IJCAI* 2021. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2002.12478)\n* Time-series forecasting with deep learning: a survey, in *Philosophical Transactions of the Royal Society A* 2021. [\\[paper\\]](https:\u002F\u002Froyalsocietypublishing.org\u002Fdoi\u002Ffull\u002F10.1098\u002Frsta.2020.0209)\n* A review on outlier\u002Fanomaly detection in time series data, in *CSUR* 2021. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2002.04236)\n* Deep learning for time series classification: a review, in *Data Mining and Knowledge Discovery* 2019. [\\[paper\\]](https:\u002F\u002Flink.springer.com\u002Farticle\u002F10.1007\u002Fs10618-019-00619-1?sap-outbound-id=11FC28E054C1A9EB6F54F987D4B526A6EE3495FD&mkt-key=005056A5C6311EE999A3A1E864CDA986)\n* A Survey on Time-Series Pre-Trained Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.10716) [\\[link\\]](https:\u002F\u002Fgithub.com\u002Fqianlima-lab\u002Ftime-series-ptms)\n* Self-Supervised Learning for Time Series Analysis: Taxonomy, Progress, and Prospects, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.10125) [\\[Website\\]](https:\u002F\u002Fgithub.com\u002Fqingsongedu\u002FAwesome-SSL4TS)\n* A Survey on Graph Neural Networks for Time Series: Forecasting, Classification, Imputation, and Anomaly Detection, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2307.03759) [\\[Website\\]](https:\u002F\u002Fgithub.com\u002FKimMeen\u002FAwesome-GNN4TS)\n\n#### Surveys of AIOps\n* AIOps: real-world challenges and research innovations, in *ICSE* 2019. [\\[paper\\]](https:\u002F\u002Fweb.eecs.umich.edu\u002F~ryanph\u002Fpaper\u002Faiops-icse19-briefing.pdf)\n* A Survey of AIOps Methods for Failure Management, in *TIST* 2021. [\\[paper\\]](https:\u002F\u002Fjorge-cardoso.github.io\u002Fpublications\u002FPapers\u002FJA-2021-025-Survey_AIOps_Methods_for_Failure_Management.pdf)\n* AI for IT Operations (AIOps) on Cloud Platforms: Reviews, Opportunities and Challenges, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.04661)\n\n\n#### LLM\u002FLM\u002FFM Papers for AIOps\n* Empowering Practical Root Cause Analysis by Large Language Models for Cloud Incidents, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.15778)\n* Recommending Root-Cause and Mitigation Steps for Cloud Incidents using Large Language Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2301.03797)\n* OpsEval: A Comprehensive Task-Oriented AIOps Benchmark for Large Language Models, in *arXiv* 2023. [\\[paper\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.07637)\n\n```\n\n\n\n","# 用于时间序列与时空数据的大型（语言）模型和基础模型（LLM、LM、FM）\n\n[![Awesome](https:\u002F\u002Fawesome.re\u002Fbadge.svg)](https:\u002F\u002Fawesome.re) \n![欢迎提交PR](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FPRs-Welcome-green) \n![星标数](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002Fqingsongedu\u002FAwesome-TimeSeries-AIOps-LM-LLM)\n[![访问量徽章](https:\u002F\u002Fbadges.pufler.dev\u002Fvisits\u002Fqingsongedu\u002FAwesome-TimeSeries-AIOps-LM-LLM)](https:\u002F\u002Fbadges.pufler.dev\u002Fvisits\u002Fqingsongedu\u002FAwesome-TimeSeries-AIOps-LM-LLM)\n\u003C!-- ![叉子数](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fforks\u002Fqingsongedu\u002FAwesome-TimeSeries-AIOps-LM-LLM) -->\n\n\n这是一份由专业人士精心整理的关于**用于时序数据（时间序列、时空数据及事件数据）的大型（语言）模型和基础模型（LLM、LM、FM）**的列表，汇集了丰富的资源（论文、代码、数据等），旨在全面且系统地总结我们所知的最新进展。\n\n我们将持续更新此列表，添加最新的资源。如果您发现有任何遗漏的资源（论文或代码）或错误，请随时提出 issue 或发起 pull request。\n\n如需了解在**顶级人工智能会议和期刊**上发表的关于**时间序列人工智能（AI4TS）**的通用论文、教程和综述，请参阅[此仓库](https:\u002F\u002Fgithub.com\u002Fqingsongedu\u002Fawesome-AI-for-time-series-papers)。\n\n\n## 综述论文\n\n[**用于时间序列与时空数据的大型模型：综述与展望**](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.10196)  \n\n**作者**: 金明、温庆松*、梁宇轩、张超立、薛思乔、王雪、张詹姆斯、王毅、陈海峰、李晓莉（IEEE会士）、潘世睿*、曾文森（IEEE会士）、郑宇（IEEE会士）、陈磊（IEEE会士）、熊辉（IEEE会士）\n\n🌟 如果您觉得本资源有所帮助，请为本仓库点亮星标，并引用我们的综述论文：\n\n```\n@article{jin2023lm4ts,\n  title={Large Models for Time Series and Spatio-Temporal Data: A Survey and Outlook}, \n  author={Ming Jin and Qingsong Wen and Yuxuan Liang and Chaoli Zhang and Siqiao Xue and Xue Wang and James Zhang and Yi Wang and Haifeng Chen and Xiaoli Li and Shirui Pan and Vincent S. Tseng and Yu Zheng and Lei Chen and Hui Xiong},\n  journal={arXiv preprint arXiv:2310.10196},\n  year={2023}\n}\n```\n\n## 用于时间序列的大语言模型\n#### 通用时间序列分析\n* 观点论文：大型语言模型能为时间序列分析带来什么启示，发表于 *ICML* 2024，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.02713)\n* Time-FFM：迈向由大语言模型赋能的联邦基础模型用于时间序列预测，*NeurIPS* 2024。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2405.14252)\n* Time-MMD：一种用于时间序列分析的新多领域多模态数据集，*NeurIPS* 2024。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2406.08627) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fadityalab\u002Ftime-mmd)\n* 从新闻到预测：通过反思将事件分析融入基于大语言模型的时间序列预测，*NeurIPS* 2024。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2409.17515) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fameliawong1996\u002FFrom_News_to_Forecast)\n* Autotimes：利用大语言模型进行自回归时间序列预测，*NeurIPS* 2024。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.02370) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fthuml\u002FAutoTimes)\n* S^2IP-LLM：基于语义空间引导的提示学习与大语言模型结合用于时间序列预测，发表于 *ICML* 2024，[\\[论文\\]](https:\u002F\u002Fopenreview.net\u002Fforum?id=qwQVV5R8Y7)\n* 多片段预测：适配大语言模型用于时间序列表征学习，发表于 *ICML* 2024，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.04852) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fyxbian23\u002FaLLM4TS)\n* TimeCMA：迈向通过跨模态对齐实现大语言模型赋能的多元时间序列预测，发表于 *AAAI* 2025，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2406.01638)\n* Time-LLM：通过重编程大型语言模型进行时间序列预测，发表于 *ICLR* 2024，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.01728) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002FKimMeen\u002FTime-LLM)\n* TEMPO：基于提示的生成式预训练Transformer用于时间序列预测，发表于 *ICLR* 2024，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.04948)\n* TEST：文本原型对齐嵌入以激活大语言模型在时间序列任务中的能力，发表于 *ICLR* 2024，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.08241)\n* UniTime：一种语言赋能的统一模型，用于跨领域时间序列预测，发表于 *WWW* 2024，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.09751)\n* LLM4TS：使用预训练大语言模型进行时间序列预测的两阶段微调，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.08469)\n* 踏出第一步最难：为大型语言模型表示和分词时间序列数据时的陷阱，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2309.06236)\n* PromptCast：一种新的基于提示的学习范式用于时间序列预测，发表于 *TKDE* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2210.08964)\n* 一招通吃：用预训练语言模型赋能通用时间序列分析，发表于 *NeurIPS* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2302.11939) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002FDAMO-DI-ML\u002FNeurIPS2023-One-Fits-All)\n* 大型语言模型是零样本时间序列预测器，发表于 *NeurIPS* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.07820) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fngruver\u002Fllmtime)\n* NuwaTS：一个能够修复所有不完整时间序列的基础模型，发表于 *arXiv* 2024，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2405.15317)\n\n\n  \n#### 交通应用\n* 我接下来会去哪里？大型语言模型作为人类出行预测器，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.15197)\n* 利用语言基础模型进行人类出行预测，发表于 *SIGSPATIAL* 2022，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2209.05479)\n#### 金融应用\n* 时间序列数据与大语言模型相遇——可解释的金融时间序列预测，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.11025)\n* BloombergGPT：一款面向金融领域的大型语言模型，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2303.17564)\n* WeaverBird：利用大语言模型、知识库和搜索引擎赋能金融决策，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.05361) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002Ffin_domain_llm)\n* ChatGPT能否预测股价走势？收益可预测性与大型语言模型，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Fpapers.ssrn.com\u002Fsol3\u002Fpapers.cfm?abstract_id=4412788)\n* Instruct-FinGPT：通过指令微调通用大型语言模型进行金融情绪分析，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.12659)\n* 华尔街新手：ChatGPT在多模态股票走势预测挑战中的零样本分析，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.05351)\n\n#### 医疗健康应用\n* 大型语言模型是少样本医疗学习者，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.15525)\n* 具备医疗系统规模的语言模型是全能预测引擎，发表于 *Nature* 2023，[\\[论文\\]](https:\u002F\u002Fwww.nature.com\u002Farticles\u002Fs41586-023-06160-y)\n* 一款用于电子健康记录的大语言模型，发表于 *NPJ Digit. Med.* 2022，[\\[论文\\]](https:\u002F\u002Fwww.nature.com\u002Farticles\u002Fs41746-022-00742-2)\n\n#### 事件分析\n* 使用语言模型编写事件模式，发表于 *arXiv* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.14847)\n* 语言模型可通过少样本溯因推理提升事件预测能力，发表于 *NeurIPS* 2023，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.16646)，[\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002FiLampard\u002Fep_llm)\n\n## 用于时间序列的 PFM\n##### 通用时间序列分析\n* Time-MoE：基于专家混合的大规模时间序列基础模型，*arXiv* 2024，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2409.16040) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Ftime-moe\u002Ftime-moe)\n* 通用时间序列预测 Transformer 的统一训练，在 *ICML* 2024 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.02592) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002FSalesforceAIResearch\u002Funi2ts)\n* Moment：一系列开源时间序列基础模型，在 *ICML* 2024 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.03885) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fmoment-timeseries-foundation-model\u002Fmoment)\n* 一种仅解码器的时间序列预测基础模型，在 *ICML* 2024 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.10688) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fgoogle-research\u002Ftimesfm)\n* Chronos：学习时间序列的语言，在 *TMLR* 2024 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2403.07815) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Famazon-science\u002Fchronos-forecasting)\n* SimMTM：一种用于掩码时间序列建模的简单预训练框架，在 *NeurIPS* 2023 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2302.00861)\n* 时间序列胜过64个词：基于 Transformer 的长期预测，在 *ICLR* 2023 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2211.14730) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fyuqinie98\u002FPatchTST)\n* 无监督时间序列领域适应的对比学习，在 *ICLR* 2023 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2206.06243)\n* TSMixer：用于多变量时间序列预测的轻量级 MLP-Mixer 模型，在 *KDD* 2023 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.09364)\n* 基于时频一致性的自监督对比预训练，用于时间序列，在 *NeurIPS* 2022 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2206.08496) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fmims-harvard\u002FTFC-pretraining)\n* 预训练增强的时空图神经网络，用于多变量时间序列预测，在 *KDD* 2022 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2206.09113)\n* TS2Vec：迈向时间序列的通用表示，在 *AAAI* 2022 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2106.10466) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fyuezhihan\u002Fts2vec)\n* Voice2Series：重新编程声学模型以进行时间序列分类，在 *ICML* 2021 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2106.09296) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fhuckiyang\u002FVoice2Series-Reprogramming)\n\n#### 事件分析\n* 面向流式事件序列的提示增强型时间点过程，在 *NeurIPS* 2023 上发表，[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2310.04993.pdf) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002FyanyanSann\u002FPromptTPP)\n\n## 用于时空图的 LLM\n* 基于语言知识辅助的骨架动作识别表征学习，在 *arXiv* 2023 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.12398.pdf)\n* ChatGPT 赋能的图神经网络用于股票走势预测，在 *arXiv* 2023 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.03763.pdf)\n\n## 用于时空图的 PFM\n#### 通用用途\n* 对比学习信号何时有助于时空图预测？在 *SIGSPATIAL* 2023 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2108.11873.pdf)\n* 通过自步图对比学习挖掘时空关系，在 *KDD* 2022 上发表。[\\[论文\\]](https:\u002F\u002Fdl.acm.org\u002Fdoi\u002Fpdf\u002F10.1145\u002F3534678.3539422)\n\n#### 气候\n* 使用 3D 神经网络实现精准的中期全球天气预报，在 *Nature* 2023 上发表。[\\[论文\\]](https:\u002F\u002Fwww.nature.com\u002Farticles\u002Fs41586-023-06185-3)\n* ClimaX：气象与气候的基础模型，在 *ICML* 2023 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2301.10343) [\\[官方代码\\]](https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002FClimaX)\n* GraphCast：学习熟练的中期全球天气预报，在 *arXiv* 2022 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2212.12794)\n* FourCastNet：使用自适应傅里叶神经算子构建的全球数据驱动高分辨率天气模型，在 *arXiv* 2022 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2202.11214)\n* 使用 3D 神经网络实现精准的中期全球天气预报，在 *Nature* 2023 上发表。[\\[论文\\]](https:\u002F\u002Fwww.nature.com\u002Farticles\u002Fs41586-023-06185-3)\n* W-MAE：具有掩码自编码器的多变量天气预报预训练模型，在 *arXiv* 2023 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2304.08754.pdf)\n* FengWu：将熟练的全球中期天气预报提前至 10 天以上，在 *arXiv* 2023 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.02948)\n\n#### 交通\n* 用于常规区域人群流量预测的预训练双向时间表示，在 *IEEE Access* 2019 上发表。[\\[论文\\]](https:\u002F\u002Fieeexplore.ieee.org\u002Fdocument\u002F8854786)\n* TrafficBERT：基于大规模数据的预训练模型，用于长距离交通流量预测，在 *Expert Systems with Applications* 2021 上发表。[\\[论文\\]](https:\u002F\u002Fwww.sciencedirect.com\u002Fscience\u002Farticle\u002Fabs\u002Fpii\u002FS0957417421011179)\n* 通过生成式图 Transformer 构建交通基础模型，在 *arXiv* 2023 上发表。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.14826.pdf)\n\n## 面向视频数据的大型语言模型\n* 通过冻结双向语言模型实现零样本视频问答，发表于 *NeurIPS* 2022。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2206.08155.pdf)\n* 带有图像描述符的语言模型是强大的少样本视频-语言学习者，发表于 *NeurIPS* 2022。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2205.10747.pdf)\n* VideoLLM：利用大型语言模型建模视频序列，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.13292.pdf)\n* VALLEY：具备大型语言模型增强能力的视频助手，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.07207.pdf)\n* Vid2Seq：用于密集视频字幕生成的视觉语言模型大规模预训练，发表于 *CVPR* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2302.14115.pdf)\n* 检索-回答：使用冻结大型语言模型实现零样本视频问答，发表于 *NeurIPS* 2022。[\\[论文\\]](https:\u002F\u002Fopenreview.net\u002Fpdf?id=9uRS5ysgb9)\n* VideoChat：以聊天为中心的视频理解，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.06355.pdf)\n* MovieChat：从密集标记到稀疏记忆，用于长视频理解，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2307.16449.pdf)\n* 语言模型是零样本视频问答的因果知识提取器，发表于 *CVPR* 2023。[\\[论文\\]](https:\u002F\u002Fopenaccess.thecvf.com\u002Fcontent\u002FCVPR2023W\u002FL3D-IVU\u002Fpapers\u002FSu_Language_Models_Are_Causal_Knowledge_Extractors_for_Zero-Shot_Video_Question_CVPRW_2023_paper.pdf)\n* Video-LLaMA：面向视频理解的指令微调音视频语言模型，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.02858.pdf)\n* 从大型语言模型中学习视频表征，发表于 *CVPR* 2023。\n[\\[论文\\]](https:\u002F\u002Fopenaccess.thecvf.com\u002Fcontent\u002FCVPR2023\u002Fpapers\u002FZhao_Learning_Video_Representations_From_Large_Language_Models_CVPR_2023_paper.pdf)\n* Video-ChatGPT：借助大型视觉和语言模型迈向详细的视频理解，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.05424.pdf)\n* 基于自动字幕的交通领域视频问答，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2307.09636.pdf)\n* LAVENDER：将视频-语言理解统一为掩码语言建模，发表于 *CVPR* 2023。[\\[论文\\]](https:\u002F\u002Fopenaccess.thecvf.com\u002Fcontent\u002FCVPR2023\u002Fpapers\u002FLi_LAVENDER_Unifying_Video-Language_Understanding_As_Masked_Language_Modeling_CVPR_2023_paper.pdf)\n\n## 面向视频数据的基础模型\n* OmniVL：一个适用于图文和视频-语言任务的基础模型，发表于 *NeurIPS* 2022。[\\[论文\\]](https:\u002F\u002Fopenreview.net\u002Fpdf?id=u4ihlSG240n)\n* Youku-mPLUG：用于预训练和基准测试的1000万规模中文视频-语言数据集，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2306.04362.pdf)\n* PAXION：在视频-语言基础模型中嵌入动作知识，发表于 *arXiv* 2023。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2305.10683.pdf)\n* mPLUG-2：跨文本、图像和视频的模块化多模态基础模型，发表于 *ICML* 2023。[\\[论文\\]](https:\u002F\u002Fopenreview.net\u002Fpdf?id=DSOmy0ScK6)\n\n\n\n\n#### 数据集\n##### 交通应用\n* METR-LA [\\[链接\\]](https:\u002F\u002Fzenodo.org\u002Frecord\u002F5146275)\n* PEMS-BAY [\\[链接\\]](https:\u002F\u002Fzenodo.org\u002Frecord\u002F5146275)\n* PEMS04 [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FDavidham3\u002FASTGCN)\n* SUTD-TrafficQA [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fsutdcv\u002FSUTD-TrafficQA)\n* TaxiBJ [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FTolicWang\u002FDeepST\u002Ftree\u002Fmaster\u002Fdata\u002FTaxiBJ)\n* BikeNYC [\\[链接\\]](https:\u002F\u002Fcitibikenyc.com\u002Fsystem-data)\n* TaxiNYC [\\[链接\\]](https:\u002F\u002Fwww1.nyc.gov\u002Fsite\u002Ftlc\u002Fabout\u002Ftlc-trip-record-data.page)\n* Mobility [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fgmu-ggs-nsf-abm-research\u002Fmobility-trends)\n* LargeST [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fliuxu77\u002FLargeST)\n\n##### 医疗健康应用\n* PTB-XL [\\[链接\\]](https:\u002F\u002Fphysionet.org\u002Fcontent\u002Fptb-xl\u002F1.0.3\u002F)\n* NYUTron [\\[链接\\]](https:\u002F\u002Fdatacatalog.med.nyu.edu\u002Fdataset\u002F10633)\n* UF Health临床语料库 [\\[链接\\]](https:\u002F\u002Fcatalog.ngc.nvidia.com\u002Forgs\u002Fnvidia\u002Fteams\u002Fclara\u002Fmodels\u002Fgatortron_og)\n* i2b2-2012 [\\[链接\\]](https:\u002F\u002Fwww.i2b2.org\u002FNLP\u002FTemporalRelations\u002F)\n* MIMIC-III [\\[链接\\]](https:\u002F\u002Fphysionet.org\u002Fcontent\u002Fmimiciii\u002F1.4\u002F)\n* CirCor DigiScope [\\[链接\\]](https:\u002F\u002Fphysionet.org\u002Fcontent\u002Fcircor-heart-sound\u002F1.0.3\u002F)\n\n##### 天气应用\n* SEVIR [\\[链接\\]](https:\u002F\u002Fregistry.opendata.aws\u002Fsevir\u002F)\n* Shifts-Weather Prediction [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FShifts-Project\u002Fshifts)\n* AvePRE [\\[链接\\]](https:\u002F\u002Fdisc.gsfc.nasa.gov\u002F)\n* SurTEMP [\\[链接\\]](https:\u002F\u002Fdisc.gsfc.nasa.gov\u002F)\n* SurUPS [\\[链接\\]](https:\u002F\u002Fdisc.gsfc.nasa.gov\u002F)\n* ERA5再分析数据 [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fpangeo-data\u002FWeatherBench)\n* CMIP6 [\\[链接\\]](https:\u002F\u002Fcds.climate.copernicus.eu\u002Fcdsapp\\#!\u002Fdataset\u002Fprojections-cmip6?tab=overview)\n\n##### 金融应用\n* 金融（就业） [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fashfarhangi\u002FAA-Forecast\u002Ftree\u002Fmain\u002Fdataset)\n* StockNet [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fyumoxu\u002Fstocknet-dataset)\n* EDT [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FZhihan1996\u002FTradeTheEvent\u002Ftree\u002Fmain\u002Fdata#edt-dataset)\n* NASDAQ-100 [\\[链接\\]](https:\u002F\u002Fcseweb.ucsd.edu\u002F~yaq007\u002FNASDAQ100_stock_data.html)\n\n##### 视频应用\n* TGIF-QA [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FYunseokJANG\u002Ftgif-qa)\n* MSR-VTT [\\[链接\\]](https:\u002F\u002Fdrive.google.com\u002Ffile\u002Fd\u002F1pWym3bMNW_WrOZCi5Ls-wKFpaPMbLOio\u002Fview)\n* WebVid [\\[链接\\]](https:\u002F\u002Fmaxbain.com\u002Fwebvid-dataset\u002F)\n* MSVD [\\[链接\\]](https:\u002F\u002Fwww.microsoft.com\u002Fen-us\u002Fdownload\u002F)\n* DiDeMo [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FLisaAnne\u002FTemporalLanguageRelease)\n* COCO [\\[链接\\]](https:\u002F\u002Fcocodataset.org\u002F#home)\n\n##### 事件分析应用\n* Amazon [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n* Taobao [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n* Retweet [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n* StackOverflow [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n* Taxi [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fant-research\u002FEasyTemporalPointProcess)\n\n##### 其他通用应用\n* ETT [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fzhouhaoyi\u002FETDataset)\n* M4 [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FMcompetitions\u002FM4-methods)\n* Electricity [\\[链接\\]](https:\u002F\u002Farchive.ics.uci.edu\u002Fdataset\u002F235\u002Findividual+household+electric+power+consumption)\n* Alibaba集群轨迹 [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Falibaba\u002Fclusterdata)\n* TSSB [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fermshaua\u002Ftime-series-segmentation-benchmark)\n* UCR TS分类档案 [\\[链接\\]](https:\u002F\u002Fwww.cs.ucr.edu\u002F~eamonn\u002Ftime_series_data_2018\u002F)\n\n## 相关的 LLM\u002FLM\u002FFM 资源\n#### 调查报告\n* 大型语言模型综述，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2303.18223) [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FRUCAIBox\u002FLLMSurvey)\n* 实践中利用 LLM 的力量：关于 ChatGPT 及其之后的综述，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.13712) [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FMooler0410\u002FLLMsPracticalGuide)  \n* LLM-Adapters：用于大型语言模型参数高效微调的一系列适配器，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.01933) [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FAGI-Edgerunners\u002FLLM-Adapters)\n* 不再是一模一样：大型语言模型领域专业化综述，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.18703)\n* 健康信息学中的大型 AI 模型：应用、挑战与未来，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2303.11568) [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FJianing-Qiu\u002FAwesome-Healthcare-Foundation-Models)\n* FinGPT：开源金融大型语言模型，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.06031) [\\[链接\\]](https:\u002F\u002Fgithub.com\u002FAI4Finance-Foundation\u002FFinGPT) \n* 地理空间人工智能基础模型的机遇与挑战，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.06798)\n\n\n#### Github\n* 优秀的 LLM。[\\[链接\\]](https:\u002F\u002Fgithub.com\u002FHannibal046\u002FAwesome-LLM)\n* 开放的 LLMs。[\\[链接\\]](https:\u002F\u002Fgithub.com\u002Feugeneyan\u002Fopen-llms)\n* 优秀的 LLMOps。[\\[链接\\]](https:\u002F\u002Fgithub.com\u002Ftensorchord\u002FAwesome-LLMOps)\n* 优秀的基础模型。[\\[链接\\]](https:\u002F\u002Fgithub.com\u002Funcbiag\u002FAwesome-Foundation-Models)\n* 优秀的图 LLM。[\\[链接\\]](https:\u002F\u002Fgithub.com\u002FXiaoxinHe\u002FAwesome-Graph-LLM)\n* 优秀的多模态大型语言模型。[\\[链接\\]](https:\u002F\u002Fgithub.com\u002FBradyFU\u002FAwesome-Multimodal-Large-Language-Models)\n\n## 相关资源\n#### 时间序列相关调查\n* 时间序列分析的基础模型：教程与综述，发表于 *KDD* 2024 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2403.14735)\n* 大型语言模型能为时间序列分析带来什么启示，发表于 *ICML* 2024 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.02713)\n* 多变量时间序列插补的深度学习：综述，发表于 *arXiv* 2024 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2402.04059) [\\[网站\\]](https:\u002F\u002Fgithub.com\u002Fwenjiedu\u002Fawesome_imputation)\n* 自监督学习在时间序列分析中的分类、进展与前景，发表于 *TPAMI* 2024 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.10125) [\\[网站\\]](https:\u002F\u002Fgithub.com\u002Fqingsongedu\u002FAwesome-SSL4TS)\n* 图神经网络在时间序列中的应用：预测、分类、插补和异常检测，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2307.03759) [\\[网站\\]](https:\u002F\u002Fgithub.com\u002FKimMeen\u002FAwesome-GNN4TS)\n* 时间序列中的 Transformer：综述，发表于 *IJCAI* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2202.07125) [\\[GitHub 仓库\\]](https:\u002F\u002Fgithub.com\u002Fqingsongedu\u002Ftime-series-transformers-review)\n* 针对深度学习的时间序列数据增强：综述，发表于 *IJCAI* 2021 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2002.12478)\n* 使用深度学习进行时间序列预测：综述，发表于 *皇家学会哲学事务 A 系列* 2021 年。[\\[论文\\]](https:\u002F\u002Froyalsocietypublishing.org\u002Fdoi\u002Ffull\u002F10.1098\u002Frsta.2020.0209)\n* 时间序列数据中的异常检测综述，发表于 *CSUR* 2021 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2002.04236)\n* 深度学习在时间序列分类中的应用：综述，发表于 *数据挖掘与知识发现* 2019 年。[\\[论文\\]](https:\u002F\u002Flink.springer.com\u002Farticle\u002F10.1007\u002Fs10618-019-00619-1?sap-outbound-id=11FC28E054C1A9EB6F54F987D4B526A6EE3495FD&mkt-key=005056A5C6311EE999A3A1E864CDA986)\n* 时间序列预训练模型综述，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.10716) [\\[链接\\]](https:\u002F\u002Fgithub.com\u002Fqianlima-lab\u002Ftime-series-ptms)\n* 自监督学习在时间序列分析中的分类、进展与展望，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2306.10125) [\\[网站\\]](https:\u002F\u002Fgithub.com\u002Fqingsongedu\u002FAwesome-SSL4TS)\n* 图神经网络在时间序列中的应用：预测、分类、插补和异常检测，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2307.03759) [\\[网站\\]](https:\u002F\u002Fgithub.com\u002FKimMeen\u002FAwesome-GNN4TS)\n\n#### AIOps 相关调查\n* AIOps：现实世界的挑战与研究创新，发表于 *ICSE* 2019 年。[\\[论文\\]](https:\u002F\u002Fweb.eecs.umich.edu\u002F~ryanph\u002Fpaper\u002Faiops-icse19-briefing.pdf)\n* 故障管理的 AIOps 方法综述，发表于 *TIST* 2021 年。[\\[论文\\]](https:\u002F\u002Fjorge-cardoso.github.io\u002Fpublications\u002FPapers\u002FJA-2021-025-Survey_AIOps_Methods_for_Failure_Management.pdf)\n* 云平台上的 IT 运维人工智能（AIOps）：回顾、机遇与挑战，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2304.04661)\n\n\n#### 用于 AIOps 的 LLM\u002FLM\u002FFM 论文\n* 利用大型语言模型赋能云事件的实际根本原因分析，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.15778)\n* 使用大型语言模型推荐云事件的根本原因及缓解措施，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2301.03797)\n* OpsEval：面向任务的大型语言模型综合 AIOps 基准测试，发表于 *arXiv* 2023 年。[\\[论文\\]](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.07637)\n\n```","# Awesome-TimeSeries-SpatioTemporal-LM-LLM 快速上手指南\n\n本项目并非单一的可安装软件包，而是一个**精选资源列表**，汇集了用于时间序列和时空数据的大语言模型（LLM）、基础模型（FM）及相关论文、代码和数据集。本指南将指导你如何利用该列表找到适合的工具，并以列表中热门的 **Time-LLM** 为例演示如何快速开始使用此类模型。\n\n## 环境准备\n\n由于列表中包含多个不同的模型项目，具体依赖需参考各子项目的说明。以下是运行大多数基于 PyTorch 的时间序列大模型所需的通用环境要求：\n\n*   **操作系统**: Linux (推荐 Ubuntu 20.04+) 或 macOS\n*   **Python**: 3.8 或更高版本\n*   **GPU**: 推荐使用 NVIDIA GPU (显存建议 16GB 以上以运行大模型)，需安装 CUDA 驱动\n*   **核心依赖**:\n    *   PyTorch (建议 2.0+)\n    *   Transformers (Hugging Face)\n    *   Pandas, Numpy, Scikit-learn\n    *   Matplotlib (用于可视化)\n\n**建议配置国内镜像源加速下载：**\n在安装包前，配置 pip 使用清华或阿里镜像可显著提升速度。\n```bash\npip config set global.index-url https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n## 安装步骤\n\n由于本仓库是资源列表，你不需要安装\"Awesome-TimeSeries...\"本身。你需要根据需求选择列表中的具体模型进行安装。以下以列表中热门的 **Time-LLM** (ICLR 2024) 为例演示安装过程：\n\n1.  **克隆具体模型代码库**\n    从该模型对应的官方仓库获取代码（而非本列表仓库）：\n    ```bash\n    git clone https:\u002F\u002Fgithub.com\u002FKimMeen\u002FTime-LLM.git\n    cd Time-LLM\n    ```\n\n2.  **创建虚拟环境并安装依赖**\n    ```bash\n    python -m venv venv\n    source venv\u002Fbin\u002Factivate  # Windows 用户使用: venv\\Scripts\\activate\n    \n    # 安装 requirements.txt 中的依赖\n    pip install -r requirements.txt\n    ```\n    *注：若 `requirements.txt` 缺失或报错，通常需手动安装核心库：*\n    ```bash\n    pip install torch torchvision torchaudio --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu118\n    pip install transformers pandas numpy scikit-learn matplotlib\n    ```\n\n3.  **下载预训练模型权重**\n    大多数此类模型需要加载开源的 LLM 基座（如 LLaMA, GPT-2, BERT 等）。确保你的网络能访问 Hugging Face，或使用国内镜像站下载权重文件至本地目录。\n\n## 基本使用\n\n以下展示如何使用 **Time-LLM** 进行简单的时间序列预测。大多数列表中的模型（如 AutoTimes, Chronos, Moment）遵循类似的“数据准备 -> 模型加载 -> 推理”流程。\n\n### 1. 准备数据\n确保你的时间序列数据为 CSV 格式，包含时间戳和数值列。\n\n### 2. 运行预测示例\n进入项目目录后，通常可以通过提供的脚本直接运行测试。以下是典型的执行命令：\n\n```bash\n# 运行主训练\u002F预测脚本\n# --is_training 0 表示仅进行测试\u002F推理\n# --model_id time_llm_test 自定义任务名称\n# --model TimeLLM 指定模型架构\n# --data_path custom_dataset.csv 指定你的数据路径\n\npython run_main.py \\\n  --is_training 0 \\\n  --model_id time_llm_test \\\n  --model TimeLLM \\\n  --data custom \\\n  --data_path custom_dataset.csv \\\n  --seq_len 96 \\\n  --pred_len 96 \\\n  --batch_size 32 \\\n  --learning_rate 0.01\n```\n\n### 3. 代码调用示例 (Python API)\n如果你希望在自己的代码中集成，参考如下结构（伪代码，具体类名需参照各模型文档）：\n\n```python\nimport torch\nfrom models.TimeLLM import Model as TimeLLM\nfrom data_loader import DataLoader\n\n# 1. 加载数据\nloader = DataLoader(root_path='.\u002Fdataset', data_path='custom_dataset.csv')\nbatch_x, batch_y = loader.get_batch()\n\n# 2. 初始化模型\ndevice = torch.device('cuda' if torch.cuda.is_available() else 'cpu')\nmodel = TimeLLM(configs).to(device)\n\n# 3. 加载预训练权重\nmodel.load_state_dict(torch.load('.\u002Fcheckpoints\u002Ftime_llm_checkpoint.pth'))\nmodel.eval()\n\n# 4. 进行预测\nwith torch.no_grad():\n    outputs = model(batch_x.to(device))\n\nprint(\"预测结果形状:\", outputs.shape)\n```\n\n**提示**：若要尝试列表中其他模型（如 **Chronos**, **Moment**, **AutoTimes**），请前往 README 中对应条目提供的 `[official code]` 链接，重复上述“克隆 -> 安装 -> 运行”步骤即可。","某智慧城市交通团队正试图利用大语言模型（LLM）优化全市路网的拥堵预测与事件响应系统，但面临技术选型困境。\n\n### 没有 Awesome-TimeSeries-SpatioTemporal-LM-LLM 时\n- **文献检索如大海捞针**：团队需在 arXiv、GitHub 和各大会论文集中手动筛选，难以区分哪些模型真正适用于“时空数据”而非普通文本，耗费数周仍遗漏关键成果（如 Time-LLM 或 AutoTimes）。\n- **多模态融合无门**：面对需要将新闻事件（文本）与车流数据（时间序列）结合的需求，缺乏像\"From News to Forecast\"这样具体的集成方案指引，导致特征工程反复试错。\n- **复现成本高昂**：找不到经过验证的代码仓库和配套数据集（如 Time-MMD），开发人员常因环境配置错误或数据格式不匹配而停滞不前。\n- **技术视野受限**：仅关注传统深度学习模型，忽略了基于提示学习（Prompt Learning）或跨模态对齐（如 TimeCMA）等前沿 LLM 赋能的新范式。\n\n### 使用 Awesome-TimeSeries-SpatioTemporal-LM-LLM 后\n- **精准锁定前沿方案**：直接通过分类列表找到专用于时空预测的 SOTA 模型（如 Time-FFM、S²IP-LLM），将调研周期从数周缩短至两天。\n- **快速落地多模态应用**：依据列表中\"Event Analysis\"相关资源，迅速引入结合新闻分析的反射机制，显著提升了突发交通事故的预测准确率。\n- **开箱即用的开发体验**：直接获取官方代码链接和基准数据集，团队成员在一周内完成了从基线对比到模型微调的全流程。\n- **把握技术演进脉络**：通过综述论文和最新收录项，团队及时调整技术路线，采用了更高效的“重编程”策略而非从头训练，大幅降低算力成本。\n\nAwesome-TimeSeries-SpatioTemporal-LM-LLM 将分散的时空大模型资源系统化，帮助开发者从盲目摸索转向高效创新，加速了 AI 在复杂动态场景中的落地进程。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fqingsongedu_Awesome-TimeSeries-SpatioTemporal-LM-LLM_63e1b887.png","qingsongedu","Qingsong Wen","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fqingsongedu_1f9b5be6.png","Head of AI @ Squirrel AI | AI for Time Series, AI for Education, LLM & Agent | Hiring Interns\u002FFTEs (Seattle, Shanghai, Remote)!","Squirrel Ai Learning","Seattle, WA",null,"https:\u002F\u002Fqingsongedu.github.io","https:\u002F\u002Fgithub.com\u002Fqingsongedu",1207,90,"2026-04-08T04:34:42",5,"","未说明",{"notes":88,"python":86,"dependencies":89},"该仓库是一个资源列表（Awesome List），汇总了用于时间序列和时空数据的大型语言模型（LLM）及基础模型（FM）的相关论文、代码和数据链接，本身不是一个可直接运行的单一软件工具。因此，README 中未包含具体的操作系统、GPU、内存、Python 版本或依赖库的安装需求。用户若需运行列表中提到的具体模型（如 Time-LLM, Chronos, ClimaX 等），请访问各模型对应的官方代码仓库链接以获取详细的运行环境配置。",[],[35,14],[92,93,94,95,96,97,98,99,100,101,102],"anomalydetection","autoscaling","deeplearning","forecasting","foundation-models","large-language-models","large-models","machinelearning","pre-training","rca","timeseries","2026-03-27T02:49:30.150509","2026-04-09T05:35:52.318979",[],[]]