[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-ThomasVitale--llm-apps-java-spring-ai":3,"tool-ThomasVitale--llm-apps-java-spring-ai":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",150720,2,"2026-04-11T11:33:10",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":77,"owner_email":78,"owner_twitter":78,"owner_website":79,"owner_url":80,"languages":81,"stars":90,"forks":91,"last_commit_at":92,"license":93,"difficulty_score":94,"env_os":95,"env_gpu":96,"env_ram":97,"env_deps":98,"category_tags":107,"github_topics":108,"view_count":32,"oss_zip_url":78,"oss_zip_packed_at":78,"status":17,"created_at":117,"updated_at":118,"faqs":119,"releases":125},6664,"ThomasVitale\u002Fllm-apps-java-spring-ai","llm-apps-java-spring-ai","Samples showing how to build Java applications powered by Generative AI and LLMs using Spring AI and Spring Boot.","llm-apps-java-spring-ai 是一套专为 Java 开发者打造的开源示例集合，旨在展示如何利用 Spring AI 和 Spring Boot 框架构建基于生成式人工智能与大语言模型（LLM）的应用程序。它有效解决了传统 Java 生态在接入前沿 AI 能力时面临的技术门槛高、缺乏标准实践参考等痛点，让开发者能够快速上手并落地智能功能。\n\n该项目非常适合熟悉 Java 技术栈的后端工程师、架构师以及希望将 AI 能力集成到现有企业系统中的开发团队使用。其核心亮点在于提供了覆盖全场景的实战案例，从基础的聊天机器人、文档问答（RAG）、语义搜索，到高级的结构化数据提取和文本分类，应有尽有。同时，它展现了极强的兼容性，支持无缝对接 Ollama 本地模型、OpenAI、Mistral AI 等多种主流服务提供商，并涵盖了聊天、向量嵌入、图像生成及语音处理等多模态能力。此外，项目还深入演示了提示词模板管理、结构化输出转换等关键开发模式，帮助开发者以标准化、工程化的方式构建稳定可靠的 AI 应用，是 Java 社区拥抱人工智能时代的重要桥梁。","# LLM and AI-Infused Applications with Java & Spring AI\n\nSamples showing how to build Java applications powered by Generative AI and Large Language Models (LLMs) using [Spring AI](https:\u002F\u002Fdocs.spring.io\u002Fspring-ai\u002Freference\u002F).\n\n## 🛠️ Pre-Requisites\n\n* Java 25\n* Podman\u002FDocker\n\n## 💡 Use Cases\n\n* **[Chatbot](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Fchatbot)**\n  Chatbot using LLMs via Ollama.\n\n* **[Question Answering](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Fquestion-answering)**\n  Question answering with documents (RAG) using LLMs via Ollama and PGVector.\n\n* **[Semantic Search](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Fsemantic-search)**\n  Semantic search using LLMs via Ollama and PGVector.\n\n* **[Structured Data Extraction](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Fstructured-data-extraction)**  \n  Structured data extraction using LLMs via Ollama.\n\n* **[Text Classification](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Ftext-classification)**\n  Text classification using LLMs via Ollama.\n\n## 🧠 Models\n\n### Chat Models\n\nChat completion with LLMs via different model providers:\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fchat\u002Fchat-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fchat\u002Fchat-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fchat\u002Fchat-openai)**\n* **[Multiple Providers](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fchat\u002Fchat-multiple-providers)**\n\n### Embedding Models\n\nVector transformation (embeddings) with LLMs via different model providers:\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fembedding\u002Fembedding-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fembedding\u002Fembedding-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fembedding\u002Fembedding-openai)**\n* **[ONNX Transformers](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fembedding\u002Fembedding-transformers)**\n\n### Image Models\n\nImage generation with LLMs via different model providers:\n\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fimage\u002Fimage-openai)**\n\n### Audio Models\n\nSpeech generation with LLMs via different model providers:\n\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Faudio\u002Fspeech-to-text-openai)**\n\nSpeech transcription with LLMs via different model providers:\n\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Faudio\u002Ftext-to-speech-openai)**\n\n### Moderation Models\n\n_Coming soon_\n\n## 📐 Patterns\n\n### Prompts, Messages, and Templates\n\nPrompting using simple text:\n\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-basics-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-basics-openai)**\n\nPrompting using structured messages and roles:\n\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-messages-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-messages-openai)**\n\nPrompting using templates:\n\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-templates-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-templates-openai)**\n\n### Structured Output\n\nConverting LLM output to structured JSON and Java objects:\n\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fstructured-output\u002Fstructured-output-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fstructured-output\u002Fstructured-output-openai)**\n\n### Multimodality\n\nIncluding various media in prompts with LLMs:\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmultimodality\u002Fmultimodality-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmultimodality\u002Fmultimodality-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmultimodality\u002Fmultimodality-openai)**\n\n### Tool Calling\n\nTool calling with LLMs via different model providers:\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Ftool-calling\u002Ftool-calling-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Ftool-calling\u002Ftool-calling-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Ftool-calling\u002Ftool-calling-openai)**\n\n### Memory\n\nUsing chat memory to preserve context in conversations with LLMs:\n\n* **[Basic Chat Memory](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmemory\u002Fmemory-basics)**\n* **[JDBC Chat Memory](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmemory\u002Fmemory-jdbc)**\n* **[Spring Security Chat Memory](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmemory\u002Fmemory-spring-security)**\n* **[Vector Store Chat Memory](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmemory\u002Fmemory-vector-store)**\n\n### Guardrails\n\nGuardrails for input and output with LLMs via different model providers:\n\n* **[Input Guardrails](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fguardrails\u002Fguardrails-input)**\n* **[Output Guardrails](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fguardrails\u002Fguardrails-output)**\n\n## 📥 Data Ingestion\n\n### Document Readers\n\nReading and vectorizing documents with LLMs via Ollama:\n\n* **[JSON](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-json-ollama)**\n* **[Markdown](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-markdown-ollama)**\n* **[PDF](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-text-ollama)**\n* **[Text](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-text-ollama)**\n* **[Tika](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-tika-ollama)**\n\n### Document Transformers\n\nDocument transformation with LLMs via Ollama:\n\n* **[Metadata](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-transformers\u002Fdocument-transformers-metadata-ollama)**  \n  Enrich documents with keywords and summary metadata for enhanced retrieval.\n* **[Splitters](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-transformers\u002Fdocument-transformers-splitters-ollama)**  \n  Divide documents into chunks to fit the LLM context window.\n\n## 🔢 Vector Stores\n\n_Coming soon_\n\n## 🔄 Retrieval Augmented Generation (RAG)\n\nQuestion answering with documents using different RAG flows (with Ollama and PGVector):\n\n### Sequential RAG\n\n* **[Naive](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Frag\u002Frag-sequential\u002Frag-naive)**\n* **[Advanced](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Frag\u002Frag-sequential\u002Frag-advanced)**\n\n### Branching RAG\n\n* **[Branching](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Frag\u002Frag-branching)**\n\n### Conditional RAG\n\n* **[Conditional](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Frag\u002Frag-conditional)**\n\n## 📊 Observability\n\n### LLM Observability\n\nLLM Observability for different model providers:\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fobservability\u002Fobservability-models-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fobservability\u002Fobservability-models-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fobservability\u002Fobservability-models-openai)**\n\n### Vector Store Observability\n\nVector Store Observability for different vector stores:\n\n* **[PGVector](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fobservability\u002Fobservability-vector-stores-pgvector)**\n\n## ⚙️ Model Context Protocol\n\nIntegrations with MCP Servers for providing contexts to LLMs.\n\n* **[Brave Search API](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmcp\u002Fmcp-clients\u002Fmcp-brave)**\n\n## 📋 Evaluation\n\n_Coming soon_\n\n## 🤖 Agents\n\n_Coming soon_\n\n## 📚 References and Additional Resources\n\n* [Spring AI Reference Documentation](https:\u002F\u002Fdocs.spring.io\u002Fspring-ai\u002Freference\u002Findex.html)\n\n### Conferences\n\n* [Introducing Spring AI by Christian Tzolov and Mark Pollack (Spring I\u002FO 2024)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=umKbaXsiCOY)\n* [Spring AI Is All You Need by Christian Tzolov (GOTO Amsterdam 2024)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=vuhMti8B5H0)\n* [Concerto for Java and AI - Building Production-Ready LLM Applications by Thomas Vitale (Devoxx UK 2025)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=CVsYMIpuFIU)\n* [Modular RAG Architectures with Java and Spring AI by Thomas Vitale (Spring I\u002FO 2025)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=yQQEnXRMvUA)\n\n### Videos\n\n* [Building Intelligent Applications With Spring AI by Dan Vega (JetBrains Live Stream)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=x6KmUyPWy2Q)\n* [Spring AI Series by Dan Vega](https:\u002F\u002Fwww.youtube.com\u002Fplaylist?list=PLZV0a2jwt22uoDm3LNDFvN6i2cAVU_HTH)\n* [Spring AI Series by Craig Walls](https:\u002F\u002Fwww.youtube.com\u002Fplaylist?list=PLH5OU4wXVJc9aECkMUVPCi8g3pzs8pZ3E)\n* [Spring AI Series by Josh Long](https:\u002F\u002Fwww.youtube.com\u002Fplaylist?list=PLgGXSWYM2FpMXvYb681axdH5JSLEPPyrz)\n\n### Demos\n\n* [Airline Customer Support (Marcus Hellberg)](https:\u002F\u002Fgithub.com\u002Fmarcushellberg\u002Fjava-ai-playground\u002Ftree\u002Fspring-ai)\n* [Composer Assistant (Thomas Vitale)](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fconcerto-for-java-and-ai)\n* [Document Assistant (Marcus Hellberg)](https:\u002F\u002Fgithub.com\u002Fmarcushellberg\u002Fdocs-assistant)\n* [Flight Booking (Christian Tzolov)](https:\u002F\u002Fgithub.com\u002Ftzolov\u002Fplayground-flight-booking)\n\n### Workshops\n\n* [Spring AI - Zero to Hero (Adib Saikali, Christian Tzolov)](https:\u002F\u002Fgithub.com\u002Fasaikali\u002Fspring-ai-zero-to-hero\u002Ftree\u002Fmain)\n* [AI Applications with Java and Spring AI (Thomas Vitale)](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fjava-ai-workshop)\n","# 使用 Java 和 Spring AI 构建 LLM 与 AI 驱动的应用程序\n\n展示如何使用 [Spring AI](https:\u002F\u002Fdocs.spring.io\u002Fspring-ai\u002Freference\u002F) 构建由生成式 AI 和大型语言模型（LLMs）驱动的 Java 应用程序的示例。\n\n## 🛠️ 前置条件\n\n* Java 25\n* Podman\u002FDocker\n\n## 💡 使用场景\n\n* **[聊天机器人](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Fchatbot)**\n  通过 Ollama 使用 LLM 构建的聊天机器人。\n\n* **[问答系统](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Fquestion-answering)**\n  使用 Ollama 和 PGVector 的 LLM，结合文档进行问答（RAG）。\n\n* **[语义搜索](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Fsemantic-search)**\n  使用 Ollama 和 PGVector 的 LLM 实现语义搜索。\n\n* **[结构化数据提取](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Fstructured-data-extraction)**\n  使用 Ollama 的 LLM 进行结构化数据提取。\n\n* **[文本分类](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fuse-cases\u002Ftext-classification)**\n  使用 Ollama 的 LLM 进行文本分类。\n\n## 🧠 模型\n\n### 聊天模型\n\n通过不同模型提供商实现 LLM 的聊天完成：\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fchat\u002Fchat-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fchat\u002Fchat-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fchat\u002Fchat-openai)**\n* **[多提供商](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fchat\u002Fchat-multiple-providers)**\n\n### 嵌入模型\n\n通过不同模型提供商实现 LLM 的向量转换（嵌入）：\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fembedding\u002Fembedding-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fembedding\u002Fembedding-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fembedding\u002Fembedding-openai)**\n* **[ONNX Transformers](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fembedding\u002Fembedding-transformers)**\n\n### 图像模型\n\n通过不同模型提供商实现 LLM 的图像生成：\n\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Fimage\u002Fimage-openai)**\n\n### 音频模型\n\n通过不同模型提供商实现 LLM 的语音生成：\n\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Faudio\u002Fspeech-to-text-openai)**\n\n通过不同模型提供商实现 LLM 的语音转录：\n\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmodels\u002Faudio\u002Ftext-to-speech-openai)**\n\n### 内容审核模型\n\n_即将推出_\n\n## 📐 模式\n\n### 提示、消息和模板\n\n使用纯文本进行提示：\n\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-basics-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-basics-openai)**\n\n使用结构化消息和角色进行提示：\n\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-messages-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-messages-openai)**\n\n使用模板进行提示：\n\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-templates-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fprompts\u002Fprompts-templates-openai)**\n\n### 结构化输出\n\n将 LLM 输出转换为结构化的 JSON 和 Java 对象：\n\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fstructured-output\u002Fstructured-output-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fstructured-output\u002Fstructured-output-openai)**\n\n### 多模态\n\n在提示中包含多种媒体内容：\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmultimodality\u002Fmultimodality-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmultimodality\u002Fmultimodality-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmultimodality\u002Fmultimodality-openai)**\n\n### 工具调用\n\n通过不同模型提供商实现 LLM 的工具调用：\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Ftool-calling\u002Ftool-calling-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Ftool-calling\u002Ftool-calling-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Ftool-calling\u002Ftool-calling-openai)**\n\n### 对话记忆\n\n使用对话记忆来保留与 LLM 交互中的上下文：\n\n* **[基础对话记忆](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmemory\u002Fmemory-basics)**\n* **[JDBC 对话记忆](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmemory\u002Fmemory-jdbc)**\n* **[Spring Security 对话记忆](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmemory\u002Fmemory-spring-security)**\n* **[向量存储对话记忆](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fpatterns\u002Fmemory\u002Fmemory-vector-store)**\n\n### 安全护栏\n\n通过不同模型提供商为 LLM 的输入和输出设置安全护栏：\n\n* **[输入安全护栏](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fguardrails\u002Fguardrails-input)**\n* **[输出安全护栏](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fguardrails\u002Fguardrails-output)**\n\n## 📥 数据摄取\n\n### 文档阅读器\n\n通过 Ollama 读取并向量化文档：\n\n* **[JSON](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-json-ollama)**\n* **[Markdown](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-markdown-ollama)**\n* **[PDF](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-text-ollama)**\n* **[文本](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-text-ollama)**\n* **[Tika](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-readers\u002Fdocument-readers-tika-ollama)**\n\n### 文档转换器\n\n通过 Ollama 使用 LLM 进行文档转换：\n\n* **[元数据](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-transformers\u002Fdocument-transformers-metadata-ollama)**  \n  为文档添加关键词和摘要元数据，以增强检索效果。\n* **[拆分器](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fdata-ingestion\u002Fdocument-transformers\u002Fdocument-transformers-splitters-ollama)**  \n  将文档分割成适合 LLM 上下文窗口的块。\n\n## 🔢 向量存储\n\n*即将推出*\n\n## 🔄 检索增强生成 (RAG)\n\n使用不同 RAG 流程（结合 Ollama 和 PGVector）对文档进行问答：\n\n### 顺序 RAG\n\n* **[朴素型](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Frag\u002Frag-sequential\u002Frag-naive)**\n* **[高级型](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Frag\u002Frag-sequential\u002Frag-advanced)**\n\n### 分支 RAG\n\n* **[分支型](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Frag\u002Frag-branching)**\n\n### 条件 RAG\n\n* **[条件型](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Frag\u002Frag-conditional)**\n\n## 📊 可观测性\n\n### LLM 可观测性\n\n针对不同模型提供商的 LLM 可观测性：\n\n* **[Mistral AI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fobservability\u002Fobservability-models-mistral-ai)**\n* **[Ollama](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fobservability\u002Fobservability-models-ollama)**\n* **[OpenAI](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fobservability\u002Fobservability-models-openai)**\n\n### 向量存储可观测性\n\n针对不同向量存储的向量存储可观测性：\n\n* **[PGVector](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fobservability\u002Fobservability-vector-stores-pgvector)**\n\n## ⚙️ 模型上下文协议\n\n与 MCP 服务器集成，为 LLM 提供上下文。\n\n* **[Brave Search API](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Ftree\u002Fmain\u002Fmcp\u002Fmcp-clients\u002Fmcp-brave)**\n\n## 📋 评估\n\n*即将推出*\n\n## 🤖 代理\n\n*即将推出*\n\n## 📚 参考文献及附加资源\n\n* [Spring AI 参考文档](https:\u002F\u002Fdocs.spring.io\u002Fspring-ai\u002Freference\u002Findex.html)\n\n### 会议\n\n* [Christian Tzolov 和 Mark Pollack 主讲的“介绍 Spring AI”（Spring I\u002FO 2024）](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=umKbaXsiCOY)\n* [Christian Tzolov 主讲的“Spring AI 就是您所需要的”（GOTO 阿姆斯特丹 2024）](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=vuhMti8B5H0)\n* [Thomas Vitale 主讲的“Java 与 AI 的协奏曲——构建生产就绪的 LLM 应用程序”（Devoxx UK 2025）](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=CVsYMIpuFIU)\n* [Thomas Vitale 主讲的“使用 Java 和 Spring AI 构建模块化 RAG 架构”（Spring I\u002FO 2025）](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=yQQEnXRMvUA)\n\n### 视频\n\n* [Dan Vega 主讲的“使用 Spring AI 构建智能应用”（JetBrains 直播）](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=x6KmUyPWy2Q)\n* [Dan Vega 的 Spring AI 系列](https:\u002F\u002Fwww.youtube.com\u002Fplaylist?list=PLZV0a2jwt22uoDm3LNDFvN6i2cAVU_HTH)\n* [Craig Walls 的 Spring AI 系列](https:\u002F\u002Fwww.youtube.com\u002Fplaylist?list=PLH5OU4wXVJc9aECkMUVPCi8g3pzs8pZ3E)\n* [Josh Long 的 Spring AI 系列](https:\u002F\u002Fwww.youtube.com\u002Fplaylist?list=PLgGXSWYM2FpMXvYb681axdH5JSLEPPyrz)\n\n### 演示\n\n* [航空公司客户支持（Marcus Hellberg）](https:\u002F\u002Fgithub.com\u002Fmarcushellberg\u002Fjava-ai-playground\u002Ftree\u002Fspring-ai)\n* [作曲助手（Thomas Vitale）](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fconcerto-for-java-and-ai)\n* [文档助手（Marcus Hellberg）](https:\u002F\u002Fgithub.com\u002Fmarcushellberg\u002Fdocs-assistant)\n* [航班预订（Christian Tzolov）](https:\u002F\u002Fgithub.com\u002Ftzolov\u002Fplayground-flight-booking)\n\n### 工作坊\n\n* [Spring AI — 从零到英雄（Adib Saikali、Christian Tzolov）](https:\u002F\u002Fgithub.com\u002Fasaikali\u002Fspring-ai-zero-to-hero\u002Ftree\u002Fmain)\n* [使用 Java 和 Spring AI 构建 AI 应用程序（Thomas Vitale）](https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fjava-ai-workshop)","# llm-apps-java-spring-ai 快速上手指南\n\n本指南帮助 Java 开发者快速使用 **Spring AI** 构建基于大语言模型（LLM）的应用程序。该项目提供了丰富的示例，涵盖聊天机器人、RAG、结构化数据提取等场景。\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **JDK**: 必须安装 **Java 25** (早期访问版本)。\n    *   *提示：国内用户可通过 [Alibaba Dragonwell](https:\u002F\u002Fgithub.com\u002Falibaba\u002Fdragonwell) 或 [Huawei BiSheng JDK](https:\u002F\u002Fgitee.com\u002Fopeneuler\u002Fbishengjdk) 获取兼容版本，或使用 SDKMAN 安装 EA 版本。*\n*   **容器运行时**: 必须安装 **Docker** 或 **Podman**，用于运行本地 LLM 服务（如 Ollama）和向量数据库（如 PGVector）。\n*   **构建工具**: 推荐使用 Maven 或 Gradle（项目通常包含 wrapper 脚本）。\n\n## 安装步骤\n\n1.  **克隆项目仓库**\n    将代码库克隆到本地：\n    ```bash\n    git clone https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai.git\n    cd llm-apps-java-spring-ai\n    ```\n\n2.  **启动本地依赖服务**\n    大多数示例（特别是 `use-cases` 目录下的）依赖本地运行的 Ollama 和 PostgreSQL (PGVector)。您可以使用 Docker Compose 快速启动这些服务（如果项目根目录包含 `docker-compose.yml`），或者手动运行：\n\n    *启动 Ollama (以拉取并运行 llama3 模型为例):*\n    ```bash\n    docker run -d -v ollama:\u002Froot\u002F.ollama -p 11434:11434 --name ollama ollama\u002Follama\n    docker exec -it ollama ollama pull llama3\n    ```\n\n    *启动 PGVector (用于 RAG 示例):*\n    ```bash\n    docker run -d -e POSTGRES_PASSWORD=postgres -e POSTGRES_USER=postgres -e POSTGRES_DB=ai_db -p 5432:5432 --name pgvector pgvector\u002Fpgvector:pg16\n    ```\n\n3.  **配置环境变量**\n    根据您选择的示例场景，在项目根目录或具体示例目录下创建 `.env` 文件或设置系统环境变量。\n    \n    *例如，使用 Ollama 时通常无需额外 Key，但需确保端点正确；若使用 OpenAI:*\n    ```bash\n    export SPRING_AI_OPENAI_API_KEY=your_openai_api_key\n    ```\n\n4.  **构建项目**\n    使用 Maven 包装器编译项目：\n    ```bash\n    .\u002Fmvnw clean install\n    ```\n    *(Windows 用户使用 `mvnw.cmd`)*\n\n## 基本使用\n\n本项目按功能模块组织，最简单的入门方式是运行一个基础的 **Chatbot** 示例。\n\n### 运行聊天机器人示例 (Chatbot)\n\n该示例展示了如何通过 Ollama 调用本地 LLM 进行对话。\n\n1.  **进入示例目录**\n    ```bash\n    cd use-cases\u002Fchatbot\n    ```\n\n2.  **运行应用**\n    确保 Ollama 正在运行且已下载模型（如 `llama3`），然后执行：\n    ```bash\n    ..\u002Fmvnw spring-boot:run\n    ```\n    *(注：如果在子目录没有 mvnw，请返回根目录运行 `.\u002Fmvnw -pl use-cases\u002Fchatbot spring-boot:run`)*\n\n3.  **交互测试**\n    应用启动后（默认端口通常为 8080），您可以通过 curl 或浏览器访问接口进行测试：\n\n    ```bash\n    curl -X POST http:\u002F\u002Flocalhost:8080\u002Fapi\u002Fchat \\\n      -H \"Content-Type: application\u002Fjson\" \\\n      -d '{\"message\": \"你好，请用 Java 解释一下 Spring AI 是什么？\"}'\n    ```\n\n### 探索其他核心场景\n\n项目结构清晰，您可以直接切换到以下目录体验不同功能：\n\n*   **问答系统 (RAG)**: `cd use-cases\u002Fquestion-answering` (需启动 PGVector)\n*   **语义搜索**: `cd use-cases\u002Fsemantic-search`\n*   **结构化数据提取**: `cd use-cases\u002Fstructured-data-extraction`\n*   **多模态处理**: `cd patterns\u002Fmultimodality\u002Fmultimodality-ollama`\n\n### 核心代码模式示例\n\n在您的 Spring Boot 项目中集成 Spring AI 的核心代码如下：\n\n**1. 添加依赖 (pom.xml):**\n```xml\n\u003Cdependency>\n    \u003CgroupId>org.springframework.ai\u003C\u002FgroupId>\n    \u003CartifactId>spring-ai-starter-model-ollama\u003C\u002FartifactId>\n\u003C\u002Fdependency>\n```\n\n**2. 配置应用 (application.properties):**\n```properties\nspring.ai.ollama.chat.model=llama3\nspring.ai.ollama.base-url=http:\u002F\u002Flocalhost:11434\n```\n\n**3. 编写聊天服务:**\n```java\nimport org.springframework.ai.chat.client.ChatClient;\nimport org.springframework.stereotype.Service;\n\n@Service\npublic class ChatService {\n    private final ChatClient chatClient;\n\n    public ChatService(ChatClient.Builder builder) {\n        this.chatClient = builder.build();\n    }\n\n    public String chat(String input) {\n        return chatClient.prompt()\n                .user(input)\n                .call()\n                .content();\n    }\n}\n```\n\n通过以上步骤，您即可快速搭建并运行基于 Java 和 Spring AI 的智能应用。更多高级用法（如 Tool Calling, Memory, Guardrails）请参考项目中对应的 `patterns` 目录示例。","某电商平台的 Java 开发团队正致力于升级其客服系统，希望引入智能问答功能以自动处理用户关于商品详情和售后政策的咨询。\n\n### 没有 llm-apps-java-spring-ai 时\n- **集成门槛高**：开发人员需手动编写大量 HTTP 客户端代码来对接 Ollama 或 OpenAI 等模型接口，处理鉴权、重试和流式响应极其繁琐。\n- **数据非结构化**：从大模型返回的商品推荐或订单状态通常是自由文本，难以直接转换为 Java 对象存入数据库或前端展示，需额外编写脆弱的正则解析逻辑。\n- **缺乏上下文记忆**：实现多轮对话记忆机制需要自行设计向量存储方案，无法快速利用 PGVector 进行基于文档的检索增强生成（RAG）。\n- **维护成本大**：若要切换底层模型提供商（如从 OpenAI 切至 Mistral），几乎需要重构整个调用层代码，系统耦合度极高。\n\n### 使用 llm-apps-java-spring-ai 后\n- **开发效率倍增**：借助 Spring Boot 自动配置，仅需几行代码即可通过统一 API 连接 Ollama 或 OpenAI，无需关注底层网络细节。\n- **输出天然结构化**：利用内置的结构化数据提取模式，可直接将大模型的回答映射为标准的 Java POJO 对象，彻底消除了解析错误风险。\n- **RAG 一键落地**：直接复用示例中的语义搜索与问答架构，轻松结合 PGVector 实现基于企业知识库的精准回答，让机器人“懂”业务文档。\n- **架构灵活解耦**：依托 Spring AI 的抽象层，更换模型提供商只需修改配置文件，核心业务逻辑无需任何变动，极大提升了系统适应性。\n\nllm-apps-java-spring-ai 让 Java 开发者能以熟悉的编程范式，低成本、高效率地将生成式 AI 能力无缝融入企业级应用中。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FThomasVitale_llm-apps-java-spring-ai_1bffd411.png","ThomasVitale","Thomas Vitale","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FThomasVitale_ba19a954.jpg","Software Engineer 📚 Author of “Cloud Native Spring in Action” + \"Developer Experience on Kubernetes\" 🛳️ CNCF Ambassador 👨‍💻 OSS, Java, Cloud Native, AI","Systematic A\u002FS","Denmark",null,"thomasvitale.com","https:\u002F\u002Fgithub.com\u002FThomasVitale",[82,86],{"name":83,"color":84,"percentage":85},"Java","#b07219",99.9,{"name":87,"color":88,"percentage":89},"Smalltalk","#596706",0.1,739,167,"2026-04-07T13:02:30","Apache-2.0",4,"Linux, macOS, Windows","未说明 (取决于具体使用的 LLM 模型提供商，如本地运行 Ollama 可能需要 GPU，使用 OpenAI\u002FMistral API 则无需本地 GPU)","未说明 (建议至少 8GB，若本地运行大模型需更多)",{"notes":99,"python":100,"dependencies":101},"该项目是基于 Java 和 Spring AI 的示例集合，核心运行环境需要安装 Java 25。此外，必须安装 Podman 或 Docker 以容器化方式运行部分服务（如向量数据库）。若选择本地部署模型（通过 Ollama），需额外安装 Ollama 并下载相应模型；若使用云端模型（如 OpenAI、Mistral AI），则需配置对应的 API Key。README 中未明确指定具体的内存和显卡硬性指标，这些通常由所选用的具体大语言模型决定。","不需要 (基于 Java)",[102,103,104,105,106],"Java 25","Spring AI","Podman 或 Docker","Ollama (可选，用于本地模型)","PGVector (可选，用于向量存储)",[14,35],[109,110,111,112,113,114,115,116],"large-language-models","llm","ollama","openai","spring-ai","embeddings","generative-ai","rag","2026-03-27T02:49:30.150509","2026-04-11T23:22:26.756241",[120],{"id":121,"question_zh":122,"answer_zh":123,"source_url":124},30102,"语义搜索示例与 GPTcache 项目类似吗？","底层技术是相同的，但目标不同。GPTcache 在应用程序和 LLM 服务之间提供缓存。它使用与本仓库中语义搜索示例相同的原则，为每个用户请求生成嵌入（embeddings）并存储在向量数据库中。当发送新请求时，GPTcache 会在向量数据库上执行语义搜索，以检查之前是否发送过类似的请求。如果找到结果，它将返回缓存的响应，而不是再次调用 LLM 服务。","https:\u002F\u002Fgithub.com\u002FThomasVitale\u002Fllm-apps-java-spring-ai\u002Fissues\u002F1",[]]