[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-RahulSChand--gpu_poor":3,"tool-RahulSChand--gpu_poor":61},[4,18,26,36,44,52],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",141543,2,"2026-04-06T11:32:54",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107888,"2026-04-06T11:32:50",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":10,"last_commit_at":50,"category_tags":51,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[35,15,13,14],{"id":53,"name":54,"github_repo":55,"description_zh":56,"stars":57,"difficulty_score":10,"last_commit_at":58,"category_tags":59,"status":17},4292,"Deep-Live-Cam","hacksider\u002FDeep-Live-Cam","Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具，用户仅需一张静态照片，即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点，让高质量的数字内容创作变得触手可及。\n\n这款工具不仅适合开发者和技术研究人员探索算法边界，更因其极简的操作逻辑（仅需三步：选脸、选摄像头、启动），广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换，还是制作趣味短视频和直播互动，Deep-Live-Cam 都能提供流畅的支持。\n\n其核心技术亮点在于强大的实时处理能力，支持口型遮罩（Mouth Mask）以保留使用者原始的嘴部动作，确保表情自然精准；同时具备“人脸映射”功能，可同时对画面中的多个主体应用不同面孔。此外，项目内置了严格的内容安全过滤机制，自动拦截涉及裸露、暴力等不当素材，并倡导用户在获得授权及明确标注的前提下合规使用，体现了技术发展与伦理责任的平衡。",88924,"2026-04-06T03:28:53",[14,15,13,60],"视频",{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":76,"owner_email":76,"owner_twitter":76,"owner_website":77,"owner_url":78,"languages":79,"stars":92,"forks":93,"last_commit_at":94,"license":76,"difficulty_score":95,"env_os":96,"env_gpu":97,"env_ram":98,"env_deps":99,"category_tags":103,"github_topics":104,"view_count":32,"oss_zip_url":76,"oss_zip_packed_at":76,"status":17,"created_at":115,"updated_at":116,"faqs":117,"releases":143},4549,"RahulSChand\u002Fgpu_poor","gpu_poor","Calculate token\u002Fs & GPU memory requirement for any LLM.  Supports llama.cpp\u002Fggml\u002Fbnb\u002FQLoRA quantization","gpu_poor 是一款实用的在线计算工具，旨在帮助用户快速评估任意大型语言模型（LLM）在特定硬件上的运行可行性。它不仅能估算运行模型所需的显存总量，还能预测推理速度（每秒生成令牌数）以及微调训练的大致耗时。\n\n很多用户常误以为只要显存大于模型文件大小就能运行，却忽略了推理时的 KV 缓存、激活值及量化开销等隐性内存占用，导致实际部署时频繁遭遇显存溢出。gpu_poor 通过详细拆解显存构成（包括模型权重、KV 缓存、梯度优化器等），精准解答“我的显卡能跑哪个模型”、“该选何种量化方案（如 GGML、QLoRA）”以及“最大支持多长上下文”等核心痛点。\n\n这款工具特别适合 AI 开发者、研究人员以及希望在本地部署大模型的爱好者使用。其独特亮点在于全面支持 llama.cpp、bitsandbytes、QLoRA 等多种量化格式，并兼容 vLLM、Hugging Face 等主流推理框架。无论是计划进行全量微调还是高效的 LoRA 训练，用户都能利用 gpu_poor 提前规划硬件资源，避免盲目尝试，让大模型落地变得更加轻松可控。","# Can my GPU run this LLM? & at what token\u002Fs?\n\n![Made with](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Flogo-javascript-blue?logo=javascript)\n\nCalculates how much **GPU memory you need** and how much **token\u002Fs you can get** for any LLM & GPU\u002FCPU.\n\nAlso breakdown of where it goes for training\u002Finference with quantization (GGML\u002Fbitsandbytes\u002FQLoRA) & inference frameworks (vLLM\u002Fllama.cpp\u002FHF) supported\n\nLink: **https:\u002F\u002Frahulschand.github.io\u002Fgpu_poor\u002F**\n\n### Demo\n\n![new_upload](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_d019573c596a.png)\n\n\n---\n\n## Use cases\u002FFeatures\n\n#### 1. Calculate vRAM memory requirement 💾\n\n\u003Cimg width=\"643\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_bc439207c6f9.png\">\n\n---\n\n#### 2. Calculate ~token\u002Fs you can get ⏱️\n\n\u003Cimg width=\"647\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_d3eb5be05119.png\">\n\n---\n\n#### 3. Approximate time for finetuning (ms per iteration) ⌛️\n\n\u003Cimg width=\"764\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_7f7e8378ad38.png\">\n\n---\n\nFor memory, output is total vRAM & its breakdown. It looks like below\n\n```     \n{\n  \"Total\": 4000,\n  \"KV Cache\": 1000,\n  \"Model Size\": 2000,\n  \"Activation Memory\": 500,\n  \"Grad & Optimizer memory\": 0,\n  \"cuda + other overhead\":  500\n}\n```\n\nFor token\u002Fs, additional info looks like below\n\n```     \n{\n  \"Token per second\": 50,\n  \"ms per token\": 20,\n  \"Prompt process time (s)\": 5 s,\n  \"memory or compute bound?\": Memory,\n}\n```\n\nFor training, output is time for each forward pass (in ms)\n\n```     \n{\n  \"ms per iteration (forward + backward)\": 100,\n  \"memory or compute bound?\": Memory,\n}\n```\n\n---\n\n\n### Purpose\n\nmade this to check if you can run a particular LLM on your GPU. Useful to figure out the following\n\n1. How much token\u002Fs can I get?\n2. How much total time to finetune? \n3. What quantization will fit on my GPU?\n4. Max context length & batch-size my GPU can handle?\n5. Which finetuning? Full? LoRA? QLoRA?\n6. What is consuming my GPU memory? What to change to fit the LLM on GPU? \n\n---\n\n## Additional info + FAQ\n\n\n### Can't we just look at the model size & figure this out?\n\nFinding which LLMs your GPU can handle isn't as easy as looking at the model size because during inference (KV cache) takes susbtantial amount of memory. For example, with sequence length 1000 on llama-2-7b it takes 1GB of extra memory (using hugginface LlamaForCausalLM, with exLlama & vLLM this is 500MB). And during training both KV cache & activations & quantization overhead take a lot of memory. For example, llama-7b with bnb int8 quant is of size ~7.5GB but it isn't possible to finetune it using LoRA on data with 1000 context length even with RTX 4090 24 GB. Which means an additional 16GB memory goes into quant overheads, activations & grad memory.\n\n\n### How reliable are the numbers?\nThe results can vary depending on your model, input data, cuda version & what quant you are using & it is impossible to predict exact values. I have tried to take these into account & make sure the results are within 500MB. Below table I cross-check 3b,7b & 13b model memories given by the website vs. what what I get on my RTX 4090 & 2060 GPUs. All values are within 500MB. \n\n\u003Cimg width=\"604\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_c0ed2fe38898.png\">\n\n\n### How are the values calculated? \n\n`Total memory = model size + kv-cache + activation memory + optimizer\u002Fgrad memory + cuda etc. overhead`\n1. **Model size** = this is your `.bin` file size (divide it by 2 if Q8 quant & by 4 if Q4 quant).\n2. **KV-Cache** = Memory taken by KV (key-value) vectors. Size =  `(2 x sequence length x hidden size)` _per layer_. For huggingface this `(2 x 2 x sequence length x hidden size)` _per layer_. In training the whole sequence is processed at once (therefore KV cache memory = 0)\n3. **Activation Memory** = In forward pass every operation's output has to be stored for doing `.backward()`. For example if you do `output = Q * input` where `Q = (dim, dim)` and `input = (batch, seq, dim)` then output of shape `(batch, seq, dim)` will need to be stored (in fp16). This consumes the most memory in LoRA\u002FQLoRA. In LLMs there are many such intermediate steps (after Q,K,V and after attention, after norm, after FFN1, FFN2, FFN3, after skip layer ....) Around 15 intermediate representations are saved _per layer_. \n4. **Optimizer\u002FGrad memory** = Memory taken by `.grad` tensors & tensors associated with the optimizer (`running avg` etc.)\n5. **Cuda etc. overhead** = Around 500-1GB memory is taken by CUDA whenever cuda is loaded. Also there are additional overheads when you use any quantization (like bitsandbytes). There is not straightforward formula here (I assume 650 MB overhead in my calculations for cuda overhead)\n\n\n### Why are the results wrong?\nSometimes the answers might be very wrong in which case please open an issue here & I will try to fix it.\n\n\n---\n\n### TODO\n1. Add support for vLLM for token\u002Fs\n2. ~Add QLora~ ✅\n3. ~Add way to measure approximste tokens\u002Fs you can get for a particular GPU~ ✅\n4. ~Improve logic to get hyper-params from size~ (since hidden layer\u002Fintermediate size\u002Fnumber of layers can vary for a particular size) ✅\n5. Add AWQ\n","# 我的GPU能运行这个LLM吗？每秒能处理多少个token？\n\n![由…制作](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Flogo-javascript-blue?logo=javascript)\n\n计算任何LLM在特定GPU\u002FCPU上所需的**显存大小**以及能够达到的**每秒处理的token数**。\n\n还提供了训练和推理过程中显存分配的详细 breakdown，支持量化方法（GGML\u002Fbitsandbytes\u002FQLoRA）和推理框架（vLLM\u002Fllama.cpp\u002FHF）。\n\n链接：**https:\u002F\u002Frahulschand.github.io\u002Fgpu_poor\u002F**\n\n### 演示\n\n![new_upload](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_d019573c596a.png)\n\n\n---\n\n## 使用场景\u002F功能\n\n#### 1. 计算显存需求 💾\n\n\u003Cimg width=\"643\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_bc439207c6f9.png\">\n\n---\n\n#### 2. 计算每秒可处理的token数 ⏱️\n\n\u003Cimg width=\"647\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_d3eb5be05119.png\">\n\n---\n\n#### 3. 预估微调所需时间（每次迭代毫秒数） ⌛️\n\n\u003Cimg width=\"764\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_7f7e8378ad38.png\">\n\n---\n\n对于显存，输出包括总显存及其细分。格式如下：\n\n```     \n{\n  \"Total\": 4000,\n  \"KV Cache\": 1000,\n  \"Model Size\": 2000,\n  \"Activation Memory\": 500,\n  \"Grad & Optimizer memory\": 0,\n  \"cuda + other overhead\":  500\n}\n```\n\n对于每秒token数，附加信息如下：\n\n```     \n{\n  \"Token per second\": 50,\n  \"ms per token\": 20,\n  \"Prompt process time (s)\": 5 s,\n  \"memory or compute bound?\": Memory,\n}\n```\n\n对于训练，输出为每次前向传播的时间（以毫秒计）：\n\n```     \n{\n  \"ms per iteration (forward + backward)\": 100,\n  \"memory or compute bound?\": Memory,\n}\n```\n\n---\n\n\n### 目的\n\n制作这个工具是为了检查你是否能在自己的GPU上运行某个特定的LLM。它可以帮助你了解以下问题：\n\n1. 我每秒能处理多少个token？\n2. 微调需要多长时间？\n3. 哪种量化方式适合我的GPU？\n4. 我的GPU能处理的最大上下文长度和批量大小是多少？\n5. 应该选择哪种微调方法：全参数微调、LoRA还是QLoRA？\n6. 是什么占用了我的GPU显存？如何调整才能让LLM适配到GPU上？\n\n---\n\n## 补充信息 + 常见问题解答\n\n\n### 我们不能只看模型大小就判断吗？\n\n判断你的GPU能否运行某个LLM并不像单纯查看模型大小那么简单，因为在推理过程中（KV缓存）会占用大量显存。例如，在使用Llama-2-7B时，序列长度为1000的情况下，仅KV缓存就需要额外1GB显存（使用Hugging Face的LlamaForCausalLM；而使用exLlama和vLLM时则只需500MB）。而在训练阶段，KV缓存、激活值以及量化开销都会消耗大量显存。比如，Llama-7B采用bnb int8量化后模型大小约为7.5GB，但即便是在RTX 4090 24GB显存的机器上，也无法用LoRA对具有1000上下文长度的数据进行微调。这意味着还有额外的16GB显存被用于量化开销、激活值和梯度存储。\n\n### 这些数值的可靠性如何？\n\n结果可能会因模型、输入数据、CUDA版本以及所使用的量化方法而有所不同，因此无法精确预测具体数值。我已尽量考虑到这些因素，并确保结果误差不超过500MB。下表对比了网站给出的3B、7B和13B模型显存与我在RTX 4090和2060 GPU上的实际测量值，所有数值均在500MB以内。\n\n\u003Cimg width=\"604\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_readme_c0ed2fe38898.png\">\n\n\n### 数值是如何计算的？\n\n`总显存 = 模型大小 + KV缓存 + 激活显存 + 优化器\u002F梯度显存 + CUDA等开销`\n1. **模型大小** = 即你的`.bin`文件大小（如果是Q8量化则除以2，如果是Q4量化则除以4）。\n2. **KV缓存** = KV（键值）向量占用的显存。大小为 `(2 x 序列长度 x 隐藏层大小)` _每层_。对于Hugging Face来说，则是 `(2 x 2 x 序列长度 x 隐藏层大小)` _每层_。在训练中，整个序列会被一次性处理（因此KV缓存显存为0）。\n3. **激活显存** = 在前向传播过程中，每个操作的输出都需要保存下来以便进行反向传播（`.backward()`）。例如，如果执行 `output = Q * input`，其中 `Q = (dim, dim)` 和 `input = (batch, seq, dim)`，那么形状为 `(batch, seq, dim)` 的输出就需要被保存（以fp16格式）。这在LoRA\u002FQLoRA中会占用最多的显存。在LLM中，这样的中间步骤非常多（Q、K、V之后，注意力机制之后，归一化之后，FFN1、FFN2、FFN3之后，跳过层之后……）。大约每层会保存15个中间表示。\n4. **优化器\u002F梯度显存** = `.grad`张量及与优化器相关的张量（如移动平均等）所占用的显存。\n5. **CUDA等开销** = 每当加载CUDA时，大约会占用500MB到1GB的显存。此外，使用某些量化方法（如bitsandbytes）时也会产生额外的开销。这部分没有明确的计算公式（在我的计算中，我假设CUDA开销为650MB）。\n\n\n### 为什么结果有时不准确？\n\n有时候计算结果可能会有很大偏差，请在这种情况下提交issue，我会尽力修复。\n\n---\n\n### 待办事项\n1. 为vLLM添加每秒token数的支持\n2. ~添加QLora~ ✅\n3. ~添加估算特定GPU每秒可处理token数的方法~ ✅\n4. ~改进根据模型大小推断超参数的逻辑~（因为对于相同大小的模型，隐藏层大小、中间层大小和层数可能会有所不同）✅\n5. 添加AWQ","# gpu_poor 快速上手指南\n\n`gpu_poor` 是一个基于 Web 的实用工具，用于快速估算在特定 GPU 上运行大型语言模型（LLM）所需的显存大小、推理速度（token\u002Fs）以及微调所需的时间。它支持多种量化格式（GGML, bitsandbytes, QLoRA）和推理框架（vLLM, llama.cpp, Hugging Face）。\n\n## 环境准备\n\n本项目为纯前端 JavaScript 应用，**无需安装任何本地依赖或配置 Python 环境**。\n\n*   **系统要求**：任意现代操作系统（Windows, macOS, Linux）。\n*   **前置依赖**：仅需一个现代化的网页浏览器（推荐 Chrome, Edge, Firefox）。\n*   **网络要求**：需能访问 `https:\u002F\u002Frahulschand.github.io\u002Fgpu_poor\u002F`。\n\n## 安装步骤\n\n由于该工具是托管在 GitHub Pages 上的静态网站，**无需执行任何安装命令**。\n\n1.  打开浏览器。\n2.  直接访问官方地址：\n    ```text\n    https:\u002F\u002Frahulschand.github.io\u002Fgpu_poor\u002F\n    ```\n3.  （可选）若访问速度慢，可尝试使用国内镜像加速服务或代理访问该 URL。\n\n## 基本使用\n\n打开网页后，你将看到一个交互式计算器。以下是核心功能的使用示例：\n\n### 1. 估算显存需求 (Calculate vRAM)\n用于判断你的显卡是否能加载特定模型。\n\n*   **操作步骤**：\n    1.  在 **Model Size** 输入模型参数量（例如 `7B`）。\n    2.  选择 **Quantization**（量化方式，如 `FP16`, `INT8`, `INT4`）。\n    3.  设置 **Context Length**（上下文长度，如 `2048` 或 `4096`）。\n    4.  选择 **Framework**（推理框架，如 `HuggingFace`, `llama.cpp`, `vLLM`）。\n    5.  查看右侧或下方的 **Total vRAM** 结果及其细分（KV Cache, Model Size, Activation Memory 等）。\n\n*   **输出示例**：\n    ```json\n    {\n      \"Total\": 4000, \n      \"KV Cache\": 1000, \n      \"Model Size\": 2000, \n      \"Activation Memory\": 500, \n      \"cuda + other overhead\": 500\n    }\n    ```\n    *(单位通常为 MB)*\n\n### 2. 估算推理速度 (Calculate Token\u002Fs)\n用于预测每秒生成的 token 数量。\n\n*   **操作步骤**：\n    1.  保持上述模型参数设置不变。\n    2.  选择你的 **GPU Model**（例如 `RTX 4090`, `A100`）。\n    3.  查看 **Token per second** 和 **ms per token** 数据。\n    4.  工具会提示当前瓶颈是 **Memory bound** (显存带宽限制) 还是 **Compute bound** (计算能力限制)。\n\n*   **输出示例**：\n    ```json\n    {\n      \"Token per second\": 50,\n      \"ms per token\": 20,\n      \"memory or compute bound?\": \"Memory\"\n    }\n    ```\n\n### 3. 估算微调时间 (Finetuning Time)\n用于规划微调任务耗时。\n\n*   **操作步骤**：\n    1.  切换模式至 **Training\u002FFinetuning**。\n    2.  选择微调方法（**Full**, **LoRA**, **QLoRA**）。\n    3.  设置 **Batch Size**。\n    4.  查看 **ms per iteration** (每次迭代耗时)。\n\n*   **输出示例**：\n    ```json\n    {\n      \"ms per iteration (forward + backward)\": 100,\n      \"memory or compute bound?\": \"Memory\"\n    }\n    ```\n\n通过调整参数量化等级、上下文长度或批次大小，你可以直观地看到显存占用的变化，从而找到适合你硬件的最佳配置方案。","一位独立开发者试图在单张 RTX 3090 (24GB) 显卡上微调 Llama-3-8B 模型以构建垂直领域客服机器人，却面临显存爆炸和训练速度未知的困境。\n\n### 没有 gpu_poor 时\n- **盲目试错成本高**：只能凭经验猜测量化等级（如 Q4 或 Q8），反复修改代码尝试运行，一旦显存溢出（OOM）需重启环境，浪费数小时调试时间。\n- **显存黑盒难定位**：当训练失败时，无法区分是模型权重、KV Cache、激活值还是优化器状态占用了显存，不知道是该减小 Batch Size 还是缩短上下文长度。\n- **进度预估靠猜**：完全无法预知微调需要多久，不知道当前硬件是受限于显存带宽还是计算算力，导致项目排期严重失真。\n- **资源利用率低**：因害怕报错而过度保守地设置极小的上下文窗口，导致模型无法学习长文档逻辑，牺牲了最终效果。\n\n### 使用 gpu_poor 后\n- **精准方案预演**：输入模型参数和硬件配置后，立即算出 QLoRA 量化下刚好能容纳 4096 上下文长度的显存需求，一次性确定最佳量化策略，告别反复试错。\n- **显存占用透明化**：清晰看到显存拆解数据（如激活值占 5GB，优化器占 8GB），据此果断调整梯度累积步数，在不升级硬件的前提下成功跑通训练。\n- **效率量化可视**：直接获得“每次迭代耗时 120ms\"及“显存受限”的结论，准确推算出全量微调需 18 小时，从而合理安排服务器运行时段。\n- **性能极限挖掘**：确认在特定 Batch Size 下不会爆显存，大胆将上下文长度提升至模型允许的最大值，显著提升了机器人处理复杂工单的能力。\n\ngpu_poor 将原本依赖运气的硬件适配过程转化为可量化的科学决策，让开发者在有限算力下也能高效落地大模型应用。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FRahulSChand_gpu_poor_d019573c.gif","RahulSChand","Rahul C","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FRahulSChand_8cb21d22.jpg","Working on the current thing",null,"http:\u002F\u002Frahulschand.github.io","https:\u002F\u002Fgithub.com\u002FRahulSChand",[80,84,88],{"name":81,"color":82,"percentage":83},"JavaScript","#f1e05a",97.5,{"name":85,"color":86,"percentage":87},"HTML","#e34c26",1.6,{"name":89,"color":90,"percentage":91},"CSS","#663399",0.9,1398,87,"2026-04-06T13:02:35",1,"未说明 (基于 Web 的工具，可在任何现代浏览器的操作系统上运行)","非必需。该工具用于计算不同 GPU（如 RTX 4090, RTX 2060 等）或 CPU 的运行需求，本身作为网页计算器运行，不直接消耗大量 GPU 资源。","未说明 (作为轻量级网页工具，仅需满足浏览器运行的常规内存)",{"notes":100,"python":101,"dependencies":102},"这是一个基于浏览器的在线计算工具（链接：https:\u002F\u002Frahulschand.github.io\u002Fgpu_poor\u002F），无需本地安装任何依赖库、Python 环境或 CUDA。它主要用于估算大语言模型在特定硬件上的显存需求（包括 KV Cache、激活值、优化器状态等）、推理速度（token\u002Fs）以及微调时间。支持多种量化格式（GGML, bitsandbytes, QLoRA）和推理框架（vLLM, llama.cpp, HF）的理论估算。","不需要 (这是一个纯 JavaScript 实现的网页工具，无需安装 Python 环境)",[],[35,15,14],[105,106,107,108,109,110,111,112,113,114],"ggml","huggingface","llm","quantization","gpu","language-model","pytorch","llama","llama2","llamacpp","2026-03-27T02:49:30.150509","2026-04-07T01:48:04.704061",[118,123,128,133,138],{"id":119,"question_zh":120,"answer_zh":121,"source_url":122},20699,"为什么 QLoRA 显示的显存占用比 LoRA 还高？","这是因为在使用 bitsandbytes 进行 QLoRA 或其他量化（如 llm.int8）时，前向传播过程中会产生额外的开销。虽然理论上 QLoRA 模型更小，但在上下文长度（context length）较大时，量化引入的开销可能会抵消这种优势。\n\n估算该开销的经验公式为：\nQLoRA overhead = (15 * hidden_dim + 6 * intermediate_dim) x numLayers x contextLen x 0.75 (字节)\n注意：在非常大的上下文长度（如 >2048）下，此线性近似可能不再准确。","https:\u002F\u002Fgithub.com\u002FRahulSChand\u002Fgpu_poor\u002Fissues\u002F1",{"id":124,"question_zh":125,"answer_zh":126,"source_url":127},20700,"工具中的 [Prompt len] 和 [Tokens to Generate] 是什么意思？与微调时的 max_seq_length 有何关系？","在微调\u002F训练场景中，没有\"Prompt len\"和\"Tokens to generate\"的概念，只需要关注 max_seq_length。\n\n在该工具中：max_seq_length = Prompt len + Tokens to Generate。\n\n这两个概念主要用于推理阶段：\n- Prompt len：输入提示词的令牌数（一次性处理）。\n- Tokens to Generate：需要生成的回答令牌数（逐个令牌处理）。\n例如，如果你有 100 个令牌的提问并想生成 500 个令牌的回答，则 Prompt len 设为 100，Tokens to Generate 设为 500。如果是为了计算微调显存，可以将\"Tokens to Generate\"设为最小值（如 1），结果差异极小（约 1-2 MB）。","https:\u002F\u002Fgithub.com\u002FRahulSChand\u002Fgpu_poor\u002Fissues\u002F2",{"id":129,"question_zh":130,"answer_zh":131,"source_url":132},20701,"为什么通过模型名称（Name）和直接输入参数量（Size）计算出的显存结果不一致？","这是因为精确计算显存需要模型的详细架构参数，包括 hidden_size、intermediate_size、num_layers 和 vocab_size（通常从 config.json 读取）。\n\n当你仅输入模型大小（如 16B）时，工具无法获取上述具体数值，只能基于最终参数量进行估算和假设。由于仅凭总参数量无法反推确切的架构细节，因此会导致计算结果出现差异。建议优先使用模型名称或上传 config.json 以获得更准确的结果。","https:\u002F\u002Fgithub.com\u002FRahulSChand\u002Fgpu_poor\u002Fissues\u002F7",{"id":134,"question_zh":135,"answer_zh":136,"source_url":137},20702,"为什么工具计算的显存需求与实际训练（如使用 LLaMA-Factory）时的显存占用差异巨大？","这通常是因为 HuggingFace 上的模型配置文件（config.json）存在错误，导致工具读取的中间层大小（intermediate size）与实际模型权重不符。\n\n例如 Qwen-14B 模型，其 config.json 中标注的 intermediate size 为 27392，但实际权重中该值为 13696。工具依赖 config.json 进行预测，因此会产生偏差。如果遇到此类情况，请检查模型官方仓库的配置文件的准确性，或向模型作者反馈修正 config.json。","https:\u002F\u002Fgithub.com\u002FRahulSChand\u002Fgpu_poor\u002Fissues\u002F3",{"id":139,"question_zh":140,"answer_zh":141,"source_url":142},20703,"支持哪些数据中心级别的 GPU 型号（如 A100, H100）？","项目已更新支持 A100 和 H100 GPU。其中 A100 提供 40GB 和 80GB 显存版本，用户可以在工具中选择这些型号进行显存估算。","https:\u002F\u002Fgithub.com\u002FRahulSChand\u002Fgpu_poor\u002Fissues\u002F13",[144],{"id":145,"version":146,"summary_zh":147,"released_at":148},126658,"v2.0","变更\n\n1. 新增基于大语言模型及 GPU\u002FCPU 计算 ~token\u002Fs 的方法。\n2. 新增计算微调时间（每轮）的方法。\n3. 重新设计了用户界面。\n4. 添加自动补全功能。\n\n\u003Cimg width=\"639\" alt=\"image\" src=\"https:\u002F\u002Fgithub.com\u002FRahulSChand\u002Fgpu_poor\u002Fassets\u002F16897807\u002F2fdec0a6-1573-4119-9bbd-a4dc095f06bc\">","2023-10-29T02:00:13"]