ResnetGPT
ResnetGPT 是一个基于 PyTorch 框架开发的开源项目,旨在探索利用深度学习技术让 AI 自动游玩《王者荣耀》。它创造性地结合了 ResNet101 图像识别模型与 GPT 解码器架构:前者负责实时分析游戏画面特征,后者则根据视觉信息预测并生成相应的操作指令,从而形成“看屏 - 决策 - 执行”的完整闭环。
该项目主要解决了在复杂 MOBA 游戏中,如何让机器理解动态视觉场景并做出策略性反应的技术验证问题。通过采集人类玩家的操作数据(如移动、释放技能),ResnetGPT 能够模仿学习这些行为模式。不过需注意,目前版本仅基于少量对局数据训练,实战水平有限,且作者已声明停止更新,转而推荐使用强化学习方案。
ResnetGPT 非常适合对计算机视觉、序列建模及游戏 AI 感兴趣的开发者和研究人员使用。其独特的技术亮点在于尝试将常用于自然语言处理的 Transformer 解码机制迁移至游戏控制领域,为多模态交互提供了有趣的实验样本。运行该工具需要具备一定的工程部署能力,包括配置 Android 调试环境、安装 scrcpy 及 minitouch 等辅助工具,并根据不同手机分辨率手动校准按键映射坐标。虽然尚不具备成熟的商用价值,但它为理解端到端游戏智能体的构建思路提供了宝贵的参考代码。
使用场景
某高校人工智能实验室的研究团队希望验证“视觉感知 + 序列决策”架构在复杂 MOBA 游戏中的可行性,计划让 AI 自主操控英雄进行对战。
没有 ResnetGPT 时
- 开发门槛极高:研究人员需从零编写屏幕图像采集、ADB 调试连接及模拟触控指令的底层代码,耗费数周搭建基础环境。
- 感知与决策割裂:难以将游戏画面的视觉特征(如敌方位置、技能冷却)有效转化为连续的动作序列,传统规则脚本无法应对动态战局。
- 数据闭环缺失:缺乏自动化的“观看 - 操作”数据录制工具,人工采集训练样本效率低下且格式不统一,导致模型无数据可训。
- 适配成本巨大:不同手机分辨率和游戏版本更新会导致坐标映射失效,每次变动都需手动重新计算像素坐标并修改代码。
使用 ResnetGPT 后
- 开箱即用的框架:直接利用集成的 ResNet101 视觉编码器与 GPT 解码器,配合现成的 scrcpy 和 minitouch 接口,一天内即可跑通演示流程。
- 端到端智能决策:模型能自动分析截图并输出连贯的操作指令(如走位、释放技能),实现了从像素输入到动作输出的完整闭环。
- 自动化数据生成:通过内置脚本,研究人员只需手动试玩几局,系统便能自动截取画面并记录对应的按键轨迹,快速构建训练数据集。
- 灵活的本地化配置:提供可视化的坐标转换工具和 JSON 映射模板,只需简单调整参数即可适配不同分辨率的手机屏幕,大幅降低维护成本。
ResnetGPT 将复杂的游戏 AI 研发简化为数据准备与模型训练两个核心环节,极大地降低了多模态强化学习在移动端游戏场景的验证成本。
运行环境要求
- Windows
需要 NVIDIA 显卡,显存 6GB 或以上(4G 的 1050Ti 勉强可用),未提及具体 CUDA 版本
未说明

快速开始
基于PyTorch框架,使用ResNet101与GPT构建王者荣耀AI
本源码模型主要采用了SamLynnEvans Transformer的解码部分代码,以及PyTorch自带的预训练模型“resnet101-5d3b4d8f.pth”。
注意!!!
本项目已停止更新,由使用强化学习训练AI玩王者替代。
运行本代码时请注意以下几点 注意!!!!!
1、目前该模型基于后裔英雄的100多局对战数据训练而成,在实际对局中表现出频繁送人头等问题,且代码本身存在诸多不规范之处,敬请谅解。
2、本代码最初仅用于试验模型是否能玩转王者荣耀,后因B站网友强烈要求才匆忙开源,可能存在较多问题,还望大家多多包涵。
三、运行环境为Win10;Win7尚未测试,但估计也能运行。需要一张显存6GB以上的NVIDIA显卡,虽然4GB显存的1050ti勉强也可使用。
四、需准备一台已开启安卓调试模式并可运行王者荣耀的手机,虚拟机暂未尝试过,理论上应该可行。
五、需要下载scrcpy的Windows版本。将所有文件解压至项目根目录即可(这是我个人的简单做法)。
位置如图所示:

六、pyminitouch库在运行时会自动安装minitouch。若无法自动安装,则需手动安装minitouch,过程较为繁琐,如有困难请自行百度查找相关教程。另外,minitouch不支持Android 10系统。
七、本人使用的手机分辨率为1080*2160,而本代码并未针对不同手机进行优化。不同手机在minitouch命令中描述的位置可能有所差异,因此需要对代码做出相应调整,请务必注意。
八、请注意游戏界面布局,务必保持一致。布局可参考B站视频或我上传的训练用截图。如图所示:

九、游戏更新后可能会导致不可预料的结果,因此无法保证此代码长期有效。
后续我可能会发布视频教程,并分享我的设计思路。部分地区截图可能无法正常显示,可在PyCharm中打开项目中的readme.md查看。
运行与生成训练数据
所需库:
torch
torchvision
pynput
pyminitouch
可能还有其他库
运行训练好的模型
如果前期准备工作已完成,即可运行模型。在此声明,该模型仅经过100余局训练,水平较低,甚至可能连青铜段位的人机对战都难以取胜。
一、首先下载模型:你可以从Google云端硬盘下载训练好的模型,也可以通过百度网盘下载
链接:https://pan.baidu.com/s/1Bt7BXukDDCpc1aWFI2iKxg
提取码:5c1k
下载后将其放入weights文件夹中。
二、先运行“启动和结束进程.py”以启动scrcpy。
然后将“训练数据截取_A.py”中的两项修改为你自己的设备信息:_DEVICE_ID是通过adb devices命令显示的设备ID。
三、启动王者荣耀进入5v5人机对战,随后运行“训练数据截取_A.py”即可。
生成训练数据
运行“训练数据截取_A.py”时,可通过按键操控角色,从而生成训练数据;若未进行任何操作,则会生成一个空文件夹和空JSON文件。
按下“i”键可结束或重新运行程序。
按键“w”、“s”、“a”、“d”用于控制方向,“左、下、右箭头”分别对应1、2、3技能,“上箭头”长按则发动攻击。其他按键功能请参考源码。
每次获取训练图片的数量建议不超过5000张。
你也可以下载训练数据样本(仅为示例,数据量较小,无法指望仅靠两局对战数据就见效,我认为该模型现有参数至少需要上万局对战数据才能达到较好效果)
百度网盘
链接:https://pan.baidu.com/s/1Ak1sLcSRimMWRgagXGahTg
提取码:t4k3
Google云端硬盘
解压后请注意存放位置,具体请参考源码。
如何训练
一、数据预处理
将图片使用ResNet101模型进行预处理,再与对应的操作数据结合,最终以NumPy数组形式保存备用。
具体操作步骤为运行“处理训练数据5.py”。
二、训练
完成数据预处理后,运行“训练_B.py”即可。
游戏按键映射本地化
按键映射通过‘./json/名称_操作.json’文件实现,如前所述,由minitouch模拟按键操作。
- 前期准备:
开启“开发者模式”,启用“USB调试”及“USB调试(安全设置):允许通过USB调试修改权限或模拟点击”。这两项设置均可在进入开发者选项后找到。
- 按键可视化与轨迹监控:
开启“显示点按操作的视觉反馈”及“指针位置”。后者有助于查看手机屏幕上点击的具体像素坐标,从而生成适用于本地手机的按键映射JSON文件。
- 映射本地化计算说明:
本计算以手机充电口朝右握持为例,反向握持的情况可类推。样例手机分辨率为1080x2160。
Android“指针位置”显示的坐标信息以图中左上角红色原点为准,xy轴方向如图所示。无论手机如何握持(充电口朝左或右),该原点始终位于屏幕左上角,由重力感应决定。
minitouch的坐标原点则位于图中左下角的蓝色原点,此点为物理固定点,不会随手机握持方向变化而移动,反向握持时该点会出现在右上角。
此外,两个坐标系的xy轴方向不同。
在当前设定下,Android指针坐标(X,Y)对应minitouch坐标(1080-Y,X):即在点击屏幕某点时,安卓调试显示的(X,Y)在JSON文件中应替换为(1080-Y,X)。
- 本地映射文件生成:
‘check_json.py’是用于调试及生成本地JSON按键映射文件的脚本。重新映射时,请逐一记录每个按键在手机上显示的“指针位置”,并按照上述计算方法换算成JSON文件中所需的坐标。该脚本会生成‘./json/local_layout.json’文件,请在‘处理训练数据5.py’中进行相应替换。 此外,在‘处理训练数据5.py’中:‘加一技能’、‘加二技能’、‘加三技能’、‘购买’等变量也可能需要同样处理。JSON文件中指令含义请参照minitouch。
相似工具推荐
openclaw
OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你
stable-diffusion-webui
stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。
everything-claude-code
everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上
ComfyUI
ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。
gemini-cli
gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。
LLMs-from-scratch
LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目,旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型(LLM)。它不仅是同名技术著作的官方代码库,更提供了一套完整的实践方案,涵盖模型开发、预训练及微调的全过程。 该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型,却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码,用户能够透彻掌握 Transformer 架构、注意力机制等关键原理,从而真正理解大模型是如何“思考”的。此外,项目还包含了加载大型预训练权重进行微调的代码,帮助用户将理论知识延伸至实际应用。 LLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API,而是渴望探究模型构建细节的技术人员而言,这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计:将复杂的系统工程拆解为清晰的步骤,配合详细的图表与示例,让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础,还是为未来研发更大规模的模型做准备