super-resolution

GitHub
1.5k 345 中等 2 次阅读 3天前Apache-2.0开发框架图像
AI 解读 由 AI 自动生成,仅供参考

super-resolution是一个基于TensorFlow 2.x的图像超分辨率工具库,专注于通过深度学习技术提升单张图片的分辨率和清晰度。它实现了EDSR、WDSR和SRGAN等获奖模型,能够将低分辨率图像转换为更细腻、更接近真实场景的高分辨率版本。工具通过自动下载DIV2K数据集并支持多种降质方式(如bicubic、unknown等),为图像增强提供了灵活的训练和测试环境。开发者可通过高阶API直接训练模型,或在SRGAN框架下对EDSR/WDSR进行微调,适合需要图像质量优化的技术团队和研究者。其技术亮点包括对竞赛优胜模型的完整实现、可扩展的训练流程以及针对不同应用场景的参数配置能力。

使用场景

某影视特效公司需修复1990年代电视剧的低分辨率画面,以适配4K播放平台。

没有 super-resolution 时

  • 低分辨率画面导致人物面部纹路、服装细节模糊不清,影响观感
  • 依赖人工逐帧手绘修复,单集耗时超200小时,成本高昂
  • 常规算法生成的高清画面出现明显伪影(如边缘模糊、色彩失真)
  • 无法保留原片胶片质感,画面过度锐利或失真
  • 处理效率低下,难以满足多集同时期修复需求

使用 super-resolution 后

  • EDSR模型显著增强细节清晰度,人物发丝、道具纹理等微小元素可辨
  • 自动化处理使单集修复时间缩短至8小时,人力投入减少70%
  • WDSR算法有效抑制伪影,画面边缘保持自然过渡,色彩还原度提升
  • SRGAN生成画面保留原片复古色调与胶片颗粒感,符合历史还原需求
  • 支持批量处理,同时修复5部剧集的效率提升5倍

核心价值:通过高精度超分辨率技术,在保持画面艺术风格的同时,实现高效、高质量的老旧影像数字化升级。

运行环境要求

操作系统
  • Linux
  • macOS
  • Windows
GPU

未说明

内存

未说明

依赖
notes需通过conda创建环境,预训练模型文件约5GB,WDSR需安装tensorflow-addons
python未说明
TensorFlow>=2.0
super-resolution hero image

快速开始

Travis CI

使用EDSR、WDSR和SRGAN的单图像超分辨率

基于TensorFlow 2.x的实现,包括:

这是对之前基于Keras/TensorFlow 1.x的实现的全新重写,旧版本可在这里找到。部分功能仍在开发中,但您已经可以通过高级训练API按照论文中的方法训练模型。此外,您还可以在SRGAN框架下对EDSR和WDSR模型进行微调。训练和使用示例分别在以下notebook中给出:

一个DIV2K数据提供者会自动下载指定缩放倍数(2、3、4或8)和降质算子(“双三次”、“未知”、“轻微”或“困难”)的DIV2K训练和验证图像。

重要提示: 如果您希望使用除DIV2K之外的数据集来评估预训练模型,请先阅读此评论及其回复。

环境设置

创建一个新的conda环境:

conda env create -f environment.yml

然后激活它:

conda activate sisr

简介

您可以在这篇文章中找到关于单图像超分辨率的介绍。文中还演示了如何使用SRGAN对EDSR和WDSR模型进行微调(参见本节)。

快速入门

本节中的示例需要以下预训练权重才能运行(请参阅示例notebook):

预训练权重

  • weights-edsr-16-x4.tar.gz
    • EDSR x4基准模型,如EDSR论文所述:16个残差块,64个滤波器,152万参数。
    • DIV2K验证集上的PSNR为28.89 dB(图像801–900,包含6+4像素边框)。
  • weights-wdsr-b-32-x4.tar.gz
    • WDSR B x4自定义模型:32个残差块,32个滤波器,扩张因子6,62万参数。
    • DIV2K验证集上的PSNR为28.91 dB(图像801–900,包含6+4像素边框)。
  • weights-srgan.tar.gz
    • SRGAN模型,如SRGAN论文所述:155万参数,使用VGG54内容损失进行训练。

下载后,将其解压到项目根目录:

tar xvfz weights-<...>.tar.gz

EDSR

from model import resolve_single
from model.edsr import edsr

from utils import load_image, plot_sample

model = edsr(scale=4, num_res_blocks=16)
model.load_weights('weights/edsr-16-x4/weights.h5')

lr = load_image('demo/0851x4-crop.png')
sr = resolve_single(model, lr)

plot_sample(lr, sr)

result-edsr

WDSR

from model.wdsr import wdsr_b

model = wdsr_b(scale=4, num_res_blocks=32)
model.load_weights('weights/wdsr-b-32-x4/weights.h5')

lr = load_image('demo/0829x4-crop.png')
sr = resolve_single(model, lr)

plot_sample(lr, sr)

result-wdsr

WDSR模型中的权重归一化是通过TensorFlow Addons的新WeightNormalization层包装实现的。在其最新版本中,当调用model.predict(...)时,该包装似乎会导致权重损坏。一种解决方法是将model.run_eagerly = True,或者提前使用model.compile(loss='mae')编译模型。不过,直接调用model(...)时并不会出现此问题。这一问题仍需进一步研究……

SRGAN

from model.srgan import generator

model = generator()
model.load_weights('weights/srgan/gan_generator.h5')

lr = load_image('demo/0869x4-crop.png')
sr = resolve_single(model, lr)

plot_sample(lr, sr)

result-srgan

DIV2K数据集

为了在DIV2Khttps://data.vision.ee.ethz.ch/cvl/DIV2K/)图像上进行训练和验证,应用程序应使用提供的DIV2K数据加载器。它会自动将DIV2K图像下载到.div2k目录,并将其转换为更快加载的格式。

训练数据集

from data import DIV2K

train_loader = DIV2K(scale=4,             # 2、3、4或8
                     downgrade='bicubic', # 'bicubic'、'unknown'、'mild'或'difficult'
                     subset='train')      # 训练数据集为图像001–800
                     
# 创建一个tf.data.Dataset          
train_ds = train_loader.dataset(batch_size=16,         # 批量大小如EDSR和WDSR论文所述
                                random_transform=True, # 如EDSR论文所述的随机裁剪、翻转、旋转
                                repeat_count=None)     # 无限循环迭代训练图像

# 遍历低分辨率/高分辨率图像对                                
for lr, hr in train_ds:
    # .... 

高分辨率图像的裁剪尺寸为96×96。

验证数据集

from data import DIV2K

valid_loader = DIV2K(scale=4,             # 2、3、4或8
                     downgrade='bicubic', # 'bicubic'、'unknown'、'mild'或'difficult'
                     subset='valid')      # 验证数据集为图像801–900
                     
# 创建一个tf.data.Dataset          
valid_ds = valid_loader.dataset(batch_size=1,           # 使用批量大小为1,因为`DIV2K`图像尺寸不同
                                random_transform=False, # 使用原始尺寸的`DIV2K`图像
                                repeat_count=1)         # 1个epoch
                                
# 遍历低分辨率/高分辨率图像对                                
for lr, hr in valid_ds:
    # ....                                 

训练

以下训练示例使用前面描述的训练和验证数据集。高级训练API以步数(即小批量更新)而非轮次为核心设计,以便更好地匹配论文中的描述。

EDSR

from model.edsr import edsr
from train import EdsrTrainer

# 创建一个用于训练 EDSR x4 模型的上下文,该模型包含 16 个残差块。
trainer = EdsrTrainer(model=edsr(scale=4, num_res_blocks=16), 
                      checkpoint_dir=f'.ckpt/edsr-16-x4')
                      
# 训练 EDSR 模型 300,000 步,并在 DIV2K 验证集的前 10 张图像上每 1000 步评估一次。仅当评估 PSNR 提升时才保存检查点。
trainer.train(train_ds,
              valid_ds.take(10),
              steps=300000, 
              evaluate_every=1000, 
              save_best_only=True)
              
# 从 PSNR 最高的检查点恢复模型。
trainer.restore()

# 在完整的验证集上评估模型。
psnr = trainer.evaluate(valid_ds)
print(f'PSNR = {psnr.numpy():3f}')

# 将权重保存到单独的位置。
trainer.model.save_weights('weights/edsr-16-x4/weights.h5')                                    

中断训练并重新启动时,将从最近保存的检查点继续。训练好的 Keras 模型可以通过 trainer.model 访问。

WDSR

from model.wdsr import wdsr_b
from train import WdsrTrainer

# 创建一个用于训练 WDSR B x4 模型的上下文,该模型包含 32 个残差块。
trainer = WdsrTrainer(model=wdsr_b(scale=4, num_res_blocks=32), 
                      checkpoint_dir=f'.ckpt/wdsr-b-8-x4')

# 训练 WDSR B 模型 300,000 步,并在 DIV2K 验证集的前 10 张图像上每 1000 步评估一次。仅当评估 PSNR 提升时才保存检查点。
trainer.train(train_ds,
              valid_ds.take(10),
              steps=300000, 
              evaluate_every=1000, 
              save_best_only=True)

# 从 PSNR 最高的检查点恢复模型。
trainer.restore()

# 在完整的验证集上评估模型。
psnr = trainer.evaluate(valid_ds)
print(f'PSNR = {psnr.numpy():3f}')

# 将权重保存到单独的位置。
trainer.model.save_weights('weights/wdsr-b-32-x4/weights.h5')

SRGAN

生成器预训练

from model.srgan import generator
from train import SrganGeneratorTrainer

# 创建一个仅针对生成器(SRResNet)的训练上下文。
pre_trainer = SrganGeneratorTrainer(model=generator(), checkpoint_dir=f'.ckpt/pre_generator')

# 对生成器进行预训练,共 1,000,000 步(100,000 步也足够)。 
pre_trainer.train(train_ds, valid_ds.take(10), steps=1000000, evaluate_every=1000)

# 保存预训练生成器的权重(用于后续与 GAN 的微调)。
pre_trainer.model.save_weights('weights/srgan/pre_generator.h5')

生成器微调(GAN)

from model.srgan import generator, discriminator
from train import SrganTrainer

# 创建一个新的生成器,并用预训练权重初始化。
gan_generator = generator()
gan_generator.load_weights('weights/srgan/pre_generator.h5')

# 创建一个针对 GAN(生成器 + 判别器)的训练上下文。
gan_trainer = SrganTrainer(generator=gan_generator, discriminator=discriminator())

# 训练 GAN 共 200,000 步。
gan_trainer.train(train_ds, steps=200000)

# 保存生成器和判别器的权重。
gan_trainer.generator.save_weights('weights/srgan/gan_generator.h5')
gan_trainer.discriminator.save_weights('weights/srgan/gan_discriminator.h5')

使用 SRGAN 微调 EDSR 和 WDSR 模型

也可以使用 SRGAN 对 EDSR 和 WDSR x4 模型进行微调。这些模型可以直接替换原始的 SRGAN 生成器。更多细节请参阅这篇文章

# 创建 EDSR 生成器,并用预训练权重初始化
generator = edsr(scale=4, num_res_blocks=16)
generator.load_weights('weights/edsr-16-x4/weights.h5')

# 通过 SRGAN 训练对 EDSR 模型进行微调。
gan_trainer = SrganTrainer(generator=generator, discriminator=discriminator())
gan_trainer.train(train_ds, steps=200000)
# 创建 WDSR B 生成器,并用预训练权重初始化
generator = wdsr_b(scale=4, num_res_blocks=32)
generator.load_weights('weights/wdsr-b-16-32/weights.h5')

# 通过 SRGAN 训练对 WDSR B 模型进行微调。
gan_trainer = SrganTrainer(generator=generator, discriminator=discriminator())
gan_trainer.train(train_ds, steps=200000)

常见问题

相似工具推荐

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|今天
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

140.4k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

107.7k|★★☆☆☆|2天前
开发框架图像Agent

NextChat

NextChat 是一款轻量且极速的 AI 助手,旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性,以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发,NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。 这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言,它也提供了便捷的自托管方案,支持一键部署到 Vercel 或 Zeabur 等平台。 NextChat 的核心亮点在于其广泛的模型兼容性,原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型,让用户在一个界面即可自由切换不同 AI 能力。此外,它还率先支持 MCP(Model Context Protocol)协议,增强了上下文处理能力。针对企业用户,NextChat 提供专业版解决方案,具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能,满足公司对数据隐私和个性化管理的高标准要求。

87.6k|★★☆☆☆|昨天
开发框架语言模型

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。

85k|★★☆☆☆|今天
图像数据工具视频

ragflow

RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体(Agent)能力相结合,不仅支持从各类文档中高效提取知识,还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中,幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构(如表格、图表及混合排版),显著提升了信息检索的准确度,从而有效减少模型“胡编乱造”的现象,确保回答既有据可依又具备时效性。其内置的智能体机制更进一步,使系统不仅能回答问题,还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统,还是致力于探索大模型在垂直领域落地的创新者,都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口,既降低了非算法背景用户的上手门槛,也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目,它正成为连接通用大模型与行业专有知识之间的重要桥梁。

77.1k|★★★☆☆|2天前
Agent图像开发框架