dupeguru

GitHub
7.5k 496 较难 1 次阅读 今天GPL-3.0其他
AI 解读 由 AI 自动生成,仅供参考

dupeGuru 是一款跨平台的图形化实用工具,专为帮助用户快速清理磁盘空间而设计。它能深入扫描 Linux、macOS 和 Windows 系统,精准识别并定位重复文件,无论是完全相同的副本还是内容相似的文件(如不同分辨率的图片),都能被有效发现。通过解决文件冗余问题,dupeGuru 让用户能轻松释放存储空间,保持文件系统整洁有序。

这款工具非常适合普通电脑用户、家庭办公人员以及需要管理大量媒体素材的设计师使用。即使不具备编程背景,用户也能通过直观的界面轻松上手,无需输入复杂命令即可完成扫描与清理工作。

在技术实现上,dupeGuru 基于 Python 3 开发,并采用 Qt 框架构建界面,确保了在不同操作系统上拥有一致且流畅的使用体验。其核心亮点在于智能的文件比对算法,不仅支持按文件名匹配,更能通过内容分析来确认文件是否真正重复,从而避免误删。作为一个开源项目,dupeGuru 持续欢迎社区贡献,致力于为用户提供免费、高效且安全的文件管理方案。

使用场景

某自由摄影师在整理跨越三年的项目归档时,发现因多次备份和版本迭代,硬盘中混杂了大量重复的照片素材与工程文件,急需清理以释放存储空间。

没有 dupeguru 时

  • 只能依赖操作系统自带的搜索功能按文件名查找,但无法识别内容相同却命名不同的文件(如 IMG_001.jpgDSC_952.jpg)。
  • 担心误删重要源文件,不得不人工逐个打开图片比对视觉内容,耗时数小时且极易产生视觉疲劳导致漏判。
  • 对于相似但不完全相同的图片(如不同分辨率的导出图),缺乏智能过滤机制,难以制定安全的清理策略。
  • 跨目录操作风险高,手动删除过程中容易误伤其他项目的关联文件,缺乏二次确认的安全缓冲。

使用 dupeguru 后

  • 利用“内容匹配”模式快速扫描全盘,精准揪出文件名不同但二进制内容完全一致的冗余文件,无论它们藏得多深。
  • 通过直观的分组界面一键预览重复项,智能标记保留最新或路径最优的文件,将原本半天的工作量压缩至几分钟。
  • 启用“图片相似度”过滤功能,轻松识别并处理那些分辨率不同或经过轻微编辑的近似图片,灵活决定去留。
  • 依托内置的“参考文件夹”保护机制,确保核心归档目录不被误触,仅在指定的临时备份区执行安全删除操作。

dupeguru 通过智能的内容指纹比对技术,将繁琐危险的人工查重重工作转化为安全高效的自动化流程,帮助用户瞬间找回宝贵的存储空间。

运行环境要求

操作系统
  • Linux
  • macOS
  • Windows
GPU

未说明

内存

未说明

依赖
notes在 Linux 环境下构建需要安装系统级依赖包(如 python3-pyqt5, python3-dev, build-essential 等)。部分 Linux 发行版(如 Debian)需额外安装 pyqt5-dev-tools 以确保 pyrcc5 可用。打包 Debian/Ubuntu 版本还需 debhelper。测试运行可选装 Tox。
python3.7+
PyQt5
dupeguru hero image

快速开始

dupeGuru

dupeGuru 是一款跨平台(Linux、OS X、Windows)的图形用户界面工具,用于查找系统中的重复文件。它主要使用 Python 3 编写,并采用 qt 框架构建用户界面。

当前状态

我们仍在寻找更多帮助,尤其是在以下方面:

  • OS X 维护:复现 bug、验证打包。
  • Linux 维护:复现 bug、维护 PPA 仓库、Debian 包和 rpm 包。
  • 翻译:更新缺失的字符串,Transifex 项目地址为 https://www.transifex.com/voltaicideas/dupeguru-1。
  • 文档:保持文档的最新状态。

本文件夹的内容

本文件夹包含 dupeGuru 的源代码。其文档位于 help 目录中,同时也以编译好的形式在在线文档中提供。以下是该源码树的组织结构:

  • core:包含 dupeGuru 的核心逻辑代码,均为 Python 代码。
  • qt:Qt 工具包的 UI 代码,使用 Python 和 PyQt 编写。
  • images:不同 UI 代码库使用的图片资源。
  • pkg:创建各种软件包所需的模板文件。
  • help:使用 Sphinx 编写的帮助文档。
  • locale:用于本地化的 .po 文件。
  • hscommon:HS 系列应用中通用的辅助工具集合。

如何从源代码构建 dupeGuru

Windows 和 macOS 特定的额外说明

Windows 的构建说明请参阅 Windows 指南

macOS 的构建说明(Qt 版本)请参阅 macOS 指南

前置条件

系统配置

在基于 Linux 的环境中构建时,需要安装以下系统包或等效包:

  • python3-pyqt5
  • pyqt5-dev-tools(某些系统上需要,请参阅注释)
  • python3-venv(仅当使用虚拟环境时)
  • python3-dev
  • build-essential

:在某些 Linux 系统上,安装 python3-pyqt5 后,pyrcc5 并不会被添加到系统的 PATH 中,这会导致资源文件(包括图标)出现问题。这些系统应安装相应的 pyqt5-dev-tools 包。可以通过运行 which pyrcc5 来检查 pyrcc5 是否已正确安装。基于 Debian 的系统需要额外安装此包,而 Arch 系统则不需要。

此外,要创建软件包还需以下依赖:

  • python3-setuptools
  • debhelper

使用 Make 构建

dupeGuru 自带一个 Makefile,可用于构建和运行:

$ make && make run

不使用 Make 构建

$ cd <dupeGuru 目录>
$ python3 -m venv --system-site-packages ./env
$ source ./env/bin/activate
$ pip install -r requirements.txt
$ python build.py
$ python run.py

生成 Debian/Ubuntu 软件包

要生成软件包,必须先安装 requirements-extra.txt 中列出的额外依赖,步骤如下:

$ cd <dupeGuru 目录>
$ python3 -m venv --system-site-packages ./env
$ source ./env/bin/activate
$ pip install -r requirements.txt -r requirements-extra.txt
$ python build.py --clean
$ python package.py

也可以将其简化为一行命令(在目录内执行):

$ bash -c "python3 -m venv --system-site-packages env && source env/bin/activate && pip install -r requirements.txt -r requirements-extra.txt && python build.py --clean && python package.py"

运行测试

完整的测试套件通过 Tox 1.7+ 运行。如果系统全局已安装 Tox,则无需设置虚拟环境,只需进入项目根目录并运行 tox 即可。

若系统未安装 Tox,请在虚拟环境中使用 pip install tox 安装,然后运行 tox

您也可以不使用 Tox 运行自动化测试。运行测试所需的额外依赖列于 requirements-extra.txt 中。因此,您可以在虚拟环境中运行 pip install -r requirements-extra.txt,然后执行 py.test core hscommon

版本历史

4.3.12022/07/09
4.3.02022/07/03
4.2.12022/03/26
4.2.02022/03/09
4.1.12021/03/22
4.1.02021/01/12
4.0.42019/05/14
4.0.32019/05/14

常见问题

相似工具推荐

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。

85.1k|★★☆☆☆|3天前
图像数据工具视频

funNLP

funNLP 是一个专为中文自然语言处理(NLP)打造的超级资源库,被誉为"NLP 民工的乐园”。它并非单一的软件工具,而是一个汇集了海量开源项目、数据集、预训练模型和实用代码的综合性平台。 面对中文 NLP 领域资源分散、入门门槛高以及特定场景数据匮乏的痛点,funNLP 提供了“一站式”解决方案。这里不仅涵盖了分词、命名实体识别、情感分析、文本摘要等基础任务的标准工具,还独特地收录了丰富的垂直领域资源,如法律、医疗、金融行业的专用词库与数据集,甚至包含古诗词生成、歌词创作等趣味应用。其核心亮点在于极高的全面性与实用性,从基础的字典词典到前沿的 BERT、GPT-2 模型代码,再到高质量的标注数据和竞赛方案,应有尽有。 无论是刚刚踏入 NLP 领域的学生、需要快速验证想法的算法工程师,还是从事人工智能研究的学者,都能在这里找到急需的“武器弹药”。对于开发者而言,它能大幅减少寻找数据和复现模型的时间;对于研究者,它提供了丰富的基准测试资源和前沿技术参考。funNLP 以开放共享的精神,极大地降低了中文自然语言处理的开发与研究成本,是中文 AI 社区不可或缺的宝藏仓库。

79.9k|★☆☆☆☆|5天前
语言模型数据工具其他

cs-video-courses

cs-video-courses 是一个精心整理的计算机科学视频课程清单,旨在为自学者提供系统化的学习路径。它汇集了全球知名高校(如加州大学伯克利分校、新南威尔士大学等)的完整课程录像,涵盖从编程基础、数据结构与算法,到操作系统、分布式系统、数据库等核心领域,并深入延伸至人工智能、机器学习、量子计算及区块链等前沿方向。 面对网络上零散且质量参差不齐的教学资源,cs-video-courses 解决了学习者难以找到成体系、高难度大学级别课程的痛点。该项目严格筛选内容,仅收录真正的大学层级课程,排除了碎片化的简短教程或商业广告,确保用户能接触到严谨的学术内容。 这份清单特别适合希望夯实计算机基础的开发者、需要补充特定领域知识的研究人员,以及渴望像在校生一样系统学习计算机科学的自学者。其独特的技术亮点在于分类极其详尽,不仅包含传统的软件工程与网络安全,还细分了生成式 AI、大语言模型、计算生物学等新兴学科,并直接链接至官方视频播放列表,让用户能一站式获取高质量的教育资源,免费享受世界顶尖大学的课堂体验。

79.8k|★☆☆☆☆|5天前
其他图像数据工具

ragflow

RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体(Agent)能力相结合,不仅支持从各类文档中高效提取知识,还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中,幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构(如表格、图表及混合排版),显著提升了信息检索的准确度,从而有效减少模型“胡编乱造”的现象,确保回答既有据可依又具备时效性。其内置的智能体机制更进一步,使系统不仅能回答问题,还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统,还是致力于探索大模型在垂直领域落地的创新者,都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口,既降低了非算法背景用户的上手门槛,也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目,它正成为连接通用大模型与行业专有知识之间的重要桥梁。

77.1k|★★★☆☆|1周前
Agent图像开发框架

PaddleOCR

PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来,转换成计算机可读取的结构化数据,让机器真正“看懂”图文内容。 面对海量纸质或电子文档,PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域,它扮演着连接图像与大型语言模型(LLM)的桥梁角色,能将视觉信息直接转化为文本输入,助力智能问答、文档分析等应用场景落地。 PaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显:不仅支持全球 100 多种语言的识别,还能在 Windows、Linux、macOS 等多个系统上运行,并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目,PaddleOCR 既能满足快速集成的需求,也能支撑前沿的视觉语言研究,是处理文字识别任务的理想选择。

75.5k|★★★☆☆|今天
语言模型图像开发框架

awesome-machine-learning

awesome-machine-learning 是一份精心整理的机器学习资源清单,汇集了全球优秀的机器学习框架、库和软件工具。面对机器学习领域技术迭代快、资源分散且难以甄选的痛点,这份清单按编程语言(如 Python、C++、Go 等)和应用场景(如计算机视觉、自然语言处理、深度学习等)进行了系统化分类,帮助使用者快速定位高质量项目。 它特别适合开发者、数据科学家及研究人员使用。无论是初学者寻找入门库,还是资深工程师对比不同语言的技术选型,都能从中获得极具价值的参考。此外,清单还延伸提供了免费书籍、在线课程、行业会议、技术博客及线下聚会等丰富资源,构建了从学习到实践的全链路支持体系。 其独特亮点在于严格的维护标准:明确标记已停止维护或长期未更新的项目,确保推荐内容的时效性与可靠性。作为机器学习领域的“导航图”,awesome-machine-learning 以开源协作的方式持续更新,旨在降低技术探索门槛,让每一位从业者都能高效地站在巨人的肩膀上创新。

72.1k|★☆☆☆☆|1周前
开发框架其他