本仓库是对我们发表在《Medical Image Analysis》上的综述论文 Transformers in Medical Imaging: A Survey 的补充。

📢📢🏆🏆🏆 亮点：我们的文章现已跻身《Medical Image Analysis》期刊下载量前三的文章！🏆🏆🏆

作者：Fahad Shamshad, Salman Khan, Syed Waqas Zamir, Muhammad Haris Khan, Munawar Hayat, Fahad Shahbaz Khan, 和 Huazhu Fu

---

Awesome Transformers in Medical Imaging

一份精选的医学影像领域 Transformers（Transformer 模型）资源列表（按时间顺序排列），灵感来源于其他 awesome 项目。我们计划定期在此页面上更新相关的最新论文及其开源实现。

我们强烈鼓励希望向社区推广其优秀成果的研究人员提交 Pull Request（拉取请求）以更新其论文信息！

概览

• 综述论文
• 医学图像分割
• 医学图像分类
• 医学图像重建
• 医学图像配准
• 医学图像合成
• 医学图像检测
• 临床报告生成
• 其他

综述

Transformers in Medical Imaging: A survey. [2022 年 1 月 25 日]
. Fahad Shamshad, Salman Khan, Syed Waqas Zamir, Muhammad Haris Khan, Munawar Hayat, Fahad Shahbaz Khan, 和 Huazhu Fu.
[PDF]

Advances in Medical Image Analysis with Vision Transformers: A Comprehensive Review. [2023 年 1 月 9 日].
Reza Azad, Amirhossein Kazerouni, Moein Heidari, Ehsan Khodapanah Aghdam, Amirali Molaei, Yiwei Jia, Abin Jose, Rijo Roy, Dorit Merhof [Paper]

Medical image analysis based on transformer: A Review. [2022 年 8 月 13 日].
Zhaoshan Liu, Lei Shen.
[PDF]

Transforming medical imaging with Transformers? A comparative review of key properties, current progresses, and future perspectives. [2022 年 6 月 3 日].
Jun Li, Junyu Chen, Yucheng Tang, Ce Wang, Bennett A. Landman, S. Kevin Zhou.
[PDF]

Vision Transformers in Medical Computer Vision -- A Contemplative Retrospection. [2022 年 3 月 29 日].
Arshi Parvaiz, Muhammad Anwaar Khalid, Rukhsana Zafar, Huma Ameer, Muhammad Ali, Muhammad Moazam Fraz.
[PDF]

Transformers in Medical Image Analysis: A Review. [2022 年 2 月 24 日].
Kelei He, Chen Gan, Zhuoyuan Li, Islem Rekik, Zihao Yin, Wen Ji, Yang Gao, Qian Wang, Junfeng Zhang, Dinggang Shen.
[PDF]

Application of Transformer in Medical Image Segmentation. [2021 年 10 月 25 日].
Wenyin Zhang, Weijie Hao, Yuan Qi and Yong Wu.
[PDF]

医学图像分割

基于注意力的 Transformer（变换器）用于微结构中细胞的实例分割。 [2020 年 11 月 20 日] [BIBM, 2020].
Tim Prangemeier, Christoph Reich, Heinz Koeppl.
[PDF] [Github]

TransUNet：Transformer 使医学图像分割的编码器更强。 [2021 年 2 月 8 日].
Jieneng Chen, Yongyi Lu, Qihang Yu, Xiangde Luo, Ehsan Adeli, Yan Wang, Le Lu, Alan L. Yuille, Yuyin Zhou.
[PDF] [Github]

TransFuse：融合 Transformer 和 CNN（卷积神经网络）以进行医学图像分割。 [2021 年 2 月 16 日] [⚡MICCAI, 2021].
Yundong Zhang, Huiye Liu, Qiang Hu.
[PDF] [Github]

使用 Transformer 进行无监督脑异常检测与分割。 [2021 年 2 月 23 日] [MIDL, 2021].
Walter Hugo Lopez Pinaya, Petru-Daniel Tudosiu, Robert Gray, Geraint Rees, Parashkev Nachev, Sebastien Ourselin, M. Jorge Cardoso.
[PDF]

使用 Transformer 的免卷积医学图像分割。 [2021 年 2 月 26 日] [⚡MICCAI, 2021].
Davood Karimi, Serge Vasylechko, Ali Gholipour.
[PDF]

CoTr：高效桥接 CNN 和 Transformer 以进行 3D 医学图像分割。 [2021 年 3 月 4 日] [⚡MICCAI, 2021].
Yutong Xie, Jianpeng Zhang, Chunhua Shen, Yong Xia.
[PDF] [Github]

SpecTr：用于高光谱病理图像分割的光谱 Transformer。 [2021 年 3 月 5 日].
Boxiang Yun, Yan Wang, Jieneng Chen, Huiyu Wang, Wei Shen, Qingli Li.
[PDF] [Github]

TransBTS：使用 Transformer 的多模态脑肿瘤分割。 [2021 年 3 月 7 日] [⚡MICCAI, 2021].
Wenxuan Wang, Chen Chen, Meng Ding, Jiangyun Li, Hong Yu, Sen Zha.
[PDF] [Github]

U-Net Transformer：自注意力与交叉注意力用于医学图像分割。 [2021 年 3 月 10 日].
Olivier Petit, Nicolas Thome, Clément Rambour, Luc Soler.
[PDF] [Github]

UNETR：用于 3D 医学图像分割的 Transformer。 [2021 年 3 月 18 日].
Ali Hatamizadeh, Yucheng Tang, Vishwesh Nath, Dong Yang, Andriy Myronenko, Bennett Landman, Holger Roth, Daguang Xu.
[PDF] [Github]

Medical Transformer：用于 3D MRI 分析的通用大脑编码器。 [2021 年 4 月 28 日].
Eunji Jun, Seungwoo Jeong, Da-Woon Heo, Heung-Il Suk.
[PDF]

金字塔医学 Transformer 用于医学图像分割。 [2021 年 4 月 29 日].
Zhuangzhuang Zhang, Baozhou Sun, Weixiong Zhang.
[PDF]

GasHis-Transformer：一种用于胃组织病理学图像分类的多尺度视觉 Transformer 方法。 [2021 年 4 月 29 日].
Haoyuan Chen, Chen Li, Xiaoyan Li, Ge Wang, Weiming Hu, Yixin Li, Wanli Liu, Changhao Sun, Yudong Yao, Yueyang Teng, Marcin Grzegorzek.
[PDF]

Swin-Unet：用于医学图像分割的类 U-Net 纯 Transformer。 [2021 年 5 月 12 日].
Hu Cao, Yueyue Wang, Joy Chen, Dongsheng Jiang, Xiaopeng Zhang, Qi Tian, Manning Wang.
[PDF]

使用挤压与扩展 Transformer 进行医学图像分割。 [2021 年 5 月 20 日] [⚡IJCAI, 2021].
Shaohua Li, Xiuchao Sui, Xiangde Luo, Xinxing Xu, Yong Liu, Rick Goh.
[PDF] [Github]

用于角膜内皮细胞分割的多分支混合 Transformer 网络。 [2021 年 5 月 21 日] [⚡MICCAI, 2021].
Yinglin Zhang, Risa Higashita, Huazhu Fu, Yanwu Xu, Yang Zhang, Haofeng Liu, Jian Zhang, Jiang Liu.
[PDF]

DS-TransUNet：用于医学图像分割的双 Swin Transformer U-Net。 [2021 年 6 月 12 日].
Ailiang Lin, Bingzhi Chen, Jiayu Xu, Zheng Zhang, Guangming Lu.
[PDF]

不止于编码器：引入 Transformer 解码器进行上采样。 [2021 年 6 月 20 日].
Yijiang Li, Wentian Cai, Ying Gao, Xiping Hu.
[PDF]

多复合 Transformer 用于精确生物医学图像分割。 [2021 年 6 月 28 日] [⚡MICCAI, 2021].
Yuanfeng Ji, Ruimao Zhang, Huijie Wang, Zhen Li, Lingyun Wu, Shaoting Zhang, Ping Luo.
[PDF] [Github]

UTNet：用于医学图像分割的混合 Transformer 架构。 [2021 年 7 月 2 日] [⚡MICCAI, 2021].
Yunhe Gao, Mu Zhou, Dimitris Metaxas.
[PDF] [Github]

使用多形态 Transformer 进行少样本域适应。 [2021 年 7 月 10 日] [⚡MICCAI, 2021].
Shaohua Li, Xiuchao Sui, Jie Fu, Huazhu Fu, Xiangde Luo, Yangqin Feng, Xinxing Xu, Yong Liu, Daniel Ting, Rick Siow Mong Goh.
[PDF] [Github]

TransClaw U-Net：用于医学图像分割的带 Transformer 的 Claw U-Net。 [2021 年 7 月 12 日].
Yao Chang, Hu Menghan, Zhai Guangtao, Zhang Xiao-Ping.
[PDF]

TransAttUnet：用于医学图像分割的带 Transformer 的多级注意力引导 U-Net。 [2021 年 7 月 12 日].
Bingzhi Chen, Yishu Liu, Zheng Zhang, Guangming Lu, David Zhang.
[PDF]

LeViT-UNet：使用 Transformer 构建更快的医学图像分割编码器。 [2021 年 7 月 19 日].
Guoping Xu, Xingrong Wu, Xuan Zhang, Xinwei He.
[PDF] [Github]

Polyp-PVT：使用金字塔视觉 Transformer 进行息肉分割。 [2021 年 8 月 16 日].
Bo Dong, Wenhai Wang, Deng-Ping Fan, Jinpeng Li, Huazhu Fu, Ling Shao.
[PDF] [Github]

评估基于 Transformer 的语义分割网络用于病理图像分割。 [2021 年 8 月 26 日].
Cam Nguyen, Zuhayr Asad, Yuankai Huo.
[PDF]

使用卷积和 Transformer 网络的自动化肾肿瘤分割。 [2021 年 8 月 30 日] [👍 MICCAI KiTS Challenge, 2021].
Zhiqiang Shen, Zhiqiang_Shen, Hua Yang, Zhen Zhang, Shaohua Zheng.
[PDF]

nnFormer：用于体积分割的交错 Transformer。 [2021 年 9 月 7 日].
Hong-Yu Zhou, Jiansen Guo, Yinghao Zhang, Lequan Yu, Liansheng Wang, Yizhou Yu.
[PDF] [Github]

UCTransNet：从通道视角重新思考 U-Net 中的跳跃连接与 Transformer。 [2021 年 9 月 9 日].
Haonan Wang, Peng Cao, Jiaqi Wang, Osmar R.Zaiane.
[PDF] [Github]

MISSFormer：一种有效的医学图像分割 Transformer。 [2021 年 9 月 15 日].
Xiaohong Huang, Zhifang Deng, Dandan Li, Xueguang Yuan.
[PDF]

TransBridge：用于超声心动图左心室分割的轻量级 Transformer。 [2021 年 9 月 21 日] [👍 MICCAI Simplifying Medical Ultrasound Workshop, 2021].
Kaizhong DengYanda MengDongxu GaoJoshua BridgeYaochun ShenGregory LipYitian ZhaoYalin Zheng.
[PDF]

BiTr-Unet：用于 MRI 脑肿瘤分割的 CNN-Transformer 组合网络。 [2021 年 9 月 25 日] [👍 MICCAI BraTS DREAM Challenge ShuLab, 2021].
Qiran Jia, Hai Shu.
[PDF]

GT U-Net：用于牙根分割的类 U-Net 组 Transformer 网络。 [2021 年 9 月 30 日] [👍 MICCAI MLMI Workshop, 2021].
Yunxiang Li, Shuai Wang, Jun Wang, Guodong Zeng, Wenjun Liu, Qianni Zhang, Qun Jin, Yaqi Wang.
[PDF] [Github]

Transformer 辅助卷积网络用于细胞实例分割。 [2021 年 10 月 5 日] [👍 ISBI Workshop, 2021].
Deepanshu Pandey, Pradyumna Gupta, Sumit Bhattacharya, Aman Sinha, Rohit Agarwal.
[PDF] [Github]

边界感知 Transformer 用于皮肤病变分割。 [2021 年 10 月 8 日] [⚡MICCAI, 2021].
Jiacheng Wang, Lan Wei, Liansheng Wang, Qichao Zhou, Lei Zhu, Jing Qin.
[PDF] [Github]

脊柱 Transformer：通过 3D Transformer 在任意视野脊柱 CT 中进行椎骨标记和分割。 [2021 年 10 月 10 日] [⚡MIA, 2021].
Rong Taoa, Wenyong Liub, Guoyan Zheng.
[PDF]

AFTer-UNet：用于医学图像分割的轴向融合 Transformer UNet。 [2021 年 10 月 20 日].
Xiangyi Yan, Hao Tang, Shanlin Sun, Haoyu Ma, Deying Kong, Xiaohui Xie.
[PDF]

基于具有归纳偏差多头自注意力的 3D Swin Transformer 的肝血管分割。 [2021 年 11 月 5 日].
Mian Wu, Yinling Qian, Xiangyun Liao, Qiong Wang, Pheng-Ann Heng.
[PDF]

混合 Transformer U-Net 用于医学图像分割。 [2021 年 11 月 8 日].
Hongyi Wang, Shiao Xie, Lanfen Lin, Yutaro Iwamoto, Xian-Hua Han, Yen-Wei Chen, Ruofeng Tong.
[PDF] [Github]

T-AutoML：用于 3D 医学成像中病变分割的自动化机器学习 Transformer。 [2021 年 11 月 15 日] [⚡ICCV, 2021].
Dong Yang, Andriy Myronenko, Xiaosong Wang, Ziyue Xu, Holger R. Roth, Daguang Xu.
[PDF]

用于精确 3D 肿瘤分割的体积 Transformer。 [2021 年 11 月 26 日].
Himashi Peiris, Munawar Hayat, Zhaolin Chen, Gary Egan, Mehrtash Harandi.
[PDF] [Github]

利用全分辨率特征上下文通过融合编码器进行肝肿瘤和血管分割：应用于肝肿瘤和血管 3D 重建。 [2021 年 11 月 26 日].
Xiangyu Meng, Xudong Zhang, Gan Wang, Ying Zhang, Xin Shi, Huanhuan Dai, Zixuan Wang, Xun Wang.
[PDF]

Swin Transformer 用于 3D 医学图像分析的自监督预训练。 [2021 年 11 月 29 日].
Yucheng Tang, Dong Yang, Wenqi Li, Holger Roth, Bennett Landman, Daguang Xu, Vishwesh Nath, Ali Hatamizadeh.
[PDF] [Github]

MT-TransUNet：在 Transformer 中介导多任务令牌以进行皮肤病变分割和分类。 [2021 年 12 月 3 日].
Jingye Chen, Jieneng Chen, Zongwei Zhou, Bin Li, Alan Yuille, Yongyi Lu.
[PDF] [Github]

FAT-Net：用于自动化皮肤病变分割的特征自适应 Transformer。 [2021 年 12 月 4 日] [⚡MIA, 2021].
Huisi Wu, Shihuai Chen, Guilian Chen, Wei Wang, Baiying Lei, Zhenkun Wen.
[PDF] [Github]

通过 CNN 和 Transformer 之间的交叉教学进行半监督医学图像分割。 [2021 年 12 月 9 日].
Xiangde Luo, Minhao Hu, Tao Song, Guotai Wang, Shaoting Zhang.
[PDF] [Github]

D-Former：用于 3D 医学图像分割的 U 形膨胀 Transformer。 [2022 年 1 月 3 日].
Yixuan Wu, Kuanlun Liao, Jintai Chen, Jinhong Wang, Danny Z. Chen, Honghao Gao, Jian Wu.
[PDF]

Swin UNETR：用于 MRI 图像中脑肿瘤语义分割的 Swin Transformer。 [2022 年 1 月 4 日].
Ali Hatamizadeh, Vishwesh Nath, Yucheng Tang, Dong Yang, Holger Roth, Daguang Xu.
[PDF] [Github]

HT-Net：用于医学 CT 图像分割的分层上下文注意力 Transformer 网络。 [2022 年 1 月 15 日].
Mingjun Ma, Haiying Xia, Yumei Tan, Haisheng Li, Shuxiang Song .
[PDF]

SegTransVAE：用于医学图像分割的带正则化的混合 CNN-Transformer。 [2022 年 1 月 21 日].
Quan-Dung Pham, Hai Nguyen-Truong, Nam Nguyen Phuong, Khoa N. A. Nguyen.
[PDF] [Github]

类别感知生成对抗 Transformer 用于医学图像分割。 [2022 年 1 月 26 日].
Chenyu You, Ruihan Zhao, Fenglin Liu, Sandeep Chinchali, Ufuk Topcu, Lawrence Staib, James S. Duncan.
[PDF]

RTNet：用于糖尿病视网膜病变多病变分割的关系 Transformer 网络。 [2022 年 1 月 26 日] [⚡IEEE TMI, 2022]..
Shiqi Huang, Jianan Li, Yuze Xiao, Ning Shen, Tingfa Xu.
[PDF]

使用带 Transformer 层的混合 CNN 联合进行肝脏和肝病变分割。 [2022 年 1 月 26 日].
Georg Hille, Shubham Agrawal, Christian Wybranski, Maciej Pech, Alexey Surov, Sylvia Saalfeld.
[PDF]

用于胃癌分割的多尺度边界神经网络。 [2022 年 1 月 28 日].
Pengfei Wang, Yunqi Li, Yaru Sun, Dongzhi He & Zhiqiang Wang.
[PDF]

TransBTSV2：用于医学图像分割的更宽而非更深的 Transformer。 [2022 年 1 月 30 日].
Jiangyun Li, Wenxuan Wang, Chen Chen, Tianxiang Zhang, Sen Zha, Hong Yu, Jing Wang.
[PDF] [Github]

TraSeTR：用于机器人手术实例级器械分割的带对比查询的 Track-to-Segment Transformer。 [2022 年 1 月 30 日].
Zixu Zhao, Yueming Jin, Pheng-Ann Heng.
[PDF]

一种用于医学图像分割的多尺度 Transformer：架构、模型效率与基准测试。 2022 年 2 月 28 日。
Yunhe Gao, Mu Zhou, Di Liu, Dimitris Metaxas.
[PDF] [Github]

Tempera：用于心脏 MRI 分割的空间 Transformer 特征金字塔网络。 2022 年 3 月 1 日。
Christoforos Galazis, Huiyi Wu, Zhuoyu Li, Camille Petri, Anil A. Bharath, Marta Varela.
[PDF]

上下文注意力网络：Transformer 与 U-Net 的结合。 2022 年 3 月 2 日。
Azad Reza, Heidari Moein, Wu Yuli, Merhof Dorit.
[PDF] [Github]

基于模拟驱动的视觉 Transformer 训练以实现 X 射线图像中的金属分割。 2022 年 3 月 17 日。
Fuxin Fan, Ludwig Ritschl, Marcel Beister, Ramyar Biniazan, Björn Kreher, Tristan M. Gottschalk, Steffen Kappler, Andreas Maier.
[PDF]

TransFusion：面向医学图像分割的 Transformer 多视图发散融合。 2022 年 3 月 21 日。
Di Liu, Yunhe Gao, Qilong Zhangli, Zhennan Yan, Mu Zhou, Dimitris Metaxas.
[PDF]

CAT-Net：一种用于 MRI 前列腺分区分割的跨切片注意力 Transformer 模型。 2022 年 3 月 29 日。
Alex Ling Yu Hung, Haoxin Zheng, Qi Miao, Steven S. Raman, Demetri Terzopoulos, Kyunghyun Sung.
[PDF]

UNetFormer：用于 3D 医学图像分割的统一视觉 Transformer 模型及预训练框架。 2022 年 4 月 1 日。
Ali Hatamizadeh, Ziyue Xu, Dong Yang, Wenqi Li, Holger Roth, Daguang Xu.
[PDF] [Github]

CCAT-NET：一种基于 Transformer 的新型半监督 Covid-19 肺部病变分割框架。 2022 年 4 月 6 日。
Mingyang Liu, Li Xiao, Huiqin Jiang, Qing He.
[PDF]

使用 Transformer 进行海马体持续分割。 2022 年 4 月 17 日。
Amin Ranem, Camila González, Anirban Mukhopadhyay.
[PDF]

TranSiam：利用 Transformer 融合多模态视觉特征以进行医学图像分割。 2022 年 4 月 26 日。
Xuejian Li, Shiqiang Ma, Jijun Tang, Fei Guo.
[PDF]

ColonFormer：一种基于 Transformer 的高效结肠息肉分割方法。 2022 年 5 月 17 日。
Nguyen Thanh Duc, Nguyen Thi Oanh, Nguyen Thi Thuy, Tran Minh Triet, Dinh Viet Sang.
[PDF]

基于 Transformer 的弱监督组织病理学图像分割多示例学习。 2022 年 5 月 18 日。
Ziniu Qian, Kailu Li, Maode Lai, Eric I-Chao Chang, Bingzheng Wei, Yubo Fan, Yan Xu.
[PDF]

基于 Transformer 的生成对抗网络 (GAN) 用于肝脏分割。 2022 年 5 月 21 日。
Ugur Demir, Zheyuan Zhang, Bin Wang, Matthew Antalek, Elif Keles, Debesh Jha, Amir Borhani, Daniela Ladner, Ulas Bagci.
[PDF][Github]

一种通过均值教师实现 MRI 心脏语义分割的不确定性感知 Transformer。 2022 年 7 月 25 日 [MIUA, 2022]。
Ziyang Wang, Jian-Qing Zheng, Irina Voiculescu.
[PDF][Github]

通过双重伪标签监督实现的计算高效医学图像语义分割视觉 Transformer。 2022 年 10 月 16 日 [ICIP, 2022]。
Ziyang Wang, Nanqing Dong, Irina Voiculescu.
[PDF][Github]

用于有限标注医学图像语义分割的对抗性视觉 Transformer。 2022 年 11 月 21 日 [BMVC, 2022]。
Ziyang Wang, Chengkuan Zhao, Zixuan Ni.
[PDF][Github]

DuAT：用于医学图像分割的双聚合 Transformer 网络。 2022 年 12 月 21 日。
Feilong Tang, Qiming Huang, Jinfeng Wang, Xianxu Hou, Jionglong Su, Jingxin Liu.
[PDF]

当 CNN 遇见 ViT：迈向多类医学图像语义分割的半监督学习。 2023 年 2 月 12 日 [ECCV 研讨会，2022]。
Ziyang Wang, Tianze Li, Jian-Qing Zheng, Baoru Huang.
[PDF][Github]

DAE-Former：用于医学图像分割的双注意力引导高效 Transformer。 2023 年 1 月 27 日。
Reza Azad, René Arimond, Ehsan Khodapanah Aghdam, Amirhossein Kazerouni, Dorit Merhof.
[PDF][Github]

分类

TransMed：Transformer 推动多模态医学图像分类。 [2021 年 3 月 10 日].
Yin Dai, Yifan Gao.
[PDF]

Medical Transformer：用于 3D MRI 分析的通用大脑编码器。 [2021 年 4 月 28 日].
Eunji Jun, Seungwoo Jeong, Da-Woon Heo, Heung-Il Suk.
[PDF]

TransMIL：基于 Transformer 的相关多示例学习用于全切片图像分类。 [2021 年 6 月 2 日] [⚡NeurIPS, 2021].
Zhuchen Shao, Hao Bian, Yang Chen, Yifeng Wang, Jian Zhang, Xiangyang Ji, Yongbing Zhang.
[PDF] [GitHub]

基于 Vision Transformer 的糖尿病视网膜病变分级识别。 [2021 年 7 月 15 日] [⚡CVPR, 2021].
Rui Sun, Yihao Li, Tianzhu Zhang, Zhendong Mao, Feng Wu, Yongdong Zhang.
[PDF]

是时候用 Transformer 取代医学图像中的 CNN 了吗？ [2021 年 8 月 20 日] [👍ICCV 自动医疗诊断研讨会，2021].
Christos Matsoukas, Johan Fredin Haslum, Magnus Söderberg, Kevin Smith.
[PDF] [GitHub]

Gene Transformer：基于基因表达分类肺癌亚型的 Transformer [2021 年 8 月 26 日].
Anwar Khan, Boreom Lee.
[PDF]

一种基于 Transformer 的深度学习方法，利用临床全脑 MRI 将脑转移瘤分类至原发器官部位。 [2021 年 10 月 7 日].
Qing Lyu, Sanjeev V. Namjoshi, Emory McTyre, Umit Topaloglu, Richard Barcus, Michael D. Chan, Christina K. Cramer, Waldemar Debinski, Metin N. Gurcan, Glenn J. Lesser, Hui-Kuan Lin, Reginald F. Munden, Boris C. Pasche, Kiran Kumar Solingapuram Sai, Roy E. Strowd, Stephen B. Tatter, Kounosuke Watabe, Wei Zhang, Ge Wang, Christopher T. Whitlow.
[PDF]

CAE-Transformer：基于 Transformer 的模型，从非薄层 3D CT 扫描预测肺腺癌亚实性结节的侵袭性。 [2021 年 10 月 17 日].
Shahin Heidarian, Parnian Afshar, Anastasia Oikonomou, Konstantinos N. Plataniotis, Arash Mohammadi.
[PDF]

基于 Vision Transformer 的糖尿病视网膜病变分级识别。 [2021 年 10 月 25 日].
Jianfang Wu, Ruo Hu, Zhenghong Xiao, Jiaxu Chen, Jingwei Liu.
[PDF]

用于乳腺超声图像分类的 Vision Transformers。 [2021 年 10 月 27 日].
Behnaz Gheflati, Hassan Rivaz.
[PDF]

以指示作为先验知识，使用 Transformer 进行胸部 X 光片的多模态疾病分类 [2022 年 2 月 12 日] [👍ISBI, 2022].
Grzegorz Jacenków, Alison Q. O'Neil, Sotirios A. Tsaftaris.
[PDF] [GitHub]

无需标签即可进化的 AI：通过知识蒸馏实现胸部 X 光诊断的自进化 Vision Transformer。 [2022 年 2 月 13 日].
Sangjoon Park, Gwanghyun Kim, Yujin Oh, Joon Beom Seo, Sang Min Lee, Jin Hwan Kim, Sungjun Moon, Jae-Kwang Lim, Chang Min Park, Jong Chul Ye.
[PDF]

ScoreNet：学习非均匀注意力与增强，用于基于 Transformer 的组织病理学图像分类。 [2022 年 2 月 15 日].
Thomas Stegmüller, Antoine Spahr, Behzad Bozorgtabar, Jean-Philippe Thiran.
[PDF]

一种混合双阶段 Vision Transformer，用于 AI 辅助的胃镜活检 5 类病理诊断。 [2022 年 2 月 17 日].
Yujin Oh, Go Eun Bae, Kyung-Hee Kim, Min-Kyung Yeo, Jong Chul Ye.
[PDF]

RadioTransformer：用于视觉注意力引导疾病分类的级联全局 - 焦点 Transformer。 [2022 年 2 月 23 日].
Moinak Bhattacharya, Shubham Jain, Prateek Prasanna.
[PDF]

Uni4Eye：通过掩码图像建模 Transformer 统一 2D 和 3D 自监督预训练，用于眼科图像分类。 [2022 年 3 月 9 日].
Zhiyuan Cai, Li Lin, Huaqing He, Xiaoying Tang.
[PDF]

用于骨肉瘤组织学图像分类的降噪注意力交叉融合学习 Transformer。 [2022 年 4 月 29 日].
Liangrui Pan, Hetian Wang, Lian Wang, Boya Ji, Mingting Liu, Mitchai Chongcheawchamnan, Jin Yuan, Shaoliang Peng.
[PDF]

HoVer-Trans：解剖感知的 HoVer-Transformer，用于超声图像中无 ROI 的乳腺癌诊断。 [2022 年 5 月 17 日].
Yuhao Mo, Chu Han, Yu Liu, Min Liu, Zhenwei Shi, Jiatai Lin, Bingchao Zhao, Chunwang Huang, Bingjiang Qiu, Yanfen Cui, Lei Wu, Xipeng Pan, Zeyan Xu, Xiaomei Huang, Zaiyi Liu, Ying Wang, Changhong Liang.
[PDF]

用于全切片图像分类的图 Transformer [2022 年 5 月 19 日].
Yi Zheng, Rushin H. Gindra, Emily J. Green, Eric J. Burks, Margrit Betke, Jennifer E. Beane, Vijaya B. Kolachalama.
[PDF] [GitHub]

胃癌组织病理学子尺寸图像分类的比较研究：从线性回归到视觉 Transformer [2022 年 5 月 19 日].
Weiming Hu, Haoyuan Chen, Wanli Liu, Xiaoyan Li, Hongzan Sun, Xinyu Huang, Marcin Grzegorzek, Chen Li.
[PDF]

使用 Vision Transformer 进行肺癌多标签分类的零样本和少样本学习 [2022 年 5 月 30 日].
Fu-Ming Guo, Yingfang Fan.
[PDF]

使用集成 Transformer 从眼底图像检测糖尿病视网膜病变的严重程度。 [2023 年 1 月 3 日].
Chandranath Adak, Tejas Karkera, Soumi Chattopadhyay, Muhammad Saqib.
[PDF]

COVID-19 分类（因其当前的重要性而单独列出）

Vision Transformer (视觉 Transformer) 用于 COVID-19 CXR (胸部 X 光) 诊断，采用胸部 X 光特征语料库。 [2021 年 3 月 12 日].
Sangjoon Park, Gwanghyun Kim, Yujin Oh, Joon Beom Seo, Sang Min Lee, Jin Hwan Kim, Sungjun Moon, Jae-Kwang Lim, Jong Chul Ye.
[PDF]

使用低级胸部 X 光特征语料库的 Vision Transformer 用于 COVID-19 诊断和严重程度量化。 [2021 年 4 月 15 日].
Sangjoon Park, Gwanghyun Kim, Yujin Oh, Joon Beom Seo, Sang Min Lee, Jin Hwan Kim, Sungjun Moon, Jae-Kwang Lim, Jong Chul Ye.
[PDF]

POCFormer：一种基于床旁超声检测 COVID-19 的轻量级 Transformer 架构。 [2021 年 5 月 15 日].
Shehan Perera, Srikar Adhikari, Alper Yilmaz.
[PDF]

使用定制类 Transformer 网络自动诊断 COVID-19。 [2021 年 5 月 20 日].
Chengeng Liu1, Qingshan Yin.
[PDF]

COVID-VIT：基于 Vision Transformer 模型对 CT (计算机断层扫描) 胸部图像进行 COVID-19 分类。 [2021 年 7 月 4 日].
Xiaohong Gao, Yu Qian, Alice Gao.
[PDF] [GitHub]

xViTCOS：基于可解释 Vision Transformer 的放射学 COVID-19 筛查。 [2021 年 7 月 6 日].
Arnab Kumar Mondal, Arnab Bhattacharjee, Parag Singla, Prathosh AP.
[PDF]

用于 COVID-19 分类的带有统计检验的 Visual Transformer。 [2021 年 7 月 12 日] [👍ICCV MIA Workshop, 2021].
Chih-Chung Hsu, Guan-Lin Chen, Mei-Hsuan Wu.
[PDF]

MIA-COV19D：一种基于 Transformer 的胸部 CT 中 COVID-19 分类框架。 [2021 年 7 月 15 日] [👍ICCV MIA Workshop, 2021].
Lei Zhang, Yan Wen.
[PDF]

COViT-GAN：用于 CT 图像中 COVID-19 检测的 Vision Transformer (生成对抗网络)。 [2021 年 8 月 10 日].
Ara Abigail E. Ambita, Eujene Nikka V. Boquio, Prospero C. Naval Jr.
[PDF]

COVID-Transformer：利用 Vision Transformer 进行医疗领域可解释的 COVID-19 检测。 [2021 年 9 月 23 日].
Debaditya Shome, T Kar, Sachi Nandan Mohanty, Prayag Tiwari, Khan Muhammad, Abdullah AlTameem, Yazhou Zhang, Abdul Khader Jilani Saudagar.
[PDF]

基于 Vision Transformer 使用胸部 X 光进行 COVID-19 检测。 [2021 年 10 月 9 日].
Koushik Sivarama Krishnan, Karthik Sivarama Krishnan.
[PDF]

使用 Swin-Transformer 和 Transformer in Transformer 在胸部 X 光图像中进行 COVID-19 检测。 [2021 年 10 月 16 日].
Juntao Jiang, Shuyi Lin.
[PDF]

使用任务无关训练的 Federated Split Vision Transformer 用于 COVID-19 CXR 诊断。 [2021 年 11 月 2 日] [⚡NeurIPS, 2021].
Sangjoon Park, Gwanghyun Kim, Jeongsol Kim, Boah Kim, Jong Chul Ye.
[PDF]

使用低级胸部 X 光特征语料库的多任务 Vision Transformer 用于 COVID-19 诊断和严重程度量化。 [2021 年 11 月 4 日] [⚡MIA, 2021].
Sangjoon Park, Gwanghyun Kim, Yujin Oh, Joon Beom Seo, Sang Min Lee, Jin Hwan Kim, Sungjun Moon, Jae-Kwang Lim, Jong Chul Ye.
[PDF]

基于 Transformer 和 CNN (卷积神经网络) 的 COVID-19 CT 图像识别算法。 [2022 年 1 月 24 日].
Xiaole Fan, Xiufang Feng, Yunyun Dong, Huichao Hou.
[PDF]

重建

TransCT：用于低剂量计算机断层扫描 (CT) 的双路径 Transformer（变换器）。 [28th Feb., 2021] [⚡MICCAI, 2021].
Zhicheng Zhang, Lequan Yu, Xiaokun Liang, Wei Zhao, Lei Xing.
[PDF] [Github]

通过零样本学习对抗性 Transformer 进行无监督 MRI（磁共振成像）重建。 [15th May, 2021].
Yilmaz Korkmaz, Salman UH Dar, Mahmut Yurt, Muzaffer Özbey, Tolga Çukur.
[PDF] [Github]

TED-net：基于卷积自由 T2T 视觉 Transformer 的编码器 - 解码器膨胀网络用于低剂量 CT 去噪。 [8th June, 2021].
Dayang Wang, Zhan Wu, Hengyong Yu.
[PDF]

用于联合 MRI 重建和超分辨率的任务 Transformer 网络。 [12th June, 2021] [⚡MICCAI, 2021].
Chun-Mei Feng, Yunlu Yan, Huazhu Fu, Li Chen, Yong Xu.
[PDF] [Github]

使用 Transformer 加速多模态 MR 成像。 [27th June, 2021].
Chun-Mei Feng, Yunlu Yan, Geng Chen, Huazhu Fu, Yong Xu, Ling Shao.
[PDF] [Github]

E-DSSR：基于 Transformer 的立体深度感知的高效动态手术场景重建。 [1st July, 2021] [⚡MICCAI, 2021].
Yonghao Long, Zhaoshuo Li, Chi Hang Yee, Chi Fai Ng, Russell H. Taylor, Mathias Unberath, Qi Dou.
[PDF]

Eformer：基于边缘增强的 Transformer，用于医学图像去噪。 [16th Sep., 2021] [👍ICCV Workshop, 2021].
Achleshwar Luthra, Harsh Sulakhe, Tanish Mittal, Abhishek Iyer, Santosh Yadav.
[PDF]

Transformer-Unet：使用 Unet 进行原始图像处理。 [17th Sep., 2021].
Youyang Sha, Yonghong Zhang, Xuquan Ji, Lei Hu.
[PDF]

使用生成式视觉 Transformer 进行深度 MRI 重建。 [25th Sep., 2021].
Yilmaz KorkmazMahmut Yurt, Salman Ul Hassan Dar, Muzaffer Özbey, Tolga Cukur.
[PDF] [Github]

用于高质量 PET（正电子发射断层扫描）重建的 3D Transformer-GAN（生成对抗网络）。 [29th Sep., 2021] [⚡MICCAI, 2021].
Yanmei Luo, Yan Wang, Chen Zu, Bo Zhan, Xi Wu, Jiliu Zhou, Dinggang Shen, Luping Zhou.
[PDF]

TranSMS：用于磁性粒子成像中超分辨率校准的 Transformers。 [3rd Nov., 2021] .
Alper Güngör, Baris Askin, Damla Alptekin Soydan, Emine Ulku Saritas, Can Barış Top, Tolga Çukur.
[PDF]

DuDoTrans：双域 Transformer 为稀疏视图 CT 重建中的正弦图恢复提供更多注意力。 [21st Nov., 2021] .
Ce Wang, Kun Shang, Haimiao Zhang, Qian Li, Yuan Hui, S. Kevin Zhou.
[PDF]

使用混合模型的自监督 CT 超分辨率。 [23rd Nov., 2021] .
Zhicheng Zhang, Shaode Yu, Wenjian Qin, Xiaokun Liang, Yaoqin Xie, Guohua Cao.
[PDF]

MIST-net：用于稀疏视图 CT 重建的多域集成 Swin Transformer 网络。 [29th Nov., 2021] .
Jiayi Pan, Weiwen Wu, Zhifan Gao, Heye Zhang.
[PDF]

ReconFormer：使用循环 Transformer 加速 MRI 重建。 [23rd Jan., 2022] .
Pengfei Guo, Yiqun Mei, Jinyuan Zhou, Shanshan Jiang, Vishal M. Patel.
[PDF][Github]

DSFormer：一种用于加速多对比度 MRI 重建的双域自监督 Transformer。 [26th Jan., 2022] .
Bo Zhou, Jo Schlemper, Neel Dey, Seyed Sadegh Mohseni Salehi, Chi Liu, James S. Duncan, Michal Sofka.
[PDF]

CTformer：用于低剂量 CT 去噪的无卷积 Token2Token 膨胀视觉 Transformer。 [28th Feb., 2022] .
Dayang Wang, Fenglei Fan, Zhan Wu, Rui Liu, Fei Wang, Hengyong Yu.
[PDF][Github]

自适应重加权多损失未训练 Transformer 用于稀疏视图锥形束 CT 重建。 [23rd March, 2022] .
Minghui Wu, Yangdi Xu, Yingying Xu, Guangwei Wu, Qingqing Chen, Hongxiang Lin.
[PDF]

Transformer 赋能的多尺度上下文匹配与聚合，用于多对比度 MRI 超分辨率。 [26th March, 2022] .
Guangyuan Li, Jun Lv, Yapeng Tian, Qi Dou, Chengyan Wang, Chenliang Xu, Jing Qin.
[PDF]

跨模态高频 Transformer，用于 MR 图像超分辨率。 [29th March, 2022] .
Chaowei Fang, Dingwen Zhang, Liang Wang, Yulun Zhang, Lechao Cheng, Junwei Han.
[PDF]

数据和物理驱动的深度学习模型用于快速 MRI——从卷积神经网络 (CNN)、GAN 到注意力机制和 Transformer 的基础与方法论。 [1st April, 2022] .
Jiahao Huang, Yingying Fang, Yang Nan, Huanjun Wu, Yinzhe Wu, Zhifan Gao, Yang Li, Zidong Wang, Pietro Lio, Daniel Rueckert, Yonina C. Eldar, Guang Yang.
[PDF]

通过正弦图内部结构 Transformer 进行低剂量 CT 去噪。 [7th April, 2022] .
Liutao Yang, Zhongnian Li, Rongjun Ge, Junyong Zhao, Haipeng Si, Daoqiang Zhang.
[PDF]

掩码协同注意力 Transformer 从纵向图像和解剖引导 MRI 重建 100 倍超快/低剂量全身 PET。 [9th May, 2022] .
Yan-Ran Wang, Liangqiong Qu, Natasha Diba Sheybani, Xiaolong Luo, Jiangshan Wang, Kristina Elizabeth Hawk, Ashok Joseph Theruvath, Sergios Gatidis, Xuerong Xiao, Allison Pribnow, Daniel Rubin, Heike E. Daldrup-Link.
[PDF]

**基于 Transformer 和 GAN 的医学图像超分辨率重建网络。** [26th Dec., 2022] .<br>

Weizhi Du, Harvery Tian.
[PDF]

配准

ViT-V-Net: Vision Transformer (视觉 Transformer) for Unsupervised (无监督) Volumetric Medical Image Registration (医学图像配准). [2021 年 4 月 13 日] [👍MIDL 短文论文，2021].
Junyu Chen, Yufan He, Eric C. Frey, Ye Li, Yong Du.
[PDF] [GitHub]

Attention for Image Registration (AiR): an unsupervised Transformer approach. [2021 年 5 月 5 日].
Zihao Wang, Hervé Delingette.
[PDF]

Learning Dual Transformer Network for Diffeomorphic (微分同胚) Registration. [2021 年 9 月 21 日] [⚡MICCAI, 2021].
Yungeng Zhang, Yuru Pei, Hongbin Zha.
[PDF]

TransMorph: Transformer for unsupervised medical image registration. [2021 年 11 月 19 日].
Junyu Chen, Yong Du, Yufan He, William P. Segars, Ye Li, Eric C. Frey.
[PDF] [GitHub]

A Transformer-based Network for Deformable (可变形) Medical Image Registration. [2022 年 2 月 24 日].
Yibo Wang, Wen Qian, Xuming Zhang.
[PDF]

Affine (仿射) Medical Image Registration with Coarse-to-Fine (由粗到细) Vision Transformer. [2022 年 3 月 29 日].
Tony C. W. Mok, Albert C. S. Chung.
[PDF] [GitHub]

合成

VTGAN: Semi-supervised (半监督) Retinal (视网膜) Image Synthesis and Disease Prediction using Vision Transformers. [2021 年 4 月 14 日] [👍ICCV Workshop on Computer Vision for Automated Medical Diagnosi, 2021].
Sharif Amit Kamran, Khondker Fariha Hossain, Alireza Tavakkoli, Stewart Lee Zuckerbrod, Salah A. Baker.
[PDF] [GitHub]

PTNet: A High-Resolution Infant MRI (磁共振成像) Synthesizer Based on Transformer. [2021 年 5 月 28 日].
Xuzhe Zhang, Xinzi He, Jia Guo, Nabil Ettehadi, Natalie Aw, David Semanek, Jonathan Posner, Andrew Laine, Yun Wang.
[PDF] [GitHub]

ResViT: Residual vision transformers for Multi-modal (多模态) Medical Image Synthesis. [2021 年 6 月 30 日].
Onat Dalmaz, Mahmut Yurt, Tolga Çukur.
[PDF] [GitHub]

CyTran: Cycle-Consistent (循环一致性) Transformers for Non-Contrast to Contrast CT (计算机断层扫描) Translation. [2021 年 10 月 12 日].
Nicolae-Catalin Ristea, Andreea-Iuliana Miron, Olivian Savencu, Mariana-Iuliana Georgescu, Nicolae Verga, Fahad Shahbaz Khan, Radu Tudor Ionescu.
[PDF] [GitHub]

One Model to Synthesize Them All: Multi-contrast Multi-scale Transformer for Missing Data Imputation (缺失数据插补). [2022 年 4 月 28 日].
Jiang Liu, Srivathsa Pasumarthi, Ben Duffy, Enhao Gong, Greg Zaharchuk, Keshav Datta.
[PDF]

检测

COTR: Convolution in Transformer Network for End to End (端到端) Polyp (息肉) Detection. [2021 年 5 月 23 日].
Zhiqiang Shen, Chaonan Lin, Shaohua Zheng.
[PDF]

Transformer for Polyp Detection. [2021 年 10 月 14 日].
Shijie Liu, Hongyu Zhou, Xiaozhou Shi, Junwen Pan.
[PDF]

Lymph Node Detection in T2 MRI with Transformers. [2021 年 11 月 9 日].
Tejas Sudharshan Mathai, Sungwon Lee, Daniel C. Elton, Thomas C. Shen, Yifan Peng, Zhiyong Lu, Ronald M. Summers.
[PDF]

SATr: Slice Attention with Transformer for Universal Lesion (病灶) Detection. [2022 年 3 月 13 日].
Han Li, Long Chen, Hu Han, S. Kevin Zhou.
[PDF]

Contrastive Transformer-based Multiple Instance Learning (实例学习) for Weakly Supervised (弱监督) Polyp Frame Detection. [2022 年 3 月 13 日].
Yu Tian, Guansong Pang, Fengbei Liu, Yuyuan Liu, Chong Wang, Yuanhong Chen, Johan W Verjans, Gustavo Carneiro.
[PDF]

Unsupervised Contrastive Learning (对比学习) based Transformer for Lung Nodule (肺结节) Detection. [2022 年 4 月 30 日].
Chuang Niu, Ge Wang.
[PDF]

SwinFPN: Leveraging Vision Transformers for 3D Organs-At-Risk (风险器官) Detection. [2022 年 5 月 9 日] [MIDL 短文论文，2022].
Bastian Wittmann, Suprosanna Shit, Fernando Navarro, Jan C. Peeken, Stephanie E. Combs, Bjoern Menze.
[PDF] [GitHub]

An Effective Transformer-based Solution for RSNA Intracranial Hemorrhage (颅内出血) Detection Competition. [2022 年 5 月 16 日].
Fangxin Shang, Siqi Wang, Xiaorong Wang, Yehui Yang.
[PDF] [GitHub]

Focused Decoding Enables 3D Anatomical Detection by Transformers. [2023 年 2 月 27 日] [MELBA, 2023].
Bastian Wittmann, Fernando Navarro, Suprosanna Shit, Bjoern Menze.
[PDF] [GitHub]

临床报告生成

用于医学图像描述（Medical Image Captioning）的强化 Transformer（变换器）。 [2019 年 10 月 10 日].[MLMI, 2019]
Yuxuan Xiong, Bo Du, Pingkun Yan.
[PDF]

提高图像到文本放射学报告（Radiology Report）生成的事实完整性和一致性。 [2020 年 10 月 20 日].[NAACL, 2020]
Yasuhide Miura, Yuhao Zhang, Emily Bao Tsai, Curtis P. Langlotz, Dan Jurafsky.
[PDF] [Github]

通过记忆驱动 Transformer 生成放射学报告。 [2020 年 10 月 30 日].[EMNLP, 2020]
Zhihong Chen, Yan Song, Tsung-Hui Chang, Xiang Wan.
[PDF] [Github]

通过病理标签和多头注意力机制（Multi Head Attention）进行分层 X 射线（X-Ray）报告生成。 [2020 年 11 月 30 日].[EMNLP, 2020]
Preethi Srinivasan, Daksh Thapar, Arnav Bhavsar, Aditya Nigam.
[PDF]

在机器人手术中，通过模型校准学习领域自适应（Domain Adaptation）以生成手术报告。 [2021 年 3 月 31 日].[⚡ICRA, 2021]
Mengya Xu, Mobarakol Islam, Chwee Ming Lim, Hongliang Ren.
[PDF] [Github]

置信度引导的放射学报告生成。 [2021 年 6 月 21 日].[⚡MICCAI, 2021]
Yixin Wang, Zihao Lin, Jiang Tian, Zhongchao Shi, Yang Zhang, Jianping Fan, Zhiqiang He.
[PDF]

探索并蒸馏后验知识和先验知识以用于放射学报告生成。 [2021 年 6 月 13 日].[⚡CVPR, 2021]
Fenglin Liu, Xian Wu, Shen Ge, Wei Fan, Yuexian Zou.
[PDF]

RATCHET：用于胸部 X 射线诊断和报告的医疗 Transformer。 [2021 年 7 月 5 日].[⚡MICCAI, 2021]
Benjamin Hou, Georgios Kaissis, Ronald Summers, Bernhard Kainz.
[PDF] [Github]

使用 Transformer 生成手术指令。 [2021 年 7 月 14 日].[⚡MICCAI, 2021]
Jinglu Zhang, Yinyu Nie, Jian Chang, Jian Jun Zhang.
[PDF]

具有平滑和校准的类增量领域自适应用于手术报告生成。 [2021 年 7 月 23 日].[⚡MICCAI, 2021]
Mengya Xu, Mobarakol Islam, Chwee Ming Lim, Hongliang Ren.
[PDF] [Github]

准确流畅的医学 X 射线报告自动生成。 [2021 年 8 月 27 日].[EMNLP, 2021]
Hoang T.N. Nguyen, Dong Nie, Taivanbat Badamdorj, Yujie Liu, Yingying Zhu, Jason Truong, Li Cheng.
[PDF] [Github]

AlignTransformer：用于医学报告生成的视觉区域和疾病标签的分层对齐。 [2021 年 9 月 1 日].[⚡MICCAI, 2021]
Di You, Fenglin Liu, Shen Ge, Xiaoxia Xie, Jing Zhang, Xian Wu.
[PDF]

使用基于 Transformer 的深度学习模型自动生成胸部 X 射线报告。 [2021 年 10 月 20 日].[ICDS, 2021]
Ayoub Benali Amjoud; Mustapha Amrouch.
[PDF]

FFA-IR：迈向可解释且可靠的医学报告生成基准。 [2021 年 10 月 31 日].[⚡NeurIPS, 2021]
Mingjie Li, Wenjia Cai, Rui Liu, Yuetian Weng, Xiaoyun Zhao, Cong Wang, Xin Chen, Zhong Liu, Caineng Pan, Mengke Li, yingfeng zheng, Yizhi Liu, Flora D. Salim, Karin Verspoor, Xiaodan Liang, Xiaojun Chang.
[PDF] [Github]

通过图像与自由文本放射学报告之间的交叉监督实现泛化放射影像表示学习。 [2021 年 11 月 4 日].[Nature Machine Intelligence, 2022]
Hong-Yu Zhou, Xiaoyu Chen, Yinghao Zhang, Ruibang Luo, Liansheng Wang, Yizhou Yu.
[PDF][Github]

用于无监督医学报告生成的自动编码知识图谱（Knowledge Graph）。 [2021 年 11 月 8 日].[⚡NeurIPS, 2021]
Fenglin Liu, Chenyu You, Xian Wu, Shen Ge, Sheng Wang, Xu Sun.
[PDF]

理解修改后的 Transformer 架构在胸部放射影像临床报告生成中的迁移学习（Transfer Learning）。 [2022 年 5 月 5 日].
Edward Vendrow, Ethan Schonfeld.
[PDF]

其他

用于吉像素全切片图像（Whole Slide Images）中生存预测（Survival Prediction）的多模态协同注意力 Transformer。 [2021 年 9 月 22 日]. [⚡ICCV, 2021]
Chen, Richard J and Lu, Ming Y and Weng, Wei-Hung and Chen, Tiffany Y and Williamson, Drew FK and Manz, Trevor and Shady, Maha and Mahmood, Faisal.
[PDF][Github]

Transformer 在临床文本分类上的局限性。 [2021 年 9 月 25 日].
Shang Gao, Mohammed Alawad, M Todd Young, John Gounley, Noah Schaefferkoetter, Hong Jun Yoon, Xiao-Cheng Wu, Eric B Durbin, Jennifer Doherty, Antoinette Stroup, Linda Coyle, Georgia Tourassi.
[PDF]

用于非小细胞肺癌（NSCLC）生存结果预测的可解释 Transformer 基础神经网络。 [2021 年 10 月 14 日].
Elly Kipkogei, Gustavo Alonso Arango Argoty, Ioannis Kagiampakis, Arijit Patra, Etai Jacob.
[PDF]

3D 医学点 Transformer（变换器）：将卷积引入注意力网络以进行医学点云分析。 [2021 年 12 月 9 日].
Jianhui Yu, Chaoyi Zhang, Heng Wang, Dingxin Zhang, Yang Song, Tiange Xiang, Dongnan Liu, Weidong Cai.
[PDF]

用于 fMRI 预测任务的 Transformer 预训练与微调。 [2021 年 12 月 10 日].
Itzik Malkiel, Gony Rosenman, Lior Wolf, Talma Hendler.
[PDF]

CLIP 在医疗领域的视觉问答中是否像通用领域一样有益？ [2021 年 12 月 27 日].
Sedigheh Eslami, Gerard de Melo, Christoph Meinel.
[PDF]

TransPPG：用于远程心率估计的双流 Transformer。 [2022 年 1 月 26 日].
Jiaqi Kang, Su Yang, Weishan Zhang.
[PDF]

基于深度锚点注意力学习与 Vision Transformer 的未经治疗 MRI 脑癌生存预测。 [2022 年 2 月 3 日].
Xuan Xu, Prateek Prasanna.
[PDF]

在 CoNIC 挑战中使用多尺度 SwinTransformer-HTC 与数据增强。 [2022 年 2 月 28 日].
Chia-Yen Lee, Hsiang-Chin Chien, Ching-Ping Wang, Hong Yen, Kai-Wen Zhen, Hong-Kun Lin.
[PDF]

自监督 Vision Transformers 学习组织病理学中的视觉概念。 [2022 年 3 月 1 日].
Richard J. Chen, Rahul G. Krishnan.
[PDF][Github]

使用 3D 块聚合 Transformer 表征肾脏结构。 [2022 年 3 月 4 日].
Xin Yu, Yucheng Tang, Yinchi Zhou, Riqiang Gao, Qi Yang, Ho Hin Lee, Thomas Li, Shunxing Bao, Yuankai Huo, Zhoubing Xu, Thomas A. Lasko, Richard G. Abramson, Bennett A. Landman.
[PDF]

双流 Transformer 的联合旋转不变性和对抗训练产生 V4 区的最佳 Brain-Score。 [2022 年 3 月 8 日].
William Berrios, Arturo Deza.
[PDF]

基于 Transformer 的深度强化学习框架用于切片特定快速 MR 扫描的主动相位编码选择。 [2022 年 3 月 11 日].
Yiming Liu, Yanwei Pang, Ruiqi Jin, Zhenchang Wang.
[PDF]

表面 Vision Transformers：应用于皮层分析的基于注意力的建模。 [2022 年 3 月 29 日]. [MIDL, 2022]
Simon Dahan, Abdulah Fawaz, Logan Z. J. Williams, Chunhui Yang, Timothy S. Coalson, Matthew F. Glasser, A. David Edwards, Daniel Rueckert, Emma C. Robinson.
[PDF][Github]

表面 Vision Transformers：生物医学表面的灵活基于注意力的建模。 [2022 年 4 月 7 日]. [MIDL, 2022]
Simon Dahan, Hao Xu, Logan Z. J. Williams, Abdulah Fawaz, Chunhui Yang, Timothy S. Coalson, Michelle C. Williams, David E. Newby, A. David Edwards, Matthew F. Glasser, Alistair A. Young, Daniel Rueckert, Emma C. Robinson.
[PDF][Github]

3D Shuffle-Mixer：用于医学体积密集预测的高效上下文感知 Vision Transformer-MLP 范式学习者。 [2022 年 4 月 14 日]. [MIDL, 2022]
Jianye Pang, Cheng Jiang, Yihao Chen, Jianbo Chang, Ming Feng, Renzhi Wang, Jianhua Yao.
[PDF]

基于局部注意力图的 Transformer 用于多目标基因变异预测。 [2022 年 5 月 13 日].
Daniel Reisenbüchler, Sophia J. Wagner, Melanie Boxberg, Tingying Peng.
[PDF]

受稀疏表示启发的用于扩散 MRI 的微观结构估计 Transformer。 [2022 年 5 月 13 日].
Tianshu Zheng, Cong Sun, Weihao Zheng, Wen Shi, Haotian Li, Yi Sun, Yi Zhang, Guangbin Wang, Chuyang Ye, Dan Wu.
[PDF]

BabyNet：用于胎儿超声视频出生体重预测的残差 Transformer 模块。 [2022 年 5 月 19 日].
Szymon Płotka, Michal K. Grzeszczyk, Robert Brawura-Biskupski-Samaha, Paweł Gutaj, Michał Lipa, Tomasz Trzciński, Arkadiusz Sitek.
[PDF][Github]

用于临床安全分割的 Transformer 分布外检测。 [2022 年 5 月 21 日]. [MIDL, 2022 (Oral)]
Mark S Graham, Petru-Daniel Tudosiu, Paul Wright, Walter Hugo Lopez Pinaya, U Jean-Marie, Yee Mah, James Teo, Rolf H Jäger, David Werring, Parashkev Nachev, Sebastien Ourselin, M Jorge Cardoso.
[PDF]

MS-DINO：通过掩码采样在医疗领域高效分布式训练 Vision Transformer 基础模型。 [2023 年 1 月 5 日].
Sangjoon Park, Ik-Jae Lee, Jun Won Kim, Jong Chul Ye.
[PDF]

基于 Transformer-CNN 融合的合作学习增强结肠息肉分割。 [2023 年 1 月 17 日].
CYuanyuan Wang, Zhaohong Deng, Qiongdan Lou, Shudong Hu, Kup-sze Choi, Shitong Wang.
[PDF]

ViT-AE++：改进 Vision Transformer 自编码器以用于自监督医学图像表示。 [2023 年 1 月 18 日].
Chinmay Prabhakar, Hongwei Bran Li, Jiancheng Yang, Suprosana Shit, Benedikt Wiestler, Bjoern Menze.
[PDF]

引用

如果您发现该列表和综述对您的工作有用，请引用以下论文：

@misc{shamshad2022transformers,
      title={Transformers in Medical Imaging: A Survey}, 
      author={Shamshad, Fahad and  Khan, Salman and Zamir, Syed Waqas and Khan, Muhammad Haris and  Hayat, Munawar and Khan, Fahad Shahbaz and Fu, Huazhu}
      year={2022},
      eprint={2201.09873},
      archivePrefix={arXiv},
      primaryClass={cs.CV}
}

Awesome Transformers in Medical Imaging 快速上手指南

本仓库是一个精选的医学影像领域 Transformer 资源列表，收录了相关的综述论文、开源代码及实现方案。它本身不是一个可执行的软件包，而是作为研究者和开发者的导航库，帮助您快速定位特定任务（如分割、分类、重建等）的最新模型。

环境准备

由于本仓库主要提供资源索引和链接，运行前需确保本地具备以下基础环境：

• 操作系统: Linux / macOS / Windows
• 版本控制工具: Git (用于克隆仓库)
• 编程语言: Python 3.8+ (用于后续运行链接中的具体项目)
• 网络访问: 能够访问 GitHub 及 arXiv 服务器（国内用户建议使用加速代理或镜像源）

安装步骤

本仓库无需通过包管理器安装，直接通过 Git 克隆即可获取所有资源信息。

1. 克隆仓库

   git clone https://github.com/fahad-shamshad/awesome-transformers-in-medical-imaging.git
   cd awesome-transformers-in-medical-imaging
   

2. 查看内容 打开 README.md 文件，浏览目录结构。

   cat README.md
   

   注：国内网络环境下克隆可能较慢，建议配置 Git 镜像或使用 GitHub 加速服务。

基本使用

本仓库按任务类型分类整理了相关论文与代码，使用方法如下：

1. 浏览资源分类

根据您的需求，在 README.md 中查找对应的章节，例如：

• Medical Image Segmentation: 医学图像分割
• Medical Image Classification: 医学图像分类
• Medical Image Reconstruction: 医学图像重建
• 其他类别包括 Registration, Synthesis, Detection 等。

2. 访问论文与代码

每个条目包含论文标题、作者、日期以及 PDF 和 GitHub 链接。

• 阅读论文: 点击 [PDF] 或 [Paper] 链接下载原文。
• 复现代码: 点击 [Github] 链接进入具体的项目仓库。

3. 运行具体模型

本仓库仅做索引，实际模型代码位于各子项目的独立仓库中。以 TransUNet 为例：

1. 在列表中找到 TransUNet 条目。
2. 复制其 GitHub 链接（例如 https://github.com/Beckschen/TransUNet）。
3. 克隆该子项目并遵循其独立的 README.md 进行依赖安装和训练。

   git clone https://github.com/Beckschen/TransUNet
   cd TransUNet
   # 参考该项目文档安装依赖并运行
   

4. 贡献资源

如果您有优秀的开源工作希望加入，欢迎提交 Pull Request 更新列表信息。