U-KAN

U-KAN

提升医学图像分割和生成效能的创新框架

U-KAN是一个将Kolmogorov-Arnold网络(KAN)层整合到U-Net结构中的医学图像处理框架。这种创新设计在提高图像分割和生成任务准确性的同时,降低了计算成本。U-KAN在多个医学图像数据集的分割任务中表现出色,并在图像生成领域展现潜力。这项研究为医学图像处理技术的进步提供了新思路,有望推动更精准、高效的诊断和分析工具的发展。

U-KAN医学图像分割医学图像生成深度学习计算机视觉Github开源项目

U-KAN:为医学图像分割和生成提供强大的骨干网络

:pushpin: 这是U-KAN:为医学图像分割和生成提供强大的骨干网络的官方PyTorch实现

[项目主页] [arXiv论文] [引用]

<p align="center"> <img src="https://yellow-cdn.veclightyear.com/835a84d5/29b9d10e-065f-46a6-871e-92415253d86b.png" alt="" width="120" height="120"> </p>

U-KAN:为医学图像分割和生成提供强大的骨干网络<br> 李晨鑫*, 刘欣宇*, 李武阳*, 王成*, 刘恒宇, 袁逸轩<sup></sup><br>香港中文大学

我们探索了Kolmogorov-Anold网络(简称KAN)在改进视觉任务骨干网络方面的潜力。我们通过在分词后的中间表示上集成专用KAN层,对成熟的U-Net架构进行了研究、修改和重新设计,称之为U-KAN。严格的医学图像分割基准验证了U-KAN的优越性,即使在计算成本更低的情况下也能达到更高的准确率。我们进一步探讨了U-KAN作为扩散模型中U-Net噪声预测器的替代方案的潜力,展示了其在生成任务导向模型架构方面的适用性。这些努力揭示了宝贵的见解,并阐明了U-KAN在医学图像分割和生成方面可以成为强大骨干网络的前景。

<div align="center"> <img width="100%" alt="UKAN概览" src="https://yellow-cdn.veclightyear.com/835a84d5/14196c4d-1e6a-4182-ad8c-2d8075e5d6aa.jpg"/> </div>

📰新闻

[2024年6月] 为了更好地复现性能,对Seg_UKAN进行了一些修改。可以通过用新的train.py和archs.py内容替换原有文件来快速更新之前的代码。

[2024年6月] 模型检查点和训练日志已发布!

[2024年6月] U-KAN的代码和论文已发布!

💡主要特点

  • 首次尝试将新兴KAN的优势融入成熟的U-Net架构,使其更加准确、高效和可解释
  • 分割U-KAN采用分词KAN块有效引导KAN算子,使其与现有的基于卷积的设计兼容。
  • 扩散U-KAN作为改进的噪声预测器展示了其在生成任务和更广泛视觉设置中作为骨干网络的潜力。

🛠环境配置

git clone https://github.com/CUHK-AIM-Group/U-KAN.git cd U-KAN conda create -n ukan python=3.10 conda activate ukan cd Seg_UKAN && pip install -r requirements.txt

提示A:我们使用pytorch=1.13.0和CUDA编译版本=11.6测试了该框架。其他版本应该也可以,但不能完全保证。

📚数据准备

BUSI:数据集可以在这里找到。

GLAS:数据集可以在这里找到。

CVC-ClinicDB:数据集可以在这里找到。

我们还提供了所有预处理过的数据集,无需进行任何进一步的数据处理。您可以直接下载并将它们放入数据目录。

最终的文件结构如下:

Seg_UKAN
├── inputs
│   ├── busi
│     ├── images
│           ├── malignant (1).png
|           ├── ...
|     ├── masks
│        ├── 0
│           ├── malignant (1)_mask.png
|           ├── ...
│   ├── GLAS
│     ├── images
│           ├── 0.png
|           ├── ...
|     ├── masks
│        ├── 0
│           ├── 0.png
|           ├── ...
│   ├── CVC-ClinicDB
│     ├── images
│           ├── 0.png
|           ├── ...
|     ├── masks
│        ├── 0
│           ├── 0.png
|           ├── ...

🔖评估分割U-KAN

您可以直接从检查点模型评估U-KAN。以下是使用我们在分割模型库中的预训练模型的快速使用示例:

  1. 下载预训练权重并将它们放入{args.output_dir}/{args.name}/model.pth
  2. 运行以下脚本:
cd Seg_UKAN python val.py --name ${dataset}_UKAN --output_dir [YOUR_OUTPUT_DIR]

⏳训练分割U-KAN

你可以通过指定数据集名称 --dataset 和输入大小 --input_size 在单个GPU上简单地训练U-KAN。

cd Seg_UKAN python train.py --arch UKAN --dataset ${dataset} --input_w ${input_size} --input_h ${input_size} --name ${dataset}_UKAN --data_dir [YOUR_DATA_DIR]

例如,在 inputs 目录中的BUSI数据集上使用单个GPU训练分辨率为256x256的U-KAN:

cd Seg_UKAN python train.py --arch UKAN --dataset busi --input_w 256 --input_h 256 --name busi_UKAN --data_dir ./inputs

更多详细信息请参见Seg_UKAN/scripts.sh。 请注意,glas的分辨率为512x512,与其他数据集(256x256)不同。

🎪分割模型库

我们提供了所有预训练模型检查点 以下是已发布性能和检查点的概览。注意,单次运行的结果可能与论文中报告的平均结果有所不同。

方法数据集IoUF1检查点
Seg U-KANBUSI65.2678.75链接
Seg U-KANGLAS87.5193.33链接
Seg U-KANCVC-ClinicDB85.6192.19链接

参数 ``--no_kan'' 表示将KAN层替换为MLP层的基线模型。请注意:性能偶尔出现不一致是合理的,多次运行的平均结果可以显示出更明显的趋势。

方法层类型IoUF1检查点
Seg U-KAN (--no_kan)MLP层63.4977.07链接
Seg U-KANKAN层65.2678.75链接

🎇使用扩散U-KAN生成医学图像

请参考 Diffusion_UKAN

🛒待办事项

  • 发布Seg U-KAN的代码。
  • 发布Diffusion U-KAN的代码。
  • 上传预训练检查点。

🎈致谢

非常感谢以下项目的巨大努力!

📜引用

如果您发现这项工作对您的项目有帮助,请考虑引用以下论文:

@article{li2024u,
  title={U-KAN Makes Strong Backbone for Medical Image Segmentation and Generation},
  author={Li, Chenxin and Liu, Xinyu and Li, Wuyang and Wang, Cheng and Liu, Hengyu and Yuan, Yixuan},
  journal={arXiv preprint arXiv:2406.02918},
  year={2024}
}

编辑推荐精选

GPT Plus|Pro充值

GPT Plus|Pro充值

GPT充值

支持 ChatGPT Plus / Pro 充值服务,支付便捷,自动发货,售后可查。

GPT Image 2中文站

GPT Image 2中文站

AI 图片生成平台

GPT Image 2 是面向用户的 AI 图片生成平台,支持文生图、图生图及多模型创意工作流。

Vecbase

Vecbase

你的AI Agent团队

Vecbase 是专为 AI 团队打造的智能工作空间,将数据管理、模型协作与知识沉淀整合于一处。算法、产品与业务在同一平台无缝协同,让从数据到 AI 应用的落地更快一步。

音述AI

音述AI

全球首个AI音乐社区

音述AI是全球首个AI音乐社区,致力让每个人都能用音乐表达自我。音述AI提供零门槛AI创作工具,独创GETI法则帮助用户精准定义音乐风格,AI润色功能支持自动优化作品质感。音述AI支持交流讨论、二次创作与价值变现。针对中文用户的语言习惯与文化背景进行专门优化,支持国风融合、C-pop等本土音乐标签,让技术更好地承载人文表达。

QoderWork

QoderWork

阿里Qoder团队推出的桌面端AI智能体

QoderWork 是阿里推出的本地优先桌面 AI 智能体,适配 macOS14+/Windows10+,以自然语言交互实现文件管理、数据分析、AI 视觉生成、浏览器自动化等办公任务,自主拆解执行复杂工作流,数据本地运行零上传,技能市场可无限扩展,是高效的 Agentic 生产力办公助手。

lynote.ai

lynote.ai

一站式搞定所有学习需求

不再被海量信息淹没,开始真正理解知识。Lynote 可摘要 YouTube 视频、PDF、文章等内容。即时创建笔记,检测 AI 内容并下载资料,将您的学习效率提升 10 倍。

AniShort

AniShort

为AI短剧协作而生

专为AI短剧协作而生的AniShort正式发布,深度重构AI短剧全流程生产模式,整合创意策划、制作执行、实时协作、在线审片、资产复用等全链路功能,独创无限画布、双轨并行工业化工作流与Ani智能体助手,集成多款主流AI大模型,破解素材零散、版本混乱、沟通低效等行业痛点,助力3人团队效率提升800%,打造标准化、可追溯的AI短剧量产体系,是AI短剧团队协同创作、提升制作效率的核心工具。

seedancetwo2.0

seedancetwo2.0

能听懂你表达的视频模型

Seedance two是基于seedance2.0的中国大模型,支持图像、视频、音频、文本四种模态输入,表达方式更丰富,生成也更可控。

nano-banana纳米香蕉中文站

nano-banana纳米香蕉中文站

国内直接访问,限时3折

输入简单文字,生成想要的图片,纳米香蕉中文站基于 Google 模型的 AI 图片生成网站,支持文字生图、图生图。官网价格限时3折活动

扣子-AI办公

扣子-AI办公

职场AI,就用扣子

AI办公助手,复杂任务高效处理。办公效率低?扣子空间AI助手支持播客生成、PPT制作、网页开发及报告写作,覆盖科研、商业、舆情等领域的专家Agent 7x24小时响应,生活工作无缝切换,提升50%效率!

下拉加载更多