modular-diffusion

modular-diffusion

灵活可扩展的PyTorch扩散模型框架

Modular Diffusion是一个基于PyTorch的模块化扩散模型框架,为设计和训练自定义扩散模型提供了简洁的API。该框架支持多种噪声类型、调度类型、去噪网络和损失函数,并提供了预构建模块库。Modular Diffusion适用于图像生成和非自回归文本合成等多种应用场景,适合AI研究人员和爱好者使用。其模块化设计简化了新型扩散模型的创建和实验过程。

Modular Diffusion扩散模型PyTorch机器学习模块化设计Github开源项目

模块化扩散

PyPI 版本 文档 MIT 许可证 Discord

模块化扩散提供了一个易于使用的模块化API,用于设计和训练基于PyTorch的自定义扩散模型。无论您是探索扩散模型的爱好者还是资深的机器学习研究人员,这个框架都适合您

特点

  • ⚙️ 高度模块化设计:轻松替换扩散过程的不同组件,包括噪声类型、调度类型、去噪网络和损失函数。
  • 📚 不断增长的预构建模块库:通过我们全面的预构建模块选择立即开始使用。
  • 🔨 轻松创建自定义模块:通过继承基类并实现所需方法来创建您自己的原创模块。
  • 🤝 与PyTorch集成:基于PyTorch构建,模块化扩散使您能够使用熟悉的语法开发自定义模块。
  • 🌈 广泛的应用范围:从生成高质量图像到实现非自回归文本合成管道,可能性无穷无尽。

安装

模块化扩散官方支持Python 3.10+,可在PyPI上获得:

pip install modular-diffusion

您还需要为您的系统安装正确的PyTorch发行版

注意:尽管模块化扩散适用于更高版本的Python,但我们目前建议使用Python 3.10。这是因为torch.compile(显著提高模型速度)目前不适用于Python 3.10以上的版本。

使用

使用模块化扩散,您只需几行代码就可以构建和训练自定义扩散模型。首先,加载并规范化您的数据集。我们正在使用AFHQ中的狗狗图片。

x, _ = zip(*ImageFolder("afhq", ToTensor())) x = resize(x, [h, w], antialias=False) x = torch.stack(x) * 2 - 1

接下来,使用模块化扩散的预构建模块或您的自定义模块构建您的自定义模型。

model = diffusion.Model( data=Identity(x, batch=128, shuffle=True), schedule=Cosine(steps=1000), noise=Gaussian(parameter="epsilon", variance="fixed"), net=UNet(channels=(1, 64, 128, 256)), loss=Simple(parameter="epsilon"), )

现在,训练并从模型中采样。

losses = [*model.train(epochs=400)] z = model.sample(batch=10) z = z[torch.linspace(0, z.shape[0] - 1, 10).long()] z = rearrange(z, "t b c h w -> c (b h) (t w)") save_image((z + 1) / 2, "output.png")

最后,惊叹结果。

<img width="360" alt="模块化扩散预览" src="https://github.com/cabralpinto/modular-diffusion/assets/47889626/2756f798-8037-460e-b827-255812f203b6"> 

查看入门指南了解更多信息,并在这里找到更多示例。

贡献

我们感谢您的支持并欢迎您的贡献!如果您发现了错误或拼写错误并想修复,请随时提交拉取请求。如果您想贡献新的预构建模块或功能,请先开启一个问题并与我们讨论。如果您不知道从何处开始,可以查看未解决的问题。请阅读我们的贡献指南以了解更多详情。

许可证

本项目采用MIT许可证

编辑推荐精选

Trae

Trae

字节跳动发布的AI编程神器IDE

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
问小白

问小白

全能AI智能助手,随时解答生活与工作的多样问题

问小白,由元石科技研发的AI智能助手,快速准确地解答各种生活和工作问题,包括但不限于搜索、规划和社交互动,帮助用户在日常生活中提高效率,轻松管理个人事务。

热门AI助手AI对话AI工具聊天机器人
Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手,它拥有超精准的音频识别翻译能力,几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球,无论你是留学生、商务人士、韩剧美剧爱好者,还是出国游玩、多国会议、跨国追星等等,都可以满足你所有需要同传的场景需求,线上线下通用,扫除语言障碍,让全世界的语言交流不再有国界。

讯飞智文

讯飞智文

一键生成PPT和Word,让学习生活更轻松

讯飞智文是一个利用 AI 技术的项目,能够帮助用户生成 PPT 以及各类文档。无论是商业领域的市场分析报告、年度目标制定,还是学生群体的职业生涯规划、实习避坑指南,亦或是活动策划、旅游攻略等内容,它都能提供支持,帮助用户精准表达,轻松呈现各种信息。

AI办公办公工具AI工具讯飞智文AI在线生成PPTAI撰写助手多语种文档生成AI自动配图热门
讯飞星火

讯飞星火

深度推理能力全新升级,全面对标OpenAI o1

科大讯飞的星火大模型,支持语言理解、知识问答和文本创作等多功能,适用于多种文件和业务场景,提升办公和日常生活的效率。讯飞星火是一个提供丰富智能服务的平台,涵盖科技资讯、图像创作、写作辅助、编程解答、科研文献解读等功能,能为不同需求的用户提供便捷高效的帮助,助力用户轻松获取信息、解决问题,满足多样化使用场景。

热门AI开发模型训练AI工具讯飞星火大模型智能问答内容创作多语种支持智慧生活
Spark-TTS

Spark-TTS

一种基于大语言模型的高效单流解耦语音令牌文本到语音合成模型

Spark-TTS 是一个基于 PyTorch 的开源文本到语音合成项目,由多个知名机构联合参与。该项目提供了高效的 LLM(大语言模型)驱动的语音合成方案,支持语音克隆和语音创建功能,可通过命令行界面(CLI)和 Web UI 两种方式使用。用户可以根据需求调整语音的性别、音高、速度等参数,生成高质量的语音。该项目适用于多种场景,如有声读物制作、智能语音助手开发等。

咔片PPT

咔片PPT

AI助力,做PPT更简单!

咔片是一款轻量化在线演示设计工具,借助 AI 技术,实现从内容生成到智能设计的一站式 PPT 制作服务。支持多种文档格式导入生成 PPT,提供海量模板、智能美化、素材替换等功能,适用于销售、教师、学生等各类人群,能高效制作出高品质 PPT,满足不同场景演示需求。

讯飞绘文

讯飞绘文

选题、配图、成文,一站式创作,让内容运营更高效

讯飞绘文,一个AI集成平台,支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容,加速品牌传播,提升内容营销效果。

热门AI辅助写作AI工具讯飞绘文内容运营AI创作个性化文章多平台分发AI助手
材料星

材料星

专业的AI公文写作平台,公文写作神器

AI 材料星,专业的 AI 公文写作辅助平台,为体制内工作人员提供高效的公文写作解决方案。拥有海量公文文库、9 大核心 AI 功能,支持 30 + 文稿类型生成,助力快速完成领导讲话、工作总结、述职报告等材料,提升办公效率,是体制打工人的得力写作神器。

openai-agents-python

openai-agents-python

OpenAI Agents SDK,助力开发者便捷使用 OpenAI 相关功能。

openai-agents-python 是 OpenAI 推出的一款强大 Python SDK,它为开发者提供了与 OpenAI 模型交互的高效工具,支持工具调用、结果处理、追踪等功能,涵盖多种应用场景,如研究助手、财务研究等,能显著提升开发效率,让开发者更轻松地利用 OpenAI 的技术优势。

下拉加载更多