Diffree:最新模型实现文字指令修改图片!!这下修图变得更简单了

RayRay
DiffreeT2I文本描述图像修复扩散模型热门

修图已经成为日常生活中不可或缺的功能,但AI时代必然要用点AI的方法来解决!

那么通过AI怎么能够简化我们的修图工作呢?🤔

今天小编给大家介绍一个新 T2I 模型—— Diffree

厦门大学联合上海AI实验室与香港大学的研究团队。

Diffree 能够通过 文本描述 来无缝地添加对象到图像中,无需预先定义的遮罩

视频

扫码加入AI交流群

获得更多技术支持和交流

二维码

项目简介

现有的大部分文本引导的图像修复方法无法保持背景一致性,或者需要繁琐的人为干预来指定边界框或用户随意绘制的蒙版。

Diffree是一种文本转图像模型,仅使用文本控制即可实现文本引导的对象添加,可以说是一个 基于文本引导无形状对象修复 与扩散模型。

图像

Demo

图像

图像

下面小编试用了一下官方放在hugging face上的demo演示,效果如下。

sunglasses

图像

图像

dark green pleated skirt

图像

图像

stop sign

图像

图像

技术原理

Diffree通过使用先进的图像修复技术移除对象,整理出了一个精致的合成数据集“对象添加基准”—— OABench

OABench 包含原始图像、移除对象的修复图像、对象蒙版和对象描述的 74K 个真实世界元组。

下面的流程图概述了OABench的构建过程。

流程图

Diffree使用带有附加蒙版预测模块的稳定扩散模型在 OABench 上进行训练。

Diffree 可以唯一地预测新对象的位置,并 仅使用文本指导 即可实现对象添加,同时很好地匹配 视觉上下文

此外,Diffree 可以使用生成的掩码迭代地将对象插入单个图像中,同时保持 背景一致性

图像

Diffree 还能够与其他的应用程序进行结合使用,比如与 anydoor 结合添加特定对象或者使用 GPT4V 规划应该添加的内容等。

图像

Diffree的推出展示了AI如何在创意和设计领域中发挥越来越重要的作用。

通过强大的AI技术,越来越多的繁杂人工操作在未来都能够更加简便地实现!

🔗 项目链接

https://opengvlab.github.io/Diffree

关注「向量光年」公众号

加速全行业向AI的改变

关注「开源AI项目落地」公众号

与AI时代更靠近一点

关注「AGI光年」公众号

获取每日最新资讯

编辑推荐精选

音述AI

音述AI

全球首个AI音乐社区

音述AI是全球首个AI音乐社区,致力让每个人都能用音乐表达自我。音述AI提供零门槛AI创作工具,独创GETI法则帮助用户精准定义音乐风格,AI润色功能支持自动优化作品质感。音述AI支持交流讨论、二次创作与价值变现。针对中文用户的语言习惯与文化背景进行专门优化,支持国风融合、C-pop等本土音乐标签,让技术更好地承载人文表达。

lynote.ai

lynote.ai

一站式搞定所有学习需求

不再被海量信息淹没,开始真正理解知识。Lynote 可摘要 YouTube 视频、PDF、文章等内容。即时创建笔记,检测 AI 内容并下载资料,将您的学习效率提升 10 倍。

AniShort

AniShort

为AI短剧协作而生

专为AI短剧协作而生的AniShort正式发布,深度重构AI短剧全流程生产模式,整合创意策划、制作执行、实时协作、在线审片、资产复用等全链路功能,独创无限画布、双轨并行工业化工作流与Ani智能体助手,集成多款主流AI大模型,破解素材零散、版本混乱、沟通低效等行业痛点,助力3人团队效率提升800%,打造标准化、可追溯的AI短剧量产体系,是AI短剧团队协同创作、提升制作效率的核心工具。

seedancetwo2.0

seedancetwo2.0

能听懂你表达的视频模型

Seedance two是基于seedance2.0的中国大模型,支持图像、视频、音频、文本四种模态输入,表达方式更丰富,生成也更可控。

nano-banana纳米香蕉中文站

nano-banana纳米香蕉中文站

国内直接访问,限时3折

输入简单文字,生成想要的图片,纳米香蕉中文站基于 Google 模型的 AI 图片生成网站,支持文字生图、图生图。官网价格限时3折活动

扣子-AI办公

扣子-AI办公

职场AI,就用扣子

AI办公助手,复杂任务高效处理。办公效率低?扣子空间AI助手支持播客生成、PPT制作、网页开发及报告写作,覆盖科研、商业、舆情等领域的专家Agent 7x24小时响应,生活工作无缝切换,提升50%效率!

堆友

堆友

多风格AI绘画神器

堆友平台由阿里巴巴设计团队创建,作为一款AI驱动的设计工具,专为设计师提供一站式增长服务。功能覆盖海量3D素材、AI绘画、实时渲染以及专业抠图,显著提升设计品质和效率。平台不仅提供工具,还是一个促进创意交流和个人发展的空间,界面友好,适合所有级别的设计师和创意工作者。

图像生成AI工具AI反应堆AI工具箱AI绘画GOAI艺术字堆友相机AI图像热门
码上飞

码上飞

零代码AI应用开发平台

零代码AI应用开发平台,用户只需一句话简单描述需求,AI能自动生成小程序、APP或H5网页应用,无需编写代码。

Vora

Vora

免费创建高清无水印Sora视频

Vora是一个免费创建高清无水印Sora视频的AI工具

Refly.AI

Refly.AI

最适合小白的AI自动化工作流平台

无需编码,轻松生成可复用、可变现的AI自动化工作流

下拉加载更多