Diffree:最新模型实现文字指令修改图片!!这下修图变得更简单了

RayRay
DiffreeT2I文本描述图像修复扩散模型热门

修图已经成为日常生活中不可或缺的功能,但AI时代必然要用点AI的方法来解决!

那么通过AI怎么能够简化我们的修图工作呢?🤔

今天小编给大家介绍一个新 T2I 模型—— Diffree

厦门大学联合上海AI实验室与香港大学的研究团队。

Diffree 能够通过 文本描述 来无缝地添加对象到图像中,无需预先定义的遮罩

视频

扫码加入AI交流群

获得更多技术支持和交流

二维码

项目简介

现有的大部分文本引导的图像修复方法无法保持背景一致性,或者需要繁琐的人为干预来指定边界框或用户随意绘制的蒙版。

Diffree是一种文本转图像模型,仅使用文本控制即可实现文本引导的对象添加,可以说是一个 基于文本引导无形状对象修复 与扩散模型。

图像

Demo

图像

图像

下面小编试用了一下官方放在hugging face上的demo演示,效果如下。

sunglasses

图像

图像

dark green pleated skirt

图像

图像

stop sign

图像

图像

技术原理

Diffree通过使用先进的图像修复技术移除对象,整理出了一个精致的合成数据集“对象添加基准”—— OABench

OABench 包含原始图像、移除对象的修复图像、对象蒙版和对象描述的 74K 个真实世界元组。

下面的流程图概述了OABench的构建过程。

流程图

Diffree使用带有附加蒙版预测模块的稳定扩散模型在 OABench 上进行训练。

Diffree 可以唯一地预测新对象的位置,并 仅使用文本指导 即可实现对象添加,同时很好地匹配 视觉上下文

此外,Diffree 可以使用生成的掩码迭代地将对象插入单个图像中,同时保持 背景一致性

图像

Diffree 还能够与其他的应用程序进行结合使用,比如与 anydoor 结合添加特定对象或者使用 GPT4V 规划应该添加的内容等。

图像

Diffree的推出展示了AI如何在创意和设计领域中发挥越来越重要的作用。

通过强大的AI技术,越来越多的繁杂人工操作在未来都能够更加简便地实现!

🔗 项目链接

https://opengvlab.github.io/Diffree

关注「向量光年」公众号

加速全行业向AI的改变

关注「开源AI项目落地」公众号

与AI时代更靠近一点

关注「AGI光年」公众号

获取每日最新资讯

编辑推荐精选

GPT Plus|Pro充值

GPT Plus|Pro充值

GPT充值

支持 ChatGPT Plus / Pro 充值服务,支付便捷,自动发货,售后可查。

GPT Image 2中文站

GPT Image 2中文站

AI 图片生成平台

GPT Image 2 是面向用户的 AI 图片生成平台,支持文生图、图生图及多模型创意工作流。

Vecbase

Vecbase

你的AI Agent团队

Vecbase 是专为 AI 团队打造的智能工作空间,将数据管理、模型协作与知识沉淀整合于一处。算法、产品与业务在同一平台无缝协同,让从数据到 AI 应用的落地更快一步。

音述AI

音述AI

全球首个AI音乐社区

音述AI是全球首个AI音乐社区,致力让每个人都能用音乐表达自我。音述AI提供零门槛AI创作工具,独创GETI法则帮助用户精准定义音乐风格,AI润色功能支持自动优化作品质感。音述AI支持交流讨论、二次创作与价值变现。针对中文用户的语言习惯与文化背景进行专门优化,支持国风融合、C-pop等本土音乐标签,让技术更好地承载人文表达。

QoderWork

QoderWork

阿里Qoder团队推出的桌面端AI智能体

QoderWork 是阿里推出的本地优先桌面 AI 智能体,适配 macOS14+/Windows10+,以自然语言交互实现文件管理、数据分析、AI 视觉生成、浏览器自动化等办公任务,自主拆解执行复杂工作流,数据本地运行零上传,技能市场可无限扩展,是高效的 Agentic 生产力办公助手。

lynote.ai

lynote.ai

一站式搞定所有学习需求

不再被海量信息淹没,开始真正理解知识。Lynote 可摘要 YouTube 视频、PDF、文章等内容。即时创建笔记,检测 AI 内容并下载资料,将您的学习效率提升 10 倍。

AniShort

AniShort

为AI短剧协作而生

专为AI短剧协作而生的AniShort正式发布,深度重构AI短剧全流程生产模式,整合创意策划、制作执行、实时协作、在线审片、资产复用等全链路功能,独创无限画布、双轨并行工业化工作流与Ani智能体助手,集成多款主流AI大模型,破解素材零散、版本混乱、沟通低效等行业痛点,助力3人团队效率提升800%,打造标准化、可追溯的AI短剧量产体系,是AI短剧团队协同创作、提升制作效率的核心工具。

seedancetwo2.0

seedancetwo2.0

能听懂你表达的视频模型

Seedance two是基于seedance2.0的中国大模型,支持图像、视频、音频、文本四种模态输入,表达方式更丰富,生成也更可控。

nano-banana纳米香蕉中文站

nano-banana纳米香蕉中文站

国内直接访问,限时3折

输入简单文字,生成想要的图片,纳米香蕉中文站基于 Google 模型的 AI 图片生成网站,支持文字生图、图生图。官网价格限时3折活动

扣子-AI办公

扣子-AI办公

职场AI,就用扣子

AI办公助手,复杂任务高效处理。办公效率低?扣子空间AI助手支持播客生成、PPT制作、网页开发及报告写作,覆盖科研、商业、舆情等领域的专家Agent 7x24小时响应,生活工作无缝切换,提升50%效率!

下拉加载更多