ComfyUI原生集成InstantID,优化人物图像生成效率
ComfyUI_InstantID项目为ComfyUI提供原生InstantID支持,无需依赖diffusers库。该扩展完全集成ComfyUI,支持多ID生成、IPAdapter风格化和额外ControlNet控制。通过降低CFG和注入噪声等技术,有效减少水印并提升生成质量。项目还支持SDXL Turbo/Lighting模型,适合需要高效、灵活人物图像生成的用户。
与其他已有扩展不同,本扩展不使用 diffusers,而是原生实现 InstantID,并与 ComfyUI 完全集成。
:heart: Github 赞助 | :coin: Paypal
</div>如果您喜欢我的工作并希望看到更新和新功能,请考虑赞助我的项目。
更不用说文档和视频教程了。例如,查看我在 YouTube 上的 ComfyUI 高级理解 视频,第1部分和第2部分
保持代码开源和免费的唯一方法是赞助其开发。赞助越多,我就能投入更多时间到我的开源项目中。
请考虑 Github 赞助 或 PayPal 捐赠(Matteo "matt3o" Spinelli)。对于 50 美元以上的赞助,如果您希望在此 readme 文件中被提及,可以在 Discord 上或通过 matt3o :snail: gmail.com 联系我。
2024/02/27: 在负面嵌入中添加了噪声注入。
2024/02/26: 修复了一个小但严重的错误。结果会有所不同,您可能需要降低 CFG。
2024/02/20: 我重构了节点,希望它们更易于使用。这是一个破坏性更新,之前的工作流将不再有效。
在 examples
目录中,您可以找到一些基本工作流。
** :movie_camera: InstantID 功能介绍**
将 ComfyUI 更新到最新版本!
下载或 git clone
此仓库到 ComfyUI/custom_nodes/
目录,或使用管理器。
InstantID 需要 insightface
,您需要将其与 onnxruntime
和 onnxruntime-gpu
一起添加到您的库中。
InsightFace 模型是 antelopev2(不是经典的 buffalo_l)。下载模型(例如从这里或这里),解压并放置在 ComfyUI/models/insightface/models/antelopev2
目录中。
主要模型可以从 HuggingFace 下载,应放置在 ComfyUI/models/instantid
目录中。(注意该模型被称为 ip_adapter,因为它基于 IPAdapter)。
您还需要一个 controlnet,将其放在 ComfyUI controlnet 目录中。
请记住,目前这仅适用于 SDXL。
训练数据中充满了水印,为避免它们出现在您的生成中,请使用稍微不同于 1024×1024(或标准尺寸)的分辨率,例如 1016×1016 效果很好。
将 CFG 降低到至少 4/5 很重要,或者您可以使用 RescaleCFG
节点。
人物姿势基于参考图像生成的关键点。您可以通过向 image_kps
输入发送图像来使用不同的姿势。
默认的 InstantID 实现似乎真的会烧毁图像,我发现通过向负面嵌入注入噪声,我们可以缓解这种效果,并增加与参考的相似度。默认的 Apply InstantID 节点自动注入 35% 的噪声,如果您想微调效果,可以使用高级 InstantID 节点。
这仍然是实验性的,将来可能会改变。
您可以在生成中添加更多的 controlnets。提供了深度 controlnet 的示例工作流。
可以使用 IPAdapter 为构图设计样式。提供了一个示例。
<img src="https://yellow-cdn.veclightyear.com/835a84d5/9c839034-5459-4782-bd0f-4b96be6d85ff.jpg" width="512" alt="IPAdapter" />支持多重 ID,但工作流有点复杂,生成速度较慢。我会检查是否能找到更好的方法。在示例目录中提供了"黑客式"工作流。
<img src="https://yellow-cdn.veclightyear.com/835a84d5/80b51db9-96a0-4515-9d95-a05a35f847a8.jpg" width="768" alt="IPAdapter" />有一个 InstantID 高级节点可用,目前与标准节点的唯一区别是您可以分别设置 instantID 模型和 controlnet 的权重。现在还包括噪声注入选项。这可能有助于微调。
instantID 模型影响约 25% 的构图,其余部分是 controlnet。
噪声有助于减少"烧毁"效果。
它与 SDXL Turbo/Lighting 配合得很好。社区检查点效果最佳。
正是由于慷慨的赞助商,整个社区才能享受开放和免费的软件。请与我一起感谢以下公司和个人!
最强AI数据分析助手
小浣熊家族Raccoon,您的AI智能助手,致力于通过先进的人工智能技术,为用户提供高效、便捷的智能服务。无论是日常咨询还是专业问题解答,小浣熊都能以快速、准确的响应满足您的需求,让您的生活更加智能便捷。
像人一样思考的AI智能体
imini 是一款超级AI智能体,能根据人类指令,自主思考、自主完成、并且交付结果的AI智能体。
AI数字 人视频创作平台
Keevx 一款开箱即用的AI数字人视频创作平台,广泛适用于电商广告、企业培训与社媒宣传,让全球企业与个人创作者无需拍摄剪辑,就能快速生成多语言、高质量的专业视频。
一站式AI创作平台
提供 AI 驱动的图片、视频生成及数字人等功能,助力创意创作
AI办公助手,复杂任务高效处理
AI办公助手,复杂任务高效处理。办公效率低?扣子空间AI助手支持播客生成、PPT制作、网页开发及报告写作,覆盖科研、商业、舆情等领域的专家Agent 7x24小时响应,生活工作无缝切换,提升50%效率!
AI辅助编程,代码自动修复
Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。