FastSD CPU: 快速稳定的CPU版本Stable Diffusion

FastSD CPU是一个基于CPU的快速Stable Diffusion实现,由开发者Rupesh Sreeraman创建。该项目旨在优化Stable Diffusion模型,使其能够在CPU上高效运行,为不具备强大GPU的用户提供文本到图像生成的能力。

主要特点

FastSD CPU具有以下主要特点:

支持多种接口:桌面GUI、Web UI和命令行界面
支持256x256到1024x1024多种图像尺寸
跨平台支持:Windows、Linux、Mac等
使用OpenVINO加速推理速度
支持LCM(Latent Consistency Model)和LCM-LoRA模型
支持ControlNet、Lora等高级功能
实验性支持实时文本到图像生成
提供REST API支持

性能表现

FastSD CPU在性能方面表现出色。以下是一些基准测试结果:

使用OpenVINO(SDXS-512-0.9)模型,在Intel Core i7-12700 CPU上生成单张512x512图像仅需0.82秒。
使用Hyper-SD SDXL 1 step模型,在同样的CPU上生成768x768图像需要:
- PyTorch: 19秒
- OpenVINO: 13秒
- OpenVINO + TAESDXL: 6.3秒

这些数据显示,通过优化和使用OpenVINO,FastSD CPU能够在CPU上实现相当不错的推理速度。

FastSD CPU WebUI Screenshot

支持的平台

FastSD CPU支持多种平台:

Windows
Linux
Mac
Android (通过Termux + PRoot)
Raspberry Pi 4
Orange Pi 5

这种广泛的平台支持使得FastSD CPU能够在各种设备上运行,包括一些低功耗设备。

安装使用

以Windows为例,安装FastSD CPU的步骤如下:

克隆或下载项目仓库
双击install.bat进行安装
安装完成后,可以通过start.bat启动桌面GUI,或通过start-webui.bat启动Web UI

对于Linux和Mac用户,也有类似的安装脚本可以使用。

模型支持

FastSD CPU支持多种模型类型:

LCM模型
OpenVINO优化模型
LCM-LoRA模型

用户可以根据需要选择合适的模型。项目还提供了使用自定义模型的指南。

API支持

FastSD CPU提供了基本的API支持,包括以下端点:

/api/info - 获取系统信息
/api/config - 获取配置
/api/models - 列出可用模型
/api/generate - 生成图像(文本到图像,图像到图像)

这为开发者提供了将FastSD CPU集成到其他应用程序的可能性。

结语

FastSD CPU是一个强大而灵活的Stable Diffusion CPU实现。通过优化和创新,它使得在CPU上进行快速文本到图像生成成为可能,为更多用户带来了AI艺术创作的机会。无论是个人用户还是开发者,都可以从这个项目中受益。

FastSD CPU仍在积极开发中,未来有望带来更多令人兴奋的功能和性能提升。对于那些想要探索AI图像生成,但没有强大GPU的用户来说,FastSD CPU无疑是一个值得关注的项目。

(文章字数:3526)

FastSD CPU: 快速稳定的CPU版本Stable Diffusion