BentoDiffusion

项目介绍：BentoDiffusion

BentoDiffusion是一个开源项目，展示了如何使用BentoML部署一系列稳定扩散（Stable Diffusion）模型。稳定扩散模型是一类专门用于根据文本提示生成和处理图像或视频剪辑的AI模型。

前提条件

如果您希望在本地测试此服务，我们建议使用拥有至少12GB VRAM的Nvidia GPU。这是为了确保处理性能能够满足运行需求。

安装依赖

要开始使用BentoDiffusion项目，首先需要克隆项目代码库并安装相关依赖。以下是具体步骤：

git clone https://github.com/bentoml/BentoDiffusion.git
cd BentoDiffusion/sdxl-turbo

# 推荐使用Python 3.11
pip install -r requirements.txt

运行BentoML服务

我们在service.py中定义了一个BentoML服务。可以在项目目录中运行bentoml serve命令来启动该服务。启动后，服务器将在本地的http://localhost:3000启动。

以下是使用Curl与该服务交互的示例：

curl -X 'POST' \
  'http://localhost:3000/txt2img' \
  -H 'accept: image/*' \
  -H 'Content-Type: application/json' \
  -d '{
  "prompt": "A cinematic shot of a baby racoon wearing an intricate italian priest robe.",
  "num_inference_steps": 1,
  "guidance_scale": 0
}'

此外，您还可以使用Python客户端与服务交互：

import bentoml

with bentoml.SyncHTTPClient("http://localhost:3000") as client:
    result = client.txt2img(
        prompt="A cinematic shot of a baby racoon wearing an intricate italian priest robe.",
        num_inference_steps=1,
        guidance_scale=0.0
    )

部署到BentoCloud

一旦服务准备就绪，您可以将应用程序部署到BentoCloud以实现更好的管理和可扩展性。如果您还没有BentoCloud帐户，可以注册一个。同时，请确保您已登录BentoCloud，然后通过运行以下命令来部署应用程序：

bentoml deploy .

应用程序在BentoCloud上运行后，您可以通过公开的URL访问它。

选择其他扩散模型

如果您希望部署不同的扩散模型，可以访问该代码库的相应子目录。以下是部分可用的模型：

• ControlNet
• Latent Consistency Model
• 带有4x放大器的稳定扩散2
• SDXL Lightning
• SDXL Turbo
• 稳定视频扩散

通过BentoDiffusion项目，开发者能够方便地实验并体验多种扩散模型，为图像和视频生成任务提供更多的可能性。