BentoDiffusion

项目介绍：BentoDiffusion

BentoDiffusion是一个开源项目，展示了如何使用BentoML部署一系列稳定扩散（Stable Diffusion）模型。稳定扩散模型是一类专门用于根据文本提示生成和处理图像或视频剪辑的AI模型。

前提条件

如果您希望在本地测试此服务，我们建议使用拥有至少12GB VRAM的Nvidia GPU。这是为了确保处理性能能够满足运行需求。

安装依赖

要开始使用BentoDiffusion项目，首先需要克隆项目代码库并安装相关依赖。以下是具体步骤：

git clone https://github.com/bentoml/BentoDiffusion.git
cd BentoDiffusion/sdxl-turbo

# 推荐使用Python 3.11
pip install -r requirements.txt

运行BentoML服务

我们在service.py中定义了一个BentoML服务。可以在项目目录中运行bentoml serve命令来启动该服务。启动后，服务器将在本地的http://localhost:3000启动。

以下是使用Curl与该服务交互的示例：

curl -X 'POST' \
  'http://localhost:3000/txt2img' \
  -H 'accept: image/*' \
  -H 'Content-Type: application/json' \
  -d '{
  "prompt": "A cinematic shot of a baby racoon wearing an intricate italian priest robe.",
  "num_inference_steps": 1,
  "guidance_scale": 0
}'

此外，您还可以使用Python客户端与服务交互：

import bentoml

with bentoml.SyncHTTPClient("http://localhost:3000") as client:
    result = client.txt2img(
        prompt="A cinematic shot of a baby racoon wearing an intricate italian priest robe.",
        num_inference_steps=1,
        guidance_scale=0.0
    )