azure-openai-proxy学习资料汇总 - Azure OpenAI Service代理工具

azure-openai-proxy项目介绍

azure-openai-proxy是一个Azure OpenAI Service代理工具,可以将OpenAI官方API请求转换为Azure OpenAI API请求,支持所有模型,包括GPT-4和Embeddings。它的主要作用是消除OpenAI和Azure OpenAI之间的差异,作为连接两者的桥梁,让OpenAI生态系统能够零成本访问Azure OpenAI。

主要功能

• 将OpenAI官方API请求转换为Azure OpenAI API请求
• 支持所有OpenAI模型,包括GPT-4、GPT-3.5、Embeddings等
• 支持多个Azure区域的负载均衡
• 支持HTTP和Socks5代理
• 支持Docker部署
• 支持配置文件方式配置不同模型的端点和API密钥

快速开始

1. 获取Azure OpenAI的密钥和端点信息
2. 配置环境变量:
   • AZURE_OPENAI_ENDPOINT: Azure OpenAI API端点
   • AZURE_OPENAI_API_VER: API版本,默认2024-02-01
   • AZURE_OPENAI_MODEL_MAPPER: 模型映射关系
3. 使用Docker运行:

docker run -d -p 8080:8080 --name=azure-openai-proxy \
  --env AZURE_OPENAI_ENDPOINT=your_azure_endpoint \
  --env AZURE_OPENAI_API_VER=your_azure_api_ver \
  --env AZURE_OPENAI_MODEL_MAPPER=your_azure_deploy_mapper \
  stulzq/azure-openai-proxy:latest

4. 调用API:

curl --location --request POST 'localhost:8080/v1/chat/completions' \
-H 'Authorization: Bearer <Azure OpenAI Key>' \
-H 'Content-Type: application/json' \
-d '{
    "max_tokens": 1000,
    "model": "gpt-3.5-turbo", 
    "temperature": 0.8,
    "top_p": 1,
    "presence_penalty": 1,
    "messages": [
        {
            "role": "user",
            "content": "Hello"
        }
    ],
    "stream": true
}'

进阶使用

• 支持ChatGPT-Next-Web和ChatGPT-Web等项目
• 支持使用配置文件配置多个模型的不同端点和API密钥
• 支持HTTP和Socks5代理

相关资源

• GitHub项目地址
• 中文介绍文档
• Azure OpenAI文档

azure-openai-proxy为开发者提供了一种简便的方式来使用Azure OpenAI服务,同时保持与OpenAI API的兼容性。通过学习和使用该工具,可以更好地利用Azure OpenAI的资源和功能。