Cheshire Cat: 一个强大的AI助手开发框架

Cheshire Cat:打造你自己的AI助手的利器

在人工智能快速发展的今天,如何快速构建一个功能强大、可定制的AI助手成为了许多开发者和企业关注的焦点。Cheshire Cat作为一个开源的AI助手开发框架应运而生,为开发者提供了一个灵活而强大的工具,让构建AI助手变得前所未有的简单。

什么是Cheshire Cat?

Cheshire Cat是一个生产就绪的AI助手开发框架,可以基于任何语言模型构建自定义AI。它的设计理念类似于WordPress或Django等web应用开发框架,但专门针对AI助手开发进行了优化。使用Cheshire Cat,开发者可以快速搭建一个具备对话能力、记忆功能、可扩展性的AI助手,而无需从头开始构建复杂的基础设施。

Cheshire Cat的主要特性

Cheshire Cat具备以下几个突出的特性,使其成为AI助手开发的理想选择:

API优先设计:Cheshire Cat采用API优先的设计理念,可以作为微服务轻松地为应用添加对话层。
记忆功能:内置记忆系统,可以记住对话历史和文档,并在后续对话中利用这些信息。
插件扩展:支持通过插件进行功能扩展,有公共插件注册表,也允许私有插件。
事件回调:提供事件回调机制,可以对AI助手的行为进行细粒度控制。
函数调用:支持类似Langchain的工具函数调用功能。
对话表单:支持构建目标导向的对话表单。
易用的管理面板:提供直观的管理界面,可以进行聊天、查看记忆和插件、调整设置等操作。
多语言模型支持:可以使用OpenAI、Google、Ollama、HuggingFace等多种语言模型,也支持自定义模型服务。
生产就绪:完全Docker化,便于部署和扩展。
活跃的社区:拥有活跃的Discord社区和详细的文档支持。

快速上手Cheshire Cat

要开始使用Cheshire Cat,你只需要安装Docker,然后运行以下命令:

docker run --rm -it -p 1865:80 ghcr.io/cheshire-cat-ai/core:latest

运行后,你可以通过以下方式与Cheshire Cat交互:

在浏览器中访问 http://localhost:1865/admin 进行聊天
访问 http://localhost:1865/docs 查看和试用REST API端点

首次使用时,Cheshire Cat会引导你配置喜欢的语言模型,这可以在管理界面的设置页面中完成。

Cheshire Cat管理界面

开发插件扩展功能

Cheshire Cat的一大亮点是其强大的插件系统。以下是一个最小化的插件示例:

from cat.mad_hatter.decorators import tool, hook

# 使用hook装饰器定义事件回调
@hook
def agent_prompt_prefix(prefix, cat):
    prefix = """You are Marvin the socks seller, a poetic vendor of socks.
You are an expert in socks, and you reply with exactly one rhyme.
"""
    return prefix

# 使用tool装饰器定义函数调用工具
tool(return_direct=True)
def socks_prices(color, cat):
    """How much do socks cost? Input is the sock color."""
    prices = {
        "black": 5,
        "white": 10,
        "pink": 50,
    }

    price = prices.get(color, 0)
    return f"{price} bucks, meeeow!"

这个简单的插件展示了如何通过hook修改AI的行为,以及如何定义可被AI调用的工具函数。

构建对话表单

Cheshire Cat还支持构建目标导向的对话表单,这在需要收集特定信息的场景下非常有用。以下是一个披萨订单表单的示例:

from pydantic import BaseModel
from cat.experimental.form import form, CatForm

# 定义数据结构
class PizzaOrder(BaseModel):
    pizza_type: str
    phone: int

# 使用form装饰器定义对话表单
@form
class PizzaForm(CatForm):
    description = "Pizza Order"
    model_class = PizzaOrder
    start_examples = [
        "order a pizza!",
        "I want pizza"
    ]
    stop_examples = [
        "stop pizza order",
        "not hungry anymore",
    ]
    ask_confirm = True

    def submit(self, form_data):
        # 在这里处理实际的订单逻辑
        return {
            "output": f"Pizza order on its way: {form_data}"
        }