AgentKit: 快速构建高质量AI代理应用的全栈启动套件

AgentKit简介

AgentKit是由BCG X开发的一款基于LangChain的启动套件,旨在帮助开发者快速构建高质量的AI代理应用。它为开发者提供了一套完整的工具和框架,使其能够:

通过漂亮的UI快速实验受约束的代理架构
构建可扩展到生产级MVP的全栈聊天式代理应用

AgentKit的主要优势包括:

🚀 快速构建高质量代理应用: 利用基于FastAPI/Nextjs的模块化、易配置技术栈和实用的GenAI工具库,在几小时内构建出强大的演示应用。
💻 为代理设计的灵活、响应式UI/UX: 基于React/Nextjs的聊天式UI易于配置,具有流式传输、表格/可视化/代码渲染、代理操作状态等功能。
🛡️ 注重可靠性: 易于配置的路由架构可控制代理可能采取的路径,提高可靠性,适合实际使用场景。
📈 可扩展设置: 具备队列管理、身份验证、缓存、监控等功能,可扩展至MVP。

AgentKit logo

技术栈

AgentKit基于最新技术,以实现最佳性能、安全性和开发体验:

💫 Nextjs 14 with tailwind and daisyui
🔥 Python 3.10 with fastapi, sqlmodel and pydantic 2.x
🦜 Langchain and Langsmith端到端配置
🗝 身份验证: NextAuth集成FastAPI
🥬 Celery和redis用于长时间运行的任务、缓存等
💾 带pgvector扩展的本地Postgres
⬆️ Docker-compose用于简单部署和开发体验
🖍 预配置的代码检查、测试和预提交钩子

需要注意的是,这是一个启动套件 - 对于生产部署,建议添加企业级安全功能。特别是在使用LLM时,要注意已知风险,如提示注入。

快速开始

要快速设置AgentKit,请按以下步骤操作,后端和前端应用都在Docker容器中运行:

先决条件

Docker: https://www.docker.com/get-started

安装步骤

克隆包含后端和前端应用源代码的存储库。
复制frontend/.env.example文件并重命名为.env。同样,复制根目录中的.env.example文件并重命名为.env。
- 将OPENAI_API_KEY和OPENAI_ORGANIZATION更改为您自己的(注意:OPENAI_ORGANIZATION应为您的OpenAI 'Organization ID')
在终端中,导航到克隆存储库的根目录。使用以下命令构建并启动Docker容器:

docker-compose -f docker-compose.yml up -d

等待容器构建和启动,这可能需要几分钟,具体取决于您的系统。容器启动并运行后,您可以在浏览器中访问 http://localhost 来使用应用。

Chinook音乐数据库演示

如果Docker容器正在运行,请运行docker-compose down --volumes
按照上述安装说明进行操作,但将docker-compose.yml替换为docker-compose-demo.yml来运行应用
尝试输入提示"数据库中有多少艺术家和歌曲?"来体验AgentKit的功能!

您还可以查看更高级的演示构建,请参阅教程。

设置您自己的应用

配置您的代理和工具链接
(可选) 根据您的用例调整UI 链接
(可选) 使用LangSmith设置评估链接

工作原理

可靠性

AgentKit试图通过将代理可能采取的潜在路径限制为预先配置的路径集(称为行动计划)来解决ReAct代理等代理的可靠性问题。由于在许多用例中,代理可能采取的潜在路径是已知的,我们可以利用人类的领域专业知识来引导代理朝正确的方向发展,减少其进入意外方向或陷入死胡同的可能性。这是通过将元代理与行动计划相结合来实现的:一组线性和并行执行的工具,类似于链。元代理接收用户提示并输出最适合生成答案的行动计划。注意:可以实现多个元代理,生成可能路径的树。

用户体验

为了优化用户体验,可以向用户显示行动计划中每个步骤的中间输出。例如,考虑一个由2个工具集组成的行动计划:[[sql_tool, pdf_tool], [generate_summary_tool, visualize_tool]]。在第一个操作步骤中,并行检索SQL数据库和嵌入PDF的向量数据库中的信息。一旦第一个操作步骤完成,检索到的数据和最相关的PDF就会流式传输到UI。在第二个操作步骤中,步骤1的输出被传递给一个生成文本摘要的工具和一个从数据创建JSX可视化的工具,这些内容被流式传输到UI以创建最终答案。

AgentKit framework

附加可选功能

AgentKit还提供了一些额外的可选功能,以增强应用的功能和用户体验:

反馈集成: 从用户收集对生成答案的反馈
用户设置: 允许用户在应用中指定默认设置,这些设置可用于为用户自定义提示
用户认证: 在您的应用中启用NextAuth,以通过Github或电子邮件/密码对用户进行身份验证

有关这些可选功能的更详细信息,请参阅可选功能文档。

文档

您可以在这里找到托管的文档。主要内容包括:

支持与维护

AgentKit项目源于多个模板的组合。一个重要的灵感来源是fastapi-alembic-sqlmodel-async,它为FastAPI设置提供了基础。

非常感谢所有贡献者的努力,包括@kaikun213、@drivian、@ielmansouri等多位开发者。您可以在项目的GitHub页面上找到完整的贡献者列表。

如果您有兴趣为AgentKit做出贡献,请阅读CONTRIBUTING.md以了解更多详情。我们欢迎PR ❤️

许可证

AgentKit项目采用MIT许可证。

总之,AgentKit为开发者提供了一个强大、灵活且易于使用的工具包,用于构建高质量的AI代理应用。无论您是想快速构建演示应用还是开发可扩展到生产级别的MVP,AgentKit都能为您提供所需的工具和框架。通过其模块化设计、注重可靠性的架构和丰富的功能集,AgentKit有望成为AI代理应用开发领域的重要工具。