akcio

Akcio 项目介绍

概述

Akcio 是一个用于构建增强型智能聊天机器人的项目，其背后技术包括 ChatGPT、向量数据库，以及代码形式的提示（称之为 CVP 栈）。这个新技术栈的目的是解决传统 ChatGPT 在知识库限制下容易出现错误回答的问题。通过 Akcio，用户可以创建一个知识增强型的 ChatBot，增加从自定义知识库中获取信息的能力，以提供更加准确和相关的回答。

Akcio 支持两种主要人工智能平台：Towhee 和 LangChain，并与多种大型语言模型（LLM）及数据库整合兼容，例如 OpenAI、Ernie、Milvus 和 Zilliz 等。用户可以根据需求选择不同的平台和模型以最大化其系统的效能。

功能亮点

• 语义搜索：在用户提出问题后，系统会首先从数据库中检索相关信息，然后将用户需求和检索到的信息一同提供给 LLM，以生成更加合适的应答。

• 集成方案：支持多种 LLM 和数据库的组合，用户可以基于不同场景需求选择最优配置。例如，可以使用 OpenAI 提供的 LLM 服务搭配来自 Milvus 的向量存储服务。

• 定制化选项：通过 Towhee 提供的预定义流水线，用户可以轻松搭建系统，并根据需要进行配置或创建自定义流水线。而选择 LangChain 平台则可以利用 Agent 功能，使 LLM 在特定工具的帮助下执行更加复杂的任务。

部署指南

1. 下载和安装：从 GitHub 克隆 Akcio 项目，并安装所需的依赖库。

   $ git clone https://github.com/zilliztech/akcio.git
   $ cd akcio
   $ pip install -r requirements.txt

2. 配置模块：通过修改 config.py 文件配置系统，也可以通过环境变量设置不同的数据库和模型连接参数。

3. 启动服务：运行主脚本启动 FastAPI 服务，默认运行在 localhost:8900。

   $ python main.py --towhee  # 或者选择 LangChain

4. 使用服务：通过浏览器访问 http://localhost:8900/docs 查看和使用提供的 API。

数据加载

Akcio 提供两种数据加载方式：

• 离线加载：推荐使用，允许在离线状态下分步骤加载数据，支持高效插入大量文档。
• 在线加载：适用于小规模数据，通过 POST 请求加载单个文件或 URL 数据，但不适合大规模数据使用。

使用指南

完整的使用指南和示例代码可以在 Akcio 文档 中找到。无论是项目的部署、数据的加载或是 API 的使用，文档中都提供了详细的说明和操作步骤，确保用户能够快速上手并应用 Akcio 项目创建自己的智能聊天系统。

Akcio 致力于为用户提供更智能、更高效的聊天机器人解决方案，使得基于 LLM 的应用能够具备跨越语言障碍和领域限制的能力。通过整合先进的技术栈，Akcio 赋予了 ChatBot 更多的智能和实用性。