lunary

项目介绍

Lunary 是一个专为LLM（大型语言模型）聊天机器人开发人员设计的工具包，旨在帮助开发人员进行开发和改进这些智能机器人。Lunary 提供了一系列便捷的功能，使得开发聊天机器人更加高效和高质量。

功能特点

Lunary 提供了许多实用的功能，包括：

会话和反馈跟踪：让开发者掌握聊天机器人的会话记录和用户反馈。
数据分析：涵盖成本、令牌使用情况和延迟等多方面的分析。
调试功能：通过日志记录、追踪和用户跟踪来帮助开发者检测并解决问题。
提示目录：支持版本控制和团队协作，方便管理和更新提示。
创建微调数据集：帮助开发者为机器学习模型提供精细的数据集用于训练。
自动主题分类：能够自动进行会话主题的分类。

此外，Lunary 具有以下特点：

兼容性强：不仅支持 OpenAI 的模型，还兼容其他任何模型。
易于集成：只需两分钟即可完成集成。
支持自托管：开发者可以在自己的服务器上运行 Lunary。

集成模块

Lunary 提供支持多种编程语言的模块，包括：

JavaScript 模块
Python 模块

它还原生支持一些常用的工具和服务，如：

LangChain（JavaScript 和 Python）
OpenAI 模块
LiteLLM
Flowise

此外，开发者也可以通过手动发送事件的方式将 Lunary 与其他大型语言模型集成。

在线支持和托管版本

Lunary 提供托管版本，允许用户每月免费处理多达10,000个请求。使用托管版本的好处包括：

无需担心开发运维或者更新管理。
可以享受优先的1对1支持服务。
数据安全地存储在欧洲。

本地运行指南

想要在本地运行 Lunary？按照以下步骤操作：

克隆代码库。
设置 PostgreSQL 实例（版本15及以上）。
配置后端和前端的环境变量文件。
执行 npm install 安装依赖。
运行 npm run migrate:db 进行数据库迁移。
运行 npm run dev 启动开发服务器。

启动后，可以通过 http://localhost:8080 打开仪表盘。若使用 JS 或 Python SDK，需要将环境变量 LUNARY_API_URL 设置为 http://localhost:3333，并可以通过设置 LUNARY_VERBOSE=True 来查看 SDK 发送的所有事件。