langtrace

Langtrace 项目介绍

Langtrace 是一款开源的可观测性软件，专为支持大规模语言模型（LLM）应用程序而设计。它能够捕获、调试和分析从所有使用 LLM API、向量数据库以及基于 LLM 框架的应用程序中获得的追踪和指标。

开源与开放遥测支持

Langtrace 的生成追踪与 开源遥测标准（OTEL）相一致。项目正在开发语义约定，并在积极鼓励社区参与和反馈。有关当前定义可以通过此存储库查看。

SDK 仓库

Langtrace 提供以下开发工具包（SDK），以便开发人员可以轻松集成：

• Typescript SDK
• Python SDK
• 语义跨度属性

如何开始

Langtrace 云平台

1. 访问官网进行注册。
2. 注册后创建一个新项目，项目是用于存储应用程序生成的追踪和指标的容器。
3. 在项目内生成 API 密钥。
4. 在应用程序中安装 Langtrace SDK，并用步骤 3 生成的 API 密钥初始化它。

适用于 TypeScript/JavaScript 的应用程序

npm i @langtrase/typescript-sdk

import * as Langtrace from '@langtrase/typescript-sdk'
Langtrace.init({ api_key: <your_api_key> })

适用于 Python 的应用程序

pip install langtrace-python-sdk

from langtrace_python_sdk import langtrace
langtrace.init(api_key=<your_api_key>)

自托管 Langtrace

想要本地运行 Langtrace，需要运行以下三项服务：

• Next.js 应用
• Postgres 数据库
• Clickhouse 数据库

需要 Docker 和 Docker Compose。最新文档和各种部署选项可以在这里查阅。

docker compose up

要删除容器和卷：

docker compose down -v

遥测

默认情况下，Langtrace 从自托管实例收集基本的、非敏感的使用数据，这些数据会发送到中央服务器（通过 PostHog）。数据包括项目名称和类型以及团队名称，旨在帮助改进平台。若您希望禁用遥测，可以在配置中设置 TELEMETRY_ENABLED=false。

支持的集成

Langtrace 可以自动捕获多个供应商的追踪信息，包括但不限于 OpenAI、Anthropic、Azure OpenAI 和 Pinecone。

系统架构

Langtrace 使用 NextJS 构建前端和 API，PostgresDB 作为元数据存储，Clickhouse DB 用于存储跨度、指标、日志和追踪。

功能请求与问题

如需请求功能或报告问题，可以通过以下链接进行操作：

• 功能请求讨论
• 问题报告

贡献与安全性

Langtrace 欢迎开发者的贡献，并推荐有意参与的开发者加入其 Slack 工作区。想要报告安全漏洞可通过 security@scale3labs.com 联系。

Langtrace 项目在软件许可方面遵循 AGPL 3.0 和 Apache 2.0 许可证，更多详情访问许可证信息。

常见问题

1. 是否可以自托管 Langtrace？ 可以，通过按照我们的自托管设置指南操作即可。

2. Langtrace 云平台的定价如何？ 目前免费，我们重视用户反馈以持续改进项目，并会在决定收费时告知用户。

3. Langtrace 的技术栈是什么？ Langtrace 使用 NextJS、PostgresDB 和 Clickhouse 组合，构建了一个强大的可观测性工具。