BAML学习资料汇总 - 专为LLM函数设计的模板语言

BAML简介

BAML (Basically, A Made-up Language) 是一种专门为编写和测试LLM (大型语言模型) 函数而设计的领域特定语言。它允许开发者创建具有定义输入变量和特定输出类型(如类、枚举、联合、可选字符串等)的提示模板。BAML LLM函数可以轻松集成到Python、TypeScript等语言中，让开发者能够更专注于工程而非提示工程。

BAML的主要特性

• 多语言支持：可与Python和TypeScript等语言无缝集成
• 类型验证：比Pydantic或Zod更能抵御常见的LLM错误
• 广泛的模型支持：兼容Ollama、OpenAI、Anthropic等，甚至在Llama2等小型模型上也经过测试
• 流式输出：支持结构化部分输出的流式传输
• 实时提示预览：即使存在循环和条件语句，也能实时查看完整提示
• 测试支持：在playground中一键测试函数
• 弹性和故障转移功能：为LLM调用添加重试和冗余机制
• 可观察性平台：使用Boundary Studio可视化函数并一键重放生产请求

快速开始

1. 安装BAML:

   • Python: pip install baml-py
   • TypeScript: npm install @boundaryml/baml

2. 下载VSCode扩展：在VSCode扩展市场搜索"BAML"或点击此处安装

3. 将BAML添加到现有项目：

   • TypeScript: npx baml-cli init
   • Python: baml-cli init

4. 或使用以下启动项目：

   • NextJS 14示例
   • FastAPI示例

BAML工具链

1. VSCode扩展：提供BAML文件语法高亮、实时提示预览和测试UI
2. Boundary Studio：类型安全的可观察性平台和标注工具

学习资源

• 官方文档
• Discord社区：可以参与每日办公时间(太平洋时间上午9点至中午12点)
• PromptFiddle在线playground：尝试和分享BAML创作
• GitHub仓库：查看源代码和示例

BAML实际应用

多个项目已经在使用BAML，包括：

• Zenfetch：为书签提供ChatGPT功能
• Vetrec：AI驱动的兽医临床笔记
• MagnaPlay：游戏的生产级机器翻译
• Aer Compliance：AI驱动的合规任务
• Haven：使用AI自动化租户沟通
• Muckrock：FOIA请求跟踪和归档

BAML为开发者提供了一个强大而灵活的工具，用于创建和管理LLM函数。无论您是刚开始探索AI应用开发，还是寻求优化现有LLM工作流程，BAML都能为您提供所需的功能和工具。通过其直观的语法、强大的类型系统和丰富的工具链，BAML正在改变开发者与LLM交互的方式，使AI应用开发变得更加高效和可靠。