Amazon Bedrock 工作坊
这个面向开发人员和解决方案构建者的动手实践工作坊介绍了如何通过 Amazon Bedrock 利用基础模型 (FM)。
Amazon Bedrock 是一项完全托管的服务,通过 API 提供对第三方提供商和亚马逊的基础模型的访问。使用 Bedrock,您可以从各种模型中选择最适合您的用例的模型。
在这一系列实验中,您将探索我们在客户中看到的一些最常见的生成式 AI 使用模式。我们将展示生成文本和图像的技术,通过提高生产力为组织创造价值。这是通过利用基础模型来帮助撰写电子邮件、总结文本、回答问题、构建聊天机器人和创建图像来实现的。虽然本工作坊的重点是让您通过 Bedrock API 和 SDK 获得实施这些模式的实践经验,但您还可以选择探索与开源包如 LangChain 和 FAISS 的集成。
实验包括:
- 01 - 文本生成 [预计完成时间 - 45 分钟]
- 使用 Bedrock 进行文本生成
- 使用 Titan 和 Claude 进行文本摘要
- 使用 Titan 进行问答
- 实体提取
- 02 - 知识库和 RAG [预计完成时间 - 45 分钟]
- 托管 RAG 检索和生成示例
- Langchain RAG 检索和生成示例
- 03 - 模型定制 [预计完成时间 - 30 分钟]
- 即将推出
- 04 - 图像和多模态 [预计完成时间 - 30 分钟]
- Bedrock Titan 图像生成器
- Bedrock Stable Diffusion XL
- Bedrock Titan 多模态嵌入
- 05 - 代理 [预计完成时间 - 30 分钟]
- 客户服务代理
- 保险理赔代理
- 06 - 开源示例(可选) [预计完成时间 - 30 分钟]
- Langchain 文本生成示例
- Langchain KB RAG 示例
- Langchain 聊天机器人示例
- NVIDIA NeMo Guardrails 示例
- NodeJS Bedrock 示例
您还可以参考工作坊网站上的分步指导说明。
入门
选择笔记本环境
本工作坊以一系列 Python 笔记本的形式呈现,您可以在您选择的环境中运行:
- 对于具有丰富 AI/ML 功能的完全托管环境,我们推荐使用 SageMaker Studio。要快速入门,您可以参考域快速设置说明。
- 对于完全托管但更基础的体验,您可以创建 SageMaker 笔记本实例。
- 如果您更喜欢使用现有的(本地或其他)笔记本环境,请确保它具有调用 AWS 的凭证。
为 Bedrock 启用 AWS IAM 权限
从笔记本环境中承担的 AWS 身份(对于 SageMaker 来说是 Studio/笔记本执行角色,对于自管理的笔记本可能是角色或 IAM 用户)必须具有足够的 AWS IAM 权限来调用 Amazon Bedrock 服务。
要授予您的身份 Bedrock 访问权限,您可以:
- 打开 AWS IAM 控制台
- 找到您的角色(如果使用 SageMaker 或以其他方式承担 IAM 角色),或者用户
- 选择 添加权限 > 创建内联策略 以附加新的内联权限,打开 JSON 编辑器并粘贴以下示例策略:
{
"Version": "2012-10-17",
"Statement": [
{
"Sid": "BedrockFullAccess",
"Effect": "Allow",
"Action": ["bedrock:*"],
"Resource": "*"
}
]
}
⚠️ 注意: 使用 Amazon SageMaker 时,您的笔记本执行角色通常与您登录 AWS 控制台的用户或角色是分开的。如果您想探索 Amazon Bedrock 的 AWS 控制台,您还需要授予控制台用户/角色权限。只要您能够访问 AWS Bedrock 服务并拥有适当的凭证,您可以在任何地方运行笔记本。
有关 Bedrock 中细粒度操作和资源权限的更多信息,请查看 Bedrock 开发者指南。
克隆并使用笔记本
ℹ️ 注意: 在 SageMaker Studio 中,您可以通过点击 文件 > 新建 > 终端 来打开"系统终端"运行这些命令。
一旦您的笔记本环境设置完成,将此工作坊仓库克隆到其中。
sudo yum install -y unzip
git clone https://github.com/aws-samples/amazon-bedrock-workshop.git
cd amazon-bedrock-workshop
现在您已准备好探索实验笔记本了!从 00_Prerequisites/bedrock_basics.ipynb 开始,了解如何安装 Bedrock SDK、创建客户端以及从 Python 开始调用 API 的详细信息。