LLM 训练营

<p align="center"> <img src="https://yellow-cdn.veclightyear.com/835a84d5/532a4b07-211e-4a8f-b9ed-64052c4633aa.jpg" /> </p>

LLM 训练营 - 一个关于 LLM 实际应用的免费在线课程。在 10 周内，您将学习如何构建一个能够回答有关您知识库问题的 AI 系统。

<p align="center"> <a href="https://airtable.com/appPPxkgYLH06Mvbw/shr7WtxHEPXxaui0Q"><img src="https://yellow-cdn.veclightyear.com/835a84d5/0142e7ab-4f57-4d08-8c63-f2a0f255170f.png" height="50" /></a> </p>

• 给我们一个星星来支持课程！
• 在 DataTalks.Club 的 Slack 上注册
• 加入 #course-llm-zoomcamp 频道
• 加入课程 Telegram 公告频道
• 视频发布在 DataTalks.Club 的 YouTube 频道 的课程播放列表中
• 常见技术问题
• 课程日历

2024 年班次

• 开始日期：6 月 17 日
• 2024 年班次特定材料

先决条件

• 熟悉编程和 Python
• 熟悉命令行
• Docker
• 不需要 AI 或 ML 的先前接触经验

课程大纲

我们鼓励公开学习

课前工作坊

实现一个搜索引擎：视频，代码

1. LLM 和 RAG 简介

• LLM 和 RAG
• 准备环境
• 检索和搜索基础
• OpenAI API
• 使用 Open AI 的简单 RAG
• 使用 Elasticsearch 进行文本搜索

2. 开源 LLM

• 获取带有 GPU 的环境
• 来自 HuggingFace Hub 的开源模型
• 使用 Ollama 在 CPU 上运行 LLM
• 使用 Streamlit 创建简单的 UI

3. 向量数据库

• 向量搜索
• 创建和索引嵌入
• 使用 Elasticsearch 进行向量搜索
• 检索的离线评估

工作坊：dlt

4. 评估和监控

• RAG 的离线评估
• 余弦和 LLM-as-a-Judge 指标
• 跟踪聊天历史和用户反馈
• 使用 Grafana 创建可视化仪表板

5. LLM 编排和摄取

• 使用 Mage 摄取数据

6. 最佳实践

• 最佳实践

LLM 训练营 2024 竞赛

更多详情

实践项目

<p align="center"> <a href="https://airtable.com/appPPxkgYLH06Mvbw/shr7WtxHEPXxaui0Q"><img src="https://yellow-cdn.veclightyear.com/835a84d5/0142e7ab-4f57-4d08-8c63-f2a0f255170f.png" height="50" /></a> </p>

讲师

• Alexey Grigorev
• Magdalena Kuhn
• Balaji Dhamodharan

提问

获取支持的最佳方式是使用 DataTalks.Club 的 Slack。加入 #course-llm-zoomcamp。

为了使 Slack 中的讨论更有组织：

• 寻求帮助时请遵循这些建议
• 阅读 DataTalks.Club 社区指南

支持者和合作伙伴

感谢课程赞助商使本课程成为可能

<p align="center"> <a href="https://mage.ai/"> <img height="120" src="https://yellow-cdn.veclightyear.com/835a84d5/eef6b58d-4c25-460c-9382-8c8292311fb5.svg"> </a> </p> <p align="center"> <a href="https://dlthub.com/"> <img height="80" src="https://yellow-cdn.veclightyear.com/835a84d5/5b4dcd88-66f7-4a45-9abe-b6237cbb39d4.png"> </a> </p> <p align="center"> <a href="https://saturncloud.io/"> <img height="120" src="https://yellow-cdn.veclightyear.com/835a84d5/6de38dfb-afcb-4ee7-878e-8bc2909c06c5.png"> </a> </p>

想要支持我们的课程和社区吗？请联系 alexey@datatalks.club