Phi-3 教程:Microsoft Phi-3 模型实践示例

Phi-3 是由 Microsoft 开发的一系列开放 AI 模型。Phi-3 模型是目前可用的最强大和最具成本效益的小型语言模型(SLM),在各种语言、推理、编码和数学基准测试中表现优于同规模和更大规模的模型。Phi-3 系列包括 mini、small、medium 和 vision 版本,根据不同的参数数量进行训练,以服务于各种应用场景。有关 Microsoft Phi-3 系列的更多详细信息,请访问欢迎使用 Phi-3 系列页面。

目录

• 简介

  • 设置环境(✅)
  • 欢迎使用 Phi-3 系列(✅)
  • 了解关键技术(✅)
  • Phi-3 模型的 AI 安全(✅)
  • Phi-3 硬件支持(✅)
  • Phi-3 模型及其在各平台上的可用性(✅)

• 快速入门

  • 在 GitHub 模型目录中使用 Phi-3(✅)
  • 在 Hugging Face 中使用 Phi-3(✅)
  • 在 Azure AI Studio 中使用 Phi-3(✅)
  • 使用 Azure MaaS 或 MaaP 进行 Phi-3 模型推理(✅)
  • 在 Azure AI Studio 中将 Phi-3 模型部署为无服务器 API(✅)
  • 在 Ollama 中使用 Phi-3(✅)
  • 在 LM Studio 中使用 Phi-3(✅)
  • 在 AI Toolkit VSCode 中使用 Phi-3(✅)

• Phi-3 推理

  • 在 iOS 上进行 Phi-3 推理(✅)
  • 在 Jetson 上进行 Phi-3 推理(✅)
  • 在 AI PC 上进行 Phi-3 推理(✅)
  • 使用 Apple MLX 框架进行 Phi-3 推理(✅)
  • 在本地服务器上进行 Phi-3 推理(✅)
  • 使用 AI Toolkit 在远程服务器上进行 Phi-3 推理(✅)
  • 使用 Rust 进行 Phi-3 推理(✅)
  • 在本地进行 Phi-3-Vision 推理(✅)
  • 使用 Kaito AKS, Azure Containers 进行 Phi-3 推理(官方支持)(✅)

• 微调 Phi-3

  • 下载和创建样本数据集(✅)
  • 微调场景(✅)
  • 微调 vs RAG(✅)
  • 微调让 Phi-3 成为行业专家(✅)
  • 使用 AI Toolkit for VS Code 微调 Phi-3(✅)
  • 使用 Azure Machine Learning Service 微调 Phi-3(✅)
  • 使用 Lora 微调 Phi-3(✅)
  • 使用 QLora 微调 Phi-3(✅)
  • 使用 Azure AI Studio 微调 Phi-3(✅)
  • 使用 Azure ML CLI/SDK 微调 Phi-3(✅)
  • 使用 Microsoft Olive 微调(✅)
  • 使用 Weights and Bias 微调 Phi-3-vision(✅)
  • 使用 Apple MLX 框架微调 Phi-3(✅)
  • 微调 Phi-3-vision (官方支持)(✅)
  • 使用 Kaito AKS, Azure Containers 微调 Phi-3(官方支持)(✅)

• 评估 Phi-3

  • 负责任的 AI 简介(✅)
  • Promptflow 简介(✅)
  • Azure AI Studio 评估简介(✅)

• Phi-3-mini的端到端示例

  • 端到端示例介绍(✅)
  • 准备您的行业数据(✅)
  • 使用Microsoft Olive设计您的项目(✅)
  • 推理您的微调ONNX Runtime模型(✅)
  • 在Android上使用Phi-3、ONNXRuntime Mobile和ONNXRuntime Generate API的本地聊天机器人(✅)
  • 使用Phi3、ONNX Runtime Web和WebGPU在浏览器中的本地聊天机器人(✅)
  • 多模型 - 交互式Phi-3-mini和OpenAI Whisper(✅)
  • WebGPU和Phi-3-mini - Phi-3-mini为用户提供私密（且强大）的聊天机器人体验。您可以尝试(✅)
  • MLFlow - 构建包装器并使用MLFlow的Phi-3(✅)
  • 模型优化 - 如何使用Olive优化ONNX Runtime Web的Phi-3-min模型(✅)
  • 使用Phi-3 mini-4k-instruct-onnx的WinUI3应用(✅)
  • WinUI3多模型AI驱动的笔记应用示例(✅)
  • 微调和集成自定义Phi-3模型与Prompt flow(✅)
  • 在Azure AI Studio中微调和集成自定义Phi-3模型与Prompt flow(✅)

• Phi-3-vision的端到端示例

  • Phi-3-vision-图像文本到文本(✅)
  • Phi-3-vision-ONNX(✅)
  • Phi-3-vision CLIP嵌入(✅)
  • 演示：Phi-3回收(✅)

• Phi-3实验室和工作坊示例

  • C# .NET实验室(✅)
  • 使用Microsoft Phi-3系列构建您自己的Visual Studio Code GitHub Copilot聊天(✅)
  • Phi-3 ONNX教程(✅)
  • Phi-3-vision ONNX教程(✅)
  • 使用ONNX Runtime generate() API运行Phi-3模型(✅)
  • Phi-3 ONNX多模型LLM聊天UI，这是一个聊天演示(✅)
  • C# Hello Phi-3 ONNX示例Phi-3(✅)
  • 支持Phi3-Vision的C# API Phi-3 ONNX示例(✅)
  • 在CodeSpace中运行C# Phi-3示例(✅)
  • 使用Promptflow和Azure AI Search的Phi-3(✅)

使用Phi-3模型

Azure AI Studio上的Phi-3

您可以了解如何使用Microsoft Phi-3以及如何在不同的硬件设备上构建端到端解决方案。要亲身体验Phi-3，首先使用Azure AI Studio，Azure AI Model Catalog玩转模型并为您的场景定制Phi-3，您可以在Azure AI Studio入门中了解更多信息

游乐场 每个模型都有一个专用的游乐场来测试模型Azure AI Playground。

GitHub Models上的Phi-3

您可以了解如何使用Microsoft Phi-3以及如何在不同的硬件设备上构建端到端解决方案。要亲身体验Phi-3，首先使用GitHub Model Catalog玩转模型并为您的场景定制Phi-3，您可以在GitHub Model Catalog入门中了解更多信息

游乐场 每个模型都有一个专用的游乐场来测试模型。

Hugging Face上的Phi-3

您也可以在Hugging Face上找到该模型

游乐场 Hugging Chat游乐场

多语言支持

商标

本项目可能包含项目、产品或服务的商标或标识。Microsoft商标或标识的授权使用必须遵循Microsoft的商标和品牌指南。 在本项目的修改版本中使用Microsoft商标或标识不得引起混淆或暗示Microsoft赞助。任何第三方商标或标识的使用均受这些第三方的政策约束。