kitops

KitOps 项目介绍

KitOps 是一个基于标准的包装和版本管理系统，专为人工智能和机器学习（AI/ML）项目而设计。它致力于简化和增强AI/ML项目的管理，是AI/ML平台工程团队安全打包和版本化资产的首选解决方案。

什么是 KitOps？

KitOps 通过使用开放标准，与现有的AI/ML、开发和DevOps工具无缝对接，并且可以存储在企业容器注册表中。它创建了一个称为 ModelKit 的包，涵盖了再现或部署AI/ML项目所需的所有内容。团队成员可以选择性地解包 ModelKit，只获取他们任务所需的部分，以节省时间和存储空间。

ModelKits 不仅不变且可签名，存放在现有的容器注册表中非常便于组织的跟踪、控制和审计。它们简化了数据科学家、应用程序开发人员和站点可靠性工程师（SRE）之间的交接过程，这对于处理大型语言模型（LLMs）等AI/ML模型的团队和企业来说尤其有用。

应用领域

KitOps 支持各种类型的AI/ML项目，包括：

• 预测模型
• 大型语言模型
• 计算机视觉模型
• 多模态模型
• 音频模型

特点和功能

KitOps 提供了一系列强大的功能：

• 统一包装：ModelKit 包括模型、数据集、配置和代码。
• 版本管理：每个 ModelKit 都有标签，以表明数据集和模型的组合。
• 防篡改：每个 ModelKit 包含 SHA 摘要，以确保其完整性。
• 选择性解包：通过 kit unpack --filter 命令，用户可以解包他们需要的特定部分。
• 自动化：支持本地打包或解包及在 CI/CD 工作流程中的使用。
• 容器部署：从任何 ModelKit 生成基本或自定义的 Docker 容器。
• Kubernetes 支持：生成 Kubernetes/KServe 部署配置。
• 大语言模型微调：使用 LoRA 方法微调大型语言模型。
• 可签名的制品：确保 ModelKit 和其资产的来源可靠。
• 标准兼容：存储于任何符合 OCI 1.1 的容器或制品注册表。
• 简单语法：Kitfiles 采用易于阅读的 YAML 语法。
• 灵活性：可以引用基础模型、存储键值对和任何兼容 YAML 的 JSON 数据。

适用范围

无论是AI、ML还是LLM项目，甚至是多模态模型，ModelKits 都通用兼容。

最新资讯

KitOps 更新了一些有趣的特性：

• 通过一行命令从 ModelKit 创建可运行的容器。
• 与 Jozu Hub 仓库联动使用，或在现有的 OCI 注册表中继续使用 ModelKits。
• 支持与 Dagger 管道结合使用。
• 与 Red Hat 的 InstructLab 和 Quay.io 产品协同工作效果良好。

适用于 EU AI 法令的合规性

ModelKits 是创建模型版本库以符合欧盟 AI 法令的理想选择，因为它们是防篡改的、可签名和可审计的。

KitOps 为AI/ML项目提供了一个安全、灵活且透明的包装和版本管理解决方案，为不同人员和团队之间的协作提供了极大的便利。无论是企业用户还是开发团队，都能从中找到简化项目管理流程的有效工具。