transformerlab-app

<br /> <div align="center"> <a href="https://github.com/transformerlab/transformerlab-app"> <img src="https://yellow-cdn.veclightyear.com/0a4dffa0/5adb5852-45b6-4ad2-8eda-9acc8e0d504d.svg" alt="Logo" width="80" height="80"> </a> <h1 align="center" style="color: rgb(68, 73, 80); letter-spacing: -1px">Transformer Lab</h1> <p align="center"> 在本地下载、交互和微调模型。 <br /> <a href="https://transformerlab.ai/docs/intro"><strong>查看文档 »</strong></a> <br /> <br /> <a href="https://youtu.be/tY5TAvKviLo">观看演示</a> · <a href="https://github.com/transformerlab/transformerlab-app/issues">报告错误</a> · <a href="https://github.com/transformerlab/transformerlab-app/issues/new">提出建议</a> · <a href="https://discord.gg/transformerlab">加入Discord</a> · <a href="https://twitter.com/transformerlab">关注Twitter</a> </p> <p align="center"> 注意：Transformer Lab正在积极开发中。请加入我们的Discord或关注我们的Twitter以获取更新。我们非常重视您的问题、反馈和贡献！</p> </div>

立即下载

关于项目

产品截图

Transformer Lab是一款允许任何人实验大型语言模型的应用程序。

Transformer Lab允许您：

💕 一键下载数百个流行模型：
- Llama3、Phi3、Mistral、Mixtral、Gemma、Command-R等数十种模型
⬇ 从Huggingface下载任何LLM
🎶 在不同硬件上微调/训练
- 在Apple Silicon上使用MLX进行微调
- 在GPU上使用Huggingface进行微调
⚖️ RLHF和偏好优化
- DPO
- ORPO
- SIMPO
- 奖励建模
💻 跨操作系统使用LLM：
- Windows应用
- MacOS应用
- Linux
💬 与模型对话
- 聊天
- 补全
- 预设（模板）提示
- 聊天历史
- 调整生成参数
🚂 使用不同的推理引擎
- Apple Silicon上的MLX
- Huggingface Transformers
- vLLM
- Llama CPP
🧑‍🎓 评估模型
📖 RAG（检索增强生成）
- 拖放文件界面
- 适用于Apple MLX、Transformers和其他引擎
📓 构建训练数据集
- 从HuggingFace上的数百个常用数据集中提取
- 通过拖放提供您自己的数据集
🔢 计算嵌入
💁 完整的REST API
🌩 在云端运行
- 您可以在桌面/笔记本电脑上运行用户界面，而引擎在远程或云机器上运行
- 或者您可以在单台机器上本地运行所有内容
🔀 跨平台转换模型
- 在Huggingface、MLX、GGUF之间转换
🔌 插件支持
- 轻松从现有插件库中获取
- 编写您自己的插件以扩展功能
🧑‍💻 嵌入式Monaco代码编辑器
- 编辑插件并查看幕后发生的情况
📝 提示编辑
- 轻松编辑系统消息或提示模板
📜 推理日志
- 在进行推理或RAG时，查看发送给LLM的原始查询日志

您可以通过简单的跨平台GUI完成以上所有操作。

入门

<a href="https://transformerlab.ai/docs/download">点击此处</a>下载Transformer Lab。

<a href="https://transformerlab.ai/docs/intro">阅读此页面</a>以了解如何安装和使用。

使用的技术

开发者

从头开始构建

要自行构建应用程序，请拉取此仓库，并按照以下步骤操作：

npm install

npm start

打包生产版本

为本地平台打包应用程序：

npm run package

许可证

根据AGPL V3许可证分发。有关更多信息，请参阅LICENSE.txt。

引用

如果您在研究或应用中发现Transformer Lab有用，请使用以下BibTeX引用：

@software{transformerlab,
  author = {Asaria, Ali},
  title = {Transformer Lab: 实验大型语言模型},
  month = December,
  year = 2023,
  url = {https://github.com/transformerlab/transformerlab-app}
}