TransformerHub

项目介绍：TransformerHub

TransformerHub 是一个致力于实现多种 Transformer 模型形式的项目。此项目不追求在任何具体任务上成为最先进的技术，而是旨在通过实践提升个人的编程技能，并为那些热爱深度学习和机器智能的人提供一个参考平台。

灵感与感谢

该项目的灵感源于许多优秀的开源项目，包括 NanoGPT、ViT、MAE、CLIP 和 OpenCLIP。TransformerHub 的开发得益于这些项目的开放共享，因此对它们表示由衷的感谢。

项目特色

TransformerHub 提供了丰富多样的设计选择，涵盖不同的 Transformer 架构、注意力模块、位置嵌入和采样方法。

Transformer 架构

• 仅编码器
• 仅解码器
• 编码器-解码器
• 统一（正在进行）

注意力模块

• 无掩码注意力（如 Transformer、BERT）
• 因果掩码注意力（如 Transformer、GPT）
• 前缀因果注意力（如 T5）
• 滑动窗口注意力（如 Mistral）

位置嵌入

• 固定位置嵌入（权威模型）
• 可学习位置嵌入（如 Transformer、BERT）
• 旋转位置嵌入（如 Roformer）
• 可外推位置嵌入（如可长度外推的 Transformer）

采样方法

• 基于温度的采样器
• Top-k 采样器
• Nucleus（top-p）采样器

当前进展

目前，项目正在研究实现一种名为 DINO 的 ViT 变体，这是一种自监督学习方式训练的模型。

已实现模型状态

使用声明

由于 Transformer 的流行与多功能性，很多课程作业要求实现部分或全部的 Transformer 模型。此项目用途为个人训练，禁止直接复制代码用于作业或考试，这违反了多数学术机构的行为准则。

如果需要回顾 Transformers 的基础，或是详细的架构说明，建议参考相关的博客资料。通过这些资料，读者可以更好地理解它的性能和应用。

总之，TransformerHub 是一个为深度学习研究人员提供参考和学习的开放平台，通过学习不同 Transformer 模型的实现细节，促进个人技术能力的提升。