懂AI
lite-transformer

lite-transformer

现代高效的长短期注意力Transformer模型

Lite Transformer是一种结合长短期注意力机制的高效Transformer模型。它基于PyTorch开发，支持多种数据集的下载和预处理，能够在NVIDIA GPU上高效运行。模型在多个大型数据集上表现优异，并支持分布式训练和预训练模型下载。

Lite Transformer模型训练数据预处理分布式训练测试模型Github开源项目
访问官网GitHub论文文档
x-transformers

x-transformers

Githubtransformer

轻量级Transformer模型，支持完整的编解码器配置和最新研究成果，适合各种从图像分类到语言模型的应用

LITv2

LITv2

GithubHiLo注意力

基于HiLo注意力的快速视觉Transformer

h-transformer-1d

h-transformer-1d

GithubH-Transformer-1D

高效序列学习的分层注意力变换器实现

xFasterTransformer

xFasterTransformer

GithubPython API

高效的大规模语言模型推理优化方案

LiteLlama-460M-1T

LiteLlama-460M-1T

GithubHuggingface

轻量级高性能语言模型精简参数实现大模型能力

hardware-aware-transformers

hardware-aware-transformers

GithubHAT

瞄准多硬件平台优化的自然语言处理Transformer模型

transformerlab-app

transformerlab-app

GithubTransformer Lab

多功能大语言模型实验平台 支持本地操作和微调

transformers

transformers

GithubHugging Face

机器学习库，覆盖文本、视觉与音频处理

pytorch-transformer

pytorch-transformer

GithubYouTube视频

基于PyTorch的Transformer模型实现与Attention机制全解析

Transformer-TTS

Transformer-TTS

GithubPyTorch

神经语音合成系统