GPU内存优化工具集合｜提升AI效率与性能
Reflection-Llama-3.1-70B-GGUF
Github模型
Llama-3.1-70B模型的GGUF量化版本集合
MiniCPM-Llama3-V-2_5-int4
Github开源项目
轻量级视觉问答模型实现实时图像对话
gemma-2-9b-it-GGUF
gemma-2-9b-it模型量化
AI语言模型量化版本满足多种硬件需求
BEVFormer_tensorrt
BEV 3D DetectionTensorRT
BEVFormer和BEVDet的TensorRT高效部署方案
S-LoRA
S-LoRALoRA适配器
大规模并发LoRA适配器高效服务系统
XMem
XMem视频对象分割
长时视频对象分割的解决方案，基于人类多尺度记忆模型
PatrickStar
PatrickStar大模型并行训练
通过基于块的内存管理并行训练大型语言模型
FlexGen
FlexGen高吞吐量
单GPU高效运行大语言模型的生成引擎
推荐工具精选
AI云服务特惠
懂AI专属折扣关注微信公众号
最新AI工具、AI资讯
独家AI资源、AI项目落地
微信扫一扫关注公众号