懂AI

最佳量化AI工具和应用推荐 - 提升数据分析效率

相关项目相关文章
falcon-180B-i1-GGUF

falcon-180B-i1-GGUF

Falcon-180B量化

深入解析量化模型在质量与速度之间的平衡

Mistral-Nemo-Instruct-2407-GGUF

Mistral-Nemo-Instruct-2407-GGUF

性能优化Huggingface

Mistral-Nemo模型在多语言文本生成中的量化应用

Daredevil-8B-abliterated

Daredevil-8B-abliterated

应用Daredevil-8B-abliterated

开源8B模型，适用于无对齐需求的应用和角色扮演

Yi-Coder-9B-Chat-GGUF

Yi-Coder-9B-Chat-GGUF

Huggingface模型文件

Yi-Coder-9B-Chat模型量化文件选择及使用指南

gemma2-9B-daybreak-v0.5-i1-GGUF

gemma2-9B-daybreak-v0.5-i1-GGUF

使用方法Github

多规格IQ量化文件优化AI模型表现

Humanish-LLama3-8B-Instruct-GGUF

Humanish-LLama3-8B-Instruct-GGUF

数据集Github

介绍模型的量化技术实现文本生成性能突破

MiniCPM-V-2_6-GGUF

MiniCPM-V-2_6-GGUF

MiniCPM-V-2_6多语言

使用imatrix量化优化模型性能

Grok-1-GGUF

Grok-1-GGUF

模型下载huggingface

Grok-1 GGUF量化支持llama.cpp的最新特性

Meta-Llama-3.1-70B-Instruct-FP8-KV

Meta-Llama-3.1-70B-Instruct-FP8-KV

HuggingfaceFP8

Meta-Llama-3.1的FP8量化方法实现高效部署

Chronos-Gold-12B-1.0-GGUF

Chronos-Gold-12B-1.0-GGUF

高搜索量Github

Chronos-Gold-12B-1.0模型的高效量化技术

dolphin-2.2.1-mistral-7B-GGUF

dolphin-2.2.1-mistral-7B-GGUF

Huggingface模型文件

支持多平台GPU加速的量化格式，用于大语言模型的创新解决方案

llama-3-cat-8b-instruct-v1-GGUF

llama-3-cat-8b-instruct-v1-GGUF

量化模型性能

文本生成模型的量化选择

granite-3.0-8b-instruct-GGUF

granite-3.0-8b-instruct-GGUF

huggingface量化

文本生成模型的量化优化与性能提升

Mistral-Nemo-Instruct-2407-FP8

Mistral-Nemo-Instruct-2407-FP8

Github量化

FP8量化技术在模型优化与部署中的应用

Yi-1.5-34B-Chat-GGUF

Yi-1.5-34B-Chat-GGUF

Yi-1.5-34B-ChatGithub

多种量化选项助力Yi-1.5-34B-Chat模型优化

Mistral-7B-OpenOrca-AWQ

Mistral-7B-OpenOrca-AWQ

OpenOrcaAWQ

高效4比特量化，实现多用户并发推理

Qwen2.5-32B-Instruct-GPTQ-Int8

Qwen2.5-32B-Instruct-GPTQ-Int8

大语言模型Github

开源多语言大模型Qwen2.5 32B量化版支持超长文本处理

CodeQwen1.5-7B-GGUF

CodeQwen1.5-7B-GGUF

Hugging Face量化

丰富的量化模型选择，多平台优化性能

Mythomax-L2-13b-Q4_K_M-GGUF

Mythomax-L2-13b-Q4_K_M-GGUF

库Gryphe/MythoMax-L2-13b

MythoMax L2 13b模型的Q4_K_M量化版本

WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B-GGUF

WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B-GGUF

量化开源项目

量化模型解析与应用指南

上一页
34567
下一页