NoromaidxOpenGPT4-2-GGUF-iMatrix

NoromaidxOpenGPT4-2-GGUF-iMatrix 项目介绍

NoromaidxOpenGPT4-2-GGUF-iMatrix 是一个合成的语言模型项目，其融合了多种基础模型的优势。该项目针对不同的用户需求进行了优化，以提供更为多样化和灵活的自然语言处理能力。以下是关于此项目的详细介绍。

模型背景

NoromaidxOpenGPT4-2 是通过将多个基础模型合并而创建的。这些基础模型包括：

NeverSleep/Noromaid-v0.1-mixtral-8x7b-Instruct-v3
rombodawg/Open_Gpt4_8x7B_v0.2
mistralai/Mixtral-8x7B-Instruct-v0.1

在为模型合并过程中，采用了 TIES 合并方法，并使用 rombodawg/Open_Gpt4_8x7B_v0.2 作为基准模型。这一方法旨在维持不同模型之间的平衡，将各自的优点相结合。

项目特点

版本迭代：NoromaidxOpenGPT4-2 是这一合并项目的第二次迭代，与第一版本的差异主要在于基础模型的选择。第一代使用 Mixtral-8x7B 作为基础，而第二代则选择 Open_Gpt4_8x7B_v0.2 作为基础模型。这一变化使得两者在性能上各具特色。

灵活的配置：模型合并过程中，使用了精细化的配置文件，具体如下：

models:
  - model: mistralai/Mixtral-8x7B-Instruct-v0.1
    parameters:
      density: .5
      weight: 1
  - model: NeverSleep/Noromaid-v0.1-mixtral-8x7b-Instruct-v3
    parameters:
      density: .5
      weight: .7
merge_method: ties
base_model: rombodawg/Open_Gpt4_8x7B_v0.2
parameters:
  normalize: true
  int8_mask: true
dtype: bfloat16

可下载的 IMatrix 文件：用户可以通过此链接下载 IMatrix 文件，以便进行更多的数据量化操作。

使用方法

该项目为用户提供了多种输入输出格式模板，以适应不同的应用场景：

Alpaca 模板：通过结构化输入提供明确的指令和响应格式。

### Instruction:
{system prompt}

### Input:
{prompt}

### Response:
{output}

Mistral 模板：采用更为直接的指令方式。
```
[INST] {prompt} [/INST]
```

适用人群

需要注意的是，该模型并不适合所有受众，特别是对于某些敏感内容的处理，用户需谨慎使用。此外，NoromaidxOpenGPT4-2-GGUF-iMatrix 的使用遵循 CC-BY-NC-4.0 协议，限定商业用途。

社区支持

如果您希望支持或资助该项目，可以访问 Ko-fi 进行支持。通过社区的支持，我们希望能够持续改进和优化项目，为更多用户提供更优质的服务。