what-llm-to-use

项目简介：What LLM to Use

在DevAI领域，开发人员利用大型语言模型（LLMs）来构建软件。由于这一领域发展迅速，选择哪种模型适合使用可能是一个具有挑战性的问题。为此，"What LLM to Use"项目应运而生，旨在帮助开发人员在众多模型中做出合适的选择。这个项目源于我们在Continue社区的经验，社区成员可以通过拉取请求（pull request）的方式来提出改进意见，共同保持项目的更新和完善。

现有的LLMs

LLM的种类非常多，我们聚焦于当前广泛使用的那些，并在一个CSV文件中列出了所有这些模型及其相关信息，您可以在此处查看。

编码时使用的LLMs

用户如何选择？

在使用LLM时，首先考虑的是使用开源还是商业模型：

• 开源LLM适合那些希望代码留在本地环境、有足够内存、预算有限或希望对模型进行端到端管理和优化的人。
• 商业LLM则适合想要最优模型、设置简单可靠、不介意代码外泄或者不在乎成本的人士。

一旦选择使用开源LLM，下一步是选择在本地机器上部署还是使用托管的模型提供商：

• 在_本地机器_上使用开源LLM适合内存充足、想要免费使用或无需网络连接的人。
• 使用_托管提供商_上的开源LLM适合想要最佳开源模型、本地内存不足或希望模型能供多人使用的人。

我们提供了一个如何为团队部署开源代码LLM的指南，您可以在这里 查看。

对于商业LLM，通常会获取API密钥并对比使用多种模型，以便根据建议的质量和使用费用进行选择。

开源模型

以下是开发人员在编码时经常使用的开源LLMs，按受欢迎程度排序（截至2023年10月）：

1. Code Llama：由Meta训练，用于生成和讨论代码，基于Llama 2构建，提供7B、13B和34B多种尺寸，是目前最知名的开源基础模型。
2. WizardCoder：由WizardLM团队构建，基于Code Llama进行微调。
3. Phind-CodeLlama：由Phind构建，使用专有数据集微调的Code Llama。
4. Mistral：由Mistral AI训练，是一个7B参数的模型，适合于代码和英语任务。
5. StarCoder：由BigCode训练的15B参数模型，专注于多种编程语言。
6. DeepSeek Coder：由DeepSeek AI训练，以高分在各种编程相关基准上表现出色。
7. Llama2：由Meta训练，虽然在代码编辑方面不如其他模型，但基础架构被Code Llama及其他高级模型使用。

商业模型

以下是开发人员在编码时常用的商业LLMs，同样按受欢迎程度排序（截至2023年10月）：

1. GPT-4：由OpenAI提供，被认为是在编码时使用的最佳LLM。
2. GPT-4 Turbo：相比于GPT-4速度更快、成本更低。
3. GPT-3.5 Turbo：同样由OpenAI提供，相对便宜和快速，但建议不如GPT-4。
4. Claude 2：由Anthropic开发，具有改进的编码能力。
5. PaLM 2：由Google训练，通过获取API密钥来使用。

贡献

如果发现缺失的模型或有观点需要分享，欢迎通过PR或发布issue与我们联系。我们致力于维护一个由社区驱动的、实时更新的编程语言模型索引。

喜欢这一项目介绍的读者，可以通过订阅月度新闻通讯继续了解 DevAI社区的更多内容。