想部署一个用于编程的 AI 模型，或者只是在寻找一个开源的 GitHub Copilot 替代品？往下看看吧！
AI 无处不在。大语言模型（LLM）就是最重要的 AI 模型类型之一。
当然，这里指的是 开源大语言模型（而不是私有大语言模型）。这样的大语言模型不仅能帮你生成文本、活跃思维、画图创造，还能够帮你编程，提高编写代码的效率。
为此，大语言模型需要首先经过微调，然后用编程语言训练，这样才能为你编程提供帮助。
本篇文章中，我将介绍一些好用的开源编程大语言模型，其中也包含了开源的 GitHub Copilot 平替编程助手。
你可以在 Ollama 上找到所有的开源大语言模型，并且可以轻松地将它们安装在本地使用。
1. WizardCoder
WizardCoder 是一个开源编程大语言模型，在 Llama 2 的基础上进行了优化，并且经过了相应的微调，可以很好地处理复杂指令。
WizardCoder 使用 Evol-Instruct 算法，确保模型以更完整、更丰富的指令进行微调，使其能够胜任编程任务。得益于这一算法，该模型声称其性能超过了 Gemini Pro、ChatGPT 3.5 等大模型。因此，WizardCoder 大模型非常适合作为 AI 编程助手。
撰稿（译注：It’s FOSS 原文）时的最新版本 WizardCoder-33B-V1.1 是在 deepseek-coder-33b-base 上训练的。您也可以使用它的变体，比如 WizardCoder-Python-34B-V1.0。
如果感兴趣，可前往 Ollama 模型库一探究竟。
2. Phind CodeLlama
Phind 是 最好用的AI搜索引擎 之一，其编程大模型也不遑多让。Phind CodeLlama 是一个基于 CodeLlama 34B 的代码生成模型，经过微调以适应各种指令。
该模型的训练集不仅包含高质量的编程问题和解决方案，还使用了 DeepSpeed ZeRO 3 和 Flash Attention 2 在32个 A100-80GB GPU 上进行了3个小时的训练。
为了保证准确性，Phind 利用 OpenAI 的去污染技术对数据集进行处理，提取每个评估用例中的部分文本，并验证训练样本中是否存在相应的匹配项。
该模型存在两个版本：v1 和 v2。v1 建立在 CodeLlama 34B 和 CodeLlama-Python 34B 之上。v2 版本只是 v1 的迭代版本，在额外的15亿个高质量编程相关数据词元上进行了训练。
3. Mistral7B 和 Mixtral-8x7B
Mistral AI 开发的 Mistral7B 和 Mixtral 8x7B 都宣称自己是对应训练数据量中最好的模型。Mistral 7B 拥有73亿个参数，在基准测试中胜过 Llama 2 13B。
我确实发现该模型在 Ubuntu 系统中的 Ollama 上运行速度更快。
部分技术细节：Mixtral 8x7B 规模更大，是一个具有467亿个参数的稀疏专家混合 (SMoE) 模型。尽管参数量大，但每个词元只需要129亿个参数。
这两种模型都可以根据您的任务需要进行微调。但是，也适用于编程。
4. CodeBooga
CodeBooga 是一款出色的开源编程大模型，主要原因是该模型是 Phind-Codellama 34B v2 和WizardCoder-Python-34B-V1.0 的合并结果，几乎可以说是 Python 和 JavaScript 最佳编程模型之一。
该模型总共拥有334亿个参数，在评估其用途时可能会优于合并的模型。
CodeBooga 可能并不那么流行，但也包含在 Ollama 库中，可以随时尝试。
5. Code Llama
由 Meta AI 开发的 Code Llama 是 Llama 2 的一个特别版本。该模型是在专门的代码数据集上训练的，因此它可以生成代码，且理解提示词中关于代码的自然语言。
Code Llama 有四种参数大小，分别是70亿、130亿、340亿和700亿个参数。
所有不同的模型都服务于不同的目的，并且需要的配置也不同。70亿模型可以在单个GPU上运行。相比之下，340亿和700亿模型可以提供更好的结果，但需要更好的配置。
总的来说，如果您的配置不太充足，那么70亿和130亿参数级别的模型是一个不错的选择。
6. CodeGeeX
CodeGeeX 是最好的 GitHub Copilot 平替之一，也是同类大模型中数一数二的存在。它是一个代码生成大模型，拥有超过130亿个参数，在超过8500亿个词元上训练。
CodeGeeX 具备一些特殊功能，例如跨语言代码翻译，允许您将代码翻译成不同的编程语言。它还免费给 Visual Studio Code 和其他 IDE（集成开发环境）提供可定制的编程助手。可用于所有类型的 IDE 这一点使得它成为许多人的完美 Copilot 替代品。
Ollama 上有了 CodeGeeX 这样的 AI 编程助手后，无需再依赖 Google 搜索查询，只需依靠本地大模型的帮助即可。当然，您可以以此来替代 GitHub Copilot。
7. Tabby
在社区积极开发下，Tabby 是 GitHub Copilot 开源平替中最具特色的一个。它可以在众多 IDE 中作为扩展使用，例如Visual Code。
这是开源自托管的微软 Copilot AI 替代品中最令人印象深刻的之一。
Tabby 可以从注释和上下文代码中创建代码片段。并且与其他一些 Copilot 替代品不同，它在您的基础设施上运行。Tabby 用 Rust 编写而成，旨在提高性能。在安装前，还可以通过 在线网站 试用。
自定义 Tabby 非常简单直接，可以从 StarCoder、CodeLlama、DeepseekCode 等多个开源大模型中选择。您还可以提供存储库模型的访问权限，以便 Tabby 有更多上下文。
8. StarCoder
StarCoder 是一款专注于代码的大模型，训练内容包含80多种编程语言、Git commit、GitHub issue 和 Jupyter notebook，训练参数超过150亿，拥有超过1万亿个词元。
StarCoder 模型的可输入文本比其他任何开源大模型都长，上下文长度超过8000个词元。虽然可能不太出名，但它是一个不错的 AI 编程助手。
还有一个名为 Starcoder2 的版本，包含的数据集是 Starcoder 的4倍，具备三种参数级别，分别是30亿、70亿和150亿，在3.3到4.3万亿个词元上训练。
9. Deepseek Coder
Deepseek Coder 系列提供了从10亿到330亿的模型。从零开始在超过2万亿个词元上训练，其是一个高性能的编程大模型。与 GPT 4 等专有大模型相比，其性能也十分出色。
由于该模型的原始团队位于中国，该模型同时使用了中文和英文进行训练。
Deepseek Coder 的13亿参数版本任务完成速度十分迅速，而330亿版本可以执行最复杂的任务，窗口大小为16K。您可以将它用作最轻量级的 Copilot 替代品之一。
10. DolphinMixtral
Dolphin 模型在 Mixtral 8x7B 基础上，额外添加了 Synthia、OpenHermes、PureDove、New Dolphin-Coder 和 MagiCoder 的数据集，使其比 Mixtral 更有效率。好吧，这确实是一个有趣的组合。
需要注意的是，这个模型是完全未经审查的。
DolphineMixtral 只是 Mixtral 的一个普通微调版本。您可以根据您的用途调整它。
即使上文提到了众多AI编程助手，但根据具体的场景，您也可以使用其他任何开源 AI 聊天机器人。在以下的网址中，我尝试选出最好的几个聊天机器人，但仍有无数选择待您探索：
总结
以上提到了很多开源编程大模型，其中一些完全可以作为 Copilot 的开源平替。所有这些大模型都非常强大，可以帮助您解决几乎所有的编程问题。
几乎每个大模型都提供不同的参数版本，以满足各种使用场景。赶快选择一个试试吧！