gptel: 一个简单而强大的Emacs LLM客户端

gptel: 为Emacs打造的多功能LLM客户端

在人工智能和大语言模型(LLM)迅速发展的今天,如何在我们熟悉的编辑环境中方便地使用这些强大的AI工具成为了一个重要话题。gptel应运而生,为Emacs用户提供了一个简单易用yet功能强大的LLM客户端解决方案。

多样化的模型支持

gptel支持多种主流的LLM服务和模型,包括:

• 商业API服务:ChatGPT、Azure、Gemini、Anthropic AI (Claude)、Anyscale、Together.ai、Perplexity、OpenRouter、Groq、DeepSeek和Kagi (FastGPT & Summarizer)
• 本地模型:通过Ollama、Llama.cpp、Llamafiles或GPT4All运行的本地模型

除此之外,gptel还支持任何提供OpenAI兼容API的LLM服务,无论是本地还是远程。这种广泛的兼容性使得用户可以根据自己的需求和偏好选择最适合的模型。

主要特性

1. 异步和快速响应:gptel采用异步设计,能够流式传输响应,提供流畅的用户体验。

2. 全方位的Emacs集成:用户可以在Emacs的任何位置与LLM进行交互,包括任意buffer、shell、minibuffer等。

3. 格式化输出:LLM的响应支持Markdown或Org标记格式,便于阅读和进一步处理。

4. 对话管理:支持多轮对话和多个独立会话,方便进行复杂的交互。

5. 会话保存与恢复:可以将聊天内容保存为常规的Markdown/Org/Text文件,并在之后恢复对话。

6. 历史编辑:用户可以回溯并编辑之前的提示或LLM响应,这些修改会被反馈给模型,实现更精确的对话控制。

快速上手

要开始使用gptel,首先需要设置相应的API密钥。对于ChatGPT,用户只需将gptel-api-key变量设置为API密钥或返回密钥的函数即可。gptel默认会尝试使用auth-source来获取密钥。

对于其他服务,如Azure、Gemini、Anthropic等,用户需要使用相应的函数(如gptel-make-azure、gptel-make-gemini等)来定义gptel后端。

使用方法

gptel可以在任何buffer中使用,也可以在专用的聊天buffer中使用:

1. 在任意buffer中:

   • 使用gptel-send命令发送光标之前的文本。选中区域可以只发送选中内容。
   • 可以选择之前的提示和响应来继续对话。
   • 使用前缀参数调用gptel-send可以访问菜单,设置后端、模型等参数,或重定向输入/输出。

2. 在专用聊天buffer中:

   • 使用M-x gptel启动聊天会话。
   • 在聊天会话中,按C-c RET(gptel-send)发送提示。
   • 使用前缀参数C-u C-c RET可以访问设置菜单。

3. 保存和恢复对话:

   • 可以将聊天buffer保存为文件。
   • 打开保存的文件并启用gptel-mode可以恢复对话状态并继续聊天。

上下文增强

gptel提供了强大的上下文增强功能,允许用户为LLM查询提供更多相关信息:

• 使用gptel-add命令可以添加任意区域、buffer或文件作为上下文。
• 在Dired中调用gptel-add或使用专用的gptel-add-file来添加文件。
• 通过gptel菜单(使用前缀参数调用gptel-send)也可以添加、检查或修改上下文。

当有可用的上下文时,gptel会在每次LLM查询中包含这些信息,从而提高响应的相关性和准确性。

Org模式集成

gptel在Org模式中提供了一些特别的便利功能:

1. 使用gptel-org-set-topic可以将对话上下文限制在特定的Org标题内。

2. 支持分支对话:文档中的每个层次大纲路径可以作为单独的对话分支。这可以通过gptel-org-branching-context变量来控制。

3. 使用gptel-org-set-properties命令可以将gptel模型、后端、温度、系统消息等参数声明为Org属性。这样,在相应标题下的gptel查询将始终使用这些设置,实现可重现的LLM聊天笔记本。

高级API

对于希望根据自己的工作流程定制LLM交互的用户,gptel提供了一个通用目的的API gptel-request。这使得开发者可以构建更加个性化和专门化的LLM应用。

结语

gptel为Emacs用户提供了一个强大而灵活的LLM客户端解决方案。无论是日常查询、代码辅助、还是复杂的AI驱动任务,gptel都能满足各种需求。其简洁的界面和丰富的功能使得在Emacs中与AI模型交互变得前所未有的简单和高效。

随着LLM技术的不断发展,gptel也在持续更新和改进。欢迎Emacs爱好者和AI enthusiasts探索gptel,体验AI增强的编辑体验,并为这个开源项目贡献自己的想法和代码。

访问gptel GitHub仓库

#Emacs #AI #LLM #gptel