llm-apps-java-spring-ai

项目介绍：llm-apps-java-spring-ai

llm-apps-java-spring-ai 是一个旨在展示如何利用 Java 和 Spring AI 构建生成式人工智能和大语言模型（LLMs）驱动的应用程序的示例项目。通过这一项目，开发人员可以更直观地了解如何结合 Java 语言和 Spring AI 框架，将前沿的人工智能技术应用到实际项目中。

前置条件

在开始使用这个项目之前，用户需要确保已经安装：

• Java 23
• Docker 或 Podman

项目内容

使用场景

项目提供了一系列应用场景示例，每一个场景都展示了如何利用 LLMs 完成特定任务，包括：

• 聊天机器人: 利用 Ollama 平台实现的基于 LLMs 的智能聊天机器人。
• 问答系统: 使用 Ollama 和 PGVector，基于 RAG（检索增强生成）的问答解决方案。
• 语义搜索: 借助 Ollama 和 PGVector，实现通过语义理解进行搜索的功能。
• 结构化数据提取: 通过 Ollama 实现从文本中提取结构化数据。
• 文本分类: 使用 Ollama 平台处理分类任务。

聊天内容生成模型

提供多样化的聊天内容生成模型样例，包括：

• 利用 Mistral AI、Ollama 和 OpenAI 平台的不同生成模型。
• 多供应商支持的内容生成模型。

提示、消息与模板及多模式支持

通过以下示例展示如何高效使用提示、消息和模板：

• 基于简单文本、结构化消息和模板的提示技术。
• 支持 Ollama 和 OpenAI 平台的实现。

结构化输出

示例展示如何将 LLM 输出转换为结构化的 JSON 和 Java 对象格式，这对进一步的数据处理和存储尤其有帮助。

多模态性

多模态性功能允许在提示中包含多种媒体类型，从而增强交互的丰富性与表现力，项目提供了通过 Ollama 和 OpenAI 实现该功能的样例。

函数调用

通过 Mistral AI、Ollama 和 OpenAI 实现的 LLM 函数调用，展示了如何使智能应用程序具备调用外部函数的能力。

嵌入模型

项目中展示了如何利用向量化技术处理数据嵌入，包括：

• 使用 Mistral AI 和 Ollama 的实现。
• 使用 ONNX Sentence Transformers 的实现。

数据摄取

展示了各种文档格式（如 JSON、Markdown、PDF 等）的读取和向量化处理，提升了文档检索的效率与准确性。

向量存储、RAG、记忆

这些正在开发的功能模块，将进一步扩大项目的应用边界，提升模型的性能和智能程度。

图像和音频模型

该部分提供了通过 OpenAI 实现的图像生成及语音处理功能，包括语音生成和转录，帮助用户挖掘多媒体处理的潜力。

观察性与评估

通过结合观察性模型，开发人员能够跟踪和分析 LLM 的运行情况，确保任务的准确性与可靠性。

参考文献与附加资源

为了更好地利用该项目，用户可以参照 Spring AI 官方文档，并观看相关视频和会议演讲，这将对理解项目的技术细节与实现方式大有裨益。

---

通过这一项目，用户能够更好地探索 Java 与生成式 AI 技术的结合，借助丰富的示例提高开发人工智能应用的效率与创造力。