Github项目介绍：llm-apps-java-spring-ai
llm-apps-java-spring-ai 是一个旨在展示如何利用 Java 和 Spring AI 构建生成式人工智能和大语言模型（LLMs）驱动的应用程序的示例项目。通过这一项目，开发人员可以更直观地了解如何结合 Java 语言和 Spring AI 框架，将前沿的人工智能技术应用到实际项目中。
前置条件
在开始使用这个项目之前，用户需要确保已经安装：
- Java 23
- Docker 或 Podman
项目内容
使用场景
项目提供了一系列应用场景示例，每一个场景都展示了如何利用 LLMs 完成特定任务，包括：
- 聊天机器人: 利用 Ollama 平台实现的基于 LLMs 的智能聊天机器人。
- 问答系统: 使用 Ollama 和 PGVector，基于 RAG（检索增强生成）的问答解决方案。
- 语义搜索: 借助 Ollama 和 PGVector，实现通过语义理解进行搜索的功能。
- 结构化数据提取: 通过 Ollama 实现从文本中提取结构化数据。
- 文本分类: 使用 Ollama 平台处理分类任务。
聊天内容生成模型
提供多样化的聊天内容生成模型样例，包括：
- 利用 Mistral AI、Ollama 和 OpenAI 平台的不同生成模型。
- 多供应商支持的内容生成模型。
提示、消息与模板及多模式支持
通过以下示例展示如何高效使用提示、消息和模板：
- 基于简单文本、结构化消息和模板的提示技术。
- 支持 Ollama 和 OpenAI 平台的实现。
结构化输出
示例展示如何将 LLM 输出转换为结构化的 JSON 和 Java 对象格式，这对进一步的数据处理和存储尤其有帮助。
多模态性
多模态性功能允许在提示中包含多种媒体类型，从而增强交互的丰富性与表现力，项目提供了通过 Ollama 和 OpenAI 实现该功能的样例。
函数调用
通过 Mistral AI、Ollama 和 OpenAI 实现的 LLM 函数调用，展示了如何使智能应用程序具备调用外部函数的能力。
嵌入模型
项目中展示了如何利用向量化技术处理数据嵌入，包括：
- 使用 Mistral AI 和 Ollama 的实现。
- 使用 ONNX Sentence Transformers 的实现。
数据摄取
展示了各种文档格式（如 JSON、Markdown、PDF 等）的读取和向量化处理，提升了文档检索的效率与准确性。
向量存储、RAG、记忆
这些正在开发的功能模块，将进一步扩大项目的应用边界，提升模型的性能和智能程度。
图像和音频模型
该部分提供了通过 OpenAI 实现的图像生成及语音处理功能，包括语音生成和转录，帮助用户挖掘多媒体处理的潜力。
观察性与评估
通过结合观察性模型，开发人员能够跟踪和分析 LLM 的运行情况，确保任务的准确性与可靠性。
参考文献与附加资源
为了更好地利用该项目，用户可以参照 Spring AI 官方文档，并观看相关视频和会议演讲，这将对理解项目的技术细节与实现方式大有裨益。
通过这一项目，用户能够更好地探索 Java 与生成式 AI 技术的结合，借助丰富的示例提高开发人工智能应用的效率与创造力。
