SpringAI入门教程-特性

2025年7月2日 · 563 字

  1. 可插拔的接口 支持不同大模型厂商的 API接口，支持同步和流式 API，也支持访问模型特定的功能
  2. 通用特性 市面上主流的大模型厂商都提供的通用能力： 2.1 提示词

2.2 向量模型（Embedding Models） 向量模型的本质目标，就是把语义相似的内容用“相近”的向量表示，把“不相关”内容尽量拉远。所以好的向量模型能够更好的识别语义，进行向量化。 2.3 文转图

2.4 语音转文字

2.5 文字转语音

2.6 内容审核 Moderation Models 专门用于内容审核、风险检测和安全控制，判断文本、图片、音频等内容是否符合规定标准或安全规范的模型。 3. 结构化输出 可将大模型的输出转换成 POJO 对象，供业务使用

  1. 支持所有主流的向量数据库 对于向量模型生成出来的向量，需要持久化到向量数据库，并且能利用向量数据库来计算两个向量之间的相似度，或者根据一个向量查找跟这个向量最相似的向量。

可插拔的跨厂商的向量数据库操作 API，包括类 SQL 的操作接口

  1. 支持多模式的API 支持同时处理文本、音频或视频等数据。

  2. Tools 调用 Function Calling，允许模型跟外部API，工具交互，增强模型的能力。

  3. 模型审查 评估大模型生成的内容，减少模型生成的幻觉

  4. 可观测性 SpringAI对核心组件提供各种指标，追踪能力，有各种拦截器实现。

  5. 数据工程中的文档抽取 ETL 框架 Extract、Transform、Load 流水线架构处理数据，供大模型 RAG 使用。

  6. 基于 SpringBoot 的大模型服务以及向量存储服务的自动注解

  7. 聊天对话客户端API 与大模型聊天的 fluent API，在用法上类似于 WebClient 和 RestClient API。

  8. Advisors （AOP） 支持 对访问大模型，以及大模型的响应做切面处理

  9. 对话记录存储 ChatMemory支持

  10. RAG 支持