Spring AI

Spring AI 是一个用于 AI 工程的应用程序框架。其目标是将 Spring 生态系统的设计原则（如可移植性和模块化设计）应用于 AI 领域，并将使用 POJO 作为应用程序构建块的理念推广到 AI 领域。

Spring AI 的核心在于解决 AI 集成的根本挑战：将您的企业**数据**和**API**与**AI 模型**连接起来。

特性

Spring AI 提供以下特性

• 支持所有主要的AI 模型提供商，例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支持的模型类型包括
  • 聊天补全
  • 嵌入
  • 文本到图像
  • 音频转录
  • 文本到语音
  • 审核
• 跨 AI 提供商的可移植 API 支持，支持同步和流式 API 选项。还可以访问特定于模型的功能。
• 结构化输出 - 将 AI 模型输出映射到 POJO。
• 支持所有主要的向量数据库提供商，例如Apache Cassandra、Azure Vector Search、Chroma、Milvus、MongoDB Atlas、Neo4j、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate。
• 跨向量存储提供商的可移植 API，包括一个新颖的类似 SQL 的元数据过滤器 API。
• 工具/函数调用 - 允许模型请求执行客户端工具和函数，从而根据需要访问必要的实时信息。
• 可观察性 - 提供对 AI 相关操作的洞察。
• 文档注入ETL 框架用于数据工程。
• AI 模型评估 - 用于帮助评估生成内容并防止出现幻觉响应的实用程序。
• ChatClient API - 用于与 AI 聊天模型通信的流畅 API，在风格上类似于 WebClient 和 RestClient API。
• 顾问 API - 封装重复出现的生成式 AI 模式，转换发送到和来自语言模型 (LLM) 的数据，并提供跨各种模型和用例的可移植性。
• 支持聊天对话记忆和检索增强生成 (RAG)。
• 所有 AI 模型和向量存储的 Spring Boot 自动配置和启动器 - 使用start.spring.io选择您在新的应用程序中想要使用的模型或向量存储。

此功能集允许您实现常见的用例，例如“基于您的文档的 Q&A”或“与您的文档聊天”。

文档

广泛的参考文档、示例应用程序以及研讨会/课程材料。

入门

您可以通过几个简单的步骤开始

1. 创建一个具有 Spring AI OpenAI 启动器依赖项的 Spring Boot Web 应用程序。此Spring Initializr 链接可以帮助您引导应用程序。（使用start.spring.io，您可以选择您希望在新应用程序中使用的任何 AI 模型或向量存储）。

2. 将您的 OpenAI 密钥添加到 application.properties

   spring.ai.openai.api-key=<YOUR OPENAI KEY>
   

3. 将以下代码段添加到您的 SpringAiDemoApplication 类中

   @Bean
   public CommandLineRunner runner(ChatClient.Builder builder) {
       return args -> {
           ChatClient chatClient = builder.build();
           String response = chatClient.prompt("Tell me a joke").call().content();							
           System.out.println(response);
       };
   }
   

4. 运行应用程序

   ./mvnw spring-boot:run
   

想以其他方式开始吗？查看参考文档中的入门部分。