Spring AI

Spring AI 是一个用于 AI 工程的应用框架。它的目标是将 Spring 生态系统的设计原则（如可移植性和模块化设计）应用于 AI 领域，并推广使用 POJO 作为 AI 领域应用程序的构建块。

Spring AI 的核心在于解决 AI 集成的根本挑战：将您的企业数据和 API 与 AI 模型连接起来。

功能

Spring AI 提供以下功能

• 支持所有主要的 AI 模型提供商，例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支持的模型类型包括
  • 聊天补全
  • 嵌入
  • 文本到图像
  • 音频转录
  • 文本到语音
  • 内容审核
• 支持跨 AI 提供商的可移植 API，同时支持同步和流式 API 选项。此外，还可访问模型特定功能。
• 结构化输出 - 将 AI 模型输出映射到 POJO。
• 支持所有主要的向量数据库提供商，例如 Apache Cassandra、Azure Vector Search、Chroma、Milvus、MongoDB Atlas、Neo4j、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate。
• 跨向量存储提供商的可移植 API，包括新颖的类 SQL 元数据过滤 API。
• 工具/函数调用 - 允许模型请求执行客户端工具和函数，从而按需访问必要的实时信息。
• 可观测性 - 提供对 AI 相关操作的洞察。
• 文档注入ETL 框架，用于数据工程。
• AI 模型评估 - 有助于评估生成内容并防范幻觉（hallucinated）响应的实用工具。
• ChatClient API - 用于与 AI 聊天模型通信的流畅 API，在习惯用法上类似于 WebClient 和 RestClient API。
• Advisors API - 封装了常见的生成式 AI 模式，转换发送到和接收自语言模型 (LLM) 的数据，并提供了跨各种模型和用例的可移植性。
• 支持聊天会话记忆 (Chat Conversation Memory) 和检索增强生成 (Retrieval Augmented Generation - RAG)。
• 支持所有 AI 模型和向量存储的 Spring Boot 自动配置和 Starter - 使用start.spring.io 选择所需的模型或向量存储。

这套功能让您可以实现常见的用例，例如“基于文档的问答 (Q&A over your documentation)”或“与您的文档聊天 (Chat with your documentation)”。

文档

详尽的参考文档、示例应用和研讨会/课程材料。

入门

您可以通过几个简单的步骤开始使用

1. 创建一个带有 Spring AI OpenAI boot starter 依赖的 Spring Boot Web 应用。这个Spring Initializr 链接可以帮助您启动应用。（通过start.spring.io，您可以在新应用中选择任何想要使用的 AI 模型或向量存储）。

2. 将您的 OpenAI 密钥添加到 application.properties 文件中

   spring.ai.openai.api-key=<YOUR OPENAI KEY>
   

3. 将以下代码片段添加到您的 SpringAiDemoApplication 类中

   @Bean
   public CommandLineRunner runner(ChatClient.Builder builder) {
       return args -> {
           ChatClient chatClient = builder.build();
           String response = chatClient.prompt("Tell me a joke").call().content();							
           System.out.println(response);
       };
   }
   

4. 运行应用

   ./mvnw spring-boot:run
   

想换种方式入门？请查看参考文档中的入门章节。