JSON 是 LLM 工具响应的首选格式，但最近关于 TOON（面向令牌的对象表示法）等替代格式的讨论声称在令牌效率和性能方面具有潜在优势。尽管争论仍在继续——批判性分析 指出 结果具有上下文依赖性——问题是：如何在你的 Spring AI 应用程序中试验这些格式？

本文演示了如何配置 Spring AI 以在 JSON、TOON、XML、CSV 和 YAML 之间转换工具响应，使你能够决定哪种格式最适合你的特定用例。

Spring AI 工具调用：快速…

评估大型语言模型 (LLM) 输出的挑战对于众所周知的不确定性 AI 应用程序至关重要，尤其是在它们投入生产时。

当评估现代 LLM 产生的细致入微、上下文相关的响应时，ROUGE 和 BLEU 等传统指标显得力不从心。人工评估虽然准确，但成本高昂、速度慢且无法扩展。

引入 LLM-as-a-Judge——一种强大的技术，它使用 LLM 本身来评估 AI 生成内容的质量。研究表明，复杂的评判模型可以与人类判断保持高达 85% 的一致性，这实际上更高……

Spring AI ChatClient 提供了一个流畅的 API，用于与 AI 模型进行通信。流畅的 API 提供了构建提示的组成部分的方法，这些组成部分作为输入传递给 AI 模型。

顾问是流畅 API 的关键组成部分，它们拦截、修改和增强 AI 驱动的交互。其主要优点包括封装常见的生成式 AI 模式、转换发送到和来自大型语言模型 (LLM) 的数据，以及为各种模型和用例提供可移植性。

顾问处理 ChatClientRequest 和 ChatClientResponse 对象。框架通过其 getOrder() 值（较低的值首先执行）将顾问链式连接起来，最终……

模型上下文协议 (MCP) 规范了AI应用程序如何与外部工具和资源交互。Spring作为主要贡献者之一，很早就加入了MCP生态系统，帮助开发和维护了官方MCP Java SDK，该SDK是基于Java的MCP实现的基础。在此贡献的基础上，Spring AI通过专用的Boot Starters和MCP Java Annotations全面支持MCP，使得构建能够无缝连接到外部系统的复杂AI驱动应用程序比以往任何时候都更加容易。

这篇博客介绍了 MCP 的核心组件，并演示了如何使用 Spring AI 构建 MCP 服务器和客户端，展示了基本和高级功能。完整的源代码可在以下位置获取：MCP 天气示例…

模型上下文协议 (MCP) 是 Spring AI 中的一项强大功能，它使 AI 模型能够通过标准化接口访问外部工具和资源。MCP 的一项有趣功能是它能够在运行时动态更新可用工具。

这篇博客文章探讨了 Spring AI 如何在 MCP 中实现动态工具更新，为 AI 驱动的应用程序提供灵活性和可扩展性。

相关示例代码可在此处获取：动态工具更新示例

理解模型上下文协议

在深入了解动态工具更新之前，让我们先了解 MCP 是什么以及…

这篇博客文章演示了使用 Spring AI 的 Prompt Engineering 技术的实际实现。

本文中的示例和模式基于全面的 Prompt Engineering 指南，该指南涵盖了有效 Prompt Engineering 的理论、原则和模式。

这篇博客展示了如何使用 Spring AI 流畅的 ChatClient API 将这些概念转化为可工作的 Java 代码。

为方便起见，示例的结构遵循原始指南中概述的相同模式和技术。

本文中使用的演示源代码可在以下位置获取：https://github.com/spring…

我们很高兴地宣布 Spring AI MCP 0.6.0 里程碑版本发布。

重大更改 ⚠️

• McpClient.using() - 请改用 McpClient.sync() 或 McpClient.async()
• McpServer.using() - 请改用 McpServer.sync() 或 McpServer.async()
• McpServer.ToolRegistration - 请改用 McpServerFeatures.SyncToolRegistration 或 McpServerFeatures.AsyncToolRegistration
• McpServer.ResourceRegistration - 请改用 McpServerFeatures.SyncResourceRegistration 或 McpServerFeatures.AsyncResourceRegistration
• McpServer.PromptRegistration - 请改用 McpServerFeatures.SyncPromptRegistration 或 McpServerFeatures.AsyncPromptRegistration
• ToolHelper.toToolRegistration() - 请改用 ToolHelper.toSyncToolRegistration()…

在最近的一篇研究论文《构建高效代理》中，Anthropic 分享了关于构建高效大型语言模型 (LLM) 代理的宝贵见解。这项研究特别有趣的是，它强调了简单性和可组合性，而非复杂的框架。让我们探讨一下这些原则如何使用 Spring AI 转化为实际实现。

虽然模式描述和图表来源于 Anthropic 的原始出版物，但我们将重点关注如何使用 Spring AI 的模型可移植性和结构化输出功能来实现这些模式。我们建议…

我们很高兴宣布Spring AI MCP 0.5.0 里程碑版本发布。

主要特性与改进

传输层增强

• 新的基于Servlet的SSE传输

  • 新增支持Servlet 6.0的HttpServletSseServerTransport
  • 实现与任何支持Servlet的Java HTTP服务器集成
  • 兼容Jakarta Servlet API 6.1.0
  • 包含与Tomcat的全面集成测试

• 增强WebMVC传输

  • 将Spring的SseEmitter替换为基于自定义BlockingQueue的实现
  • 改进事件传递控制和连接管理
  • 新增带有SSEEvent记录的专用会话管理
  • 增强错误处理和超时管理
  • 包含全面的集成测试
…

我们很高兴地宣布 Spring AI MCP 0.4.0 里程碑版本发布。

仓库配置

将此 Spring 里程碑仓库添加到您的 POM 中

<repositories>
  <repository>
    <id>spring-milestones</id>
    <name>Spring Milestones</name>
    <url>https://repo.spring.io/libs-milestone-local</url>
    <snapshots>
      <enabled>false</enabled>
    </snapshots>
  </repository>
</repositories>

主要功能

参考文档：https://docs.springframework.org.cn/spring-ai-mcp/reference/overview.html

增强的根管理

• 在异步客户端中实现了适当的 ListRootsResult 封装
• 在服务器组件中添加了 listRoots 方法
• 在异步服务器中实现了根更改通知处理
• 添加了包含异步通知的根集成测试
• 添加了对具有单个和多个消费者的根更改通知的支持
• 改进了根添加/删除场景的健壮性
…