当前位置：首页 > news >正文

Dify AI 聊天接口后端代理

news 2026/7/22 23:55:12

实现基于 Spring Boot 的 Dify AI 聊天接口代理，支持流式响应，并排查接口调用异常问题

一、Dify 代理接口实现原理

1. 核心功能

通过后端代理转发前端聊天请求至 Dify AI 平台（https://api.dify.ai/v1/chat-messages），实现用户鉴权、参数透传、流式响应返回，核心流程如下：

鉴权层：从请求头获取accessToken，调用UserFeignClient校验用户身份，未登录则返回标准化超时响应；
参数解析层：解析前端传入的query（聊天问题）、conversationId（会话 ID）等参数，校验必填项；
请求构建层：封装 Dify 平台要求的请求参数（含inputs、response_mode=streaming、user等），添加 Dify API Token 认证头；
流式调用层：基于 Spring WebFlux 的WebClient调用 Dify 流式接口，接收 SSE（Server-Sent Events）流式响应；
响应返回层：将 Dify 返回的流式数据直接透传给前端，异常时封装标准化错误信息（遵循 SSE 格式）。

2. 技术选型

核心框架：Spring Boot + Spring WebFlux（支持异步流式响应）；
HTTP 客户端：WebClient（替代传统 HttpClient，适配流式响应）；
服务注册 / 发现：Nacos（服务间调用及路由转发）；
接口规范：SSE（text/event-stream）流式响应，兼容前端实时接收聊天回复。

package cn.com.xxx.mainservice.rest; import cn.com.xxx.common.feign.user.UserFeignClient; import cn.com.xxa.common.model.database.User; import cn.com.xxx.common.util.BaseUtils; import cn.com.xxxa.common.util.StaticValue; import com.alibaba.fastjson.JSON; import com.alibaba.fastjson.JSONObject; import jakarta.servlet.http.HttpServletRequest; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.beans.factory.annotation.Qualifier; import org.springframework.http.HttpHeaders; import org.springframework.http.MediaType; import org.springframework.web.bind.annotation.RequestBody; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RequestMethod; import org.springframework.web.bind.annotation.RestController; import org.springframework.web.reactive.function.client.WebClient; import reactor.core.publisher.Flux; import reactor.core.publisher.Mono; import java.util.HashMap; import java.util.Map; @RestController public class ChatRest { @Qualifier("cn.com.xxx.common.feign.user.UserFeignClient") @Autowired private UserFeignClient userFeignClient; private final String DIFY_API_URL = "http://192.xxx.x.193/v1/chat-messages"; private final String DIFY_API_TOKEN = "app-kam4xxxxxxx50klwoJH"; // 替换为实际token /** * 构建WebClient（Spring WebFlux原生工具） */ private final WebClient webClient = WebClient.builder() .codecs(configurer -> configurer.defaultCodecs().maxInMemorySize(1024 * 1024)) // 调整缓冲区大小 .build(); /** * Dify聊天Rest接口（流式响应） * 返回类型为Flux<String>，直接返回SSE流式数据 */ @RequestMapping( value = "/rest/v1/chat/difyProxy", method = RequestMethod.POST, produces = MediaType.TEXT_EVENT_STREAM_VALUE // 声明SSE响应类型 ) public Flux<String> difyChatProxy(@RequestBody String jsonBody, HttpServletRequest request) { // ========== 解析前端聊天参数 & 鉴权 ========== String accessToken = request.getHeader(StaticValue.HEADER_ACCESSTOKEN); User loginUser = userFeignClient.getUserByAccessToken(accessToken); // 鉴权失败：返回流式错误信息 if (loginUser == null) { String errorData = String.format("data: %s\n\n", JSON.toJSONString(BaseUtils.loginTimeoutReturn())); return Flux.just(errorData); } String loginUserName = loginUser.getName(); JSONObject parmJson = JSON.parseObject(jsonBody); String query = parmJson.getString("query"); String conversationId = parmJson.getString("conversationId"); // 查询为空：返回流式错误信息 if (BaseUtils.isBlankStr(query)) { String errorData = String.format("data: %s\n\n", JSON.toJSONString(BaseUtils.httpErrReturn())); return Flux.just(errorData); } // ========== 构建Dify请求参数 ========== Map<String, Object> difyParam = new HashMap<>(); difyParam.put("inputs", new HashMap<>()); // 固定空inputs difyParam.put("query", query); // 前端传入的问题 difyParam.put("response_mode", "streaming"); // 流式响应模式 difyParam.put("user", loginUserName); // 用户名 difyParam.put("auto_generate_name", true); // 固定参数 // 可选参数：conversationId非空则添加 if (!BaseUtils.isBlankStr(conversationId)) { difyParam.put("conversation_id", conversationId); } // ========== 调用Dify流式接口并返回 ========== return webClient.post() .uri(DIFY_API_URL) // 设置Dify认证头 .header(HttpHeaders.AUTHORIZATION, "Bearer " + DIFY_API_TOKEN) .contentType(MediaType.APPLICATION_JSON) .bodyValue(JSON.toJSONString(difyParam)) .retrieve() // 处理非2xx响应 .onStatus(status -> !status.is2xxSuccessful(), clientResponse -> { return clientResponse.bodyToMono(String.class) .flatMap(errorMsg -> { String errorData = String.format("data: %s\n\n", JSON.toJSONString(Map.of( "error", "Dify接口调用失败：" + clientResponse.statusCode() + "，详情：" + errorMsg ))); return Mono.error(new RuntimeException(errorData)); }); }) // 解析流式响应为字符串 .bodyToFlux(String.class) // 日志打印 .doOnNext(line -> { if (line.startsWith("data: ")) { System.out.println("Dify流式数据：" + line); } }) // 异常处理：返回标准化错误信息 .onErrorResume(e -> { String errorData = String.format("data: %s\n\n", JSON.toJSONString(Map.of( "error", "服务端代理异常：" + e.getMessage() ))); return Flux.just(errorData); }) // 响应完成日志 .doFinally(signalType -> { System.out.println("Dify流式响应接收完毕，信号类型：" + signalType); }) // 设置响应头（关键：声明SSE格式） .contextWrite(ctx -> { HttpHeaders headers = new HttpHeaders(); headers.setContentType(MediaType.TEXT_EVENT_STREAM); headers.set("Cache-Control", "no-cache"); headers.set("Connection", "keep-alive"); return ctx.put("responseHeaders", headers); }); } }

一开始把功能写在了微服务各个层(rest、controller、service、dto、feign等)，但简单业务（没有涉及数据库操作）没必要写得那么复杂，具体业务具体分析吧。

二、问题排查记录

问题 1：编译报错 - 程序包 org.springframework.web.reactive.function.client 不存在

现象

编译ChatRest.java时提示程序包org.springframework.web.reactive.function.client不存在，无法识别WebClient类。

根因

项目依赖配置异常：

重复引入spring-webflux依赖且未指定版本；
spring-boot-starter-webflux依赖冗余（已包含spring-webflux核心包，无需单独引入）。

解决方案

移除重复的spring-webflux依赖，仅保留spring-boot-starter-webflux核心依赖；
刷新 Maven 依赖并重新编译项目，确保WebClient相关包正常引入。

问题 2：运行报错 - 找不到主类cn.com.xxx.mainservice.MainServiceMainApplication

现象

启动项目时提示 “找不到或无法加载主类”，无法正常启动服务。

根因

主类包名与文件目录结构未严格匹配（Java 编译规范要求）；
编译产物缺失（target/classes下无主类.class文件）；
IDE 缓存 / 编译缓存未清理，导致加载旧配置。

解决方案

核对主类包名（cn.com.geohwa.mainservice）与文件路径（src/main/java/cn/com/geohwa/mainservice/）一致性；
执行mvn clean compile清理并重新编译，生成完整的.class文件；
清理 IDE 缓存（IDEA：Invalidate Caches / Restart），重新导入项目。