接入AI 模型实现聊天流式输出
背景
当前基于AI赋能的背景,需要实现智能客服,通过聊天对话的方式,帮用户解答问题。涉及到的主要有对接AI平台,考虑到用户体验,需要使用流式输出的方式展示回答内容。
流式输出实现的方案有很多,包括且不限于轮询、长连接、单向连接等方式。考虑到智能AI输出都是由服务器向客户端单
一、AI平台
阿里百炼平台,申请所需的调用参数。
1.1 依赖
所需的pom依赖:
<dependency><groupId>com.alibaba</groupId>当前基于AI赋能的背景,需要实现智能客服,通过聊天对话的方式,帮用户解答问题。涉及到的主要有对接AI平台,考虑到用户体验,需要使用流式输出的方式展示回答内容。
流式输出实现的方案有很多,包括且不限于轮询、长连接、单向连接等方式。考虑到智能AI输出都是由服务器向客户端单
阿里百炼平台,申请所需的调用参数。
所需的pom依赖:
<dependency><groupId>com.alibaba</groupId>