当前位置：首页 > news >正文

为 Node.js 后端服务接入 Taotoken 实现多模型对话功能

news 2026/7/3 7:06:03

为 Node.js 后端服务接入 Taotoken 实现多模型对话功能

1. 准备工作

在开始集成 Taotoken 之前，需要确保您的开发环境已满足以下条件。Node.js 版本建议使用 LTS 版本（如 18.x 或更高），并确保已安装 npm 或 yarn 包管理器。您还需要在 Taotoken 控制台创建一个 API Key，并在模型广场查看可用的模型 ID。

2. 安装依赖

首先，在您的 Node.js 项目中安装官方 OpenAI SDK。这个 SDK 兼容 Taotoken 的 API 接口。打开终端，在项目根目录下运行以下命令：

npm install openai

如果您使用 yarn，可以运行：

yarn add openai

3. 配置 API 密钥与基础 URL

建议将敏感信息如 API Key 存储在环境变量中，而不是直接硬编码在代码里。您可以在项目根目录创建.env文件，并添加以下内容：

TAOTOKEN_API_KEY=您的API密钥 TAOTOKEN_BASE_URL=https://taotoken.net/api

然后在代码中通过process.env读取这些配置。如果您使用其他配置管理方式（如 AWS Secrets Manager 或 Kubernetes ConfigMap），请相应调整。

4. 实现聊天补全功能

创建一个新的服务模块来处理与 Taotoken 的交互。以下是一个完整的实现示例：

import OpenAI from "openai"; import dotenv from "dotenv"; // 加载环境变量 dotenv.config(); // 初始化 OpenAI 客户端 const client = new OpenAI({ apiKey: process.env.TAOTOKEN_API_KEY, baseURL: process.env.TAOTOKEN_BASE_URL, }); /** * 调用 Taotoken 聊天补全接口 * @param {string} modelId - 模型 ID，如 "claude-sonnet-4-6" * @param {Array} messages - 消息历史，格式为 [{role: "user", content: "Hello"}] * @returns {Promise<string>} - 返回 AI 的回复内容 */ export async function chatCompletion(modelId, messages) { try { const completion = await client.chat.completions.create({ model: modelId, messages, }); return completion.choices[0]?.message?.content || ""; } catch (error) { console.error("调用 Taotoken API 出错:", error); throw new Error("AI 服务暂时不可用"); } }

5. 在路由中使用聊天功能

现在您可以在 Express 或其他 Node.js 框架的路由中使用这个服务。以下是一个简单的 Express 路由示例：

import express from "express"; import { chatCompletion } from "./taotokenService.js"; const app = express(); app.use(express.json()); app.post("/api/chat", async (req, res) => { try { const { message, model = "claude-sonnet-4-6" } = req.body; if (!message) { return res.status(400).json({ error: "消息内容不能为空" }); } const reply = await chatCompletion(model, [ { role: "user", content: message } ]); res.json({ reply }); } catch (error) { res.status(500).json({ error: error.message }); } }); const PORT = process.env.PORT || 3000; app.listen(PORT, () => { console.log(`服务已启动，监听端口 ${PORT}`); });

6. 高级配置与最佳实践

对于生产环境，您可能需要考虑以下增强配置：

超时设置：为 API 调用添加合理的超时时间
重试机制：对暂时性错误实现自动重试
速率限制：根据业务需求控制调用频率
日志记录：记录请求和响应用于调试和审计

以下是添加了这些功能的增强版实现：

import OpenAI from "openai"; import dotenv from "dotenv"; import pRetry from "p-retry"; dotenv.config(); const client = new OpenAI({ apiKey: process.env.TAOTOKEN_API_KEY, baseURL: process.env.TAOTOKEN_BASE_URL, timeout: 10000, // 10秒超时 }); export async function enhancedChatCompletion(modelId, messages) { const operation = async () => { try { const completion = await client.chat.completions.create({ model: modelId, messages, }); // 记录成功日志 console.log(`成功调用模型 ${modelId}`, { input: messages, output: completion.choices[0]?.message?.content }); return completion.choices[0]?.message?.content || ""; } catch (error) { // 记录错误日志 console.error(`调用模型 ${modelId} 出错`, { error: error.message, stack: error.stack }); throw error; } }; return pRetry(operation, { retries: 3, onFailedAttempt: error => { console.log(`尝试 ${error.attemptNumber} 失败，还有 ${error.retriesLeft} 次重试`); } }); }