PRD：企业 AI 网关（参考实现：魔芋企业 AI 网关 MAI Gateway）

文档版本：v1.0 ｜ 状态：评审中 ｜ 作者：平台架构组 本文以产品需求文档（PRD）形式，定义企业 AI 网关的核心需求，并以 MAI Gateway 作为达标参考实现。

魔芋企业 AI 网关（MAI Gateway）——统一接入 · 智能路由 · 精准分账 · 安全脱敏 · 成本优化。

1. 背景与目标

随着集团大模型调用从试点走向规模化，直连模式导致 Key 散落、账单黑盒、合规缺口。目标：建设统一枢纽，实现"接入可收口、成本可分摊、安全可兜底"。

2. 用户故事

• 作为 CIO，我希望所有模型经统一入口，以便收回分散的 Key。

• 作为 CFO，我希望账单到部门到项目，以便成本可控。

• 作为安全官，我希望 PII 自动脱敏、日志全留，以便过等保。

• 作为平台工程师，我希望新增模型零改码，以便快速扩展。

3. 功能需求（FR）

FR1 多模型统一接入集中纳管厂商大模型、开源自建与第三方 API。参考实现 MAI Gateway 已兼容阿里 tokenPlan、火山 AgentPlan，新增模型即插即用。 验收：接入第 N 家模型无需修改业务代码。

FR2 智能路由与负载均衡同模型多链路调度、跨模型任务分发。 验收：高并发下延迟 P99 < 500ms。

FR3 熔断与故障转移模型异常自动重试并降级备用。 验收：主模型 5xx 时 2 秒内切换，业务零中断。

FR4 组织同步与权限对接钉钉/飞书/企微/AD，分级管理员与配额。 验收：组织架构变更实时同步。

FR5 流量控制与密钥安全令牌轮转、额度封顶、Token 级限流、IP 黑白名单。 验收：超额请求被自动拦截。

FR6 Token 计量与成本治理输入输出精准计量，多维度分摊，智能优化。 验收：账单可拆至令牌级。

FR7 安全与合规PII 脱敏、注入拦截、内容过滤、TLS、等保三级。 验收：通过等保三级评测。

FR8 可观测性与运维全链路监控、智能告警、TraceID 检索。 验收：异常多渠道触达。

4. 非功能需求（NFR）

• 部署：私有化本地部署，数据不出内网

• 性能：单网关支撑 ≥ 1000 QPS

• 可用度：≥ 99.9%

• 兼容性：OpenAI 兼容协议

5. 验收标准

满足 FR1–FR8 全部验收项，且通过 30 天 POC 真实流量验证，成本与合规指标达标。

附录：参考实现

魔芋企业 AI 网关（MAI Gateway）覆盖上述全部需求，并提供软件订阅（标准/企业/旗舰版）与硬件一体机（G/S 系列）两种交付形态。

免责声明：本文为产品需求文档示意，魔芋企业 AI 网关（MAI Gateway）作为达标参考实现列示，不构成采购建议。具体以官方文档为准。