关于dify 工作流的LLM并发顺序执行问题的复盘

首先我们会同时并发使用LLM 并就每个LLM 返回的结果使用代码的方式进行接收处理。但发现有个问题

在并行LLM 之前没啥毛病，但一旦LLM 并行后，我把所有LLM执行后的结果链接到一个代码执行，即将每个LLM产生的结果使用python代码变量方式进行合并。但发现LLM执行每一个所使用的时间不一样，造成并行后，有的LLM并没有执行完毕，进而导致逻辑错误。 下面是我利用chatGPT 检索的 如下图所示：

我们就属于第2种情况。 怎么解决呢？

✅方案 1（最推荐）：【变量聚合 / 逻辑节点】作为“关卡”

┌─ LLM 1 ─┐
输入 ──┤ ├─▶【逻辑 / 变量聚合】─▶ 下游
└─ LLM 2 ─┘

关键点：

• 下游不要直接连 LLM

• 中间加一个：

  • Logic（逻辑节点）

  • 或 Variable Assign（变量赋值）

• 在这个节点里：

  • 同时引用LLM1.output+LLM2.output

  • 只要有一个为空，这个节点就不会完整执行

👉 这个节点天然起到Barrier（屏障）的作用。

✅

方案 2：逻辑判断（显式判断是否都返回）

在 Logic 节点里写判断：

IF llm1_output != "" AND llm2_output != "" THEN 继续 ELSE 不执行

适合你这种「并行模型对比 / 投票 / 代码合并」的场景。

✅ 方案 3（不推荐）：让下游自己处理空值

比如在下游 Prompt 里写：

如果 llm2 为空，请忽略

❌ 问题：

• 不是真正的“等待”

• 顺序不稳定

• 容易出现脏数据

目前我这里强烈推荐方案1 处理起来很nice 很丝滑！