13. 长耗时模型的轮询支持


功能介绍

部分生成类模型(如图像生成、视频生成)从发起请求到返回结果往往需要较长时间,若按常规同步方式等待,很容易触发超时而失败。v1.15.0 为工作流引入了轮询(polling)机制:对这类长耗时的生成模型,节点会耐心等待最终结果,通过轮询持续查询任务状态,直到结果就绪,而不是中途超时中断。

有了这一机制,就可以放心地把图像、视频等"慢模型"接进工作流,让它们作为流程中的正式一环参与自动化,而不必担心因响应太慢导致整条工作流失败。

工作方式

  • 异步等待结果:节点发起生成请求后,不再一次性同步等待,而是周期性轮询任务状态。
  • 就绪后继续:任务完成、结果返回后,节点才把产物向下游传递,工作流继续执行。
  • 避免超时中断:相比传统同步调用,轮询让长耗时任务不会因为等待过久而被判定为失败。

提示:该机制主要面向图像 / 视频生成等本身就耗时较长的生成模型。对普通文本类模型的快速响应,无需依赖轮询。

使用技巧

  • 在工作流中编排图像 / 视频生成节点时,得益于轮询机制,可将其与后续节点(如把生成结果通过 HTTP 请求推送、或交给直接回复节点展示)串联,构建端到端的多模态生成流程。
  • 长耗时任务通常伴随较高的资源与时间成本,建议结合第三部分 LLM 节点的「错误处理」思路,为这类节点配置合理的兜底策略(如失败改走异常分支或返回默认值),进一步提升流程健壮性。
  • 若一条工作流中包含多个长耗时生成节点,注意评估整体运行时长,必要时借助「迭代」节点的并行模式或拆分流程来控制总耗时。

示例

示例一:文案配图工作流

流程:
开始(输入:文章主题)
    → LLM(生成配图提示词)
    → 图像生成模型(长耗时,轮询等待出图)
    → 直接回复 / 输出(交付文案与配图)
效果:把"慢模型"稳定接入自动化流程,不会因出图耗时而超时失败

示例二:短视频批量生成

流程:
开始(输入:脚本列表)
    → 迭代(对每条脚本)
        → 视频生成模型(长耗时,轮询等待结果)
    → 变量聚合器(收集所有视频)
    → 输出
效果:批量调用视频生成模型,逐条稳妥产出

评论

0
还没有评论,来写第一条吧