用 Node.js、BullMQ 和 PostgreSQL 构建可靠的 AI 工作流

可靠的AI工作流架构需要严格的责任分离：大型语言模型（LLM）不应控制状态或业务逻辑。使用Node.js构建生产就绪系统包括接收带有身份验证的Webhook、在PostgreSQL中安全保存初始数据、通过BullMQ和Redis队列进行异步处理，然后才调用OpenAI进行有限的文本解释。神经网络的响应通过Zod进行验证，数据库保存最终结果，确保幂等性并防止重复调用。

实现示例包括一个基于Express的API，它接收任务（work items）并立即返回HTTP 202 Accepted状态，而无需等待AI响应。在后台，BullMQ工作程序从Redis获取任务，从PostgreSQL提取完整数据，并为OpenAI生成提示（prompt）。模型返回一个包含类别和优先级的JSON，Zod模式对其进行严格检查。如果任务涉及安全或账户访问，系统将强制设置需要人工审核的标志。

来源: DEV Community