Robustan AI tijek rada na Node.js koristeći BullMQ i PostgreSQL

Arhitektura robusnog tijeka rada umjetne inteligencije zahtijeva strogo razdvajanje odgovornosti: LLM ne bi trebao upravljati stanjem ili poslovnom logikom. Izgradnja sustava spremnog za proizvodnju na Node.js uključuje primanje webhookova s ​​autentifikacijom, sigurno pohranjivanje izvornih podataka u PostgreSQL, asinkronu obradu kroz redove čekanja BullMQ i Redis, a tek onda pozivanje OpenAI-ja za ograničenu interpretaciju teksta. Validacija odgovora neuronske mreže provodi se pomoću Zoda, a baza podataka pohranjuje konačni rezultat, osiguravajući idempotencija i zaštitu od duplikata.

Primjer implementacije uključuje Express API koji prihvaća radne stavke i trenutačno vraća status HTTP 202 Prihvaćeno bez čekanja odgovora AI-ja. U pozadini, radnik BullMQ preuzima zadatak od Redisa, izvlači kompletne podatke iz PostgreSQL-a i generira upit za OpenAI. Model vraća JSON s kategorijom i prioritetom, koji se strogo provjerava Zod shemom. Ako je zadatak povezan sa sigurnošću ili pristupom računima, sustav prisiljava oznaku da zahtijeva ručnu provjeru.

Izvor:DEV zajednica