Robusztus mesterséges intelligencia munkafolyamat a Node.js-ben BullMQ és PostgreSQL használatával

A robusztus mesterséges intelligencia munkafolyamat architektúrája megköveteli a felelősségek szigorú szétválasztását: az LLM-nek nem szabad állapot- vagy üzleti logikát kezelnie. A Node.js alapú termelésre kész rendszer felépítése magában foglalja a webhookok fogadását hitelesítéssel, az eredeti adatok biztonságos tárolását a PostgreSQL-ben, aszinkron feldolgozást a BullMQ és Redis várólistákon keresztül, és csak ezután hívja meg az OpenAI-t a korlátozott szövegértelmezés érdekében. A neurális hálózat válaszának validálása a Zod segítségével történik, és az adatbázis tárolja a végeredményt, biztosítva az idempotenciát és a duplikációk elleni védelmet.

Egy példa megvalósítása tartalmaz egy Express API-t, amely elfogadja a munkaelemeket, és azonnal visszaadja a HTTP 202 Elfogadott állapotot anélkül, hogy megvárná az AI válaszát. A háttérben a BullMQ dolgozó átveszi a feladatot a Redistől, kivonja a teljes adatokat a PostgreSQL-ből, és promptot generál az OpenAI számára. A modell kategóriával és prioritással adja vissza a JSON-t, amelyet a Zod-séma szigorúan ellenőrzött. Ha a feladat biztonsággal vagy fiókokhoz való hozzáféréssel kapcsolatos, akkor a rendszer kényszeríti a jelző kézi ellenőrzését.

Forrás:DEV közösség