Web AI Toolkit: Hat neurális hálózat közvetlenül a böngészőben – ingyenes

Általában a „neurális hálózat futtatása” azt jelenti, hogy feliratkozunk egy kulcsért, átadunk egy kártyát, és megvárjuk, amíg a fájlok eljutnak valaki más szerverére. A AI Toolkit oldal fordítva is működik: hat kész mesterséges intelligencia funkció kerül kiszámításra közvetlenül a böngészőben, egyetlen bájt sem hagyja el dokumentumait, fényképeit vagy felvételeit, és semmi sem kerül felszámolásra. Ez a nyílt web-ai-toolkit könyvtár az MIT licenc alatt – élő példák oldalaként adjuk otthont, ahol minden funkciót tesztelhet saját képén vagy szövegén, majd a kész kódot beviheti a projektbe.

Hogyan működik

A motor a modern webes számítási stackre épül: hardveres gyorsítás WebGPU-n és WebNN-n keresztül, párhuzamos számítás a WebAssembly SIMD-n keresztül, és natív böngésző AI API-k. Ha a WebGPU nem érhető el az eszközön, a könyvtár automatikusan visszaáll az optimalizált WASM-re egy közönséges CPU-n – így minden számítógépen fut, csak játékhardveren gyorsabb. A modellsúlyok egyszer letöltődnek a böngészőbe és gyorsítótárazásra kerülnek: az első betöltés után a funkciók offline állapotban is működnek.

Hat funkció egy ablakban

• OCR: nyomtatott és kézzel írt szöveg felismerése képről vagy képernyőképről — szerződés fényképe, bemutató dia, jegyzetek a tábláról.
• Beszéd szöveggé: hangfelvétel átírása időbélyegekkel, a fájl feltöltése nélkül.
• Összegzés: egy hosszú cikk, jelentés vagy szerződés tömörített változata.
• Szöveg beszédté: beszédszintézis a szövegből magának a böngészőnek a segítségével.
• Képosztályozás: objektumok és kategóriák észlelése a képen megbízhatósági pontszámokkal.
• RAG és keresés: illessze be a dokumentumokat, és tegyen fel egy kérdést – az eszköz megtalálja és megjeleníti a vonatkozó részeket.

Minden funkciót közvetlenül az oldalon tesztelnek: húzzon be egy fájlt, vagy válasszon egy kész mintát, és nyomja meg a "Run AI Processing" gombot – az eredmény szövegként másolható vagy letölthető.

Kód a saját projektedhez

A könyvtár egyetlen paranccsal települ - npm install web-ai-toolkit — és függvényenként importálva: ocr, summarize, transcribeAudioFile, textToSpeech, classifyImage, doRAGSearch. Az oldalon van egy "Kódpélda" fül, kész töredékekkel, így nem kell a semmiből megírni az integrációt.

Hol a fogás

Először is: böngésző és memória. A WebGPU teljes mértékben működik a Chrome-ban és az Edge-ben (és a többiek egyre növekvő listájában), és az első modellletöltés időt és gyorsítótárat igényel. Másodszor: ezek kompakt helyi modellek, nem óriási felhőszöveggenerátorok – a minőség ott van, ahol szükség van rá, és ha komoly nyelvi elemzésre van szükség, az oldal teljes körű modelleket kínál. Harmadszor: a szövegfelolvasó a böngésző beépített szintézisén alapul, így a hang a rendszertől függ, nem pedig a hálózati modelltől.

Miért számít ez a való életben

Szöveg kihúzása a szkennelésből, mielőtt elküldené az ügyvédnek, egy órán át tartó hívás pontokra bontása a felvétel elküldése nélkül, hangfelvétel készítése, száz kép osztályozása vagy a megfelelő záradék megtalálása egy halom saját dokumentumban – ezek tipikus feladatok, amelyek korábban felhőszolgáltatást és fizetős tokeneket igényeltek. Itt ugyanaz a forgatókönyv zárul be regisztráció, kártya nélkül és anélkül, hogy bárkinek elküldené az adatait.

Próbáld ki: a Web AI Toolkit (ingyenes) az oldalon – és mellette a többi ingyenes eszköz listája, a weboldal-összefoglalótól a webkamerás mozgásrögzítésig.