Praktični vodič za velike jezične modele: od finog podešavanja do RAG-a i agenata
Šangajsko sveučilište Jiao Tong (SJTU) objavilo je otvoreni tečaj "Zaronite u LLM" (动手学大模型) — vodič korak po korak za rad s velikim jezičnim modelima: od finog podešavanja i RAG-a do izgradnje agenata i sigurnosti. Materijal se temelji na predavanjima o sigurnosti NLP-a i umjetne inteligencije koja se predaju na Fakultetu računalnih znanosti i uključuje Jupyter prijenosna računala spremna za rad za svaku fazu — od postavljanja okruženja do naprednih tehnika poput RLHF poravnanja i steganografije u generiranju.
Što je unutar tečaja
Tečaj je podijeljen u 11 neovisnih poglavlja, a svako ima zasebnu bilježnicu s šifrom i objašnjenjima. Uvodni moduli pokrivaju osnovnu infrastrukturu: učitavanje modela putem Hugging Face Transformers, učinkovito posluživanje na vLLM-u, pozivanje Cloud LLM API-ja. Slijede praktični blokovi: brzi inženjering s predlošcima za chat, sažimanje i izdvajanje činjenica; LoRA/QLoRA fino podešavanje 4B modela na potrošačkom hardveru; izgradnja RAG cjevovoda s vektorskim bazama podataka (Milvus, Chroma, FAISS) i rerankerima; razvoj agenata na LangChain/LangGraph s alatima, memorijom i MCP protokolom.
Napredne teme: sigurnost i skrivene mogućnosti
Namjenska poglavlja pokrivaju teme koje se rijetko viđaju u osnovnim tutorijalima: uređivanje znanja bez ponovne obuke, obrana od jailbreaka i brzog ubacivanja, vodeni žigovi u generiranom tekstu, steganografija — ugrađivanje nevidljivih oznaka u izlaze modela, RLHF usklađivanje s PPO. Sva prijenosna računala rade na jednom RTX 4090 (24 GB VRAM) ili u besplatnim okruženjima oblaka kao što je AutoDL / CodeWithGPU.
Kako započeti
GitHub spremište:Lordog/dive-into-llms(50k+ zvjezdica). Klonirajte, odaberite poglavlje koje vas zanima i redom pokrenite ćelije bilježnice. Za fino podešavanje i RAG poglavlja trebat će vam GPU — README povezuje gotove Docker slike i upute za iznajmljivanje jeftinih instanci. Tečaj je potpuno besplatan, Apache-2.0 licenciran, a PR-ovi s popravcima i novim temama su dobrodošli.
Izvor:GitHub — serija "动手学大模型".
