Praktický průvodce velkými jazykovými modely: od jemného ladění po RAG a agenty

Univerzita Shanghai Jiao Tong (SJTU) vydala otevřený kurz „Ponořte se do LLM“ (动手学大模型) — krok za krokem, jak pracovat s velkými jazykovými modely: od jemného ladění a RAG po stavební agenty a bezpečnost. Materiál je založen na přednáškách o bezpečnosti NLP a AI vyučovaných na School of Computer Science a zahrnuje připravené notebooky Jupyter pro každou fázi – od nastavení prostředí až po pokročilé techniky, jako je generování RLHF zarovnání a steganografie.

Co je uvnitř kurzu

Kurz je rozdělen do 11 samostatných kapitol, z nichž každá je samostatným zápisníkem s kódem a vysvětlivkami. Úvodní moduly pokrývají základní infrastrukturu: načítání modelů přes Hugging Face Transformers, efektivní obsluhu na vLLM, volání cloudových LLM API. Následují praktické bloky: rychlé inženýrství se šablonami pro chat, sumarizaci a extrakci faktů; Doladění LoRA/QLoRA modelu 4B na spotřebním hardwaru; vybudování RAG pipeline s vektorovými databázemi (Milvus, Chroma, FAISS) a rerankery; vývoj agentů na LangChain/LangGraph s nástroji, pamětí a protokolem MCP.

Pokročilá témata: bezpečnost a skryté schopnosti

Vyhrazené kapitoly pokrývají témata, která se v základních výukových programech zřídka vyskytují: editace znalostí bez přeškolování, obrana proti útěkům z vězení a rychlému vkládání, vodoznaky v generovaném textu, steganografie — vkládání neviditelných značek do výstupů modelu, zarovnání RLHF s PPO. Všechny notebooky běží na jediném RTX 4090 (24 GB VRAM) nebo v bezplatných cloudových prostředích, jako je AutoDL / CodeWithGPU.

Jak začít

Úložiště GitHub:Lordog/dive-into-llms(50 tisíc hvězd a více). Klonujte, vyberte kapitolu, která vás zajímá, a spusťte buňky notebooku v pořadí. Pro doladění a RAG kapitoly budete potřebovat GPU – README odkazuje na hotové obrázky Dockeru a pokyny k pronájmu levných instancí. Kurz je zcela zdarma, s licencí Apache-2.0 a PR s opravami a novými tématy jsou vítány.

Zdroj:GitHub — série "动手学大模型".