Praktický sprievodca veľkými jazykovými modelmi: od jemného ladenia po RAG a agentov

Univerzita Shanghai Jiao Tong (SJTU) vydala otvorený kurz „Ponorte sa do LLM“ (动手学大模型) — krok za krokom sprievodcu prácou s veľkými jazykovými modelmi: od jemného ladenia a RAG po stavebných agentov a bezpečnosť. Materiál je založený na prednáškach o bezpečnosti NLP a AI vyučovaných na School of Computer Science a zahŕňa notebooky Jupyter pripravené na spustenie pre každú fázu – od nastavenia prostredia až po pokročilé techniky, ako je zarovnanie RLHF a steganografia v generácii.

Čo je v kurze

Kurz je rozdelený do 11 samostatných kapitol, každá je samostatným zápisníkom s kódom a vysvetlivkami. Úvodné moduly pokrývajú základnú infraštruktúru: načítanie modelov cez Hugging Face Transformers, efektívne poskytovanie služieb na vLLM, volanie cloudových LLM API. Nasledujú praktické bloky: rýchle inžinierstvo so šablónami pre chat, sumarizáciu a extrakciu faktov; Doladenie LoRA/QLoRA modelu 4B na spotrebnom hardvéri; budovanie RAG pipeline s vektorovými databázami (Milvus, Chroma, FAISS) a rerankermi; vývoj agentov na LangChain/LangGraph s nástrojmi, pamäťou a protokolom MCP.

Pokročilé témy: bezpečnosť a skryté schopnosti

Vyhradené kapitoly pokrývajú témy, ktoré sa v základných tutoriáloch zriedka vyskytujú: editácia znalostí bez preškolenia, obrana pred útekmi z väzenia a promptným vstrekovaním, vodoznaky vo vygenerovanom texte, steganografia — vkladanie neviditeľných značiek do výstupov modelu, zarovnanie RLHF s PPO. Všetky notebooky bežia na jedinom RTX 4090 (24 GB VRAM) alebo v bezplatných cloudových prostrediach, ako je AutoDL / CodeWithGPU.

Ako začať

Úložisko GitHub:Lordog/dive-into-llms(50 000 a viac hviezdičiek). Klonujte, vyberte kapitolu, ktorá vás zaujíma, a spustite bunky notebooku v poradí. Na jemné doladenie a kapitoly RAG budete potrebovať GPU – súbor README odkazuje na hotové obrázky Docker a pokyny na prenájom lacných inštancií. Kurz je úplne zadarmo, licencovaný Apache-2.0 a PR s opravami a novými témami sú vítané.

Zdroj:GitHub — séria „动手学大模型“.