Un ghid practic pentru modele mari de limbaj: de la reglaj fin la RAG și agenți

Universitatea Jiao Tong din Shanghai (SJTU) a lansat un curs deschis „Dive into LLMs” (动手学大模型) – un ghid pas cu pas pentru lucrul cu modele de limbaj mari: de la reglaj fin și RAG la agenți de construcție și siguranță. Materialul se bazează pe cursuri de securitate NLP și AI predate la School of Computer Science și include notebook-uri Jupyter gata de rulat pentru fiecare etapă - de la configurarea mediului până la tehnici avansate precum alinierea RLHF și steganografia în generație.

Ce este în interiorul cursului

Cursul este împărțit în 11 capitole independente, fiecare un caiet separat cu cod și explicații. Modulele introductive acoperă infrastructura de bază: încărcarea modelelor prin Hugging Face Transformers, servirea eficientă pe vLLM, apelarea API-urilor LLM în cloud. Urmează blocurile practice: inginerie promptă cu șabloane pentru chat, rezumat și extragerea faptelor; Reglarea fină LoRA/QLoRA a unui model 4B pe hardware de consum; construirea unei conducte RAG cu baze de date vectoriale (Milvus, Chroma, FAISS) și rerankere; dezvoltarea agenților pe LangChain/LangGraph cu instrumente, memorie și protocolul MCP.

Subiecte avansate: siguranță și capabilități ascunse

Capitolele dedicate acoperă subiecte rar întâlnite în tutorialele de bază: editarea cunoștințelor fără recalificare, apărare împotriva jailbreak-urilor și a injectării prompte, filigrane în textul generat, steganografie - încorporarea de semne invizibile în ieșirile modelului, alinierea RLHF cu PPO. Toate notebook-urile rulează pe un singur RTX 4090 (24 GB VRAM) sau în medii cloud gratuite precum AutoDL / CodeWithGPU.

Cum să încep

Depozitul GitHub:Lordog/dive-in-llms(50.000 + stele). Clonează, alege un capitol de interes și rulează celulele blocnotesului în ordine. Pentru reglajul fin și capitolele RAG, veți avea nevoie de un GPU — link-urile README oferă imagini Docker gata făcute și instrucțiuni pentru închirierea instanțelor ieftine. Cursul este complet gratuit, cu licență Apache-2.0, iar PR-urile cu remedieri și subiecte noi sunt binevenite.

Sursă:GitHub — seria „动手学大模型”.