En praktisk guide till stora språkmodeller: från finjustering till RAG och agenter

Shanghai Jiao Tong University (SJTU) har släppt en öppen kurs "Dyk i LLMs" (动手学大模型) — en steg-för-steg-guide för att arbeta med stora språkmodeller: från finjustering och RAG till byggagenter och säkerhet. Materialet är baserat på NLP- och AI-säkerhetsföreläsningar som lärs ut vid School of Computer Science och inkluderar färdiga Jupyter-anteckningsböcker för varje steg - från miljöinställning till avancerade tekniker som RLHF-inriktning och steganografi i generation.

Vad finns i kursen

Kursen är uppdelad i 11 fristående kapitel, var och en en separat anteckningsbok med kod och förklaringar. Introduktionsmoduler täcker grundläggande infrastruktur: laddar modeller via Hugging Face Transformers, effektiv visning på vLLM, anropar moln LLM API:er. Nästa kommer praktiska block: snabb konstruktion med mallar för chatt, sammanfattning och faktaextraktion; LoRA/QLoRA finjustering av en 4B-modell på konsumenthårdvara; bygga en RAG-pipeline med vektordatabaser (Milvus, Chroma, FAISS) och rerankers; utveckla agenter på LangChain/LangGraph med verktyg, minne och MCP-protokollet.

Avancerade ämnen: säkerhet och dolda funktioner

Dedikerade kapitel täcker ämnen som sällan ses i grundläggande handledning: kunskapsredigering utan omskolning, försvar mot jailbreaks och snabb injektion, vattenstämplar i genererad text, steganografi - inbäddning av osynliga märken i modellutgångar, RLHF-anpassning med PPO. Alla bärbara datorer körs på en enda RTX 4090 (24 GB VRAM) eller i gratis molnmiljöer som AutoDL / CodeWithGPU.

Hur man börjar

GitHub-förråd:Lordog/dyka-i-llms(50k+ stjärnor). Klona, ​​välj ett kapitel av intresse och kör anteckningsbokens celler i ordning. För finjustering och RAG-kapitel behöver du en GPU — README-länkarna till färdiga Docker-bilder och instruktioner för att hyra billiga instanser. Kursen är helt gratis, Apache-2.0 licensierad, och PR med korrigeringar och nya ämnen är välkomna.

Källa:GitHub — "动手学大模型"-serien