En praktisk guide til store språkmodeller: fra finjustering til RAG og agenter

Shanghai Jiao Tong University (SJTU) har gitt ut et åpent kurs «Dive into LLMs» (动手学大模型) — en trinn-for-steg-veiledning for å jobbe med store språkmodeller: fra finjustering og RAG til byggeagenter og sikkerhet. Materialet er basert på NLP- og AI-sikkerhetsforelesninger undervist ved School of Computer Science og inkluderer klare Jupyter-notatbøker for hvert trinn – fra miljøoppsett til avanserte teknikker som RLHF-justering og steganografi i generering.

Hva er inne i kurset

Kurset er delt inn i 11 uavhengige kapitler, hver en egen notatbok med kode og forklaringer. Introduksjonsmoduler dekker grunnleggende infrastruktur: lasting av modeller via Hugging Face Transformers, effektiv visning på vLLM, kaller cloud LLM APIer. Neste kommer praktiske blokker: rask utvikling med maler for chat, oppsummering og faktautvinning; LoRA/QLoRA finjustering av en 4B-modell på forbrukermaskinvare; bygge en RAG-pipeline med vektordatabaser (Milvus, Chroma, FAISS) og rerankere; utvikle agenter på LangChain/LangGraph med verktøy, minne og MCP-protokollen.

Avanserte emner: sikkerhet og skjulte funksjoner

Dedikerte kapitler dekker emner som sjelden sees i grunnleggende opplæringsprogrammer: kunnskapsredigering uten omskolering, forsvar mot jailbreaks og umiddelbar injeksjon, vannmerker i generert tekst, steganografi – innebygging av usynlige merker i modellutganger, RLHF-justering med PPO. Alle bærbare datamaskiner kjører på en enkelt RTX 4090 (24 GB VRAM) eller i gratis skymiljøer som AutoDL / CodeWithGPU.

Hvordan starte

GitHub-depot:Lordog/dykk-i-llms(50k+ stjerner). Klon, velg et kapittel av interesse og kjør notisbokcellene i rekkefølge. For finjustering og RAG-kapitler trenger du en GPU - README-lenkene til ferdige Docker-bilder og instruksjoner for leie av billige forekomster. Kurset er helt gratis, Apache-2.0-lisensiert, og PR-er med rettelser og nye emner er velkomne.

Kilde:GitHub - "动手学大模型"-serien