Una guida pratica ai grandi modelli linguistici: dal fine-tuning al RAG e agli agenti
La Shanghai Jiao Tong University (SJTU) ha pubblicato un corso aperto "Dive into LLMs" (动手学大模型) — una guida passo passo per lavorare con modelli linguistici di grandi dimensioni: dalla messa a punto e RAG agli agenti di costruzione e alla sicurezza. Il materiale si basa su lezioni di PNL e sicurezza AI tenute presso la School of Computer Science e include notebook Jupyter pronti per l'uso per ogni fase, dalla configurazione dell'ambiente alle tecniche avanzate come l'allineamento RLHF e la steganografia in generazione.
Cosa c'è dentro il corso
Il corso è suddiviso in 11 capitoli indipendenti, ciascuno un quaderno separato con codice e spiegazioni. I moduli introduttivi coprono l'infrastruttura di base: caricamento di modelli tramite Hugging Face Transformers, servizio efficiente su vLLM, chiamata di API LLM cloud. Seguono i blocchi pratici: prompt engineering con modelli per chat, riepilogo ed estrazione di fatti; Messa a punto LoRA/QLoRA di un modello 4B su hardware consumer; costruzione di una pipeline RAG con database vettoriali (Milvus, Chroma, FAIISS) e reranker; sviluppo di agenti su LangChain/LangGraph con strumenti, memoria e protocollo MCP.
Argomenti avanzati: sicurezza e capacità nascoste
I capitoli dedicati trattano argomenti raramente visti nei tutorial di base: modifica della conoscenza senza riqualificazione, difesa contro jailbreak e iniezione rapida, filigrane nel testo generato, steganografia: incorporamento di segni invisibili negli output del modello, allineamento RLHF con PPO. Tutti i notebook funzionano su una singola RTX 4090 (24 GB VRAM) o in ambienti cloud gratuiti come AutoDL / CodeWithGPU.
Come iniziare
Repository GitHub:Lordog/dive-into-llms(50k+ stelle). Clona, scegli un capitolo di interesse ed esegui le celle del taccuino in ordine. Per la messa a punto e i capitoli RAG avrai bisogno di una GPU: il README si collega a immagini Docker già pronte e istruzioni per noleggiare istanze economiche. Il corso è completamente gratuito, concesso in licenza Apache-2.0 e i PR con correzioni e nuovi argomenti sono i benvenuti.
Fonte:GitHub - serie "动手学大模型".
