Un guide pratique des grands modèles de langage : du réglage fin au RAG et aux agents

L'Université Jiao Tong de Shanghai (SJTU) a publié un cours ouvert « Plongez dans les LLM » (动手学大模型) — un guide étape par étape pour travailler avec de grands modèles de langage : du réglage fin et du RAG aux agents de construction et à la sécurité. Le matériel est basé sur des cours de sécurité PNL et IA dispensés à l'École d'informatique et comprend des blocs-notes Jupyter prêts à l'emploi pour chaque étape, de la configuration de l'environnement aux techniques avancées telles que l'alignement RLHF et la stéganographie en génération.

Que contient le cours

Le cours est divisé en 11 chapitres indépendants, chacun étant un cahier séparé avec du code et des explications. Les modules d'introduction couvrent l'infrastructure de base : chargement de modèles via Hugging Face Transformers, service efficace sur vLLM, appel d'API cloud LLM. Viennent ensuite les blocs pratiques : ingénierie rapide avec des modèles pour le chat, la synthèse et l'extraction de faits ; Mise au point LoRA/QLoRA d'un modèle 4B sur du matériel grand public ; construire un pipeline RAG avec des bases de données vectorielles (Milvus, Chroma, FAISS) et des rerankers ; développer des agents sur LangChain/LangGraph avec les outils, la mémoire et le protocole MCP.

Sujets avancés : sécurité et capacités cachées

Des chapitres dédiés couvrent des sujets rarement abordés dans les didacticiels de base : édition des connaissances sans recyclage, défense contre les jailbreaks et l'injection rapide, filigranes dans le texte généré, stéganographie - intégration de marques invisibles dans les sorties du modèle, alignement RLHF avec PPO. Tous les ordinateurs portables fonctionnent sur un seul RTX 4090 (24 Go de VRAM) ou dans des environnements cloud gratuits comme AutoDL/CodeWithGPU.

Comment commencer

Dépôt GitHub :Lordog/plongée dans-llms(50 000+ étoiles). Clonez, choisissez un chapitre qui vous intéresse et exécutez les cellules du bloc-notes dans l'ordre. Pour le réglage fin et les chapitres RAG, vous aurez besoin d'un GPU - les liens README vers des images Docker prêtes à l'emploi et des instructions pour louer des instances bon marché. Le cours est entièrement gratuit, sous licence Apache-2.0 et les PR contenant des correctifs et de nouveaux sujets sont les bienvenus.

Source:GitHub — Série « 动手学大模型 »