← 所有文章
大语言模型实用指南：从微调到RAG和代理
上海交通大学（SJTU）发布了公开课程“Dive into LLMs”（动手学大模型）——逐步指导如何使用大型语言模型：从微调和RAG到构建智能体和安全性。该材料基于计算机科学学院教授的 NLP 和AI 安全讲座，并包括每个阶段的现成运行的 Jupyter 笔记本 — 从环境设置到 RLHF 对齐和生成隐写术等高级技术。
课程内容
该课程分为 11 个独立的章节，每个章节都有一个单独的笔记本，其中包含代码和解释。介绍性模块涵盖基本基础设施：通过 Hugging Face Transformers 加载模型、在 vLLM 上高效服务、调用云LLM API。接下来是实用块：使用聊天、总结和事实提取模板进行提示工程； LoRA/QLoRA 在消费类硬件上对 4B 模型进行微调；使用向量数据库（Milvus、Chroma、FAISS）和重新排序器构建RAG管道；使用工具、内存和 MCP 协议在 LangChain/LangGraph 上开发代理。
高级主题：安全和隐藏功能
专门的章节涵盖了基础教程中很少见的主题：无需重新训练的知识编辑、防御越狱和提示注入、生成文本中的水印、隐写术——在模型输出中嵌入不可见标记、RLHF 与 PPO 对齐。所有笔记本电脑都在单个 RTX 4090 (24 GB VRAM) 上或在 AutoDL / CodeWithGPU 等免费云环境中运行。
如何开始
GitHub 存储库： Lordog/潜入 llms （50k+ 星星）。克隆，选择感兴趣的章节并按顺序运行笔记本单元。对于微调和 RAG 章节，您需要一个 GPU — 自述文件链接到现成的 Docker 映像和租用廉价实例的说明。该课程完全免费，获得 Apache-2.0 许可，欢迎提出修复和新主题的 PR。