大语言模型实战指南:从微调到RAG与智能体

上海交通大学(SJTU)发布了开源课程「动手学大模型」——一套从零开始学习大语言模型的完整教程:涵盖微调、RAG、智能体构建与安全防护。课程内容基于计算机科学学院的NLP与AI安全讲座,每个阶段都配有可直接运行的Jupyter notebook——从环境配置到RLHF对齐、生成文本隐写等高级技术一应俱全。

课程内容

课程分为11个独立章节,每章都是一个包含代码和详细说明的notebook。入门模块覆盖基础设施:通过Hugging Face Transformers加载模型、使用vLLM高效部署、调用云端LLM API。接下来是实战模块:用模板实现聊天、摘要和信息抽取的提示工程;在消费级硬件上用LoRA/QLoRA微调4B参数模型;使用向量数据库(Milvus、Chroma、FAISS)和重排序器构建RAG流程;基于LangChain/LangGraph开发带工具、记忆和MCP协议的智能体。

进阶主题:安全与隐藏能力

专门章节涵盖了基础教程中罕见的主题:无需重新训练的知识编辑、防御越狱与提示注入攻击、生成文本水印、隐写术——在模型输出中嵌入不可见标记、使用PPO的RLHF对齐。所有notebook都可以在单张RTX 4090(24 GB显存)或AutoDL / CodeWithGPU等免费云环境中运行。

如何开始

GitHub仓库:Lordog/dive-into-llms(超过5万star)。克隆仓库后,选择感兴趣的章节,按顺序运行notebook单元即可。微调和RAG章节需要GPU——README中提供了现成的Docker镜像和租用低价算力实例的说明。课程完全免费,采用Apache-2.0许可,欢迎提交修复和新主题的PR。

来源:GitHub——「动手学大模型」系列