← Все статьи

Практическое руководство по большим языковым моделям: от дообучения до RAG и агентов

Практическое руководство по большим языковым моделям: от дообучения до RAG и агентов

Шанхайский 交通大学 (SJTU) выпустил открытый курс «动手学大模型» (Dive into LLMs) — пошаговое руководство по работе с большими языковыми моделями: от дообучения (fine-tuning) и RAG до построения агентов и безопасности. Материал основан на лекциях по NLP и безопасности ИИ, которые читают на факультете информатики, и включает готовые Jupyter-ноутбуки для каждого этапа — от настройки окружения до продвинутых техник вроде RLHF-выравнивания и скрытой передачи данных (стеганографии) в генерации.

Что внутри курса

Курс разбит на 11 независимых глав, каждая — отдельный ноутбук с кодом и пояснениями. Стартовые модули покрывают базовую инфраструктуру: загрузка моделей через Hugging Face Transformers, эффективное обслуживание на vLLM, вызов API облачных LLM. Далее идут практические блоки: промпт-инжиниринг с шаблонами для чата, суммаризации и извлечения фактов; LoRA/QLoRA-дообучение 4B-модели на потребительском железе; построение RAG-конвейера с векторными базами (Milvus, Chroma, FAISS) и реранкерами; разработка агентов на LangChain/LangGraph с инструментами, памятью и MCP-протоколом.

Практическое руководство по большим языковым моделям: от дообучения до RAG и агентов

Продвинутые темы: безопасность и скрытые возможности

Отдельные главы посвящены темам, которые редко встречаются в базовых туториалах: редактирование знаний модели без переобучения (knowledge editing), защита от джейлбрейков и атак подсказками, водяные знаки в генерируемом тексте, стеганография — встраивание невидимых меток в ответы модели, RLHF-выравнивание на PPO. Все ноутбуки запускаются на одной RTX 4090 (24 ГБ VRAM) или в бесплатных облачных средах вроде AutoDL / CodeWithGPU.

Как начать

Репозиторий на GitHub: Lordog/dive-into-llms (50k+ звёзд). Клонируйте, выберите главу по интересу и запускайте ячейки ноутбука по порядку. Для глав про дообучение и RAG понадобится GPU — в README есть ссылки на готовые Docker-образы и инструкции по аренде дешёвых инстансов. Курс полностью бесплатен, лицензия Apache-2.0, приветствуются PR с исправлениями и новыми темами.

Источник: GitHub — «动手学大模型» series