Una guía práctica para grandes modelos de lenguaje: desde el ajuste hasta RAG y agentes
La Universidad Jiao Tong de Shanghai (SJTU) ha publicado un curso abierto "Dive into LLMs" (动手学大模型), una guía paso a paso para trabajar con modelos de lenguaje grandes: desde el ajuste y RAG hasta los agentes de construcción y la seguridad. El material se basa en conferencias de seguridad de PNL e IA impartidas en la Facultad de Ciencias de la Computación e incluye cuadernos Jupyter listos para ejecutar para cada etapa, desde la configuración del entorno hasta técnicas avanzadas como la alineación RLHF y la esteganografía en generación.
¿Qué hay dentro del curso?
El curso se divide en 11 capítulos independientes, cada uno de los cuales es un cuaderno independiente con código y explicaciones. Los módulos introductorios cubren la infraestructura básica: carga de modelos a través de Hugging Face Transformers, servicio eficiente en vLLM y llamadas a API de LLM en la nube. Luego vienen los bloques prácticos: ingeniería rápida con plantillas para chat, resumen y extracción de hechos; Ajuste LoRA/QLoRA de un modelo 4B en hardware de consumo; construir un canal RAG con bases de datos vectoriales (Milvus, Chroma, FAISS) y rerankers; desarrollar agentes en LangChain/LangGraph con herramientas, memoria y el protocolo MCP.
Temas avanzados: seguridad y capacidades ocultas
Los capítulos dedicados cubren temas que rara vez se ven en los tutoriales básicos: edición de conocimientos sin reentrenamiento, defensa contra jailbreaks e inyección rápida, marcas de agua en el texto generado, esteganografía (incrustación de marcas invisibles en los resultados del modelo), alineación de RLHF con PPO. Todos los portátiles funcionan con un único RTX 4090 (24 GB de VRAM) o en entornos de nube gratuitos como AutoDL/CodeWithGPU.
como empezar
Repositorio de GitHub:Lordog/sumérjase en películas(Más de 50.000 estrellas). Clona, elige un capítulo de interés y ejecuta las celdas del cuaderno en orden. Para realizar ajustes y capítulos de RAG, necesitará una GPU: el archivo README enlaza a imágenes de Docker listas para usar e instrucciones para alquilar instancias económicas. El curso es completamente gratuito, tiene licencia Apache-2.0 y se aceptan relaciones públicas con correcciones y temas nuevos.
Fuente:GitHub - Serie "动手学大模型"
