Um guia prático para grandes modelos de linguagem: do ajuste fino ao RAG e aos agentes
A Shanghai Jiao Tong University (SJTU) lançou um curso aberto "Dive into LLMs" (动手学大模型) - um guia passo a passo para trabalhar com grandes modelos de linguagem: desde o ajuste fino e RAG até agentes de construção e segurança. O material é baseado em palestras de PNL e segurança AI ministradas na Escola de Ciência da Computação e inclui notebooks Jupyter prontos para execução para cada estágio - desde a configuração do ambiente até técnicas avançadas como alinhamento RLHF e esteganografia na geração.
O que há dentro do curso
O curso é dividido em 11 capítulos independentes, cada um sendo um caderno separado com código e explicações. Os módulos introdutórios cobrem a infraestrutura básica: carregamento de modelos por meio de Hugging Face Transformers, serviço eficiente em vLLM, chamada de APIs de nuvem LLM. Em seguida vêm os blocos práticos: engenharia imediata com templates para chat, resumo e extração de fatos; LoRA/QLoRA ajuste fino de um modelo 4B em hardware de consumo; construção de um pipeline RAG com bancos de dados vetoriais (Milvus, Chroma, FAISS) e reclassificadores; desenvolvendo agentes em LangChain/LangGraph com ferramentas, memória e protocolo MCP.
Tópicos avançados: segurança e recursos ocultos
Capítulos dedicados cobrem tópicos raramente vistos em tutoriais básicos: edição de conhecimento sem reciclagem, defesa contra jailbreaks e injeção imediata, marcas d’água em texto gerado, esteganografia – incorporação de marcas invisíveis nas saídas do modelo, alinhamento RLHF com PPO. Todos os notebooks rodam em um único RTX 4090 (24 GB VRAM) ou em ambientes de nuvem gratuitos como AutoDL/CodeWithGPU.
Como começar
Repositório GitHub: Lordog/dive-into-llms (50k+ estrelas). Clone, escolha um capítulo de interesse e execute as células do notebook em ordem. Para ajustes finos e capítulos RAG, você precisará de uma GPU — o README contém links para imagens Docker prontas e instruções para alugar instâncias baratas. O curso é totalmente gratuito, licenciado pelo Apache-2.0 e PRs com correções e novos tópicos são bem-vindos.
Fonte: GitHub — série "动手学大模型"
