← Todos os artigos

Um guia prático para grandes modelos de linguagem: do pré-treinamento ao RAG e aos agentes

Um guia prático para grandes modelos de linguagem: do pré-treinamento ao RAG e aos agentes

Shanghai 交通大学 (SJTU) lançou o curso aberto “动手学大模型” (Dive into LLMs) - um guia passo a passo para trabalhar com grandes modelos de linguagem: desde o ajuste fino e RAG até a construção de agentes e segurança. O material é baseado em palestras sobre PNL e segurança de IA, ministradas na Faculdade de Ciência da Computação, e inclui notebooks Jupyter prontos para cada etapa – desde a configuração do ambiente até técnicas avançadas como alinhamento RLHF e transmissão oculta de dados (esteganografia) na geração.

O que há dentro do curso

O curso é dividido em 11 capítulos independentes, cada um sendo um caderno separado com código e explicações. Os módulos iniciais cobrem a infraestrutura básica: carregamento de modelos via Hugging Face Transformers, serviço eficiente em vLLM, chamada de API nuvem LLM. Em seguida vêm os blocos práticos: engenharia imediata com templates para chat, sumarização e extração de fatos; Treinamento adicional LoRA/QLoRA do modelo 4B em hardware de consumo; construção de um pipeline RAG com bancos de dados vetoriais (Milvus, Chroma, FAISS) e reclassificadores; desenvolvimento de agentes em LangChain/LangGraph com ferramentas, memória e protocolo MCP.

Um guia prático para grandes modelos de linguagem: do pré-treinamento ao RAG e aos agentes

Tópicos Avançados: Segurança e Recursos Ocultos

Capítulos separados são dedicados a tópicos que raramente são encontrados em tutoriais básicos: edição de conhecimento de um modelo sem reciclagem, proteção contra jailbreak e ataques de dicas, marcas d'água no texto gerado, esteganografia - incorporação de marcas invisíveis nas respostas do modelo, alinhamento RLHF no PPO. Todos os laptops funcionam em um único RTX 4090 (24 GB VRAM) ou em ambientes de nuvem gratuitos como AutoDL/CodeWithGPU.

Como começar

Repositório no GitHub: Lordog/dive-into-llms (50k+ estrelas). Clone, selecione um capítulo de interesse e execute as células do notebook em ordem. Para os capítulos sobre treinamento adicional e RAG você precisará de uma GPU - o README contém links para imagens Docker prontas e instruções para alugar instâncias baratas. O curso é totalmente gratuito, licença Apache-2.0, PR com correções e novos tópicos são bem-vindos.

Fonte: GitHub — série “动手学大模型”