대규모 언어 모델에 대한 실무 가이드: 미세 조정부터 RAG 및 에이전트까지
Shanghai Jiao Tong University(SJTU)는 미세 조정 및 RAG부터 에이전트 구축 및 안전에 이르기까지 대규모 언어 모델 작업에 대한 단계별 가이드인 "LLM 살펴보기"(动手文大模型) 공개 과정을 출시했습니다. 이 자료는 컴퓨터 과학 대학에서 진행되는 NLP 및 AI 보안 강의를 기반으로 하며 환경 설정부터 RLHF 정렬 및 스테가노그래피 생성과 같은 고급 기술에 이르기까지 각 단계에 대해 즉시 실행 가능한 Jupyter 노트북을 포함합니다.
코스 안에는 무엇이 있나요?
이 과정은 11개의 독립적인 장으로 나누어져 있으며 각 장에는 코드와 설명이 포함된 별도의 노트북이 있습니다. 입문 모듈에서는 Hugging Face Transformers를 통한 모델 로드, vLLM에서의 효율적인 서비스 제공, 클라우드 LLM API 호출 등 기본 인프라를 다룹니다. 다음은 실용적인 블록입니다. 채팅, 요약 및 사실 추출을 위한 템플릿을 사용한 신속한 엔지니어링; 소비자 하드웨어에서 4B 모델의 LoRA/QLoRA 미세 조정 벡터 데이터베이스(Milvus, Chroma, FAISS) 및 reranker를 사용하여 RAG 파이프라인 구축 도구, 메모리 및 MCP 프로토콜을 사용하여 LangChain/LangGraph에서 에이전트를 개발합니다.
고급 주제: 안전 및 숨겨진 기능
전용 장에서는 재교육 없는 지식 편집, 탈옥 방지 및 신속한 삽입, 생성된 텍스트의 워터마크, 스테가노그래피 — 모델 출력에 보이지 않는 표시 삽입, PPO와 RLHF 정렬 등 기본 튜토리얼에서 거의 볼 수 없는 주제를 다룹니다. 모든 노트북은 단일 RTX 4090(24GB VRAM) 또는 AutoDL/CodeWithGPU와 같은 무료 클라우드 환경에서 실행됩니다.
시작하는 방법
GitHub 저장소:Lordog/dive-into-llms(별 50,000개 이상). 복제하고, 관심 있는 장을 선택하고, 노트북 셀을 순서대로 실행하세요. 미세 조정 및 RAG 장의 경우 GPU가 필요합니다. README는 기성 Docker 이미지에 대한 링크와 저렴한 인스턴스 임대 지침을 제공합니다. 이 과정은 완전 무료이며 Apache-2.0 라이센스가 있으며 수정 사항과 새로운 주제가 포함된 PR을 환영합니다.
