Panduan praktis untuk model bahasa besar: mulai dari penyesuaian hingga RAG dan agen
Universitas Shanghai Jiao Tong (SJTU) telah merilis kursus terbuka "Menyelami LLM" (动手学大模型) — panduan langkah demi langkah untuk bekerja dengan model bahasa besar: mulai dari penyesuaian dan RAG hingga agen bangunan dan keselamatan. Materi ini didasarkan pada kuliah keamanan NLP dan AI yang diajarkan di Fakultas Ilmu Komputer dan mencakup notebook Jupyter yang siap dijalankan untuk setiap tahap — mulai dari pengaturan lingkungan hingga teknik tingkat lanjut seperti penyelarasan RLHF dan steganografi dalam pembuatannya.
Apa yang ada di dalam kursus
Kursus ini dibagi menjadi 11 bab independen, masing-masing merupakan buku catatan terpisah dengan kode dan penjelasan. Modul pengantar mencakup infrastruktur dasar: memuat model melalui Hugging Face Transformers, penyajian yang efisien di vLLM, memanggil cloud LLM API. Berikutnya adalah blok praktis: rekayasa cepat dengan templat untuk obrolan, ringkasan, dan ekstraksi fakta; Penyempurnaan LoRA/QLoRA model 4B pada perangkat keras konsumen; membangun saluran RAG dengan basis data vektor (Milvus, Chroma, FAISS) dan pemeringkatan ulang; mengembangkan agen di LangChain/LangGraph dengan alat, memori, dan protokol MCP.
Topik lanjutan: keamanan dan kemampuan tersembunyi
Bab khusus mencakup topik yang jarang terlihat dalam tutorial dasar: pengeditan pengetahuan tanpa pelatihan ulang, pertahanan terhadap jailbreak dan injeksi cepat, tanda air dalam teks yang dihasilkan, steganografi — menyematkan tanda tak terlihat dalam keluaran model, penyelarasan RLHF dengan PPO. Semua notebook berjalan pada satu RTX 4090 (VRAM 24 GB) atau di lingkungan cloud gratis seperti AutoDL / CodeWithGPU.
Bagaimana memulainya
Repositori GitHub:Lordog/menyelam ke dalam-llms(50rb+ bintang). Kloning, pilih bab yang diinginkan dan jalankan sel buku catatan secara berurutan. Untuk fine-tuning dan bab RAG, Anda memerlukan GPU — tautan README ke image Docker yang sudah jadi dan instruksi untuk menyewa instance murah. Kursus ini sepenuhnya gratis, berlisensi Apache-2.0, dan PR dengan perbaikan serta topik baru dipersilakan.
Sumber:GitHub — seri "动手学大模型".
