Panduan praktikal kepada model bahasa besar: daripada penalaan halus kepada RAG dan ejen
Universiti Jiao Tong Shanghai (SJTU) telah mengeluarkan kursus terbuka "Selam ke dalam LLM" (动手学大模型) — panduan langkah demi langkah untuk bekerja dengan model bahasa yang besar: daripada penalaan halus dan RAG kepada ejen pembinaan dan keselamatan. Bahan ini berdasarkan kuliah keselamatan NLP dan AI yang diajar di Pusat Pengajian Sains Komputer dan termasuk buku nota Jupyter sedia untuk dijalankan untuk setiap peringkat — daripada persediaan persekitaran kepada teknik lanjutan seperti penjajaran RLHF dan steganografi dalam penjanaan.
Apa yang ada di dalam kursus
Kursus ini dibahagikan kepada 11 bab bebas, setiap satu buku nota berasingan dengan kod dan penjelasan. Modul pengenalan meliputi infrastruktur asas: memuatkan model melalui Pengubah Wajah Memeluk, penyajian yang cekap pada vLLM, memanggil API LLM awan. Seterusnya ialah blok praktikal: kejuruteraan segera dengan templat untuk sembang, ringkasan dan pengekstrakan fakta; LoRA/QLoRA penalaan halus model 4B pada perkakasan pengguna; membina saluran paip RAG dengan pangkalan data vektor (Milvus, Chroma, FAISS) dan penarafan semula; membangunkan ejen di LangChain/LangGraph dengan alatan, memori dan protokol MCP.
Topik lanjutan: keselamatan dan keupayaan tersembunyi
Bab khusus merangkumi topik yang jarang dilihat dalam tutorial asas: penyuntingan pengetahuan tanpa latihan semula, pertahanan terhadap jailbreak dan suntikan segera, tera air dalam teks yang dijana, steganografi — membenamkan tanda tidak kelihatan dalam output model, penjajaran RLHF dengan PPO. Semua komputer riba berjalan pada satu RTX 4090 (24 GB VRAM) atau dalam persekitaran awan percuma seperti AutoDL / CodeWithGPU.
Bagaimana untuk memulakan
Repositori GitHub:Lordog/selam-dalam-llms(50k+ bintang). Klon, pilih bab yang diminati dan jalankan sel buku nota mengikut urutan. Untuk penalaan halus dan bab RAG, anda memerlukan GPU — README memaut kepada imej Docker siap sedia dan arahan untuk menyewa contoh murah. Kursus ini adalah percuma sepenuhnya, berlesen Apache-2.0, dan PR dengan pembetulan dan topik baharu dialu-alukan.
Sumber:GitHub — siri "动手学大模型".
