बड़े भाषा मॉडलों के लिए एक व्यावहारिक मार्गदर्शिका: फाइन-ट्यूनिंग से लेकर आरएजी और एजेंटों तक
शंघाई जिओ टोंग यूनिवर्सिटी (एसजेटीयू) ने एक खुला पाठ्यक्रम "डाइव इनटू एलएलएम" (动手学大模型) जारी किया है - बड़े भाषा मॉडल के साथ काम करने के लिए एक चरण-दर-चरण मार्गदर्शिका: फाइन-ट्यूनिंग और आरएजी से लेकर बिल्डिंग एजेंट और सुरक्षा तक। सामग्री स्कूल ऑफ कंप्यूटर साइंस में पढ़ाए जाने वाले एनएलपी और एआई सुरक्षा व्याख्यानों पर आधारित है और इसमें प्रत्येक चरण के लिए रेडी-टू-रन ज्यूपिटर नोटबुक शामिल हैं - पर्यावरण सेटअप से लेकर आरएलएचएफ संरेखण और पीढ़ी में स्टेग्नोग्राफ़ी जैसी उन्नत तकनीकों तक।
कोर्स के अंदर क्या है
पाठ्यक्रम को 11 स्वतंत्र अध्यायों में विभाजित किया गया है, प्रत्येक अध्याय में कोड और स्पष्टीकरण के साथ एक अलग नोटबुक है। परिचयात्मक मॉड्यूल बुनियादी ढांचे को कवर करते हैं: हगिंग फेस ट्रांसफॉर्मर के माध्यम से मॉडल लोड करना, वीएलएलएम पर कुशल सेवा, क्लाउड एलएलएम एपीआई को कॉल करना। इसके बाद व्यावहारिक ब्लॉक आते हैं: चैट, सारांश और तथ्य निष्कर्षण के लिए टेम्पलेट्स के साथ त्वरित इंजीनियरिंग; LoRA/QLoRA उपभोक्ता हार्डवेयर पर 4बी मॉडल की फ़ाइन-ट्यूनिंग; वेक्टर डेटाबेस (मिल्वस, क्रोमा, एफएआईएसएस) और रीरैंकर्स के साथ एक आरएजी पाइपलाइन का निर्माण; टूल, मेमोरी और एमसीपी प्रोटोकॉल के साथ लैंगचेन/लैंगग्राफ पर एजेंट विकसित करना।
उन्नत विषय: सुरक्षा और छिपी हुई क्षमताएँ
समर्पित अध्याय बुनियादी ट्यूटोरियल में शायद ही कभी देखे जाने वाले विषयों को कवर करते हैं: पुनर्प्रशिक्षण के बिना ज्ञान संपादन, जेलब्रेक और शीघ्र इंजेक्शन के खिलाफ बचाव, उत्पन्न पाठ में वॉटरमार्क, स्टेग्नोग्राफ़ी - मॉडल आउटपुट में अदृश्य निशान एम्बेड करना, पीपीओ के साथ आरएलएचएफ संरेखण। सभी नोटबुक एकल RTX 4090 (24 GB VRAM) पर या AutoDL / CodeWithGPU जैसे निःशुल्क क्लाउड वातावरण में चलते हैं।
शुरू कैसे करें
गिटहब रिपॉजिटरी:लॉर्डोग/डाइव-इन-एलएमएस(50k+ सितारे)। क्लोन करें, रुचि का एक अध्याय चुनें और नोटबुक कोशिकाओं को क्रम से चलाएँ। फ़ाइन-ट्यूनिंग और RAG अध्यायों के लिए आपको एक GPU की आवश्यकता होगी - सस्ते उदाहरणों को किराए पर लेने के लिए तैयार डॉकर छवियों और निर्देशों के लिए README लिंक। पाठ्यक्रम पूरी तरह से मुफ़्त है, अपाचे-2.0 लाइसेंस प्राप्त है, और सुधारों और नए विषयों के साथ पीआर का स्वागत है।
स्रोत:GitHub - "动手学大模型" श्रृंखला
