א פּראַקטיש וועגווייַזער צו גרויס שפּראַך מאָדעלס: פון פיין-טונינג צו RAG און אַגענץ
שאַנגהאַי דזשיאַאָ טאָנג אוניווערסיטעט (SJTU) האט באפרייט אַן אָפֿן קורס "דיוו אין LLMs" (动手学大模型) - אַ שריט-דורך-שריט פירער צו אַרבעטן מיט גרויס שפּראַך מאָדעלס: פון פיין-טונינג און RAG צו בנין אגענטן און זיכערקייַט. דער מאַטעריאַל איז באזירט אויף NLP און AI זיכערהייט רעפֿעראַטן געלערנט אין דער שולע פון קאָמפּיוטער וויסנשאַפֿט און ינקלודז גרייט-צו-לויפן Jupyter נאָוטבוקס פֿאַר יעדער בינע - פֿון סוויווע סעטאַפּ צו אַוואַנסירטע טעקניקס ווי RLHF אַליינמאַנט און סטעגאַנאָגראַפי אין דור.
וואָס איז אין דעם קורס
דער קורס איז צעטיילט אין 11 פרייַ קאַפּיטאַלז, יעדער אַ באַזונדער העפט מיט קאָד און דערקלערונגען. ינטראַדאַקטערי מאַדזשולז דעקן יקערדיק ינפראַסטראַקטשער: לאָודינג מאָדעלס דורך Hugging Face Transformers, עפעקטיוו סערווינג אויף vLLM, רופן וואָלקן LLM APIs. ווייַטער קומען פּראַקטיש בלאַקס: פּינטלעך ינזשעניעריע מיט טעמפּלאַטעס פֿאַר שמועסן, סאַמעריזיישאַן און פאַקט יקסטראַקשאַן; לאָראַ / קלאָראַ פיין-טונינג פון אַ 4 ב מאָדעל אויף קאַנסומער ייַזנוואַרג; בויען אַ RAG רערנ - ליניע מיט וועקטאָר דאַטאַבייסיז (Milvus, Chroma, FAISS) און רעראַנקערס; דעוועלאָפּינג אגענטן אויף LangChain / LangGraph מיט מכשירים, זכּרון און די MCP פּראָטאָקאָל.
אַוואַנסירטע טעמעס: זיכערקייַט און פאַרבאָרגן קייפּאַבילאַטיז
דעדאַקייטאַד קאפיטלען דעקן טעמעס ראַרעלי געזען אין יקערדיק טוטאָריאַלז: וויסן עדיטינג אָן ריטריינינג, פאַרטיידיקונג קעגן דזשאַילברעאַקס און פּינטלעך ינדזשעקשאַן, וואָטערמאַרקס אין דזשענערייטאַד טעקסט, סטעגאַנאָגראַפי - עמבעדדינג ומזעיק מאַרקס אין מאָדעל אַוטפּוץ, RLHF אַליינמאַנט מיט פּפּאָ. כל נאָוטבוקס לויפן אויף אַ איין RTX 4090 (24 GB VRAM) אָדער אין פריי וואָלקן ינווייראַנמאַנץ ווי AutoDL / CodeWithGPU.
ווי צו אָנהייבן
GitHub ריפּאַזאַטאָרי:לאָרדאָג / ונטערטוקנ זיך-אין-ללמס(50 ק+ שטערן). קלאָון, קלייַבן אַ קאַפּיטל פון אינטערעס און לויפן די העפט סעלז אין סדר. פֿאַר פיין-טונינג און RAG טשאַפּטערז איר דאַרפֿן אַ גפּו - די README פֿאַרבינדונגען צו פאַרטיק דאָקקער בילדער און ינסטראַקשאַנז פֿאַר רענטינג ביליק ינסטאַנסיז. דער קורס איז גאָר פריי, Apache-2.0 לייסאַנסט, און פּרס מיט פיקסיז און נייַע טעמעס זענען באַגריסן.
