大規模な言語モデルの実践的なガイド: 微調整からRAG とエージェントまで

上海交通大学（SJTU）が公開講座「Dive into」を公開 LLMs" (アニメーション手学大モデル) — 大規模な言語モデルを操作するためのステップバイステップのガイド: 微調整と RAG 建築業者と安全性へ。教材はNLPに基づいており、 AI コンピューター サイエンス学部で教えられるセキュリティの講義には、環境のセットアップから生成時の RLHF アライメントやステガノグラフィーなどの高度なテクニックまで、各段階ですぐに実行できる Jupyter ノートブックが含まれています。

コース内には何があるのか

このコースは 11 の独立した章に分割されており、各章にはコードと説明が記載された個別のノートブックが用意されています。導入モジュールでは、Hugging Face Transformers を介したモデルの読み込み、v での効率的なサービングなど、基本的なインフラストラクチャをカバーします。LLM、クラウドを呼び出す LLM API。次に実践的なブロックが登場します。チャット、要約、事実抽出用のテンプレートを使用したプロンプト エンジニアリングです。 LoRA/QLoRA 民生用ハードウェアでの 4B モデルの微調整。を構築する RAG ベクトル データベースを使用したパイプライン (Milvus、Chroma、F)AISS）とリランカー。ツール、メモリ、MCP プロトコルを使用して、LangChain/LangGraph 上でエージェントを開発します。

高度なトピック: 安全性と隠れた機能

専用の章では、再トレーニングなしのナレッジ編集、ジェイルブレイクとプロンプト インジェクションに対する防御、生成されたテキストの透かし、ステガノグラフィー - モデル出力への目に見えないマークの埋め込み、RLHF と PPO の調整など、基本的なチュートリアルではほとんど見られないトピックを取り上げます。すべてのノートブックは、単一の RTX 4090 (24 GB VRAM) または AutoDL / CodeWithGPU などの無料のクラウド環境で実行されます。

始め方

GitHub リポジトリ: Lordog/ダイブ・イントゥ・llms (50,000 つ星以上)。クローンを作成し、興味のある章を選択し、ノートブックのセルを順番に実行します。微調整や RAG GPU が必要な章 - README には、既製の Docker イメージと安価なインスタンスをレンタルする手順へのリンクがあります。このコースは完全に無料で、Apache-2.0 ライセンスが付与されており、修正や新しいトピックに関する PR を歓迎します。

ソース： GitHub — 「アニメーション手学大モデル」シリーズ