大規模言語モデルの実践ガイド:ファインチューニングからRAG、エージェントまで
上海交通大学(SJTU)が、オープンコース「Dive into LLMs」(動手学大模型)を公開しました。これは大規模言語モデルを扱うためのステップバイステップガイドで、ファインチューニングやRAGからエージェント構築、安全性まで網羅しています。コンピュータサイエンス学部で教えられているNLPとAIセキュリティの講義をベースにしており、環境構築からRLHFアライメントや生成におけるステガノグラフィーといった高度なテクニックまで、各段階で実行可能なJupyter notebookが用意されています。
コースの内容
コースは11の独立した章に分かれており、それぞれがコードと解説を含む個別のnotebookになっています。導入モジュールでは基本的なインフラをカバー:Hugging Face Transformersを使ったモデルの読み込み、vLLMによる効率的なサービング、クラウドLLM APIの呼び出し。次に実践的なブロックが続きます:チャット、要約、事実抽出のテンプレートを使ったプロンプトエンジニアリング、コンシューマ向けハードウェアでの4BモデルのLoRA/QLoRAファインチューニング、ベクトルデータベース(Milvus、Chroma、FAISS)とrerankerを使ったRAGパイプラインの構築、LangChain/LangGraphでのツール、メモリ、MCPプロトコルを活用したエージェント開発。
高度なトピック:安全性と隠れた機能
基礎的なチュートリアルではあまり見られないトピックを扱う専用の章もあります:再トレーニングなしの知識編集、ジェイルブレイクやプロンプトインジェクションに対する防御、生成テキストへのウォーターマーク、ステガノグラフィー(モデル出力に見えないマークを埋め込む)、PPOを使ったRLHFアライメント。すべてのnotebookは単一のRTX 4090(24GB VRAM)、またはAutoDL/CodeWithGPUのような無料のクラウド環境で実行できます。
始め方
GitHubリポジトリ:Lordog/dive-into-llms(50,000以上のスター)。クローンして、興味のある章を選び、notebookのセルを順番に実行するだけです。ファインチューニングとRAGの章にはGPUが必要ですが、READMEには既製のDockerイメージと安価なインスタンスをレンタルするための手順へのリンクがあります。コースは完全無料で、Apache-2.0ライセンスの下で公開されており、修正や新しいトピックのPRも歓迎されています。
