LLM系统生产生命周期训练营

为期两天的实践训练营,涵盖生产级LLM系统的全生命周期管理,包括可重复性、自动化、MCP工具、评估和自主代理。

  • by exomishra
  • Jupyter Notebook
  • 本地部署
  • 1 星标
  • 更新于
在 GitHub 查看 exomishra/mcp-mlops-sas-bootcamp-hslu-2026

使用说明

MCP、MLOps和代理人训练营——HSLU 2026

为期两天的实践训练营,涵盖了生产LLM系统的整个生命周期——从可重复性和自动化到MCP工具、评估和自主代理。

作为交付的一部分 CAS应用数据智能 在HSLU。


课程

第1天——MLOps和LLMOps

块 主题 类型 笔记本
0 设置检查 动手 check_setup.ipynb
1 再现性 理论 --
2 再现性 动手 01_rag_实验.ipynb
3 自动化 理论 --
4 自动化 动手 01_质量_价格.ipynb
5 缩放 理论 --
6 缩放 动手 01_fastapi_serving.ipynb
7 监控与治理 理论 --
8 休息+问答 讨论 --

第2天——MCP、评估、助理和代理人

块 主题 类型 笔记本
1 MCP 理论 --
2 MCP 动手 01_mcp_server.ipynb
3 LLM作为法官 理论 --
4 法学硕士作为评委 动手 01_判断_评估.ipynb
5 法学硕士助理 理论 --
6 法学硕士助理 动手 01_context_management.ipynb
7 代理 理论 --
8 代理人 动手 01_react_agent.ipynb

快速开始

git clone https://github.com/exomishra/mcp-mlops-sas-bootcamp-hslu-2026.git
cd mcp-mlops-sas-bootcamp-hslu-2026
cp .env.example .env       # then add your GROQ_API_KEY (see setup guide)
uv venv && uv sync
uv run --with jupyter jupyter lab

有关详细说明,请参阅:


仓库结构

mcp-mlops-sas-bootcamp-hslu-2026/
├── README.md
├── setup_instructions.md         # Full setup guide
├── background_setup.md           # Terminal, IDE, Python, Git, uv basics
├── .env.example                  # Template for API keys
├── pyproject.toml
├── justfile                      # Quick commands (just setup, just lab, etc.)
├── configs/
│   └── rag_pipeline.yaml         # LLM provider, chunking, retrieval settings
├── data/
│   └── eval_questions.json       # FinanceBench evaluation questions
├── 00_setup/                     # Setup verification notebook
├── 01_reproducibility/           # Block 2: RAG experiments with MLflow
├── 02_automation/                # Block 4: Quality gates with pytest
├── 03_scaling/                   # Block 6: FastAPI serving + latency
├── 04_mcp/                       # Block 2: MCP server building
├── 05_llm_as_judge/              # Block 4: LLM-as-Judge evaluation
├── 06_assistant/                 # Block 6: Context management
├── 07_agents/                    # Block 8: ReAct agent building
└── src/mlopsbootcamp/            # Reusable Python package
    ├── rag/                      # RAG pipeline (parsing, chunking, retrieval)
    ├── eval/                     # Evaluation (metrics, LLM judge)
    ├── serving/                  # FastAPI app, latency helpers
    ├── agents/                   # ReAct loop, tools, memory
    └── utils/                    # LLM client, MLflow, tokens, viz

技术栈

组件 工具 目的
LLM推理 格罗克 (免费) 快速LLM API(Llama 3.3 70B)
嵌入 句子转换 文档和查询嵌入
矢量存储 Qdrant(本地) 矢量存储和检索
实验跟踪 工作流 参数、指标、工件
用于RAG管道的API服务 FastAPI REST API
测试 pytest 自动质量门
工具协议 MCP(Python SDK) LLM到工具的连接
PDF解析 文档处理 财务文档提取
包管理 uv 快速解决依赖关系

许可证


引用

米什拉,L.(2026)。 *MCP、MLOps和代理人训练营(HSLU 2026)*卢塞恩应用科学与艺术大学(HSLU)。https://github.com/exomishra/mcp-mlops-sas-bootcamp-hslu-2026

@misc{mishra2026mlopsbootcamp,
  author       = {Lokesh Mishra},
  title        = {MCP, MLOps \& Agents Bootcamp (HSLU 2026)},
  year         = {2026},
  howpublished = {\url{https://github.com/exomishra/mcp-mlops-sas-bootcamp-hslu-2026}},
  note         = {Lucerne University of Applied Sciences and Arts (HSLU)}
}