Model Optimizer社区贡献指南从提Issue到参与模型量化核心代码开发的完整路线图【免费下载链接】Model-OptimizerA unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.项目地址: https://gitcode.com/GitHub_Trending/te/Model-OptimizerNVIDIA Model OptimizerModelOpt是一个统一的模型优化开源库提供模型量化、知识蒸馏、剪枝、神经架构搜索NAS、投机解码与稀疏化等最先进技术可将 Hugging Face、PyTorch、ONNX 模型压缩为适配 TensorRT-LLM、vLLM、TensorRT 等推理框架的优化检查点。本文带你走通社区贡献全流程 从提交第一个 Issue到搭好本地开发环境再到参与核心量化代码的开发与合入。 贡献路线总览4个阶段找到你的切入点阶段适合人群产出难度1️⃣ 反馈与提问所有用户Issue / 功能建议⭐2️⃣ 文档与示例初级贡献者新示例、README 完善⭐⭐3️⃣ 核心代码开发中级贡献者Bug 修复、新特性 PR⭐⭐⭐4️⃣ 长期维护者资深贡献者Codeowner、评审参与⭐⭐⭐⭐无论处于哪个阶段都建议先通读贡献总纲 CONTRIBUTING.md——它是整个项目的游戏规则文件。 快速看懂仓库结构先定位再动手ModelOpt 的目录组织非常清晰贡献前花 2 分钟建立地图modelopt/— 核心源码。modelopt/torch/quantization/是量化与 QAT 的主战场modelopt/torch/prune/、modelopt/torch/distill/、modelopt/torch/nas/、modelopt/torch/speculative/分别对应剪枝、蒸馏、NAS 和投机解码tests/— 分层测试体系详见下文测试章节examples/— 各技术线的可运行示例如 examples/hf_ptq/LLM 量化、examples/llm_qat/量化感知训练、examples/pruning/剪枝蒸馏docs/source/— Sphinx 文档源文件modelopt_recipes/— 预置量化/蒸馏 YAML 配方库plugins/modelopt/skills/— 可安装的 AI Agent 技能树PTQ、QAD、部署等场景的自动化技能tools/— CI 检查、MCP 服务器、Slurm 启动器等工程工具新手技巧想给某个技术线提 PR先看对应examples/子目录的 README再顺藤摸瓜找到modelopt/中的实现模块通常 30 分钟内就能读懂调用链。 如何提交第一个 Issue3种模板 1个环境采集脚本项目为三类需求准备了专门的 Issue 模板位于 .github/ISSUE_TEMPLATE/模板适用场景关键内容1_bug_report.mdBug 报告复现步骤 完整系统信息2_feature_request.md新功能/新模型支持功能描述 时间线 目标硬件3_question.md使用咨询问题背景 已尝试方案提 Bug Issue 的两个加分项先搜索已有 Issue——模板首页就提醒确认问题尚未被提出过运行环境采集脚本get_system_info.py一键收集 OS、GPU、Python、CUDA、PyTorch、Transformers、ModelOpt 版本等全部系统信息直接粘贴到 Issue 的 System information 部分可大幅加速定位功能建议类 Issue 请写清楚目标硬件/use case和时间紧迫度blocker / should have / nice to have维护者会据此排期——项目还维护着一个公开 Roadmap 追踪社区需求。⚙️ 一键搭建本地开发环境4步跑起来# 1. 克隆仓库 git clone https://gitcode.com/GitHub_Trending/te/Model-Optimizer cd Model-Optimizer # 2. 可编辑模式安装 全部开发依赖见 CONTRIBUTING.md#L13 pip install -e .[dev] # 3. 安装 pre-commit 钩子代码质量自动检查 pre-commit install # 4. 开发依赖复杂如 TensorRT-LLM / Megatron-Core时用官方 Docker 容器开发环境的 3 个实用工具pre-commit提交时自动检查 Python、C、Markdown 等格式规范不提交直接跑全部检查用pre-commit run --all-files临时跳过检查用git commit -nnoxnoxfile.py 定义了与不同 Torch/Transformers 版本组合的测试会话如nox -s unit-3.12(torch_211, tf_latest)本地即可复现 CI 环境IDE 集成项目提供 VSCode/Cursor 工作区设置.vscode/settings.jsonlint 工具开箱即用 核心代码开发10条编码铁律项目编码标准CONTRIBUTING.md 的Coding standards章节值得逐条精读浓缩如下只做外科手术式修改——只动任务需要的地方禁止顺手重构简单优先——代码自上而下可读复杂分支是重新设计的信号模块化可组合——优先复用现有扩展点不写针对特定输入的硬编码公开 API 必须有 docstring并用__all__明确定义公共接口imports 放文件顶部——仅在循环导入、可选依赖如 TensorRT-LLM等明确理由下例外修 Bug 找根因不要只处理副作用GPU 性能敏感——避免tensor.item()、float(tensor)等触发 CPU-GPU 同步的写法面向分布式开发——用print_rank_0降噪日志防护跨 rank 竞态保持配置与检查点向后兼容——Pydantic 配置是序列化进 checkpoint 的破坏性变更必须显式声明安全编码——遵循 SECURITY.md 的规范避免硬编码trust_remote_codeTrue、pickle等风险用法添加新 PIP 依赖有两处登记位置库级依赖进 pyproject.toml示例级依赖进examples/示例名/requirements.txt。非宽松许可证MIT/Apache 2 之外的依赖需在 PR 中说明理由并征得维护组同意。 写测试与跑测试6层测试目录各司其职ModelOpt 用 pytest 组织测试新特性必须附带测试目录用途时限要求tests/unit/CPU 快速单元测试必须离线禁用 HuggingFace Hub 下载数秒tests/gpu/GPU 快速单元测试数秒tests/gpu_megatron/Megatron-Core 特性 GPU 测试数秒tests/gpu_trtllm/TensorRT-LLM 特性 GPU 测试数秒tests/gpu_vllm/vLLM 特性 GPU 测试数秒tests/examples/示例集成测试数分钟测试设计三条原则贡献者最常踩的坑都在这里测真实代码路径——能在 CI 里跑真路径就别堆 mock1 个真端到端测试胜过 5 个 mock 断言默认每个行为一个测试——用pytest.mark.parametrize代替近似重复的测试函数控制测试时长——tests/conftest.py 按目录施加默认超时新增tests/group/顶层目录须注册到超时映射本地快速迭代直接指向具体路径pytest tests/unit/torch/quantization离线单测技巧用 tests/_test_utils/ 里的create_tiny_*助手和get_tiny_tokenizer()本地构造微型模型/数据集保证测试绝不在网络上抖动。✍️ 签名提交DCO 签名的3步配置所有贡献必须附带Signed-off-by开发者原产地证书 DCO并用 SSH/GPG 密钥加密签名——未签名的提交一律不会被接受CONTRIBUTING.md#L198# 1. 生成专用签名密钥git 2.34 ssh-keygen -t ed25519 -f ${HOME}/.ssh/id_ed25519_git_signing -P # 2. 配置 git 签名 git config --global user.signingkey ${HOME}/.ssh/id_ed25519_git_signing.pub git config --global gpg.format ssh git config --global commit.gpgsign true # 3. 提交时签名-s 附 Signed-off-by-S 加密签名 git commit -s -S -m Fix FP8 scale calibration for MoE models.把公钥上传到你的代码托管平台时密钥类型请选择Signing Key。VSCode 用户可开启git.alwaysSignOff和git.enableCommitSigning配置从此每次提交自动签名。 PR 提交与 CI6步顺利合入Step 1填写 PR 模板— .github/PULL_REQUEST_TEMPLATE.md 要求说明变更类型Bug fix / new feature / new example / new tests / documentation、用法示例、实际运行过哪些测试并勾选 5 项检查清单向后兼容性、第三方代码/依赖合规、测试、CHANGELOG.rst 更新、AI 代码评审。Step 2控制 PR 体积— 项目建议单个 PR 变更不超过 500 行源码AGENTS.md 中的 PR 拆分规范。超大改动按模块边界拆成系列 PR标题用[x/N]前缀标注序号每个子 PR 必须能独立构建、带测试、CI 全绿。Step 3触发 CI— Fork 贡献者需授权验证者评论/ok to test sha才能运行主机 CIGitHub 提示工作流审批时需有写权限的评审者点击Approve and run workflows。Step 4等待 CODEOWNERS 评审— 项目通过 .github/CODEOWNERS 自动指派对应模块的评审人.github/workflows/下还配置了单测、GPU 测试、代码质量、示例测试、回归测试等流水线任何检查失败都需修复后重新推送。Step 5回应评审— 项目文化鼓励有理有据地讨论逐条核实现有代码再行动评审者可能针对过期 diff 发言每个评论线程三选一——用 commit 解决 / 引用代码反驳 / 标记为超出范围延后处理但永远不要自己点击解决讨论那是评审者的权利。Step 6Cherry-pick 进发布分支— 若 Bug 修复需要同步到进行中的发布版本加上cherry-pick-X.Y.Z标签如cherry-pick-0.47.0PR 会被自动摘取进发布分支。 收尾值得记录的改动才进 Changelog只有新特性、向后不兼容变更、废弃声明、严重 Bug 修复才需要在 CHANGELOG.rst 中新增条目——每条 1~2 句话面向外部用户写改了什么、用户需要做什么根因分析和基准数据放在 PR 描述里不写内部 Bug 编号。写在最后ModelOpt 的贡献门槛并不神秘Issue 写得准、测试跑得快、签名不遗漏、PR 小而聚焦。从复现一个量化 Bug 开始到在modelopt/torch/quantization/提交第一个修复你已经在为下一代 Nemotron、DeepSeek 级大模型的推理加速添砖加瓦。Happy optimizing! 【免费下载链接】Model-OptimizerA unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.项目地址: https://gitcode.com/GitHub_Trending/te/Model-Optimizer创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
