Why This Role Stands Out
This remote role offers a unique opportunity to build and optimize the training infrastructure for cutting-edge video generation models, allowing you to significantly impact the future of AI development. You'll thrive here if you possess deep expertise in distributed training and a passion for engineering robust, scalable systems, with the flexibility to work from anywhere. Apply now to join a forward-thinking team and push the boundaries of what's possible in AI.
Quick Overview
Job Description
我们在训练自研视频生成基础模型(DiT / Flow Matching),需要一位既能搭起训练平台、又能把研究代码变成数百卡集群上稳定结果的工程师。你不只是用平台的人,更是建平台的人。
你会做
• 训练平台搭建:从作业调度、断点续训、监控告警到数据 / 权重流水线,把分散的脚本沉淀为团队可复用的训练基础设施。
• 数百卡规模的分布式训练:FSDP、张量并行、Context Parallel、Ulysses,把 MFU 推到合理水位。
• PB 级视频数据 pipeline:NVDEC 解码、VAE latent 缓存、变分辨率 bucket sampling。
• 显存与性能:FlashAttention、FP8 混合精度、Triton kernel、activation checkpoint 策略。
• 训练稳定性:loss spike 根因分析、断点秒级恢复、慢节点自动剔除。
硬性要求
• 精通 PyTorch distributed 与 CUDA 体系结构。
• 至少一个主流训练框架(Megatron / DeepSpeed / FSDP / TorchTitan)的源码级理解。
• ≥ 256 卡训练实战经验。
• 有从零或半程搭建训练平台 / 集群调度 / 训练工具链的经验。
加分
• DiT / Diffusion / 视频数据处理经验。
• 写过 Triton / CUTLASS kernel。
• 对 HunyuanVideo / Wan / CogVideoX 等开源项目有源码级了解。
我们提供
• 真实数百卡算力、把训练当工程问题的团队、合规边界内的开源 / 发表空间。