分布式机器学习系统工程师

我们正在寻找具有5年以上分布式系统和大规模ML训练经验的高级/工程师。您将实现一种新型的分布式ML训练子strate，该子strate在消费级互联网连接下工作。职责包括设计和实现大规模分布式训练系统，优化异构硬件在低带宽、高延迟条件下的性能；开发和优化模型并行训练策略（数据、张量、流水线并行）；优化GPU利用率、内存效率和计算性能；实现可靠的检查点、状态同步和恢复机制；构建监控和指标系统以跟踪训练进度、模型质量及系统瓶颈。

具有分布式系统生产环境构建和运营经验；精通分布式训练框架（FSDP、DeepSpeed、Megatron等）；深入理解模型并行（数据、张量、流水线并行）；专家级Python（并发、错误处理、重试逻辑、干净架构）；强网络基础：P2P系统、gRPC、路由、NAT穿越、分布式协调；有优化GPU工作负载、内存管理和大规模计算效率的经验。

股权型薪酬，拥有公司所有权；澳大利亚高级工程师职位竞争力薪资；为优秀候选人提供签证赞助；远程优先，可选墨尔本中心；世界级团队——团队成员曾就职于谷歌、亚马逊、微软和领先初创企业

受Union Square Ventures等顶级投资者支持，我们是ML研究人员和工程师的顶级技术团队。Pluralis坚定不移地认为，如果能实现我们的目标，世界将变得更好。协议学习是防止少数大型企业垄断模型开发、访问和发布，并实现巨大经济捕获的唯一可行方法。