美团招聘大模型机器学习引擎工程师

【北斗】大模型机器学习引擎工程师

更新时间：2023-08-18
工作地点：北京市
事业群：基础研发平台
岗位职责

1.面向GPU和高性能网络设计分布式训练架构，包括样本IO优化、计算图编译与执行、多维度并行能力，支持千亿参数模型在上千张GPU集群高效稳定训练；
2.通过量化、剪枝、蒸馏等模型压缩方法，在保证精度要求的情况下,实现不同参数规模的模型推理性能优化，构建高性能推理服务；
3.通过手工优化方法,对特化模型子结构和硬件设备上实现SOTA性能，持续迭代基于编译的优化方案，提升通用优化的适用性、优化效果以及对新硬件的覆盖能力；
4.管理及优化全公司算法团队硬件资源，通过算法预估与启发式策略，对全公司万级别节点的大规模GPU/CPU集群构建精细化调度服务能力，持续提升资源使用效率。

岗位基本要求

1.具备良好的计算机基础素养和分析解决问题的能力，熟练掌握C++或Python；
2.学习能力强，对机器学习系统优化有技术热情，富有极客精神；
3.熟悉TensorFlow/PyTorch等深度框架代码的优先；
4.熟悉TVM/MLIR等编译优化技术的优先；
5.熟悉GPU、NPU硬件架构，熟练使用CUDA，NCCL，RDMA编程的优先；
6.熟悉机器学习、深度学习算法，希望从事工程架构方向的优先；
7.有分布式系统、高性能计算实际项目经验的优先；
8.有开源项目贡献代码者优先；
9.有在OSDI/SOSP、NIPS、KDD、ICML等会议或期刊中有论文发表者优先。

立即申请：zh***com[点击查看]