Ash Ma

Focus on hiring talent.

主页

招聘:研发系列岗位

Published Jul 12, 2023


职位标题: 推理加速工程师

工作职责:

  • 设计、开发高效的大模型推理系统,以大模型在消费级显卡上的商业化落地。
  • 对模型性能进行分析和调优,识别和解决瓶颈问题,提高模型推理速度。
  • 跟踪最新的研究进展和技术趋势,提出改进和创新的想法。

岗位要求:

  • 精通python和c++,具备优秀的工程实现能力和设计能力。
  • 精通pytorch、Megatron、deepspeed等框架和各种并行策略,有大规模分布式训练性能优化的经验。
  • 熟悉GPU加速方法,掌握cuda编程、算子优化以及fasttransformer、trion等框架,有能力对开源模型进行深度性能优化。
  • 熟悉深度学习原理,深入理解transformer、diffusion、gpt等模型架构和常见优化算法。
  • 有百亿量级大模型的预训练、微调和RLHF等领域和方向技术优先。
  • 有国际比赛优秀成绩和顶会论文优先。

职位名称: 资深算法工程师 - 大模型方向

职位描述:

  • 作为一名资深算法工程师 - 大模型方向,您将负责解决AIGC领域的通用大模型在边缘云场景的加速目标,并在业务上进行创新与探索。您将协调团队、设定目标,以行业领先的水准完成大模型的落地。您将通过系统化的方法,包括底层加速、训练、微调和工程化等,解决模型推理加速等目标。

主要职责:

  • 系统化解决AIGC领域的通用大模型在边缘云场景的加速目标,包括底层加速、训练、微调和工程化等方法。
  • 解决公司在AIGC领域业务上的创新与探索,协调团队、设定目标,并完成行业领先的模型落地。

职位要求:

  • 具有3年以上的NLP或CV领域工作经验。
  • 熟悉PyTorch/TensorFlow框架。
  • 熟悉大模型训练框架如Megatron-LM/DeepSpeed等多机多卡方案,具备CUDA C能力者优先。
  • 对LLM任务技术有深入理解,包括底层模型训练、增强学习和大模型工程化。
  • 具备Transformer/BERT/GPT/T5等模型落地经验者优先。

加分项:

  • 在大规模推理系统的研发和优化方面有相关经验。
  • 对模型量化、异构计算等领域有专业知识和实践经验。
  • 在科研领域有相关的发表论文或专利。

职位名称: AI infra工程师

岗位职责:

  • 负责设计、开发、构建和维护高性能、高可用性的分布式系统 AI 推理系统。
  • 负责持续优化系统(存储,网络,计算,调度等方面),不断挖掘系统潜能,提升推理算力。
  • 负责确保系统的高效、稳定、可观测、可伸缩。

岗位要求:

  • 熟练掌握 Linux 操作系统、设计模式、计算机网络、内存管理、多线程/进程等开发技术;
  • 精通 C/C++,Golang,Python 等主流开发语言中的一种或多种;
  • 熟悉 GPU 开发,如 CUDA、cuDNN、NCCL 等,对系统性能优化有自己的认知和方法;
  • 对新技术保持好奇心,并愿意学习和尝试新技术,对 AIGC 领域有浓厚的兴趣和极大的热情;
  • 精通 Kubernetes 或有 GPU Cloud 开发经验者优先;
  • 熟悉 TensorFlow/PyTorch, Ray/DeepSpeed/NVIDIA Megatron 等框架者优先。

其他

  • 如果对Ai训练及推理加速这个方向感兴趣的,欢迎联系。

关于公司薪酬福利等招聘答疑请点此了解


简历投递邮箱:[email protected]



返回主页

%
3D Box Rotation