1

中国科学院软件研究所

7

大模型框架工程师/助理工程师

1

1.负责大模型的系统架构设计，优化推理和部署流程，提升计算效率（如分布式推理、MoE架构优化）； 2.参与大模型应用框架的设计和研发。 3.针对特定应用场景制定大模型解决方案，参与需求对接，协调解决现场问题。 4.参与大模型应用的前端功能开发。

硕士及以上

计算机类、计算机科学与技术类

1.硕士及以上学历，有相关工作经验优先； 2.了解模型推理加速的研究和技术进展，包括但不限于模型量化、剪枝、Flash Attention 推理优化等； 3.了解常用的大语言模型推理加速框架，如vLLM，SGLang，llama.cpp等； 4.熟练使用C++，Cuda，Python等编程语言，具备扎实的软件开发技能，精通Linux命令及脚本语言； 5.具备良好的文档撰写能力、团队协作和沟通表达能力，责任心强，有担当。