推理服务器工程师
苏州亿铸智能科技有限公司
- 公司规模:150-500人
- 公司性质:民营
- 公司行业:电子技术/半导体/集成电路 电子技术/半导体/集成电路
职位信息
- 发布日期:2024-07-12
- 工作地点:杭州
- 工作经验:5年及以上
- 学历要求:本科
- 职位月薪:2-4万·16薪
- 职位类别:推理服务器工程师
职位描述
工作内容: 负责推理服务器的开发,整合推理引擎和搭建分布式服务器以支持分布式推理需求。
工作要求:
1.熟悉python/c++编程,熟悉pytorch等深度学习框架。
2.熟悉k8s/docker等容器及分布式服务器管理技术。
3.熟悉英伟达工具优先,包括triton推理服务器和tensorrt推理引擎。
4.熟悉大模型LLM推理优先。
工作要求:
1.熟悉python/c++编程,熟悉pytorch等深度学习框架。
2.熟悉k8s/docker等容器及分布式服务器管理技术。
3.熟悉英伟达工具优先,包括triton推理服务器和tensorrt推理引擎。
4.熟悉大模型LLM推理优先。
公司介绍
亿铸科技成立于2020年6月,是基于存算一体这一创新架构,面向数据中心、云计算、中心侧服务器、自动驾驶及边缘计算等场景的AI大算力芯片公司。亿铸科技将新型存储器ReRAM及存算一体计算架构相结合,通过全数字化的芯片设计思路,基于成熟工艺制程,致力于实现数倍性价比、更高能效比、更大算力发展空间的新一代AI大算力芯片。2023年,亿铸科技率先提出“存算一体超异构架构”这一全新的技术发展路径,为我国A算力芯片的进一步发展增添新动能。
联系方式
- 公司地址:悦峰大厦
- 联系人:宗先生