量化工具工程师
苏州亿铸智能科技有限公司
- 公司规模:150-500人
- 公司性质:民营
- 公司行业:电子技术/半导体/集成电路 电子技术/半导体/集成电路
职位信息
- 发布日期:2024-07-12
- 工作地点:杭州
- 工作经验:5年及以上
- 学历要求:本科
- 职位月薪:2-4万·16薪
- 职位类别:量化工具工程师
职位描述
工作内容: 负责开发量化工具,包括研发cv模型和llm模型的量化方案,优化模型部署时存在的精度和性能问题,调研业界最新量化技术和论文。
工作要求:
1.熟悉神经网络算法,包括基于CNN的CV算法,以及基于transformer的常用大语言模型。
2.熟悉神经网络量化算法(SmoothQuant,GPTQ,AWQ等),熟悉PTQ/QAT,基本原理和计算公式,int8/int4及fp8量化等。
3.熟悉浮点数的各种格式(FP32/FP16/BF16/FP8/FP4等),精度和格式转换等。
4.熟悉c/c++14,python等常用编程语言,熟悉c++/python相互调用,熟悉cmake/linux shell脚本等。
5.熟悉cuda编程优先,包括cublas,cutlass等。
6.熟悉英伟达工具优先,包括nvidia-smi以及nsight等工具。
工作要求:
1.熟悉神经网络算法,包括基于CNN的CV算法,以及基于transformer的常用大语言模型。
2.熟悉神经网络量化算法(SmoothQuant,GPTQ,AWQ等),熟悉PTQ/QAT,基本原理和计算公式,int8/int4及fp8量化等。
3.熟悉浮点数的各种格式(FP32/FP16/BF16/FP8/FP4等),精度和格式转换等。
4.熟悉c/c++14,python等常用编程语言,熟悉c++/python相互调用,熟悉cmake/linux shell脚本等。
5.熟悉cuda编程优先,包括cublas,cutlass等。
6.熟悉英伟达工具优先,包括nvidia-smi以及nsight等工具。
公司介绍
亿铸科技成立于2020年6月,是基于存算一体这一创新架构,面向数据中心、云计算、中心侧服务器、自动驾驶及边缘计算等场景的AI大算力芯片公司。亿铸科技将新型存储器ReRAM及存算一体计算架构相结合,通过全数字化的芯片设计思路,基于成熟工艺制程,致力于实现数倍性价比、更高能效比、更大算力发展空间的新一代AI大算力芯片。2023年,亿铸科技率先提出“存算一体超异构架构”这一全新的技术发展路径,为我国A算力芯片的进一步发展增添新动能。
联系方式
- 公司地址:悦峰大厦
- 联系人:宗先生