数据开发工程师
上海信聚信息技术有限公司
- 公司规模:50-150人
- 公司性质:民营公司
- 公司行业:计算机软件
职位信息
- 发布日期:2017-10-23
- 工作地点:上海-浦东新区
- 工作经验:1年经验
- 学历要求:本科
- 职位月薪:1-1.5万/月
- 职位类别:数据库工程师/管理员
职位描述
职位描述:
职位描述:
工作职责:
1、完成数据抓取、清洗、数据融合、数据统计分析等工作。
2、负责设计和开发网络爬虫,参与核心搜索策略、算法、数据聚类、重组的设计与开发;
3、负责调研相关渠道可行性分析,包括解析方案等;
4、建立爬虫监测体系,及时分析及解决爬虫在运行过程中出现的缺陷;
5、根据开发进度和任务分配,按时高质量完成相应功能模块设计与开发实现;
6、生产环境爬虫系统的监控和维护,及时发现和修复线上问题;
7、负责完成数据统计、查询分析等工作。
8、参与业务系统的设计与实施,发现并指出数据的异常,参与数据格式规范的制定。
岗位要求:
1、全日制本科及以上,3年以上开发经验,1年以上实际爬虫项目开发实施工作经验;
2、熟悉java/python语言,熟悉Linux操作系统。
3、熟悉爬虫相关技术,如:httpClient、jSoup、xpath、正则表达式等;
4、 熟悉数据抓取过程中的自动登录以及验证码识别流程;
5、 熟悉Redis,Mongodb,MySQL或者Postgresql等流行数据库;
6、 具备优秀的团队意识和沟通能力,学习能力和主动性强,具有钻研精神,充满激情,乐于接受挑战;
7、 拥有分布式爬虫、垂直网站抓取经验优先;
职位描述:
工作职责:
1、完成数据抓取、清洗、数据融合、数据统计分析等工作。
2、负责设计和开发网络爬虫,参与核心搜索策略、算法、数据聚类、重组的设计与开发;
3、负责调研相关渠道可行性分析,包括解析方案等;
4、建立爬虫监测体系,及时分析及解决爬虫在运行过程中出现的缺陷;
5、根据开发进度和任务分配,按时高质量完成相应功能模块设计与开发实现;
6、生产环境爬虫系统的监控和维护,及时发现和修复线上问题;
7、负责完成数据统计、查询分析等工作。
8、参与业务系统的设计与实施,发现并指出数据的异常,参与数据格式规范的制定。
岗位要求:
1、全日制本科及以上,3年以上开发经验,1年以上实际爬虫项目开发实施工作经验;
2、熟悉java/python语言,熟悉Linux操作系统。
3、熟悉爬虫相关技术,如:httpClient、jSoup、xpath、正则表达式等;
4、 熟悉数据抓取过程中的自动登录以及验证码识别流程;
5、 熟悉Redis,Mongodb,MySQL或者Postgresql等流行数据库;
6、 具备优秀的团队意识和沟通能力,学习能力和主动性强,具有钻研精神,充满激情,乐于接受挑战;
7、 拥有分布式爬虫、垂直网站抓取经验优先;
职能类别: 数据库工程师/管理员
公司介绍
上海信聚信息技术有限公司(Infomass)主要的业务涵盖工程计算咨询,质量控制软件的技术开发、技术咨询。行业软件的销售及技术支持。
本着与时俱进的精神,InfoMass以科技是***生产力为战略定位,不断创新、开拓进取,中国制造业的研究与发展添砖加瓦。
本着与时俱进的精神,InfoMass以科技是***生产力为战略定位,不断创新、开拓进取,中国制造业的研究与发展添砖加瓦。
联系方式
- 公司地址:开发区