数据采集工程师
上海前滩新兴产业研究院
- 公司规模:少于50人
- 公司性质:民营公司
- 公司行业:学术/科研
职位信息
- 发布日期:2019-10-12
- 工作地点:上海-浦东新区
- 招聘人数:2人
- 工作经验:1年经验
- 学历要求:本科
- 职位月薪:0.6-1.2万/月
- 职位类别:软件工程师 数据库工程师/管理员
职位描述
1、负责设计和开发爬虫系统,进行多平台信息的抓取和分析工作;
2、负责一般网页信息和微信、微博等信息抽取、清洗、消重等工作,提升平台的抓取效率;
3、负责爬虫核心算法和策略优化;
4、实时监控爬虫的进度和警报反馈;
5、根据开发需求,完成基于PYTHON的模块开发。
工作要求:
1、掌握Python语言,有良好的编码习惯;
2、熟悉面向对象编程方法;
3、有扎实的算法和数据结构能力;
4、熟悉爬虫原理,熟悉常见的反爬虫技术,有爬虫相关项目开发经验者优先;
4、了解Linux系统基本操作;
5、掌握http协议,熟悉html、dom、xpath等常见的数据抽取技术;
6、有大规模数据处理、数据挖掘、信息提取等经验者优先。
职能类别:软件工程师数据库工程师/管理员
关键字:数据采集
公司介绍
上海前滩新兴产业研究院(前滩综研),由国内资深的决策研究团队发起,致力于在产业经济和公共管理领域,为政府部门和企业集团提供实证而前瞻的建设性解决方案。
前滩综研的目标,是成长为本土原创、具备全球视野的数据驱动型开放研究发展平台。优势是数据发掘、资源集成和公共传播。自创立以来,前滩综研得到了官产学研金媒的热情鼓励和鼎力支持,主持完成了大量***和地方性的研发任务。在投资贸易便利化、全球科技创新、新兴产业培育、城市治理、公共安全保障等领域,有一定的研究专长。多项成果呈报有关部门和领导。
前滩综研目前探索创客型智库、智库型孵化器的创新路径,加大外部协作力度,培养国际化学术团队,助推实务导向型学术创新。办公总部设于浦东前滩。
前滩综研的目标,是成长为本土原创、具备全球视野的数据驱动型开放研究发展平台。优势是数据发掘、资源集成和公共传播。自创立以来,前滩综研得到了官产学研金媒的热情鼓励和鼎力支持,主持完成了大量***和地方性的研发任务。在投资贸易便利化、全球科技创新、新兴产业培育、城市治理、公共安全保障等领域,有一定的研究专长。多项成果呈报有关部门和领导。
前滩综研目前探索创客型智库、智库型孵化器的创新路径,加大外部协作力度,培养国际化学术团队,助推实务导向型学术创新。办公总部设于浦东前滩。
联系方式
- 公司地址:东育路255弄4号A座2104室