上海 [切换城市] 上海招聘

爬虫开发工程师

同程数科

  • 公司规模:500-1000人
  • 公司性质:民营公司
  • 公司行业:金融/投资/证券

职位信息

  • 发布日期:2020-11-30
  • 工作地点:上海-浦东新区
  • 招聘人数:1人
  • 工作经验:3-4年经验
  • 学历要求:本科
  • 职位月薪:2-3万/月
  • 职位类别:爬虫开发工程师

职位描述

岗位职责:

1、负责多平台信息爬取和页面内容的提取分析,负责破解各类反爬机制;

2、负责APP的数据抓取和爬取链路优化(包括APP反编译、逆向分析、脱壳、加密参数破解、抓取攻防等),提升抓取能力;

3、研究爬虫策略和防屏蔽规则,解决封账号、封IP、验证码、页面跳转等难点,提升网页抓取的效率和质量;

4、负责爬虫平台的构建,实现爬虫产品可视化、产品化;

5、辅导培养爬虫相关研发人员。

任职要求:

1、3年以上Python 爬虫经验;

2、熟悉多线程、网络编程、网页抓取原理、正则表达式、HTTP协议等;

3、熟悉任意开源web框架,如Flask, Django等;

4、熟悉任意开源爬虫框架,如scrapy-splash、pyspider等;

5、熟练使用 Mysql、Redis、Kafka 等中间件;

6、有海量主流电商平台数据爬取经验,能迅速响应电商平台变动做规则调整;

7、有开发爬虫框架经验优先,熟悉反爬虫、验证码识别技术者优先;

8、熟悉编写网络爬虫采集规则,对反爬、加解密、代理、模板、app破壳、Android逆向等关键技术理解透彻,具有群控和搜索相关技术研发经验者优先;

9、较强的沟通能力,对解决挑战型问题充满激情,人品好,耐得住寂寞。

职能类别:爬虫开发工程师

关键字:爬虫

公司介绍

同程集团是一家多元化旅游企业集团,致力于旅游全产业链布局,正式创立于2004年,总部设在中国苏州。
同程集团旗下主要设有同程旅行、同程数科、同程航旅、同程资本及同程酒管五大板块,是同程集团全产业链布局的核心。
同程旅行由同程网络与艺龙旅行网于2018年3月合并而成,并于同年11月26日成功在香港联交所主板挂牌上市,成为同程生态体系内孵化出的上市公司,是中国两大旅行平台之一。

同程数科是同程集团旗下的旅游产业数字科技服务平台。前身为同程金服,正式成立于2015年11月。

同程数科以“数字科技引领旅游产业”为愿景,坚持以科技的力量,赋能旅游产业。通过契合旅游产业生态链的科技产品、数字化科技解决方案,为旅游产业链上下游企业和个人消费者及金融机构端提供数字科技服务。

联系方式

  • 公司地址:源深路355号源深金融大厦C栋