上海 [切换城市] 上海招聘上海计算机软件招聘上海高级软件工程师招聘

爬虫架构师

上海索思数据科技有限公司

  • 公司规模:少于50人
  • 公司性质:民营公司
  • 公司行业:计算机服务(系统、数据服务、维修)

职位信息

  • 发布日期:2019-06-01
  • 工作地点:上海-徐汇区
  • 招聘人数:1人
  • 工作经验:3-4年经验
  • 学历要求:本科
  • 职位月薪:2-3万/月
  • 职位类别:高级软件工程师

职位描述

1. 负责公司分布式采集平台的开发与维护;

2. 反爬虫策略研究,代理IP、验证码识别等采集支撑服务建设;

3. 海量爬虫数据清洗、解析、处理与挖掘;

4. 团队管理,指导初级爬虫工程师的日常开发工作。


岗位要求:

1. 本科及以上学历,3年以上工作经验,对互联网、移动互联网有浓厚的兴趣,喜欢钻研技术;

2. 熟练掌握 Java,基础扎实。熟悉 Spring/SpringBoot/MyBatis 等主流框架,有分布式、微服务方面架构经验;

3. 熟练掌握 Linux、熟悉至少一种关系型数据库(SQL Server、MySQL等),以及一种 NOSQL(Redis/Elastic等);

4. 熟悉数据结构、算法、设计模式、HTTP/TCP协议等;

5. 熟悉多线程与分布式架构,对中间件、缓存、消息队列等有一定的了解;

6. 熟悉目前开源的爬虫框架,对分布式爬虫、海量数据采集有深刻的理解;

7. 具有大规模网络爬虫、采集相关工作经验者优先。

职能类别: 高级软件工程师

关键字: 采集 Java 架构

公司介绍

上海索思数据科技有限公司致力于互联网+、大数据及互联网信息服务的专业公司,依托自有互联网技术和成熟产品,打造互联网与用户业务深度结合的个性化服务平台,拥有云计算、大数据、自然语言处理等前沿核心技术,具有完善的大数据服务运营体系及快速开发能力,为政府及企业用户提供互联网大数据及舆情服务。

联系方式

  • 公司地址:地址:span南丹东路106号303