爬虫开发工程师
北京三六九数动科技有限公司
- 公司规模:1000-5000人
- 公司性质:民营公司
- 公司行业:互联网/电子商务
职位信息
- 发布日期:2020-09-27
- 工作地点:北京-朝阳区
- 招聘人数:2人
- 工作经验:5-7年经验
- 学历要求:本科
- 职位月薪:1.5-2.5万/月
- 职位类别:爬虫开发工程师
职位描述
岗位职责
1.完成对复杂网站的数据抓取和交互模拟;
2.通过各种渠道或方式对相关网站进行抓取;
3.不断完善并维护相关网站的抓取,使之稳定运行,核心逻辑必须有单元测试;
4.善于灵活运用各种非爬虫技术解决爬虫相关问题;
5.随时响应并解决突发问题;
任职资格
1.五年以上网站抓取经验,有电商网站、舆情相关抓取经验;
2.有较强的网站分析能力,熟知各种反爬措施及相关解决办法
3.熟练使用scrapy、eventlet、gevent、requests、selenium,正则表达式、解析结构与非结构数据等技术实现高并发稳定抓取;
4.熟练使用消息队列(MQ)、celery等异步框架实现分布式任务处理;
5.熟知HTTP、TCP、Socket等底层知识;
6.熟练掌握Fiddler、Http debugger等抓捕工具;
7.熟悉WebMagic、adsl拨号、正则表达式、脱壳技术、加密、图片破解、二维码识别、滑块验证码破解、httpClient、分词、分布式爬虫调度、数据质量监控、代理ip调度算法、配置化爬虫、授权爬虫、舆情、应用市场、反爬;
8.熟悉MySQL、MongoDB基本使用;
9.熟悉python Scapy,熟悉Javascript,有一定的分析能力。
公司介绍
"三六九数动科技是一家在线学习领域的独角兽潜力公司,公司致力于打造职场人学习成长的价值提升型在线教育平台。三六九数动科技国内首创大咖互助型学习模式,让每个职场小白都可以直接接触专业领域大牛的指导,在线直接开聊!
三六九数动科技是在全球范围内首创互联网直约模式的在线学习产品,致力于搭建高效沟通、信息对等的平台。以“AI+精准匹配”为产品核心,三六九数动科技将即时通讯引入学习场景,并利用大数据和人工智能技术不断追求知识与市场需求的多维度精准推荐和匹配,拥有国内丰富的在线教育用户行为数据库和机器学习能力,为用户实现专业能力和知识层次的全面提升。
我们拥有一支年轻、高效、专业的高品质团队,团队核心成员均来自阿里巴巴、腾讯、滴滴出行等知名大厂,多为80后、90后;公司高度重视人力资源的培养与挖掘,“鼓励创新”、“创业精神”的用人理念,拥有完善的人才培养体系及晋升机制,与员工一起成长,未来可期。"
三六九数动科技是在全球范围内首创互联网直约模式的在线学习产品,致力于搭建高效沟通、信息对等的平台。以“AI+精准匹配”为产品核心,三六九数动科技将即时通讯引入学习场景,并利用大数据和人工智能技术不断追求知识与市场需求的多维度精准推荐和匹配,拥有国内丰富的在线教育用户行为数据库和机器学习能力,为用户实现专业能力和知识层次的全面提升。
我们拥有一支年轻、高效、专业的高品质团队,团队核心成员均来自阿里巴巴、腾讯、滴滴出行等知名大厂,多为80后、90后;公司高度重视人力资源的培养与挖掘,“鼓励创新”、“创业精神”的用人理念,拥有完善的人才培养体系及晋升机制,与员工一起成长,未来可期。"
联系方式
- 公司地址:地址:span所有店面就近分配