大数据架构师
上海藤榕网络科技有限公司
- 公司规模:50-150人
- 公司性质:民营公司
- 公司行业:互联网/电子商务
职位信息
- 发布日期:2017-04-17
- 工作地点:上海-黄浦区
- 招聘人数:2人
- 职位月薪:2.5-3万/月
- 职位类别:高级软件工程师 技术总监/经理
职位描述
职位描述:
职位描述:
岗位职责:
1. 负责构建Spark/HDFS大数据处理架构;
2. 负责基于Spark技术的海量数据的自动化分析处理和统计工作;
3. 基于Spark框架大数据架构的设计、开发和维护;
4. 根据相关需求使用SparkStreaming/Storm、SparkSQL进行数据处理、查询和统计等工作;
5. 实现大数据的深层次挖掘和准确业务推荐/营销。
任职资格:
1. 优秀的团队沟通能力,有创新精神,乐于接受挑战,能承受工作压力。
2. 精通一门或多门开发语言(Python和Java等),熟练掌握常用数据结构和算法;
3. 熟练掌握Hive、Impala 高级特性,能够独立优化Hive 脚本,能根据统计需求抽象出Hive 模型。
4. 熟练掌握Hadoop - hdfs 架构原理。
5. 熟练掌握Hadoop-mr 运行过程,每个过程消费的资源。
6. 熟练掌握Spark/Kafka/Flume 。
7. 熟练掌握Hbase其工作原理。
8. 熟练掌握Zookeeper熟悉其工作原理,权限体系,选举策略,常用操作命令。
9. 熟悉Redis、MongoDB、HBase等NOSQL数据库
举报
分享
职位描述:
岗位职责:
1. 负责构建Spark/HDFS大数据处理架构;
2. 负责基于Spark技术的海量数据的自动化分析处理和统计工作;
3. 基于Spark框架大数据架构的设计、开发和维护;
4. 根据相关需求使用SparkStreaming/Storm、SparkSQL进行数据处理、查询和统计等工作;
5. 实现大数据的深层次挖掘和准确业务推荐/营销。
任职资格:
1. 优秀的团队沟通能力,有创新精神,乐于接受挑战,能承受工作压力。
2. 精通一门或多门开发语言(Python和Java等),熟练掌握常用数据结构和算法;
3. 熟练掌握Hive、Impala 高级特性,能够独立优化Hive 脚本,能根据统计需求抽象出Hive 模型。
4. 熟练掌握Hadoop - hdfs 架构原理。
5. 熟练掌握Hadoop-mr 运行过程,每个过程消费的资源。
6. 熟练掌握Spark/Kafka/Flume 。
7. 熟练掌握Hbase其工作原理。
8. 熟练掌握Zookeeper熟悉其工作原理,权限体系,选举策略,常用操作命令。
9. 熟悉Redis、MongoDB、HBase等NOSQL数据库
职能类别: 高级软件工程师 技术总监/经理
公司介绍
上海藤榕网络科技有限公司于2016年2月正式成立,注册资金2000万元,专注数字化环境下的媒介研究、受众研究和数据增值服务。
采用先进的研究技术,以用户行为和固有属性数据为核心,为用户、商户以及代运营服务机构提供
专业、全面、准确、深入的数据监测及数据匹配服务。?服务内容包括数据匹配、行业趋势报告、商家经营报告、数据可视化、数据定制等。
范围覆盖互联网行为监测,投资效果预估、广告投放监测、广告效果评估与诊断、商品反向定制、
投放策略优化等多级领域。
采用先进的研究技术,以用户行为和固有属性数据为核心,为用户、商户以及代运营服务机构提供
专业、全面、准确、深入的数据监测及数据匹配服务。?服务内容包括数据匹配、行业趋势报告、商家经营报告、数据可视化、数据定制等。
范围覆盖互联网行为监测,投资效果预估、广告投放监测、广告效果评估与诊断、商品反向定制、
投放策略优化等多级领域。
联系方式
- 公司地址:上班地址:龙华东路647号电科滨江中心3楼