受邀出席腾讯数字生态大会 作业帮分享大数据平台架构演进之路
近日,2021腾讯数字生态大会在武汉举行,大会以“数实融合·绽放新机”为主题,邀请了300多位产业领袖和专家,展示前沿技术成果、创新服务场景、细分行业数字化转型的实践案例。作为腾讯云最佳生态合作伙伴,作业帮受邀出席,作业帮大数据平台技术部负责人刘晋在“大数据”专场与参会者分享作业帮大数据平台架构的演进之路,系统地介绍了作业帮大数据平台概况、面临的问题和解决方法,以及在弹性、数据湖、数据安全的实践经历和取得的效果。
弹性能力持续丰富 算力利用率最大化
刘晋表示,作业帮从2015年开始就使用存算分离的架构来构建离线的数据体系,该系统架构让计算、存储资源具备极好的扩展性,降低运维成本、优化TCO。为了提升在线集群资源利用率、满足突发的资源使用需求,团队正在将计算层从自建CDH到EMR的迁移。
为了实现平滑的迁移,团队采用了渐进式的方案,首先对任务进行标准化测试,对一些不适合高版本Hive环境的任务进行了改造,之后进行数据准确性的检验,通过对任务在不同集群的结果对比来验证数据,这个过程中对发现的开源版本缺陷进行修复,最后进行分队列的迁移。
从迁移后的效果来看,基于EMR-EKS能快速的弹性扩容,今年上半年团队基于弹性在短时间内扩容了上万核,很好的满足了计算需求。同时正在实施在线离线混布的方案,通过弹性网卡做了硬件层面的网络隔离,并且对Yarn的原生调度模式进行优化,缩短了节点回收的时间,避免慢节点影响任务执行效率。
数据湖技术加持 湖仓一体实践探索
在传统基于Hadoop的数仓应用里,存在着数据查询慢,数据模型更新成本过高、以及数据冗余等诸多的缺点,作业帮通过Iceberg的数据湖技术,结合实际的使用场景,在数仓和即席查询领域进行了积极的探索和实践。
首先通过Flink构建实时Pipeline,生成ODS层分钟级的IceBerg数仓表,再通过事件驱动来周期性的做流转批生成具有时间边界的分区,对分区内数据通过Zorder、DataSkipping技术来做查询加速,在流量域的用户行为查询中,使用Iceberg的查询相比传统模式有近10倍以上的提升。
刘晋表示,作业帮在批计算、实时、OLAP等领域有丰富的应用场景,未来作业帮技术团队将持续建设创新技术体系,在数据治理、数据湖、自动调度、离在线混布、OLAP、实时计算等领域不断的实践和突破,充分发挥数据价值,赋能教育创新。
推荐阅读 相关文章
中学语文老师干出一个IPO:三年半亏损超5亿,新东方、三七互娱却抢着当股东
优蓝国际先后完成了五轮融资,身后的投资方包括建银国际、新东方产业基金、三七互娱、远洋资本等多家知名机构。...
停牌逾一年,职教将成博骏教育“救命稻草”?
12月1日,停牌逾一年的博骏教育接连发布2021财年业绩、2022财年中期业绩、2022财年业绩报告,股票终于复牌。 根据财报,公司两年亏损...
起底教培业违规引流产业链:假公益,真卖课?
企业往往自称“文化局”等部门工作人员,以假冒公文要求学校转发相关通知到家长群。通知会要求家长收看直播课程,这些课程大多冠以“家庭教育”、“安...
收入缩减九成,四季教育能否找到春天?
搭乘“全民奥数”的东风,四季教育2017年在纽交所上市。彼时,公司作为“名校敲门砖”亚太杯的主办方,在上海的奥数培训赛道风生水起,一度被称为...
停止买买买后,“三本之王”中教控股过得好吗?
作为港股民办高校市值最高、拥有学校最多的企业,中教控股长期被人戏称为“三本之王”。但近几年来,民办高校的并购潮逐渐平息。不再疯狂外延并购的中...
3天获利近千万?隐秘而疯狂的小学奥数竞赛“生意”背后
小学奥数比赛的举办方式和隐秘程度大大升级。在小学奥赛衍生的“地下教培经济”链条中,参与的每一方都有自己的掘金“密码”,而为此“买单”的则是众...
良好基本面引领发展,中国春来将聚势而强?
在一众港股民办教育机构中,中国春来的股价表现依旧亮眼,年内区间涨幅高达102.8%。公司不仅保持业绩稳中向好,近日还宣布将进行上市以来首次派...
豪赌电解锰,告别教育?三盛教育再度收到关注函
延期半个月,三盛教育终于在最近回复了深交所的关注函。几乎同时,其还宣布了转型求生的“新出路”——跨界电解锰领域。就在回复函发布的第二天,三盛...
作业帮喵喵机携手《宝可梦》大电影惊喜助力开学季
风靡全球的《宝可梦》系列最新动画电影《宝可梦:皮卡丘和可可的冒险》近日官宣定档,时逢开学季,被称为“学习口袋精灵”的作业帮喵喵机携手最新《宝...
作业帮公开人工智能发明专利 可对手写汉字质量进行评价
近日,作业帮APP运营主体小船出海教育科技(北京)有限公司公开了一项名为“文字书写质量评价方法、装置、电子设备和记录介质”的发明专利,公开号...
作业帮推出小鹿写字,为7-12岁孩子解决写字痛点
7-12岁是孩子学习识字、写字的黄金时期,这个时期的小学生书写习惯和风格正在逐步稳定和确定,如果字认不全、写不好,字迹潦草,可能会影响孩子形...
作业帮小鹿编程宣布课程升级,探索在线素质教育新模式
近日,作业帮旗下小鹿编程宣布课程升级,以更科学、全面的知识结构和课程体系,培养少儿“三大思维”和“四大能力”,探索中国在线素质教育新模式。...
推动素质教育发展,作业帮“小鹿素养”获“优秀产品创新奖”
12月1日,由标点财经研究院联合《投资时报》主办的“见未来•2021第四届资本市场高峰论坛暨金禧奖年度颁奖盛典”在京举行,作业帮旗下“小鹿素...