导语

“大数据” 三个字其实是个marketing语言,从技术角度看,包含范围很广,计算、存储、网络都涉及,知识点广、学习难度高。

    

本期会给大家奉献上精彩的:数据库、Flink、5G、MongoDB、spark、Hbase、Hive、Ozone。全是干货,希望大家喜欢!!!

1数据库

本文主要介绍了数据库多活,从三个阶段介绍在数据库多活上做的工作

https://mp.weixin.qq.com/s/szJ4I152geJqyz95rP8GvQ

2Spark

本文将介绍 Spark 3.0 在 SQL 方面的优化。

https://mp.weixin.qq.com/s/wa4jBRTLdnZe8SgqSV_F-A

35G

最近很多人问我4G和5G的区别,分享一个表格从kpi和物理层两个点简单概括两者的区别。

https://mp.weixin.qq.com/s/NP-zTKyTIaHzmho0VTTzqA

4Kubernetes

SUSE收购Rancher,成为企业级Kubernetes管理领域的市场领导者

https://mp.weixin.qq.com/s/zyTrlF7KNvm4JfMQ01bdMw

5HBase

滴滴HBase团队日前完成了0.98版本 -> 1.4.8版本滚动升级,用户无感知。新版本为我们带来了丰富的新特性,在性能、稳定性与易用性方便也均有很大提升。我们将整个升级过程中面临的挑战、进行的思考以及解决的问题总结成文,希望对大家有所帮助。

https://www.iteblog.com/archives/9823.html

大数据与云计算技术周报(第151期)

6Flink

网易内部最开始基本上都是使用 Storm 来处理实时的计算任务,比较主要的使用场景是实时邮件反垃圾,广告,新闻推荐等业务。如今内部仍有一部分任务是运行在 Storm 上,大部分任务目前正往 Flink 上迁移,此次主要介绍在网易杭研使用Flink的一些思考与经验分享。

https://mp.weixin.qq.com/s/TlfgTjNz85Xn2y_g5HY3dw

7HIVE

随着业务数据的不断增长,MySQL 内已经出现单表数据量两千多万的情况,当用户的任务出现  Metastore 密集操作的情况时,往往会出现缓慢甚至超时的现象,极大影响了任务的稳定性。长此以往,MySQL 在未来的某一天一定会不堪重负,因此优化 Hive 的元数据库势在必行。

https://mp.weixin.qq.com/s/UKi8_V7OMlxIWlX2XXb9OA

8MongoDB

本文讲述了MongoDB副本集的两种形式数据同步:初始化同步和复制;以及从MongoDB 4.2.7版本开始,

initialSyncSourceReadPreference参数使用和作用

https://mp.weixin.qq.com/s/hXLJYS2oyTp_yGmGiBsRcA

9Spark

Spark在DAG调度阶段会将一个Job划分为多个Stage,上游Stage做map工作,下游Stage做reduce工作,其本质上还是MapReduce计算框架。Shuffle是连接map和reduce之间的桥梁,它将map的输出对应到reduce输入中,这期间涉及到序列化反序列化、跨节点网络IO以及磁盘读写IO等,所以说Shuffle是整个应用程序运行过程中非常昂贵的一个阶段,理解Spark Shuffle原理有助于优化Spark应用程序

https://mp.weixin.qq.com/s/5b2PfuJ9aoaYZO74KgtLCQ

10Ozone

本文将重点分享Ozone如何高效利用Multi-Raft的方案调优数据节点的吞吐量,从而达到写性能优化。Multi-Raft的方案和实习也是Ozone社区在最近一次0.5.0版本发布中重要的特性

https://mp.weixin.qq.com/s/M5hAd-Fx4Z1xw4sDnvPvVg

11开心一刻

Delphi象吉普车,什么路上都能开,却在啥路上也开不好;PB就象卡丁车,只能在固定线路上开,到室外就有些不稳;VC象跑车,你开得起却买不起,而且一旦发生故障,想修都找不到毛病在哪;Java象敞棚车,不管刮风下雨还是艳阳高照,都能照开不误;VB就是摩托车,骑的时间越长,你越痛恨它!

致谢:

周蓬勃、王在道、孙亚飞、冯艺帆、陈少军、邓开表、张少华、薛述强、刘彬、刘超、廖程鹏、董言、吕西金、朱洁、蓝随、黄文辉、郭飞

猜你喜欢

#大数据和云计算机技术社区#博客精选(2017)

NoSQL 还是 SQL ?这一篇讲清楚

阿里的OceanBase解密

#大数据和云计算技术#: "四有"社区介绍

大数据和云计算技术周报(第56期)

新数仓系列:Hbase周边生态梳理(1)

《大数据架构详解》第2次修订说明

简单梳理跨数据中心数据库

云观察系列:漫谈运营商公有云发展史

云观察系列:百度云的一波三折

云观察系列:阿里云战略观察

超融合方案分析系列(7)思科超融合方案分析

加入技术讨论群

《大数据和云计算技术》社区群人数已经6000+,欢迎大家加下面助手微信,拉大家进群,自由交流。

大数据与云计算技术周报(第151期)

喜欢QQ群的,可以扫描下面二维码:

大数据与云计算技术周报(第151期)

欢迎大家通过二维码打赏支持技术社区(英雄请留名,社区感谢您,打赏次数超过108+):

大数据与云计算技术周报(第151期)

相关文章:

  • 2021-08-03
  • 2021-11-11
  • 2021-08-06
  • 2021-10-29
  • 2021-11-20
  • 2021-11-14
  • 2021-11-05
  • 2021-09-10
猜你喜欢
  • 2021-04-13
  • 2021-11-06
  • 2021-08-31
  • 2021-12-31
  • 2021-12-27
  • 2021-11-20
  • 2021-05-12
相关资源
相似解决方案