大数据技术与应用实战

最近由于阿里的fastjson频繁爆出安全漏洞，为了避免后续升级上线的烦恼，决定弃用fastjson，使用Jackson，把现有项目中的fastjson都换成了Jackson，由于很多写法上有些不同，所以在这里把这些改过的东西做一下笔记。 当我们需要一个json对象和json数…

对于web网站，我们一般会有这样的需求，实时的计算出来当天网站的uv，尽可能快的展示出来。今天我们就讲一下基于java的set集合做一下实时uv的统计。 接下来我们定义一个周期是一天的滑动窗口，因为我们要每秒钟输出窗口的数据，所以我们紧接着窗口定义了一个1秒的触发器。 接下来我…

SQL，Structured Query Language:结构化查询语言，作为一个通用、流行的查询语言，不仅仅是在传统的数据库，在大数据领域也变得越来越流行，hive、spark、kafka、flink等大数据组件都支持sql的查询，使用sql可以让一些不懂这些组件原理的人，…

随着flink在流计算领域越来越火，很多公司基于flink搭建了自己的实时计算平台，用户可以在实时平台通过jar或者sql的方式来开发、上线、下线、运维flink任务，避免了构建flink任务的复杂性，使更多不会flink的人能够使用flink。 平时我们自己开发一个flink…

在电商领域会有这么一个场景，如果用户买了商品，在订单完成之后，24小时之内没有做出评价，系统自动给与五星好评，我们今天主要使用flink的定时器来简单实现这一功能。 首先我们还是通过自定义source来模拟生成一些订单数据. 在这里，我们生了一个最简单的二元组Tuple2,包含…

在大数据的实时处理中，实时的大屏展示已经成了一个很重要的展示项，比如最有名的双十一大屏实时销售总价展示。除了这个，还有一些其他场景的应用，比如我们在我们的后台系统实时的展示我们网站当前的pv、uv等等，其实做法都是类似的。 今天我们就做一个最简单的模拟电商统计大屏的小例子，我们…

今天我们主要聊聊flink中的一个接口org.apache.flink.api.common.functions.AggregateFunction，这个类可以接在window流之后，做窗口内的统计计算。 注意：除了这个接口AggregateFunction，flink中还有一…

flink CEP（Complex event processing），是在Flink之上实现的复杂事件处理库，可以允许我们在不断的流式数据中通过我们自己定义的模式（Pattern）检测和获取出我们想要的数据，然后对这些数据进行下一步的处理。 通过各种pattern的组合，我们…

这种问题一般发生在将flink程序部署到yarn集群的时候，由于flink启动的时候会加载hadoop下面的jar包，加到自己的classpath下面，如果hadoop的jar包和自己flink工程的jar包版本不一致就会导致这个问题，解决办法：排除自己工程中的hadoop相关…