(2)互联网领域的应用
随着互联网技术的不断发展,特别是Web2.0时代的到来,用户可以实时分享和提供各类数据。不仅使得数据量大为增加,也使得数据更多地以半结构化和非结构化的形态呈现。据统计,目前互联网中75%的数据来源于个人,主要以图片、音频、视频数据形式存在,需要实时分析和计算这些大量、动态的数据。在互联网领域中,大数据流式计算的典型应用场景如下。
搜索引擎:搜索引擎提供商们往往会在反馈给客户的搜索页面中加入点击付费的广告信息。插入什么广告、在什么位置插入这些广告才能得到最佳效果,往往需要根据客户的查询偏好、浏览历史、地理位置等综合语义进行决定。而这种计算对于搜索服务器而言往往是大量的:一方面,每时每刻都会有大量客户进行搜索请求;另一方面,数据计算的时效性极低,需要保证极短的响应时间。
●社交网站:需要实时分析用户的状态信息,及时提供最新的用户分享信息给相关的朋友,准确地推荐朋友,推荐主题,提升用户体验,并能及时发现和屏蔽各种欺骗行为。
(3) 物联网领域的应用
在物联网环境中(如环境监测),各个传感器产生大量数据。这些数据通常包含时间、位置、环境和行为等内容,具有明显的颗粒性。由于传感器的多元化、差异化以及环境的多样化,这些数据呈现出鲜明的异构性、多样性、非结构化、有噪声、高增长率等特征。所产生的数据量之密集、实时性之强、价值密度之低是前所未有的,需要进行实时、高效的计算。在物联网领域中,大数据流式计算的典型应用场景如下。
●智能交通:通过传感器实时感知车辆、道路的状态,并分析和预测一定范围、一段时间内的道路流量情况,以便有效地进行分流、调度和指挥。
●环境监控:通过传感器和移动终端对一个地区的环境综合指标进行实时监控、远程查看、智能联动、远程控制,系统地解决综合环境问题。
上述这些应用场景对计算系统的实时性、吞吐量、可靠性等方面都提出了很高要求。大数据流式计算的3种典型应用场景的对比如下。
●从数据的产生方式看,金融银行领域的数据往往是在系统中被动产生的,互联网领域的数据往往是人为主动产生的,物联网领域的数据往往是由传感器等设备自动产生的。
从数据的规模来看,金融银行领域的数据与互联网、物联网领域的数据相比较少,物联网领域的数据规模是最大的,但受制于物联网的发展阶段,当前实际拥有数据规模最大的是互联网领域。
从技术成熟度来看,金融银行领域的流式大数据应用最为成熟,从早期的复杂事件处理开始就呈现了大数据流式计算的思想,互联网领域的发展将大数据流式计算真正推向历史舞台,物联网领域的发展为大数据流式计算提供了重要的历史机遇。
3.3.2流式大数据的特征
图3-5用有向无环图(Directed Acyclic Graph,DAG)描述了大数据流的计算过程。其中,
人工智能与大数据技术导论
70