奎克的藏经阁 · 原书印刷页

人工智能与大数据技术导论 · 第 88 页

PDF 物理页索引 104 · 第3章

书名
人工智能与大数据技术导论
作者
未记录
印刷页
88
PDF 物理页
104(从 0 开始)
章节
第3章
UUID
cd4f7678-cd9b-4971-bde0-e9ad46a6cc71
来源类型
original_book
页面 SHA-256
e806977f74a7b6aa7ce6a84913d17e5a3b429c3fb5c9fdd2b994a474ac3a4208
  1. 数据吞吐量

在大数据流式计算环境中,数据吞吐量呈现出了根本性的增加。在传统的流式数据环境中,所处理的数据吞吐量往往在吉字节(GB)级别,这满足不了大数据流式计算环境对数据吞吐量的要求。在大数据流式计算环境中,数据的吞吐量往往在太字节(TB)级别以上,且其增长的趋势是显著的。然而,当前流式数据处理系统(如Storm)均无法满足太字节(TB)级别的应用需求。

大数据流式计算环境中的数据吞吐量问题的解决,一方面需要从硬件的角度进行系统的优化,设计出更符合大数据流式计算环境的硬件产品,在数据的计算能力上实现大幅提升;另一方面,更为重要的是,从系统架构的设计中进行优化和提升,设计出更加符合大数据流式计算特征的数据计算逻辑。

3.5 数据平台

企业要做AI和大数据分析,首先要考虑数据的准备,这其实就是数据平台的建设。有人也许会问:业务跑得好好的,各系统稳定运行,为何还要搭建企业的数据平台?企业一般在什么情况下需要搭建数据平台,从而实现对各种数据进行重新架构?

从业务的视角来看:业务系统过多,彼此的数据没有打通。这种情况下,涉及数据分析就麻烦了,可能需要分析人员从多个系统中提取数据,再进行数据整合,之后才能分析。一次两次可以忍,天天干这个能忍吗?人为地整合出错率高怎么办?分析不及时效率低要不要处理?

●从系统的视角来看:业务系统压力大,但很不巧,数据分析又是一项比较费资源的任务。那么自然会想到,通过将数据抽取出来,独立服务器来处理数据查询、分析的任务,从而释放业务系统的压力。

从数据处理性能的视角来看:企业越做越大,与此同时,数据也会越来越多。可能是历史数据的积累,也可能是新数据内容的加入。当原始数据平台不能承受更大数据量的处理时,或者效率已经十分低下时,重新构建一个大数据处理平台就是必需的了。

这三种情况有时并非独立的,往往是其中两种其至三种情况同时出现。这时,一个数据平台的出现不仅可以承担数据分析的压力,还可以对业务数据进行整合,从而从不同程度上提高数据处理的性能,基于数据平台实现更丰富的功能需求。

AI和大数据分析的成功需要的不仅仅是原始数据,还需要好的且高质量的数据。更准确的说法应该是,AI的成功需要那些准备好的数据。对于分析,如果进来的是垃圾,那么出去的也是垃圾,这就意味着,如果你把大量参差不齐的数据放到分析解决方案中,你将会得到不好的结果。所以,大多数数据科学家和数据分析师花费大量时间来为AI准备数据。

人工智能与大数据技术导论

88