奎克的藏经阁 · 原书印刷页

人工智能与大数据技术导论 · 第 71 页

PDF 物理页索引 87 · 第3章

书名
人工智能与大数据技术导论
作者
未记录
印刷页
71
PDF 物理页
87(从 0 开始)
章节
第3章
UUID
cd4f7678-cd9b-4971-bde0-e9ad46a6cc71
来源类型
original_book
页面 SHA-256
6e1fe5f2da1b43b0031dba461025c959448f67b6924ad781bdf4a18a793bd3b4

圆形表示数据的计算节点,箭头表示数据的流动方向。

  1. 实时性

流式大数据是实时产生、实时计算的,结果反馈往往也需要保证及时性。流式大数据价值的有效时间往往较短,大部分数据到来后直接在内存中进行计算并丢弃,只有少量数据才被长久保存到硬盘中。这就需要系统有足够的低延迟计算能力,可以快速地进行数据计算,在数据价值有效的时间内体现数据的有用性。对于时效性特别短、潜在价值又很大的数据可以优先计算。

  1. 易失性

在大数据流式计算环境中,数据流往往是到达后立即被计算并使用。在一些应用场景中,只有极少数的数据才会被持久化地保存下来,大多数数据往往会被直接丢弃。数据的使用往往是一次性的、易失的,即使重放,得到的数据流和之前的数据流往往也是不同的。这就需要系统具有一定的容错能力,要充分地利用好仅有的一次数据计算机会,尽可能全面、准确、有效地从数据流中得出有价值的信息。

  1. 突发性

在大数据流式计算环境中,数据的产生完全由数据源确定,由于不同的数据源在不同时空范围内的状态不统一且发生动态变化,导致数据流的速率呈现出了突发性的特征。前一时刻的数据速率和后一时刻的数据速率可能会有巨大的差异,这就需要系统具有很好的可伸缩性,能够动态适应不确定流入的数据流,具有很强的系统计算能力和大数据流量动态匹配的能力。一方面,在突发高数据速率的情况下,保证不丢弃数据,或者识别并选择性地丢弃部分不重要的数据:另一方面,在低数据速率的情况下,保证不会太久或过多地占用系统资源。

  1. 无序性

在大数据流式计算环境中,各数据流之间、同一数据流内部各数据元素之间是无序的:一方面,由于各个数据源之间是相互独立的,所处的时空环境也不尽相同,因此无法保证数据流间的各个数据元素的相对顺序;另一方面,即使是同一个数据流,由于时间和环境的动态变化,也无法保证重放数据流和之前数据流中数据元素顺序的一致性。这就需要系统在数据计算过程中具有很好的数据分析和发现规律的能力,不能过多地依赖数据流间的内在逻辑或者数据流内部的内在逻辑。

第3章 数据

71