PDF 物理页索引 420
文件中的第 421 页 · 印刷页码:404
人工智能与大数据技术导论
●并行数据挖掘能力与R语言支持
目前,江苏银行已经采购SAS数据挖掘工具,在风险管控、市场营销、产品定价等领域开展了一系列的模型开发和策略设计等业务应用,随着Hadoop大数据平台的引入,江苏银行开始积极探索基于并行数据处理技术下的R语言运用,R语言可以直接访问Hadoop数据,为全表、全字段立体式的数据挖掘提供了坚实的技术保障。利用R语言的机器学习算法,如深度学习算法,可以快速从风险、市场营销、差别化服务等角度对客户进行细分。Hadoop平台通常只支持单机版R,在选型时,江苏银行重点考虑了R算法的支持度问题,要求所选Hadoop平台对R算法的支持超过70种以上。
●非结构化数据处理能力
当前,国内各银行已建有数据仓库或数据集市平台,大数据平台的引入往往独立于数据仓库,对于某些场景,将结构化数据与非结构化数据整体应用具有更好的分析效果。大数据平台和传统数据仓库应如何有效整合?
首先需明确“结构化”和“非结构化”数据概念。狭义地理解,结构化数据指关系型数据,其余都是非结构化数据。广义地理解,结构化数据是相对于某一个程序来讲的,如视频对于播放器来说显然是结构化的,但是对于文本编辑器来说就是非结构化的。
基于上述理解,江苏银行认为,无论是语音、影像还是其他“狭义”的非结构化数据,只要和银行的经营管理、业务发展有关,就可以作为大数据应用的一个数据源,技术上借助特定工具对其进行处理即可使用。通常HTML网页被认为是非结构化数据,因为难以从中提取结构化字段,如电商网页上的商品名称、产品价格等,但借助网页抓取工具,可将上述页面信息转化为结构化字段,后续按照结构化数据处理即可。语音、影像也是一样,关键是我们期望从中提取什么信息,用什么工具提取,一旦提取成功,即可整合到大数据应用中。在实践中,江苏银行大数据平台已实现网页、文本、JSON、XML等非结构化数据整合以及部分图像和语音数据的整合,并应用到了业务分析中。
13.3 金融宏观大数据分析
随着金融市场的创新和发展,金融风险变得越来越复杂,需要更多的数据支撑和复杂的数学模型来量化描述,大数据和人工智能技术将成为未来金融风险管理的利器。
目前,业内的银行大数据强调在微观层面的应用,例如评价消费者的信用风险、支持投资决策、识别金融主体的身份等。随着大数据分析和挖掘技术的不断提高,微观的银行大数据可以经过整合、匹配和建模来支持宏观的金融监管和决策。传统的金融监管和决策以定性为主,辅助以简化的量化指标,对实际情况缺乏充分的把握,而大数据技术可以充分利用底层的细粒度的微观数据,整合分散的信息,融合不同维度的信息,带来具有及时性、前瞻性和更为准确的决策支持,提高监管水平和决策能力。本节将以金融系统性风险管理、银行存款保险费率的计算、对欺诈交易的检测和经济结构变化4个方面为例介绍银行大数据在宏观金融决策和监管中的应用。
404
PDF 物理页索引 421
文件中的第 422 页 · 印刷页码:405
1.金融关联的系统性风险管理
金融危机之后,全球金融市场的关联性远胜于过去。市场的互动性一旦大大加强,就会导致流动性风险和系统性风险,造成市场恐慌。国内的信贷担保圈(多家企业通过互相担保或联合担保而产生的特殊利益群体)就是金融关联的典型代表。由于信贷市场的发展,关联的企业越来越多,互相形成担保圈,甚至形成一张巨大的网。在经济平稳增长期,担保圈会降低中小企业融资的难度,推动民营经济的发展。然而,一旦经济下行,担保圈就会显露其负面影响加剧信贷风险。如若处理不当,极易引发系统性金融风险。过去几年,在南方企业担保流行的省份,往往一家企业出现信贷不良,一群企业遭殃,一个行业陷入泥潭,整个地区面临系统性风险,一些本来毫不相于、资金链正常、经营良好的企业也由于担保关联,跌入破产的深渊。信贷市场担保圈问题一度愈演愈烈,传统的担保圈分析方法对理解、处理担保圈问题作用有限。企业之间担保贷款本来是一种中性的信用增进方式,恰当地使用会产生风险释缓作用,由于担保圈风险迭出,银行和监管部门把问题归结到担保贷款本身,目前各家银行采取了比较严格的限制条款来避免担保贷款的发生。
任何信贷产品都存在风险,金融机构本身就是经营风险的专业机构。从专业角度来说,担保圈风险发生的根本原因是缺乏合适的风险管理工具,没有对担保圈进行正确的风险管理。目前对于担保圈的量化风险分析存在以下问题。
首先,缺乏担保圈全量的大数据,没有足够的信息支撑。各家银行和当地的监管机构只有局部的企业担保关联数据,构不成完整的担保圈视图,风险信息有缺漏。无法了解整个担保圈相关企业的详细信息,因此处理具有系统性风险特点的担保圈风险具有很大的局限性。
其次,无法对担保圈风险进行建模,对风险进行正确的量化描述。传统的风险分析工具都是对单个企业进行风险建模,适合对企业的贷款金额、贷款质量以及信贷行为建模,对于企业之间的关联关系无法进行量化描述和风险分析。
因此,我国有必要借助大数据的复杂系统分析方法,启动对担保圈的深入分析,为化解因担保圈引发的金融风险创造条件。要考虑的条件有:一是央行征信系统已收集了大量丰富的企业担保关系数据,中国人民银行征信中心为数千万企业建立了信用档案,有信贷记录的企业超过600万家,关联关系信息(仅限于有贷款卡的用户)超过2亿条:二是复杂网络技术已日趋成熟,复杂网络是由数量巨大的节点(研究对象)和节点之间错综复杂的关系(对象之间的关系)共同构成的网络结构,复杂网络分析技术针对越来越多、越来越复杂的事物之间的关联关系进行非线性建模,可以较好地解决大数据的数据量(Volume)、数据复杂程度(Variety)和处理速率(Velocity)等基本问题。
- 银行存款保险费率的计算
作为金融市场化进一步深入的重大举措,银行存款保险制度已经实施,这不仅有利于稳定宏观金融,也对利率市场化后商业银行的稳健经营和有序竞争有利。存款保险费率的厘定是存款保险制度的一个核心,而保费的估算是设计存款保险方案的难题之一。保费结构的设计在很大程度上决定了存款保险对于参保银行的可接受度。想降低道德风险并减少逆向选择,取决于合理的保费结构。国内对于银行存款保险的研究以定性为主,对保险费率计算的量化分析比较欠缺。
第13章 银行业大数据和人工智能
405
PDF 物理页索引 422
文件中的第 423 页 · 印刷页码:406
从国外信贷数据的应用情况来看,信贷数据有助于银行监管者准确评估监管对象的信用风险状况。对于建立了公共征信系统的国家来说,风险分析技术可以成为有效的监管工具,由于银行业的危机通常和高的不良贷款率相关,信贷数据常常用于信贷市场监控和银行监管,是银行监管统计数据的补充。因此,央行信贷大数据不仅可以帮助商业银行管理信用风险,还可以支持监管和宏观经济分析。未来的研究可以利用信贷大数据,基于预期损失模型来计算银行存款保险费率,从最基础的信贷数据单元开始计算,给保费制定提供更加及时、准确的决策支持。
- 进行精细化的金融监管
技术进步加上日益复杂的市场,会使得金融监管机构的工作变得艰难复杂,但大数据技术的发展提供了化解之道,让金融市场维持良性运转成为可能。例如,金融监管机构正利用计算和“机器学习”算法的最新进展扫描金融市场信息和公司财报,从中找出欺诈或市场滥用行为的蛛丝马迹。这些基于大数据分析技术的新型监管工具是金融交易欺诈侦查的未来,有越多的数据积累,其功能就将越强大。美国证交会几年前就推出了一个称为“机械战警(Robocop)”的计算机程序(学名“会计质量模型”),用证交会的金融数据库检查企业利润报告,从中搜寻可能隐藏的异常行为激进的会计手法或赤裸裸的欺诈。“机械战警”的具体情况、手法透露给外界的信息很少,但其基本思路是:通过大数据分析,发现多个可能暗示着潜在会计问题的重要指标。
- 观测产业结构调整的新角度
金融大数据的深入挖掘还可以反映宏观经济变化的规律。例如,可以通过信贷大数据来观测产业结构的调整。几千万户企业及其他组织被收录进企业征信系统,大量企业拥有信贷记录,该系统累计提供信用报告查询服务数十亿次。该系统数据有三大特点:
(1)全面,数据采集覆盖了国内绝大部分金融机构。
(2)真实,所采集的数据来自于金融机构实际发生的每笔信贷业务,统计结果得自每笔业务数据的汇总相加,数据可追溯,从而可还原每笔明细。
(3)时间跨度长,企业征信系统始自银行信贷登记咨询系统,2005年起提供对外服务,已运行了10年有余,意味着系统收集数据已超过10年,因此,对于分析国内企业的行业行为和行业情况很有价值。例如,可以将这些账户级的信贷数据逐层整合成企业级和行业级,利用大数据挖掘、分析,从信贷市场角度剖析产业结构的变化。
金融大数据分析可以成为宏观金融决策和监管的有力工具,可以在市场化金融发展的过程中发挥重要的作用。与微观金融大数据的应用方面很多金融科技公司没有足够的金融大数据的情况不同,国内的金融大数据都掌握在政府和监管部门的手中,金融大数据的宏观应用有着良好的数据条件,更容易见到成效。
人工智能与大数据技术导论
406
PDF 物理页索引 423
文件中的第 424 页 · 印刷页码:407
13.4 小结
大数据平台以分布式、弹性可扩展、高可用性、适应快速变化的大数据体系为架构,能兼顾大数据批量处理和小数据精确查询并存的混合应用场景,兼容结构化、半结构化、非结构化等海量数据的低成本存储,快速批处理加工数据,同时实现对相关数据接入、传输、交换、共享与服务全流程的实时监控与管理,为多种实时决策类及数据分析类应用提供高效、有力的支持。大数据平台是银行数据整合、处理、加工、分析、应用的基础性技术支撑平台。
未来10年将是银行大数据和人工智能应用的黄金时代。大数据作为经济新常态背景下银行业提高生产率的新杠杆,是实现信息化银行、数字化银行的关键因素,是推动转型的核心驱动力,是解决信息不对称问题、有效控制风险的主要手段。当前,大数据分析和人工智能应用能力已成为大型商业银行的核心竞争力,受到高度重视。各银行纷纷将大数据和人工智能作为“十三五”规划的重大战略发展方向,加快开展大数据和人工智能建设。
13.4.1大数据给银行带来的机遇与挑战
- 加速数据应用与业务创新
商业银行的很多业务创新依赖于基于数据的洞察。在经过20多年的业务电子化、数据大集中建设后,商业银行已具备数据资源方面的明显优势,基于大数据和人工智能的业务创新空间巨大,涉及客户洞察、服务提升、风险防范、精准营销等领域。
数据应用及业务创新的生命周期通常包含5个阶段:业务定义需求;IT部门获取并整合数据;数据科学家构建并完善算法与模型;IT系统部署;业务应用并衡量成效。在大数据环境下,数据应用及业务创新的生命周期还是这5个阶段,但发生了4个方面的重大变化。
数据量更大、数据源更多,一般情况下使用简单算法就能实现业务洞察,与以往因数据源单一、样本少而需要复杂算法的做法不同。
●算法与技术手段更加多样,有助于IT和业务挖掘新的关联关系。
业务和IT的合作模式转变为联合开展数据探索和分析挖掘,IT部门更擅长获取全面、细节的信息,更了解数据的血缘关系,业务部门更懂得数据的真实意义和业务需求,两者紧密合作有利于更好、更快地建立算法模型。
数据应用及业务创新的生命周期大幅缩短,由传统技术环境下的半年乃至更长的时间缩短为几周或更短的时间。以往IT交付和支持效率制约了业务创新的步伐,在大数据环境下,数据应用的开发和交付周期大幅缩短,“小步快跑”成为业务创新的方式。
大数据运作模式使得快速、低成本试错和迭代创新成为可能,即数据分析中一旦发现有价值的规律,就快速开发新产品并进行商业化推广,若效果不理想,则果断退出。这种模式使得商业银行可以关注过去由于种种原因被忽略的大量“小机会”,并将这些“小机会”快速累积迭代形成“大价值”。
第13章 银行业大数据和人工智能
407
PDF 物理页索引 424
文件中的第 425 页 · 印刷页码:408
此外,数据的聚合与共享为金融机构搭建生态系统提供了新的场景与动力。商业银行可以更加积极快速地开展内部跨业务条线合作,以及外部同业、跨行业合作。
- 推进银行数字化转型
数字银行以大数据、移动互联网、人工智能等先进信息技术为支撑,全面强化了“以客户为中心”的理念,强调通过数字化的宽带网络和移动互联网等新兴渠道为客户提供便利化服务以增加客户黏性。数字银行的构成包括4个部分:以客户信息安全为核心,实现多样化服务渠道,实现客户化服务流程,实现常态化服务创新。
传统银行为实现“以客户为中心”进行了大量努力,却仍感到对客户的需求了解得不够,而客户也常常抱怨银行服务太差,银行与客户之间存在着巨大的信息不对称的鸿沟。大数据为银行观察客户、分析客户提供了一个全新的视角,基于海量的、多样性的数据,银行可以获得更及时、更具前瞻性的客户信息,大数据技术为银行深入洞察客户提供了新的图景和可行的解决方案。
银行在数据来源方面具有多渠道多触角的优势,拥有大量的客户行为数据,客户通过各种渠道与银行互动都留下了痕迹,这些动态信息与客户财务数据等静态信息相比,更具稳定性,基于客户行为数据的分析挖掘也使得银行对客户的了解更加准确。
当前,一方面,移动智能终端、手机App以及基于网络层的数据采集技术的快速发展使得第一时间获取客户动态信息成为可能;另一方面,大数据领域的流计算技术为实时客户行为分析、风险和信用评估、反欺诈检查、产品精准推荐提供了低成本的高速运算平台(毫秒级快速响应,实现算法或模型的动态迭代,与联机交易系统实现联动),使得商业银行能够更加灵敏地感知商业环境和客户需求,更加顺畅地搭建反馈闭环,实现数据驱动的个性化金融服务推荐,开展事件营销和交叉营销,在提高营销成功率的同时提升客户体验,甚至可以基于以往的接触信息或外部信息,针对潜在客户提供更精准的产品推荐和更好的客户体验,实现更好地获客。
- 推动IT部门从后台走向前台
大数据应用过程中,跨系统、跨业务条线的数据汇聚和数据整合需要IT部门规划和实施,跨业务条线的数据开放和共享需要IT部门推动,将数据转变为可理解的信息需要IT部门加工。一个独立于IT的业务部门将很难对快速进化的数据平台、数据集合、信息库、模型库和知识库进行高效管理。
在大数据和人工智能平台上,业务部门和IT部门只有紧密合作、相互依赖、联合创新,才能实现从数据到价值的高效转化。可以预见,大数据和人工智能的深度应用必然将IT部门从“后端”不断推向“前台”。银行科技部门也应清晰地认识到“大数据是实现IT引领”最重要的抓手”,与业务合作开展产品创新、流程创新,推进银行转型,促使银行管理从基于经验的管理向以数据分析为基础的精细化管理转变。由此,商业银行中IT部门的定位也将发生巨大变化。
首先,IT部门从业务发展的支撑者转变为业务创新的合作伙伴。IT部门应建立专业的数据分析团队,高效地开展数据采集、整合和分析加工工作,结合业务需求不断开发数据产品和工具平台,与业务部门一起开展模型、指标研发,支持业务部门开展分析洞察和推广应用,为业务开展提供服务保障、决策分析、优化建议等运营支持,推进银行业务流程创新、产品创新和服务创新。
人工智能与大数据技术导论
408
PDF 物理页索引 425
文件中的第 426 页 · 印刷页码:409
其次,数据分析中心将逐步从成本中心向利润中心转变。通过对数据的深入挖掘与使用,科技部门对内可以研发推广数据产品,开展数据运营,创造业务效益,对外可以提供数据服务能力输出,通过外部合作实现数据资产的增值变现,直接给银行带来营业收入。
- 建立“开放、共享、融合”的大数据体系
银行拥有丰富的信息系统和数据资源,每个系统及其数据都有归口的业务部门。数据虽多,但整合困难。数据的存在状态反映了整个组织的现状,即“部门分制”。数据在组织内部处于割裂状态,业务条线、职能部门、渠道部门、风险部门等各个分支机构往往是数据的真正拥有者,而这些拥有者之间却常常缺乏顺畅的数据共享机制,跨业务条线、跨部门的数据利用一般要经过跨条线、跨部门的协调和审批。这种模式导致了金融机构中的海量数据往往处于分散和“睡眠”状态。而大数据要想发挥大价值,需要“全量”数据的支撑,要求金融机构的内部数据必须实现高度整合和共享。目前,多数银行还没有建立“开放、共享、融合”的大数据体系,数据整合和部门协调等问题仍是阻碍金融机构将数据转化为价值的主要瓶颈。
- 制定大数据安全策略
大数据的整合、跨企业的外部大数据合作不可避免地加大了客户隐私信息泄露的风险。银行业在因大数据而获益的同时,也面临着随之而来的风险。信息安全事件的频发将大数据安全问题推向了风口浪尖,有效防范信息安全风险成为商业银行大数据应用中急需解决的问题。
商业银行要合理制定大数据安全策略,一是围绕大数据生命周期进行部署,在数据的产生、传输、存储和使用的各个环节采取安全措施,提高安全防护能力,减少内部违规及管理疏漏风险,并出台相关安全法规,理性分析“大数据热”,扎实做好基础性工作:二是在数据存储、数据访问、数据传输和数据销毁等多个环节做好数据安全控制,提高安全意识,出台相关法规和政策措施,合理改造、建设和布局IT基础设施。
13.4.2银行大数据体系建设的思考
商业银行大数据体系建设是一个系统工程,门槛较高、投入大、周期较长、影响面广且深远。商业银行在大数据体系建设中可借鉴互联网企业、电信运营商等先进企业的经验,结合自身特点,综合考虑以下原则。
- 业务为本、应用为先
大数据应用的目的是创造价值。银行大数据服务能力只有与业务场景、业务产品、业务经营活动结合起来,才能转化为业务价值。
大数据不能一味追求“数据规模大”,而要坚持“业务为本、应用为先”。只有这样,才能让大数据建设有明确的方向,才能得到管理层和业务部门的支持,否则可能陷入大数据的汪洋大海,迷失在各类数据处理或各种新技术研究中。
第13章 银行业大数据和人工智能
409
PDF 物理页索引 426
文件中的第 427 页 · 印刷页码:410
银行大数据应用不是搞底层研发,而是要解决实际问题,实际问题只能来源于业务。大数据可应用的方向很多,如客户服务提升、信用评级、风险防范、业务拓展、业务创新等,银行不可能在同一时间面面俱到,还要找准方向,聚焦问题,找准业务合作部门,重点突破,分步建设。
尽管大数据产生价值的潜力巨大,但也不能急功近利。大数据的价值类似于“蜜蜂模型”,即除了蜂蜜的价值外,更大的价值在于传粉对农业的巨大贡献。也就是说,大数据除了产生直接的财务价值外,更体现在对商业模式变革的推动作用上。
- 数据是根本
中国工程院李国杰院士指出,大数据的力量来自“大成智慧”。每一种数据来源都有一定的局限性和片面性,只有融合、集成各方面的原始数据,才能反映事物的全貌。事物的本质和规律隐藏在各种原始数据的相互关联之中。对同一个问题,不同的数据能提供互补信息,综合分析可对问题有更深入的理解。因此在大数据分析中,汇集尽量多来源的数据是关键。
大数据能不能出智慧,关键在于对多种数据源的集成和融合。单靠一种数据源,即使数据规模很大,也可能出现“瞎子摸象”似的片面性。数据的开放共享不是锦上添花的工作,而是决定大数据成败的关键因素。
数据是未来商业银行的核心竞争力之一,决定着银行的未来发展,这已成为银行业的共识。银行拥有丰富的数据资源,不仅存储了大量结构化的账务数据、强实名认证的客户信息,还存储了大量用户浏览、行为点击等非结构化数据。
银行通过整合客户交互、交易流水、位置轨迹等数据,从海量数据中沉淀并提升银行数据资产,形成以客户为中心的指标标签体系,并在银行内部各个部门、各个条线间进行共享,节省数据成本,减少信息不对称风险。
同时,通过跨行业的外部合作,如与互联网公司、电信运营商、征信企业等建立数据战略合作关系,在保障数据安全的基础上开展数据合作,打通单一行业的大数据孤岛,实现跨行业的数据共享。
- 平台是基础
海量、高效、弹性、共享的大数据平台是银行大数据能力的关键组成部分,是提高数据采集、整合、分析效率,缩短数据应用和业务创新周期的关键。
大数据平台不仅包括Hadoop分布式批量数据处理系统,更是一个多样化的生态系统。在数据处理维度方面,包括数据采集层、数据整合层、数据分析层、数据应用层;在数据服务维度方面,包括数据存储与分析探索区、数据产品与服务区、实时流处理区;在数据管理维度方面,包括源数据管理、指标管理、元数据管理、数据安全管理等模块。
单一的技术平台或工具产品不可能满足多样的结构化和非结构化数据处理的需求,这决定了大数据平台的技术架构必然是混搭架构,既有分布式,也有集中式的集群;既有面向业务的应用集群,也有面向客户的应用集群。大数据平台的规划设计需要自下而上的业务需求与自上而下的总体规划相结合,要具有前瞻性和灵活性。
人工智能与大数据技术导论
410
PDF 物理页索引 427
文件中的第 428 页 · 印刷页码:411
- 数据质量是保障
大数据应用对企业的数据治理能力提出很高要求,在数据质量没有保障的情况下开展大数据应用,其结果很可能是“精确误导”。因此,商业银行的大数据建设从一开始就必须坚持数据质量是保障的原则。
尽管大部分银行已经建立起一定的数据治理机制,但随着大数据应用的深入,还需结合大数据特点,完善兼顾传统数据平台和大数据平台的新型数据治理机制,包括数据标准、主数据管理、数据生命周期管理、元数据管理等。
在大数据体系建设中,要建立起配套的源数据管理、指标管理、模型管理、安全管理等规范、流程和对应的工具平台,更要落地集中化管控,做好大数据平台的生命周期管理。
- 人才是关键
大数据工程的实质是人才工程,数据采集、数据整合、数据理解和探索、数据分析、数据产品开发等各项工作都需要人力投入。机器学习、人工智能方面的众多工具也需要高素质人才的驾驭和互动。
当前商业银行的大数据建设急需熟练掌握大数据技术的专业技术人才、大数据分析人才和数据产品创新人才,而现有的人才体系中,上述人才匮乏,商业银行IT人员中,掌握传统技术架构的人才多,掌握新兴大数据技术和工具的人才不足:传统软件研发人员多,但数据科学家、数据工程师很少或几乎没有,具有深刻互联网思维的产品创新人员更是严重缺乏。
随着大数据热潮的到来,大数据人才对社会而言也是稀缺资源,与互联网企业相比,传统商业银行并不具备吸引大数据人才的优势,其至缺乏引进稀缺人才的灵活机制。在这样的背景下,商业银行的大数据人才战略应以自主培养为主,应尽快建立一支由大数据战略专家、数据科学家、数据技术人才组成的大数据专业团队。
此外,商业银行还应建立和完善有利于人才成长的体制和机制以及良好的工作氛围,拓宽政策渠道,创造有利的工作条件,建立科学的用人制度和人才培育计划,充分调动员工的积极性、主动性、创造性,为大数据服务体系建设提供有力的人才保障。
第13章 银行业大数据和人工智能
411
PDF 物理页索引 428
文件中的第 429 页 · 印刷页码:未识别
第14章
医疗大数据和人工智能
医疗大数据是重要的基础性战略资源之一,其应用发展将推动健康医疗模式的革命性变化。医疗大数据的人工智能分析应用可优化医疗资源配置、降低医疗成本、提升医疗服务运行效率、突发公共卫生事件预警与应急响应,将对我国社会和人民的生活等产生重大而深远的影响,具有巨大的发展潜力、商业机会和创业空间。为推动医疗大数据的快速发展,国家相继出台了一系列相关政策,并把医疗大数据上升为国家战略。
在国家层面的积极倡导下,各地政府、医疗机构和相关企业等开始从不同环节切入,进行医疗大数据建设,并积极探索相关业务应用。比如,福州建立了国家健康医疗大数据平台,接入了数十家医院,电子病历数千万份,数据存储条数数十亿条;东软公司建立了肿瘤大数据平台,采集多方数据,进行数据脱敏,实现肿瘤大数据的智能分析和应用,支持临床辅助决策。在精准医疗领域,中国科学院、中国医学科学院、北京大学等研究机构通过基因测序帮助病人预测疾病,进行个性化的精准医疗。
在美国,出现了专门为医疗健康行业提供大数据分析和解决方案的服务公司,如总部位于美国马里兰州的Inovlon,已经在2015年成功登陆纳斯达克。大型IT公司也纷纷为医疗健康行业提供大数据分析产品。比如,IBM公司提供了Watson人工智能分析平台,通过认知计算来吸收结构化和非结构化的数据,每秒处理500GB的数据,提供病人互动、临床护理、诊断、研究、数据可视化等服务,经过数据处理与分析,依据与疗效相关的临床、病理及基因等特征,为医生提出规范化临床路径及个体化治疗建议,疾病诊断正确率能够达到75%。
14.1 医疗大数据的特点
医疗大数据是指在医疗服务过程中产生的与临床和管理相关的数据,包括电子病历数据、医学影像数据、用药记录等。医疗大数据除了具有大数据的“4V”特点外,还包括时序性、隐私性、不完整性等医疗领域特有的一些特征。
规模大(Volume):1个CT 图像约为150MB,1个基因组序列约为750MB,1份标准的病历约为5GB;1个社区医院数据量约为数TB至PB,全国健康医疗数据到2020年约为35ZB。医疗行业在数字世界中占比为30%。
类型多样(Variety):包含文本、影像、音频等多类数据。
PDF 物理页索引 429
文件中的第 430 页 · 印刷页码:413
增长快(Velocity):信息技术发展促使越来越多的医疗信息数字化,大量在线或实时数据持续增多,如临床决策诊断、用药、流行病分析等。据权威机构预测,医疗数据每年以48%的速度增长。
●价值巨大(Value):医疗数据的有效使用有利于公共疾病防控、精准诊疗、新药研发、医疗控费、顽疾攻克、健康管理等,但数据价值密度低。
●时序性:患者就诊、疾病发病过程在时间上有一个进度,医学检测的波形、图像均为时间函数。
●隐私性:患者的医疗数据具有高度的隐私性,泄露信息将造成严重后果。
●不完整性:大量来源于人工记录,导致数据记录的残缺和偏差,医疗数据的不完整搜集和处理使医疗数据库无法全面反映疾病信息。
●长期保存性:医疗数据需要长期保存。
14.2 医疗大数据处理模型
医疗大数据平台中的数据从医院信息平台获取,依据相关业务应用经整合、加工后,供医护人员、患者和医院管理人员使用,医疗大数据处理模型如图14-1所示。
第14章 医疗大数据和人工智能
413