表1 企业与政府大数据项目的属性对比 

　　对于政府的大数据项目而言，确保获取高度管制行业（比如金融服务和医疗机构）信息的合规性，是搜集数据的另一个障碍。比如，当从与医疗相关的大数据获取有效信息的时候，必须解决美国医疗管制制度对数据保护的问题。针对医疗行业的大数据分析，美国与医疗相关的两个法案健康保险携带和责任法案(HIPAA)、经济和临床健康医疗信息技术法案(HITECH)均设置了很大障碍。

图1 企业和政府数据集属性比较 

　　HIPAA保护涉及个人隐私的健康信息，并提出了保护电子数据和病人档案的国家标准，而且制定了保护在分析病人安全事件中病人身份和信息的规则。2009年，HITECH延伸了HIPAA在保护医疗记录和医疗信息被不同机构以电子方式使用方面的规定。这些法律规定限制了医疗记录数据信息用于大数据分析的数量和类型。因为大数据定义涉及到大范围的数据，而这些法规把搜集数据和进行分析限定在一个狭小的范围。目前在美国，能够用于大数据分析的医疗信息只能来自于志愿者提供。

　　企业使用大数据，目的是了解消费者的需求和行为，发展独有的核心竞争力，并创新产品和服务；政府使用大数据，是为了通过预测性分析，提高政策透明度，增加公民对公共事务的参与度和预防犯罪，改善国家安全，通过更好的教育和医疗提高居民福利。

　　开发从大数据中提取更多价值的技术，对于政府和企业来说都是持久挑战。然而，对于政府的挑战来得更尖锐，因为其必须打碎部门间的阻隔以推进数据集成，实现各部门信息共享，并建立统一的数据调控中心(如美国联邦数据中心)。

　　大数据应用 

　　目前，世界上有一些发达国家已经在政府部门开始推广大数据应用。通过分析和比较这些先发国家的大数据应用，我们能了解当前和未来需要大数据应用聚焦和服务的地方，并为其他国家开展大数据应用提供借鉴。

　　美国 

　　为了对海量数据流的实时分析管理，美国政府和IBM在2002年合作开发了一个容量巨大、聚集性强的大数据基础架构。IBM基于Hadoop、流计算、数据仓库等开发的InfoSphere Stream和Big Data，被政府机构和商业组织广泛应用于海量实时数据源的分析和可视化、二次应用程序开发和系统管理等。

　　2009年，美国政府“一站式数据下载”网站data.gov正式上线，并作为向政府透明化和问责制迈进的一个步骤。该网站包括了420894个数据集（截至2012年8月），囊括了交通、经济、医疗、教育和人口服务等方面的数据。数据来源于多个方面，其中1279个由政府提供，236个由居民提供，103个由移动设备提供。

　　2010年，美国总统科学技术顾问委员会（联邦政府协调非分类网络和信息技术投资的主要机构）在《规划数字化的未来》中建议，“联邦政府的每一个机构和部门，都需要制定一个应对‘大数据’的战略”，标志着大数据时代已经正式来临。

　　2012年，奥巴马政府颁布了《大数据的研究和发展计划》，通过提高从大型复杂的数字数据集中提取知识和观点的能力，进而加快美国在科学与工程中的步伐，加强国家安全，并改变教学研究。这是一个数额高达2亿美元的投资计划，涉及多个联邦部门和机构，包括白宫科学技术政策办公室、美国国家自然基金会、美国国立卫生研究院、美国国防部、美国能源部、美国卫生与公众服务部、美国地质调查局等机构。这个投资项目的主要目的是提高大数据核心技术的发展水平，加速科学和工程开发，加强国家安全，转换大数据教育和学习方式，扩展开发和使用大数据技术的工作力量。

　　截至2014年2月，美国国立卫生研究院（NIH）在亚马逊网络服务中心已经积累了数以百万亿字节的人类遗传变异数据，研究人员因此能获得和分析巨量数据，而不用再去发展自身的超级计算能力。在2012年，美国国家科学基金会联合美国国立卫生研究院（NIH）实施了提高大数据科学与工程核心技术规划，目的在于推进从大量、多样化、分布式、异质性的数据集合中管理、分析、可视化和提取有用信息的核心科学技术。

　　美国其他政府机构也开始进行大数据分析。美国国家税务局已经在它的返回审查程序中集成了大数据分析能力。通过分析大量的数据，美国国家税务局能够检查、预防和处理避税和诈骗案。美国国防部也在大数据相关项目花费了数百万美元，其目标之一就是利用大数据发展自主机器人系统（学习机器）。

　　美国地方政府也开发了大数据项目。例如，在2011年，美国纽约州锡拉丘兹市政府与IBM合作开展了一个智慧城市项目，使用大数据帮助预测并阻止住宅空置。密歇根州政府信息技术部构建了一个数据库，提供密歇根州居民的相关信息，以便政府机构提供更好的服务。

        政府使用大数据是为了提升和改善公共服务，这与企业利用其追求利润异曲同工。

　　大数据是从各种各样来源中搜集得到的海量数据信息的总称。对于传统的关系型数据分析技术来说，其数据量太大，未经处理，同时也是非结构化的。据统计，现在每天产生2.5艾字节(quintillion bytes)的数据信息，全球将近90%的数据是过去两年创造出来的。

　　此外，从大数据的数据结构看，大约90%的数据是非结构化的。来源于网络和云的海量数据，为发现、创造价值，以及丰富商业智能支撑机构决策提供了新的机遇。不过，大数据也面临复杂性、安全和隐私风险等新挑战。同时，对于新技术和人类技能的开发来说，大数据是一种需要。

　　大数据重新定义了数据管理的范围，由数据提取、转换、加载，或称为ETL(Extraction-Transformation-Loading)，演变为在大数据应用中净化和组织非结构化数据的新技术（如分布式架构技术）。

　　尽管企业部门正引导大数据应用的发展，公共部门也开始对迅速增长的大数据具有洞察力，为实时决策提供帮助和支持。

　　大数据有多个来源，包括互联网、生物和产业部门、视频、电子邮件和社交媒体。许多白皮书、期刊论文和商业报告已经提出了政府利用大数据，帮助其服务公众和应对传统挑战（如医疗成本上升、创造就业、自然灾害和恐怖主义等）的路径。

　　也有一些观点，就大数据是否真能改进政府运作效率提出质疑，因为政府必须发展新的能力，并采用新技术（比如分布式和非结构化查询语言），通过数据组织和分析，将大数据转变为有用的信息。

　　本文就政府是否能与企业一样，将大数据应用于公共服务部门进行了研究。我们首先比较了政府和企业在目标、任务、决策制定过程、决策者、组织架构和战略的差异，接着考察了部分技术领先的国家当前大数据应用的状况，这些国家包括澳大利亚、日本、新加坡、韩国、英国和美国等。

　　本文也分析了一些企业的大数据应用，这些技术也能应用在政府事务中。最后，我们提出了国家和政府部门未来建设大数据战略应用项目的建议。

　　文章主要观点

　　企业、政府和研究机构都能够从他们搜集的海量大数据中获取价值；

　　大数据应用领先的国家已实施大数据应用项目，以提高国家运行效率、透明度、民众福利和公共事务参与度，确保经济增长和国家安全；

　　分析政府部门采用的大数据应用项目，为其他国家提供未来大数据行动的引导。

大数据在政府部门的应用（一）

企业和政府的比较

虽然企业和政府的主要任务并不冲突，但各自的举措具有不同的目标和价值。企业的主要目标是通过提供产品和服务获取利润，发展或维持自身的竞争优势，创造令消费者和其他利益相关者满意的价值。政府的主要目标则是维持国内稳定，实现可持续发展，确保公民的基本权利，改善国民福利和促进经济增长。

在竞争的市场环境下，大部分企业着眼于制定短期决策，并且执行人员数量也很有限。而政府的决策制定过程通常需要更长的时间，经过不同群体（包括官员、利益集团和普通民众）反复讨论和磋商，在彼此间达成一致后才能有最终结果。因此，政府制定决策要完成很多程序性步骤，以降低决策风险，提高决策效率和确保其效果。由此看来，大数据在政府部门和私有部门的应用具有很大不同。

数据集属性比较

大数据环境是以信息技术为基础的决策支持系统的演进：从上世纪60年代的数据处理，到70-80年代的信息应用，再到90年代的决策支持模型，进入2000年后的数据存储和挖掘，再就是今天的大数据。大部分与大数据相关的技术和分析应用是从2010年左右开始出现的，故大数据时代正处于早期阶段/发展初期。

大数据的属性和挑战已经用3V来描述：海量（volume)、速度（velocity）和多样性(variety)。海量是大数据的基本属性，各类机构和组织在业务活动过程中产生数以百万亿字节的数据，数据容量越来越大。速度是指数据量增长越来越快，对处理速度和响应速度提出更高要求，运用传统的信息技术手段难以有效处理，以及从中提取有价值的信息。多样性是指数据以各种各样类型的出现，包括结构化的（SQL等传统的数据库）；半结构化的（具有关键字和规则，但数据结构不规则或不完整）和非结构化的（非组织性的数据，没有商业智能）。

大数据的概念已经表明，大数据不仅仅是海量的数据，还包括通过处理大数据从中获取价值。如今，大数据与商业智能、商业分析和数据挖掘是同义词，已经使商业智能从报告和决策支持转移到预测和制定未来行动纲领。新的数据管理系统旨在应对大数据带来的挑战，如分布式架构技术是一个开源平台，目前是在管理存储和接入，以及高速并行处理大规模数据集等方面应用最为广泛的技术。然而，对于很多企业，特别是不少中小企业来说，分布式技术是一个挑战。因为这些中小企业往往不具备应用大数据需要的专业人员和经验，他们需要外部资源帮助。应该看到，大数据应用需要的不是纯粹基于技术的技能，找到正确的分析大数据的技能，或许是企业应用大数据面临的最大难题。对于大部分企业来说，发现和选择胜任的数据专家（在数据挖掘、可视化、操作和发现等方面）是困难而昂贵的。

其他商业大数据技术包括Casandra数据库，它是一个动态的数据库工具，采用行存储格式，每一行能存储二百万个数据单元。对于企业的另一个挑战是选择最适合他们的大数据技术：开源技术(如分布式架构技术)或者商业技术(如Casandra， Cloudera， Hortonworks， MapR)。

政府在应用大数据时，不仅要处理多个来源、不同格式数据集成等一般问题，而且还面临一些特殊挑战，最大的挑战就是数据搜集。因为政府搜集的数据不仅来自于多种渠道（如社交网络、互联网、众包），也来自于不同的来源（如国家、机构和部门），搜集难度可想而知。其次，在国家之间分享数据和信息是一个特殊的挑战。跨国分享信息，由于涉及到语言转换和不同的文化背景（内容的表现形式），分享和传递的信息有可能失真。第三个挑战是在一个国家不同的政府部门和机构之间分享数据。政府数据与商业数据最重要的不同就在范围和区域，其差异近几年都在平稳增长。政府（包括地方政府和中央政府）在实施法律和规章、提供公共服务和监管金融交易的过程中积累了大量数据。这些数据的属性、价值和带来的挑战，都不同于公司运营中产生的数据。政府的大数据特征属性可以表述为存储、安全和多样性。通常，每个政府机构或部门都有自己的存储机构，用于存储公共或机密信息，而且并不愿意分享各自的专有信息。

每个系统都保存有与其他系统隔绝的信息，这使得政府机构和部门之间的数据集成更加复杂。彼此沟通的失败有时是影响数据集成的重要原因。例如，在英国，警察机构和医院之间曾经打算在暴力犯罪方面分享信息，但这一项目最终失败，原因就是两者之间沟通不足。另一个分享政府信息的挑战是建立统一的数据格式，能够允许不同机构进行分析。尽管大部分政府数据是结构化的，但是从多种渠道和来源去搜集数据仍然是一个更大的困难。缺乏标准化的数据格式和软件，以及从多个政府机构的离散数据库中提取有用信息的跨机构解决方法，也是政府推进大数据应用面临的挑战。但由于政府的紧缩措施，导致其缺乏相应资金去发展和推进解决上述问题。

在使用大数据时，政府必须解决相关的法律、安全和许可要求等问题。在搜集和使用大数据用于预测分析与保障公民隐私权之间，应该有一条清晰的界限。

在美国，美国爱国者法案允许合法监控，有时还可以监控公民；电子通讯隐私法案允许相关部门不经授权便可进入电子邮件系统；要对网络情报共享和保护法案(CISPA)加以注意，它将允许安全机构和私人网络公司之间的信息共享，这增加了人们对误解信息不适当应用的关注。

数据安全是政府大数据最基本的属性，因此，搜集、存储和使用大数据都需要特别注意。然而，目前大部分大数据技术，包括 Casandra数据库和分布式技术，都缺乏足够的安全保护工具。对政府而言，确保安全是又一个挑战。

编译：工业和信息化部国际经济技术合作中心 高常水 江道辉