大数据和人工智能

篇首语

大数据相对于传统的数据分析,主要是在海量(Volume)、多样(Variety)、速度(Velocity)及价值(Value)这4个V上有明显的变化。而AI这一被提出多年的概念在大数据蓬勃发展的前提下,也得到了计算能力、存储能力、算法成熟、训练数据充分等多方面的支持,在最近今年得到了爆发式的增长。

2015年8月19日,国务院总理李克强主持召开国务院常务会议,通过《关于促进大数据发展的行动纲要》(以下简称《行动纲要》)。同年,Google的AlphaGo击败了世界顶级的围棋选手,其自动驾驶汽车也获得了上路的牌照。

这是技术自计算机及互联网相继诞生再次爆发颠覆性力量,将极大改变人们生活方式的新时代。

大数据主流技术产品概览

自从2005年Doug Cutting发布Hadoop以来,大数据的生态系统一直都紧紧围绕在大数据三驾马车MapReduce、HDFS、HBase上。而随着十年来的发展和变迁,后起之秀如Spark、Hive等也极大的改善了生态系统。

大数据主流技术产品可以分为以下几类:

  1. 计算相关,如MapReduce、YARN、Spark之类;
  2. 存储相关,如HDFS、Flume、Sqoop、HBase、Cassandra等;
  3. 应用,如Hive、Mathout等;
  4. 调度及管理,如Oozie和Hue等;
  5. 其他周边工具,如Zookeeper、HCatalog等。

results matching ""

    No results matching ""