• 个性签名
  • 格言大全
  • 名言大全
  • 笑话大全
  • 知识问答
  • 生活家居
  • 星座运势
  • 宝宝起名
  • 休闲爱好
  • 百科大全
  • 学习大数据需要什么基础

    栏目: 知识 日期:2023-01-12 01:00:30 浏览量(来源:小昌

    [摘要]学习大数据需要什么基础?大数据本身是没有太多直观的内容,大部分讲4个V或者5个V。你需要拥有什么技能,并没有直观的理解。但是大数据的分析就比较直观,常见的场景包...

    学习大数据需要什么基础?

    大数据本身是没有太多直观的内容,大部分讲4个V或者5个V。你需要拥有什么技能,并没有直观的理解。但是大数据的分析就比较直观,常见的场景包括实时数据流处理、数据批处理,数据生态产品的互通,所以需要掌握的技能:

    1. 一个分布式存储底座,如HDFS
    2. 一个支持SQL的实时数据引擎,HBase或者Cassandra
    3. 一个流处理技术引擎Flink
    4. 一个批处理引擎Spark、EMR
    5. 数据互通的工具DTS,如对象存储之间的数据传输Distcp,各个组件的连接器sqoop等
    6. 一个离线数仓分享套件Hive,以及加速查询的索引构建工具clickhouse
    7. 其他辅助在线存储,分布式KV、对象存储等

    大数据生态的产品比较多,目前根据实际的业务场景会有现成的套件,比如Lambda架构

    AWS的lambda架构

    学习大数据需要什么基础?

    大数据需要开发功底,比如python语言,通过编程需要抓取数据。当然会前端需要比如Html,javascript,将抓取的数据整合后通过前端去展示。所以个人觉得学习一门开发语言是必须的。

    上一页12下一页