大数据工程师 · 实战目录

30 章 · 从零到就业
大数据4V 技术生态圈 工程师职责 技能树
CentOS/Ubuntu 常用命令 SSH免密 JDK配置
开发环境 基本语法 面向对象 集合框架
IO流 多线程 网络编程 异常处理
MySQL安装 DDL/DML/DQL 表关联 索引事务
NameNode/DataNode Shell操作 Java API 读写流程
编程模型 WordCount Shuffle机制 YARN调度
完全分布式 集群调优 故障排查 HA高可用
Zookeeper架构 Paxos/ZAB 选举机制 Java API
第10章
Hive安装 HQL基础 内/外部表 分区/分桶
Tez/Spark引擎 数据倾斜 调优策略 HBase集成
Source/Channel/Sink Source配置 自定义拦截器 高可用
Producer/Broker/Consumer Topic/Partition Kafka API Exactly-Once
JMX监控 Kafka Connect Kafka Streams Flume集成
HMaster/RegionServer RowKey设计 Shell操作 Java API
读写流程 MemStore/HFile Region分裂合并 调优
环境搭建 变量/函数 集合操作 模式匹配/隐式转换
Spark架构 RDD概念/创建 Transformation/Action 依赖关系
DataFrame/DataSet SparkSQL操作 UDF/UDAF Hive集成
第20章
DStream原理 Kafka集成 窗口操作 状态管理
内存调优 Shuffle调优 数据倾斜 Spark on YARN
Flink架构 流/批处理 DataStream API Kafka集成
状态管理 Checkpoint/Savepoint Flink SQL CEP
Sqoop全量 Canal增量 Delta Lake Iceberg
星型/雪花模型 维度建模 缓慢变化维 ODS/DWD/DWS/ADS
Azkaban/XXL-JOB Prometheus+Grafana ELK日志
Superset ECharts Kibana 报表自动化
需求分析 技术选型 Flume+Kafka Spark清洗
数仓分层 指标计算 可视化展示 项目文档
简历撰写 高频面试题 谈薪策略 学习路线