专栏承接:上一讲我们系统梳理了大数据的分层架构、开源工具栈与落地路径。其中分布式存储是整个大数据技术栈的底层基石 —— 没有可靠的海量存储底座,上层的计算、分析、AI 应用都无从谈起。
本讲我们深入大数据存储的事实标准 ——HDFS,从 Google GFS 的原始设计思想,到源码级的读写流程拆解,再到手把手搭建与 Java 代码实战,彻底搞懂分布式存储的实现逻辑。
本讲核心收获:
- 分布式文件系统的本质与设计哲学
- HDFS 三大核心角色的分工与协作机制
- 文件读写的完整底层流程与原理
- 一步一步搭建 HDFS 单机伪分布式集群
- Java API 操作 HDFS 的完整可运行代码
- HDFS 的适用边界与生产级调优要点
7.1 为什么必须用分布式存储?从单机存储的痛点说起
在 HDFS 诞生之前,企业存储主要依赖单机硬盘、RAID 磁盘阵列或高端存储设备,面对 PB 级数据时存在三个不可逾越的瓶颈:
7.1.1 容量瓶颈:单机容量无法无限扩展
一块普通 8T SATA 硬盘的容量已经接近民用上限,而大数据场景下数据量通常是 PB 级(1PB=1024TB)。
- 存储 1PB 数据需要 128 块 8T 硬盘,单台服务器无法容纳这么多磁盘
- 高端存储设备扩容成本极高,每 TB 成本是普通服务器的 5