NJUOS-23-1-Bit数据的存储

本文最后更新于：2 年前

复习

  • 操作系统
    • 状态机的管理者
    • 对象 + API

本次课回答的问题

  • Q1: 状态机的状态是如何存储的？
  • Q2: 更多的持久状态是如何存储的？

本次课主要内容

  • 1-bit 的存储方式
  • Volatile/non-volatile storage

状态机状态的存储

计算机需要存储 “当前状态”

机器指令模型 (Instruction Set Architecture) 只有 “两种” 状态

  • 寄存器: rax, rbx, …, cr3, …
  • 物理内存

img

存储 “当前状态” 的需求

  • 可以寻址
    • 根据编号读写数据
  • 访问速度尽可能快
    • 甚至不惜规定状态在掉电后丢失
      • 机械玩具就没有这个烦恼
    • 也因此有了 memory hierarchy

内存&电路，可以使访问速度尽可能的快，但是与此同时，带来的妥协就是。掉电之后，寄！内存的状态是无法保存的，要重启昂！！！

“当前状态” 的存储

img

Delay line: 绳子

  • 因为信号衰减，需要持续放大

Magnetic core: 磁铁

  • segfault.c: “Segmentation fault (core dumped)”
    • imgulimit -c 可以修改 core file size (默认为 0)
    • /proc/sys/kernel/core_pattern 指定了 core dump 文件格式
  • Non-volatile memory!

虽然速度慢，但是掉电信息不会丢失昂！！！

SRAM/DRAM: Flip-Flop 和电容

  • 今天的实现方案

开始持久化之旅

Persistence: “A firm or obstinate continuance in a course of action in spite of difficulty or opposition.”

除了 “当前状态”，我们希望更大、更多的数据能 “留下来” (并且被操作系统有效地管理起来)

持久化的第一课：持久存储介质

  • 构成一切文件的基础
    • 逻辑上是一个 bit/byte array
    • 根据局部性原理，允许我们按 “大块” 读写
  • 评价方法：价格、容量、速度、可靠性
    • 再次见证人类文明的高光时刻！

存储介质：磁

“持久化” 可能没有想象的那么困难

img

更进一步：用铁磁体的 “磁化方向” 表示 1-Bit 信息

  • 读取：放大感应电流
  • 写入：电磁铁磁化磁针

磁带 (Magnetic Tape, 1928)

1D 存储设备（一维存储设备）

  • 把 Bits “卷起来”
    • 纸带上均匀粘上铁磁性颗粒
  • 只需要一个机械部件 (转动) 定位

img

image-20230112103649880

磁带：作为存储设备的分析

img

分析

  • 价格
    • 非常低 - 都是廉价的材料
  • 容量
    • 非常高
  • 读写速度
    • 顺序读取：勉强 - 需要等待定位
    • 随机读取：几乎完全不行
  • 可靠性
    • 存在机械部件、需要保存的环境苛刻

今天的应用场景

  • 冷数据的存档和备份

磁鼓 (Magnetic Drum, 1932)

1D → 1.5D (1D x n)

image-20230112104250953

  • 用旋转的二维平面存储数据
    • 无法内卷，容量变小
  • 读写延迟不会超过旋转周期
    • 随机读写速度大幅提升

img

磁盘 (Hard Disk, 1956)

image-20230112104642852

两个自由度：

  1. 转轴
  2. 读写头（和上面不同哈，只有一个读写头，在读写头上装电机，让读写头能自由在磁盘上移动昂！！！）

1D → 2.5D (2D x n)

  • 在二维平面上放置许多磁带

img

磁盘 (cont’d)

克服许多工程挑战

img

磁盘：作为存储设备的分析

分析

  • 价格
    • 低 - 密度越高，成本越低
  • 容量
    • 高 (2.5D) - 平面上可以有数万个磁道
  • 读写速度
    • 顺序读取：较高
    • 随机读取：勉强
  • 可靠性
    • 存在机械部件，磁头划伤盘片导致数据损坏

今天的应用场景

  • 计算机系统的主力数据存储 (海量数据：便宜才是王道)

磁盘：性能调优

为了读/写一个扇区

  1. 读写头需要到对应的磁道
    • 7200rpm → 120rps → “寻道” 时间 8.3ms
  2. 转轴将盘片旋转到读写头的位置
    • 读写头移动时间通常也需要几个 ms

通过缓存/调度等缓解

  • 例如著名的 “电梯” 调度算法
  • 现代 HDD 都有很好的 firmware 管理磁盘 I/O 调度
    • /sys/block/[dev]/queue
    • [mq-deadline] none (读优先；但写也不至于饿死)

今天的磁盘很先进，自带“操作系统”。能够帮助我们更好的完成磁盘的调度。甚至自己还带了缓存…早就不是操作系统来调度磁盘并执行策略的年代了昂！！！

image-20230112105319657

软盘 (Floppy Disk, 1971)

img

把读写头和盘片分开——实现数据移动

  • 计算机上的软盘驱动器 (drive) + 可移动的盘片
    • 8” (1971), 5.25” (1975), 3.5” (1981)
      • 最初的软盘成本很低，就是个纸壳子
      • 3.5 英寸软盘为了提高可靠性，已经是 “硬” 的了

img

软盘就是一个单纯的磁盘的盘片！！！读写头和盘面分开啦！！！盘面就是软盘！！！

软盘：作为存储设备的分析

分析

  • 价格
    • 低 - 塑料、盘片和一些小材料
  • 容量
    • 低 (暴露的存储介质，密度受限)
  • 读写速度
    • 顺序/随机读取：低
  • 可靠性
    • 低 (暴露的存储介质)

今天的应用场景

  • 躺在博物馆供人参观
  • 彻底被 USB Flash Disk 杀死

存储介质：坑

坑：天然容易 “阅读” 的数据存储

img

img

Compact Disk (CD, 1980)

img

在反射平面 (1) 上挖上粗糙的坑 (0)

image-20230112105801718

  • 激光扫过表面，就能读出坑的信息来
    • 飞利浦 (碟片) 和索尼 (数字音频) 发明
    • ~700 MiB，在当时是非常巨大的容量

img

挖坑容易，填坑难。所以好读，不好改。。。

CD-RW

能否克服只读的限制？

  • 方法 1
    • 用激光器烧出一个坑来 (“刻盘”)
    • 使用持久化数据结构 (append-only)

挖坑的技术进展

img

CD (740 MB)

  • 780nm 红外激光

DVD (4.7 GB)

  • 635nm 红色激光

Blue Ray (100 GB)

  • 405nm 蓝紫色激光

光盘：作为存储设备的分析

分析

  • 价格
    • 很低 (而且很容易通过 “压盘” 复制) -> 母盘，盗版是吧哈哈哈哈哈，古代cv。
    • 光盘可以电影，游戏哇，之类的昂！！！
  • 容量
    • 高
  • 读写速度
    • 顺序读取速度高；随机读取勉强
    • 写入速度低 (挖坑容易填坑难)
  • 可靠性
    • 高

今天的应用场景

  • 数字媒体的分发 (即将被互联网 “按需分发” 淘汰)

盗版怎么做的？？？

image-20230112110133901

“挖坑”：不止是数据存储

img

光刻！！！也是在挖坑！！！芯片，集成电路，就是在挖坑！！！

Finally, 电

Solid State Drive (1991)

之前的持久存储介质都有致命的缺陷

  • 磁：机械部件导致 ms 级延迟
  • 坑 (光): 一旦挖坑，填坑很困难 (CD 是只读的)

最后还得靠电 (电路) 解决问题

  • Flash Memory “闪存”
    • Floating gate 的充电/放电实现 1-bit 信息的存储

img

电子器件，是否有电子 -> 0 or 1。

Flash Memory: 几乎全是优点

分析

  • 价格
    • 低 (大规模集成电路，便宜)
  • 容量
    • 高 (3D 空间里每个 (x,y,z) 都是一个 bit)
  • 读写速度
    • 高(直接通过电路读写)
      • 不讲道理的特性：容量越大，速度越快 (电路级并行)
      • 快到淘汰了旧的 SATA 接口标准 (NVMe)
  • 可靠性
    • 高 (没有机械部件，随便摔)

但有一个意想不到的缺点 (大家知道是什么吗？)

很多次erase后，cell就死了。。。

今天已经基本被客服了昂！！！

USB Flash Disk (1999)

img

优盘容量大、速度快、相当便宜

  • 很快就取代了软盘，成为了人手n个的存储介质
    • Compact Flash (CF, 1994)
    • USB Flash Disk (1999, “朗科”)

放电 (erase) 做不到 100% 放干净

  • 放电数千/数万次以后，就好像是 “充电” 状态了
  • dead cell; “wear out”
    • 必须解决这个问题 SSD 才能实用

image-20230112111818285

NAND Wear-Out 的解决：软件定义磁盘

每一个 SSD 里都藏了一个完整的计算机系统

img

  • FTL: Flash Translation Layer
    • “Wear Leveling”: 软件管理那些可能出问题的 blocks
    • 像是 managed runtime (with garbage collection)
      • 请阅读教科书

类似于虚拟内存！！！！

image-20230112111929537

image-20230112112018213

有一个firmware会自动对于你对于磁盘的写，进行调度！！！不会因为某个cell读写过多，导致dead了昂！

优盘和 SSD 的区别

优盘, SD 卡, SSD 都是 NAND Flash

  • 但软件/硬件系统的复杂程度不同，效率/寿命也不同
    • 典型的 SSD
      • CPU, on-chip RAM, 缓存, store buffer, 操作系统 …
      • 寿命: 1 PiB 数据写入 (1,000 年寿命)img
    • SD 卡
      • SDHC 标准未规定
        • 黑心商家一定会偷工减料 (毕竟接口完全一样)
      • 但良心厂家依然有 ARM 芯片

一定不要用便宜的优盘保存重要数据

  • × 宝 9.9 包邮的优盘，芯片一毛钱都能省……

FTL: 性能、可靠性、安全性的难题

img

大家可记得修电脑引发的血案？

  • 首先，(快速) 格式化是没用的
    • (M5 会告诉你这一点)
  • 在你理解了 FTL 之后
    • 即便格式化后写入数据 (不写满)
      • 同一个 logic block 被覆盖，physical block 依然存储了数据 (copy-on-write)
      • 需要文件系统加密

另一个 memory system 相关的安全问题

  • Row Hammer(TCAD’19)
    • 更重的负载可能会 “干扰” 临近的 DRAM Cells

SSD 的可靠性：另一个故事

什么？硬件里的软件？

  • 其实非常复杂：算法, cache; store buffer; …

谁写出来的？那可得有 bug 啊！

img

给硬件上大重量，断电啊之类的。大的Workload直接打挂了SSD……

有趣的故事：结果

img

这篇 paper 促进了硬件厂商对 FTL 的大幅改进

  • 在 2015 年之后出产的产品，已经几乎无法找到这样的问题了 (cool!)
Device Model Year Bug?
SSD#1, 10, 8, 9, 6, 2 A 2011 x 3, 2012 x 2, 2010 Y
SSD#2 B 2010 Y
SSD#3, 11, 12 C 2011 Y
SSD#4, 13 D 2011 -
SSD#5, 14, 7, 15 E 2009, 2011 x 2, 2012 Y

总结

本次课回答的问题

  • Q: 状态机的状态和持久的状态是如何存储的？

Take-away messages

  • 1-Bit 信息的存储
    • 磁 (磁带、磁盘)、坑 (光盘)、电 (Flash SSD)
    • 构成性格各异的存储设备
  • 重新思考 “状态的存储”

Persistence如果保证了，那是不是就不用发布软件的初始状态，而是能够直接发布快照了呢？初始状态的加载和状态机的演进可能会慢昂，快照就很快很快昂！！！

南京大学操作系统
#研0自学
NJUOS-23-1-Bit数据的存储
https://alexanderliu-creator.github.io/2023/01/12/njuos-23-1-bit-shu-ju-de-cun-chu/
作者
Alexander Liu
发布于
2023年1月12日
许可协议