try ai
科普
编辑
分享
反馈
  • 闪存转换层

闪存转换层

SciencePedia玻尔百科
核心要点
  • 闪存转换层(FTL)通过一个映射表实现间接寻址,从而将具有诸多限制的 NAND 闪存呈现为操作系统可用的、简单的可重写块设备。
  • 非原地更新和垃圾回收等核心 FTL 进程会不可避免地产生写放大,这是影响 SSD 性能和耐久度的关键因素。
  • 磨损均衡是一项至关重要的 FTL 技术,它将写操作均匀分布到所有物理内存块上,以防止过早失效并最大限度地延长驱动器的使用寿命。
  • FTL 的效率在很大程度上依赖于操作系统的协作,操作系统可以通过使用 TRIM 命令和正确的数据对齐来减少不必要的工作。
  • FTL 的行为影响着整个计算技术栈,从文件系统设计、数据库算法到虚拟内存策略和数据安全协议,无所不包。

引言

现代计算依赖于固态硬盘(Solid-State Drives, SSDs)的惊人速度,然而其底层的 NAND 闪存本质上却难以管理。它的运作遵循着一些奇特的规则——数据不能在原地被覆写,并且内存在有限次擦除后会磨损殆尽。这在操作系统所期望的(一个简单、可靠的块存储设备)与硬件的物理现实之间造成了巨大的鸿沟。闪存转换层(Flash Translation Layer, FTL)正是一种精密的固件,它巧妙地弥合了这一鸿沟,如同每块 SSD 内部那个沉默而至关重要的引擎。

本文将揭开 FTL 的神秘面紗,解释它如何实现了我们习以为常的高性能和高可靠性。我们将探索它为克服闪存挑战而采用的巧妙解决方案,以及这些方案所带来的新问题,例如写放大。通过理解 FTL,我们不仅能深入了解 SSD,更能洞悉依赖于 SSD 的整个计算机系统。

接下来的章节将引导您穿越这个复杂的世界。首先,​​“原理与机制”​​将揭示 FTV 的核心技巧,包括地址映射、垃圾回收和磨损均衡。接着,​​“应用与跨学科关联”​​将展示 FTL 的行为如何向外辐射,深刻影响操作系统、数据库设计乃至应用层算法。

原理与机制

要真正欣赏现代固态硬盘(SSD)这一奇迹,我们必须深入其幕后。操作系统所看到的是一个简单有序的设备:一个巨大的、线性的块数组,数据可以随意读写,就像传统的硬盘驱动器一样。但这其实是一个精心构建的幻象。其内部 NAND 闪存芯片的物理现实是一个充滿奇异和限制性规则的世界,一个似乎完全不适合此任务的世界。​​闪存转换层(FTL)​​正是那位伟大的魔术师,一个不知疲倦的嵌入式系统,它弥合了简单接口与混乱物理介质之间的鸿沟。

NAND 闪存的奇异世界

想象你有一本神奇的笔记本。你可以在任何一行以惊人的速度书写。然而,这本笔记本有三条奇特的规则:

  1. ​​你不能擦除并重写单个词。​​ 要想更改一个字母,你必须在笔记本的其他地方找一个全新的空行,写下更正后的句子。然后,你划掉旧的那一行,将其标记为“陈旧”。
  2. ​​你不能只擦除一行。​​ 唯一的擦除方式是撕掉一整页,而一页包含许多行。一旦一页被撕掉,它就变成了一张空白的、可重用的页面。
  3. ​​每一页能被撕掉的次数有限。​​ 比如,经过 3000 次擦除后,纸张会变得过于脆弱,无法再使用。

这本质上就是 NAND 闪存的世界。“行”被称为​​页(pages)​​,是你能够写入的最小单元(通常为 4 KB 或 16 KB)。“笔记本的书页”被称为​​擦除块(erase blocks)​​,是你能够擦除的最小单元,它们要大得多,包含数百个页(例如 2 MB 到 8 MB)。而且,每个擦除块都有一个有限的​​编程/擦除(P/E)周期​​上限。FTL 的首要任务就是将这种奇怪的介质呈现为一个简单的、可重写的块设备,并完全隐藏这些怪癖。

核心技巧:间接寻址的力量

FTL 如何解决“不能原地覆写”的规则?答案是一个既美妙简单又功能强大的概念:​​间接寻址(indirection)​​。FTL 创建了一张映射表,一个转换表,它将操作系统看到的逻辑地址与闪存芯片上的物理地址解耦。

当你的操作系统说:“将这些数据写入逻辑块地址(LBA)#5000”,它并不是直接与闪存芯片对话,而是与 FTL 对话。FTL 会查询它的映射表。在更新前的状态下,映射表可能会显示:LBA 5000 -> 物理页 1234。

要“覆写”LBA #5000,FTL 不会去物理页 1234。相反,它会执行一次​​非原地更新(out-of-place update)​​:

  1. 它在别处找到一个全新的、预先擦除过的物理页,比如页 9876。
  2. 它将新数据写入这个新页。
  3. 它更新映射表:LBA 5000 -> 物理页 9876。
  4. 它将旧的物理页 1234 标记为“无效”或“陈旧”。

这种优雅的障眼法使得从操作系统的角度看,覆写是瞬时完成的。每次写入都不需要进行缓慢的擦除周期。但这种魔术是有代价的。

幻象的代价:映射表与写放大

映射表是 FTL 的秘密之书。它必须存储在 SSD 上的高速 DRAM 中以便快速查找,而其大小可能十分惊人。这带来了一个基本的设计权衡。

​​页级映射(page-level mapping)​​FTL 提供了最大的灵活性。它为驱动器上的每一个逻辑页都维护一个映射条目。对于一个拥有 4 KiB 页的 1 TiB SSD,这意味着需要管理 2282^{28}228 (超过 2.68 亿) 个页。如果每个映射条目需要 8 字节来存储物理地址,那么仅映射表本身就将消耗惊人的 228×8 bytes=2 GiB2^{28} \times 8 \text{ bytes} = 2 \text{ GiB}228×8 bytes=2 GiB DRAM! 这是一个巨大的成本和功耗。

为了减少这种内存占用,设计者可以使用​​块级映射(block-level mapping)​​,即 FTL 映射整个逻辑块(例如,由 128 个页组成的组),而不是单个页。这可以将映射表的大小缩小 128 倍或更多,从千兆字节(GB)降至几兆字节(MB)。但这种节省是以性能为代价的。如果操作系统只想更新那个较大逻辑块中的一个 4 KiB 页,FTL 就被迫进入一个昂贵的​​读-修改-写(read-modify-write)​​周期:它必须读取整个 128 页的块,在其内部内存中更新单个页,然后将整个128 页的块写入一个新的物理位置。这种向闪存写入远多于主机请求的数据量的行为,被称为​​写放大(Write Amplification, WA)​​。一次 4 KiB 的主机写入可能触发 512 KiB 的内部闪存写入——写放大系数高达 128!

这揭示了 FTL 设计中的一个核心矛盾。页级映射的灵活性非常适合小型随机写入,而块级映射的内存效率更适合大型顺序传输。现代 SSD 通常采用巧妙的​​混合映射(hybrid mapping)​​方案,对频繁变化的“热”数据使用页级粒度,对“冷”的静态数据使用块级粒度,试图两全其美。

清理烂摊子:垃圾回收的幕后工作

非原地更新策略会在驱动器上留下一串散乱的无效页,就像我们笔记本上被划掉的行一样。最终,FTL 会用尽所有可供写入的、预先擦除过的新页。那时该怎么办?

这时,FTL 的无名英雄——​​垃圾回收器(garbage collector, GC)​​开始工作。GC 过程就像是闪存的细心清洁工:

  1. 它识别出一个包含有效页和无效页混合的“受害者”擦除块。
  2. 它读取该块中所有仍然有效的页,并将它们复制到一个新的、干净的位置。
  3. 它更新映射表以反映这些被移动页面的新物理位置。
  4. 现在,受害者块只包含无效数据。它可以被安全地擦除,成为一块白板。
  5. 这个新擦除的块被返回到空闲块池中,为未来的写入做好准备。

这种复制有效数据的行为是写放大的主要来源。想象一个块,其中 85% 的页仍然有效。为了回收仅仅 15% 的块空间,FTL 必须执行大量的内部复制写入。在这种情况下,写放大会非常巨大。在最好的情况下,GC 找到一个所有页都已失效的块。它可以零复制地擦除它,从而使写放大接近理想值 1。

工作负载极大地影响 GC 效率。一连串的小型随机写入是垃圾回收器的噩梦。它将失效页稀疏地分布在许多块上,确保几乎每个块都有很高的有效数据百分比,这使得 GC 的成本极高,并导致性能骤降。相比之下,大型顺序写入则是一份礼物。它们用具有相似“生命周期”的数据填满整个块。当这些数据随后被顺序覆写时,整个块会同时失效,从而实现高效、低成本的垃圾回收[@problem_d:3682258]。

这也是为什么即使是主要为读取密集型的工作负载也可能遭受可怕的延迟尖峰的原因。仅仅 1% 的随机写入流量就足以在驱动器上造成混乱状态。当 GC 最终启动以进行清理时,其密集的复制操作会与读取操作争夺相同的内部资源(通道、内存),导致观察到的读取延迟飙升。

操作系统与 FTL:一种关键的伙伴关系

尽管 FTL 创造了奇迹,但它并非无所不知。如果操作系统能扮演一个体贴的伙伴而不是一个无知的用户,FTL 的性能可以得到显著提升。

  • ​​使用 TRIM 说实话:​​ 当你的操作系统“删除”一个文件时,它通常只更新自己的内部记录。FTL 却被蒙在鼓里,认为闪存上的数据仍然有效。然后,它会在垃圾回收期间徒劳地复制这些“幽灵”数据,不必要地增加了写放大。​​TRIM​​ 命令(或 Discard)是解决方案。这是操作系统向 FTL 发送的一条消息,内容是:“这些逻辑块已不再使用。” FTL 随后可以立即将相应的物理页标记为无效,使未来的 GC 周期效率大增。

  • ​​删除的幻象:​​ 这引出了一个关键的安全洞见。TRIM 并不会擦除数据;它只是将其标记为无效。实际数据可能会在闪存芯片上持续存在不确定的时间,这种现象称为​​数据残留(data remanence)​​。简单地覆写文件的原始 LBA 也行不通,因为有非原地更新的存在。确保数据被清除的唯一方法是使用專用的標準化命令,如 ​​ATA Secure Erase​​ 或 ​​NVMe Sanitize​​,这些命令指示固件擦除所有用户可访问的内存,包括超额配置区域。

  • ​​对齐与大小至关重要:​​ 操作系统还可以通过将其写入与闪存的物理几何结构对齐来提供帮助。未与页边界对齐的写入可能会迫使 FTL 触及两个物理页而不是一个,从而增加写放大。同样,尽管 FTL 将逻辑位置与物理位置解耦,但为相同数据发出单个大型、逻辑上连续的读取命令,远比发出数百个小型命令要高效得多。这是因为每个命令都有软件和协议开销,而这些开销可以通过较大的请求来分摊。

确保长寿:磨损均衡

FTL 谜题的最后一块是管理闪存单元的有限寿命。如果 FTL 反复使用相同的物理块来存储频繁更新的数据(比如映射表本身的一部分),那些块会比驱动器的其余部分早得多地磨损和失效。

为了防止这种情况,FTL 实施了​​磨损均衡(wear leveling)​​。它为每个块维护一个 P/E 周期计数,并智能地将写操作分布到驱动器的整个物理容量上,包括​​超额配置(over-provisioned)​​的空间(对操作系统隐藏的额外物理容量)。其目标是确保所有块以大致相同的速率老化。

磨损均衡的影响是深远的。对于一个写入集中在仅 23% 块上的倾斜工作负载,驱动器的寿命可能只有完美磨损均衡(将负载分散到所有块)情况下的几分之一,甚至可能不到十分之一。磨损均衡不仅仅是一个功能;它是一个可靠固态硬盘的绝对先决条件。

从管理地址、清理无效数据到确保长久健康的使用寿命,闪存转换层是一项非凡的工程杰作。它是每块 SSD 中默默无闻的英雄,一个沉默的指挥家,在闪存充满挑战的物理特性下,指挥着读写操作的交响乐,实现了我们每天都依赖的快速、可靠的存储。

应用与跨学科关联

窥探了闪存转换层(Flash Translation Layer, FTL)复杂的内部机制后,我们或许会想合上盖子,满足于已经理解了 SSD 这个小黑盒里发生的巧妙伎俩。但这样做将错失故事中最精彩的部分。FTL 并非隐士;它是一个计算机系统宏大舞蹈中的积极而富有影响力的伙伴。它独特的规则和行为——以页为单位写入、以块为单位擦除的需求,与写放大和磨损的持续斗争——向外辐射,塑造着从操作系统的核心逻辑到我们设计的算法本身的一切。在本章中,我们将踏上一段旅程,去探寻 FTL 的影响到底有多么深远。

对齐之舞:操作系统与 FTL 的对话

想象一下,你试图在黑暗中给冰块盒灌水。你倒水时,大部分水都溅到了冰格之间的台面上。当操作系统把 SSD 当作一块老式、无差别的硬盘时,情况正是如此。操作系统文件系统以它自己的“块”为单位思考,大小可能是 444 KiB,而 SSD 的 FTL 则以物理“页”为单位思考,大小可能是 161616 KiB。

如果操作系统对 SSD 的几何结构“视而不见”,并在一个物理 161616 KiB 页内的随机偏移处写入其小的 444 KiB 块,FTL 别无选择,只能对整个 161616 KiB 页进行编程。更糟的是,单个文件系统块可能跨越两个物理页的边界,迫使 FTL 写入两个完整的页——总共 323232 KiB——只为了存储一个 444 KiB 的数据!这种源于无知的未对齐,是写放大的一个重要来源。当文件系统分配一个更大的文件块时,同样的悲剧也会发生。如果分配没有与 SSD 大得多的擦除块对齐,单次文件写入就可能“弄脏”多个擦除块,从而大大增加 FTL 未来的垃圾回收工作量,并使写放大成倍增加。

对话就此开始。一个现代的、“闪存感知”的操作系统不会在黑暗中操作。它首先会询问 SSD 关于自身的信息,了解其页和擦除块的大小。掌握了这些知识后,操作系统可以执行一个简单而深刻的动作:它将其分区和自己的块结构与设备的物理边界对齐。通过确保其写入操作整齐地从物理页或擦除块的开头开始,操作系统将一次笨拙、浪费的泼洒变成了一次精确、高效的倾倒。这个简单的协调动作是操作系统与 FTL 之间的第一次也是最根本的握手,这种伙伴关系立即减少了磨损并提高了性能。

管理幽灵:空闲空间、TRIM 与垃圾回收

当我们考虑删除文件时会发生什么,这种伙伴关系会进一步加深。从操作系统的角度来看,空间现在是空闲的。但我们勤奋却不知情的记账员——FTL,并不知道这一点。SSD 上的数据页,尽管对用户来说已经没有意义,但在 FTL 的映射表中仍然被标记为“有效”。SSD 慢慢地被这些数字幽灵填满——这些数据在逻辑上已经消失,但在物理上仍然存在。

这给垃圾回收器带来了可怕的问题。当它需要释放一个擦除块时,它可能会发现一个几乎完全被这些幽灵页填满的块。由于不知道它们是幽灵,FTL 会尽职尽责地将它们全部复制到一个新位置,然后再擦除该块,从而执行了大量无用功。这就是 TRIM(或 DISCARD)命令发挥作用的地方。TRIM 是操作系统告知 FTL 的一种方式:“顺便说一下,你在这些逻辑地址上保存的数据?现在是垃圾了。你可以忘记它们了。”

收到这个提示对 FTL 来说是一个启示。它现在可以在其内部记录中将那些页标记为“无效”。当垃圾回收器稍后检查一个擦除块时,它就能分辨出哪些页是真正有效的,哪些是幽灵。然后,它可以选择一个包含最多无效页的块进行清理,从而最大限度地减少需要复制的有效页数量。一个 100% 无效的块可以被立即擦除,复制开销为零!

这种复杂性还不止于此。一个更智能的操作系统意识到,重要的不仅是执行 TRIM,还在于何时执行。操作系统可以不为每次小删除都发送一个 TRIM 命令(这本身会产生开销),而是将它们批量处理。它会等待,积累一个已释放块的列表。然后,就在 SSD 的空闲页池即将耗尽——也就是垃圾回收器即将被唤醒的那一刻——操作系统发送它批量处理过的 TRIM 命令。这种“即时”失效确保垃圾回收器拥有最新信息,使其能够做出最高效的选择,并将写放大降至绝对最低。

信任链:从应用到闪存的数据一致性

到目前为止,我们的故事都关乎效率。现在,它转向了一个更为关键的问题:正确性。如果断电会发生什么?

日志文件系统(journaling file system)使用预写日志(write-ahead log)来保护自己。要执行像创建文件这样的操作,它首先将新数据和元数据写入它们的最终位置,然后才将一个“提交”记录写入其日志。如果发生崩溃,它会检查日志。如果提交记录存在,则操作是安全的;如果不存在,则回滚。这个简单的协议依赖于一条不可侵犯的规则:数据必须在提交记录之前到达稳定存储。

但这里我们遇到了一个问题。SSD 有自己的易失性缓存和自己的内部日志来保护其映射表。从操作系统的角度看,“写入完成”的信号可能只意味着数据到达了 SSD 的高速易失性缓存,而不是非易失性闪存本身。SSD 为了追求性能,可能会决定在写入实际数据块之前,先将日志的提交记录写入闪存。

如果电源在那个关键窗口期内中断,结果将是灾难性的。重启后,文件系统看到已提交的事务,并假设数据是安全的。但数据在易失性缓存中丢失了。文件系统的元数据现在指向垃圾。这是数据完整性的灾难性失败。FTL 自己的日志也无济于事;它会尽职尽责地将其映射表恢复到一致状态,但这将是一个指向不一致用户数据的一致映射。

这揭示了一个深刻的真理:分层系统中的一致性是一条信任链。FTL 无法独自保证文件系统的完整性。责任回到了主机。操作系统必须使用特殊命令(如 FLUSH CACHE)或通过使用 Force Unit Access (FUA) 标志来显式强制执行顺序。它必须发出数据写入命令,然后发出 FLUSH 命令来创建一个持久性屏障,只有在确认该刷新操作完成后,才发出提交记录的写入命令,并随后再进行一次 FLUSH。这个 meticulous、审慎的序列是保证文件系统所认为的真实情况与物理介质上的实际情况相符的唯一方法。FTL,尽管其巧妙,只是这条链中的一个环节,而不是整条链。

FTL 的长影:重塑算法与应用

FTL 的影响远远超出了操作系统内核,将其阴影投射到应用程序赖以构建的数据结构和算法之上。

考虑 B 树,几乎所有数据库的主力。对其性能的分析通常计算磁盘寻道和 I/O 操作次数。但在移动设备上,能耗是首要关注点。每一次 B 树操作——比如删除时的节点合并——都会转化为特定数量的逻辑页写入。FTL 接收这些逻辑写入,并通过写放大将其转化为更多的物理写入。每次物理写入都会消耗可量化的能量。突然之间,对 B 树最坏情况行为的抽象算法分析,对手机电池寿命产生了直接、可计算的影响。一个算法不再仅仅是“快”或“慢”;它是“节能”或“耗能”的,这一区别正是由 FTL 塑造的。

或者考虑存储在 SSD 上的哈希表。一种常见的删除技术是留下一个“墓碑”标记,以避免破坏探测链。这纯粹是一个逻辑概念。但在 SSD 上,它与物理世界相互作用。人们可能想为每个墓碑的微小槽位执行 TRIM,但这是不可能的;TRIM 是在更大的块上工作的。闪存感知的解决方案则不同:应用程序定期将哈希表重建到内存中的一个干净的新位置,然后为整个旧区域发出一个单一的、大型的 TRIM 命令。这种批量操作完美地将逻辑清理(移除墓碑)与 FTL 的物理清理机制对齐,使其能够高效地回收大片空间。

应用层感知的主题仍在继续。使用索引分配的文件系统,即一个特殊块指向一个文件的所有数据块,可能会无意中创建“热点”。频繁修改的文件的索引块被反复更新,将所有写磨损集中在少数几个物理擦除块上,导致它们过早死亡。虽然 FTL 的磨损均衡试图缓解这个问题,但系统也可以通过实现自己的轮换方案来提供帮助,定期将这些热索引块移动到磁盘的较冷区域,以更均匀地分散痛苦。

也许最令人惊讶的联系是与操作系统的虚拟内存管理器。当系统 RAM 不足时,它会将页驱逐到后备存储——我们的 SSD。选择哪个页被驱逐是由页替换策略决定的。“全局”策略可能会决定从一个当前空闲的进程中驱逐一个页,以便为活动进程腾出空间。这可能导致更多的“流失”,即进程的页被频繁窃取,导致更多的脏页被写回 SSD。每一次额外的写回都是一次逻辑写入,FTL 必须对其进行物理编程,并在此过程中将其放大。内存管理器中的一个抽象策略决策,直接转化为 SSD 物理磨损的可测量增加,从而缩短其寿命。

系统架构、安全性与宏大综合

将视角放大到整个存储系统的层面,FTL 的角色变得更加核心。在一个由 SSD 构建的 RAID 5 阵列中,写放大成为一个分层现象。RAID 5 中的一次小写入需要读取旧数据、读取旧奇偶校验、写入新数据和写入新奇偶校验——这是一种作为 RAID 级别写放大的“写入惩罚”。然后,这又与 FTL 自身的内部写放大相乘。SSD 内部一个看似微不足道的参数,即其*超额配置*(对用户隐藏的额外物理空间)的程度,成为整个数千美元阵列寿命的关键调整旋钮,因为它直接控制着 FTL 的放大因子。

最后,我们来到了存储、性能和安全的十字路口。为了保护数据,我们对其进行加密。好的加密将可预测的数据转化为不可预测的、看似随机的密文。但 FTL 的高级功能,如内联压缩和重复数据删除,依赖于寻找模式和冗余。当 FTL 面对经过良好加密的数据时,它看到的是一串纯粹的随机性。它的压缩算法找不到任何可压缩的内容,其重复数据删除引擎也找不到任何两个相同的块。FTL 的数据缩减功能完全失效。

这是否意味着我们必须在安全性和存储效率之间做出选择?不。这意味着系统必须更智能。正确的方法是在主机级别对操作进行一次漂亮的重排:首先,操作系统压缩数据,挤出所有冗余。然后,它加密更小的、压缩后的数据。FTL 仍然看到看似随机的密文并且无法进一步压缩,但这没关系。数据缩减的繁重工作已经由主机完成,导致发送到驱动器的逻辑字节数从一开始就减少了。这既保护了安全性,又实现了写操作减少的好处,从而降低了磨损并提高了性能。

从最小的对齐细节到安全的企业级存储系统的宏伟架构,闪存转换层都是一股安静而强大的力量。它不断提醒我们,在计算领域,没有哪个层是孤岛。技术栈底层的硅物理特性创造了约束和机遇,其涟漪一直波及到顶层,要求我们采用一种整体的、协作的系统设计方法。FTL 不仅仅是一个翻译器;它是一位老师,它所传授的课程对于构建我们所依赖的快速、可靠和高效的数字世界至关重要。