数据库中的可变长度文件写入

Question

出于学习/实验目的，我试图模仿我从研究数据库中学到的一些技术。我很好奇 MySQL（可能还有其他数据库）如何解决这个特殊问题。

所以我正在编写一个应用程序，它与其他数据库一样，将记录并排存储在一个文件中。我使用另一个文件来索引记录的位置以快速查找它们。一切正常，直到我需要更新比当前版本长的行。我有一些想法，但似乎没有一个对性能非常友好。

假设我要更新 1,000 条记录中的第 200 条记录。在我的逻辑中，我将文件光标放在行开始的位置，然后写入数据。假设该行的当前版本长 100 个字节（从第 101 个字节开始下一条记录开始）。新数据的长度为 150 字节，因此仅使用文件游标写入将有效地覆盖下一条记录中的字节。

据我所知，您不能从光标将数据“推送”到文件中 - 如果可以的话，这似乎不是对性能最友好的操作。

我可以选择追加新数据并将当前行替换为 NULL 字节。但这似乎是 a) 浪费空间 b) 再次，需要大量机器工作来重建没有 NULL 字节的文件

还有碎片整理的选项，但我还没有准备好去那个方向。

有人知道其他数据库是如何处理这个问题的吗？

Answer 1

其他数据库以多种方式处理此问题。我可以回答 MySQL。

• 第一次将记录写入文件中的某个空间时，请留出一点额外空间。将存储组织成 16KB 的“页面”，可以容纳几条记录。但最初留出 1/16 空间空，以允许行扩展。每个页面都按需加载到 RAM 中，其中的记录可能会在页面写回磁盘之前进行一些重组。

• 如果记录超出页面空间，那么它们可能会被拆分。一些记录可能会重新定位到其他可能相距甚远的新页面。跟踪记录位置的索引不需要记录相邻。

• 所有记录重组和拆分留下的空白空间会导致一些碎片，但它可能只是整体存储的一小部分，所以我们不用担心。最终，碎片可能会变得更糟，因此不时将所有记录的新副本制作成一组新的页面，更有效地重新组织，以替换原始页面是一个好主意。您应该多久执行一次取决于您在数据库中完成了多少活动，因此没有严格的规定。

• 另一个可能有帮助的相对较新的新功能称为sparse files 或hole-punching。传统上，文件的所有连续字节都占用磁盘空间，无论您是否在这些字节中存储有用数据。但是如果文件中的空白可以被视为可用磁盘空间呢？然后你就不会关心碎片了。并非所有文件系统都支持这一点，并且“漏洞”通常限于文件系统块大小的倍数（例如 4KB）。

  MySQL 5.7 在其page compression 功能中使用了打孔功能。 MySQL 仍将数据存储在 16KB 页面中，但您可以启用对页面内数据的可选压缩。如果压缩留下 4KB 的间隙（文件系统块的大小），它会将其视为一个漏洞，并为它释放文件系统存储空间。

还有许多其他可能的技巧。尝试将存储优化到字节是不值得的，因为一旦您这样做，另一个数据更新将需要您撤消它。与完美紧凑的存储相比，优化快速更新通常更好。一切都归结为不同类型的效率（例如，速度与存储）之间的权衡，您必须做出一些决定，哪些对您的数据库更重要。