2018-01-18 03:19:59 +08:00
libmdbx
======================================
**The revised and extended descendant of [Symas LMDB ](https://symas.com/lmdb/ ).**
*The Future will Positive. Всё будет хорошо.*
[](https://travis-ci.org/leo-yuriev/libmdbx)
[](https://ci.appveyor.com/project/leo-yuriev/libmdbx/branch/master)
[](https://scan.coverity.com/projects/reopen-libmdbx)
English version [by Google ](https://translate.googleusercontent.com/translate_c?act=url&ie=UTF8&sl=ru&tl=en&u=https://github.com/leo-yuriev/libmdbx/tree/master )
and [by Yandex ](https://translate.yandex.ru/translate?url=https%3A%2F%2Fgithub.com%2FReOpen%2Flibmdbx%2Ftree%2Fmaster&lang=ru-en ).
### Project Status
2018-03-26 19:17:35 +08:00
**Сейчас MDBX _а о е р е р а б а а е с ** и к середине 2018
2018-05-29 07:04:51 +08:00
ожидается большое изменение как API, так и формата базы данных.
2018-03-26 19:17:35 +08:00
К с
предыдущими версиями.
2018-01-18 03:19:59 +08:00
2018-05-29 07:04:51 +08:00
Цель этой революции - обеспечение более четкого надежного
API и добавление новых функции, а
2018-03-26 19:17:35 +08:00
новыми свойствами.
В а
поддерживает Windows (начиная с
2018-05-29 07:04:51 +08:00
дополнительной платформы. Поддержка других О С
2018-03-26 19:17:35 +08:00
обеспечена на коммерческой основе. Однако такие
усовершенствования (т. е
мейнстрим только в том случае, если будет доступен
соответствующий публичный и бесплатный сервис непрерывной
2018-05-29 07:04:51 +08:00
интеграции (aka Continuous Integration).
2018-01-18 03:19:59 +08:00
## Содержание
- [Обзор ](#Обзор )
- [Сравнение с ](#Сравнение-с )
2018-05-29 07:04:51 +08:00
- [История & Acknowledgments ](#История )
2018-01-18 03:19:59 +08:00
- [Основные свойства ](#Основные-свойства )
- [Сравнение производительности ](#Сравнение-производительности )
- [Интегральная производительность ](#Интегральная-производительность )
- [Масштабируемость чтения ](#Масштабируемость-чтения )
- [Синхронная фиксация ](#Синхронная-фиксация )
- [Отложенная фиксация ](#Отложенная-фиксация )
- [Асинхронная фиксация ](#Асинхронная-фиксация )
- [Потребление ресурсов ](#Потребление-ресурсов )
- [Недостатки и Компромиссы ](#Недостатки-и-Компромиссы )
- [Проблема долгих чтений ](#Проблема-долгих-чтений )
- [Сохранность данных в режиме асинхронной фиксации ](#Сохранность-данных-в-режиме-асинхронной-фиксации )
- [Доработки и усовершенствования относительно LMDB ](#Доработки-и-усовершенствования-относительно-lmdb )
## Обзор
_libmdbx_ - это встраиваемый key-value движок хранения с о
набором свойств и возможностей, ориентированный на создание уникальных
2018-03-26 19:17:35 +08:00
легковесных решений с
2018-01-18 03:19:59 +08:00
_libmdbx_ позволяет множеству процессов совместно читать и обновлять
несколько key-value таблиц с ACID ](https://ru.wikipedia.org/wiki/ACID ),
при минимальных накладных расходах и амортизационной стоимости любых операций Olog(N).
_libmdbx_ обеспечивает
[serializability ](https://en.wikipedia.org/wiki/Serializability )
2018-05-29 07:04:51 +08:00
изменений и согласованность данных после аварий. При этом транзакции,
изменяющие данные, никак не мешают операциям чтения и выполняются строго
2018-01-18 03:19:59 +08:00
последовательно с
[мьютекса ](https://en.wikipedia.org/wiki/Mutual_exclusion ).
_libmdbx_ позволяет выполнять операции чтения с
[wait-free ](https://en.wikipedia.org/wiki/Non-blocking_algorithm#Wait-freedom ),
параллельно на каждом ядре CPU, без использования атомарных операций
и/или примитивов синхронизации.
_libmdbx_ не использует [LSM ](https://en.wikipedia.org/wiki/Log-structured_merge-tree ), а B+Tree ](https://en.wikipedia.org/wiki/B%2B_tree ) с отображением ](https://en.wikipedia.org/wiki/Memory-mapped_file ) всех данных в память,
при этом текущая версия не использует [WAL ](https://en.wikipedia.org/wiki/Write-ahead_logging ).
Это предопределяет многие свойства, в том числе удачные и противопоказанные сценарии использования.
### Сравнение с
Ввиду того, что в _libmdbx_ сейчас происходит революция, я посчитал лучшим решением
ограничится здесь ссылкой на [главу Comparison with other databases ](https://github.com/coreos/bbolt#comparison-with-other-databases ) в описании _BoltDB_ .
### История
_libmdbx_ является результатом переработки и развития "Lightning Memory-Mapped Database",
известной под аббревиатурой
[LMDB ](https://en.wikipedia.org/wiki/Lightning_Memory-Mapped_Database ).
Изначально доработка производилась в составе проекта
[ReOpenLDAP ](https://github.com/leo-yuriev/ReOpenLDAP ). Примерно за год
работы внесенные изменения приобрели самостоятельную ценность. Осенью
2015 доработанный движок был выделен в отдельный проект, который был
[представлен на конференции Highload++
2015](http://www.highload.ru/2015/abstracts/1831.html).
В _libmdbx_ получил новый импульс развития,
благодаря использованию в [Fast Positive
Tables](https://github.com/leo-yuriev/libfpta), aka ["Позитивные
Таблицы"](https://github.com/leo-yuriev/libfpta) by [Positive
Technologies](https://www.ptsecurity.ru).
2018-05-29 07:04:51 +08:00
#### Acknowledgments
2018-01-18 03:19:59 +08:00
Howard Chu (Symas Corporation) - the author of LMDB,
from which originated the MDBX in 2015.
Martin Hedenfalk < martin @ bzero . se > - the author of `btree.c` code,
which was used for begin development of LMDB.
Основные свойства
=================
2018-05-29 07:04:51 +08:00
_libmdbx_ наследует все ключевые возможности и особенности
2018-01-18 03:19:59 +08:00
своего прародителя [LMDB ](https://en.wikipedia.org/wiki/Lightning_Memory-Mapped_Database ),
но с
1. Данные хранятся в упорядоченном отображении (ordered map), ключи всегда
отсортированы, поддерживается выборка диапазонов (range lookups).
2. Данные отображается в память каждого работающего с
К
копирования.
3. Транзакции согласно
[ACID ](https://ru.wikipedia.org/wiki/ACID ), посредством
[MVCC ](https://ru.wikipedia.org/wiki/MVCC ) и
[COW ](https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D0%BF%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D0%BF%D1%80%D0%B8_%D0%B7%D0%B0%D0%BF%D0%B8%D1%81%D0%B8 ).
Изменения строго последовательны и не блокируются чтением,
2018-05-29 07:04:51 +08:00
конфликты между транзакциями невозможны.
2018-01-18 03:19:59 +08:00
При этом гарантируется чтение только зафиксированных данных, см [relaxing serializability ](https://en.wikipedia.org/wiki/Serializability ).
4. Чтение и поиск [без блокировок ](https://ru.wikipedia.org/wiki/%D0%9D%D0%B5%D0%B1%D0%BB%D0%BE%D0%BA%D0%B8%D1%80%D1%83%D1%8E%D1%89%D0%B0%D1%8F_%D1%81%D0%B8%D0%BD%D1%85%D1%80%D0%BE%D0%BD%D0%B8%D0%B7%D0%B0%D1%86%D0%B8%D1%8F ),
без [атомарных операций ](https://ru.wikipedia.org/wiki/%D0%90%D1%82%D0%BE%D0%BC%D0%B0%D1%80%D0%BD%D0%B0%D1%8F_%D0%BE%D0%BF%D0%B5%D1%80%D0%B0%D1%86%D0%B8%D1%8F ).
Читатели не блокируются операциями записи и не конкурируют
между собой, чтение масштабируется линейно по ядрам CPU.
> Для точности следует отметить, что "подключение к БД" (старт первой
> читающей транзакции в потоке) и "отключение от БД" (закрытие БД или
> завершение потока) требуют краткосрочного захвата блокировки для
> регистрации/дерегистрации текущего потока в "таблице читателей".
5. Эффективное хранение дубликатов (ключей с
значениями), без дублирования ключей, с
том числе целочисленных (для вторичных индексов).
6. Эффективная поддержка коротких ключей фиксированной длины, в том числе целочисленных.
7. Амортизационная стоимость любой операции Olog(N),
[WAF ](https://en.wikipedia.org/wiki/Write_amplification ) (Write
Amplification Factor) и RAF (Read Amplification Factor) также Olog(N).
8. Нет [WAL ](https://en.wikipedia.org/wiki/Write-ahead_logging ) и журнала
транзакций, после сбоев не требуется восстановление. Н е
или какое-либо периодическое обслуживание. Поддерживается резервное копирование
"по горячему", на работающей БД без приостановки изменения данных.
9. Отсутствует какое-либо внутреннее управление памятью или кэшированием. Всё
необходимое штатно выполняет ядро О С
Сравнение производительности
============================
В с е
ноутбуке Lenovo Carbon-2, i7-4600U 2.1 ГГц, 8 Гб О З У с
SAMSUNG MZNTD512HAGL-000L1 (DXT23L0Q) 512 Гб.
Исходный код бенчмарка [_IOArena_ ](https://github.com/pmwkaa/ioarena ) и
сценарии тестирования [доступны на
github](https://github.com/pmwkaa/ioarena/tree/HL%2B%2B2015).
--------------------------------------------------------------------------------
### Интегральная производительность
Показана соотнесенная сумма ключевых показателей производительности в трёх
бенчмарках:
- Чтение/Поиск на машине с
- Транзакции с CRUD ](https://ru.wikipedia.org/wiki/CRUD )-операциями
(вставка, чтение, обновление, удаление) в режиме **синхронной фиксации**
данных (fdatasync при завершении каждой транзакции или аналог);
- Транзакции с CRUD ](https://ru.wikipedia.org/wiki/CRUD )-операциями
(вставка, чтение, обновление, удаление) в режиме **отложенной фиксации**
данных (отложенная запись посредством файловой систем или аналог);
*Бенчмарк в режиме асинхронной записи не включен по двум причинам:*
1. Такое сравнение не совсем правомочно, е г о с
ориентированными на хранение данных в памяти ([Tarantool](https://tarantool.io/), [Redis ](https://redis.io/ )).
2018-05-29 07:04:51 +08:00
2. Превосходство libmdbx становится еще более подавляющим, что мешает
2018-01-18 03:19:59 +08:00
восприятию информации.
--------------------------------------------------------------------------------
### Масштабируемость чтения
Для каждого движка показана суммарная производительность при
одновременном выполнении запросов чтения/поиска в 1-2-4-8 потоков на
машине с
--------------------------------------------------------------------------------
### Синхронная фиксация
- Линейная шкала слева и темные прямоугольники соответствуют количеству
транзакций в секунду, усредненному за всё время теста.
- Логарифмическая шкала справа и желтые интервальные отрезки
соответствуют времени выполнения транзакций. При этом каждый отрезок
2018-05-29 07:04:51 +08:00
показывает минимальное и максимальное время, затраченное на выполнение
2018-01-18 03:19:59 +08:00
транзакций, а
Выполняется **10.000 транзакций в режиме синхронной фиксации данных** на
диске. При этом требуется гарантия, что при аварийном выключении питания
(или другом подобном с б о е
соответствовать последней завершенной транзакции. В _libmdbx_ в этом
режиме при фиксации каждой транзакции выполняется системный вызов
[fdatasync ](https://linux.die.net/man/2/fdatasync ).
В
вставки, одно чтение, одно обновление, одно удаление). Бенчмарк стартует
на пустой базе, а
базе насчитывается 10.000 небольших key-value записей.
--------------------------------------------------------------------------------
### Отложенная фиксация
- Линейная шкала слева и темные прямоугольники соответствуют количеству
транзакций в секунду, усредненному за всё время теста.
- Логарифмическая шкала справа и желтые интервальные отрезки
соответствуют времени выполнения транзакций. При этом каждый отрезок
2018-05-29 07:04:51 +08:00
показывает минимальное и максимальное время, затраченное на выполнение
2018-01-18 03:19:59 +08:00
транзакций, а
Выполняется **100.000 транзакций в режиме отложенной фиксации данных**
на диске. При этом требуется гарантия, что при аварийном выключении
питания (или другом подобном с б о е
момент завершения одной из транзакций, но допускается потеря изменений
из некоторого количества последних транзакций, что для многих движков
предполагает включение
[WAL ](https://en.wikipedia.org/wiki/Write-ahead_logging ) (write-ahead
logging) либо журнала транзакций, который в свою очередь опирается на
гарантию упорядоченности данных в журналируемой файловой системе.
_libmdbx_ при этом не ведет WAL, а
системе и ядру О С
В
вставки, одно чтение, одно обновление, одно удаление). Бенчмарк стартует
на пустой базе, а
базе насчитывается 100.000 небольших key-value записей.
--------------------------------------------------------------------------------
### Асинхронная фиксация
- Линейная шкала слева и темные прямоугольники соответствуют количеству
транзакций в секунду, усредненному за всё время теста.
- Логарифмическая шкала справа и желтые интервальные отрезки
соответствуют времени выполнения транзакций. При этом каждый отрезок
2018-05-29 07:04:51 +08:00
показывает минимальное и максимальное время, затраченное на выполнение
2018-01-18 03:19:59 +08:00
транзакций, а
Выполняется **1.000.000 транзакций в режиме асинхронной фиксации
данных** на диске. При этом требуется гарантия, что при аварийном
выключении питания (или другом подобном с б о е
консистентны на момент завершения одной из транзакций, но допускается
потеря изменений из значительного количества последних транзакций. В о
всех движках при этом включался режим предполагающий минимальную
2018-05-29 07:04:51 +08:00
нагрузку на диск по записи, и соответственно минимальную гарантию
2018-01-18 03:19:59 +08:00
сохранности данных. В _libmdbx_ при этом используется режим асинхронной
записи измененных страниц на диск посредством ядра О С
вызова [msync(MS_ASYNC) ](https://linux.die.net/man/2/msync ).
В
вставки, одно чтение, одно обновление, одно удаление). Бенчмарк стартует
на пустой базе, а
базе насчитывается 10.000 небольших key-value записей.
--------------------------------------------------------------------------------
### Потребление ресурсов
Показана соотнесенная сумма использованных ресурсов в ходе бенчмарка в
режиме отложенной фиксации:
- суммарное количество операций ввода-вывода (IOPS), как записи, так и
чтения.
- суммарное затраченное время процессора, как в режиме пользовательских процессов,
так и в режиме ядра О С
- использованное место на диске при завершении теста, после закрытия БД из тестирующего процесса,
но без ожидания всех внутренних операций обслуживания (компактификации LSM и т.п.).
Движок _ForestDB_ был исключен при оформлении результатов, так как
относительно конкурентов многократно превысил потребление каждого из
ресурсов (потратил процессорное время на генерацию IOPS для заполнения
диска), что не позволяло наглядно сравнить показатели остальных движков
на одной диаграмме.
В с е
[getrusage() ](http://man7.org/linux/man-pages/man2/getrusage.2.html ) и
сканированием директорий с
--------------------------------------------------------------------------------
## Недостатки и Компромиссы
1. Единовременно может выполняться не более одной транзакция изменения данных
(один писатель). Зато все изменения всегда последовательны, не может быть
конфликтов или логических ошибок при откате транзакций.
2. Отсутствие [WAL ](https://en.wikipedia.org/wiki/Write-ahead_logging )
обуславливает относительно большой
[WAF ](https://en.wikipedia.org/wiki/Write_amplification ) (Write
Amplification Factor). Поэтому фиксация изменений на диске может быть
достаточно дорогой и являться главным ограничением производительности
при интенсивном изменении данных.
> В
> и/или периодической фиксации. В
> изменения происходят только в памяти и асинхронно фиксируются на диске
> ядром О С
>
> Однако, следует воспринимать это свойство аккуратно и взвешенно.
> Например, полная фиксация транзакции в БД с
> IOPS (скорее всего 3-4) из-за накладных расходов в файловой системе. В
> _libmdbx_ фиксация транзакции также требует от 2 IOPS. Однако, в БД с
> журналом кол-во IOPS будет меняться в зависимости от файловой системы,
> но не от кол-ва записей или их объема. Тогда как в _libmdbx_ кол-во
2018-05-29 07:04:51 +08:00
> будет расти логарифмически от кол-ва записей/строк в БД (по высоте
2018-01-18 03:19:59 +08:00
> b+tree).
3. [COW ](https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D0%BF%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D0%BF%D1%80%D0%B8_%D0%B7%D0%B0%D0%BF%D0%B8%D1%81%D0%B8 )
для реализации [MVCC ](https://ru.wikipedia.org/wiki/MVCC ) выполняется на
уровне страниц в [B+
дереве](https://ru.wikipedia.org/wiki/B-%D0%B4%D0%B5%D1%80%D0%B5%D0%B2%D0%BE).
Поэтому изменение данных амортизационно требует копирования Olog(N)
страниц, что расходует [пропускную способность оперативной
памяти](https://en.wikipedia.org/wiki/Memory_bandwidth) и является
основным ограничителем производительности в режиме `MAPASYNC` .
> Этот недостаток неустраним, тем не менее следует дать некоторые пояснения.
> Дело в том, что фиксация изменений на диске потребует гораздо более
> значительного копирования данных в памяти и массы других затратных операций.
> Поэтому обусловленное этим недостатком падение производительности становится
> заметным только при отказе от фиксации изменений на диске.
2018-05-29 07:04:51 +08:00
> Соответственно, корректнее сказать, что _libmdbx_ позволяет
2018-01-18 03:19:59 +08:00
> получить персистентность ценой минимального падения производительности.
> Если же нет необходимости оперативно сохранять данные, то логичнее
> использовать `std::map`.
4. В _LMDB_ существует проблема долгих чтений (приостановленных читателей),
которая приводит к деградации производительности и переполнению БД.
> В
> некомфортной ситуации и устранения её последствий. Подробности ниже.
5. В _LMDB_ есть вероятность разрушения БД в режиме `WRITEMAP+MAPASYNC` .
В _libmdbx_ для `WRITEMAP+MAPASYNC` гарантируется как сохранность базы,
так и согласованность данных.
> Дополнительно, в качестве альтернативы, предложен режим `UTTERLY_NOSYNC`.
> Подробности ниже.
#### Проблема долгих чтений
*Следует отметить*, что проблема "сборки мусора" так или иначе
существует во всех СУБД (Vacuum в PostgreSQL). Однако в случае _libmdbx_
и LMDB она проявляется более остро, прежде всего из-за высокой
производительности, а
механизмов ради производительности.
Понимание проблемы требует некоторых пояснений, которые
изложены ниже, но могут быть сложны для быстрого восприятия.
Поэтому, тезисно:
* Изменение данных на фоне долгой операции чтения может
приводить к исчерпанию места в БД.
* После чего любая попытка обновить данные будет приводить к
ошибке `MAP_FULL` до завершения долгой операции чтения.
* Характерными примерами долгих чтений являются горячее
резервное копирования и отладка клиентского приложения при
активной транзакции чтения.
* В _LMDB_ после этого будет наблюдаться
устойчивая деградация производительности всех механизмов
обратной записи на диск (в I/O контроллере, в гипервизоре,
в ядре О С
* В _libmdbx_ предусмотрен механизм аварийного прерывания таких
операций, а `LIFO RECLAIM` устраняющий последующую
деградацию производительности.
Операции чтения выполняются в контексте снимка данных (версии
БД), который был актуальным на момент старта транзакции чтения. Такой
читаемый снимок поддерживается неизменным до завершения операции. В
очередь, это не позволяет повторно использовать страницы БД в
последующих версиях (снимках БД).
Другими словами, если обновление данных выполняется на фоне долгой
операции чтения, то вместо повторного использования "старых" ненужных
страниц будут выделяться новые, так как "старые" страницы составляют
снимок БД, который еще используется долгой операцией чтения.
В
операции чтения, в БД могут быть исчерпаны свободные страницы, что не
позволит создавать новые снимки/версии БД. Такая ситуация будет
сохраняться до завершения операции чтения, которая использует старый
снимок данных и препятствует повторному использованию страниц БД.
Однако, на этом проблемы не заканчиваются. После описанной ситуации, все
дополнительные страницы, которые были выделены пока переработка старых
была невозможна, будут участвовать в цикле выделения/освобождения до
конца жизни экземпляра БД. В _LMDB_ этот цикл использования
страниц работает по принципу [FIFO ](https://ru.wikipedia.org/wiki/FIFO ).
Поэтому увеличение количества циркулирующий страниц, с
механизмов кэширования и/или обратной записи, выглядит как увеличение
рабочего набор данных. Проще говоря, однократное попадание в ситуацию
"уснувшего читателя" приводит к устойчивому эффекту вымывания I/O кэша
при всех последующих изменениях данных.
Для устранения описанных проблемы в _libmdbx_ сделаны существенные
доработки, подробности ниже. Иллюстрации к проблеме "долгих чтений"
можно найти в [слайдах презентации ](http://www.slideshare.net/leoyuriev/lmdb ).
Там же приведен пример количественной оценки прироста производительности
за счет эффективной работы [BBWC ](https://en.wikipedia.org/wiki/BBWC )
при включении `LIFO RECLAIM` в _libmdbx_ .
#### Сохранность данных в режиме асинхронной фиксации
При работе в режиме `WRITEMAP+MAPSYNC` запись измененных страниц
выполняется ядром О С
приложения, ядро О С
Однако, при аварийном отключении питания или с б о е О С
может быть сохранена только часть измененных страниц БД. При этом с
2018-05-29 07:04:51 +08:00
вероятностью может оказаться, что будут сохранены мета-страницы с о
2018-01-18 03:19:59 +08:00
ссылками на страницы с
В
производилась полная синхронизация данных (посредством
`mdbx_env_sync()` ).
В _libmdbx_ эта проблема устранена путем полной переработки
пути записи данных:
* В `WRITEMAP+MAPSYNC` _libmdbx_ не обновляет
мета-страницы непосредственно, а
с
* При завершении транзакций, в зависимости от состояния
2018-05-29 07:04:51 +08:00
синхронности данных между диском и оперативной памятью,
2018-01-18 03:19:59 +08:00
_libmdbx_ помечает точки фиксации либо как сильные (strong),
либо как слабые (weak). Так например, в режиме
`WRITEMAP+MAPSYNC` завершаемые транзакции помечаются как
2018-05-29 07:04:51 +08:00
слабые, а
2018-01-18 03:19:59 +08:00
* В _libmdbx_ поддерживается не две, а
Это позволяет выполнять фиксацию транзакций с
сильной, так и слабой точки фиксации, без потери двух предыдущих
точек фиксации (из которых одна может быть сильной, а
В _libmdbx_ позволяет в произвольном порядке чередовать
сильные и слабые точки фиксации без нарушения соответствующих
гарантий в случае неожиданной системной аварии во время фиксации.
* При открытии БД выполняется автоматический откат к последней
сильной фиксации. Этим обеспечивается гарантия сохранности БД.
Такая гарантия надежности не дается бесплатно. Для
2018-05-29 07:04:51 +08:00
сохранности данных, страницы, формирующие крайний снимок с
2018-01-18 03:19:59 +08:00
сильной фиксацией, не должны повторно использоваться
(перезаписываться) до формирования следующей сильной точки
фиксации. Таким образом, крайняя точка фиксации создает
описанный выше эффект "долгого чтения". Разница же здесь в том,
что при исчерпании свободных страниц ситуация будет
автоматически исправлена, посредством записи изменений на диск
2018-05-29 07:04:51 +08:00
и формирования новой сильной точки фиксации.
2018-01-18 03:19:59 +08:00
Таким образом, в режиме безопасной асинхронной фиксации _libmdbx_ будет
всегда использовать новые страницы до исчерпания места в БД или до явного
формирования сильной точки фиксации посредством `mdbx_env_sync()` .
2018-05-29 07:04:51 +08:00
При этом суммарный трафик записи на диск будет примерно такой же,
как если бы отдельно фиксировалась каждая транзакция.
2018-01-18 03:19:59 +08:00
В _libmdbx_ вам предоставляется выбор между безопасным
режимом (по умолчанию) асинхронной фиксации, и режимом `UTTERLY_NOSYNC` когда
при системной аварии есть шанс полного разрушения БД как в LMDB.
В _libmdbx_ будут предусмотрены средства
для асинхронной записи данных на диск с
формированием сильных точек фиксации.
--------------------------------------------------------------------------------
Доработки и усовершенствования относительно LMDB
================================================
1. Режим `LIFO RECLAIM` .
Для повторного использования выбираются не самые старые, а
самые новые страницы из доступных. З а
использования страниц всегда имеет минимальную длину и не
зависит от общего числа выделенных страниц.
В с
максимально возможной эффективностью. В
контроллера дисков или системы хранения с
[BBWC ](https://en.wikipedia.org/wiki/BBWC ) возможно
многократное увеличение производительности по записи
(обновлению данных).
2. Обработчик `OOM-KICK` .
Посредством `mdbx_env_set_oomfunc()` может быть установлен
внешний обработчик (callback), который будет вызван при
2018-05-29 07:04:51 +08:00
исчерпании свободных страниц из-за долгой операцией чтения.
2018-01-18 03:19:59 +08:00
Обработчику будет передан PID и pthread_id виновника.
2018-05-29 07:04:51 +08:00
В
2018-01-18 03:19:59 +08:00
* нейтрализовать виновника (отправить сигнал kill #9 ), если
долгое чтение выполняется сторонним процессом;
* отменить или перезапустить проблемную операцию чтения, если
операция выполняется одним из потоков текущего процесса;
2018-05-29 07:04:51 +08:00
* подождать некоторое время, в расчете на то, что проблемная операция
2018-01-18 03:19:59 +08:00
чтения будет штатно завершена;
* прервать текущую операцию изменения данных с
ошибки.
3. Гарантия сохранности БД в режиме `WRITEMAP+MAPSYNC` .
2018-01-18 20:45:49 +08:00
> В
> режимом (по умолчанию) асинхронной фиксации, и режимом `UTTERLY_NOSYNC`
> когда при системной аварии есть шанс полного разрушения БД как в LMDB.
> Для подробностей смотрите раздел
> [Сохранность данных в режиме асинхронной фиксации](#Сохранность-данных-в-режиме-асинхронной-фиксации).
2018-01-18 03:19:59 +08:00
4. Возможность автоматического формирования контрольных точек
(с б р о с а
устанавливаемого функцией `mdbx_env_set_syncbytes()` .
5. Возможность получить отставание текущей транзакции чтения от
последней версии данных в БД посредством `mdbx_txn_straggler()` .
6. Утилита mdbx_chk для проверки БД и функция `mdbx_env_pgwalk()` для
обхода всех страниц БД.
7. Управление отладкой и получение отладочных сообщений посредством
`mdbx_setup_debug()` .
8. Возможность связать с
дополнительных маркеров посредством `mdbx_canary_put()` , и прочитать их
в транзакции чтения посредством `mdbx_canary_get()` .
9. Возможность узнать есть ли за текущей позицией курсора строка данных
посредством `mdbx_cursor_eof()` .
10. Возможность явно запросить обновление существующей записи, без
создания новой посредством флажка `MDBX_CURRENT` для `mdbx_put()` .
11. Возможность посредством `mdbx_replace()` обновить или удалить запись
с а
конкретное multi-значение.
12. Поддержка ключей и значений нулевой длины, включая сортированные
дубликаты.
13. Исправленный вариант `mdbx_cursor_count()` , возвращающий корректное
количество дубликатов для всех типов таблиц и любого положения курсора.
14. Возможность открыть БД в эксклюзивном режиме посредством
`mdbx_env_open_ex()` , например в целях её проверки.
15. Возможность закрыть БД в "грязном" состоянии (без с б р о с а
формирования сильной точки фиксации) посредством `mdbx_env_close_ex()` .
16. Возможность получить посредством `mdbx_env_info()` дополнительную
информацию, включая номер самой старой версии БД (снимка данных),
который используется одним из читателей.
17. Функция `mdbx_del()` не игнорирует дополнительный (уточняющий)
аргумент `data` для таблиц без дубликатов (без флажка `MDBX_DUPSORT` ), а
при е г о е г о с
записью.
18. Возможность открыть dbi-таблицу, одновременно с
компараторов для ключей и данных, посредством `mdbx_dbi_open_ex()` .
19. Возможность посредством `mdbx_is_dirty()` определить находятся ли
некоторый ключ или данные в "грязной" странице БД. Таким образом,
избегая лишнего копирования данных перед выполнением модифицирующих
2018-05-29 07:04:51 +08:00
операций (значения, размещенные в "грязных" страницах, могут быть
2018-01-18 03:19:59 +08:00
перезаписаны при изменениях, иначе они будут неизменны).
20. Корректное обновление текущей записи, в том числе сортированного
дубликата, при использовании режима `MDBX_CURRENT` в
`mdbx_cursor_put()` .
21. В с е
могут быть переиспользованы посредством `mdbx_cursor_renew()` и ДОЛЖНЫ
ОСВОБОЖДАТЬСЯ ЯВНО.
>
> ## _В А Н О
>
> Это единственное изменение в API, которое значимо меняет
> семантику управления курсорами и может приводить к утечкам
> памяти. Следует отметить, что это изменение вынужденно.
> Так устраняется неоднозначность с
>
> - обращение к уже освобожденной памяти;
> - попытки повторного освобождения памяти;
2018-05-29 07:04:51 +08:00
> - повреждение памяти и ошибки сегментации.
2018-01-18 03:19:59 +08:00
22. Дополнительный код ошибки `MDBX_EMULTIVAL` , который возвращается из
`mdbx_put()` и `mdbx_replace()` при попытке выполнить неоднозначное
обновление или удаления одного из нескольких значений с
23. Возможность посредством `mdbx_get_ex()` получить значение по
заданному ключу, одновременно с
24. Наличие функций `mdbx_cursor_on_first()` и `mdbx_cursor_on_last()` ,
которые позволяют быстро выяснить стоит ли курсор на первой/последней
позиции.
25. При завершении читающих транзакций, открытые в них DBI-хендлы не
закрываются и не теряются при завершении таких транзакций посредством
`mdbx_txn_abort()` или `mdbx_txn_reset()` . Что позволяет избавится от ряда
сложно обнаруживаемых ошибок.
26. Генерация последовательностей посредством `mdbx_dbi_sequence()` .
27. Расширенное динамическое управление размером БД, включая выбор
размера страницы посредством `mdbx_env_set_geometry()` ,
в том числе в **Windows**
28. Три мета-страницы вместо двух, что позволяет гарантированно
консистентно обновлять слабые контрольные точки фиксации без риска
повредить крайнюю сильную точку фиксации.
29. В _libmdbx_ реализован автоматический возврат освобождающихся
страниц в область нераспределенного резерва в конце файла данных. При
этом уменьшается количество страниц загруженных в память и участвующих в
цикле обновления данных и записи на диск. Фактически _libmdbx_ выполняет
постоянную компактификацию данных, но не затрачивая на это
дополнительных ресурсов, а
2018-05-29 07:04:51 +08:00
в БД и установке соответствующих параметров геометрии базы данных, также будет
2018-01-18 03:19:59 +08:00
уменьшаться размер файла на диске, в том числе в **Windows** .
--------------------------------------------------------------------------------
```
$ objdump -f -h -j .text libmdbx.so
libmdbx.so: file format elf64-x86-64
architecture: i386:x86-64, flags 0x00000150:
HAS_SYMS, DYNAMIC, D_PAGED
start address 0x000030e0
Sections:
Idx Name Size VMA LMA File off Algn
11 .text 00014d84 00000000000030e0 00000000000030e0 000030e0 2**4
CONTENTS, ALLOC, LOAD, READONLY, CODE
```
```
$ gcc -v
Using built-in specs.
COLLECT_GCC=gcc
COLLECT_LTO_WRAPPER=/usr/lib/gcc/x86_64-linux-gnu/7/lto-wrapper
OFFLOAD_TARGET_NAMES=nvptx-none
OFFLOAD_TARGET_DEFAULT=1
Target: x86_64-linux-gnu
Configured with: ../src/configure -v --with-pkgversion='Ubuntu 7.2.0-8ubuntu3' --with-bugurl=file:///usr/share/doc/gcc-7/README.Bugs --enable-languages=c,ada,c++,go,brig,d,fortran,objc,obj-c++ --prefix=/usr --with-gcc-major-version-only --program-suffix=-7 --program-prefix=x86_64-linux-gnu- --enable-shared --enable-linker-build-id --libexecdir=/usr/lib --without-included-gettext --enable-threads=posix --libdir=/usr/lib --enable-nls --with-sysroot=/ --enable-clocale=gnu --enable-libstdcxx-debug --enable-libstdcxx-time=yes --with-default-libstdcxx-abi=new --enable-gnu-unique-object --disable-vtable-verify --enable-libmpx --enable-plugin --enable-default-pie --with-system-zlib --with-target-system-zlib --enable-objc-gc=auto --enable-multiarch --disable-werror --with-arch-32=i686 --with-abi=m64 --with-multilib-list=m32,m64,mx32 --enable-multilib --with-tune=generic --enable-offload-targets=nvptx-none --without-cuda-driver --enable-checking=release --build=x86_64-linux-gnu --host=x86_64-linux-gnu --target=x86_64-linux-gnu
Thread model: posix
gcc version 7.2.0 (Ubuntu 7.2.0-8ubuntu3)
```
