mirror of
https://github.com/isar/libmdbx.git
synced 2024-12-30 01:24:12 +08:00
mdbx: separate MDBX's features.
Change-Id: I1964ee5d8b8e5fca170b8e955bfc1a6efe25f6c5
This commit is contained in:
Leo Yuriev
parent
0688461bc4
commit
0e90ea1d8d
6
Makefile
6
Makefile
@ -140,10 +140,10 @@ wbench: wbench.o mdbx.o
|
|||||||
$(CC) $(CFLAGS) $(LDFLAGS) -o $@ $^
|
$(CC) $(CFLAGS) $(LDFLAGS) -o $@ $^
|
||||||
|
|
||||||
mdbx.o: $(SRC_MDBX)
|
mdbx.o: $(SRC_MDBX)
|
||||||
$(CC) $(CFLAGS) -include mdbx.h -c mdb.c -o $@
|
$(CC) $(CFLAGS) -c mdbx.c -o $@
|
||||||
|
|
||||||
mdbx.lo: $(SRC_MDBX)
|
mdbx.lo: $(SRC_MDBX)
|
||||||
$(CC) $(CFLAGS) -include mdbx.h -fPIC -c mdb.c -o $@
|
$(CC) $(CFLAGS) -fPIC -c mdbx.c -o $@
|
||||||
|
|
||||||
lmdb.o: $(SRC_LMDB)
|
lmdb.o: $(SRC_LMDB)
|
||||||
$(CC) $(CFLAGS) -c mdb.c -o $@
|
$(CC) $(CFLAGS) -c mdb.c -o $@
|
||||||
@ -160,7 +160,7 @@ lmdb.lo: $(SRC_LMDB)
|
|||||||
COFLAGS = -fprofile-arcs -ftest-coverage
|
COFLAGS = -fprofile-arcs -ftest-coverage
|
||||||
|
|
||||||
@gcov-mdb.o: $(SRC_MDBX)
|
@gcov-mdb.o: $(SRC_MDBX)
|
||||||
$(CC) $(CFLAGS) $(COFLAGS) -O0 -include mdbx.h -c mdb.c -o $@
|
$(CC) $(CFLAGS) $(COFLAGS) -O0 -c mdbx.c -o $@
|
||||||
|
|
||||||
coverage: @gcov-mdb.o
|
coverage: @gcov-mdb.o
|
||||||
for t in mtest*.c; do x=`basename \$$t .c`; $(MAKE) $$x.o; \
|
for t in mtest*.c; do x=`basename \$$t .c`; $(MAKE) $$x.o; \
|
||||||
|
|||||||
335
mdb.c
335
mdb.c
@ -108,6 +108,11 @@
|
|||||||
# define MDBX_DBG_EXTRA 0
|
# define MDBX_DBG_EXTRA 0
|
||||||
# define MDBX_DBG_AUDIT 0
|
# define MDBX_DBG_AUDIT 0
|
||||||
# define MDBX_DBG_EDGE 0
|
# define MDBX_DBG_EDGE 0
|
||||||
|
# define mdb_runtime_flags 0
|
||||||
|
# define mdb_debug_logger ((void (*)(int, ...)) NULL)
|
||||||
|
# define MDBX_ONLY_FEATURE static
|
||||||
|
#else
|
||||||
|
# define MDBX_ONLY_FEATURE
|
||||||
#endif /* ! MDBX_MODE_ENABLED */
|
#endif /* ! MDBX_MODE_ENABLED */
|
||||||
|
|
||||||
#if (BYTE_ORDER == LITTLE_ENDIAN) == (BYTE_ORDER == BIG_ENDIAN)
|
#if (BYTE_ORDER == LITTLE_ENDIAN) == (BYTE_ORDER == BIG_ENDIAN)
|
||||||
@ -1146,28 +1151,8 @@ mdb_strerror(int err)
|
|||||||
}
|
}
|
||||||
|
|
||||||
#if MDBX_MODE_ENABLED
|
#if MDBX_MODE_ENABLED
|
||||||
|
static txnid_t mdbx_oomkick(MDB_env *env, txnid_t oldest);
|
||||||
int mdb_runtime_flags = MDBX_DBG_PRINT
|
#endif /* MDBX_MODE_ENABLED */
|
||||||
#if MDB_DEBUG
|
|
||||||
| MDBX_DBG_ASSERT
|
|
||||||
#endif
|
|
||||||
#if MDB_DEBUG > 1
|
|
||||||
| MDBX_DBG_TRACE
|
|
||||||
#endif
|
|
||||||
#if MDB_DEBUG > 2
|
|
||||||
| MDBX_DBG_AUDIT
|
|
||||||
#endif
|
|
||||||
#if MDB_DEBUG > 3
|
|
||||||
| MDBX_DBG_EXTRA
|
|
||||||
#endif
|
|
||||||
;
|
|
||||||
|
|
||||||
static MDBX_debug_func *mdb_debug_logger;
|
|
||||||
|
|
||||||
#else /* MDBX_MODE_ENABLED */
|
|
||||||
# define mdb_runtime_flags 0
|
|
||||||
# define mdb_debug_logger ((void (*)(int, ...)) NULL)
|
|
||||||
#endif /* ! MDBX_MODE_ENABLED */
|
|
||||||
|
|
||||||
#if MDB_DEBUG
|
#if MDB_DEBUG
|
||||||
static txnid_t mdb_debug_edge;
|
static txnid_t mdb_debug_edge;
|
||||||
@ -1205,24 +1190,6 @@ static MDBX_debug_func *mdb_debug_logger;
|
|||||||
__assert_fail(msg, __FILE__, line, func)
|
__assert_fail(msg, __FILE__, line, func)
|
||||||
#endif /* MDB_DEBUG */
|
#endif /* MDB_DEBUG */
|
||||||
|
|
||||||
#if MDBX_MODE_ENABLED
|
|
||||||
int __cold
|
|
||||||
mdbx_setup_debug(int flags, MDBX_debug_func* logger, long edge_txn) {
|
|
||||||
unsigned ret = mdb_runtime_flags;
|
|
||||||
if (flags != (int) MDBX_DBG_DNT)
|
|
||||||
mdb_runtime_flags = flags;
|
|
||||||
if (logger != (MDBX_debug_func*) MDBX_DBG_DNT)
|
|
||||||
mdb_debug_logger = logger;
|
|
||||||
#if MDB_DEBUG
|
|
||||||
if (edge_txn != (long) MDBX_DBG_DNT)
|
|
||||||
mdb_debug_edge = edge_txn;
|
|
||||||
#else
|
|
||||||
(void) edge_txn;
|
|
||||||
#endif
|
|
||||||
return ret;
|
|
||||||
}
|
|
||||||
#endif /* MDBX_MODE_ENABLED */
|
|
||||||
|
|
||||||
static void __cold
|
static void __cold
|
||||||
mdb_debug_log(int type, const char *function, int line,
|
mdb_debug_log(int type, const char *function, int line,
|
||||||
const char *fmt, ...)
|
const char *fmt, ...)
|
||||||
@ -1980,70 +1947,6 @@ txnid_t mdb_find_oldest(MDB_env *env, int *laggard)
|
|||||||
return env->me_pgoldest = oldest;
|
return env->me_pgoldest = oldest;
|
||||||
}
|
}
|
||||||
|
|
||||||
static txnid_t __cold
|
|
||||||
mdbx_oomkick(MDB_env *env, txnid_t oldest)
|
|
||||||
{
|
|
||||||
mdb_debug("DB size maxed out");
|
|
||||||
#if MDBX_MODE_ENABLED
|
|
||||||
int retry;
|
|
||||||
txnid_t snap;
|
|
||||||
mdb_debug("DB size maxed out");
|
|
||||||
|
|
||||||
for(retry = 0; ; ++retry) {
|
|
||||||
int reader;
|
|
||||||
|
|
||||||
if (mdb_reader_check(env, NULL))
|
|
||||||
break;
|
|
||||||
|
|
||||||
snap = mdb_find_oldest(env, &reader);
|
|
||||||
if (oldest < snap || reader < 0) {
|
|
||||||
if (retry && env->me_oom_func) {
|
|
||||||
/* LY: notify end of oom-loop */
|
|
||||||
env->me_oom_func(env, 0, 0, oldest, snap - oldest, -retry);
|
|
||||||
}
|
|
||||||
return snap;
|
|
||||||
}
|
|
||||||
|
|
||||||
MDB_reader *r;
|
|
||||||
pthread_t tid;
|
|
||||||
pid_t pid;
|
|
||||||
int rc;
|
|
||||||
|
|
||||||
if (!env->me_oom_func)
|
|
||||||
break;
|
|
||||||
|
|
||||||
r = &env->me_txns->mti_readers[ reader ];
|
|
||||||
pid = r->mr_pid;
|
|
||||||
tid = r->mr_tid;
|
|
||||||
if (r->mr_txnid != oldest || pid <= 0)
|
|
||||||
continue;
|
|
||||||
|
|
||||||
rc = env->me_oom_func(env, pid, (void*) tid, oldest,
|
|
||||||
mdb_meta_head_w(env)->mm_txnid - oldest, retry);
|
|
||||||
if (rc < 0)
|
|
||||||
break;
|
|
||||||
|
|
||||||
if (rc) {
|
|
||||||
r->mr_txnid = ~(txnid_t)0;
|
|
||||||
if (rc > 1) {
|
|
||||||
r->mr_tid = 0;
|
|
||||||
r->mr_pid = 0;
|
|
||||||
mdbx_coherent_barrier();
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
||||||
if (retry && env->me_oom_func) {
|
|
||||||
/* LY: notify end of oom-loop */
|
|
||||||
env->me_oom_func(env, 0, 0, oldest, 0, -retry);
|
|
||||||
}
|
|
||||||
#else
|
|
||||||
(void) oldest;
|
|
||||||
(void) mdb_reader_check(env, NULL);
|
|
||||||
#endif /* MDBX_MODE_ENABLED */
|
|
||||||
return mdb_find_oldest(env, NULL);
|
|
||||||
}
|
|
||||||
|
|
||||||
/** Add a page to the txn's dirty list */
|
/** Add a page to the txn's dirty list */
|
||||||
static void
|
static void
|
||||||
mdb_page_dirty(MDB_txn *txn, MDB_page *mp)
|
mdb_page_dirty(MDB_txn *txn, MDB_page *mp)
|
||||||
@ -2346,8 +2249,14 @@ mdb_page_alloc(MDB_cursor *mc, int num, MDB_page **mp, int flags)
|
|||||||
}
|
}
|
||||||
|
|
||||||
if (rc == MDB_MAP_FULL) {
|
if (rc == MDB_MAP_FULL) {
|
||||||
|
#if MDBX_MODE_ENABLED
|
||||||
txnid_t snap = mdbx_oomkick(env, oldest);
|
txnid_t snap = mdbx_oomkick(env, oldest);
|
||||||
|
#else
|
||||||
|
mdb_debug("DB size maxed out");
|
||||||
|
txnid_t snap = mdb_find_oldest(env, NULL);
|
||||||
|
#endif /* MDBX_MODE_ENABLED */
|
||||||
if (snap > oldest) {
|
if (snap > oldest) {
|
||||||
|
oldest = snap;
|
||||||
continue;
|
continue;
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
@ -3997,21 +3906,6 @@ fail:
|
|||||||
return rc;
|
return rc;
|
||||||
}
|
}
|
||||||
|
|
||||||
#if MDBX_MODE_ENABLED
|
|
||||||
int __cold
|
|
||||||
mdbx_env_set_syncbytes(MDB_env *env, size_t bytes)
|
|
||||||
{
|
|
||||||
if (unlikely(!env))
|
|
||||||
return EINVAL;
|
|
||||||
|
|
||||||
if(unlikely(env->me_signature != MDBX_ME_SIGNATURE))
|
|
||||||
return MDB_VERSION_MISMATCH;
|
|
||||||
|
|
||||||
env->me_sync_threshold = bytes;
|
|
||||||
return env->me_map ? mdb_env_sync(env, 0) : 0;
|
|
||||||
}
|
|
||||||
#endif /* MDBX_MODE_ENABLED */
|
|
||||||
|
|
||||||
/** Read the environment parameters of a DB environment before
|
/** Read the environment parameters of a DB environment before
|
||||||
* mapping it into memory.
|
* mapping it into memory.
|
||||||
* @param[in] env the environment handle
|
* @param[in] env the environment handle
|
||||||
@ -4875,10 +4769,7 @@ mdb_env_setup_locks(MDB_env *env, char *lpath, int mode, int *excl)
|
|||||||
# error "Persistent DB flags & env flags overlap, but both go in mm_flags"
|
# error "Persistent DB flags & env flags overlap, but both go in mm_flags"
|
||||||
#endif
|
#endif
|
||||||
|
|
||||||
#if ! MDBX_MODE_ENABLED
|
MDBX_ONLY_FEATURE int __cold
|
||||||
static
|
|
||||||
#endif /* ! MDBX_MODE_ENABLED */
|
|
||||||
int __cold
|
|
||||||
mdbx_env_open_ex(MDB_env *env, const char *path, unsigned flags, mode_t mode, int *exclusive)
|
mdbx_env_open_ex(MDB_env *env, const char *path, unsigned flags, mode_t mode, int *exclusive)
|
||||||
{
|
{
|
||||||
int oflags, rc, len, excl = -1;
|
int oflags, rc, len, excl = -1;
|
||||||
@ -5109,10 +5000,7 @@ mdb_env_close0(MDB_env *env)
|
|||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
#if ! MDBX_MODE_ENABLED
|
MDBX_ONLY_FEATURE int __cold
|
||||||
static
|
|
||||||
#endif /* ! MDBX_MODE_ENABLED */
|
|
||||||
int __cold
|
|
||||||
mdbx_env_close_ex(MDB_env *env, int dont_sync)
|
mdbx_env_close_ex(MDB_env *env, int dont_sync)
|
||||||
{
|
{
|
||||||
MDB_page *dp;
|
MDB_page *dp;
|
||||||
@ -9724,10 +9612,7 @@ mdb_stat0(MDB_env *env, MDB_db *db, MDB_stat *arg)
|
|||||||
return MDB_SUCCESS;
|
return MDB_SUCCESS;
|
||||||
}
|
}
|
||||||
|
|
||||||
#if ! MDBX_MODE_ENABLED
|
MDBX_ONLY_FEATURE int __cold
|
||||||
static
|
|
||||||
#endif /* ! MDBX_MODE_ENABLED */
|
|
||||||
int __cold
|
|
||||||
mdbx_env_stat(MDB_env *env, MDBX_stat *arg, size_t bytes)
|
mdbx_env_stat(MDB_env *env, MDBX_stat *arg, size_t bytes)
|
||||||
{
|
{
|
||||||
MDB_meta *meta;
|
MDB_meta *meta;
|
||||||
@ -9747,10 +9632,7 @@ mdb_env_stat(MDB_env *env, MDB_stat *arg)
|
|||||||
return mdbx_env_stat(env, (MDBX_stat *) arg, sizeof(MDB_stat));
|
return mdbx_env_stat(env, (MDBX_stat *) arg, sizeof(MDB_stat));
|
||||||
}
|
}
|
||||||
|
|
||||||
#if ! MDBX_MODE_ENABLED
|
MDBX_ONLY_FEATURE int __cold
|
||||||
static
|
|
||||||
#endif /* ! MDBX_MODE_ENABLED */
|
|
||||||
int __cold
|
|
||||||
mdbx_env_info(MDB_env *env, MDBX_envinfo *arg, size_t bytes)
|
mdbx_env_info(MDB_env *env, MDBX_envinfo *arg, size_t bytes)
|
||||||
{
|
{
|
||||||
MDB_meta *meta;
|
MDB_meta *meta;
|
||||||
@ -9962,10 +9844,7 @@ int mdb_dbi_open(MDB_txn *txn, const char *name, unsigned flags, MDB_dbi *dbi)
|
|||||||
return rc;
|
return rc;
|
||||||
}
|
}
|
||||||
|
|
||||||
#if ! MDBX_MODE_ENABLED
|
MDBX_ONLY_FEATURE int __cold
|
||||||
static
|
|
||||||
#endif
|
|
||||||
int __cold
|
|
||||||
mdbx_stat(MDB_txn *txn, MDB_dbi dbi, MDBX_stat *arg, size_t bytes)
|
mdbx_stat(MDB_txn *txn, MDB_dbi dbi, MDBX_stat *arg, size_t bytes)
|
||||||
{
|
{
|
||||||
if (unlikely(!arg || !txn))
|
if (unlikely(!arg || !txn))
|
||||||
@ -10470,184 +10349,6 @@ static void mdb_mutex_unlock(MDB_env *env, pthread_mutex_t *mutex) {
|
|||||||
(void) rc;
|
(void) rc;
|
||||||
}
|
}
|
||||||
|
|
||||||
#if MDBX_MODE_ENABLED
|
|
||||||
|
|
||||||
void __cold
|
|
||||||
mdbx_env_set_oomfunc(MDB_env *env, MDBX_oom_func *oomfunc)
|
|
||||||
{
|
|
||||||
if (likely(env && env->me_signature == MDBX_ME_SIGNATURE))
|
|
||||||
env->me_oom_func = oomfunc;
|
|
||||||
}
|
|
||||||
|
|
||||||
MDBX_oom_func* __cold
|
|
||||||
mdbx_env_get_oomfunc(MDB_env *env)
|
|
||||||
{
|
|
||||||
return likely(env && env->me_signature == MDBX_ME_SIGNATURE)
|
|
||||||
? env->me_oom_func : NULL;
|
|
||||||
}
|
|
||||||
|
|
||||||
struct mdb_walk_ctx {
|
|
||||||
MDB_txn *mw_txn;
|
|
||||||
void *mw_user;
|
|
||||||
MDBX_pgvisitor_func *mw_visitor;
|
|
||||||
};
|
|
||||||
|
|
||||||
typedef struct mdb_walk_ctx mdb_walk_ctx_t;
|
|
||||||
|
|
||||||
|
|
||||||
/** Depth-first tree traversal. */
|
|
||||||
static int __cold
|
|
||||||
mdb_env_walk(mdb_walk_ctx_t *ctx, const char* dbi, pgno_t pg, int flags, int deep)
|
|
||||||
{
|
|
||||||
MDB_page *mp;
|
|
||||||
int rc, i, nkeys;
|
|
||||||
unsigned header_size, unused_size, payload_size, align_bytes;
|
|
||||||
const char* type;
|
|
||||||
|
|
||||||
if (pg == P_INVALID)
|
|
||||||
return MDB_CORRUPTED;
|
|
||||||
|
|
||||||
rc = mdb_page_get(ctx->mw_txn, pg, &mp, NULL);
|
|
||||||
if (rc)
|
|
||||||
return rc;
|
|
||||||
if (pg != mp->mp_p.p_pgno)
|
|
||||||
return MDB_CORRUPTED;
|
|
||||||
|
|
||||||
nkeys = NUMKEYS(mp);
|
|
||||||
header_size = IS_LEAF2(mp) ? PAGEHDRSZ : PAGEBASE + mp->mp_lower;
|
|
||||||
unused_size = SIZELEFT(mp);
|
|
||||||
payload_size = 0;
|
|
||||||
|
|
||||||
/* LY: Don't use mask here, e.g bitwise (P_BRANCH|P_LEAF|P_LEAF2|P_META|P_OVERFLOW|P_SUBP).
|
|
||||||
* Pages should not me marked dirty/loose or otherwise. */
|
|
||||||
switch (mp->mp_flags) {
|
|
||||||
case P_BRANCH:
|
|
||||||
type = "branch";
|
|
||||||
if (nkeys < 1)
|
|
||||||
return MDB_CORRUPTED;
|
|
||||||
break;
|
|
||||||
case P_LEAF:
|
|
||||||
type = "leaf";
|
|
||||||
break;
|
|
||||||
case P_LEAF|P_SUBP:
|
|
||||||
type = "dupsort-subleaf";
|
|
||||||
break;
|
|
||||||
case P_LEAF|P_LEAF2:
|
|
||||||
type = "dupfixed-leaf";
|
|
||||||
break;
|
|
||||||
case P_LEAF|P_LEAF2|P_SUBP:
|
|
||||||
type = "dupsort-dupfixed-subleaf";
|
|
||||||
break;
|
|
||||||
case P_META:
|
|
||||||
case P_OVERFLOW:
|
|
||||||
default:
|
|
||||||
return MDB_CORRUPTED;
|
|
||||||
}
|
|
||||||
|
|
||||||
for (align_bytes = i = 0; i < nkeys;
|
|
||||||
align_bytes += ((payload_size + align_bytes) & 1), i++) {
|
|
||||||
MDB_node *node;
|
|
||||||
|
|
||||||
if (IS_LEAF2(mp)) {
|
|
||||||
/* LEAF2 pages have no mp_ptrs[] or node headers */
|
|
||||||
payload_size += mp->mp_ksize;
|
|
||||||
continue;
|
|
||||||
}
|
|
||||||
|
|
||||||
node = NODEPTR(mp, i);
|
|
||||||
payload_size += NODESIZE + node->mn_ksize;
|
|
||||||
|
|
||||||
if (IS_BRANCH(mp)) {
|
|
||||||
rc = mdb_env_walk(ctx, dbi, NODEPGNO(node), flags, deep);
|
|
||||||
if (rc)
|
|
||||||
return rc;
|
|
||||||
continue;
|
|
||||||
}
|
|
||||||
|
|
||||||
assert(IS_LEAF(mp));
|
|
||||||
if (node->mn_ksize < 1)
|
|
||||||
return MDB_CORRUPTED;
|
|
||||||
if (node->mn_flags & F_BIGDATA) {
|
|
||||||
MDB_page *omp;
|
|
||||||
pgno_t *opg;
|
|
||||||
size_t over_header, over_payload, over_unused;
|
|
||||||
|
|
||||||
payload_size += sizeof(pgno_t);
|
|
||||||
opg = NODEDATA(node);
|
|
||||||
rc = mdb_page_get(ctx->mw_txn, *opg, &omp, NULL);
|
|
||||||
if (rc)
|
|
||||||
return rc;
|
|
||||||
if (*opg != omp->mp_p.p_pgno)
|
|
||||||
return MDB_CORRUPTED;
|
|
||||||
/* LY: Don't use mask here, e.g bitwise (P_BRANCH|P_LEAF|P_LEAF2|P_META|P_OVERFLOW|P_SUBP).
|
|
||||||
* Pages should not me marked dirty/loose or otherwise. */
|
|
||||||
if (P_OVERFLOW != omp->mp_flags)
|
|
||||||
return MDB_CORRUPTED;
|
|
||||||
|
|
||||||
over_header = PAGEHDRSZ;
|
|
||||||
over_payload = NODEDSZ(node);
|
|
||||||
over_unused = omp->mp_pages * ctx->mw_txn->mt_env->me_psize
|
|
||||||
- over_payload - over_header;
|
|
||||||
|
|
||||||
rc = ctx->mw_visitor(*opg, omp->mp_pages, ctx->mw_user, dbi,
|
|
||||||
"overflow-data", 1, over_payload, over_header, over_unused);
|
|
||||||
if (rc)
|
|
||||||
return rc;
|
|
||||||
continue;
|
|
||||||
}
|
|
||||||
|
|
||||||
payload_size += NODEDSZ(node);
|
|
||||||
if (node->mn_flags & F_SUBDATA) {
|
|
||||||
MDB_db *db = NODEDATA(node);
|
|
||||||
char* name = NULL;
|
|
||||||
|
|
||||||
if (NODEDSZ(node) < 1)
|
|
||||||
return MDB_CORRUPTED;
|
|
||||||
if (! (node->mn_flags & F_DUPDATA)) {
|
|
||||||
name = NODEKEY(node);
|
|
||||||
int namelen = (char*) db - name;
|
|
||||||
name = memcpy(alloca(namelen + 1), name, namelen);
|
|
||||||
name[namelen] = 0;
|
|
||||||
}
|
|
||||||
rc = mdb_env_walk(ctx, (name && name[0]) ? name : dbi,
|
|
||||||
db->md_root, node->mn_flags & F_DUPDATA, deep + 1);
|
|
||||||
if (rc)
|
|
||||||
return rc;
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
||||||
return ctx->mw_visitor(mp->mp_p.p_pgno, 1, ctx->mw_user, dbi, type,
|
|
||||||
nkeys, payload_size, header_size, unused_size + align_bytes);
|
|
||||||
}
|
|
||||||
|
|
||||||
int __cold
|
|
||||||
mdbx_env_pgwalk(MDB_txn *txn, MDBX_pgvisitor_func* visitor, void* user)
|
|
||||||
{
|
|
||||||
mdb_walk_ctx_t ctx;
|
|
||||||
int rc;
|
|
||||||
|
|
||||||
if (unlikely(!txn))
|
|
||||||
return MDB_BAD_TXN;
|
|
||||||
if (unlikely(txn->mt_signature != MDBX_MT_SIGNATURE))
|
|
||||||
return MDB_VERSION_MISMATCH;
|
|
||||||
|
|
||||||
ctx.mw_txn = txn;
|
|
||||||
ctx.mw_user = user;
|
|
||||||
ctx.mw_visitor = visitor;
|
|
||||||
|
|
||||||
rc = visitor(0, 2, user, "lmdb", "meta", 2, sizeof(MDB_meta)*2, PAGEHDRSZ*2,
|
|
||||||
(txn->mt_env->me_psize - sizeof(MDB_meta) - PAGEHDRSZ) *2);
|
|
||||||
if (! rc && txn->mt_dbs[FREE_DBI].md_root != P_INVALID)
|
|
||||||
rc = mdb_env_walk(&ctx, "free", txn->mt_dbs[FREE_DBI].md_root, 0, 0);
|
|
||||||
if (! rc && txn->mt_dbs[MAIN_DBI].md_root != P_INVALID)
|
|
||||||
rc = mdb_env_walk(&ctx, "main", txn->mt_dbs[MAIN_DBI].md_root, 0, 0);
|
|
||||||
if (! rc)
|
|
||||||
rc = visitor(P_INVALID, 0, user, NULL, NULL, 0, 0, 0, 0);
|
|
||||||
return rc;
|
|
||||||
}
|
|
||||||
|
|
||||||
#endif /* MDBX_MODE_ENABLED */
|
|
||||||
|
|
||||||
/** @} */
|
/** @} */
|
||||||
|
|
||||||
#include "./midl.c"
|
#include "./midl.c"
|
||||||
|
|||||||
309
mdbx.c
Normal file
309
mdbx.c
Normal file
@ -0,0 +1,309 @@
|
|||||||
|
/*
|
||||||
|
Copyright (c) 2015,2016 Leonid Yuriev <leo@yuriev.ru>.
|
||||||
|
Copyright (c) 2015,2016 Peter-Service R&D LLC.
|
||||||
|
|
||||||
|
This file is part of ReOpenLDAP.
|
||||||
|
|
||||||
|
ReOpenLDAP is free software; you can redistribute it and/or modify it under
|
||||||
|
the terms of the GNU Affero General Public License as published by
|
||||||
|
the Free Software Foundation; either version 3 of the License, or
|
||||||
|
(at your option) any later version.
|
||||||
|
|
||||||
|
ReOpenLDAP is distributed in the hope that it will be useful,
|
||||||
|
but WITHOUT ANY WARRANTY; without even the implied warranty of
|
||||||
|
MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
|
||||||
|
GNU Affero General Public License for more details.
|
||||||
|
|
||||||
|
You should have received a copy of the GNU Affero General Public License
|
||||||
|
along with this program. If not, see <http://www.gnu.org/licenses/>.
|
||||||
|
*/
|
||||||
|
|
||||||
|
#include "mdbx.h"
|
||||||
|
|
||||||
|
int mdb_runtime_flags = MDBX_DBG_PRINT
|
||||||
|
#if MDB_DEBUG
|
||||||
|
| MDBX_DBG_ASSERT
|
||||||
|
#endif
|
||||||
|
#if MDB_DEBUG > 1
|
||||||
|
| MDBX_DBG_TRACE
|
||||||
|
#endif
|
||||||
|
#if MDB_DEBUG > 2
|
||||||
|
| MDBX_DBG_AUDIT
|
||||||
|
#endif
|
||||||
|
#if MDB_DEBUG > 3
|
||||||
|
| MDBX_DBG_EXTRA
|
||||||
|
#endif
|
||||||
|
;
|
||||||
|
|
||||||
|
static MDBX_debug_func *mdb_debug_logger;
|
||||||
|
|
||||||
|
int mdbx_setup_debug(int flags, MDBX_debug_func* logger, long edge_txn);
|
||||||
|
|
||||||
|
#include "mdb.c"
|
||||||
|
|
||||||
|
int __cold
|
||||||
|
mdbx_setup_debug(int flags, MDBX_debug_func* logger, long edge_txn) {
|
||||||
|
unsigned ret = mdb_runtime_flags;
|
||||||
|
if (flags != (int) MDBX_DBG_DNT)
|
||||||
|
mdb_runtime_flags = flags;
|
||||||
|
if (logger != (MDBX_debug_func*) MDBX_DBG_DNT)
|
||||||
|
mdb_debug_logger = logger;
|
||||||
|
#if MDB_DEBUG
|
||||||
|
if (edge_txn != (long) MDBX_DBG_DNT)
|
||||||
|
mdb_debug_edge = edge_txn;
|
||||||
|
#else
|
||||||
|
(void) edge_txn;
|
||||||
|
#endif
|
||||||
|
return ret;
|
||||||
|
}
|
||||||
|
|
||||||
|
static txnid_t __cold
|
||||||
|
mdbx_oomkick(MDB_env *env, txnid_t oldest)
|
||||||
|
{
|
||||||
|
mdb_debug("DB size maxed out");
|
||||||
|
#if MDBX_MODE_ENABLED
|
||||||
|
int retry;
|
||||||
|
txnid_t snap;
|
||||||
|
mdb_debug("DB size maxed out");
|
||||||
|
|
||||||
|
for(retry = 0; ; ++retry) {
|
||||||
|
int reader;
|
||||||
|
|
||||||
|
if (mdb_reader_check(env, NULL))
|
||||||
|
break;
|
||||||
|
|
||||||
|
snap = mdb_find_oldest(env, &reader);
|
||||||
|
if (oldest < snap || reader < 0) {
|
||||||
|
if (retry && env->me_oom_func) {
|
||||||
|
/* LY: notify end of oom-loop */
|
||||||
|
env->me_oom_func(env, 0, 0, oldest, snap - oldest, -retry);
|
||||||
|
}
|
||||||
|
return snap;
|
||||||
|
}
|
||||||
|
|
||||||
|
MDB_reader *r;
|
||||||
|
pthread_t tid;
|
||||||
|
pid_t pid;
|
||||||
|
int rc;
|
||||||
|
|
||||||
|
if (!env->me_oom_func)
|
||||||
|
break;
|
||||||
|
|
||||||
|
r = &env->me_txns->mti_readers[ reader ];
|
||||||
|
pid = r->mr_pid;
|
||||||
|
tid = r->mr_tid;
|
||||||
|
if (r->mr_txnid != oldest || pid <= 0)
|
||||||
|
continue;
|
||||||
|
|
||||||
|
rc = env->me_oom_func(env, pid, (void*) tid, oldest,
|
||||||
|
mdb_meta_head_w(env)->mm_txnid - oldest, retry);
|
||||||
|
if (rc < 0)
|
||||||
|
break;
|
||||||
|
|
||||||
|
if (rc) {
|
||||||
|
r->mr_txnid = ~(txnid_t)0;
|
||||||
|
if (rc > 1) {
|
||||||
|
r->mr_tid = 0;
|
||||||
|
r->mr_pid = 0;
|
||||||
|
mdbx_coherent_barrier();
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
if (retry && env->me_oom_func) {
|
||||||
|
/* LY: notify end of oom-loop */
|
||||||
|
env->me_oom_func(env, 0, 0, oldest, 0, -retry);
|
||||||
|
}
|
||||||
|
#else
|
||||||
|
(void) oldest;
|
||||||
|
(void) mdb_reader_check(env, NULL);
|
||||||
|
#endif /* MDBX_MODE_ENABLED */
|
||||||
|
return mdb_find_oldest(env, NULL);
|
||||||
|
}
|
||||||
|
|
||||||
|
int __cold
|
||||||
|
mdbx_env_set_syncbytes(MDB_env *env, size_t bytes)
|
||||||
|
{
|
||||||
|
if (unlikely(!env))
|
||||||
|
return EINVAL;
|
||||||
|
|
||||||
|
if(unlikely(env->me_signature != MDBX_ME_SIGNATURE))
|
||||||
|
return MDB_VERSION_MISMATCH;
|
||||||
|
|
||||||
|
env->me_sync_threshold = bytes;
|
||||||
|
return env->me_map ? mdb_env_sync(env, 0) : 0;
|
||||||
|
}
|
||||||
|
|
||||||
|
void __cold
|
||||||
|
mdbx_env_set_oomfunc(MDB_env *env, MDBX_oom_func *oomfunc)
|
||||||
|
{
|
||||||
|
if (likely(env && env->me_signature == MDBX_ME_SIGNATURE))
|
||||||
|
env->me_oom_func = oomfunc;
|
||||||
|
}
|
||||||
|
|
||||||
|
MDBX_oom_func* __cold
|
||||||
|
mdbx_env_get_oomfunc(MDB_env *env)
|
||||||
|
{
|
||||||
|
return likely(env && env->me_signature == MDBX_ME_SIGNATURE)
|
||||||
|
? env->me_oom_func : NULL;
|
||||||
|
}
|
||||||
|
|
||||||
|
struct mdb_walk_ctx {
|
||||||
|
MDB_txn *mw_txn;
|
||||||
|
void *mw_user;
|
||||||
|
MDBX_pgvisitor_func *mw_visitor;
|
||||||
|
};
|
||||||
|
|
||||||
|
typedef struct mdb_walk_ctx mdb_walk_ctx_t;
|
||||||
|
|
||||||
|
|
||||||
|
/** Depth-first tree traversal. */
|
||||||
|
static int __cold
|
||||||
|
mdb_env_walk(mdb_walk_ctx_t *ctx, const char* dbi, pgno_t pg, int flags, int deep)
|
||||||
|
{
|
||||||
|
MDB_page *mp;
|
||||||
|
int rc, i, nkeys;
|
||||||
|
unsigned header_size, unused_size, payload_size, align_bytes;
|
||||||
|
const char* type;
|
||||||
|
|
||||||
|
if (pg == P_INVALID)
|
||||||
|
return MDB_CORRUPTED;
|
||||||
|
|
||||||
|
rc = mdb_page_get(ctx->mw_txn, pg, &mp, NULL);
|
||||||
|
if (rc)
|
||||||
|
return rc;
|
||||||
|
if (pg != mp->mp_p.p_pgno)
|
||||||
|
return MDB_CORRUPTED;
|
||||||
|
|
||||||
|
nkeys = NUMKEYS(mp);
|
||||||
|
header_size = IS_LEAF2(mp) ? PAGEHDRSZ : PAGEBASE + mp->mp_lower;
|
||||||
|
unused_size = SIZELEFT(mp);
|
||||||
|
payload_size = 0;
|
||||||
|
|
||||||
|
/* LY: Don't use mask here, e.g bitwise (P_BRANCH|P_LEAF|P_LEAF2|P_META|P_OVERFLOW|P_SUBP).
|
||||||
|
* Pages should not me marked dirty/loose or otherwise. */
|
||||||
|
switch (mp->mp_flags) {
|
||||||
|
case P_BRANCH:
|
||||||
|
type = "branch";
|
||||||
|
if (nkeys < 1)
|
||||||
|
return MDB_CORRUPTED;
|
||||||
|
break;
|
||||||
|
case P_LEAF:
|
||||||
|
type = "leaf";
|
||||||
|
break;
|
||||||
|
case P_LEAF|P_SUBP:
|
||||||
|
type = "dupsort-subleaf";
|
||||||
|
break;
|
||||||
|
case P_LEAF|P_LEAF2:
|
||||||
|
type = "dupfixed-leaf";
|
||||||
|
break;
|
||||||
|
case P_LEAF|P_LEAF2|P_SUBP:
|
||||||
|
type = "dupsort-dupfixed-subleaf";
|
||||||
|
break;
|
||||||
|
case P_META:
|
||||||
|
case P_OVERFLOW:
|
||||||
|
default:
|
||||||
|
return MDB_CORRUPTED;
|
||||||
|
}
|
||||||
|
|
||||||
|
for (align_bytes = i = 0; i < nkeys;
|
||||||
|
align_bytes += ((payload_size + align_bytes) & 1), i++) {
|
||||||
|
MDB_node *node;
|
||||||
|
|
||||||
|
if (IS_LEAF2(mp)) {
|
||||||
|
/* LEAF2 pages have no mp_ptrs[] or node headers */
|
||||||
|
payload_size += mp->mp_ksize;
|
||||||
|
continue;
|
||||||
|
}
|
||||||
|
|
||||||
|
node = NODEPTR(mp, i);
|
||||||
|
payload_size += NODESIZE + node->mn_ksize;
|
||||||
|
|
||||||
|
if (IS_BRANCH(mp)) {
|
||||||
|
rc = mdb_env_walk(ctx, dbi, NODEPGNO(node), flags, deep);
|
||||||
|
if (rc)
|
||||||
|
return rc;
|
||||||
|
continue;
|
||||||
|
}
|
||||||
|
|
||||||
|
assert(IS_LEAF(mp));
|
||||||
|
if (node->mn_ksize < 1)
|
||||||
|
return MDB_CORRUPTED;
|
||||||
|
if (node->mn_flags & F_BIGDATA) {
|
||||||
|
MDB_page *omp;
|
||||||
|
pgno_t *opg;
|
||||||
|
size_t over_header, over_payload, over_unused;
|
||||||
|
|
||||||
|
payload_size += sizeof(pgno_t);
|
||||||
|
opg = NODEDATA(node);
|
||||||
|
rc = mdb_page_get(ctx->mw_txn, *opg, &omp, NULL);
|
||||||
|
if (rc)
|
||||||
|
return rc;
|
||||||
|
if (*opg != omp->mp_p.p_pgno)
|
||||||
|
return MDB_CORRUPTED;
|
||||||
|
/* LY: Don't use mask here, e.g bitwise (P_BRANCH|P_LEAF|P_LEAF2|P_META|P_OVERFLOW|P_SUBP).
|
||||||
|
* Pages should not me marked dirty/loose or otherwise. */
|
||||||
|
if (P_OVERFLOW != omp->mp_flags)
|
||||||
|
return MDB_CORRUPTED;
|
||||||
|
|
||||||
|
over_header = PAGEHDRSZ;
|
||||||
|
over_payload = NODEDSZ(node);
|
||||||
|
over_unused = omp->mp_pages * ctx->mw_txn->mt_env->me_psize
|
||||||
|
- over_payload - over_header;
|
||||||
|
|
||||||
|
rc = ctx->mw_visitor(*opg, omp->mp_pages, ctx->mw_user, dbi,
|
||||||
|
"overflow-data", 1, over_payload, over_header, over_unused);
|
||||||
|
if (rc)
|
||||||
|
return rc;
|
||||||
|
continue;
|
||||||
|
}
|
||||||
|
|
||||||
|
payload_size += NODEDSZ(node);
|
||||||
|
if (node->mn_flags & F_SUBDATA) {
|
||||||
|
MDB_db *db = NODEDATA(node);
|
||||||
|
char* name = NULL;
|
||||||
|
|
||||||
|
if (NODEDSZ(node) < 1)
|
||||||
|
return MDB_CORRUPTED;
|
||||||
|
if (! (node->mn_flags & F_DUPDATA)) {
|
||||||
|
name = NODEKEY(node);
|
||||||
|
int namelen = (char*) db - name;
|
||||||
|
name = memcpy(alloca(namelen + 1), name, namelen);
|
||||||
|
name[namelen] = 0;
|
||||||
|
}
|
||||||
|
rc = mdb_env_walk(ctx, (name && name[0]) ? name : dbi,
|
||||||
|
db->md_root, node->mn_flags & F_DUPDATA, deep + 1);
|
||||||
|
if (rc)
|
||||||
|
return rc;
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
return ctx->mw_visitor(mp->mp_p.p_pgno, 1, ctx->mw_user, dbi, type,
|
||||||
|
nkeys, payload_size, header_size, unused_size + align_bytes);
|
||||||
|
}
|
||||||
|
|
||||||
|
int __cold
|
||||||
|
mdbx_env_pgwalk(MDB_txn *txn, MDBX_pgvisitor_func* visitor, void* user)
|
||||||
|
{
|
||||||
|
mdb_walk_ctx_t ctx;
|
||||||
|
int rc;
|
||||||
|
|
||||||
|
if (unlikely(!txn))
|
||||||
|
return MDB_BAD_TXN;
|
||||||
|
if (unlikely(txn->mt_signature != MDBX_MT_SIGNATURE))
|
||||||
|
return MDB_VERSION_MISMATCH;
|
||||||
|
|
||||||
|
ctx.mw_txn = txn;
|
||||||
|
ctx.mw_user = user;
|
||||||
|
ctx.mw_visitor = visitor;
|
||||||
|
|
||||||
|
rc = visitor(0, 2, user, "lmdb", "meta", 2, sizeof(MDB_meta)*2, PAGEHDRSZ*2,
|
||||||
|
(txn->mt_env->me_psize - sizeof(MDB_meta) - PAGEHDRSZ) *2);
|
||||||
|
if (! rc && txn->mt_dbs[FREE_DBI].md_root != P_INVALID)
|
||||||
|
rc = mdb_env_walk(&ctx, "free", txn->mt_dbs[FREE_DBI].md_root, 0, 0);
|
||||||
|
if (! rc && txn->mt_dbs[MAIN_DBI].md_root != P_INVALID)
|
||||||
|
rc = mdb_env_walk(&ctx, "main", txn->mt_dbs[MAIN_DBI].md_root, 0, 0);
|
||||||
|
if (! rc)
|
||||||
|
rc = visitor(P_INVALID, 0, user, NULL, NULL, 0, 0, 0, 0);
|
||||||
|
return rc;
|
||||||
|
}
|
||||||
Loading…
x
Reference in New Issue
Block a user