ITS#7970 LMDB: Critical Heisenbug

Inconsistent reading & SIGSEGV due to the race condition.

ITS#7969 LMDB: volatile & __synchronize().

Globally shared fields of meta-data are not 'volatile'.

ITS#7959 fix prev commit

fstat returns -1, not an errno. Move code into its own function
for reuse.

ITS#7961 fix txn init

More fallout from 4d02c741b120786df1b87ee9ed49c1d3f9bc7522

ITS#7959 Check fstat return value

Signed-off-by: Jean-Christophe DUBOIS <jcd@tribudubois.net>

ITS#7841 trivial cleanup

TRIVIA - lmdb: clean testdb-dir while "make test".

ITS#7956 fix compact of empty env

ITS#7955, #7671 fix MDB_PREV_DUP

ITS#7953 .gitignore *.lo

ITS#7952 .gitignore mdb_dump/load

Don't use -fPIC for static lib

Use robust mutexes by default

Making it optional on pthreads just complicates things;
they're always robust on other implementations

Use SysV semaphores instead of POSIX

Since they can cleanup after themselves on process exit

Must do dlist_free before releasing Wmutex

MDB_ROBUST: Use MDB_PID_T. Drop a wmutex variable.

Free write mutex earlier in txn_reset0

Add MDB_ROBUST

Android also only has memalign

new date

ITS#7943 reinit txn flags

When reusing the main write txn

Plug leak in 4d02c741b120786df1b87ee9ed49c1d3f9bc7522

Free writer txn on env_close

Silence some clang warnings

Release 0.9.14

Change retry to num times 60.  Testing shows that on a known dataset, this has the same growth behavior as 2.4.39, while num times 20 resulted in significant growth.

More for me_pgoldest

Leave it in main env struct, it doesn't need to be rolled back
with nested txns.

Remember oldest reader txnid

Don't walk the readers table unless we really need to.

Use a single write txn

ITS#7913 cleanup

we already checked for data == NULL, drop unnecessary if

More for MIPS

Move CACHEFLUSH, avoid unnecessary if()

Partially revert ada26306992babeccad0c5443fbd76e28dd24cd6

Of course, MacOSX only has posix_memalign, and only in recent versions.
(Older versions could use valloc instead. That precludes ever changing
the LMDB pagesize to be different from the OS pagesize.) Not all that
crucial since it only affects mdb_env_copyfd1.

Microoptimize loose pages

Fix loose pages in mdb_freelist_save().

Leaving them in dirty_list caused breakage.  Instead merge them
into me_pghead at the end, when no more pages will be allocated.

Split out mdb_midl_xmerge, add MDB_IDL_ALLOCLEN

ITS#7917

ITS#7917 fix mdb_dbi_open

Don't let dummy go out of scope

Just use memalign, not posix_memalign

Everything has it. Solaris doesn't have posix_memalign.

More for MIPS

Do a cacheflush after writing data pages, separate from meta's cacheflush

ITS#7793 more for branch key update

ITS#7793 doc update, again

ITS#7793 update branch key if needed

More for MIPS

Paranoia for 3630066843b7ca6b2cd12911d3e2fe3314cd4549 do the
cacheflush before setting mti_txnid.

ITS#7913 mdb_cursor_get(*_DUP) cleanup

FIRST_DUP/LAST_DUP should succeed even on non-duplicate values
PREV_DUP should reset cursor's EOF flag.

Fix MIPS cache coherency on Linux

MIPS chips require manual control of on-chip caches. The cacheflush
syscall being used here only exists on MIPS Linux, other OSs will
require revisiting.

Update date

more for mdb_cursor_count

return MDB_NOTFOUND if the cursor is empty

Fix mdb_copy & co when MDB pagesize < OS pagesize

ITS#7789 doc updates

ITS#7789 Fix mdb_env_write_meta().

Always write mapsize = max(other metapage:mapsize, env:mapsize).

Revert ITS#7789 commits, let's try this again.

Revert "ITS#7789 Fix resize vs MDB_NOMETASYNC, and a comment."
Revert "ITS#7789 more"
Revert "Revert "ITS#7789 update RESIZED errmsg text""
Revert "ITS#7789 update RESIZED errmsg text"
Revert "ITS#7789 persist mapsize changes"

This reverts commit 02285aca58f5629547263ba09e7dd685dcf6b4b5.
This reverts commit 38e71c68de2ad61fb0fd72fd40214fd9a94479b9.
This reverts commit a5e4eecb1e59e9645113bb4c63d06a23a2c4bdf9.
This reverts commit d8e18551c3f03d5205f4dc8d1711e494d3814b17.
This reverts commit 5926e54bba7c976e0837221efb20cbff384207b8.

Fix env_open mode bits

Fix mdb_cursor_count, reject uninit'd cursor

Silence prototype warnings

Typo

ITS#7896 fix for mdb_env_map

Don't pass non-NULL map address unless MDB_FIXEDMAP was used.

More for cursor EOF

Must also set in sub-cursor if deleting entire subDB

Zero-init copy2 writebuf

MDB_MAXKEYSIZE = 0 (dynamic value) when MDB_DEVEL

MDB_DEVEL doxygen fix

ITS#7789 Fix resize vs MDB_NOMETASYNC, and a comment.

Windows fixes

Always set the filesize when opening for writes. Otherwise
can't use backups from mdb_copy.

Windows compat

We mainly use Win32 functions, so cannot just use C-runtime strerror
to return error messages. We have to use Win32-specific messages.
Unfortunately, we document the API to return C-runtime error codes,
so we can't just switch to all Win32 error codes.

Fix loading of printable dump

Off-by-one in end check, would complain on valid input.

ITS#7789 more

persist size changes from env_open() as well. This was the
original behavior.

Revert "ITS#7789 update RESIZED errmsg text"

This reverts commit d8e18551c3f03d5205f4dc8d1711e494d3814b17.
And partially reverts mapsize check. Only mapsize increases are relevant.

ITS#7825 more

Set read txn's dbiseqs to env's. Set child txn's dbiseqs to parent's.
Simplify DBI_CHANGED test, no need to check md_name. No-op dbi_close
of already closed handle.

Updates #7789, #7825

ITS#7825 more

only update dbiseq in dbi_open on write txns

ITS#7825 tweak prev commit

dbiseqs are only checked in write txns so omit from read txns

ITS#7825 add MDB_BAD_DBI error code

Use DBI sequence numbers to detect DBIs being closed while in use.

ITS#7789 update RESIZED errmsg text

ITS#7789 persist mapsize changes

Write decreases too, not just increases. Check for any size change
that was not requested by this process.

Update LMDB version date/info

ITS#7892 Fix MacOSX section name

ITS#7713 cleanups

'#ifdef MDB_DEVEL' -> '#if MDB_DEVEL'
Fix comments, use actual PAGEBASE macro as originally intended.
Actually enable 64K pages. Set MDB_DATA_VERSION for testing only.

Fixes for loose pages

mdb_txn_commit(child): Give loose pages to parent.
Use a pointer beyond the page header instead of mp_next, so
we will not need to save/restore mp_pgno. This avoids a crash
caused by references to mp_pgno.

Re-fix cursor EOF

Fix in 534dcc721287cfe1051191a5cd7d3df6cf1dc409 was in wrong place

ITS#7713 handle 65536 byte page size

Fix mp_lower/mp_upper to exclude PAGEHDRSZ, which means our
max mp_upper is now pagesize - PAGEHDRSZ and won't overflow.
Currently must define MDB_DEVEL to use. Will be default for
LMDB 1.0/OpenLDAP 2.5

Set xcursor EOF after deleting last entry

Compacting copy doesn't need to snapshot metas

Windows fixes

Play games with object file layout

Use gcc section attribute to keep less frequently used functions
away from main code.

Rationalize mdb_env_copy2 API

More tweaks to copyfd2

Make sure the writer thread starts and stops when we expect it to.

More copyfd2 tweaks

Fix envinfo to return fixed map address

Windows compat

Fix subDB/ovpage copying

Larger WBUF still better on large DB

Don't check LEAF2 pages for subnodes

Add mdb_env_copy2()

And mdb_env_copyfd2(). Perform compaction on the copy. Trims out
freed pages and renumbers data pages in sequential order. This is
more CPU-intensive since it copies and modifies data pages.

dump/load need mapsize etc.

All diagnostics should go to stderr

More gcov setup tweaks

ITS#7886 fix mdb_copy write size

Don't try to write past end of file

Fix mdb_page_loose() vs. mdb_page_flush().

Do not overwrite loose pages' mp_pgno with mp_next.
mdb_page_flush() will use mp_pgno to rebuild dirty_list.

Trap signals

Try to exit cleanly to avoid leaving stale readers. Not
a critical issue since mdb_reader_check can take care of
them, but still cleaner.

Setup for gcov/coverage testing

More for mdb_page_loose

Require that the page is dirty in the current txn,
not a parent txn.

More MDB -> LMDB renames

Doc updates

Rename MDB -> LMDB
Integrate tool manpages