]> git.sur5r.net Git - openldap/blobdiff - libraries/liblmdb/mdb.c
Remember oldest reader txnid
[openldap] / libraries / liblmdb / mdb.c
index 267a6e3951e14f67e4f10ee814c2064a37bc0b46..1e784ae11de1b8ad549037fd2b11aceed37a7cef 100644 (file)
 #include <fcntl.h>
 #endif
 
+#if defined(__mips) && defined(__linux)
+/* MIPS has cache coherency issues, requires explicit cache control */
+#include <asm/cachectl.h>
+extern int cacheflush(char *addr, int nbytes, int cache);
+#define CACHEFLUSH(addr, bytes, cache) cacheflush(addr, bytes, cache)
+#else
+#define CACHEFLUSH(addr, bytes, cache)
+#endif
+
+
 #include <errno.h>
 #include <limits.h>
 #include <stddef.h>
 #include <time.h>
 #include <unistd.h>
 
+#if defined(__sun)
+/* Most platforms have posix_memalign, older may only have memalign */
+#define HAVE_MEMALIGN  1
+#include <malloc.h>
+#endif
+
 #if !(defined(BYTE_ORDER) || defined(__BYTE_ORDER))
 #include <netinet/in.h>
 #include <resolv.h>    /* defines BYTE_ORDER on HPUX and Solaris */
  *     @{
  */
 
-/* Features under development */
+       /** Features under development */
 #ifndef MDB_DEVEL
 #define MDB_DEVEL 0
 #endif
@@ -427,13 +443,14 @@ static txnid_t mdb_debug_start;
         *      Define this as 0 to compute the max from the page size.  511
         *      is default for backwards compat: liblmdb <= 0.9.10 can break
         *      when modifying a DB with keys/dupsort data bigger than its max.
+        *      #MDB_DEVEL sets the default to 0.
         *
         *      Data items in an #MDB_DUPSORT database are also limited to
         *      this size, since they're actually keys of a sub-DB.  Keys and
         *      #MDB_DUPSORT data items must fit on a node in a regular page.
         */
 #ifndef MDB_MAXKEYSIZE
-#define MDB_MAXKEYSIZE  511
+#define MDB_MAXKEYSIZE  ((MDB_DEVEL) ? 0 : 511)
 #endif
 
        /**     The maximum size of a key we can write to the environment. */
@@ -734,7 +751,7 @@ typedef struct MDB_page {
        /** The number of overflow pages needed to store the given size. */
 #define OVPAGES(size, psize)   ((PAGEHDRSZ-1 + (size)) / (psize) + 1)
 
-       /** Link in #MDB_txn.%mt_loose_pages list */
+       /** Link in #MDB_txn.%mt_loose_pgs list */
 #define NEXT_LOOSE_PAGE(p)             (*(MDB_page **)((p) + 2))
 
        /** Header for a single key/data pair within a page.
@@ -939,6 +956,8 @@ struct MDB_txn {
         *      in this transaction, linked through #NEXT_LOOSE_PAGE(page).
         */
        MDB_page        *mt_loose_pgs;
+       /* #Number of loose pages (#mt_loose_pgs) */
+       int                     mt_loose_count;
        /** The sorted list of dirty pages we temporarily wrote to disk
         *      because the dirty list was full. page numbers in here are
         *      shifted left by 1, deleted slots have the LSB set.
@@ -954,6 +973,8 @@ struct MDB_txn {
        MDB_dbx         *mt_dbxs;
        /** Array of MDB_db records for each known DB */
        MDB_db          *mt_dbs;
+       /** Array of sequence numbers for each DB handle */
+       unsigned int    *mt_dbiseqs;
 /** @defgroup mt_dbflag        Transaction DB Flags
  *     @ingroup internal
  * @{
@@ -1062,6 +1083,7 @@ typedef struct MDB_xcursor {
 typedef struct MDB_pgstate {
        pgno_t          *mf_pghead;     /**< Reclaimed freeDB pages, or NULL before use */
        txnid_t         mf_pglast;      /**< ID of last used record, or 0 if !mf_pghead */
+       txnid_t         mf_pgoldest;    /**< ID of oldest reader last time we looked */
 } MDB_pgstate;
 
        /** The database environment. */
@@ -1089,15 +1111,18 @@ struct MDB_env {
        MDB_meta        *me_metas[2];   /**< pointers to the two meta pages */
        void            *me_pbuf;               /**< scratch area for DUPSORT put() */
        MDB_txn         *me_txn;                /**< current write transaction */
+       MDB_txn         *me_txn0;               /**< prealloc'd write transaction */
        size_t          me_mapsize;             /**< size of the data memory map */
        off_t           me_size;                /**< current file size */
        pgno_t          me_maxpg;               /**< me_mapsize / me_psize */
        MDB_dbx         *me_dbxs;               /**< array of static DB info */
        uint16_t        *me_dbflags;    /**< array of flags from MDB_db.md_flags */
+       unsigned int    *me_dbiseqs;    /**< array of dbi sequence numbers */
        pthread_key_t   me_txkey;       /**< thread-key for readers */
        MDB_pgstate     me_pgstate;             /**< state of old pages from freeDB */
 #      define          me_pglast       me_pgstate.mf_pglast
 #      define          me_pghead       me_pgstate.mf_pghead
+#      define          me_pgoldest     me_pgstate.mf_pgoldest
        MDB_page        *me_dpages;             /**< list of malloc'd blocks for re-use */
        /** IDL of pages that became unused in a write txn */
        MDB_IDL         me_free_pgs;
@@ -1143,6 +1168,10 @@ typedef struct MDB_ntxn {
 #define TXN_DBI_EXIST(txn, dbi) \
        ((txn) && (dbi) < (txn)->mt_numdbs && ((txn)->mt_dbflags[dbi] & DB_VALID))
 
+       /** Check for misused \b dbi handles */
+#define TXN_DBI_CHANGED(txn, dbi) \
+       ((txn)->mt_dbiseqs[dbi] != (txn)->mt_env->me_dbiseqs[dbi])
+
 static int  mdb_page_alloc(MDB_cursor *mc, int num, MDB_page **mp);
 static int  mdb_page_new(MDB_cursor *mc, uint32_t flags, int num, MDB_page **mp);
 static int  mdb_page_touch(MDB_cursor *mc);
@@ -1244,11 +1273,20 @@ static char *const mdb_errstr[] = {
        "MDB_BAD_RSLOT: Invalid reuse of reader locktable slot",
        "MDB_BAD_TXN: Transaction cannot recover - it must be aborted",
        "MDB_BAD_VALSIZE: Unsupported size of key/DB name/data, or wrong DUPFIXED size",
+       "MDB_BAD_DBI: The specified DBI handle was closed/changed unexpectedly",
 };
 
 char *
 mdb_strerror(int err)
 {
+#ifdef _WIN32
+       /** HACK: pad 4KB on stack over the buf. Return system msgs in buf.
+        *      This works as long as no function between the call to mdb_strerror
+        *      and the actual use of the message uses more than 4K of stack.
+        */
+       char pad[4096];
+       char buf[1024], *ptr = buf;
+#endif
        int i;
        if (!err)
                return ("Successful return: 0");
@@ -1258,7 +1296,32 @@ mdb_strerror(int err)
                return mdb_errstr[i];
        }
 
+#ifdef _WIN32
+       /* These are the C-runtime error codes we use. The comment indicates
+        * their numeric value, and the Win32 error they would correspond to
+        * if the error actually came from a Win32 API. A major mess, we should
+        * have used LMDB-specific error codes for everything.
+        */
+       switch(err) {
+       case ENOENT:    /* 2, FILE_NOT_FOUND */
+       case EIO:               /* 5, ACCESS_DENIED */
+       case ENOMEM:    /* 12, INVALID_ACCESS */
+       case EACCES:    /* 13, INVALID_DATA */
+       case EBUSY:             /* 16, CURRENT_DIRECTORY */
+       case EINVAL:    /* 22, BAD_COMMAND */
+       case ENOSPC:    /* 28, OUT_OF_PAPER */
+               return strerror(err);
+       default:
+               ;
+       }
+       buf[0] = 0;
+       FormatMessage(FORMAT_MESSAGE_FROM_SYSTEM |
+               FORMAT_MESSAGE_IGNORE_INSERTS,
+               NULL, err, 0, ptr, sizeof(buf), pad);
+       return ptr;
+#else
        return strerror(err);
+#endif
 }
 
 /** assert(3) variant in cursor context */
@@ -1580,10 +1643,11 @@ mdb_page_loose(MDB_cursor *mc, MDB_page *mp)
 {
        int loose = 0;
        pgno_t pgno = mp->mp_pgno;
+       MDB_txn *txn = mc->mc_txn;
 
        if ((mp->mp_flags & P_DIRTY) && mc->mc_dbi != FREE_DBI) {
-               if (mc->mc_txn->mt_parent) {
-                       MDB_ID2 *dl = mc->mc_txn->mt_u.dirty_list;
+               if (txn->mt_parent) {
+                       MDB_ID2 *dl = txn->mt_u.dirty_list;
                        /* If txn has a parent, make sure the page is in our
                         * dirty list.
                         */
@@ -1592,7 +1656,7 @@ mdb_page_loose(MDB_cursor *mc, MDB_page *mp)
                                if (x <= dl[0].mid && dl[x].mid == pgno) {
                                        if (mp != dl[x].mptr) { /* bad cursor? */
                                                mc->mc_flags &= ~(C_INITIALIZED|C_EOF);
-                                               mc->mc_txn->mt_flags |= MDB_TXN_ERROR;
+                                               txn->mt_flags |= MDB_TXN_ERROR;
                                                return MDB_CORRUPTED;
                                        }
                                        /* ok, it's ours */
@@ -1607,11 +1671,12 @@ mdb_page_loose(MDB_cursor *mc, MDB_page *mp)
        if (loose) {
                DPRINTF(("loosen db %d page %"Z"u", DDBI(mc),
                        mp->mp_pgno));
-               NEXT_LOOSE_PAGE(mp) = mc->mc_txn->mt_loose_pgs;
-               mc->mc_txn->mt_loose_pgs = mp;
+               NEXT_LOOSE_PAGE(mp) = txn->mt_loose_pgs;
+               txn->mt_loose_pgs = mp;
+               txn->mt_loose_count++;
                mp->mp_flags |= P_LOOSE;
        } else {
-               int rc = mdb_midl_append(&mc->mc_txn->mt_free_pgs, pgno);
+               int rc = mdb_midl_append(&txn->mt_free_pgs, pgno);
                if (rc)
                        return rc;
        }
@@ -1888,16 +1953,18 @@ mdb_page_alloc(MDB_cursor *mc, int num, MDB_page **mp)
        MDB_txn *txn = mc->mc_txn;
        MDB_env *env = txn->mt_env;
        pgno_t pgno, *mop = env->me_pghead;
-       unsigned i, j, k, mop_len = mop ? mop[0] : 0, n2 = num-1;
+       unsigned i, j, mop_len = mop ? mop[0] : 0, n2 = num-1;
        MDB_page *np;
        txnid_t oldest = 0, last;
        MDB_cursor_op op;
        MDB_cursor m2;
+       int found_old = 0;
 
        /* If there are any loose pages, just use them */
        if (num == 1 && txn->mt_loose_pgs) {
                np = txn->mt_loose_pgs;
                txn->mt_loose_pgs = NEXT_LOOSE_PAGE(np);
+               txn->mt_loose_count--;
                DPRINTF(("db %d use loose page %"Z"u", DDBI(mc),
                                np->mp_pgno));
                *mp = np;
@@ -1915,7 +1982,7 @@ mdb_page_alloc(MDB_cursor *mc, int num, MDB_page **mp)
        for (op = MDB_FIRST;; op = MDB_NEXT) {
                MDB_val key, data;
                MDB_node *leaf;
-               pgno_t *idl, old_id, new_id;
+               pgno_t *idl;
 
                /* Seek a big enough contiguous page range. Prefer
                 * pages at the tail, just truncating the list.
@@ -1933,8 +2000,8 @@ mdb_page_alloc(MDB_cursor *mc, int num, MDB_page **mp)
 
                if (op == MDB_FIRST) {  /* 1st iteration */
                        /* Prepare to fetch more and coalesce */
-                       oldest = mdb_find_oldest(txn);
                        last = env->me_pglast;
+                       oldest = env->me_pgoldest;
                        mdb_cursor_init(&m2, txn, FREE_DBI, NULL);
                        if (last) {
                                op = MDB_SET_RANGE;
@@ -1949,8 +2016,15 @@ mdb_page_alloc(MDB_cursor *mc, int num, MDB_page **mp)
 
                last++;
                /* Do not fetch more if the record will be too recent */
-               if (oldest <= last)
-                       break;
+               if (oldest <= last) {
+                       if (!found_old) {
+                               oldest = mdb_find_oldest(txn);
+                               env->me_pgoldest = oldest;
+                               found_old = 1;
+                       }
+                       if (oldest <= last)
+                               break;
+               }
                rc = mdb_cursor_get(&m2, &key, NULL, op);
                if (rc) {
                        if (rc == MDB_NOTFOUND)
@@ -1958,8 +2032,15 @@ mdb_page_alloc(MDB_cursor *mc, int num, MDB_page **mp)
                        goto fail;
                }
                last = *(txnid_t*)key.mv_data;
-               if (oldest <= last)
-                       break;
+               if (oldest <= last) {
+                       if (!found_old) {
+                               oldest = mdb_find_oldest(txn);
+                               env->me_pgoldest = oldest;
+                               found_old = 1;
+                       }
+                       if (oldest <= last)
+                               break;
+               }
                np = m2.mc_pg[m2.mc_top];
                leaf = NODEPTR(np, m2.mc_ki[m2.mc_top]);
                if ((rc = mdb_node_read(txn, leaf, &data)) != MDB_SUCCESS)
@@ -1981,21 +2062,12 @@ mdb_page_alloc(MDB_cursor *mc, int num, MDB_page **mp)
 #if (MDB_DEBUG) > 1
                DPRINTF(("IDL read txn %"Z"u root %"Z"u num %u",
                        last, txn->mt_dbs[FREE_DBI].md_root, i));
-               for (k = i; k; k--)
-                       DPRINTF(("IDL %"Z"u", idl[k]));
+               for (j = i; j; j--)
+                       DPRINTF(("IDL %"Z"u", idl[j]));
 #endif
                /* Merge in descending sorted order */
-               j = mop_len;
-               k = mop_len += i;
-               mop[0] = (pgno_t)-1;
-               old_id = mop[j];
-               while (i) {
-                       new_id = idl[i--];
-                       for (; old_id < new_id; old_id = mop[--j])
-                               mop[k--] = old_id;
-                       mop[k--] = new_id;
-               }
-               mop[0] = mop_len;
+               mdb_midl_xmerge(mop, idl);
+               mop_len = mop[0];
        }
 
        /* Use new pages from the map when nothing suitable in the freeDB */
@@ -2477,6 +2549,7 @@ mdb_txn_renew0(MDB_txn *txn)
                txn->mt_free_pgs[0] = 0;
                txn->mt_spill_pgs = NULL;
                env->me_txn = txn;
+               memcpy(txn->mt_dbiseqs, env->me_dbiseqs, env->me_maxdbs * sizeof(unsigned int));
        }
 
        /* Copy the DB info and flags */
@@ -2551,23 +2624,39 @@ mdb_txn_begin(MDB_env *env, MDB_txn *parent, unsigned int flags, MDB_txn **ret)
                tsize = sizeof(MDB_ntxn);
        }
        size = tsize + env->me_maxdbs * (sizeof(MDB_db)+1);
-       if (!(flags & MDB_RDONLY))
+       if (!(flags & MDB_RDONLY)) {
+               if (!parent) {
+                       txn = env->me_txn0;
+                       goto ok;
+               }
                size += env->me_maxdbs * sizeof(MDB_cursor *);
+               /* child txns use parent's dbiseqs */
+               if (!parent)
+                       size += env->me_maxdbs * sizeof(unsigned int);
+       }
 
        if ((txn = calloc(1, size)) == NULL) {
-               DPRINTF(("calloc: %s", strerror(ErrCode())));
+               DPRINTF(("calloc: %s", strerror(errno)));
                return ENOMEM;
        }
        txn->mt_dbs = (MDB_db *) ((char *)txn + tsize);
        if (flags & MDB_RDONLY) {
                txn->mt_flags |= MDB_TXN_RDONLY;
                txn->mt_dbflags = (unsigned char *)(txn->mt_dbs + env->me_maxdbs);
+               txn->mt_dbiseqs = env->me_dbiseqs;
        } else {
                txn->mt_cursors = (MDB_cursor **)(txn->mt_dbs + env->me_maxdbs);
-               txn->mt_dbflags = (unsigned char *)(txn->mt_cursors + env->me_maxdbs);
+               if (parent) {
+                       txn->mt_dbiseqs = parent->mt_dbiseqs;
+                       txn->mt_dbflags = (unsigned char *)(txn->mt_cursors + env->me_maxdbs);
+               } else {
+                       txn->mt_dbiseqs = (unsigned int *)(txn->mt_cursors + env->me_maxdbs);
+                       txn->mt_dbflags = (unsigned char *)(txn->mt_dbiseqs + env->me_maxdbs);
+               }
        }
        txn->mt_env = env;
 
+ok:
        if (parent) {
                unsigned int i;
                txn->mt_u.dirty_list = malloc(sizeof(MDB_ID2)*MDB_IDL_UM_SIZE);
@@ -2610,9 +2699,10 @@ mdb_txn_begin(MDB_env *env, MDB_txn *parent, unsigned int flags, MDB_txn **ret)
        } else {
                rc = mdb_txn_renew0(txn);
        }
-       if (rc)
-               free(txn);
-       else {
+       if (rc) {
+               if (txn != env->me_txn0)
+                       free(txn);
+       } else {
                *ret = txn;
                DPRINTF(("begin txn %"Z"u%c %p on mdbenv %p, root page %"Z"u",
                        txn->mt_txnid, (txn->mt_flags & MDB_TXN_RDONLY) ? 'r' : 'w',
@@ -2644,10 +2734,13 @@ mdb_dbis_update(MDB_txn *txn, int keep)
                                env->me_dbflags[i] = txn->mt_dbs[i].md_flags | MDB_VALID;
                        } else {
                                char *ptr = env->me_dbxs[i].md_name.mv_data;
-                               env->me_dbxs[i].md_name.mv_data = NULL;
-                               env->me_dbxs[i].md_name.mv_size = 0;
-                               env->me_dbflags[i] = 0;
-                               free(ptr);
+                               if (ptr) {
+                                       env->me_dbxs[i].md_name.mv_data = NULL;
+                                       env->me_dbxs[i].md_name.mv_size = 0;
+                                       env->me_dbflags[i] = 0;
+                                       env->me_dbiseqs[i]++;
+                                       free(ptr);
+                               }
                        }
                }
        }
@@ -2736,7 +2829,8 @@ mdb_txn_abort(MDB_txn *txn)
        if ((txn->mt_flags & MDB_TXN_RDONLY) && txn->mt_u.reader)
                txn->mt_u.reader->mr_pid = 0;
 
-       free(txn);
+       if (txn != txn->mt_env->me_txn0)
+               free(txn);
 }
 
 /** Save the freelist as of this transaction to the freeDB.
@@ -2765,30 +2859,17 @@ mdb_freelist_save(MDB_txn *txn)
                        return rc;
        }
 
-       /* Dispose of loose pages. Usually they will have all
-        * been used up by the time we get here.
-        */
-       if (txn->mt_loose_pgs) {
+       if (!env->me_pghead && txn->mt_loose_pgs) {
+               /* Put loose page numbers in mt_free_pgs, since
+                * we may be unable to return them to me_pghead.
+                */
                MDB_page *mp = txn->mt_loose_pgs;
-               /* Just return them to freeDB */
-               if (env->me_pghead) {
-                       int i, j;
-                       mop = env->me_pghead;
-                       for (; mp; mp = NEXT_LOOSE_PAGE(mp)) {
-                               pgno_t pg = mp->mp_pgno;
-                               j = mop[0] + 1;
-                               for (i = mop[0]; i && mop[i] < pg; i--)
-                                       mop[j--] = mop[i];
-                               mop[j] = pg;
-                               mop[0] += 1;
-                       }
-               } else {
-               /* Oh well, they were wasted. Put on freelist */
-                       for (; mp; mp = NEXT_LOOSE_PAGE(mp)) {
-                               mdb_midl_append(&txn->mt_free_pgs, mp->mp_pgno);
-                       }
-               }
+               if ((rc = mdb_midl_need(&txn->mt_free_pgs, txn->mt_loose_count)) != 0)
+                       return rc;
+               for (; mp; mp = NEXT_LOOSE_PAGE(mp))
+                       mdb_midl_xappend(txn->mt_free_pgs, mp->mp_pgno);
                txn->mt_loose_pgs = NULL;
+               txn->mt_loose_count = 0;
        }
 
        /* MDB_RESERVE cancels meminit in ovpage malloc (when no WRITEMAP) */
@@ -2852,7 +2933,7 @@ mdb_freelist_save(MDB_txn *txn)
                }
 
                mop = env->me_pghead;
-               mop_len = mop ? mop[0] : 0;
+               mop_len = (mop ? mop[0] : 0) + txn->mt_loose_count;
 
                /* Reserve records for me_pghead[]. Split it if multi-page,
                 * to avoid searching freeDB for a page range. Use keys in
@@ -2892,6 +2973,28 @@ mdb_freelist_save(MDB_txn *txn)
                total_room += head_room;
        }
 
+       /* Return loose page numbers to me_pghead, though usually none are
+        * left at this point.  The pages themselves remain in dirty_list.
+        */
+       if (txn->mt_loose_pgs) {
+               MDB_page *mp = txn->mt_loose_pgs;
+               unsigned count = txn->mt_loose_count;
+               MDB_IDL loose;
+               /* Room for loose pages + temp IDL with same */
+               if ((rc = mdb_midl_need(&env->me_pghead, 2*count+1)) != 0)
+                       return rc;
+               mop = env->me_pghead;
+               loose = mop + MDB_IDL_ALLOCLEN(mop) - count;
+               for (count = 0; mp; mp = NEXT_LOOSE_PAGE(mp))
+                       loose[ ++count ] = mp->mp_pgno;
+               loose[0] = count;
+               mdb_midl_sort(loose);
+               mdb_midl_xmerge(mop, loose);
+               txn->mt_loose_pgs = NULL;
+               txn->mt_loose_count = 0;
+               mop_len = mop[0];
+       }
+
        /* Fill in the reserved me_pghead records */
        rc = MDB_SUCCESS;
        if (mop_len) {
@@ -3044,6 +3147,12 @@ mdb_page_flush(MDB_txn *txn, int keep)
 #endif /* _WIN32 */
        }
 
+       /* MIPS has cache coherency issues, this is a no-op everywhere else
+        * Note: for any size >= on-chip cache size, entire on-chip cache is
+        * flushed.
+        */
+       CACHEFLUSH(env->me_map, txn->mt_next_pgno * env->me_psize, DCACHE);
+
        for (i = keep; ++i <= pagecount; ) {
                dp = dl[i].mptr;
                /* This is a page we skipped above */
@@ -3200,6 +3309,7 @@ mdb_txn_commit(MDB_txn *txn)
                for (lp = &parent->mt_loose_pgs; *lp; lp = &NEXT_LOOSE_PAGE(lp))
                        ;
                *lp = txn->mt_loose_pgs;
+               parent->mt_loose_count += txn->mt_loose_count;
 
                parent->mt_child = NULL;
                mdb_midl_free(((MDB_ntxn *)txn)->mnt_pgstate.mf_pghead);
@@ -3232,6 +3342,10 @@ mdb_txn_commit(MDB_txn *txn)
                mdb_cursor_init(&mc, txn, MAIN_DBI, NULL);
                for (i = 2; i < txn->mt_numdbs; i++) {
                        if (txn->mt_dbflags[i] & DB_DIRTY) {
+                               if (TXN_DBI_CHANGED(txn, i)) {
+                                       rc = MDB_BAD_DBI;
+                                       goto fail;
+                               }
                                data.mv_data = &txn->mt_dbs[i];
                                rc = mdb_cursor_put(&mc, &txn->mt_dbxs[i].md_name, &data, 0);
                                if (rc)
@@ -3258,6 +3372,10 @@ mdb_txn_commit(MDB_txn *txn)
                (rc = mdb_env_write_meta(txn)))
                goto fail;
 
+       /* Free P_LOOSE pages left behind in dirty_list */
+       if (!(env->me_flags & MDB_WRITEMAP))
+               mdb_dlist_free(txn);
+
 done:
        env->me_pglast = 0;
        env->me_txn = NULL;
@@ -3265,7 +3383,8 @@ done:
 
        if (env->me_txns)
                UNLOCK_MUTEX_W(env);
-       free(txn);
+       if (txn != env->me_txn0)
+               free(txn);
 
        return MDB_SUCCESS;
 
@@ -3413,6 +3532,7 @@ mdb_env_write_meta(MDB_txn *txn)
 {
        MDB_env *env;
        MDB_meta        meta, metab, *mp;
+       size_t mapsize;
        off_t off;
        int rc, len, toggle;
        char *ptr;
@@ -3429,11 +3549,13 @@ mdb_env_write_meta(MDB_txn *txn)
 
        env = txn->mt_env;
        mp = env->me_metas[toggle];
+       mapsize = env->me_metas[toggle ^ 1]->mm_mapsize;
+       /* Persist any increases of mapsize config */
+       if (mapsize < env->me_mapsize)
+               mapsize = env->me_mapsize;
 
        if (env->me_flags & MDB_WRITEMAP) {
-               /* Persist any increases of mapsize config */
-               if (env->me_mapsize > mp->mm_mapsize)
-                       mp->mm_mapsize = env->me_mapsize;
+               mp->mm_mapsize = mapsize;
                mp->mm_dbs[0] = txn->mt_dbs[0];
                mp->mm_dbs[1] = txn->mt_dbs[1];
                mp->mm_last_pg = txn->mt_next_pgno - 1;
@@ -3460,22 +3582,15 @@ mdb_env_write_meta(MDB_txn *txn)
        metab.mm_txnid = env->me_metas[toggle]->mm_txnid;
        metab.mm_last_pg = env->me_metas[toggle]->mm_last_pg;
 
-       ptr = (char *)&meta;
-       if (env->me_mapsize > mp->mm_mapsize) {
-               /* Persist any increases of mapsize config */
-               meta.mm_mapsize = env->me_mapsize;
-               off = offsetof(MDB_meta, mm_mapsize);
-       } else {
-               off = offsetof(MDB_meta, mm_dbs[0].md_depth);
-       }
-       len = sizeof(MDB_meta) - off;
-
-       ptr += off;
+       meta.mm_mapsize = mapsize;
        meta.mm_dbs[0] = txn->mt_dbs[0];
        meta.mm_dbs[1] = txn->mt_dbs[1];
        meta.mm_last_pg = txn->mt_next_pgno - 1;
        meta.mm_txnid = txn->mt_txnid;
 
+       off = offsetof(MDB_meta, mm_mapsize);
+       ptr = (char *)&meta + off;
+       len = sizeof(MDB_meta) - off;
        if (toggle)
                off += env->me_psize;
        off += PAGEHDRSZ;
@@ -3514,6 +3629,8 @@ fail:
                env->me_flags |= MDB_FATAL_ERROR;
                return rc;
        }
+       /* MIPS has cache coherency issues, this is a no-op everywhere else */
+       CACHEFLUSH(env->me_map + off, len, DCACHE);
 done:
        /* Memory ordering issues are irrelevant; since the entire writer
         * is wrapped by wmutex, all of these changes will become visible
@@ -3563,7 +3680,7 @@ mdb_env_create(MDB_env **env)
 }
 
 static int ESECT
-mdb_env_map(MDB_env *env, void *addr, int newsize)
+mdb_env_map(MDB_env *env, void *addr)
 {
        MDB_page *p;
        unsigned int flags = env->me_flags;
@@ -3574,6 +3691,7 @@ mdb_env_map(MDB_env *env, void *addr, int newsize)
        size_t msize;
 
        if (flags & MDB_RDONLY) {
+               /* Don't set explicit map size, use whatever exists */
                msize = 0;
                sizelo = 0;
                sizehi = 0;
@@ -3581,17 +3699,17 @@ mdb_env_map(MDB_env *env, void *addr, int newsize)
                msize = env->me_mapsize;
                sizelo = msize & 0xffffffff;
                sizehi = msize >> 16 >> 16; /* only needed on Win64 */
-       }
 
-       /* Windows won't create mappings for zero length files.
-        * Just allocate the maxsize right now.
-        */
-       if (newsize) {
+               /* Windows won't create mappings for zero length files.
+                * and won't map more than the file size.
+                * Just set the maxsize right now.
+                */
                if (SetFilePointer(env->me_fd, sizelo, &sizehi, 0) != (DWORD)sizelo
                        || !SetEndOfFile(env->me_fd)
                        || SetFilePointer(env->me_fd, 0, NULL, 0) != 0)
                        return ErrCode();
        }
+
        mh = CreateFileMapping(env->me_fd, NULL, flags & MDB_WRITEMAP ?
                PAGE_READWRITE : PAGE_READONLY,
                sizehi, sizelo, NULL);
@@ -3669,7 +3787,7 @@ mdb_env_set_mapsize(MDB_env *env, size_t size)
                munmap(env->me_map, env->me_mapsize);
                env->me_mapsize = size;
                old = (env->me_flags & MDB_FIXEDMAP) ? env->me_map : NULL;
-               rc = mdb_env_map(env, old, 1);
+               rc = mdb_env_map(env, old);
                if (rc)
                        return rc;
        }
@@ -3753,7 +3871,7 @@ mdb_env_open2(MDB_env *env)
                        env->me_mapsize = minsize;
        }
 
-       rc = mdb_env_map(env, meta.mm_address, newenv || env->me_mapsize != meta.mm_mapsize);
+       rc = mdb_env_map(env, (flags & MDB_FIXEDMAP) ? meta.mm_address : NULL);
        if (rc)
                return rc;
 
@@ -4324,7 +4442,8 @@ mdb_env_open(MDB_env *env, const char *path, unsigned int flags, mdb_mode_t mode
        env->me_path = strdup(path);
        env->me_dbxs = calloc(env->me_maxdbs, sizeof(MDB_dbx));
        env->me_dbflags = calloc(env->me_maxdbs, sizeof(uint16_t));
-       if (!(env->me_dbxs && env->me_path && env->me_dbflags)) {
+       env->me_dbiseqs = calloc(env->me_maxdbs, sizeof(unsigned int));
+       if (!(env->me_dbxs && env->me_path && env->me_dbflags && env->me_dbiseqs)) {
                rc = ENOMEM;
                goto leave;
        }
@@ -4396,6 +4515,22 @@ mdb_env_open(MDB_env *env, const char *path, unsigned int flags, mdb_mode_t mode
                if (!((flags & MDB_RDONLY) ||
                          (env->me_pbuf = calloc(1, env->me_psize))))
                        rc = ENOMEM;
+               if (!(flags & MDB_RDONLY)) {
+                       MDB_txn *txn;
+                       int tsize = sizeof(MDB_txn), size = tsize + env->me_maxdbs *
+                               (sizeof(MDB_db)+sizeof(MDB_cursor)+sizeof(unsigned int)+1);
+                       txn = calloc(1, size);
+                       if (txn) {
+                               txn->mt_dbs = (MDB_db *)((char *)txn + tsize);
+                               txn->mt_cursors = (MDB_cursor **)(txn->mt_dbs + env->me_maxdbs);
+                               txn->mt_dbiseqs = (unsigned int *)(txn->mt_cursors + env->me_maxdbs);
+                               txn->mt_dbflags = (unsigned char *)(txn->mt_dbiseqs + env->me_maxdbs);
+                               txn->mt_env = env;
+                               env->me_txn0 = txn;
+                       } else {
+                               rc = ENOMEM;
+                       }
+               }
        }
 
 leave:
@@ -4420,6 +4555,7 @@ mdb_env_close0(MDB_env *env, int excl)
                free(env->me_dbxs[i].md_name.mv_data);
 
        free(env->me_pbuf);
+       free(env->me_dbiseqs);
        free(env->me_dbflags);
        free(env->me_dbxs);
        free(env->me_path);
@@ -4939,6 +5075,8 @@ mdb_page_search(MDB_cursor *mc, MDB_val *key, int flags)
                /* Make sure we're using an up-to-date root */
                if (*mc->mc_dbflag & DB_STALE) {
                                MDB_cursor mc2;
+                               if (TXN_DBI_CHANGED(mc->mc_txn, mc->mc_dbi))
+                                       return MDB_BAD_DBI;
                                mdb_cursor_init(&mc2, mc->mc_txn, MAIN_DBI, NULL);
                                rc = mdb_page_search(&mc2, &mc->mc_dbx->md_name, 0);
                                if (rc)
@@ -5279,8 +5417,10 @@ mdb_cursor_prev(MDB_cursor *mc, MDB_val *key, MDB_val *data, MDB_cursor_op op)
                        if (op == MDB_PREV || op == MDB_PREV_DUP) {
                                rc = mdb_cursor_prev(&mc->mc_xcursor->mx_cursor, data, NULL, MDB_PREV);
                                if (op != MDB_PREV || rc != MDB_NOTFOUND) {
-                                       if (rc == MDB_SUCCESS)
+                                       if (rc == MDB_SUCCESS) {
                                                MDB_GET_KEY(leaf, key);
+                                               mc->mc_flags &= ~C_EOF;
+                                       }
                                        return rc;
                                }
                        } else {
@@ -5757,6 +5897,14 @@ fetchm:
                        rc = MDB_INCOMPATIBLE;
                        break;
                }
+               {
+                       MDB_node *leaf = NODEPTR(mc->mc_pg[mc->mc_top], mc->mc_ki[mc->mc_top]);
+                       if (!F_ISSET(leaf->mn_flags, F_DUPDATA)) {
+                               MDB_GET_KEY(leaf, key);
+                               rc = mdb_node_read(mc->mc_txn, leaf, data);
+                               break;
+                       }
+               }
                if (!(mc->mc_xcursor->mx_cursor.mc_flags & C_INITIALIZED)) {
                        rc = EINVAL;
                        break;
@@ -5793,6 +5941,8 @@ mdb_cursor_touch(MDB_cursor *mc)
        if (mc->mc_dbi > MAIN_DBI && !(*mc->mc_dbflag & DB_DIRTY)) {
                MDB_cursor mc2;
                MDB_xcursor mcx;
+               if (TXN_DBI_CHANGED(mc->mc_txn, mc->mc_dbi))
+                       return MDB_BAD_DBI;
                mdb_cursor_init(&mc2, mc->mc_txn, MAIN_DBI, &mcx);
                rc = mdb_page_search(&mc2, &mc->mc_dbx->md_name, MDB_PS_MODIFY);
                if (rc)
@@ -5968,6 +6118,24 @@ mdb_cursor_put(MDB_cursor *mc, MDB_val *key, MDB_val *data,
                                return MDB_BAD_VALSIZE;
                        ptr = LEAF2KEY(mc->mc_pg[mc->mc_top], mc->mc_ki[mc->mc_top], ksize);
                        memcpy(ptr, key->mv_data, ksize);
+fix_parent:
+                       /* if overwriting slot 0 of leaf, need to
+                        * update branch key if there is a parent page
+                        */
+                       if (mc->mc_top && !mc->mc_ki[mc->mc_top]) {
+                               unsigned short top = mc->mc_top;
+                               mc->mc_top--;
+                               /* slot 0 is always an empty key, find real slot */
+                               while (mc->mc_top && !mc->mc_ki[mc->mc_top])
+                                       mc->mc_top--;
+                               if (mc->mc_ki[mc->mc_top])
+                                       rc2 = mdb_update_key(mc, key);
+                               else
+                                       rc2 = MDB_SUCCESS;
+                               mc->mc_top = top;
+                               if (rc2)
+                                       return rc2;
+                       }
                        return MDB_SUCCESS;
                }
 
@@ -6173,8 +6341,10 @@ current:
                                data->mv_data = olddata.mv_data;
                        else if (!(mc->mc_flags & C_SUB))
                                memcpy(olddata.mv_data, data->mv_data, data->mv_size);
-                       else
+                       else {
                                memcpy(NODEKEY(leaf), key->mv_data, key->mv_size);
+                               goto fix_parent;
+                       }
                        return MDB_SUCCESS;
                }
                mdb_node_del(mc, 0);
@@ -6895,6 +7065,12 @@ mdb_cursor_count(MDB_cursor *mc, size_t *countp)
        if (mc->mc_txn->mt_flags & MDB_TXN_ERROR)
                return MDB_BAD_TXN;
 
+       if (!(mc->mc_flags & C_INITIALIZED))
+               return EINVAL;
+
+       if (!mc->mc_snum || (mc->mc_flags & C_EOF))
+               return MDB_NOTFOUND;
+
        leaf = NODEPTR(mc->mc_pg[mc->mc_top], mc->mc_ki[mc->mc_top]);
        if (!F_ISSET(leaf->mn_flags, F_DUPDATA)) {
                *countp = 1;
@@ -7565,6 +7741,8 @@ mdb_cursor_del0(MDB_cursor *mc)
                                        m3->mc_flags |= C_DEL;
                                        if (m3->mc_ki[mc->mc_top] > ki)
                                                m3->mc_ki[mc->mc_top]--;
+                                       else if (mc->mc_db->md_flags & MDB_DUPSORT)
+                                               m3->mc_xcursor->mx_cursor.mc_flags |= C_EOF;
                                }
                                if (m3->mc_ki[mc->mc_top] >= nkeys) {
                                        rc = mdb_cursor_sibling(m3, 1);
@@ -8341,16 +8519,23 @@ mdb_env_copyfd1(MDB_env *env, HANDLE fd)
 #ifdef _WIN32
        my.mc_mutex = CreateMutex(NULL, FALSE, NULL);
        my.mc_cond = CreateEvent(NULL, FALSE, FALSE, NULL);
-       my.mc_wbuf[0] = _aligned_malloc(MDB_WBUF*2, env->me_psize);
+       my.mc_wbuf[0] = _aligned_malloc(MDB_WBUF*2, env->me_os_psize);
        if (my.mc_wbuf[0] == NULL)
                return errno;
 #else
        pthread_mutex_init(&my.mc_mutex, NULL);
        pthread_cond_init(&my.mc_cond, NULL);
-       rc = posix_memalign((void **)&my.mc_wbuf[0], env->me_psize, MDB_WBUF*2);
+#ifdef HAVE_MEMALIGN
+       my.mc_wbuf[0] = memalign(env->me_os_psize, MDB_WBUF*2);
+       if (my.mc_wbuf[0] == NULL)
+               return errno;
+#else
+       rc = posix_memalign((void **)&my.mc_wbuf[0], env->me_os_psize, MDB_WBUF*2);
        if (rc)
                return rc;
 #endif
+#endif
+       memset(my.mc_wbuf[0], 0, MDB_WBUF*2);
        my.mc_wbuf[1] = my.mc_wbuf[0] + MDB_WBUF;
        my.mc_wlen[0] = 0;
        my.mc_wlen[1] = 0;
@@ -8584,6 +8769,7 @@ mdb_env_copy2(MDB_env *env, const char *path, unsigned int flags)
                goto leave;
        }
 
+       if (env->me_psize >= env->me_os_psize) {
 #ifdef O_DIRECT
        /* Set O_DIRECT if the file system supports it */
        if ((rc = fcntl(newfd, F_GETFL)) != -1)
@@ -8596,6 +8782,7 @@ mdb_env_copy2(MDB_env *env, const char *path, unsigned int flags)
                goto leave;
        }
 #endif
+       }
 
        rc = mdb_env_copyfd2(env, newfd, flags);
 
@@ -8766,8 +8953,9 @@ int mdb_dbi_open(MDB_txn *txn, const char *name, unsigned int flags, MDB_dbi *db
        MDB_val key, data;
        MDB_dbi i;
        MDB_cursor mc;
+       MDB_db dummy;
        int rc, dbflag, exact;
-       unsigned int unused = 0;
+       unsigned int unused = 0, seq;
        size_t len;
 
        if (txn->mt_dbxs[FREE_DBI].md_cmp == NULL) {
@@ -8835,7 +9023,6 @@ int mdb_dbi_open(MDB_txn *txn, const char *name, unsigned int flags, MDB_dbi *db
                        return MDB_INCOMPATIBLE;
        } else if (rc == MDB_NOTFOUND && (flags & MDB_CREATE)) {
                /* Create if requested */
-               MDB_db dummy;
                data.mv_size = sizeof(MDB_db);
                data.mv_data = &dummy;
                memset(&dummy, 0, sizeof(dummy));
@@ -8852,6 +9039,12 @@ int mdb_dbi_open(MDB_txn *txn, const char *name, unsigned int flags, MDB_dbi *db
                txn->mt_dbxs[slot].md_name.mv_size = len;
                txn->mt_dbxs[slot].md_rel = NULL;
                txn->mt_dbflags[slot] = dbflag;
+               /* txn-> and env-> are the same in read txns, use
+                * tmp variable to avoid undefined assignment
+                */
+               seq = ++txn->mt_env->me_dbiseqs[slot];
+               txn->mt_dbiseqs[slot] = seq;
+
                memcpy(&txn->mt_dbs[slot], data.mv_data, sizeof(MDB_db));
                *dbi = slot;
                mdb_default_cmp(txn, slot);
@@ -8886,10 +9079,14 @@ void mdb_dbi_close(MDB_env *env, MDB_dbi dbi)
        if (dbi <= MAIN_DBI || dbi >= env->me_maxdbs)
                return;
        ptr = env->me_dbxs[dbi].md_name.mv_data;
-       env->me_dbxs[dbi].md_name.mv_data = NULL;
-       env->me_dbxs[dbi].md_name.mv_size = 0;
-       env->me_dbflags[dbi] = 0;
-       free(ptr);
+       /* If there was no name, this was already closed */
+       if (ptr) {
+               env->me_dbxs[dbi].md_name.mv_data = NULL;
+               env->me_dbxs[dbi].md_name.mv_size = 0;
+               env->me_dbflags[dbi] = 0;
+               env->me_dbiseqs[dbi]++;
+               free(ptr);
+       }
 }
 
 int mdb_dbi_flags(MDB_txn *txn, MDB_dbi dbi, unsigned int *flags)
@@ -8999,6 +9196,9 @@ int mdb_drop(MDB_txn *txn, MDB_dbi dbi, int del)
        if (F_ISSET(txn->mt_flags, MDB_TXN_RDONLY))
                return EACCES;
 
+       if (dbi > MAIN_DBI && TXN_DBI_CHANGED(txn, dbi))
+               return MDB_BAD_DBI;
+
        rc = mdb_cursor_open(txn, dbi, &mc);
        if (rc)
                return rc;