]> git.sur5r.net Git - openldap/blobdiff - libraries/liblmdb/mdb.c
ITS#7682 mdb_env_copy(): Avoid Linux O_DIRECT bug.
[openldap] / libraries / liblmdb / mdb.c
index 835a8a8603d7f99b87769040d6024f39703a3164..46dea53c877d2f0a645d34aaa89345cd801323eb 100644 (file)
@@ -933,6 +933,7 @@ struct MDB_cursor {
 #define C_INITIALIZED  0x01    /**< cursor has been initialized and is valid */
 #define C_EOF  0x02                    /**< No more data */
 #define C_SUB  0x04                    /**< Cursor is a sub-cursor */
+#define C_DEL  0x08                    /**< last op was a cursor_del */
 #define C_SPLITTING    0x20            /**< Cursor is in page_split */
 #define C_UNTRACK      0x40            /**< Un-track cursor when closing */
 /** @} */
@@ -3053,7 +3054,7 @@ mdb_env_init_meta(MDB_env *env, MDB_meta *meta)
 
        DPUTS("writing new meta page");
 
-       GET_PAGESIZE(psize);
+       psize = env->me_psize;
 
        meta->mm_magic = MDB_MAGIC;
        meta->mm_version = MDB_DATA_VERSION;
@@ -3238,11 +3239,97 @@ mdb_env_create(MDB_env **env)
        return MDB_SUCCESS;
 }
 
+static int
+mdb_env_map(MDB_env *env, void *addr, int newsize)
+{
+       MDB_page *p;
+       unsigned int flags = env->me_flags;
+#ifdef _WIN32
+       int rc;
+       HANDLE mh;
+       LONG sizelo, sizehi;
+       sizelo = env->me_mapsize & 0xffffffff;
+       sizehi = env->me_mapsize >> 16 >> 16; /* only needed on Win64 */
+
+       /* Windows won't create mappings for zero length files.
+        * Just allocate the maxsize right now.
+        */
+       if (newsize) {
+               if (SetFilePointer(env->me_fd, sizelo, &sizehi, 0) != (DWORD)sizelo
+                       || !SetEndOfFile(env->me_fd)
+                       || SetFilePointer(env->me_fd, 0, NULL, 0) != 0)
+                       return ErrCode();
+       }
+       mh = CreateFileMapping(env->me_fd, NULL, flags & MDB_WRITEMAP ?
+               PAGE_READWRITE : PAGE_READONLY,
+               sizehi, sizelo, NULL);
+       if (!mh)
+               return ErrCode();
+       env->me_map = MapViewOfFileEx(mh, flags & MDB_WRITEMAP ?
+               FILE_MAP_WRITE : FILE_MAP_READ,
+               0, 0, env->me_mapsize, addr);
+       rc = env->me_map ? 0 : ErrCode();
+       CloseHandle(mh);
+       if (rc)
+               return rc;
+#else
+       int prot = PROT_READ;
+       if (flags & MDB_WRITEMAP) {
+               prot |= PROT_WRITE;
+               if (newsize && ftruncate(env->me_fd, env->me_mapsize) < 0)
+                       return ErrCode();
+       }
+       env->me_map = mmap(addr, env->me_mapsize, prot, MAP_SHARED,
+               env->me_fd, 0);
+       if (env->me_map == MAP_FAILED) {
+               env->me_map = NULL;
+               return ErrCode();
+       }
+       /* Turn off readahead. It's harmful when the DB is larger than RAM. */
+#ifdef MADV_RANDOM
+       madvise(env->me_map, env->me_mapsize, MADV_RANDOM);
+#else
+#ifdef POSIX_MADV_RANDOM
+       posix_madvise(env->me_map, env->me_mapsize, POSIX_MADV_RANDOM);
+#endif /* POSIX_MADV_RANDOM */
+#endif /* MADV_RANDOM */
+#endif /* _WIN32 */
+
+       /* Can happen because the address argument to mmap() is just a
+        * hint.  mmap() can pick another, e.g. if the range is in use.
+        * The MAP_FIXED flag would prevent that, but then mmap could
+        * instead unmap existing pages to make room for the new map.
+        */
+       if (addr && env->me_map != addr)
+               return EBUSY;   /* TODO: Make a new MDB_* error code? */
+
+       p = (MDB_page *)env->me_map;
+       env->me_metas[0] = METADATA(p);
+       env->me_metas[1] = (MDB_meta *)((char *)env->me_metas[0] + env->me_psize);
+
+       return MDB_SUCCESS;
+}
+
 int
 mdb_env_set_mapsize(MDB_env *env, size_t size)
 {
-       if (env->me_map)
-               return EINVAL;
+       /* If env is already open, caller is responsible for making
+        * sure there are no active txns.
+        */
+       if (env->me_map) {
+               int rc;
+               void *old;
+               if (env->me_txn)
+                       return EINVAL;
+               if (!size)
+                       size = env->me_metas[mdb_env_pick_meta(env)]->mm_mapsize;
+               munmap(env->me_map, env->me_mapsize);
+               env->me_mapsize = size;
+               old = (env->me_flags & MDB_FIXEDMAP) ? env->me_map : NULL;
+               rc = mdb_env_map(env, old, 1);
+               if (rc)
+                       return rc;
+       }
        env->me_mapsize = size;
        if (env->me_psize)
                env->me_maxpg = env->me_mapsize / env->me_psize;
@@ -3282,12 +3369,17 @@ static int
 mdb_env_open2(MDB_env *env)
 {
        unsigned int flags = env->me_flags;
-       int i, newenv = 0;
+       int i, newenv = 0, rc;
        MDB_meta meta;
-       MDB_page *p;
-#ifndef _WIN32
-       int prot;
-#endif
+
+#ifdef _WIN32
+       /* See if we should use QueryLimited */
+       rc = GetVersion();
+       if ((rc & 0xff) > 5)
+               env->me_pidquery = MDB_PROCESS_QUERY_LIMITED_INFORMATION;
+       else
+               env->me_pidquery = PROCESS_QUERY_INFORMATION;
+#endif /* _WIN32 */
 
        memset(&meta, 0, sizeof(meta));
 
@@ -3296,6 +3388,9 @@ mdb_env_open2(MDB_env *env)
                        return i;
                DPUTS("new mdbenv");
                newenv = 1;
+               GET_PAGESIZE(env->me_psize);
+       } else {
+               env->me_psize = meta.mm_psize;
        }
 
        /* Was a mapsize configured? */
@@ -3313,66 +3408,9 @@ mdb_env_open2(MDB_env *env)
                        env->me_mapsize = minsize;
        }
 
-#ifdef _WIN32
-       {
-               int rc;
-               HANDLE mh;
-               LONG sizelo, sizehi;
-               sizelo = env->me_mapsize & 0xffffffff;
-               sizehi = env->me_mapsize >> 16 >> 16; /* only needed on Win64 */
-
-               /* See if we should use QueryLimited */
-               rc = GetVersion();
-               if ((rc & 0xff) > 5)
-                       env->me_pidquery = MDB_PROCESS_QUERY_LIMITED_INFORMATION;
-               else
-                       env->me_pidquery = PROCESS_QUERY_INFORMATION;
-
-               /* Windows won't create mappings for zero length files.
-                * Just allocate the maxsize right now.
-                */
-               if (newenv) {
-                       if (SetFilePointer(env->me_fd, sizelo, &sizehi, 0) != (DWORD)sizelo
-                               || !SetEndOfFile(env->me_fd)
-                               || SetFilePointer(env->me_fd, 0, NULL, 0) != 0)
-                               return ErrCode();
-               }
-               mh = CreateFileMapping(env->me_fd, NULL, flags & MDB_WRITEMAP ?
-                       PAGE_READWRITE : PAGE_READONLY,
-                       sizehi, sizelo, NULL);
-               if (!mh)
-                       return ErrCode();
-               env->me_map = MapViewOfFileEx(mh, flags & MDB_WRITEMAP ?
-                       FILE_MAP_WRITE : FILE_MAP_READ,
-                       0, 0, env->me_mapsize, meta.mm_address);
-               rc = env->me_map ? 0 : ErrCode();
-               CloseHandle(mh);
-               if (rc)
-                       return rc;
-       }
-#else
-       i = MAP_SHARED;
-       prot = PROT_READ;
-       if (flags & MDB_WRITEMAP) {
-               prot |= PROT_WRITE;
-               if (ftruncate(env->me_fd, env->me_mapsize) < 0)
-                       return ErrCode();
-       }
-       env->me_map = mmap(meta.mm_address, env->me_mapsize, prot, i,
-               env->me_fd, 0);
-       if (env->me_map == MAP_FAILED) {
-               env->me_map = NULL;
-               return ErrCode();
-       }
-       /* Turn off readahead. It's harmful when the DB is larger than RAM. */
-#ifdef MADV_RANDOM
-       madvise(env->me_map, env->me_mapsize, MADV_RANDOM);
-#else
-#ifdef POSIX_MADV_RANDOM
-       posix_madvise(env->me_map, env->me_mapsize, POSIX_MADV_RANDOM);
-#endif /* POSIX_MADV_RANDOM */
-#endif /* MADV_RANDOM */
-#endif /* _WIN32 */
+       rc = mdb_env_map(env, meta.mm_address, newenv);
+       if (rc)
+               return rc;
 
        if (newenv) {
                if (flags & MDB_FIXEDMAP)
@@ -3381,24 +3419,11 @@ mdb_env_open2(MDB_env *env)
                if (i != MDB_SUCCESS) {
                        return i;
                }
-       } else if (meta.mm_address && env->me_map != meta.mm_address) {
-               /* Can happen because the address argument to mmap() is just a
-                * hint.  mmap() can pick another, e.g. if the range is in use.
-                * The MAP_FIXED flag would prevent that, but then mmap could
-                * instead unmap existing pages to make room for the new map.
-                */
-               return EBUSY;   /* TODO: Make a new MDB_* error code? */
        }
-       env->me_psize = meta.mm_psize;
        env->me_maxfree_1pg = (env->me_psize - PAGEHDRSZ) / sizeof(pgno_t) - 1;
        env->me_nodemax = (env->me_psize - PAGEHDRSZ) / MDB_MINKEYS;
 
        env->me_maxpg = env->me_mapsize / env->me_psize;
-
-       p = (MDB_page *)env->me_map;
-       env->me_metas[0] = METADATA(p);
-       env->me_metas[1] = (MDB_meta *)((char *)env->me_metas[0] + meta.mm_psize);
-
 #if MDB_DEBUG
        {
                int toggle = mdb_env_pick_meta(env);
@@ -4221,17 +4246,18 @@ mdb_env_copy(MDB_env *env, const char *path)
        newfd = CreateFile(lpath, GENERIC_WRITE, 0, NULL, CREATE_NEW,
                                FILE_FLAG_NO_BUFFERING|FILE_FLAG_WRITE_THROUGH, NULL);
 #else
-       newfd = open(lpath, O_WRONLY|O_CREAT|O_EXCL
-#ifdef O_DIRECT
-               |O_DIRECT
-#endif
-               , 0666);
+       newfd = open(lpath, O_WRONLY|O_CREAT|O_EXCL, 0666);
 #endif
        if (newfd == INVALID_HANDLE_VALUE) {
                rc = ErrCode();
                goto leave;
        }
 
+#ifdef O_DIRECT
+       /* Set O_DIRECT if the file system supports it */
+       if ((rc = fcntl(newfd, F_GETFL)) != -1)
+               (void) fcntl(newfd, F_SETFL, rc | O_DIRECT);
+#endif
 #ifdef F_NOCACHE       /* __APPLE__ */
        rc = fcntl(newfd, F_NOCACHE, 1);
        if (rc) {
@@ -4982,6 +5008,8 @@ mdb_cursor_next(MDB_cursor *mc, MDB_val *key, MDB_val *data, MDB_cursor_op op)
        }
 
        DPRINTF(("cursor_next: top page is %"Z"u in cursor %p", mp->mp_pgno, (void *) mc));
+       if (mc->mc_flags & C_DEL)
+               goto skip;
 
        if (mc->mc_ki[mc->mc_top] + 1u >= NUMKEYS(mp)) {
                DPUTS("=====> move to next sibling page");
@@ -4994,6 +5022,7 @@ mdb_cursor_next(MDB_cursor *mc, MDB_val *key, MDB_val *data, MDB_cursor_op op)
        } else
                mc->mc_ki[mc->mc_top]++;
 
+skip:
        DPRINTF(("==> cursor points to page %"Z"u with %u keys, key index %u",
            mp->mp_pgno, NUMKEYS(mp), mc->mc_ki[mc->mc_top]));
 
@@ -5199,7 +5228,11 @@ mdb_cursor_set(MDB_cursor *mc, MDB_val *key, MDB_val *data,
                if (!mc->mc_top) {
                        /* There are no other pages */
                        mc->mc_ki[mc->mc_top] = 0;
-                       return MDB_NOTFOUND;
+                       if (op == MDB_SET_RANGE) {
+                               rc = 0;
+                               goto set1;
+                       } else
+                               return MDB_NOTFOUND;
                }
        }
 
@@ -5263,6 +5296,7 @@ set1:
                        if (rc) {
                                if (op == MDB_GET_BOTH || rc > 0)
                                        return MDB_NOTFOUND;
+                               rc = 0;
                        }
 
                } else {
@@ -5408,6 +5442,8 @@ mdb_cursor_get(MDB_cursor *mc, MDB_val *key, MDB_val *data,
                                MDB_GET_KEY(leaf, key);
                                if (data) {
                                        if (F_ISSET(leaf->mn_flags, F_DUPDATA)) {
+                                               if (mc->mc_flags & C_DEL)
+                                                       mdb_xcursor_init1(mc, leaf);
                                                rc = mdb_cursor_get(&mc->mc_xcursor->mx_cursor, data, NULL, MDB_GET_CURRENT);
                                        } else {
                                                rc = mdb_node_read(mc->mc_txn, leaf, data);
@@ -5532,6 +5568,9 @@ fetchm:
                break;
        }
 
+       if (mc->mc_flags & C_DEL)
+               mc->mc_flags ^= C_DEL;
+
        return rc;
 }
 
@@ -5652,6 +5691,9 @@ mdb_cursor_put(MDB_cursor *mc, MDB_val *key, MDB_val *data,
                        return rc;
        }
 
+       if (mc->mc_flags & C_DEL)
+               mc->mc_flags ^= C_DEL;
+
        /* Cursor is positioned, check for room in the dirty list */
        if (!nospill) {
                if (flags & MDB_MULTIPLE) {
@@ -6081,6 +6123,7 @@ mdb_cursor_del(MDB_cursor *mc, unsigned int flags)
                                        }
                                }
                                mc->mc_db->md_entries--;
+                               mc->mc_flags |= C_DEL;
                                return rc;
                        }
                        /* otherwise fall thru and delete the sub-DB */
@@ -7204,8 +7247,11 @@ mdb_rebalance(MDB_cursor *mc)
        else {
                if (mc->mc_ki[ptop] == 0)
                        rc = mdb_page_merge(&mn, mc);
-               else
+               else {
+                       mn.mc_ki[mn.mc_top] += mc->mc_ki[mn.mc_top] + 1;
                        rc = mdb_page_merge(mc, &mn);
+                       mdb_cursor_copy(&mn, mc);
+               }
                mc->mc_flags &= ~(C_INITIALIZED|C_EOF);
        }
        return rc;
@@ -7256,12 +7302,16 @@ mdb_cursor_del0(MDB_cursor *mc, MDB_node *leaf)
                        if (!(m2->mc_flags & C_INITIALIZED))
                                continue;
                        if (m2->mc_pg[mc->mc_top] == mp) {
-                               if (m2->mc_ki[mc->mc_top] > ki)
-                                       m2->mc_ki[mc->mc_top]--;
+                               if (m2->mc_ki[mc->mc_top] >= ki) {
+                                       m2->mc_flags |= C_DEL;
+                                       if (m2->mc_ki[mc->mc_top] > ki)
+                                               m2->mc_ki[mc->mc_top]--;
+                               }
                                if (m2->mc_ki[mc->mc_top] >= nkeys)
                                        mdb_cursor_sibling(m2, 1);
                        }
                }
+               mc->mc_flags |= C_DEL;
        }
 
        return rc;