]> git.sur5r.net Git - openldap/blob - libraries/liblmdb/lmdb.h
Merge branch 'master' of ssh://git-master.openldap.org/~git/git/openldap
[openldap] / libraries / liblmdb / lmdb.h
1 /** @file lmdb.h
2  *      @brief Lightning memory-mapped database library
3  *
4  *      @mainpage       Lightning Memory-Mapped Database Manager (MDB)
5  *
6  *      @section intro_sec Introduction
7  *      MDB is a Btree-based database management library modeled loosely on the
8  *      BerkeleyDB API, but much simplified. The entire database is exposed
9  *      in a memory map, and all data fetches return data directly
10  *      from the mapped memory, so no malloc's or memcpy's occur during
11  *      data fetches. As such, the library is extremely simple because it
12  *      requires no page caching layer of its own, and it is extremely high
13  *      performance and memory-efficient. It is also fully transactional with
14  *      full ACID semantics, and when the memory map is read-only, the
15  *      database integrity cannot be corrupted by stray pointer writes from
16  *      application code.
17  *
18  *      The library is fully thread-aware and supports concurrent read/write
19  *      access from multiple processes and threads. Data pages use a copy-on-
20  *      write strategy so no active data pages are ever overwritten, which
21  *      also provides resistance to corruption and eliminates the need of any
22  *      special recovery procedures after a system crash. Writes are fully
23  *      serialized; only one write transaction may be active at a time, which
24  *      guarantees that writers can never deadlock. The database structure is
25  *      multi-versioned so readers run with no locks; writers cannot block
26  *      readers, and readers don't block writers.
27  *
28  *      Unlike other well-known database mechanisms which use either write-ahead
29  *      transaction logs or append-only data writes, MDB requires no maintenance
30  *      during operation. Both write-ahead loggers and append-only databases
31  *      require periodic checkpointing and/or compaction of their log or database
32  *      files otherwise they grow without bound. MDB tracks free pages within
33  *      the database and re-uses them for new write operations, so the database
34  *      size does not grow without bound in normal use.
35  *
36  *      The memory map can be used as a read-only or read-write map. It is
37  *      read-only by default as this provides total immunity to corruption.
38  *      Using read-write mode offers much higher write performance, but adds
39  *      the possibility for stray application writes thru pointers to silently
40  *      corrupt the database. Of course if your application code is known to
41  *      be bug-free (...) then this is not an issue.
42  *
43  *      @section caveats_sec Caveats
44  *      Troubleshooting the lock file, plus semaphores on BSD systems:
45  *
46  *      - A broken lockfile can cause sync issues.
47  *        Stale reader transactions left behind by an aborted program
48  *        cause further writes to grow the database quickly, and
49  *        stale locks can block further operation.
50  *
51  *        Fix: Check for stale readers periodically, using the
52  *        #mdb_reader_check function or the mdb_stat tool. Or just
53  *        make all programs using the database close it; the lockfile
54  *        is always reset on first open of the environment.
55  *
56  *      - On BSD systems or others configured with MDB_USE_POSIX_SEM,
57  *        startup can fail due to semaphores owned by another userid.
58  *
59  *        Fix: Open and close the database as the user which owns the
60  *        semaphores (likely last user) or as root, while no other
61  *        process is using the database.
62  *
63  *      Restrictions/caveats (in addition to those listed for some functions):
64  *
65  *      - Only the database owner should normally use the database on
66  *        BSD systems or when otherwise configured with MDB_USE_POSIX_SEM.
67  *        Multiple users can cause startup to fail later, as noted above.
68  *
69  *      - There is normally no pure read-only mode, since readers need write
70  *        access to locks and lock file. Exceptions: On read-only filesystems
71  *        or with the #MDB_NOLOCK flag described under #mdb_env_open().
72  *
73  *      - By default, in versions before 0.9.10, unused portions of the data
74  *        file might receive garbage data from memory freed by other code.
75  *        (This does not happen when using the #MDB_WRITEMAP flag.) As of
76  *        0.9.10 the default behavior is to initialize such memory before
77  *        writing to the data file. Since there may be a slight performance
78  *        cost due to this initialization, applications may disable it using
79  *        the #MDB_NOMEMINIT flag. Applications handling sensitive data
80  *        which must not be written should not use this flag. This flag is
81  *        irrelevant when using #MDB_WRITEMAP.
82  *
83  *      - A thread can only use one transaction at a time, plus any child
84  *        transactions.  Each transaction belongs to one thread.  See below.
85  *        The #MDB_NOTLS flag changes this for read-only transactions.
86  *
87  *      - Use an MDB_env* in the process which opened it, without fork()ing.
88  *
89  *      - Do not have open an MDB database twice in the same process at
90  *        the same time.  Not even from a plain open() call - close()ing it
91  *        breaks flock() advisory locking.
92  *
93  *      - Avoid long-lived transactions.  Read transactions prevent
94  *        reuse of pages freed by newer write transactions, thus the
95  *        database can grow quickly.  Write transactions prevent
96  *        other write transactions, since writes are serialized.
97  *
98  *      - Avoid suspending a process with active transactions.  These
99  *        would then be "long-lived" as above.  Also read transactions
100  *        suspended when writers commit could sometimes see wrong data.
101  *
102  *      ...when several processes can use a database concurrently:
103  *
104  *      - Avoid aborting a process with an active transaction.
105  *        The transaction becomes "long-lived" as above until a check
106  *        for stale readers is performed or the lockfile is reset,
107  *        since the process may not remove it from the lockfile.
108  *
109  *      - If you do that anyway, do a periodic check for stale readers. Or
110  *        close the environment once in a while, so the lockfile can get reset.
111  *
112  *      - Do not use MDB databases on remote filesystems, even between
113  *        processes on the same host.  This breaks flock() on some OSes,
114  *        possibly memory map sync, and certainly sync between programs
115  *        on different hosts.
116  *
117  *      - Opening a database can fail if another process is opening or
118  *        closing it at exactly the same time.
119  *
120  *      @author Howard Chu, Symas Corporation.
121  *
122  *      @copyright Copyright 2011-2013 Howard Chu, Symas Corp. All rights reserved.
123  *
124  * Redistribution and use in source and binary forms, with or without
125  * modification, are permitted only as authorized by the OpenLDAP
126  * Public License.
127  *
128  * A copy of this license is available in the file LICENSE in the
129  * top-level directory of the distribution or, alternatively, at
130  * <http://www.OpenLDAP.org/license.html>.
131  *
132  *      @par Derived From:
133  * This code is derived from btree.c written by Martin Hedenfalk.
134  *
135  * Copyright (c) 2009, 2010 Martin Hedenfalk <martin@bzero.se>
136  *
137  * Permission to use, copy, modify, and distribute this software for any
138  * purpose with or without fee is hereby granted, provided that the above
139  * copyright notice and this permission notice appear in all copies.
140  *
141  * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHOR DISCLAIMS ALL WARRANTIES
142  * WITH REGARD TO THIS SOFTWARE INCLUDING ALL IMPLIED WARRANTIES OF
143  * MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR
144  * ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL DAMAGES OR ANY DAMAGES
145  * WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER IN AN
146  * ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF
147  * OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.
148  */
149 #ifndef _LMDB_H_
150 #define _LMDB_H_
151
152 #include <sys/types.h>
153
154 #ifdef __cplusplus
155 extern "C" {
156 #endif
157
158 /** Unix permissions for creating files, or dummy definition for Windows */
159 #ifdef _MSC_VER
160 typedef int     mdb_mode_t;
161 #else
162 typedef mode_t  mdb_mode_t;
163 #endif
164
165 /** An abstraction for a file handle.
166  *      On POSIX systems file handles are small integers. On Windows
167  *      they're opaque pointers.
168  */
169 #ifdef _WIN32
170 typedef void *mdb_filehandle_t;
171 #else
172 typedef int mdb_filehandle_t;
173 #endif
174
175 /** @defgroup mdb MDB API
176  *      @{
177  *      @brief OpenLDAP Lightning Memory-Mapped Database Manager
178  */
179 /** @defgroup Version Version Macros
180  *      @{
181  */
182 /** Library major version */
183 #define MDB_VERSION_MAJOR       0
184 /** Library minor version */
185 #define MDB_VERSION_MINOR       9
186 /** Library patch version */
187 #define MDB_VERSION_PATCH       11
188
189 /** Combine args a,b,c into a single integer for easy version comparisons */
190 #define MDB_VERINT(a,b,c)       (((a) << 24) | ((b) << 16) | (c))
191
192 /** The full library version as a single integer */
193 #define MDB_VERSION_FULL        \
194         MDB_VERINT(MDB_VERSION_MAJOR,MDB_VERSION_MINOR,MDB_VERSION_PATCH)
195
196 /** The release date of this library version */
197 #define MDB_VERSION_DATE        "January 15, 2014"
198
199 /** A stringifier for the version info */
200 #define MDB_VERSTR(a,b,c,d)     "MDB " #a "." #b "." #c ": (" d ")"
201
202 /** A helper for the stringifier macro */
203 #define MDB_VERFOO(a,b,c,d)     MDB_VERSTR(a,b,c,d)
204
205 /** The full library version as a C string */
206 #define MDB_VERSION_STRING      \
207         MDB_VERFOO(MDB_VERSION_MAJOR,MDB_VERSION_MINOR,MDB_VERSION_PATCH,MDB_VERSION_DATE)
208 /**     @} */
209
210 /** @brief Opaque structure for a database environment.
211  *
212  * A DB environment supports multiple databases, all residing in the same
213  * shared-memory map.
214  */
215 typedef struct MDB_env MDB_env;
216
217 /** @brief Opaque structure for a transaction handle.
218  *
219  * All database operations require a transaction handle. Transactions may be
220  * read-only or read-write.
221  */
222 typedef struct MDB_txn MDB_txn;
223
224 /** @brief A handle for an individual database in the DB environment. */
225 typedef unsigned int    MDB_dbi;
226
227 /** @brief Opaque structure for navigating through a database */
228 typedef struct MDB_cursor MDB_cursor;
229
230 /** @brief Generic structure used for passing keys and data in and out
231  * of the database.
232  *
233  * Values returned from the database are valid only until a subsequent
234  * update operation, or the end of the transaction. Do not modify or
235  * free them, they commonly point into the database itself.
236  *
237  * Key sizes must be between 1 and #mdb_env_get_maxkeysize() inclusive.
238  * The same applies to data sizes in databases with the #MDB_DUPSORT flag.
239  * Other data items can in theory be from 0 to 0xffffffff bytes long.
240  */
241 typedef struct MDB_val {
242         size_t           mv_size;       /**< size of the data item */
243         void            *mv_data;       /**< address of the data item */
244 } MDB_val;
245
246 /** @brief A callback function used to compare two keys in a database */
247 typedef int  (MDB_cmp_func)(const MDB_val *a, const MDB_val *b);
248
249 /** @brief A callback function used to relocate a position-dependent data item
250  * in a fixed-address database.
251  *
252  * The \b newptr gives the item's desired address in
253  * the memory map, and \b oldptr gives its previous address. The item's actual
254  * data resides at the address in \b item.  This callback is expected to walk
255  * through the fields of the record in \b item and modify any
256  * values based at the \b oldptr address to be relative to the \b newptr address.
257  * @param[in,out] item The item that is to be relocated.
258  * @param[in] oldptr The previous address.
259  * @param[in] newptr The new address to relocate to.
260  * @param[in] relctx An application-provided context, set by #mdb_set_relctx().
261  * @todo This feature is currently unimplemented.
262  */
263 typedef void (MDB_rel_func)(MDB_val *item, void *oldptr, void *newptr, void *relctx);
264
265 /** @defgroup   mdb_env Environment Flags
266  *      @{
267  */
268         /** mmap at a fixed address (experimental) */
269 #define MDB_FIXEDMAP    0x01
270         /** no environment directory */
271 #define MDB_NOSUBDIR    0x4000
272         /** don't fsync after commit */
273 #define MDB_NOSYNC              0x10000
274         /** read only */
275 #define MDB_RDONLY              0x20000
276         /** don't fsync metapage after commit */
277 #define MDB_NOMETASYNC          0x40000
278         /** use writable mmap */
279 #define MDB_WRITEMAP            0x80000
280         /** use asynchronous msync when #MDB_WRITEMAP is used */
281 #define MDB_MAPASYNC            0x100000
282         /** tie reader locktable slots to #MDB_txn objects instead of to threads */
283 #define MDB_NOTLS               0x200000
284         /** don't do any locking, caller must manage their own locks */
285 #define MDB_NOLOCK              0x400000
286         /** don't do readahead (no effect on Windows) */
287 #define MDB_NORDAHEAD   0x800000
288         /** don't initialize malloc'd memory before writing to datafile */
289 #define MDB_NOMEMINIT   0x1000000
290 /** @} */
291
292 /**     @defgroup       mdb_dbi_open    Database Flags
293  *      @{
294  */
295         /** use reverse string keys */
296 #define MDB_REVERSEKEY  0x02
297         /** use sorted duplicates */
298 #define MDB_DUPSORT             0x04
299         /** numeric keys in native byte order.
300          *  The keys must all be of the same size. */
301 #define MDB_INTEGERKEY  0x08
302         /** with #MDB_DUPSORT, sorted dup items have fixed size */
303 #define MDB_DUPFIXED    0x10
304         /** with #MDB_DUPSORT, dups are numeric in native byte order */
305 #define MDB_INTEGERDUP  0x20
306         /** with #MDB_DUPSORT, use reverse string dups */
307 #define MDB_REVERSEDUP  0x40
308         /** create DB if not already existing */
309 #define MDB_CREATE              0x40000
310 /** @} */
311
312 /**     @defgroup mdb_put       Write Flags
313  *      @{
314  */
315 /** For put: Don't write if the key already exists. */
316 #define MDB_NOOVERWRITE 0x10
317 /** Only for #MDB_DUPSORT<br>
318  * For put: don't write if the key and data pair already exist.<br>
319  * For mdb_cursor_del: remove all duplicate data items.
320  */
321 #define MDB_NODUPDATA   0x20
322 /** For mdb_cursor_put: overwrite the current key/data pair */
323 #define MDB_CURRENT     0x40
324 /** For put: Just reserve space for data, don't copy it. Return a
325  * pointer to the reserved space.
326  */
327 #define MDB_RESERVE     0x10000
328 /** Data is being appended, don't split full pages. */
329 #define MDB_APPEND      0x20000
330 /** Duplicate data is being appended, don't split full pages. */
331 #define MDB_APPENDDUP   0x40000
332 /** Store multiple data items in one call. Only for #MDB_DUPFIXED. */
333 #define MDB_MULTIPLE    0x80000
334 /*      @} */
335
336 /** @brief Cursor Get operations.
337  *
338  *      This is the set of all operations for retrieving data
339  *      using a cursor.
340  */
341 typedef enum MDB_cursor_op {
342         MDB_FIRST,                              /**< Position at first key/data item */
343         MDB_FIRST_DUP,                  /**< Position at first data item of current key.
344                                                                 Only for #MDB_DUPSORT */
345         MDB_GET_BOTH,                   /**< Position at key/data pair. Only for #MDB_DUPSORT */
346         MDB_GET_BOTH_RANGE,             /**< position at key, nearest data. Only for #MDB_DUPSORT */
347         MDB_GET_CURRENT,                /**< Return key/data at current cursor position */
348         MDB_GET_MULTIPLE,               /**< Return all the duplicate data items at the current
349                                                                  cursor position. Only for #MDB_DUPFIXED */
350         MDB_LAST,                               /**< Position at last key/data item */
351         MDB_LAST_DUP,                   /**< Position at last data item of current key.
352                                                                 Only for #MDB_DUPSORT */
353         MDB_NEXT,                               /**< Position at next data item */
354         MDB_NEXT_DUP,                   /**< Position at next data item of current key.
355                                                                 Only for #MDB_DUPSORT */
356         MDB_NEXT_MULTIPLE,              /**< Return all duplicate data items at the next
357                                                                 cursor position. Only for #MDB_DUPFIXED */
358         MDB_NEXT_NODUP,                 /**< Position at first data item of next key */
359         MDB_PREV,                               /**< Position at previous data item */
360         MDB_PREV_DUP,                   /**< Position at previous data item of current key.
361                                                                 Only for #MDB_DUPSORT */
362         MDB_PREV_NODUP,                 /**< Position at last data item of previous key */
363         MDB_SET,                                /**< Position at specified key */
364         MDB_SET_KEY,                    /**< Position at specified key, return key + data */
365         MDB_SET_RANGE                   /**< Position at first key greater than or equal to specified key. */
366 } MDB_cursor_op;
367
368 /** @defgroup  errors   Return Codes
369  *
370  *      BerkeleyDB uses -30800 to -30999, we'll go under them
371  *      @{
372  */
373         /**     Successful result */
374 #define MDB_SUCCESS      0
375         /** key/data pair already exists */
376 #define MDB_KEYEXIST    (-30799)
377         /** key/data pair not found (EOF) */
378 #define MDB_NOTFOUND    (-30798)
379         /** Requested page not found - this usually indicates corruption */
380 #define MDB_PAGE_NOTFOUND       (-30797)
381         /** Located page was wrong type */
382 #define MDB_CORRUPTED   (-30796)
383         /** Update of meta page failed, probably I/O error */
384 #define MDB_PANIC               (-30795)
385         /** Environment version mismatch */
386 #define MDB_VERSION_MISMATCH    (-30794)
387         /** File is not a valid MDB file */
388 #define MDB_INVALID     (-30793)
389         /** Environment mapsize reached */
390 #define MDB_MAP_FULL    (-30792)
391         /** Environment maxdbs reached */
392 #define MDB_DBS_FULL    (-30791)
393         /** Environment maxreaders reached */
394 #define MDB_READERS_FULL        (-30790)
395         /** Too many TLS keys in use - Windows only */
396 #define MDB_TLS_FULL    (-30789)
397         /** Txn has too many dirty pages */
398 #define MDB_TXN_FULL    (-30788)
399         /** Cursor stack too deep - internal error */
400 #define MDB_CURSOR_FULL (-30787)
401         /** Page has not enough space - internal error */
402 #define MDB_PAGE_FULL   (-30786)
403         /** Database contents grew beyond environment mapsize */
404 #define MDB_MAP_RESIZED (-30785)
405         /** MDB_INCOMPATIBLE: Operation and DB incompatible, or DB flags changed */
406 #define MDB_INCOMPATIBLE        (-30784)
407         /** Invalid reuse of reader locktable slot */
408 #define MDB_BAD_RSLOT           (-30783)
409         /** Transaction cannot recover - it must be aborted */
410 #define MDB_BAD_TXN                     (-30782)
411         /** Unsupported size of key/DB name/data, or wrong DUPFIXED size */
412 #define MDB_BAD_VALSIZE         (-30781)
413 #define MDB_LAST_ERRCODE        MDB_BAD_VALSIZE
414 /** @} */
415
416 /** @brief Statistics for a database in the environment */
417 typedef struct MDB_stat {
418         unsigned int    ms_psize;                       /**< Size of a database page.
419                                                                                         This is currently the same for all databases. */
420         unsigned int    ms_depth;                       /**< Depth (height) of the B-tree */
421         size_t          ms_branch_pages;        /**< Number of internal (non-leaf) pages */
422         size_t          ms_leaf_pages;          /**< Number of leaf pages */
423         size_t          ms_overflow_pages;      /**< Number of overflow pages */
424         size_t          ms_entries;                     /**< Number of data items */
425 } MDB_stat;
426
427 /** @brief Information about the environment */
428 typedef struct MDB_envinfo {
429         void    *me_mapaddr;                    /**< Address of map, if fixed */
430         size_t  me_mapsize;                             /**< Size of the data memory map */
431         size_t  me_last_pgno;                   /**< ID of the last used page */
432         size_t  me_last_txnid;                  /**< ID of the last committed transaction */
433         unsigned int me_maxreaders;             /**< max reader slots in the environment */
434         unsigned int me_numreaders;             /**< max reader slots used in the environment */
435 } MDB_envinfo;
436
437         /** @brief Return the mdb library version information.
438          *
439          * @param[out] major if non-NULL, the library major version number is copied here
440          * @param[out] minor if non-NULL, the library minor version number is copied here
441          * @param[out] patch if non-NULL, the library patch version number is copied here
442          * @retval "version string" The library version as a string
443          */
444 char *mdb_version(int *major, int *minor, int *patch);
445
446         /** @brief Return a string describing a given error code.
447          *
448          * This function is a superset of the ANSI C X3.159-1989 (ANSI C) strerror(3)
449          * function. If the error code is greater than or equal to 0, then the string
450          * returned by the system function strerror(3) is returned. If the error code
451          * is less than 0, an error string corresponding to the MDB library error is
452          * returned. See @ref errors for a list of MDB-specific error codes.
453          * @param[in] err The error code
454          * @retval "error message" The description of the error
455          */
456 char *mdb_strerror(int err);
457
458         /** @brief Create an MDB environment handle.
459          *
460          * This function allocates memory for a #MDB_env structure. To release
461          * the allocated memory and discard the handle, call #mdb_env_close().
462          * Before the handle may be used, it must be opened using #mdb_env_open().
463          * Various other options may also need to be set before opening the handle,
464          * e.g. #mdb_env_set_mapsize(), #mdb_env_set_maxreaders(), #mdb_env_set_maxdbs(),
465          * depending on usage requirements.
466          * @param[out] env The address where the new handle will be stored
467          * @return A non-zero error value on failure and 0 on success.
468          */
469 int  mdb_env_create(MDB_env **env);
470
471         /** @brief Open an environment handle.
472          *
473          * If this function fails, #mdb_env_close() must be called to discard the #MDB_env handle.
474          * @param[in] env An environment handle returned by #mdb_env_create()
475          * @param[in] path The directory in which the database files reside. This
476          * directory must already exist and be writable.
477          * @param[in] flags Special options for this environment. This parameter
478          * must be set to 0 or by bitwise OR'ing together one or more of the
479          * values described here.
480          * Flags set by mdb_env_set_flags() are also used.
481          * <ul>
482          *      <li>#MDB_FIXEDMAP
483          *      use a fixed address for the mmap region. This flag must be specified
484          *      when creating the environment, and is stored persistently in the environment.
485          *              If successful, the memory map will always reside at the same virtual address
486          *              and pointers used to reference data items in the database will be constant
487          *              across multiple invocations. This option may not always work, depending on
488          *              how the operating system has allocated memory to shared libraries and other uses.
489          *              The feature is highly experimental.
490          *      <li>#MDB_NOSUBDIR
491          *              By default, MDB creates its environment in a directory whose
492          *              pathname is given in \b path, and creates its data and lock files
493          *              under that directory. With this option, \b path is used as-is for
494          *              the database main data file. The database lock file is the \b path
495          *              with "-lock" appended.
496          *      <li>#MDB_RDONLY
497          *              Open the environment in read-only mode. No write operations will be
498          *              allowed. MDB will still modify the lock file - except on read-only
499          *              filesystems, where MDB does not use locks.
500          *      <li>#MDB_WRITEMAP
501          *              Use a writeable memory map unless MDB_RDONLY is set. This is faster
502          *              and uses fewer mallocs, but loses protection from application bugs
503          *              like wild pointer writes and other bad updates into the database.
504          *              Incompatible with nested transactions.
505          *              Processes with and without MDB_WRITEMAP on the same environment do
506          *              not cooperate well.
507          *      <li>#MDB_NOMETASYNC
508          *              Flush system buffers to disk only once per transaction, omit the
509          *              metadata flush. Defer that until the system flushes files to disk,
510          *              or next non-MDB_RDONLY commit or #mdb_env_sync(). This optimization
511          *              maintains database integrity, but a system crash may undo the last
512          *              committed transaction. I.e. it preserves the ACI (atomicity,
513          *              consistency, isolation) but not D (durability) database property.
514          *              This flag may be changed at any time using #mdb_env_set_flags().
515          *      <li>#MDB_NOSYNC
516          *              Don't flush system buffers to disk when committing a transaction.
517          *              This optimization means a system crash can corrupt the database or
518          *              lose the last transactions if buffers are not yet flushed to disk.
519          *              The risk is governed by how often the system flushes dirty buffers
520          *              to disk and how often #mdb_env_sync() is called.  However, if the
521          *              filesystem preserves write order and the #MDB_WRITEMAP flag is not
522          *              used, transactions exhibit ACI (atomicity, consistency, isolation)
523          *              properties and only lose D (durability).  I.e. database integrity
524          *              is maintained, but a system crash may undo the final transactions.
525          *              Note that (#MDB_NOSYNC | #MDB_WRITEMAP) leaves the system with no
526          *              hint for when to write transactions to disk, unless #mdb_env_sync()
527          *              is called. (#MDB_MAPASYNC | #MDB_WRITEMAP) may be preferable.
528          *              This flag may be changed at any time using #mdb_env_set_flags().
529          *      <li>#MDB_MAPASYNC
530          *              When using #MDB_WRITEMAP, use asynchronous flushes to disk.
531          *              As with #MDB_NOSYNC, a system crash can then corrupt the
532          *              database or lose the last transactions. Calling #mdb_env_sync()
533          *              ensures on-disk database integrity until next commit.
534          *              This flag may be changed at any time using #mdb_env_set_flags().
535          *      <li>#MDB_NOTLS
536          *              Don't use Thread-Local Storage. Tie reader locktable slots to
537          *              #MDB_txn objects instead of to threads. I.e. #mdb_txn_reset() keeps
538          *              the slot reseved for the #MDB_txn object. A thread may use parallel
539          *              read-only transactions. A read-only transaction may span threads if
540          *              the user synchronizes its use. Applications that multiplex many
541          *              user threads over individual OS threads need this option. Such an
542          *              application must also serialize the write transactions in an OS
543          *              thread, since MDB's write locking is unaware of the user threads.
544          *      <li>#MDB_NOLOCK
545          *              Don't do any locking. If concurrent access is anticipated, the
546          *              caller must manage all concurrency itself. For proper operation
547          *              the caller must enforce single-writer semantics, and must ensure
548          *              that no readers are using old transactions while a writer is
549          *              active. The simplest approach is to use an exclusive lock so that
550          *              no readers may be active at all when a writer begins.
551          *      <li>#MDB_NORDAHEAD
552          *              Turn off readahead. Most operating systems perform readahead on
553          *              read requests by default. This option turns it off if the OS
554          *              supports it. Turning it off may help random read performance
555          *              when the DB is larger than RAM and system RAM is full.
556          *              The option is not implemented on Windows.
557          *      <li>#MDB_NOMEMINIT
558          *              Don't initialize malloc'd memory before writing to unused spaces
559          *              in the data file. By default, memory for pages written to the data
560          *              file is obtained using malloc. While these pages may be reused in
561          *              subsequent transactions, freshly malloc'd pages will be initialized
562          *              to zeroes before use. This avoids persisting leftover data from other
563          *              code (that used the heap and subsequently freed the memory) into the
564          *              data file. Note that many other system libraries may allocate
565          *              and free memory from the heap for arbitrary uses. E.g., stdio may
566          *              use the heap for file I/O buffers. This initialization step has a
567          *              modest performance cost so some applications may want to disable
568          *              it using this flag. This option can be a problem for applications
569          *              which handle sensitive data like passwords, and it makes memory
570          *              checkers like Valgrind noisy. This flag is not needed with #MDB_WRITEMAP,
571          *              which writes directly to the mmap instead of using malloc for pages. The
572          *              initialization is also skipped if #MDB_RESERVE is used; the
573          *              caller is expected to overwrite all of the memory that was
574          *              reserved in that case.
575          *              This flag may be changed at any time using #mdb_env_set_flags().
576          * </ul>
577          * @param[in] mode The UNIX permissions to set on created files. This parameter
578          * is ignored on Windows.
579          * @return A non-zero error value on failure and 0 on success. Some possible
580          * errors are:
581          * <ul>
582          *      <li>#MDB_VERSION_MISMATCH - the version of the MDB library doesn't match the
583          *      version that created the database environment.
584          *      <li>#MDB_INVALID - the environment file headers are corrupted.
585          *      <li>ENOENT - the directory specified by the path parameter doesn't exist.
586          *      <li>EACCES - the user didn't have permission to access the environment files.
587          *      <li>EAGAIN - the environment was locked by another process.
588          * </ul>
589          */
590 int  mdb_env_open(MDB_env *env, const char *path, unsigned int flags, mdb_mode_t mode);
591
592         /** @brief Copy an MDB environment to the specified path.
593          *
594          * This function may be used to make a backup of an existing environment.
595          * No lockfile is created, since it gets recreated at need.
596          * @note This call can trigger significant file size growth if run in
597          * parallel with write transactions, because it employs a read-only
598          * transaction. See long-lived transactions under @ref caveats_sec.
599          * @param[in] env An environment handle returned by #mdb_env_create(). It
600          * must have already been opened successfully.
601          * @param[in] path The directory in which the copy will reside. This
602          * directory must already exist and be writable but must otherwise be
603          * empty.
604          * @return A non-zero error value on failure and 0 on success.
605          */
606 int  mdb_env_copy(MDB_env *env, const char *path);
607
608         /** @brief Copy an MDB environment to the specified file descriptor.
609          *
610          * This function may be used to make a backup of an existing environment.
611          * No lockfile is created, since it gets recreated at need.
612          * @note This call can trigger significant file size growth if run in
613          * parallel with write transactions, because it employs a read-only
614          * transaction. See long-lived transactions under @ref caveats_sec.
615          * @param[in] env An environment handle returned by #mdb_env_create(). It
616          * must have already been opened successfully.
617          * @param[in] fd The filedescriptor to write the copy to. It must
618          * have already been opened for Write access.
619          * @return A non-zero error value on failure and 0 on success.
620          */
621 int  mdb_env_copyfd(MDB_env *env, mdb_filehandle_t fd);
622
623         /** @brief Return statistics about the MDB environment.
624          *
625          * @param[in] env An environment handle returned by #mdb_env_create()
626          * @param[out] stat The address of an #MDB_stat structure
627          *      where the statistics will be copied
628          */
629 int  mdb_env_stat(MDB_env *env, MDB_stat *stat);
630
631         /** @brief Return information about the MDB environment.
632          *
633          * @param[in] env An environment handle returned by #mdb_env_create()
634          * @param[out] stat The address of an #MDB_envinfo structure
635          *      where the information will be copied
636          */
637 int  mdb_env_info(MDB_env *env, MDB_envinfo *stat);
638
639         /** @brief Flush the data buffers to disk.
640          *
641          * Data is always written to disk when #mdb_txn_commit() is called,
642          * but the operating system may keep it buffered. MDB always flushes
643          * the OS buffers upon commit as well, unless the environment was
644          * opened with #MDB_NOSYNC or in part #MDB_NOMETASYNC.
645          * @param[in] env An environment handle returned by #mdb_env_create()
646          * @param[in] force If non-zero, force a synchronous flush.  Otherwise
647          *  if the environment has the #MDB_NOSYNC flag set the flushes
648          *      will be omitted, and with #MDB_MAPASYNC they will be asynchronous.
649          * @return A non-zero error value on failure and 0 on success. Some possible
650          * errors are:
651          * <ul>
652          *      <li>EINVAL - an invalid parameter was specified.
653          *      <li>EIO - an error occurred during synchronization.
654          * </ul>
655          */
656 int  mdb_env_sync(MDB_env *env, int force);
657
658         /** @brief Close the environment and release the memory map.
659          *
660          * Only a single thread may call this function. All transactions, databases,
661          * and cursors must already be closed before calling this function. Attempts to
662          * use any such handles after calling this function will cause a SIGSEGV.
663          * The environment handle will be freed and must not be used again after this call.
664          * @param[in] env An environment handle returned by #mdb_env_create()
665          */
666 void mdb_env_close(MDB_env *env);
667
668         /** @brief Set environment flags.
669          *
670          * This may be used to set some flags in addition to those from
671          * #mdb_env_open(), or to unset these flags.  If several threads
672          * change the flags at the same time, the result is undefined.
673          * @param[in] env An environment handle returned by #mdb_env_create()
674          * @param[in] flags The flags to change, bitwise OR'ed together
675          * @param[in] onoff A non-zero value sets the flags, zero clears them.
676          * @return A non-zero error value on failure and 0 on success. Some possible
677          * errors are:
678          * <ul>
679          *      <li>EINVAL - an invalid parameter was specified.
680          * </ul>
681          */
682 int  mdb_env_set_flags(MDB_env *env, unsigned int flags, int onoff);
683
684         /** @brief Get environment flags.
685          *
686          * @param[in] env An environment handle returned by #mdb_env_create()
687          * @param[out] flags The address of an integer to store the flags
688          * @return A non-zero error value on failure and 0 on success. Some possible
689          * errors are:
690          * <ul>
691          *      <li>EINVAL - an invalid parameter was specified.
692          * </ul>
693          */
694 int  mdb_env_get_flags(MDB_env *env, unsigned int *flags);
695
696         /** @brief Return the path that was used in #mdb_env_open().
697          *
698          * @param[in] env An environment handle returned by #mdb_env_create()
699          * @param[out] path Address of a string pointer to contain the path. This
700          * is the actual string in the environment, not a copy. It should not be
701          * altered in any way.
702          * @return A non-zero error value on failure and 0 on success. Some possible
703          * errors are:
704          * <ul>
705          *      <li>EINVAL - an invalid parameter was specified.
706          * </ul>
707          */
708 int  mdb_env_get_path(MDB_env *env, const char **path);
709
710         /** @brief Return the filedescriptor for the given environment.
711          *
712          * @param[in] env An environment handle returned by #mdb_env_create()
713          * @param[out] fd Address of a mdb_filehandle_t to contain the descriptor.
714          * @return A non-zero error value on failure and 0 on success. Some possible
715          * errors are:
716          * <ul>
717          *      <li>EINVAL - an invalid parameter was specified.
718          * </ul>
719          */
720 int  mdb_env_get_fd(MDB_env *env, mdb_filehandle_t *fd);
721
722         /** @brief Set the size of the memory map to use for this environment.
723          *
724          * The size should be a multiple of the OS page size. The default is
725          * 10485760 bytes. The size of the memory map is also the maximum size
726          * of the database. The value should be chosen as large as possible,
727          * to accommodate future growth of the database.
728          * This function should be called after #mdb_env_create() and before #mdb_env_open().
729          * It may be called at later times if no transactions are active in
730          * this process. Note that the library does not check for this condition,
731          * the caller must ensure it explicitly.
732          *
733          * If the mapsize is changed by another process, #mdb_txn_begin() will
734          * return #MDB_MAP_RESIZED. This function may be called with a size
735          * of zero to adopt the new size.
736          *
737          * Any attempt to set a size smaller than the space already consumed
738          * by the environment will be silently changed to the current size of the used space.
739          * @param[in] env An environment handle returned by #mdb_env_create()
740          * @param[in] size The size in bytes
741          * @return A non-zero error value on failure and 0 on success. Some possible
742          * errors are:
743          * <ul>
744          *      <li>EINVAL - an invalid parameter was specified, or the environment has
745          *      an active write transaction.
746          * </ul>
747          */
748 int  mdb_env_set_mapsize(MDB_env *env, size_t size);
749
750         /** @brief Set the maximum number of threads/reader slots for the environment.
751          *
752          * This defines the number of slots in the lock table that is used to track readers in the
753          * the environment. The default is 126.
754          * Starting a read-only transaction normally ties a lock table slot to the
755          * current thread until the environment closes or the thread exits. If
756          * MDB_NOTLS is in use, #mdb_txn_begin() instead ties the slot to the
757          * MDB_txn object until it or the #MDB_env object is destroyed.
758          * This function may only be called after #mdb_env_create() and before #mdb_env_open().
759          * @param[in] env An environment handle returned by #mdb_env_create()
760          * @param[in] readers The maximum number of reader lock table slots
761          * @return A non-zero error value on failure and 0 on success. Some possible
762          * errors are:
763          * <ul>
764          *      <li>EINVAL - an invalid parameter was specified, or the environment is already open.
765          * </ul>
766          */
767 int  mdb_env_set_maxreaders(MDB_env *env, unsigned int readers);
768
769         /** @brief Get the maximum number of threads/reader slots for the environment.
770          *
771          * @param[in] env An environment handle returned by #mdb_env_create()
772          * @param[out] readers Address of an integer to store the number of readers
773          * @return A non-zero error value on failure and 0 on success. Some possible
774          * errors are:
775          * <ul>
776          *      <li>EINVAL - an invalid parameter was specified.
777          * </ul>
778          */
779 int  mdb_env_get_maxreaders(MDB_env *env, unsigned int *readers);
780
781         /** @brief Set the maximum number of named databases for the environment.
782          *
783          * This function is only needed if multiple databases will be used in the
784          * environment. Simpler applications that use the environment as a single
785          * unnamed database can ignore this option.
786          * This function may only be called after #mdb_env_create() and before #mdb_env_open().
787          *
788          * Currently a moderate number of slots are cheap but a huge number gets
789          * expensive: 7-120 words per transaction, and every #mdb_dbi_open()
790          * does a linear search of the opened slots.
791          * @param[in] env An environment handle returned by #mdb_env_create()
792          * @param[in] dbs The maximum number of databases
793          * @return A non-zero error value on failure and 0 on success. Some possible
794          * errors are:
795          * <ul>
796          *      <li>EINVAL - an invalid parameter was specified, or the environment is already open.
797          * </ul>
798          */
799 int  mdb_env_set_maxdbs(MDB_env *env, MDB_dbi dbs);
800
801         /** @brief Get the maximum size of keys and #MDB_DUPSORT data we can write.
802          *
803          * Depends on the compile-time constant #MDB_MAXKEYSIZE. Default 511.
804          * See @ref MDB_val.
805          * @param[in] env An environment handle returned by #mdb_env_create()
806          * @return The maximum size of a key we can write
807          */
808 int  mdb_env_get_maxkeysize(MDB_env *env);
809
810         /** @brief Set application information associated with the #MDB_env.
811          *
812          * @param[in] env An environment handle returned by #mdb_env_create()
813          * @param[in] ctx An arbitrary pointer for whatever the application needs.
814          * @return A non-zero error value on failure and 0 on success.
815          */
816 int  mdb_env_set_userctx(MDB_env *env, void *ctx);
817
818         /** @brief Get the application information associated with the #MDB_env.
819          *
820          * @param[in] env An environment handle returned by #mdb_env_create()
821          * @return The pointer set by #mdb_env_set_userctx().
822          */
823 void *mdb_env_get_userctx(MDB_env *env);
824
825         /** @brief A callback function for most MDB assert() failures,
826          * called before printing the message and aborting.
827          *
828          * @param[in] env An environment handle returned by #mdb_env_create().
829          * @param[in] msg The assertion message, not including newline.
830          */
831 typedef void MDB_assert_func(MDB_env *env, const char *msg);
832
833         /** Set or reset the assert() callback of the environment.
834          * Disabled if liblmdb is buillt with NDEBUG.
835          * @note This hack should become obsolete as lmdb's error handling matures.
836          * @param[in] env An environment handle returned by #mdb_env_create().
837          * @param[in] func An #MDB_assert_func function, or 0.
838          * @return A non-zero error value on failure and 0 on success.
839          */
840 int  mdb_env_set_assert(MDB_env *env, MDB_assert_func *func);
841
842         /** @brief Create a transaction for use with the environment.
843          *
844          * The transaction handle may be discarded using #mdb_txn_abort() or #mdb_txn_commit().
845          * @note A transaction and its cursors must only be used by a single
846          * thread, and a thread may only have a single transaction at a time.
847          * If #MDB_NOTLS is in use, this does not apply to read-only transactions.
848          * @note Cursors may not span transactions.
849          * @param[in] env An environment handle returned by #mdb_env_create()
850          * @param[in] parent If this parameter is non-NULL, the new transaction
851          * will be a nested transaction, with the transaction indicated by \b parent
852          * as its parent. Transactions may be nested to any level. A parent
853          * transaction and its cursors may not issue any other operations than
854          * mdb_txn_commit and mdb_txn_abort while it has active child transactions.
855          * @param[in] flags Special options for this transaction. This parameter
856          * must be set to 0 or by bitwise OR'ing together one or more of the
857          * values described here.
858          * <ul>
859          *      <li>#MDB_RDONLY
860          *              This transaction will not perform any write operations.
861          * </ul>
862          * @param[out] txn Address where the new #MDB_txn handle will be stored
863          * @return A non-zero error value on failure and 0 on success. Some possible
864          * errors are:
865          * <ul>
866          *      <li>#MDB_PANIC - a fatal error occurred earlier and the environment
867          *              must be shut down.
868          *      <li>#MDB_MAP_RESIZED - another process wrote data beyond this MDB_env's
869          *              mapsize and this environment's map must be resized as well.
870          *              See #mdb_env_set_mapsize().
871          *      <li>#MDB_READERS_FULL - a read-only transaction was requested and
872          *              the reader lock table is full. See #mdb_env_set_maxreaders().
873          *      <li>ENOMEM - out of memory.
874          * </ul>
875          */
876 int  mdb_txn_begin(MDB_env *env, MDB_txn *parent, unsigned int flags, MDB_txn **txn);
877
878         /** @brief Returns the transaction's #MDB_env
879          *
880          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
881          */
882 MDB_env *mdb_txn_env(MDB_txn *txn);
883
884         /** @brief Commit all the operations of a transaction into the database.
885          *
886          * The transaction handle is freed. It and its cursors must not be used
887          * again after this call, except with #mdb_cursor_renew().
888          * @note Earlier documentation incorrectly said all cursors would be freed.
889          * Only write-transactions free cursors.
890          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
891          * @return A non-zero error value on failure and 0 on success. Some possible
892          * errors are:
893          * <ul>
894          *      <li>EINVAL - an invalid parameter was specified.
895          *      <li>ENOSPC - no more disk space.
896          *      <li>EIO - a low-level I/O error occurred while writing.
897          *      <li>ENOMEM - out of memory.
898          * </ul>
899          */
900 int  mdb_txn_commit(MDB_txn *txn);
901
902         /** @brief Abandon all the operations of the transaction instead of saving them.
903          *
904          * The transaction handle is freed. It and its cursors must not be used
905          * again after this call, except with #mdb_cursor_renew().
906          * @note Earlier documentation incorrectly said all cursors would be freed.
907          * Only write-transactions free cursors.
908          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
909          */
910 void mdb_txn_abort(MDB_txn *txn);
911
912         /** @brief Reset a read-only transaction.
913          *
914          * Abort the transaction like #mdb_txn_abort(), but keep the transaction
915          * handle. #mdb_txn_renew() may reuse the handle. This saves allocation
916          * overhead if the process will start a new read-only transaction soon,
917          * and also locking overhead if #MDB_NOTLS is in use. The reader table
918          * lock is released, but the table slot stays tied to its thread or
919          * #MDB_txn. Use mdb_txn_abort() to discard a reset handle, and to free
920          * its lock table slot if MDB_NOTLS is in use.
921          * Cursors opened within the transaction must not be used
922          * again after this call, except with #mdb_cursor_renew().
923          * Reader locks generally don't interfere with writers, but they keep old
924          * versions of database pages allocated. Thus they prevent the old pages
925          * from being reused when writers commit new data, and so under heavy load
926          * the database size may grow much more rapidly than otherwise.
927          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
928          */
929 void mdb_txn_reset(MDB_txn *txn);
930
931         /** @brief Renew a read-only transaction.
932          *
933          * This acquires a new reader lock for a transaction handle that had been
934          * released by #mdb_txn_reset(). It must be called before a reset transaction
935          * may be used again.
936          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
937          * @return A non-zero error value on failure and 0 on success. Some possible
938          * errors are:
939          * <ul>
940          *      <li>#MDB_PANIC - a fatal error occurred earlier and the environment
941          *              must be shut down.
942          *      <li>EINVAL - an invalid parameter was specified.
943          * </ul>
944          */
945 int  mdb_txn_renew(MDB_txn *txn);
946
947 /** Compat with version <= 0.9.4, avoid clash with libmdb from MDB Tools project */
948 #define mdb_open(txn,name,flags,dbi)    mdb_dbi_open(txn,name,flags,dbi)
949 /** Compat with version <= 0.9.4, avoid clash with libmdb from MDB Tools project */
950 #define mdb_close(env,dbi)                              mdb_dbi_close(env,dbi)
951
952         /** @brief Open a database in the environment.
953          *
954          * A database handle denotes the name and parameters of a database,
955          * independently of whether such a database exists.
956          * The database handle may be discarded by calling #mdb_dbi_close().
957          * The old database handle is returned if the database was already open.
958          * The handle may only be closed once.
959          * The database handle will be private to the current transaction until
960          * the transaction is successfully committed. If the transaction is
961          * aborted the handle will be closed automatically.
962          * After a successful commit the
963          * handle will reside in the shared environment, and may be used
964          * by other transactions. This function must not be called from
965          * multiple concurrent transactions. A transaction that uses this function
966          * must finish (either commit or abort) before any other transaction may
967          * use this function.
968          *
969          * To use named databases (with name != NULL), #mdb_env_set_maxdbs()
970          * must be called before opening the environment.  Database names
971          * are kept as keys in the unnamed database.
972          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
973          * @param[in] name The name of the database to open. If only a single
974          *      database is needed in the environment, this value may be NULL.
975          * @param[in] flags Special options for this database. This parameter
976          * must be set to 0 or by bitwise OR'ing together one or more of the
977          * values described here.
978          * <ul>
979          *      <li>#MDB_REVERSEKEY
980          *              Keys are strings to be compared in reverse order, from the end
981          *              of the strings to the beginning. By default, Keys are treated as strings and
982          *              compared from beginning to end.
983          *      <li>#MDB_DUPSORT
984          *              Duplicate keys may be used in the database. (Or, from another perspective,
985          *              keys may have multiple data items, stored in sorted order.) By default
986          *              keys must be unique and may have only a single data item.
987          *      <li>#MDB_INTEGERKEY
988          *              Keys are binary integers in native byte order. Setting this option
989          *              requires all keys to be the same size, typically sizeof(int)
990          *              or sizeof(size_t).
991          *      <li>#MDB_DUPFIXED
992          *              This flag may only be used in combination with #MDB_DUPSORT. This option
993          *              tells the library that the data items for this database are all the same
994          *              size, which allows further optimizations in storage and retrieval. When
995          *              all data items are the same size, the #MDB_GET_MULTIPLE and #MDB_NEXT_MULTIPLE
996          *              cursor operations may be used to retrieve multiple items at once.
997          *      <li>#MDB_INTEGERDUP
998          *              This option specifies that duplicate data items are also integers, and
999          *              should be sorted as such.
1000          *      <li>#MDB_REVERSEDUP
1001          *              This option specifies that duplicate data items should be compared as
1002          *              strings in reverse order.
1003          *      <li>#MDB_CREATE
1004          *              Create the named database if it doesn't exist. This option is not
1005          *              allowed in a read-only transaction or a read-only environment.
1006          * </ul>
1007          * @param[out] dbi Address where the new #MDB_dbi handle will be stored
1008          * @return A non-zero error value on failure and 0 on success. Some possible
1009          * errors are:
1010          * <ul>
1011          *      <li>#MDB_NOTFOUND - the specified database doesn't exist in the environment
1012          *              and #MDB_CREATE was not specified.
1013          *      <li>#MDB_DBS_FULL - too many databases have been opened. See #mdb_env_set_maxdbs().
1014          * </ul>
1015          */
1016 int  mdb_dbi_open(MDB_txn *txn, const char *name, unsigned int flags, MDB_dbi *dbi);
1017
1018         /** @brief Retrieve statistics for a database.
1019          *
1020          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1021          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1022          * @param[out] stat The address of an #MDB_stat structure
1023          *      where the statistics will be copied
1024          * @return A non-zero error value on failure and 0 on success. Some possible
1025          * errors are:
1026          * <ul>
1027          *      <li>EINVAL - an invalid parameter was specified.
1028          * </ul>
1029          */
1030 int  mdb_stat(MDB_txn *txn, MDB_dbi dbi, MDB_stat *stat);
1031
1032         /** @brief Retrieve the DB flags for a database handle.
1033          *
1034          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1035          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1036          * @param[out] flags Address where the flags will be returned.
1037          * @return A non-zero error value on failure and 0 on success.
1038          */
1039 int mdb_dbi_flags(MDB_txn *txn, MDB_dbi dbi, unsigned int *flags);
1040
1041         /** @brief Close a database handle. Normally unnecessary. Use with care:
1042          *
1043          * This call is not mutex protected. Handles should only be closed by
1044          * a single thread, and only if no other threads are going to reference
1045          * the database handle or one of its cursors any further. Do not close
1046          * a handle if an existing transaction has modified its database.
1047          * Doing so can cause misbehavior from database corruption to errors
1048          * like MDB_BAD_VALSIZE (since the DB name is gone).
1049          *
1050          * Closing a database handle is not necessary, but lets #mdb_dbi_open()
1051          * reuse the handle value.  Usually it's better to set a bigger
1052          * #mdb_env_set_maxdbs(), unless that value would be large.
1053          *
1054          * @param[in] env An environment handle returned by #mdb_env_create()
1055          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1056          */
1057 void mdb_dbi_close(MDB_env *env, MDB_dbi dbi);
1058
1059         /** @brief Empty or delete+close a database.
1060          *
1061          * See #mdb_dbi_close() for restrictions about closing the DB handle.
1062          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1063          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1064          * @param[in] del 0 to empty the DB, 1 to delete it from the
1065          * environment and close the DB handle.
1066          * @return A non-zero error value on failure and 0 on success.
1067          */
1068 int  mdb_drop(MDB_txn *txn, MDB_dbi dbi, int del);
1069
1070         /** @brief Set a custom key comparison function for a database.
1071          *
1072          * The comparison function is called whenever it is necessary to compare a
1073          * key specified by the application with a key currently stored in the database.
1074          * If no comparison function is specified, and no special key flags were specified
1075          * with #mdb_dbi_open(), the keys are compared lexically, with shorter keys collating
1076          * before longer keys.
1077          * @warning This function must be called before any data access functions are used,
1078          * otherwise data corruption may occur. The same comparison function must be used by every
1079          * program accessing the database, every time the database is used.
1080          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1081          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1082          * @param[in] cmp A #MDB_cmp_func function
1083          * @return A non-zero error value on failure and 0 on success. Some possible
1084          * errors are:
1085          * <ul>
1086          *      <li>EINVAL - an invalid parameter was specified.
1087          * </ul>
1088          */
1089 int  mdb_set_compare(MDB_txn *txn, MDB_dbi dbi, MDB_cmp_func *cmp);
1090
1091         /** @brief Set a custom data comparison function for a #MDB_DUPSORT database.
1092          *
1093          * This comparison function is called whenever it is necessary to compare a data
1094          * item specified by the application with a data item currently stored in the database.
1095          * This function only takes effect if the database was opened with the #MDB_DUPSORT
1096          * flag.
1097          * If no comparison function is specified, and no special key flags were specified
1098          * with #mdb_dbi_open(), the data items are compared lexically, with shorter items collating
1099          * before longer items.
1100          * @warning This function must be called before any data access functions are used,
1101          * otherwise data corruption may occur. The same comparison function must be used by every
1102          * program accessing the database, every time the database is used.
1103          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1104          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1105          * @param[in] cmp A #MDB_cmp_func function
1106          * @return A non-zero error value on failure and 0 on success. Some possible
1107          * errors are:
1108          * <ul>
1109          *      <li>EINVAL - an invalid parameter was specified.
1110          * </ul>
1111          */
1112 int  mdb_set_dupsort(MDB_txn *txn, MDB_dbi dbi, MDB_cmp_func *cmp);
1113
1114         /** @brief Set a relocation function for a #MDB_FIXEDMAP database.
1115          *
1116          * @todo The relocation function is called whenever it is necessary to move the data
1117          * of an item to a different position in the database (e.g. through tree
1118          * balancing operations, shifts as a result of adds or deletes, etc.). It is
1119          * intended to allow address/position-dependent data items to be stored in
1120          * a database in an environment opened with the #MDB_FIXEDMAP option.
1121          * Currently the relocation feature is unimplemented and setting
1122          * this function has no effect.
1123          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1124          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1125          * @param[in] rel A #MDB_rel_func function
1126          * @return A non-zero error value on failure and 0 on success. Some possible
1127          * errors are:
1128          * <ul>
1129          *      <li>EINVAL - an invalid parameter was specified.
1130          * </ul>
1131          */
1132 int  mdb_set_relfunc(MDB_txn *txn, MDB_dbi dbi, MDB_rel_func *rel);
1133
1134         /** @brief Set a context pointer for a #MDB_FIXEDMAP database's relocation function.
1135          *
1136          * See #mdb_set_relfunc and #MDB_rel_func for more details.
1137          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1138          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1139          * @param[in] ctx An arbitrary pointer for whatever the application needs.
1140          * It will be passed to the callback function set by #mdb_set_relfunc
1141          * as its \b relctx parameter whenever the callback is invoked.
1142          * @return A non-zero error value on failure and 0 on success. Some possible
1143          * errors are:
1144          * <ul>
1145          *      <li>EINVAL - an invalid parameter was specified.
1146          * </ul>
1147          */
1148 int  mdb_set_relctx(MDB_txn *txn, MDB_dbi dbi, void *ctx);
1149
1150         /** @brief Get items from a database.
1151          *
1152          * This function retrieves key/data pairs from the database. The address
1153          * and length of the data associated with the specified \b key are returned
1154          * in the structure to which \b data refers.
1155          * If the database supports duplicate keys (#MDB_DUPSORT) then the
1156          * first data item for the key will be returned. Retrieval of other
1157          * items requires the use of #mdb_cursor_get().
1158          *
1159          * @note The memory pointed to by the returned values is owned by the
1160          * database. The caller need not dispose of the memory, and may not
1161          * modify it in any way. For values returned in a read-only transaction
1162          * any modification attempts will cause a SIGSEGV.
1163          * @note Values returned from the database are valid only until a
1164          * subsequent update operation, or the end of the transaction.
1165          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1166          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1167          * @param[in] key The key to search for in the database
1168          * @param[out] data The data corresponding to the key
1169          * @return A non-zero error value on failure and 0 on success. Some possible
1170          * errors are:
1171          * <ul>
1172          *      <li>#MDB_NOTFOUND - the key was not in the database.
1173          *      <li>EINVAL - an invalid parameter was specified.
1174          * </ul>
1175          */
1176 int  mdb_get(MDB_txn *txn, MDB_dbi dbi, MDB_val *key, MDB_val *data);
1177
1178         /** @brief Store items into a database.
1179          *
1180          * This function stores key/data pairs in the database. The default behavior
1181          * is to enter the new key/data pair, replacing any previously existing key
1182          * if duplicates are disallowed, or adding a duplicate data item if
1183          * duplicates are allowed (#MDB_DUPSORT).
1184          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1185          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1186          * @param[in] key The key to store in the database
1187          * @param[in,out] data The data to store
1188          * @param[in] flags Special options for this operation. This parameter
1189          * must be set to 0 or by bitwise OR'ing together one or more of the
1190          * values described here.
1191          * <ul>
1192          *      <li>#MDB_NODUPDATA - enter the new key/data pair only if it does not
1193          *              already appear in the database. This flag may only be specified
1194          *              if the database was opened with #MDB_DUPSORT. The function will
1195          *              return #MDB_KEYEXIST if the key/data pair already appears in the
1196          *              database.
1197          *      <li>#MDB_NOOVERWRITE - enter the new key/data pair only if the key
1198          *              does not already appear in the database. The function will return
1199          *              #MDB_KEYEXIST if the key already appears in the database, even if
1200          *              the database supports duplicates (#MDB_DUPSORT). The \b data
1201          *              parameter will be set to point to the existing item.
1202          *      <li>#MDB_RESERVE - reserve space for data of the given size, but
1203          *              don't copy the given data. Instead, return a pointer to the
1204          *              reserved space, which the caller can fill in later - before
1205          *              the next update operation or the transaction ends. This saves
1206          *              an extra memcpy if the data is being generated later.
1207          *              MDB does nothing else with this memory, the caller is expected
1208          *              to modify all of the space requested.
1209          *      <li>#MDB_APPEND - append the given key/data pair to the end of the
1210          *              database. No key comparisons are performed. This option allows
1211          *              fast bulk loading when keys are already known to be in the
1212          *              correct order. Loading unsorted keys with this flag will cause
1213          *              data corruption.
1214          *      <li>#MDB_APPENDDUP - as above, but for sorted dup data.
1215          * </ul>
1216          * @return A non-zero error value on failure and 0 on success. Some possible
1217          * errors are:
1218          * <ul>
1219          *      <li>#MDB_MAP_FULL - the database is full, see #mdb_env_set_mapsize().
1220          *      <li>#MDB_TXN_FULL - the transaction has too many dirty pages.
1221          *      <li>EACCES - an attempt was made to write in a read-only transaction.
1222          *      <li>EINVAL - an invalid parameter was specified.
1223          * </ul>
1224          */
1225 int  mdb_put(MDB_txn *txn, MDB_dbi dbi, MDB_val *key, MDB_val *data,
1226                             unsigned int flags);
1227
1228         /** @brief Delete items from a database.
1229          *
1230          * This function removes key/data pairs from the database.
1231          * If the database does not support sorted duplicate data items
1232          * (#MDB_DUPSORT) the data parameter is ignored.
1233          * If the database supports sorted duplicates and the data parameter
1234          * is NULL, all of the duplicate data items for the key will be
1235          * deleted. Otherwise, if the data parameter is non-NULL
1236          * only the matching data item will be deleted.
1237          * This function will return #MDB_NOTFOUND if the specified key/data
1238          * pair is not in the database.
1239          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1240          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1241          * @param[in] key The key to delete from the database
1242          * @param[in] data The data to delete
1243          * @return A non-zero error value on failure and 0 on success. Some possible
1244          * errors are:
1245          * <ul>
1246          *      <li>EACCES - an attempt was made to write in a read-only transaction.
1247          *      <li>EINVAL - an invalid parameter was specified.
1248          * </ul>
1249          */
1250 int  mdb_del(MDB_txn *txn, MDB_dbi dbi, MDB_val *key, MDB_val *data);
1251
1252         /** @brief Create a cursor handle.
1253          *
1254          * A cursor is associated with a specific transaction and database.
1255          * A cursor cannot be used when its database handle is closed.  Nor
1256          * when its transaction has ended, except with #mdb_cursor_renew().
1257          * It can be discarded with #mdb_cursor_close().
1258          * A cursor in a write-transaction can be closed before its transaction
1259          * ends, and will otherwise be closed when its transaction ends.
1260          * A cursor in a read-only transaction must be closed explicitly, before
1261          * or after its transaction ends. It can be reused with
1262          * #mdb_cursor_renew() before finally closing it.
1263          * @note Earlier documentation said that cursors in every transaction
1264          * were closed when the transaction committed or aborted.
1265          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1266          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1267          * @param[out] cursor Address where the new #MDB_cursor handle will be stored
1268          * @return A non-zero error value on failure and 0 on success. Some possible
1269          * errors are:
1270          * <ul>
1271          *      <li>EINVAL - an invalid parameter was specified.
1272          * </ul>
1273          */
1274 int  mdb_cursor_open(MDB_txn *txn, MDB_dbi dbi, MDB_cursor **cursor);
1275
1276         /** @brief Close a cursor handle.
1277          *
1278          * The cursor handle will be freed and must not be used again after this call.
1279          * Its transaction must still be live if it is a write-transaction.
1280          * @param[in] cursor A cursor handle returned by #mdb_cursor_open()
1281          */
1282 void mdb_cursor_close(MDB_cursor *cursor);
1283
1284         /** @brief Renew a cursor handle.
1285          *
1286          * A cursor is associated with a specific transaction and database.
1287          * Cursors that are only used in read-only
1288          * transactions may be re-used, to avoid unnecessary malloc/free overhead.
1289          * The cursor may be associated with a new read-only transaction, and
1290          * referencing the same database handle as it was created with.
1291          * This may be done whether the previous transaction is live or dead.
1292          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1293          * @param[in] cursor A cursor handle returned by #mdb_cursor_open()
1294          * @return A non-zero error value on failure and 0 on success. Some possible
1295          * errors are:
1296          * <ul>
1297          *      <li>EINVAL - an invalid parameter was specified.
1298          * </ul>
1299          */
1300 int  mdb_cursor_renew(MDB_txn *txn, MDB_cursor *cursor);
1301
1302         /** @brief Return the cursor's transaction handle.
1303          *
1304          * @param[in] cursor A cursor handle returned by #mdb_cursor_open()
1305          */
1306 MDB_txn *mdb_cursor_txn(MDB_cursor *cursor);
1307
1308         /** @brief Return the cursor's database handle.
1309          *
1310          * @param[in] cursor A cursor handle returned by #mdb_cursor_open()
1311          */
1312 MDB_dbi mdb_cursor_dbi(MDB_cursor *cursor);
1313
1314         /** @brief Retrieve by cursor.
1315          *
1316          * This function retrieves key/data pairs from the database. The address and length
1317          * of the key are returned in the object to which \b key refers (except for the
1318          * case of the #MDB_SET option, in which the \b key object is unchanged), and
1319          * the address and length of the data are returned in the object to which \b data
1320          * refers.
1321          * See #mdb_get() for restrictions on using the output values.
1322          * @param[in] cursor A cursor handle returned by #mdb_cursor_open()
1323          * @param[in,out] key The key for a retrieved item
1324          * @param[in,out] data The data of a retrieved item
1325          * @param[in] op A cursor operation #MDB_cursor_op
1326          * @return A non-zero error value on failure and 0 on success. Some possible
1327          * errors are:
1328          * <ul>
1329          *      <li>#MDB_NOTFOUND - no matching key found.
1330          *      <li>EINVAL - an invalid parameter was specified.
1331          * </ul>
1332          */
1333 int  mdb_cursor_get(MDB_cursor *cursor, MDB_val *key, MDB_val *data,
1334                             MDB_cursor_op op);
1335
1336         /** @brief Store by cursor.
1337          *
1338          * This function stores key/data pairs into the database.
1339          * The cursor is positioned at the new item, or on failure usually near it.
1340          * @note Earlier documentation incorrectly said errors would leave the
1341          * state of the cursor unchanged.
1342          * @param[in] cursor A cursor handle returned by #mdb_cursor_open()
1343          * @param[in] key The key operated on.
1344          * @param[in] data The data operated on.
1345          * @param[in] flags Options for this operation. This parameter
1346          * must be set to 0 or one of the values described here.
1347          * <ul>
1348          *      <li>#MDB_CURRENT - overwrite the data of the key/data pair to which
1349          *              the cursor refers with the specified data item. The \b key
1350          *              parameter is not used for positioning the cursor, but should
1351          *              still be provided. If using sorted duplicates (#MDB_DUPSORT)
1352          *              the data item must still sort into the same place.
1353          *      <li>#MDB_NODUPDATA - enter the new key/data pair only if it does not
1354          *              already appear in the database. This flag may only be specified
1355          *              if the database was opened with #MDB_DUPSORT. The function will
1356          *              return #MDB_KEYEXIST if the key/data pair already appears in the
1357          *              database.
1358          *      <li>#MDB_NOOVERWRITE - enter the new key/data pair only if the key
1359          *              does not already appear in the database. The function will return
1360          *              #MDB_KEYEXIST if the key already appears in the database, even if
1361          *              the database supports duplicates (#MDB_DUPSORT).
1362          *      <li>#MDB_RESERVE - reserve space for data of the given size, but
1363          *              don't copy the given data. Instead, return a pointer to the
1364          *              reserved space, which the caller can fill in later. This saves
1365          *              an extra memcpy if the data is being generated later.
1366          *      <li>#MDB_APPEND - append the given key/data pair to the end of the
1367          *              database. No key comparisons are performed. This option allows
1368          *              fast bulk loading when keys are already known to be in the
1369          *              correct order. Loading unsorted keys with this flag will cause
1370          *              data corruption.
1371          *      <li>#MDB_APPENDDUP - as above, but for sorted dup data.
1372          *      <li>#MDB_MULTIPLE - store multiple contiguous data elements in a
1373          *              single request. This flag may only be specified if the database
1374          *              was opened with #MDB_DUPFIXED. The \b data argument must be an
1375          *              array of two MDB_vals. The mv_size of the first MDB_val must be
1376          *              the size of a single data element. The mv_data of the first MDB_val
1377          *              must point to the beginning of the array of contiguous data elements.
1378          *              The mv_size of the second MDB_val must be the count of the number
1379          *              of data elements to store. On return this field will be set to
1380          *              the count of the number of elements actually written. The mv_data
1381          *              of the second MDB_val is unused.
1382          * </ul>
1383          * @return A non-zero error value on failure and 0 on success. Some possible
1384          * errors are:
1385          * <ul>
1386          *      <li>#MDB_MAP_FULL - the database is full, see #mdb_env_set_mapsize().
1387          *      <li>#MDB_TXN_FULL - the transaction has too many dirty pages.
1388          *      <li>EACCES - an attempt was made to modify a read-only database.
1389          *      <li>EINVAL - an invalid parameter was specified.
1390          * </ul>
1391          */
1392 int  mdb_cursor_put(MDB_cursor *cursor, MDB_val *key, MDB_val *data,
1393                                 unsigned int flags);
1394
1395         /** @brief Delete current key/data pair
1396          *
1397          * This function deletes the key/data pair to which the cursor refers.
1398          * @param[in] cursor A cursor handle returned by #mdb_cursor_open()
1399          * @param[in] flags Options for this operation. This parameter
1400          * must be set to 0 or one of the values described here.
1401          * <ul>
1402          *      <li>#MDB_NODUPDATA - delete all of the data items for the current key.
1403          *              This flag may only be specified if the database was opened with #MDB_DUPSORT.
1404          * </ul>
1405          * @return A non-zero error value on failure and 0 on success. Some possible
1406          * errors are:
1407          * <ul>
1408          *      <li>EACCES - an attempt was made to modify a read-only database.
1409          *      <li>EINVAL - an invalid parameter was specified.
1410          * </ul>
1411          */
1412 int  mdb_cursor_del(MDB_cursor *cursor, unsigned int flags);
1413
1414         /** @brief Return count of duplicates for current key.
1415          *
1416          * This call is only valid on databases that support sorted duplicate
1417          * data items #MDB_DUPSORT.
1418          * @param[in] cursor A cursor handle returned by #mdb_cursor_open()
1419          * @param[out] countp Address where the count will be stored
1420          * @return A non-zero error value on failure and 0 on success. Some possible
1421          * errors are:
1422          * <ul>
1423          *      <li>EINVAL - cursor is not initialized, or an invalid parameter was specified.
1424          * </ul>
1425          */
1426 int  mdb_cursor_count(MDB_cursor *cursor, size_t *countp);
1427
1428         /** @brief Compare two data items according to a particular database.
1429          *
1430          * This returns a comparison as if the two data items were keys in the
1431          * specified database.
1432          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1433          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1434          * @param[in] a The first item to compare
1435          * @param[in] b The second item to compare
1436          * @return < 0 if a < b, 0 if a == b, > 0 if a > b
1437          */
1438 int  mdb_cmp(MDB_txn *txn, MDB_dbi dbi, const MDB_val *a, const MDB_val *b);
1439
1440         /** @brief Compare two data items according to a particular database.
1441          *
1442          * This returns a comparison as if the two items were data items of
1443          * the specified database. The database must have the #MDB_DUPSORT flag.
1444          * @param[in] txn A transaction handle returned by #mdb_txn_begin()
1445          * @param[in] dbi A database handle returned by #mdb_dbi_open()
1446          * @param[in] a The first item to compare
1447          * @param[in] b The second item to compare
1448          * @return < 0 if a < b, 0 if a == b, > 0 if a > b
1449          */
1450 int  mdb_dcmp(MDB_txn *txn, MDB_dbi dbi, const MDB_val *a, const MDB_val *b);
1451
1452         /** @brief A callback function used to print a message from the library.
1453          *
1454          * @param[in] msg The string to be printed.
1455          * @param[in] ctx An arbitrary context pointer for the callback.
1456          * @return < 0 on failure, >= 0 on success.
1457          */
1458 typedef int (MDB_msg_func)(const char *msg, void *ctx);
1459
1460         /** @brief Dump the entries in the reader lock table.
1461          *
1462          * @param[in] env An environment handle returned by #mdb_env_create()
1463          * @param[in] func A #MDB_msg_func function
1464          * @param[in] ctx Anything the message function needs
1465          * @return < 0 on failure, >= 0 on success.
1466          */
1467 int     mdb_reader_list(MDB_env *env, MDB_msg_func *func, void *ctx);
1468
1469         /** @brief Check for stale entries in the reader lock table.
1470          *
1471          * @param[in] env An environment handle returned by #mdb_env_create()
1472          * @param[out] dead Number of stale slots that were cleared
1473          * @return 0 on success, non-zero on failure.
1474          */
1475 int     mdb_reader_check(MDB_env *env, int *dead);
1476 /**     @} */
1477
1478 #ifdef __cplusplus
1479 }
1480 #endif
1481 #endif /* _LMDB_H_ */