]> git.sur5r.net Git - bacula/bacula/blobdiff - bacula/src/cats/sqlite.c
Split messages line by line before sending it to syslog() fix #3325
[bacula/bacula] / bacula / src / cats / sqlite.c
index bbe0d09f1050ddf42dc77fefde77d687fe8da400..a859777ff755c028125a695b54feea19a698366a 100644 (file)
@@ -1,39 +1,46 @@
 /*
- * Bacula Catalog Database routines specific to SQLite
- *
- *    Kern Sibbald, January 2002
- */
+   Bacula® - The Network Backup Solution
 
-/*
-   Copyright (C) 2002 Kern Sibbald and John Walker
+   Copyright (C) 2000-2011 Free Software Foundation Europe e.V.
 
-   This program is free software; you can redistribute it and/or
-   modify it under the terms of the GNU General Public License as
-   published by the Free Software Foundation; either version 2 of
-   the License, or (at your option) any later version.
+   The main author of Bacula is Kern Sibbald, with contributions from
+   many others, a complete list can be found in the file AUTHORS.
+   This program is Free Software; you can redistribute it and/or
+   modify it under the terms of version three of the GNU Affero General Public
+   License as published by the Free Software Foundation and included
+   in the file LICENSE.
 
-   This program is distributed in the hope that it will be useful,
-   but WITHOUT ANY WARRANTY; without even the implied warranty of
+   This program is distributed in the hope that it will be useful, but
+   WITHOUT ANY WARRANTY; without even the implied warranty of
    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
    General Public License for more details.
 
-   You should have received a copy of the GNU General Public
-   License along with this program; if not, write to the Free
-   Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
-   MA 02111-1307, USA.
+   You should have received a copy of the GNU Affero General Public License
+   along with this program; if not, write to the Free Software
+   Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
+   02110-1301, USA.
 
+   Bacula® is a registered trademark of Kern Sibbald.
+   The licensor of Bacula is the Free Software Foundation Europe
+   (FSFE), Fiduciary Program, Sumatrastrasse 25, 8006 Zürich,
+   Switzerland, email:ftf@fsfeurope.org.
+*/
+/*
+ * Bacula Catalog Database routines specific to SQLite
+ *
+ *    Kern Sibbald, January 2002
+ *
+ * Major rewrite by Marco van Wieringen, January 2010 for catalog refactoring.
  */
 
+#include "bacula.h"
 
-/* The following is necessary so that we do not include
- * the dummy external definition of DB.
- */
-#define __SQL_C                      /* indicate that this is sql.c */
+#if HAVE_SQLITE3
 
-#include "bacula.h"
 #include "cats.h"
-
-#ifdef HAVE_SQLITE
+#include "bdb_priv.h"
+#include <sqlite3.h>
+#include "bdb_sqlite.h"
 
 /* -----------------------------------------------------------------------
  *
  * -----------------------------------------------------------------------
  */
 
-extern char *working_directory;
-
-/* List of open databases */
-static BQUEUE db_list = {&db_list, &db_list};
+/*
+ * List of open databases
+ */
+static dlist *db_list = NULL;
 
 static pthread_mutex_t mutex = PTHREAD_MUTEX_INITIALIZER;
 
-int QueryDB(char *file, int line, B_DB *db, char *select_cmd);
-
-
 /*
- * Initialize database data structure. In principal this should
- * never have errors, or it is really fatal.
+ * When using mult_db_connections = true, 
+ * sqlite can be BUSY. We just need sleep a little in this case.
  */
-B_DB *
-db_init_database(char *db_name, char *db_user, char *db_password)
+static int sqlite_busy_handler(void *arg, int calls)
 {
-   B_DB *mdb;
-
-   P(mutex);                         /* lock DB queue */
-   /* Look to see if DB already open */
-   for (mdb=NULL; (mdb=(B_DB *)qnext(&db_list, &mdb->bq)); ) {
-      if (strcmp(mdb->db_name, db_name) == 0) {
-         Dmsg2(100, "DB REopen %d %s\n", mdb->ref_count, db_name);
-        mdb->ref_count++;
-        V(mutex);
-        return mdb;                  /* already open */
-      }
+   bmicrosleep(0, 500);
+   return 1;
+}
+
+B_DB_SQLITE::B_DB_SQLITE(JCR *jcr,
+                         const char *db_driver,
+                         const char *db_name,
+                         const char *db_user,
+                         const char *db_password,
+                         const char *db_address,
+                         int db_port,
+                         const char *db_socket,
+                         bool mult_db_connections,
+                         bool disable_batch_insert)
+{
+   /*
+    * Initialize the parent class members.
+    */
+   m_db_interface_type = SQL_INTERFACE_TYPE_SQLITE3;
+   m_db_type = SQL_TYPE_SQLITE3;
+   m_db_driver = bstrdup("SQLite3");
+   m_db_name = bstrdup(db_name);
+   if (disable_batch_insert) {
+      m_disabled_batch_insert = true;
+      m_have_batch_insert = false;
+   } else {
+      m_disabled_batch_insert = false;
+#if defined(USE_BATCH_FILE_INSERT)
+#if defined(HAVE_SQLITE3_THREADSAFE)
+      m_have_batch_insert = sqlite3_threadsafe();
+#else
+      m_have_batch_insert = false;
+#endif /* HAVE_SQLITE3_THREADSAFE */
+#else
+      m_have_batch_insert = false;
+#endif /* USE_BATCH_FILE_INSERT */
    }
-   Dmsg0(100, "db_open first time\n");
-   mdb = (B_DB *) malloc(sizeof(B_DB));
-   memset(mdb, 0, sizeof(B_DB));
-   mdb->db_name = bstrdup(db_name);
-   mdb->have_insert_id = TRUE; 
-   mdb->errmsg = (char *) get_pool_memory(PM_EMSG); /* get error message buffer */
-   *mdb->errmsg = 0;
-   mdb->cmd = (char *) get_pool_memory(PM_EMSG);    /* get command buffer */
-   mdb->ref_count = 1;
-   qinsert(&db_list, &mdb->bq);           /* put db in list */
-   V(mutex);
-   return mdb;
+   errmsg = get_pool_memory(PM_EMSG); /* get error message buffer */
+   *errmsg = 0;
+   cmd = get_pool_memory(PM_EMSG);    /* get command buffer */
+   cached_path = get_pool_memory(PM_FNAME);
+   cached_path_id = 0;
+   m_ref_count = 1;
+   fname = get_pool_memory(PM_FNAME);
+   path = get_pool_memory(PM_FNAME);
+   esc_name = get_pool_memory(PM_FNAME);
+   esc_path = get_pool_memory(PM_FNAME);
+   esc_obj  = get_pool_memory(PM_FNAME);
+   m_allow_transactions = mult_db_connections;
+
+   /*
+    * Initialize the private members.
+    */
+   m_db_handle = NULL;
+   m_result = NULL;
+   m_sqlite_errmsg = NULL;
+
+   /*
+    * Put the db in the list.
+    */
+   if (db_list == NULL) {
+      db_list = New(dlist(this, &this->m_link));
+   }
+   db_list->append(this);
+}
+
+B_DB_SQLITE::~B_DB_SQLITE()
+{
 }
 
 /*
  * Now actually open the database.  This can generate errors,
  * which are returned in the errmsg
+ *
+ * DO NOT close the database or delete mdb here !!!!
  */
-int
-db_open_database(B_DB *mdb)
+bool B_DB_SQLITE::db_open_database(JCR *jcr)
 {
-   char *db_name;
+   bool retval = false;
+   char *db_path;
    int len;
    struct stat statbuf;
+   int ret;
+   int errstat;
+   int retry = 0;
 
    P(mutex);
-   if (mdb->connected) {
-      V(mutex);
-      return 1;
-   }
-   mdb->connected = FALSE;
-   if (pthread_mutex_init(&mdb->mutex, NULL) != 0) {
-      Mmsg1(&mdb->errmsg, _("Unable to initialize DB mutex. ERR=%s\n"), strerror(errno));
-      V(mutex);
-      return 0;
+   if (m_connected) {
+      retval = true;
+      goto bail_out;
    }
 
-   /* open the database */
-   len = strlen(working_directory) + strlen(mdb->db_name) + 5; 
-   db_name = (char *)malloc(len);
-   strcpy(db_name, working_directory);
-   strcat(db_name, "/");
-   strcat(db_name, mdb->db_name);
-   strcat(db_name, ".db");
-   if (stat(db_name, &statbuf) != 0) {
-      Mmsg1(&mdb->errmsg, _("Database %s does not exist, please create it.\n"), 
-        db_name);
-      free(db_name);
-      V(mutex);
-      return 0;
+   if ((errstat=rwl_init(&m_lock)) != 0) {
+      berrno be;
+      Mmsg1(&errmsg, _("Unable to initialize DB lock. ERR=%s\n"),
+            be.bstrerror(errstat));
+      goto bail_out;
    }
-   mdb->db = sqlite_open(
-       db_name,                      /* database name */
-       644,                          /* mode */
-       &mdb->sqlite_errmsg);         /* error message */
-
-   Dmsg0(50, "sqlite_open\n");
-  
-   if (mdb->db == NULL) {
-      Mmsg2(&mdb->errmsg, _("Unable to open Database=%s. ERR=%s\n"),
-         db_name, mdb->sqlite_errmsg ? mdb->sqlite_errmsg : _("unknown"));
-      free(db_name);
-      V(mutex);
-      return 0;
+
+   /*
+    * Open the database
+    */
+   len = strlen(working_directory) + strlen(m_db_name) + 5;
+   db_path = (char *)malloc(len);
+   strcpy(db_path, working_directory);
+   strcat(db_path, "/");
+   strcat(db_path, m_db_name);
+   strcat(db_path, ".db");
+   if (stat(db_path, &statbuf) != 0) {
+      Mmsg1(&errmsg, _("Database %s does not exist, please create it.\n"),
+         db_path);
+      free(db_path);
+      goto bail_out;
    }
-   free(db_name);
-   if (!check_tables_version(mdb)) {
-      V(mutex);
-      return 0;
+
+   for (m_db_handle = NULL; !m_db_handle && retry++ < 10; ) {
+      ret = sqlite3_open(db_path, &m_db_handle);
+      if (ret != SQLITE_OK) {
+         m_sqlite_errmsg = (char *)sqlite3_errmsg(m_db_handle); 
+         sqlite3_close(m_db_handle);
+         m_db_handle = NULL;
+      } else {
+         m_sqlite_errmsg = NULL;
+      }
+
+      Dmsg0(300, "sqlite_open\n");
+      if (!m_db_handle) {
+         bmicrosleep(1, 0);
+      }
+   }
+   if (m_db_handle == NULL) {
+      Mmsg2(&errmsg, _("Unable to open Database=%s. ERR=%s\n"),
+         db_path, m_sqlite_errmsg ? m_sqlite_errmsg : _("unknown"));
+      free(db_path);
+      goto bail_out;
+   }       
+   m_connected = true;
+   free(db_path);
+
+   /*
+    * Set busy handler to wait when we use mult_db_connections = true
+    */
+   sqlite3_busy_handler(m_db_handle, sqlite_busy_handler, NULL);
+
+#if defined(SQLITE3_INIT_QUERY)
+   sql_query(SQLITE3_INIT_QUERY);
+#endif
+
+   if (!check_tables_version(jcr, this)) {
+      goto bail_out;
    }
 
-   mdb->connected = TRUE;
+   retval = true;
+
+bail_out:
    V(mutex);
-   return 1;
+   return retval;
 }
 
-void
-db_close_database(B_DB *mdb)
+void B_DB_SQLITE::db_close_database(JCR *jcr)
 {
+   db_end_transaction(jcr);
    P(mutex);
-   mdb->ref_count--;
-   if (mdb->ref_count == 0) {
-      qdchain(&mdb->bq);
-      if (mdb->connected && mdb->db) {
-        sqlite_close(mdb->db);
+   m_ref_count--;
+   if (m_ref_count == 0) {
+      sql_free_result();
+      db_list->remove(this);
+      if (m_connected && m_db_handle) {
+         sqlite3_close(m_db_handle);
       }
-      pthread_mutex_destroy(&mdb->mutex);
-      free_pool_memory(mdb->errmsg);
-      free_pool_memory(mdb->cmd);
-      if (mdb->db_name) {
-        free(mdb->db_name);
+      rwl_destroy(&m_lock);
+      free_pool_memory(errmsg);
+      free_pool_memory(cmd);
+      free_pool_memory(cached_path);
+      free_pool_memory(fname);
+      free_pool_memory(path);
+      free_pool_memory(esc_name);
+      free_pool_memory(esc_path);
+      free_pool_memory(esc_obj);
+      if (m_db_driver) {
+         free(m_db_driver);
+      }
+      if (m_db_name) {
+         free(m_db_name);
+      }
+      delete this;
+      if (db_list->size() == 0) {
+         delete db_list;
+         db_list = NULL;
       }
-      free(mdb);
    }
    V(mutex);
 }
 
-/*
- * Return the next unique index (auto-increment) for
- * the given table.  Return NULL on error.
- */
-char *db_next_index(B_DB *mdb, char *table)
+void B_DB_SQLITE::db_thread_cleanup(void)
 {
-   SQL_ROW row;
-   static char id[20];
-
-   QUERY_DB(mdb, "BEGIN TRANSACTION");
-   sql_free_result(mdb);
-
-   Mmsg(&mdb->cmd,
-"SELECT id FROM NextId WHERE TableName=\"%s\"", table);
-   if (!QUERY_DB(mdb, mdb->cmd)) {
-      Mmsg(&mdb->errmsg, _("next_index query error: ERR=%s\n"), sql_strerror(mdb));
-      QUERY_DB(mdb, "ROLLBACK");
-      return NULL;
-   }
-   if ((row = sql_fetch_row(mdb)) == NULL) {
-      Mmsg(&mdb->errmsg, _("Error fetching index: ERR=%s\n"), sql_strerror(mdb));
-      QUERY_DB(mdb, "ROLLBACK");
-      return NULL;
-   }
-   strncpy(id, row[0], sizeof(id));
-   id[sizeof(id)-1] = 0;
-   sql_free_result(mdb);
-
-   Mmsg(&mdb->cmd,
-"UPDATE NextId SET id=id+1 WHERE TableName=\"%s\"", table);
-   if (!QUERY_DB(mdb, mdb->cmd)) {
-      Mmsg(&mdb->errmsg, _("next_index update error: ERR=%s\n"), sql_strerror(mdb));
-      QUERY_DB(mdb, "ROLLBACK");
-      return NULL;
-   }
-   sql_free_result(mdb);
-
-   QUERY_DB(mdb, "COMMIT");
-   sql_free_result(mdb);
-   return id;
-}   
-
-
+   sqlite3_thread_cleanup();
+}
 
-void
-db_escape_string(char *snew, char *old, int len)
+/*
+ * Escape strings so that SQLite is happy
+ *
+ *   NOTE! len is the length of the old string. Your new
+ *         string must be long enough (max 2*old+1) to hold
+ *         the escaped output.
+ */
+void B_DB_SQLITE::db_escape_string(JCR *jcr, char *snew, char *old, int len)
 {
    char *n, *o;
 
@@ -222,229 +277,461 @@ db_escape_string(char *snew, char *old, int len)
    while (len--) {
       switch (*o) {
       case '\'':
-         *n++ = '\\';
          *n++ = '\'';
-        o++;
-        break;
-      case '"':
-         *n++ = '\\';
-         *n++ = '"';
-        o++;
-        break;
+         *n++ = '\'';
+         o++;
+         break;
       case 0:
          *n++ = '\\';
-        *n++ = 0;
-        o++;
-        break;
+         *n++ = 0;
+         o++;
+         break;
       default:
-        *n++ = *o++;
-        break;
+         *n++ = *o++;
+         break;
       }
    }
    *n = 0;
 }
 
+/*
+ * Escape binary object so that SQLite is happy
+ * Memory is stored in B_DB struct, no need to free it
+ *
+ * TODO: this should be implemented  (escape \0)
+ */
+char *B_DB_SQLITE::db_escape_object(JCR *jcr, char *old, int len)
+{
+   int l;
+   int max = len*2;           /* TODO: too big, should be *4/3 */
+
+   esc_obj = check_pool_memory_size(esc_obj, max);
+   l = bin_to_base64(esc_obj, max, old, len, true);
+   esc_obj[l] = 0;
+   ASSERT(l < max);    /* TODO: add check for l */
+
+   return esc_obj;
+}
+
+/*
+ * Unescape binary object so that SQLIte is happy
+ *
+ * TODO: need to be implemented (escape \0)
+ */
+
+void B_DB_SQLITE::db_unescape_object(JCR *jcr, char *from, int32_t expected_len,
+                                     POOLMEM **dest, int32_t *dest_len)
+{
+   if (!from) {
+      *dest[0] = 0;
+      *dest_len = 0;
+      return;
+   }
+   *dest = check_pool_memory_size(*dest, expected_len+1);
+   base64_to_bin(*dest, expected_len+1, from, strlen(from));
+   *dest_len = expected_len;
+   (*dest)[expected_len]=0;
+}
+
+/*
+ * Start a transaction. This groups inserts and makes things
+ * much more efficient. Usually started when inserting
+ * file attributes.
+ */
+void B_DB_SQLITE::db_start_transaction(JCR *jcr)
+{
+   if (!jcr->attr) {
+      jcr->attr = get_pool_memory(PM_FNAME);
+   }
+   if (!jcr->ar) {
+      jcr->ar = (ATTR_DBR *)malloc(sizeof(ATTR_DBR));
+   }
+
+   if (!m_allow_transactions) {
+      return;
+   }
+
+   db_lock(this);
+   /*
+    * Allow only 10,000 changes per transaction
+    */
+   if (m_transaction && changes > 10000) {
+      db_end_transaction(jcr);
+   }
+   if (!m_transaction) {
+      sql_query("BEGIN");  /* begin transaction */
+      Dmsg0(400, "Start SQLite transaction\n");
+      m_transaction = true;
+   }
+   db_unlock(this);
+}
+
+void B_DB_SQLITE::db_end_transaction(JCR *jcr)
+{
+   if (jcr && jcr->cached_attribute) {
+      Dmsg0(400, "Flush last cached attribute.\n");
+      if (!db_create_attributes_record(jcr, this, jcr->ar)) {
+         Jmsg1(jcr, M_FATAL, 0, _("Attribute create error. %s"), db_strerror(jcr->db));
+      }
+      jcr->cached_attribute = false;
+   }
+
+   if (!m_allow_transactions) {
+      return;
+   }
+
+   db_lock(this);
+   if (m_transaction) {
+      sql_query("COMMIT"); /* end transaction */
+      m_transaction = false;
+      Dmsg1(400, "End SQLite transaction changes=%d\n", changes);
+   }
+   changes = 0;
+   db_unlock(this);
+}
+
 struct rh_data {
+   B_DB_SQLITE *mdb;
    DB_RESULT_HANDLER *result_handler;
    void *ctx;
+   bool initialized;
 };
 
-/*  
- * Convert SQLite's callback into Bacula DB callback  
+/*
+ * Convert SQLite's callback into Bacula DB callback
  */
-static int sqlite_result(void *arh_data, int num_fields, char **rows, char **col_names)
+static int sqlite_result_handler(void *arh_data, int num_fields, char **rows, char **col_names)
 {
-   struct rh_data *rh_data = (struct rh_data *)arh_data;   
-
+   struct rh_data *rh_data = (struct rh_data *)arh_data;
+
+   /* The db_sql_query doesn't have access to m_results, so if we wan't to get
+    * fields information, we need to use col_names
+    */
+   if (!rh_data->initialized) {
+      rh_data->mdb->set_column_names(col_names, num_fields);
+      rh_data->initialized = true;
+   }
    if (rh_data->result_handler) {
       (*(rh_data->result_handler))(rh_data->ctx, num_fields, rows);
    }
+   
    return 0;
 }
 
 /*
  * Submit a general SQL command (cmd), and for each row returned,
- *  the sqlite_handler is called with the ctx.
+ *  the result_handler is called with the ctx.
  */
-int db_sql_query(B_DB *mdb, char *query, DB_RESULT_HANDLER *result_handler, void *ctx)
+bool B_DB_SQLITE::db_sql_query(const char *query, DB_RESULT_HANDLER *result_handler, void *ctx)
 {
-   struct rh_data rh_data;
+   bool retval = false;
    int stat;
+   struct rh_data rh_data;
 
-   P(mdb->mutex);
-   if (mdb->sqlite_errmsg) {
-      actuallyfree(mdb->sqlite_errmsg);
-      mdb->sqlite_errmsg = NULL;
+   Dmsg1(500, "db_sql_query starts with '%s'\n", query);
+
+   db_lock(this);
+   if (m_sqlite_errmsg) {
+      sqlite3_free(m_sqlite_errmsg);
+      m_sqlite_errmsg = NULL;
    }
-   rh_data.result_handler = result_handler;
+   sql_free_result();
+
    rh_data.ctx = ctx;
-   stat = sqlite_exec(mdb->db, query, sqlite_result, (void *)&rh_data, &mdb->sqlite_errmsg);
-   if (stat != 0) {
-      Mmsg(&mdb->errmsg, _("Query failed: %s: ERR=%s\n"), query, sql_strerror(mdb));
-      V(mdb->mutex);
-      return 0;
+   rh_data.mdb = this;
+   rh_data.initialized = false;
+   rh_data.result_handler = result_handler;
+
+   stat = sqlite3_exec(m_db_handle, query, sqlite_result_handler,
+                       (void *)&rh_data, &m_sqlite_errmsg);
+   
+   if (stat != SQLITE_OK) {
+      Mmsg(errmsg, _("Query failed: %s: ERR=%s\n"), query, sql_strerror());
+      Dmsg0(500, "db_sql_query finished\n");
+      goto bail_out;
    }
-   V(mdb->mutex);
-   return 1;
+   Dmsg0(500, "db_sql_query finished\n");
+   sql_free_result();
+   retval = true;
+
+bail_out:
+   db_unlock(this);
+   return retval;
 }
 
 /*
  * Submit a sqlite query and retrieve all the data
  */
-int my_sqlite_query(B_DB *mdb, char *cmd) 
+bool B_DB_SQLITE::sql_query(const char *query, int flags)
 {
    int stat;
+   bool retval = false;
+
+   Dmsg1(500, "sql_query starts with '%s'\n", query);
+
+   sql_free_result();
+   if (m_sqlite_errmsg) {
+      sqlite3_free(m_sqlite_errmsg);
+      m_sqlite_errmsg = NULL;
+   }
 
-   if (mdb->sqlite_errmsg) {
-      actuallyfree(mdb->sqlite_errmsg);
-      mdb->sqlite_errmsg = NULL;
+   stat = sqlite3_get_table(m_db_handle, (char *)query, &m_result,
+                            &m_num_rows, &m_num_fields, &m_sqlite_errmsg);
+
+   m_row_number = 0;               /* no row fetched */
+   if (stat != 0) {                   /* something went wrong */
+      m_num_rows = m_num_fields = 0;
+      Dmsg0(500, "sql_query finished\n");
+   } else {
+      Dmsg0(500, "sql_query finished\n");
+      retval = true;
    }
-   stat = sqlite_get_table(mdb->db, cmd, &mdb->result, &mdb->nrow, &mdb->ncolumn,
-           &mdb->sqlite_errmsg);
-   mdb->row = 0;                     /* row fetched */
-   return stat;
+   return retval;
 }
 
-/* Fetch one row at a time */
-SQL_ROW my_sqlite_fetch_row(B_DB *mdb)
+void B_DB_SQLITE::sql_free_result(void)
 {
-   if (mdb->row >= mdb->nrow) {
+   db_lock(this);
+   if (m_fields) {
+      free(m_fields);
+      m_fields = NULL;
+   }
+   if (m_result) {
+      sqlite3_free_table(m_result);
+      m_result = NULL;
+   }
+   m_col_names = NULL;
+   m_num_rows = m_num_fields = 0;
+   db_unlock(this);
+}
+
+/*
+ * Fetch one row at a time
+ */
+SQL_ROW B_DB_SQLITE::sql_fetch_row(void)
+{
+   if (!m_result || (m_row_number >= m_num_rows)) {
       return NULL;
    }
-   mdb->row++;
-   return &mdb->result[mdb->ncolumn * mdb->row];
+   m_row_number++;
+   return &m_result[m_num_fields * m_row_number];
 }
 
-void my_sqlite_free_table(B_DB *mdb)
+const char *B_DB_SQLITE::sql_strerror(void)
 {
-   unsigned int i;
+   return m_sqlite_errmsg ? m_sqlite_errmsg : "unknown";
+}
 
-   if (mdb->fields_defined) {
-      for (i=0; i < sql_num_fields(mdb); i++) {
-        free(mdb->fields[i]);
-      }
-      free(mdb->fields);
-      mdb->fields_defined = FALSE;
+void B_DB_SQLITE::sql_data_seek(int row)
+{
+   /*
+    * Set the row number to be returned on the next call to sql_fetch_row
+    */
+   m_row_number = row;
+}
+
+int B_DB_SQLITE::sql_affected_rows(void)
+{
+   return sqlite3_changes(m_db_handle);
+}
+
+uint64_t B_DB_SQLITE::sql_insert_autokey_record(const char *query, const char *table_name)
+{
+   /*
+    * First execute the insert query and then retrieve the currval.
+    */
+   if (!sql_query(query)) {
+      return 0;
+   }
+
+   m_num_rows = sql_affected_rows();
+   if (m_num_rows != 1) {
+      return 0;
    }
-   sqlite_free_table(mdb->result);
-   mdb->nrow = mdb->ncolumn = 0; 
+
+   changes++;
+
+   return sqlite3_last_insert_rowid(m_db_handle);
 }
 
-void my_sqlite_field_seek(B_DB *mdb, int field)
+SQL_FIELD *B_DB_SQLITE::sql_fetch_field(void)
 {
-   unsigned int i, j;
-   if (mdb->result == NULL) {
-      return;
+   int i, j, len;
+
+   /* We are in the middle of a db_sql_query and we want to get fields info */
+   if (m_col_names != NULL) {
+      if (m_num_fields > m_field_number) {
+         m_sql_field.name = m_col_names[m_field_number];
+         /* We don't have the maximum field length, so we can use 80 as
+          * estimation.
+          */
+         len = MAX(cstrlen(m_sql_field.name), 80/m_num_fields);
+         m_sql_field.max_length = len;
+
+         m_field_number++;
+         m_sql_field.type = 0;  /* not numeric */
+         m_sql_field.flags = 1; /* not null */
+         return &m_sql_field;
+      } else {                  /* too much fetch_field() */
+         return NULL;
+      }
    }
-   /* On first call, set up the fields */
-   if (!mdb->fields_defined && sql_num_fields(mdb) > 0) {
-      mdb->fields = (SQL_FIELD **)malloc(sizeof(SQL_FIELD) * mdb->ncolumn);
-      for (i=0; i < sql_num_fields(mdb); i++) {
-        mdb->fields[i] = (SQL_FIELD *)malloc(sizeof(SQL_FIELD));
-        mdb->fields[i]->name = mdb->result[i];
-        mdb->fields[i]->length = strlen(mdb->fields[i]->name);
-        mdb->fields[i]->max_length = mdb->fields[i]->length;
-        for (j=1; j <= (unsigned)mdb->nrow; j++) {
-           uint32_t len;
-           if (mdb->result[i + mdb->ncolumn *j]) {
-              len = (uint32_t)strlen(mdb->result[i + mdb->ncolumn * j]);
-           } else {
-              len = 0;
-           }
-           if (len > mdb->fields[i]->max_length) {
-              mdb->fields[i]->max_length = len;
-           }
-        }
-        mdb->fields[i]->type = 0;
-        mdb->fields[i]->flags = 1;        /* not null */
+
+   /* We are after a sql_query() that stores the result in m_results */
+   if (!m_fields || m_fields_size < m_num_fields) {
+      if (m_fields) {
+         free(m_fields);
+         m_fields = NULL;
+      }
+      Dmsg1(500, "allocating space for %d fields\n", m_num_fields);
+      m_fields = (SQL_FIELD *)malloc(sizeof(SQL_FIELD) * m_num_fields);
+      m_fields_size = m_num_fields;
+
+      for (i = 0; i < m_num_fields; i++) {
+         Dmsg1(500, "filling field %d\n", i);
+         m_fields[i].name = m_result[i];
+         m_fields[i].max_length = cstrlen(m_fields[i].name);
+         for (j = 1; j <= m_num_rows; j++) {
+            if (m_result[i + m_num_fields * j]) {
+               len = (uint32_t)cstrlen(m_result[i + m_num_fields * j]);
+            } else {
+               len = 0;
+            }
+            if (len > m_fields[i].max_length) {
+               m_fields[i].max_length = len;
+            }
+         }
+         m_fields[i].type = 0;
+         m_fields[i].flags = 1;        /* not null */
+
+         Dmsg4(500, "sql_fetch_field finds field '%s' has length='%d' type='%d' and IsNull=%d\n",
+               m_fields[i].name, m_fields[i].max_length, m_fields[i].type, m_fields[i].flags);
       }
-      mdb->fields_defined = TRUE;
    }
-   if (field > (int)sql_num_fields(mdb)) {
-      field = (int)sql_num_fields(mdb);
-    }
-    mdb->field = field;
 
+   /*
+    * Increment field number for the next time around
+    */
+   return &m_fields[m_field_number++];
 }
 
-SQL_FIELD *my_sqlite_fetch_field(B_DB *mdb)
+bool B_DB_SQLITE::sql_field_is_not_null(int field_type)
 {
-   return mdb->fields[mdb->field++];
+   switch (field_type) {
+   case 1:
+      return true;
+   default:
+      return false;
+   }
 }
 
-static void
-list_dashes(B_DB *mdb, DB_LIST_HANDLER *send, void *ctx)
+bool B_DB_SQLITE::sql_field_is_numeric(int field_type)
 {
-   SQL_FIELD *field;
-   unsigned int i, j;
-
-   sql_field_seek(mdb, 0);
-   send(ctx, "+");
-   for (i = 0; i < sql_num_fields(mdb); i++) {
-      field = sql_fetch_field(mdb);
-      for (j = 0; j < field->max_length + 2; j++)
-              send(ctx, "-");
-      send(ctx, "+");
-   }
-   send(ctx, "\n");
+   switch (field_type) {
+   case 1:
+      return true;
+   default:
+      return false;
+   }
 }
 
-void
-list_result(B_DB *mdb, DB_LIST_HANDLER *send, void *ctx)
+/* 
+ * Returns true if OK
+ *         false if failed
+ */
+bool B_DB_SQLITE::sql_batch_start(JCR *jcr)
 {
-   SQL_FIELD *field;
-   SQL_ROW row;
-   unsigned int i, col_len;
-   char buf[2000], ewc[30];
+   bool retval;
+
+   db_lock(this);
+   retval = sql_query("CREATE TEMPORARY TABLE batch ("
+                              "FileIndex integer,"
+                              "JobId integer,"
+                              "Path blob,"
+                              "Name blob,"
+                              "LStat tinyblob,"
+                              "MD5 tinyblob,"
+                              "DeltaSeq integer)");
+   db_unlock(this);
+
+   return retval;
+}
 
-   if (mdb->result == NULL || mdb->nrow == 0) {
-      return;
+/* set error to something to abort operation */
+/* 
+ * Returns true if OK
+ *         false if failed
+ */
+bool B_DB_SQLITE::sql_batch_end(JCR *jcr, const char *error)
+{
+   m_status = 0;
+
+   return true;
+}
+
+/* 
+ * Returns true if OK
+ *         false if failed
+ */
+bool B_DB_SQLITE::sql_batch_insert(JCR *jcr, ATTR_DBR *ar)
+{
+   size_t len;
+   const char *digest;
+   char ed1[50];
+
+   esc_name = check_pool_memory_size(esc_name, fnl*2+1);
+   db_escape_string(jcr, esc_name, fname, fnl);
+
+   esc_path = check_pool_memory_size(esc_path, pnl*2+1);
+   db_escape_string(jcr, esc_path, path, pnl);
+
+   if (ar->Digest == NULL || ar->Digest[0] == 0) {
+      digest = "0";
+   } else {
+      digest = ar->Digest;
    }
-   /* determine column display widths */
-   sql_field_seek(mdb, 0);
-   for (i = 0; i < sql_num_fields(mdb); i++) {
-      field = sql_fetch_field(mdb);
-      if (IS_NUM(field->type) && field->max_length > 0) { /* fixup for commas */
-        field->max_length += (field->max_length - 1) / 3;
-      }
-      col_len = strlen(field->name);
-      if (col_len < field->max_length)
-             col_len = field->max_length;
-      if (col_len < 4 && !IS_NOT_NULL(field->flags))
-              col_len = 4;    /* 4 = length of the word "NULL" */
-      field->max_length = col_len;    /* reset column info */
-   }
-
-   list_dashes(mdb, send, ctx);
-   send(ctx, "|");
-   sql_field_seek(mdb, 0);
-   for (i = 0; i < sql_num_fields(mdb); i++) {
-      field = sql_fetch_field(mdb);
-      sprintf(buf, " %-*s |", field->max_length, field->name);
-      send(ctx, buf);
-   }
-   send(ctx, "\n");
-   list_dashes(mdb, send, ctx);
-
-   while ((row = sql_fetch_row(mdb)) != NULL) {
-      sql_field_seek(mdb, 0);
-      send(ctx, "|");
-      for (i = 0; i < sql_num_fields(mdb); i++) {
-        field = sql_fetch_field(mdb);
-        if (row[i] == NULL) {
-            sprintf(buf, " %-*s |", field->max_length, "NULL");
-        } else if (IS_NUM(field->type)) {
-            sprintf(buf, " %*s |", field->max_length,       
-              add_commas(row[i], ewc));
-        } else {
-            sprintf(buf, " %-*s |", field->max_length, row[i]);
-        }
-        send(ctx, buf);
+
+   len = Mmsg(cmd, "INSERT INTO batch VALUES "
+                   "(%u,%s,'%s','%s','%s','%s',%u)",
+                   ar->FileIndex, edit_int64(ar->JobId,ed1), esc_path,
+                   esc_name, ar->attr, digest, ar->DeltaSeq);
+
+   return sql_query(cmd);
+}
+
+/*
+ * Initialize database data structure. In principal this should
+ * never have errors, or it is really fatal.
+ */
+B_DB *db_init_database(JCR *jcr, const char *db_driver, const char *db_name,
+                       const char *db_user, const char *db_password, 
+                       const char *db_address, int db_port, 
+                       const char *db_socket, bool mult_db_connections, 
+                       bool disable_batch_insert)
+{
+   B_DB *mdb = NULL;
+
+   P(mutex);                          /* lock DB queue */
+   /*
+    * Look to see if DB already open
+    */
+   if (db_list && !mult_db_connections) {
+      foreach_dlist(mdb, db_list) {
+         if (mdb->db_match_database(db_driver, db_name, db_address, db_port)) {
+            Dmsg1(300, "DB REopen %s\n", db_name);
+            mdb->increment_refcount();
+            goto bail_out;
+         }
       }
-      send(ctx, "\n");
    }
-   list_dashes(mdb, send, ctx);
-}
+   Dmsg0(300, "db_init_database first time\n");
+   mdb = New(B_DB_SQLITE(jcr, db_driver, db_name, db_user, db_password,
+                         db_address, db_port, db_socket, mult_db_connections,
+                         disable_batch_insert));
 
+bail_out:
+   V(mutex);
+   return mdb;
+}
 
-#endif /* HAVE_SQLITE */
+#endif /* HAVE_SQLITE3 */