]> git.sur5r.net Git - bacula/bacula/blobdiff - bacula/src/stored/append.c
Implement first cut DCR in SD
[bacula/bacula] / bacula / src / stored / append.c
index aa2220ffee8133611ca2999cfd5c00809e97f2e9..0f755ff493fc8a64f2cf2be0031690d84cb84221 100644 (file)
@@ -5,7 +5,7 @@
  *  Version $Id$
  */
 /*
-   Copyright (C) 2000, 2001, 2002 Kern Sibbald and John Walker
+   Copyright (C) 2000-2003 Kern Sibbald and John Walker
 
    This program is free software; you can redistribute it and/or
    modify it under the terms of the GNU General Public License as
 /* Responses sent to the File daemon */
 static char OK_data[]    = "3000 OK data\n";
 
+/* Forward referenced functions */
+static bool are_attributes_spooled(JCR *jcr);
+static int begin_attribute_spool(JCR *jcr);
+static int discard_attribute_spool(JCR *jcr);
+static int commit_attribute_spool(JCR *jcr);
+static int open_data_spool_file(JCR *jcr);
+static int close_data_spool_file(JCR *jcr);
+static int begin_data_spool(JCR *jcr);
+static int discard_data_spool(JCR *jcr);
+static int commit_data_spool(JCR *jcr);
+
+
 /* 
  *  Append Data sent from File daemon  
  *
@@ -38,64 +50,56 @@ static char OK_data[]    = "3000 OK data\n";
 int do_append_data(JCR *jcr) 
 {
    int32_t n;
-   long file_index, stream, last_file_index;
+   int32_t file_index, stream, last_file_index;
    BSOCK *ds;
    BSOCK *fd_sock = jcr->file_bsock;
-   int ok = TRUE;
-   DEVICE *dev = jcr->device->dev;
+   bool ok = true;
+   DEVICE *dev;
    DEV_RECORD rec;
    DEV_BLOCK  *block;
+   DCR *dcr;
    
    Dmsg0(10, "Start append data.\n");
 
-   /* Tell File daemon to send data */
-   bnet_fsend(fd_sock, OK_data);
-
-   sm_check(__FILE__, __LINE__, False);
-
-   if (!jcr->no_attributes && jcr->spool_attributes) {
-      open_spool_file(jcr, jcr->dir_bsock);
-   }
-
    ds = fd_sock;
 
-   if (!bnet_set_buffer_size(ds, MAX_NETWORK_BUFFER_SIZE, BNET_SETBUF_WRITE)) {
-      jcr->JobStatus = JS_Cancelled;
+   if (!bnet_set_buffer_size(ds, jcr->device->max_network_buffer_size, BNET_SETBUF_WRITE)) {
+      set_jcr_job_status(jcr, JS_ErrorTerminated);
       Jmsg(jcr, M_FATAL, 0, _("Unable to set network buffer size.\n"));
       return 0;
    }
 
-   Dmsg1(20, "Begin append device=%s\n", dev_name(dev));
-
-   block = new_block(dev);
-
    /* 
     * Acquire output device for writing.  Note, after acquiring a
     *  device, we MUST release it, which is done at the end of this
     *  subroutine.
     */
    Dmsg0(100, "just before acquire_device\n");
-   if (!acquire_device_for_append(jcr, dev, block)) {
-      jcr->JobStatus = JS_Cancelled;
-      free_block(block);
+   if (!(dcr=acquire_device_for_append(jcr))) {
+      set_jcr_job_status(jcr, JS_ErrorTerminated);
       return 0;
    }
-   sm_check(__FILE__, __LINE__, False);
+   dev = dcr->dev;
+   block = dcr->block;
+
+   Dmsg1(20, "Begin append device=%s\n", dev_name(dev));
+
+   begin_data_spool(jcr);
+   begin_attribute_spool(jcr);
 
    Dmsg0(100, "Just after acquire_device_for_append\n");
    /*
     * Write Begin Session Record
     */
    if (!write_session_label(jcr, block, SOS_LABEL)) {
-      jcr->JobStatus = JS_Cancelled;
       Jmsg1(jcr, M_FATAL, 0, _("Write session label failed. ERR=%s\n"),
         strerror_dev(dev));
-      ok = FALSE;
+      set_jcr_job_status(jcr, JS_ErrorTerminated);
+      ok = false;
    }
 
-   sm_check(__FILE__, __LINE__, False);
-
-   memset(&rec, 0, sizeof(rec));
+   /* Tell File daemon to send data */
+   bnet_fsend(fd_sock, OK_data);
 
    /* 
     * Get Data from File daemon, write to device.  To clarify what is
@@ -114,15 +118,14 @@ int do_append_data(JCR *jcr)
     *  file. 1. for the Attributes, 2. for the file data if any, 
     *  and 3. for the MD5 if any.
     */
-   jcr->VolFirstFile = 0;
-   time(&jcr->run_time);             /* start counting time for rates */
-   for (last_file_index = 0; ok && !job_cancelled(jcr); ) {
-      char info[100];
+   dcr->VolFirstIndex = dcr->VolLastIndex = 0;
+   jcr->run_time = time(NULL);             /* start counting time for rates */
+   for (last_file_index = 0; ok && !job_canceled(jcr); ) {
 
       /* Read Stream header from the File daemon.
        *  The stream header consists of the following:
-       *    file_index (sequential Bacula file index)
-       *    stream     (arbitrary Bacula number to distinguish parts of data)
+       *    file_index (sequential Bacula file index, base 1)
+       *    stream     (Bacula number to distinguish parts of data)
        *    info       (Info for Storage daemon -- compressed, encryped, ...)
        *       info is not currently used, so is read, but ignored!
        */
@@ -132,39 +135,49 @@ int do_append_data(JCR *jcr)
         }
          Jmsg1(jcr, M_FATAL, 0, _("Error reading data header from FD. ERR=%s\n"),
            bnet_strerror(ds));
-        ok = FALSE;
+        ok = false;
         break;
       }
-      sm_check(__FILE__, __LINE__, False);
-      ds->msg[ds->msglen] = 0;
-      if (sscanf(ds->msg, "%ld %ld %100s", &file_index, &stream, info) != 3) {
+       
+      /* 
+       * This hand scanning is a bit more complicated than a simple
+       *   sscanf, but it allows us to handle any size integer up to
+       *   int64_t without worrying about whether %d, %ld, %lld, or %q 
+       *   is the correct format for each different architecture.
+       * It is a real pity that sscanf() is not portable.
+       */
+      char *p = ds->msg;
+      while (B_ISSPACE(*p)) {
+        p++;
+      }
+      file_index = (int32_t)str_to_int64(p);
+      while (B_ISDIGIT(*p)) {
+        p++;
+      }
+      if (!B_ISSPACE(*p) || !B_ISDIGIT(*(p+1))) {
          Jmsg1(jcr, M_FATAL, 0, _("Malformed data header from FD: %s\n"), ds->msg);
-        ok = FALSE;
+        ok = false;
         break;
       }
+      stream = (int32_t)str_to_int64(p);
+
       Dmsg2(190, "<filed: Header FilInx=%d stream=%d\n", file_index, stream);
 
       if (!(file_index > 0 && (file_index == last_file_index ||
          file_index == last_file_index + 1))) {
          Jmsg0(jcr, M_FATAL, 0, _("File index from FD not positive or sequential\n"));
-        ok = FALSE;
+        ok = false;
         break;
       }
       if (file_index != last_file_index) {
         jcr->JobFiles = file_index;
-        if (jcr->VolFirstFile == 0) {
-           jcr->VolFirstFile = file_index;
-        }
         last_file_index = file_index;
       }
       
       /* Read data stream from the File daemon.
        *  The data stream is just raw bytes
        */
-      sm_check(__FILE__, __LINE__, False);
-      while ((n=bget_msg(ds)) > 0 && !job_cancelled(jcr)) {
-
-        sm_check(__FILE__, __LINE__, False);
+      while ((n=bget_msg(ds)) > 0 && !job_canceled(jcr)) {
         rec.VolSessionId = jcr->VolSessionId;
         rec.VolSessionTime = jcr->VolSessionTime;
         rec.FileIndex = file_index;
@@ -184,11 +197,10 @@ int do_append_data(JCR *jcr)
                  dev_name(dev), strerror_dev(dev));
                Jmsg(jcr, M_FATAL, 0, _("Cannot fixup device error. %s\n"),
                     strerror_dev(dev));
-              ok = FALSE;
+              ok = false;
               break;
            }
         }
-        sm_check(__FILE__, __LINE__, False);
         if (!ok) {
             Dmsg0(400, "Not OK\n");
            break;
@@ -199,68 +211,173 @@ int do_append_data(JCR *jcr)
            stream_to_ascii(rec.Stream, rec.FileIndex), rec.data_len);
 
         /* Send attributes and MD5 to Director for Catalog */
-        if (stream == STREAM_UNIX_ATTRIBUTES || stream == STREAM_MD5_SIGNATURE ||
-            stream == STREAM_WIN32_ATTRIBUTES) { 
+        if (stream == STREAM_UNIX_ATTRIBUTES    || stream == STREAM_MD5_SIGNATURE ||
+            stream == STREAM_UNIX_ATTRIBUTES_EX || stream == STREAM_SHA1_SIGNATURE) { 
            if (!jcr->no_attributes) {
-              if (jcr->spool_attributes && jcr->dir_bsock->spool_fd) {
+              if (are_attributes_spooled(jcr)) {
                  jcr->dir_bsock->spool = 1;
               }
                Dmsg0(200, "Send attributes.\n");
               if (!dir_update_file_attributes(jcr, &rec)) {
                   Jmsg(jcr, M_FATAL, 0, _("Error updating file attributes. ERR=%s\n"),
                     bnet_strerror(jcr->dir_bsock));
-                 ok = FALSE;
+                 ok = false;
                  jcr->dir_bsock->spool = 0;
                  break;
               }
               jcr->dir_bsock->spool = 0;
            }
         }
-        sm_check(__FILE__, __LINE__, False);
       }
       if (is_bnet_error(ds)) {
          Jmsg1(jcr, M_FATAL, 0, _("Network error on data channel. ERR=%s\n"),
            bnet_strerror(ds));
-        ok = FALSE;
+        ok = false;
         break;
       }
    }
-   /* 
-    *   We probably need a new flag that says "Do not attempt
-    *   to write because there is no tape".
-    */
-   sm_check(__FILE__, __LINE__, False);
-   Dmsg0(90, "Write_end_session_label()\n");
+
    /* Create Job status for end of session label */
-   if (!job_cancelled(jcr) && ok) {
-      jcr->JobStatus = JS_Terminated;
-   } else if (!ok) {
-      jcr->JobStatus = JS_ErrorTerminated;
-   }
-   if (!write_session_label(jcr, block, EOS_LABEL)) {
-      Jmsg1(jcr, M_FATAL, 0, _("Error writting end session label. ERR=%s\n"),
-         strerror_dev(dev));
-      ok = FALSE;
+   set_jcr_job_status(jcr, ok?JS_Terminated:JS_ErrorTerminated);
+
+   Dmsg1(200, "Write session label JobStatus=%d\n", jcr->JobStatus);
+
+   /*
+    * If !OK, check if we can still write. This may not be the case
+    *  if we are at the end of the tape or we got a fatal I/O error.
+    */
+   if (ok || dev_can_write(dev)) {
+      if (!write_session_label(jcr, block, EOS_LABEL)) {
+         Jmsg1(jcr, M_FATAL, 0, _("Error writting end session label. ERR=%s\n"),
+            strerror_dev(dev));
+        set_jcr_job_status(jcr, JS_ErrorTerminated);
+        ok = false;
+      }
+      Dmsg0(90, "back from write_end_session_label()\n");
+      /* Flush out final partial block of this session */
+      if (!write_block_to_device(jcr, dev, block)) {
+         Dmsg0(100, _("Set ok=FALSE after write_block_to_device.\n"));
+        set_jcr_job_status(jcr, JS_ErrorTerminated);
+        ok = false;
+      }
    }
-   /* Write out final block of this session */
-   if (!write_block_to_device(jcr, dev, block)) {
-      Pmsg0(000, _("Set ok=FALSE after write_block_to_device.\n"));
-      ok = FALSE;
+
+   if (!ok) {
+      discard_data_spool(jcr);
+   } else {
+      commit_data_spool(jcr);
    }
 
+   Dmsg1(200, "calling release device JobStatus=%d\n", jcr->JobStatus);
    /* Release the device */
-   if (!release_device(jcr, dev)) {
+   if (!release_device(jcr)) {
       Pmsg0(000, _("Error in release_device\n"));
-      ok = FALSE;
+      set_jcr_job_status(jcr, JS_ErrorTerminated);
+      ok = false;
    }
 
-   free_block(block);
-
-   if (jcr->spool_attributes && jcr->dir_bsock->spool_fd) {
-      bnet_despool(jcr->dir_bsock);
-      close_spool_file(jcr, jcr->dir_bsock);
+   if (!ok) {
+      discard_attribute_spool(jcr);
+   } else {
+      commit_attribute_spool(jcr);
    }
 
-   Dmsg0(90, "return from do_append_data()\n");
+   dir_send_job_status(jcr);         /* update director */
+
+   Dmsg1(100, "return from do_append_data() stat=%d\n", ok);
    return ok ? 1 : 0;
 }
+
+
+static int begin_data_spool(JCR *jcr)
+{
+   if (jcr->dcr->spool_data) {
+      return open_data_spool_file(jcr);
+   }
+   return 1;
+}
+
+static int discard_data_spool(JCR *jcr)
+{
+   if (jcr->dcr->spool_data && jcr->dcr->spool_fd >= 0) {
+      return close_data_spool_file(jcr);
+   }
+   return 1;
+}
+
+static int commit_data_spool(JCR *jcr)
+{
+   if (jcr->dcr->spool_data && jcr->dcr->spool_fd >= 0) {
+//     despool_data(jcr);
+      return close_data_spool_file(jcr);
+   }
+   return 1;
+}
+
+static void make_unique_data_spool_filename(JCR *jcr, POOLMEM **name)
+{
+   Mmsg(name, "%s/%s.data.spool.%s.%s", working_directory, my_name,
+      jcr->Job, jcr->device->hdr.name);
+}
+
+
+static int open_data_spool_file(JCR *jcr)
+{
+   POOLMEM *name  = get_pool_memory(PM_MESSAGE);
+   int spool_fd;
+
+   make_unique_data_spool_filename(jcr, &name);
+   if ((spool_fd = open(name, O_CREAT|O_TRUNC|O_RDWR|O_BINARY, 0640)) >= 0) {
+      jcr->dcr->spool_fd = spool_fd;
+      jcr->spool_attributes = true;
+   } else {
+      Jmsg(jcr, M_ERROR, 0, "open data spool file %s failed: ERR=%s\n", name, strerror(errno));
+      free_pool_memory(name);
+      return 0;
+    }
+    free_pool_memory(name);
+    return 1;
+}
+
+static int close_data_spool_file(JCR *jcr)
+{
+    POOLMEM *name  = get_pool_memory(PM_MESSAGE);
+
+    make_unique_data_spool_filename(jcr, &name);
+    close(jcr->dcr->spool_fd);
+    jcr->dcr->spool_fd = -1;
+    unlink(name);
+    free_pool_memory(name);
+    return 1;
+}
+
+
+static bool are_attributes_spooled(JCR *jcr)
+{
+   return jcr->spool_attributes && jcr->dir_bsock->spool_fd;
+}
+
+static int begin_attribute_spool(JCR *jcr)
+{
+   if (!jcr->no_attributes && jcr->spool_attributes) {
+      return open_spool_file(jcr, jcr->dir_bsock);
+   }
+   return 1;
+}
+
+static int discard_attribute_spool(JCR *jcr)
+{
+   if (are_attributes_spooled(jcr)) {
+      return close_spool_file(jcr, jcr->dir_bsock);
+   }
+   return 1;
+}
+
+static int commit_attribute_spool(JCR *jcr)
+{
+   if (are_attributes_spooled(jcr)) {
+      bnet_despool_to_bsock(jcr->dir_bsock);
+      return close_spool_file(jcr, jcr->dir_bsock);
+   }
+   return 1;
+}