]> git.sur5r.net Git - bacula/bacula/blobdiff - bacula/src/filed/backup.c
Added wx-console.exe and .conf.
[bacula/bacula] / bacula / src / filed / backup.c
index 49f47a708b32b179ee7bfd8a60efbbccd4d37bac..20e3eecd50f9b35ccdccf8b73a1295eab9174e96 100644 (file)
 
 static int save_file(FF_PKT *ff_pkt, void *pkt);
 
-static void *heartbeat_thread(void *arg)
-{
-   int32_t n;
-   JCR *jcr = (JCR *)arg;
-   BSOCK *sd, *dir;
-
-   jcr->heartbeat_id = pthread_self();
-
-   /* Get our own local copy */
-   sd = dup_bsock(jcr->store_bsock);
-   dir = dup_bsock(jcr->dir_bsock);
-
-   jcr->duped_sd = sd;
-
-   /* Hang reading the socket to the SD, and every time we get
-    *  a heartbeat, we simply send it on to the Director to
-    *  keep him alive.
-    */
-   for ( ; !is_bnet_stop(sd); ) {
-      n = bnet_wait_data_intr(sd, 60);
-      if (n != 1) {
-        continue;
-      }
-      n = bnet_recv(sd);
-      if (n == BNET_SIGNAL && sd->msglen == BNET_HEARTBEAT) {
-        bnet_sig(dir, BNET_HEARTBEAT);
-      }
-   }
-   bnet_close(sd);
-   bnet_close(dir);
-   jcr->duped_sd = NULL;
-   return NULL;
-}
-
-/* Startup the heartbeat thread -- see above */
-static void start_heartbeat_monitor(JCR *jcr)
-{
-   pthread_t hbtid;
-   jcr->duped_sd = NULL;
-   pthread_create(&hbtid, NULL, heartbeat_thread, (void *)jcr);
-}
-
-/* Terminate the heartbeat thread */
-static void stop_heartbeat_monitor(JCR *jcr) 
-{
-   pthread_t hbtid = jcr->heartbeat_id;
-
-   while (jcr->duped_sd == NULL) {
-      bmicrosleep(0, 500);           /* avoid race */
-   }
-   jcr->duped_sd->timed_out = 1;      /* set timed_out to terminate read */
-   jcr->duped_sd->terminated = 1;     /* set to terminate read */
-
-   while (jcr->duped_sd) {
-      pthread_kill(hbtid, TIMEOUT_SIGNAL);  /* make heartbeat thread go away */
-      bmicrosleep(0, 20);
-   }
-   pthread_join(hbtid, NULL);        /* wait for him to clean up */
-}
-
 /* 
  * Find all the requested files and send them
  * to the Storage daemon. 
@@ -113,9 +53,18 @@ int blast_data_to_storage_daemon(JCR *jcr, char *addr)
 
    set_jcr_job_status(jcr, JS_Running);
 
-   Dmsg1(110, "bfiled: opened data connection %d to stored\n", sd->fd);
+   Dmsg1(300, "bfiled: opened data connection %d to stored\n", sd->fd);
 
-   if (!bnet_set_buffer_size(sd, MAX_NETWORK_BUFFER_SIZE, BNET_SETBUF_WRITE)) {
+   LockRes();
+   CLIENT *client = (CLIENT *)GetNextRes(R_CLIENT, NULL);
+   UnlockRes();
+   uint32_t buf_size;
+   if (client) {
+      buf_size = client->max_network_buffer_size;
+   } else {
+      buf_size = 0;                  /* use default */
+   }
+   if (!bnet_set_buffer_size(sd, buf_size, BNET_SETBUF_WRITE)) {
       set_jcr_job_status(jcr, JS_ErrorTerminated);
       return 0;
    }
@@ -130,9 +79,9 @@ int blast_data_to_storage_daemon(JCR *jcr, char *addr)
    jcr->compress_buf_size = jcr->buf_size + ((jcr->buf_size+999) / 1000) + 30;
    jcr->compress_buf = get_memory(jcr->compress_buf_size);
 
-   Dmsg1(100, "set_find_options ff=%p\n", jcr->ff);
+   Dmsg1(300, "set_find_options ff=%p\n", jcr->ff);
    set_find_options((FF_PKT *)jcr->ff, jcr->incremental, jcr->mtime);
-   Dmsg0(110, "start find files\n");
+   Dmsg0(300, "start find files\n");
 
    start_heartbeat_monitor(jcr);
 
@@ -154,6 +103,7 @@ int blast_data_to_storage_daemon(JCR *jcr, char *addr)
       free_pool_memory(jcr->compress_buf);
       jcr->compress_buf = NULL;
    }
+   Dmsg1(300, "end blast_data stat=%d\n", stat);
    return stat;
 }         
 
@@ -168,7 +118,7 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
 {
    char attribs[MAXSTRING];
    char attribsEx[MAXSTRING];
-   int stat, stream; 
+   int stat, attr_stream, data_stream;
    struct MD5Context md5c;
    struct SHA1Context sha1c;
    int gotMD5 = 0;
@@ -213,14 +163,17 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
    case FT_NOACCESS:
       Jmsg(jcr, M_NOTSAVED, -1, _("     Could not access %s: ERR=%s\n"), ff_pkt->fname, 
         strerror(ff_pkt->ff_errno));
+      jcr->Errors++;
       return 1;
    case FT_NOFOLLOW:
       Jmsg(jcr, M_NOTSAVED, -1, _("     Could not follow link %s: ERR=%s\n"), ff_pkt->fname, 
         strerror(ff_pkt->ff_errno));
+      jcr->Errors++;
       return 1;
    case FT_NOSTAT:
       Jmsg(jcr, M_NOTSAVED, -1, _("     Could not stat %s: ERR=%s\n"), ff_pkt->fname, 
         strerror(ff_pkt->ff_errno));
+      jcr->Errors++;
       return 1;
    case FT_DIRNOCHG:
    case FT_NOCHG:
@@ -240,19 +193,29 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
    case FT_NOOPEN:
       Jmsg(jcr, M_NOTSAVED, -1, _("     Could not open directory %s: ERR=%s\n"), ff_pkt->fname, 
         strerror(ff_pkt->ff_errno));
+      jcr->Errors++;
       return 1;
    default:
       Jmsg(jcr, M_NOTSAVED, 0,  _("     Unknown file type %d; not saved: %s\n"), ff_pkt->type, ff_pkt->fname);
+      jcr->Errors++;
       return 1;
    }
 
-   binit(&ff_pkt->bfd, jcr->use_win_backup_api);
+   binit(&ff_pkt->bfd);
+   if (ff_pkt->flags & FO_PORTABLE) {
+      set_portable_backup(&ff_pkt->bfd); /* disable Win32 BackupRead() */
+   }
 
-   /* Open any file with data that we intend to save */
+   /* 
+    * Open any file with data that we intend to save.  
+    * Note, if is_win32_backup, we must open the Directory so that
+    * the BackupRead will save its permissions and ownership streams.
+    */
    if (ff_pkt->type != FT_LNKSAVED && (S_ISREG(ff_pkt->statp.st_mode) && 
         ff_pkt->statp.st_size > 0) || 
-        ff_pkt->type == FT_RAW || ff_pkt->type == FT_FIFO) {
-      btimer_id tid;   
+        ff_pkt->type == FT_RAW || ff_pkt->type == FT_FIFO ||
+        (!is_portable_backup(&ff_pkt->bfd) && ff_pkt->type == FT_DIR)) {
+      btimer_t *tid;   
       if (ff_pkt->type == FT_FIFO) {
         tid = start_thread_timer(pthread_self(), 60);
       } else {
@@ -262,6 +225,7 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
         ff_pkt->ff_errno = errno;
          Jmsg(jcr, M_NOTSAVED, -1, _("     Cannot open %s: ERR=%s.\n"), ff_pkt->fname, 
              berror(&ff_pkt->bfd));
+        jcr->Errors++;
         stop_thread_timer(tid);
         return 1;
       }
@@ -269,9 +233,15 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
    }
 
    Dmsg1(130, "bfiled: sending %s to stored\n", ff_pkt->fname);
-   encode_stat(attribs, &ff_pkt->statp, ff_pkt->LinkFI);
-   stream = encode_attribsEx(jcr, attribsEx, ff_pkt);
-   Dmsg3(200, "File %s\nattribs=%s\nattribsEx=%s\n", ff_pkt->fname, attribs, attribsEx);
+
+   /* Find what data stream we will use, then encode the attributes */
+   data_stream = select_data_stream(ff_pkt);
+   encode_stat(attribs, ff_pkt, data_stream);
+
+   /* Now possibly extend the attributes */
+   attr_stream = encode_attribsEx(jcr, attribsEx, ff_pkt);
+
+   Dmsg3(300, "File %s\nattribs=%s\nattribsEx=%s\n", ff_pkt->fname, attribs, attribsEx);
      
    P(jcr->mutex);
    jcr->JobFiles++;                   /* increment number of files sent */
@@ -283,14 +253,14 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
     * Send Attributes header to Storage daemon
     *   <file-index> <stream> <info>
     */
-   if (!bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, stream)) {
+   if (!bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, attr_stream)) {
       if (is_bopen(&ff_pkt->bfd)) {
         bclose(&ff_pkt->bfd);
       }
       set_jcr_job_status(jcr, JS_ErrorTerminated);
       return 0;
    }
-   Dmsg1(100, ">stored: attrhdr %s\n", sd->msg);
+   Dmsg1(300, ">stored: attrhdr %s\n", sd->msg);
 
    /*
     * Send file attributes to Storage daemon
@@ -305,7 +275,7 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
     * slash. For a linked file, link is the link.
     */
    if (ff_pkt->type == FT_LNK || ff_pkt->type == FT_LNKSAVED) {
-      Dmsg2(100, "Link %s to %s\n", ff_pkt->fname, ff_pkt->link);
+      Dmsg2(300, "Link %s to %s\n", ff_pkt->fname, ff_pkt->link);
       stat = bnet_fsend(sd, "%ld %d %s%c%s%c%s%c%s%c", jcr->JobFiles, 
               ff_pkt->type, ff_pkt->fname, 0, attribs, 0, ff_pkt->link, 0,
               attribsEx, 0);
@@ -318,7 +288,7 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
               ff_pkt->type, ff_pkt->fname, 0, attribs, 0, 0, attribsEx, 0);
    }
 
-   Dmsg2(100, ">stored: attr len=%d: %s\n", sd->msglen, sd->msg);
+   Dmsg2(300, ">stored: attr len=%d: %s\n", sd->msglen, sd->msg);
    if (!stat) {
       if (is_bopen(&ff_pkt->bfd)) {
         bclose(&ff_pkt->bfd);
@@ -341,25 +311,15 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
       rbuf = sd->msg;                /* read buffer */             
       wbuf = sd->msg;                /* write buffer */
 
-      Dmsg1(100, "Saving data, type=%d\n", ff_pkt->type);
 
-      if (ff_pkt->flags & FO_SPARSE) {
-        stream = STREAM_SPARSE_DATA;
-      } else {
-        stream = STREAM_FILE_DATA;
-      }
+      Dmsg1(300, "Saving data, type=%d\n", ff_pkt->type);
+
 
 #ifdef HAVE_LIBZ
       uLong compress_len, max_compress_len = 0;
       const Bytef *cbuf = NULL;
 
       if (ff_pkt->flags & FO_GZIP) {
-        if (stream == STREAM_FILE_DATA) {
-           stream = STREAM_GZIP_DATA;
-        } else {
-           stream = STREAM_SPARSE_GZIP_DATA;
-        }
-
         if (ff_pkt->flags & FO_SPARSE) {
            cbuf = (Bytef *)jcr->compress_buf + SPARSE_FADDR_SIZE;
            max_compress_len = jcr->compress_buf_size - SPARSE_FADDR_SIZE;
@@ -375,12 +335,12 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
        * Send Data header to Storage daemon
        *    <file-index> <stream> <info>
        */
-      if (!bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, stream)) {
+      if (!bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, data_stream)) {
         bclose(&ff_pkt->bfd);
         set_jcr_job_status(jcr, JS_ErrorTerminated);
         return 0;
       }
-      Dmsg1(100, ">stored: datahdr %s\n", sd->msg);
+      Dmsg1(300, ">stored: datahdr %s\n", sd->msg);
 
       if (ff_pkt->flags & FO_MD5) {
         MD5Init(&md5c);
@@ -395,12 +355,19 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
       if (ff_pkt->flags & FO_SPARSE) {
         rbuf += SPARSE_FADDR_SIZE;
         rsize -= SPARSE_FADDR_SIZE;
+#ifdef HAVE_FREEBSD_OS
+        /* 
+         * To read FreeBSD partitions, the read size must be
+         *  a multiple of 512.
+         */
+        rsize = (rsize/512) * 512;
+#endif
       }
 
       /* 
        * Read the file data
        */
-      while ((sd->msglen=bread(&ff_pkt->bfd, rbuf, rsize)) > 0) {
+      while ((sd->msglen=(uint32_t)bread(&ff_pkt->bfd, rbuf, rsize)) > 0) {
         int sparseBlock = 0;
 
         /* Check for sparse blocks */
@@ -452,7 +419,6 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
         }
 #endif
 
-        /*       #ifndef FD_NO_SEND_TEST */
         /* Send the buffer to the Storage daemon */
         if (!sparseBlock) {
            if (ff_pkt->flags & FO_SPARSE) {
@@ -487,22 +453,22 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
       }
    }
 
-
    /* Terminate any MD5 signature and send it to Storage daemon and the Director */
    if (gotMD5 && ff_pkt->flags & FO_MD5) {
       MD5Final(signature, &md5c);
       bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, STREAM_MD5_SIGNATURE);
-      Dmsg1(100, "bfiled>stored:header %s\n", sd->msg);
+      Dmsg1(300, "bfiled>stored:header %s\n", sd->msg);
       memcpy(sd->msg, signature, 16);
       sd->msglen = 16;
       bnet_send(sd);
       bnet_sig(sd, BNET_EOD);        /* end of MD5 */
       gotMD5 = 0;
+
    } else if (gotSHA1 && ff_pkt->flags & FO_SHA1) {
    /* Terminate any SHA1 signature and send it to Storage daemon and the Director */
       SHA1Final(&sha1c, signature);
       bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, STREAM_SHA1_SIGNATURE);
-      Dmsg1(100, "bfiled>stored:header %s\n", sd->msg);
+      Dmsg1(300, "bfiled>stored:header %s\n", sd->msg);
       memcpy(sd->msg, signature, 20);
       sd->msglen = 20;
       bnet_send(sd);