]> git.sur5r.net Git - bacula/bacula/blobdiff - bacula/src/filed/backup.c
Use dcr more in SD + int to bool conversions
[bacula/bacula] / bacula / src / filed / backup.c
index 61fe9c79e00b05a4e228b4542533e9ee5abdfd33..6adc77ecc356127f09cc682f075684be14eaa0de 100644 (file)
@@ -8,7 +8,7 @@
  *
  */
 /*
-   Copyright (C) 2000-2003 Kern Sibbald and John Walker
+   Copyright (C) 2000-2004 Kern Sibbald and John Walker
 
    This program is free software; you can redistribute it and/or
    modify it under the terms of the GNU General Public License as
 #include "bacula.h"
 #include "filed.h"
 
-static int save_file(FF_PKT *ff_pkt, void *pkt);
-
-static void *heartbeat_thread(void *arg)
-{
-   int32_t n;
-   JCR *jcr = (JCR *)arg;
-   BSOCK *sd, *dir;
-
-   jcr->heartbeat_id = pthread_self();
-
-   /* Get our own local copy */
-   sd = dup_bsock(jcr->store_bsock);
-   dir = dup_bsock(jcr->dir_bsock);
-
-   jcr->duped_sd = sd;
-
-   /* Hang reading the socket to the SD, and every time we get
-    *  a heartbeat, we simply send it on to the Director to
-    *  keep him alive.
-    */
-   for ( ;; ) {
-      n = bnet_recv(sd);
-      if (is_bnet_stop(sd)) {
-        break;
-      }
-      if (n == BNET_SIGNAL && sd->msglen == BNET_HEARTBEAT) {
-        bnet_sig(dir, BNET_HEARTBEAT);
-      }
-   }
-   bnet_close(sd);
-   bnet_close(dir);
-   return NULL;
-}
-
-/* Startup the heartbeat thread -- see above */
-static void start_heartbeat_monitor(JCR *jcr)
-{
-   pthread_t hbtid;
-   jcr->duped_sd = NULL;
-   pthread_create(&hbtid, NULL, heartbeat_thread, (void *)jcr);
-}
-
-/* Terminate the heartbeat thread */
-static void stop_heartbeat_monitor(JCR *jcr) 
-{
-   pthread_t hbtid = jcr->heartbeat_id;
-
-   while (jcr->duped_sd == NULL) {
-      bmicrosleep(0, 500);           /* avoid race */
-   }
-   jcr->duped_sd->timed_out = 1;      /* set timed_out to terminate read */
+#ifdef HAVE_ACL
+#include <sys/acl.h>
+#include <acl/libacl.h>
+#endif
 
-   pthread_kill(hbtid, TIMEOUT_SIGNAL);  /* make heartbeat thread go away */
-   pthread_join(hbtid, NULL);        /* wait for him to clean up */
-}
+static int save_file(FF_PKT *ff_pkt, void *pkt);
 
 /* 
  * Find all the requested files and send them
@@ -98,20 +49,30 @@ static void stop_heartbeat_monitor(JCR *jcr)
  * except echo the heartbeat to the Director).
  * 
  */
-int blast_data_to_storage_daemon(JCR *jcr, char *addr) 
+bool blast_data_to_storage_daemon(JCR *jcr, char *addr) 
 {
    BSOCK *sd;
-   int stat = 1;
+   bool ok = true;
 
    sd = jcr->store_bsock;
 
    set_jcr_job_status(jcr, JS_Running);
 
-   Dmsg1(110, "bfiled: opened data connection %d to stored\n", sd->fd);
+   Dmsg1(300, "bfiled: opened data connection %d to stored\n", sd->fd);
 
-   if (!bnet_set_buffer_size(sd, MAX_NETWORK_BUFFER_SIZE, BNET_SETBUF_WRITE)) {
+   LockRes();
+   CLIENT *client = (CLIENT *)GetNextRes(R_CLIENT, NULL);
+   UnlockRes();
+   uint32_t buf_size;
+   if (client) {
+      buf_size = client->max_network_buffer_size;
+   } else {
+      buf_size = 0;                  /* use default */
+   }
+   if (!bnet_set_buffer_size(sd, buf_size, BNET_SETBUF_WRITE)) {
       set_jcr_job_status(jcr, JS_ErrorTerminated);
-      return 0;
+      Jmsg(jcr, M_FATAL, 0, _("Cannot set buffer size FD->SD.\n"));
+      return false;
    }
 
    jcr->buf_size = sd->msglen;            
@@ -124,16 +85,17 @@ int blast_data_to_storage_daemon(JCR *jcr, char *addr)
    jcr->compress_buf_size = jcr->buf_size + ((jcr->buf_size+999) / 1000) + 30;
    jcr->compress_buf = get_memory(jcr->compress_buf_size);
 
-   Dmsg1(100, "set_find_options ff=%p\n", jcr->ff);
+   Dmsg1(300, "set_find_options ff=%p\n", jcr->ff);
    set_find_options((FF_PKT *)jcr->ff, jcr->incremental, jcr->mtime);
-   Dmsg0(110, "start find files\n");
+   Dmsg0(300, "start find files\n");
 
    start_heartbeat_monitor(jcr);
 
    /* Subroutine save_file() is called for each file */
    if (!find_files(jcr, (FF_PKT *)jcr->ff, save_file, (void *)jcr)) {
-      stat = 0;                      /* error */
+      ok = false;                    /* error */
       set_jcr_job_status(jcr, JS_ErrorTerminated);
+//    Jmsg(jcr, M_FATAL, 0, _("Find files error.\n"));
    }
 
    stop_heartbeat_monitor(jcr);
@@ -148,7 +110,8 @@ int blast_data_to_storage_daemon(JCR *jcr, char *addr)
       free_pool_memory(jcr->compress_buf);
       jcr->compress_buf = NULL;
    }
-   return stat;
+   Dmsg1(300, "end blast_data stat=%d\n", ok);
+   return ok;
 }         
 
 /* 
@@ -157,12 +120,16 @@ int blast_data_to_storage_daemon(JCR *jcr, char *addr)
  *  *****FIXME*****   add FSMs File System Modules
  *
  *  Send the file and its data to the Storage daemon.
+ *
+ *  Returns: 1 if OK
+ *          0 if error
+ *         -1 to ignore file/directory (not used here)
  */
 static int save_file(FF_PKT *ff_pkt, void *vjcr)
 {
    char attribs[MAXSTRING];
    char attribsEx[MAXSTRING];
-   int stat, stream; 
+   int stat, attr_stream, data_stream;
    struct MD5Context md5c;
    struct SHA1Context sha1c;
    int gotMD5 = 0;
@@ -192,7 +159,9 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
    case FT_LNK:
       Dmsg2(130, "FT_LNK saving: %s -> %s\n", ff_pkt->fname, ff_pkt->link);
       break;
-   case FT_DIR:
+   case FT_DIRBEGIN:
+      return 1;                      /* not used */
+   case FT_DIREND:
       Dmsg1(130, "FT_DIR saving: %s\n", ff_pkt->link);
       break;
    case FT_SPEC:
@@ -207,14 +176,17 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
    case FT_NOACCESS:
       Jmsg(jcr, M_NOTSAVED, -1, _("     Could not access %s: ERR=%s\n"), ff_pkt->fname, 
         strerror(ff_pkt->ff_errno));
+      jcr->Errors++;
       return 1;
    case FT_NOFOLLOW:
       Jmsg(jcr, M_NOTSAVED, -1, _("     Could not follow link %s: ERR=%s\n"), ff_pkt->fname, 
         strerror(ff_pkt->ff_errno));
+      jcr->Errors++;
       return 1;
    case FT_NOSTAT:
       Jmsg(jcr, M_NOTSAVED, -1, _("     Could not stat %s: ERR=%s\n"), ff_pkt->fname, 
         strerror(ff_pkt->ff_errno));
+      jcr->Errors++;
       return 1;
    case FT_DIRNOCHG:
    case FT_NOCHG:
@@ -234,19 +206,29 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
    case FT_NOOPEN:
       Jmsg(jcr, M_NOTSAVED, -1, _("     Could not open directory %s: ERR=%s\n"), ff_pkt->fname, 
         strerror(ff_pkt->ff_errno));
+      jcr->Errors++;
       return 1;
    default:
       Jmsg(jcr, M_NOTSAVED, 0,  _("     Unknown file type %d; not saved: %s\n"), ff_pkt->type, ff_pkt->fname);
+      jcr->Errors++;
       return 1;
    }
 
-   binit(&ff_pkt->bfd, jcr->use_win_backup_api);
+   binit(&ff_pkt->bfd);
+   if (ff_pkt->flags & FO_PORTABLE) {
+      set_portable_backup(&ff_pkt->bfd); /* disable Win32 BackupRead() */
+   }
 
-   /* Open any file with data that we intend to save */
+   /* 
+    * Open any file with data that we intend to save.  
+    * Note, if is_win32_backup, we must open the Directory so that
+    * the BackupRead will save its permissions and ownership streams.
+    */
    if (ff_pkt->type != FT_LNKSAVED && (S_ISREG(ff_pkt->statp.st_mode) && 
         ff_pkt->statp.st_size > 0) || 
-        ff_pkt->type == FT_RAW || ff_pkt->type == FT_FIFO) {
-      btimer_id tid;   
+        ff_pkt->type == FT_RAW || ff_pkt->type == FT_FIFO ||
+        (!is_portable_backup(&ff_pkt->bfd) && ff_pkt->type == FT_DIREND)) {
+      btimer_t *tid;   
       if (ff_pkt->type == FT_FIFO) {
         tid = start_thread_timer(pthread_self(), 60);
       } else {
@@ -256,6 +238,7 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
         ff_pkt->ff_errno = errno;
          Jmsg(jcr, M_NOTSAVED, -1, _("     Cannot open %s: ERR=%s.\n"), ff_pkt->fname, 
              berror(&ff_pkt->bfd));
+        jcr->Errors++;
         stop_thread_timer(tid);
         return 1;
       }
@@ -263,9 +246,15 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
    }
 
    Dmsg1(130, "bfiled: sending %s to stored\n", ff_pkt->fname);
-   encode_stat(attribs, &ff_pkt->statp, ff_pkt->LinkFI);
-   stream = encode_attribsEx(jcr, attribsEx, ff_pkt);
-   Dmsg3(200, "File %s\nattribs=%s\nattribsEx=%s\n", ff_pkt->fname, attribs, attribsEx);
+
+   /* Find what data stream we will use, then encode the attributes */
+   data_stream = select_data_stream(ff_pkt);
+   encode_stat(attribs, ff_pkt, data_stream);
+
+   /* Now possibly extend the attributes */
+   attr_stream = encode_attribsEx(jcr, attribsEx, ff_pkt);
+
+   Dmsg3(300, "File %s\nattribs=%s\nattribsEx=%s\n", ff_pkt->fname, attribs, attribsEx);
      
    P(jcr->mutex);
    jcr->JobFiles++;                   /* increment number of files sent */
@@ -277,14 +266,14 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
     * Send Attributes header to Storage daemon
     *   <file-index> <stream> <info>
     */
-   if (!bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, stream)) {
+   if (!bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, attr_stream)) {
       if (is_bopen(&ff_pkt->bfd)) {
         bclose(&ff_pkt->bfd);
       }
       set_jcr_job_status(jcr, JS_ErrorTerminated);
       return 0;
    }
-   Dmsg1(100, ">stored: attrhdr %s\n", sd->msg);
+   Dmsg1(300, ">stored: attrhdr %s\n", sd->msg);
 
    /*
     * Send file attributes to Storage daemon
@@ -299,11 +288,11 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
     * slash. For a linked file, link is the link.
     */
    if (ff_pkt->type == FT_LNK || ff_pkt->type == FT_LNKSAVED) {
-      Dmsg2(100, "Link %s to %s\n", ff_pkt->fname, ff_pkt->link);
+      Dmsg2(300, "Link %s to %s\n", ff_pkt->fname, ff_pkt->link);
       stat = bnet_fsend(sd, "%ld %d %s%c%s%c%s%c%s%c", jcr->JobFiles, 
               ff_pkt->type, ff_pkt->fname, 0, attribs, 0, ff_pkt->link, 0,
               attribsEx, 0);
-   } else if (ff_pkt->type == FT_DIR) {
+   } else if (ff_pkt->type == FT_DIREND) {
       /* Here link is the canonical filename (i.e. with trailing slash) */
       stat = bnet_fsend(sd, "%ld %d %s%c%s%c%c%s%c", jcr->JobFiles, 
               ff_pkt->type, ff_pkt->link, 0, attribs, 0, 0, attribsEx, 0);
@@ -312,12 +301,13 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
               ff_pkt->type, ff_pkt->fname, 0, attribs, 0, 0, attribsEx, 0);
    }
 
-   Dmsg2(100, ">stored: attr len=%d: %s\n", sd->msglen, sd->msg);
+   Dmsg2(300, ">stored: attr len=%d: %s\n", sd->msglen, sd->msg);
    if (!stat) {
       if (is_bopen(&ff_pkt->bfd)) {
         bclose(&ff_pkt->bfd);
       }
       set_jcr_job_status(jcr, JS_ErrorTerminated);
+      Jmsg0(jcr, M_FATAL, 0, _("Network send error.\n"));
       return 0;
    }
    bnet_sig(sd, BNET_EOD);           /* indicate end of attributes data */
@@ -335,25 +325,15 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
       rbuf = sd->msg;                /* read buffer */             
       wbuf = sd->msg;                /* write buffer */
 
-      Dmsg1(100, "Saving data, type=%d\n", ff_pkt->type);
 
-      if (ff_pkt->flags & FO_SPARSE) {
-        stream = STREAM_SPARSE_DATA;
-      } else {
-        stream = STREAM_FILE_DATA;
-      }
+      Dmsg1(300, "Saving data, type=%d\n", ff_pkt->type);
+
 
 #ifdef HAVE_LIBZ
       uLong compress_len, max_compress_len = 0;
       const Bytef *cbuf = NULL;
 
       if (ff_pkt->flags & FO_GZIP) {
-        if (stream == STREAM_FILE_DATA) {
-           stream = STREAM_GZIP_DATA;
-        } else {
-           stream = STREAM_SPARSE_GZIP_DATA;
-        }
-
         if (ff_pkt->flags & FO_SPARSE) {
            cbuf = (Bytef *)jcr->compress_buf + SPARSE_FADDR_SIZE;
            max_compress_len = jcr->compress_buf_size - SPARSE_FADDR_SIZE;
@@ -369,12 +349,13 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
        * Send Data header to Storage daemon
        *    <file-index> <stream> <info>
        */
-      if (!bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, stream)) {
+      if (!bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, data_stream)) {
         bclose(&ff_pkt->bfd);
         set_jcr_job_status(jcr, JS_ErrorTerminated);
+         Jmsg0(jcr, M_FATAL, 0, _("Network send error.\n"));
         return 0;
       }
-      Dmsg1(100, ">stored: datahdr %s\n", sd->msg);
+      Dmsg1(300, ">stored: datahdr %s\n", sd->msg);
 
       if (ff_pkt->flags & FO_MD5) {
         MD5Init(&md5c);
@@ -389,12 +370,19 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
       if (ff_pkt->flags & FO_SPARSE) {
         rbuf += SPARSE_FADDR_SIZE;
         rsize -= SPARSE_FADDR_SIZE;
+#ifdef HAVE_FREEBSD_OS
+        /* 
+         * To read FreeBSD partitions, the read size must be
+         *  a multiple of 512.
+         */
+        rsize = (rsize/512) * 512;
+#endif
       }
 
       /* 
        * Read the file data
        */
-      while ((sd->msglen=bread(&ff_pkt->bfd, rbuf, rsize)) > 0) {
+      while ((sd->msglen=(uint32_t)bread(&ff_pkt->bfd, rbuf, rsize)) > 0) {
         int sparseBlock = 0;
 
         /* Check for sparse blocks */
@@ -446,7 +434,6 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
         }
 #endif
 
-        /*       #ifndef FD_NO_SEND_TEST */
         /* Send the buffer to the Storage daemon */
         if (!sparseBlock) {
            if (ff_pkt->flags & FO_SPARSE) {
@@ -454,10 +441,11 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
            }
            sd->msg = wbuf;           /* set correct write buffer */
            if (!bnet_send(sd)) {
-              sd->msg = msgsave;     /* restore read buffer */
+              sd->msg = msgsave;     /* restore bnet buffer */
               sd->msglen = 0;
               bclose(&ff_pkt->bfd);
               set_jcr_job_status(jcr, JS_ErrorTerminated);
+               Jmsg0(jcr, M_FATAL, 0, _("Network send error.\n"));
               return 0;
            }
         }
@@ -477,26 +465,95 @@ static int save_file(FF_PKT *ff_pkt, void *vjcr)
       bclose(&ff_pkt->bfd);             /* close file */
       if (!bnet_sig(sd, BNET_EOD)) {    /* indicate end of file data */
         set_jcr_job_status(jcr, JS_ErrorTerminated);
+         Jmsg0(jcr, M_FATAL, 0, _("Network send error.\n"));
         return 0;
       }
    }
-
+   
+#ifdef HAVE_ACL
+   /* ACL stream */
+   if (ff_pkt->flags & FO_ACL) {
+      char *acl_text;
+      /* Read ACLs for files, dirs and links */
+      if (ff_pkt->type == FT_DIREND) {
+        /* Directory: Try for default ACL*/
+        acl_t myAcl = acl_get_file(ff_pkt->fname, ACL_TYPE_DEFAULT);
+        if (!myAcl) {
+            Dmsg1(200, "No default ACL defined for directory: %s!\n", ff_pkt->fname);
+           /* If there is no default ACL get standard ACL */
+           myAcl = acl_get_file(ff_pkt->fname, ACL_TYPE_ACCESS);
+           if (!myAcl) {
+               Emsg1(M_WARNING, 0, "Error while trying to get ACL of directory: %s!\n", ff_pkt->fname);
+           }
+        }
+         acl_text = acl_to_any_text(myAcl, NULL, ',', TEXT_ABBREVIATE);
+        /* Free memory */
+        acl_free(myAcl);
+      } else {
+        /* Files or links */
+        acl_t myAcl = acl_get_file(ff_pkt->fname, ACL_TYPE_ACCESS);
+        if (!myAcl) {
+            Emsg1(M_WARNING, 0, "Error while trying to get ACL of file: %s!\n", ff_pkt->fname);
+           acl_free(myAcl);
+        }
+         acl_text = acl_to_any_text(myAcl, NULL, ',', TEXT_ABBREVIATE);
+        acl_free(myAcl);
+      }
+      
+      /* If there is an ACL, send it to the Storage daemon */
+      if (acl_text) {
+        sd = jcr->store_bsock;
+        pm_strcpy(&jcr->last_fname, ff_pkt->fname);
+      
+        /*
+        * Send ACL header
+        *
+        */
+         if (!bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, STREAM_UNIX_ATTRIBUTES_ACL)) {
+           set_jcr_job_status(jcr, JS_ErrorTerminated);
+           return 0;
+        }
+      
+        /* Send the buffer to the storage deamon */
+        msgsave = sd->msg;
+        sd->msg = acl_text;
+        sd->msglen = strlen(acl_text) + 1;
+        if (!bnet_send(sd)) {
+           sd->msg = msgsave;
+           sd->msglen = 0;
+           bclose(&ff_pkt->bfd);
+           set_jcr_job_status(jcr, JS_ErrorTerminated);
+            Emsg1(M_WARNING, 0, "Error while trying to send ACL of %s to SD!\n", ff_pkt->fname);
+        } else {
+           jcr->JobBytes += sd->msglen;
+           sd->msg = msgsave;
+           bclose(&ff_pkt->bfd);
+           if (!bnet_sig(sd, BNET_EOD)) {
+              set_jcr_job_status(jcr, JS_ErrorTerminated);
+           } else {
+               Dmsg1(200, "ACL of file: %s successfully backed up!\n", ff_pkt->fname);
+           }
+        }  
+      }
+   }
+#endif
 
    /* Terminate any MD5 signature and send it to Storage daemon and the Director */
    if (gotMD5 && ff_pkt->flags & FO_MD5) {
       MD5Final(signature, &md5c);
       bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, STREAM_MD5_SIGNATURE);
-      Dmsg1(100, "bfiled>stored:header %s\n", sd->msg);
+      Dmsg1(300, "bfiled>stored:header %s\n", sd->msg);
       memcpy(sd->msg, signature, 16);
       sd->msglen = 16;
       bnet_send(sd);
       bnet_sig(sd, BNET_EOD);        /* end of MD5 */
       gotMD5 = 0;
+
    } else if (gotSHA1 && ff_pkt->flags & FO_SHA1) {
    /* Terminate any SHA1 signature and send it to Storage daemon and the Director */
       SHA1Final(&sha1c, signature);
       bnet_fsend(sd, "%ld %d 0", jcr->JobFiles, STREAM_SHA1_SIGNATURE);
-      Dmsg1(100, "bfiled>stored:header %s\n", sd->msg);
+      Dmsg1(300, "bfiled>stored:header %s\n", sd->msg);
       memcpy(sd->msg, signature, 20);
       sd->msglen = 20;
       bnet_send(sd);