git.sur5r.net Git - bacula/bacula/blob - bacula/src/dird/fd_cmds.c

   1 /*
   2  *
   3  *   Bacula Director -- fd_cmds.c -- send commands to File daemon
   4  *
   5  *     Kern Sibbald, October MM
   6  *
   7  *    This routine is run as a separate thread.  There may be more
   8  *    work to be done to make it totally reentrant!!!!
   9  *
  10  *  Utility functions for sending info to File Daemon.
  11  *   These functions are used by both backup and verify.
  12  *
  13  *   Version $Id$
  14  */
  15 /*
  16    Copyright (C) 2000-2004 Kern Sibbald and John Walker
  17
  18    This program is free software; you can redistribute it and/or
  19    modify it under the terms of the GNU General Public License as
  20    published by the Free Software Foundation; either version 2 of
  21    the License, or (at your option) any later version.
  22
  23    This program is distributed in the hope that it will be useful,
  24    but WITHOUT ANY WARRANTY; without even the implied warranty of
  25    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  26    General Public License for more details.
  27
  28    You should have received a copy of the GNU General Public
  29    License along with this program; if not, write to the Free
  30    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  31    MA 02111-1307, USA.
  32
  33  */
  34
  35 #include "bacula.h"
  36 #include "dird.h"
  37
  38 /* Commands sent to File daemon */
  39 static char inc[]         = "include\n";
  40 static char exc[]         = "exclude\n";
  41 static char jobcmd[]      = "JobId=%d Job=%s SDid=%u SDtime=%u Authorization=%s\n";
  42 static char levelcmd[]    = "level = %s%s mtime_only=%d\n";
  43 static char runbefore[]   = "RunBeforeJob %s\n";
  44 static char runafter[]    = "RunAfterJob %s\n";
  45
  46
  47 /* Responses received from File daemon */
  48 static char OKinc[]       = "2000 OK include\n";
  49 static char OKexc[]       = "2000 OK exclude\n";
  50 static char OKjob[]       = "2000 OK Job";
  51 static char OKbootstrap[] = "2000 OK bootstrap\n";
  52 static char OKlevel[]     = "2000 OK level\n";
  53 static char OKRunBefore[] = "2000 OK RunBefore\n";
  54 static char OKRunAfter[]  = "2000 OK RunAfter\n";
  55
  56 /* Forward referenced functions */
  57
  58 /* External functions */
  59 extern int debug_level;
  60 extern DIRRES *director;
  61 extern int FDConnectTimeout;
  62
  63 #define INC_LIST 0
  64 #define EXC_LIST 1
  65
  66 /*
  67  * Open connection with File daemon.
  68  * Try connecting every retry_interval (default 10 sec), and
  69  *   give up after max_retry_time (default 30 mins).
  70  */
  71
  72 int connect_to_file_daemon(JCR *jcr, int retry_interval, int max_retry_time,
  73                            int verbose)
  74 {
  75    BSOCK   *fd;
  76
  77    fd = bnet_connect(jcr, retry_interval, max_retry_time,
  78         _("File daemon"), jcr->client->address,
  79         NULL, jcr->client->FDport, verbose);
  80    if (fd == NULL) {
  81       set_jcr_job_status(jcr, JS_ErrorTerminated);
  82       return 0;
  83    }
  84    Dmsg0(10, "Opened connection with File daemon\n");
  85    fd->res = (RES *)jcr->client;      /* save resource in BSOCK */
  86    jcr->file_bsock = fd;
  87    set_jcr_job_status(jcr, JS_Running);
  88
  89    if (!authenticate_file_daemon(jcr)) {
  90       set_jcr_job_status(jcr, JS_ErrorTerminated);
  91       return 0;
  92    }
  93
  94    /*
  95     * Now send JobId and authorization key
  96     */
  97    bnet_fsend(fd, jobcmd, jcr->JobId, jcr->Job, jcr->VolSessionId,
  98       jcr->VolSessionTime, jcr->sd_auth_key);
  99    if (strcmp(jcr->sd_auth_key, "dummy") != 0) {
 100       memset(jcr->sd_auth_key, 0, strlen(jcr->sd_auth_key));
 101    }
 102    Dmsg1(100, ">filed: %s", fd->msg);
 103    if (bget_dirmsg(fd) > 0) {
 104        Dmsg1(110, "<filed: %s", fd->msg);
 105        if (strncmp(fd->msg, OKjob, strlen(OKjob)) != 0) {
 106           Jmsg(jcr, M_FATAL, 0, _("File daemon \"%s\" rejected Job command: %s\n"),
 107              jcr->client->hdr.name, fd->msg);
 108           set_jcr_job_status(jcr, JS_ErrorTerminated);
 109           return 0;
 110        } else if (jcr->db) {
 111           CLIENT_DBR cr;
 112           memset(&cr, 0, sizeof(cr));
 113           bstrncpy(cr.Name, jcr->client->hdr.name, sizeof(cr.Name));
 114           cr.AutoPrune = jcr->client->AutoPrune;
 115           cr.FileRetention = jcr->client->FileRetention;
 116           cr.JobRetention = jcr->client->JobRetention;
 117           bstrncpy(cr.Uname, fd->msg+strlen(OKjob)+1, sizeof(cr.Uname));
 118           if (!db_update_client_record(jcr, jcr->db, &cr)) {
 119              Jmsg(jcr, M_WARNING, 0, _("Error updating Client record. ERR=%s\n"),
 120                 db_strerror(jcr->db));
 121           }
 122        }
 123    } else {
 124       Jmsg(jcr, M_FATAL, 0, _("FD gave bad response to JobId command: %s\n"),
 125          bnet_strerror(fd));
 126       set_jcr_job_status(jcr, JS_ErrorTerminated);
 127       return 0;
 128    }
 129    return 1;
 130 }
 131
 132 /*
 133  * This subroutine edits the last job start time into a
 134  *   "since=date/time" buffer that is returned in the
 135  *   variable since.  This is used for display purposes in
 136  *   the job report.  The time in jcr->stime is later
 137  *   passed to tell the File daemon what to do.
 138  */
 139 void get_level_since_time(JCR *jcr, char *since, int since_len)
 140 {
 141    /* Lookup the last
 142     * FULL backup job to get the time/date for a
 143     * differential or incremental save.
 144     */
 145    if (!jcr->stime) {
 146       jcr->stime = get_pool_memory(PM_MESSAGE);
 147    }
 148    jcr->stime[0] = 0;
 149    since[0] = 0;
 150    switch (jcr->JobLevel) {
 151    case L_DIFFERENTIAL:
 152    case L_INCREMENTAL:
 153       /* Look up start time of last job */
 154       jcr->jr.JobId = 0;
 155       if (!db_find_job_start_time(jcr, jcr->db, &jcr->jr, &jcr->stime)) {
 156          Jmsg(jcr, M_INFO, 0, "%s", db_strerror(jcr->db));
 157          Jmsg(jcr, M_INFO, 0, _("No prior or suitable Full backup found. Doing FULL backup.\n"));
 158          bsnprintf(since, since_len, " (upgraded from %s)",
 159             level_to_str(jcr->JobLevel));
 160          jcr->JobLevel = jcr->jr.Level = L_FULL;
 161       } else {
 162          bstrncpy(since, ", since=", since_len);
 163          bstrncat(since, jcr->stime, since_len);
 164       }
 165       Dmsg1(100, "Last start time = %s\n", jcr->stime);
 166       break;
 167    }
 168 }
 169
 170
 171 /*
 172  * Send level command to FD.
 173  * Used for backup jobs and estimate command.
 174  */
 175 int send_level_command(JCR *jcr)
 176 {
 177    BSOCK   *fd = jcr->file_bsock;
 178    utime_t stime;
 179    char ed1[50];
 180    /*
 181     * Send Level command to File daemon
 182     */
 183    switch (jcr->JobLevel) {
 184    case L_BASE:
 185       bnet_fsend(fd, levelcmd, "base", " ", 0);
 186       break;
 187    /* L_NONE is the console, sending something off to the FD */
 188    case L_NONE:
 189    case L_FULL:
 190       bnet_fsend(fd, levelcmd, "full", " ", 0);
 191       break;
 192    case L_DIFFERENTIAL:
 193    case L_INCREMENTAL:
 194 //    bnet_fsend(fd, levelcmd, "since ", jcr->stime, 0); /* old code, deprecated */
 195       stime = str_to_utime(jcr->stime);
 196       bnet_fsend(fd, levelcmd, "since_utime ", edit_uint64(stime, ed1), 0);
 197       while (bget_dirmsg(fd) >= 0) {  /* allow him to poll us to sync clocks */
 198          Jmsg(jcr, M_INFO, 0, "%s\n", fd->msg);
 199       }
 200       break;
 201    case L_SINCE:
 202    default:
 203       Jmsg2(jcr, M_FATAL, 0, _("Unimplemented backup level %d %c\n"),
 204          jcr->JobLevel, jcr->JobLevel);
 205       return 0;
 206    }
 207    Dmsg1(120, ">filed: %s", fd->msg);
 208    if (!response(jcr, fd, OKlevel, "Level", DISPLAY_ERROR)) {
 209       return 0;
 210    }
 211    return 1;
 212 }
 213
 214
 215 /*
 216  * Send either an Included or an Excluded list to FD
 217  */
 218 static int send_list(JCR *jcr, int list)
 219 {
 220    FILESET *fileset;
 221    BSOCK   *fd;
 222    int num;
 223
 224    fd = jcr->file_bsock;
 225    fileset = jcr->fileset;
 226
 227    if (list == INC_LIST) {
 228       num = fileset->num_includes;
 229    } else {
 230       num = fileset->num_excludes;
 231    }
 232
 233    for (int i=0; i < num; i++) {
 234       BPIPE *bpipe;
 235       FILE *ffd;
 236       char buf[1000];
 237       char *p;
 238       int optlen, stat;
 239       INCEXE *ie;
 240       FOPTS  *fo;
 241
 242
 243       if (list == INC_LIST) {
 244          ie = fileset->include_items[i];
 245       } else {
 246          ie = fileset->exclude_items[i];
 247       }
 248       if (ie->num_opts) {
 249          fo = ie->opts_list[0];
 250          for (int j=0; j<fo->match.size(); j++) {
 251             Dmsg1(100, "Match=%s\n", fo->match.get(j));
 252          }
 253       }
 254       for (int j=0; j<ie->name_list.size(); j++) {
 255          p = (char *)ie->name_list.get(j);
 256          switch (*p) {
 257          case '|':
 258             p++;                      /* skip over the | */
 259             fd->msg = edit_job_codes(jcr, fd->msg, p, "");
 260             bpipe = open_bpipe(fd->msg, 0, "r");
 261             if (!bpipe) {
 262                Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 263                   p, strerror(errno));
 264                goto bail_out;
 265             }
 266             /* Copy File options */
 267             if (ie->num_opts) {
 268                bstrncpy(buf, ie->opts_list[0]->opts, sizeof(buf));
 269                bstrncat(buf, " ", sizeof(buf));
 270             } else {
 271                bstrncpy(buf, "0 ", sizeof(buf));
 272             }
 273             Dmsg1(100, "Opts=%s\n", buf);
 274             optlen = strlen(buf);
 275             while (fgets(buf+optlen, sizeof(buf)-optlen, bpipe->rfd)) {
 276                fd->msglen = Mmsg(&fd->msg, "%s", buf);
 277                Dmsg2(200, "Inc/exc len=%d: %s", fd->msglen, fd->msg);
 278                if (!bnet_send(fd)) {
 279                   Jmsg(jcr, M_FATAL, 0, _(">filed: write error on socket\n"));
 280                   goto bail_out;
 281                }
 282             }
 283             if ((stat=close_bpipe(bpipe)) != 0) {
 284                Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 285                   p, stat, strerror(errno));
 286                goto bail_out;
 287             }
 288             break;
 289          case '<':
 290             p++;                      /* skip over < */
 291             if ((ffd = fopen(p, "r")) == NULL) {
 292                Jmsg(jcr, M_FATAL, 0, _("Cannot open %s file: %s. ERR=%s\n"),
 293                   list==INC_LIST?"included":"excluded", p, strerror(errno));
 294                goto bail_out;
 295             }
 296             /* Copy File options */
 297             if (ie->num_opts) {
 298                bstrncpy(buf, ie->opts_list[0]->opts, sizeof(buf));
 299                bstrncat(buf, " ", sizeof(buf));
 300             } else {
 301                bstrncpy(buf, "0 ", sizeof(buf));
 302             }
 303             Dmsg1(100, "Opts=%s\n", buf);
 304             optlen = strlen(buf);
 305             while (fgets(buf+optlen, sizeof(buf)-optlen, ffd)) {
 306                fd->msglen = Mmsg(&fd->msg, "%s", buf);
 307                if (!bnet_send(fd)) {
 308                   Jmsg(jcr, M_FATAL, 0, _(">filed: write error on socket\n"));
 309                   goto bail_out;
 310                }
 311             }
 312             fclose(ffd);
 313             break;
 314          case '\\':
 315             p++;                      /* skip over \ */
 316             /* Note, fall through wanted */
 317          default:
 318             if (ie->num_opts) {
 319                Dmsg2(100, "numopts=%d opts=%s\n", ie->num_opts, NPRT(ie->opts_list[0]->opts));
 320                pm_strcpy(&fd->msg, ie->opts_list[0]->opts);
 321                pm_strcat(&fd->msg, " ");
 322             } else {
 323                pm_strcpy(&fd->msg, "0 ");
 324             }
 325             fd->msglen = pm_strcat(&fd->msg, p);
 326             Dmsg1(100, "Inc/Exc name=%s\n", fd->msg);
 327             if (!bnet_send(fd)) {
 328                Jmsg(jcr, M_FATAL, 0, _(">filed: write error on socket\n"));
 329                goto bail_out;
 330             }
 331             break;
 332          }
 333       }
 334    }
 335    bnet_sig(fd, BNET_EOD);            /* end of data */
 336    if (list == INC_LIST) {
 337       if (!response(jcr, fd, OKinc, "Include", DISPLAY_ERROR)) {
 338          goto bail_out;
 339       }
 340    } else if (!response(jcr, fd, OKexc, "Exclude", DISPLAY_ERROR)) {
 341         goto bail_out;
 342    }
 343    return 1;
 344
 345 bail_out:
 346    set_jcr_job_status(jcr, JS_ErrorTerminated);
 347    return 0;
 348
 349 }
 350
 351 /*
 352  * Send include list to File daemon
 353  */
 354 int send_include_list(JCR *jcr)
 355 {
 356    BSOCK *fd = jcr->file_bsock;
 357    fd->msglen = pm_strcpy(&fd->msg, inc);
 358    bnet_send(fd);
 359    return send_list(jcr, INC_LIST);
 360 }
 361
 362
 363 /*
 364  * Send exclude list to File daemon
 365  */
 366 int send_exclude_list(JCR *jcr)
 367 {
 368    BSOCK *fd = jcr->file_bsock;
 369    fd->msglen = pm_strcpy(&fd->msg, exc);
 370    bnet_send(fd);
 371    return send_list(jcr, EXC_LIST);
 372 }
 373
 374
 375 /*
 376  * Send bootstrap file if any to the File daemon.
 377  *  This is used for restore and verify VolumeToCatalog
 378  */
 379 int send_bootstrap_file(JCR *jcr)
 380 {
 381    FILE *bs;
 382    char buf[1000];
 383    BSOCK *fd = jcr->file_bsock;
 384    char *bootstrap = "bootstrap\n";
 385
 386    Dmsg1(400, "send_bootstrap_file: %s\n", jcr->RestoreBootstrap);
 387    if (!jcr->RestoreBootstrap) {
 388       return 1;
 389    }
 390    bs = fopen(jcr->RestoreBootstrap, "r");
 391    if (!bs) {
 392       Jmsg(jcr, M_FATAL, 0, _("Could not open bootstrap file %s: ERR=%s\n"),
 393          jcr->RestoreBootstrap, strerror(errno));
 394       set_jcr_job_status(jcr, JS_ErrorTerminated);
 395       return 0;
 396    }
 397    bnet_fsend(fd, bootstrap);
 398    while (fgets(buf, sizeof(buf), bs)) {
 399       bnet_fsend(fd, "%s", buf);
 400    }
 401    bnet_sig(fd, BNET_EOD);
 402    fclose(bs);
 403    if (!response(jcr, fd, OKbootstrap, "Bootstrap", DISPLAY_ERROR)) {
 404       set_jcr_job_status(jcr, JS_ErrorTerminated);
 405       return 0;
 406    }
 407    return 1;
 408 }
 409
 410 /*
 411  * Send ClientRunBeforeJob and ClientRunAfterJob to File daemon
 412  */
 413 int send_run_before_and_after_commands(JCR *jcr)
 414 {
 415    POOLMEM *msg = get_pool_memory(PM_FNAME);
 416    BSOCK *fd = jcr->file_bsock;
 417    if (jcr->job->ClientRunBeforeJob) {
 418       pm_strcpy(&msg, jcr->job->ClientRunBeforeJob);
 419       bash_spaces(msg);
 420       bnet_fsend(fd, runbefore, msg);
 421       if (!response(jcr, fd, OKRunBefore, "ClientRunBeforeJob", DISPLAY_ERROR)) {
 422          set_jcr_job_status(jcr, JS_ErrorTerminated);
 423          free_pool_memory(msg);
 424          return 0;
 425       }
 426    }
 427    if (jcr->job->ClientRunAfterJob) {
 428       fd->msglen = pm_strcpy(&msg, jcr->job->ClientRunAfterJob);
 429       bash_spaces(msg);
 430       bnet_fsend(fd, runafter, msg);
 431       if (!response(jcr, fd, OKRunAfter, "ClientRunAfterJob", DISPLAY_ERROR)) {
 432          set_jcr_job_status(jcr, JS_ErrorTerminated);
 433          free_pool_memory(msg);
 434          return 0;
 435       }
 436    }
 437    free_pool_memory(msg);
 438    return 1;
 439 }
 440
 441
 442 /*
 443  * Read the attributes from the File daemon for
 444  * a Verify job and store them in the catalog.
 445  */
 446 int get_attributes_and_put_in_catalog(JCR *jcr)
 447 {
 448    BSOCK   *fd;
 449    int n = 0;
 450    ATTR_DBR ar;
 451
 452    fd = jcr->file_bsock;
 453    jcr->jr.FirstIndex = 1;
 454    memset(&ar, 0, sizeof(ar));
 455    jcr->FileIndex = 0;
 456
 457    Dmsg0(120, "bdird: waiting to receive file attributes\n");
 458    /* Pickup file attributes and signature */
 459    while (!fd->errors && (n = bget_dirmsg(fd)) > 0) {
 460
 461    /*****FIXME****** improve error handling to stop only on
 462     * really fatal problems, or the number of errors is too
 463     * large.
 464     */
 465       long file_index;
 466       int stream, len;
 467       char *attr, *p, *fn;
 468       char Opts_SIG[MAXSTRING];      /* either Verify opts or MD5/SHA1 signature */
 469       char SIG[MAXSTRING];
 470
 471       jcr->fname = check_pool_memory_size(jcr->fname, fd->msglen);
 472       if ((len = sscanf(fd->msg, "%ld %d %s", &file_index, &stream, Opts_SIG)) != 3) {
 473          Jmsg(jcr, M_FATAL, 0, _("<filed: bad attributes, expected 3 fields got %d\n\
 474 msglen=%d msg=%s\n"), len, fd->msglen, fd->msg);
 475          set_jcr_job_status(jcr, JS_ErrorTerminated);
 476          return 0;
 477       }
 478       p = fd->msg;
 479       skip_nonspaces(&p);             /* skip FileIndex */
 480       skip_spaces(&p);
 481       skip_nonspaces(&p);             /* skip Stream */
 482       skip_spaces(&p);
 483       skip_nonspaces(&p);             /* skip Opts_SHA1 */
 484       p++;                            /* skip space */
 485       fn = jcr->fname;
 486       while (*p != 0) {
 487          *fn++ = *p++;                /* copy filename */
 488       }
 489       *fn = *p++;                     /* term filename and point to attribs */
 490       attr = p;
 491
 492       if (stream == STREAM_UNIX_ATTRIBUTES || stream == STREAM_UNIX_ATTRIBUTES_EX) {
 493          jcr->JobFiles++;
 494          jcr->FileIndex = file_index;
 495          ar.attr = attr;
 496          ar.fname = jcr->fname;
 497          ar.FileIndex = file_index;
 498          ar.Stream = stream;
 499          ar.link = NULL;
 500          ar.JobId = jcr->JobId;
 501          ar.ClientId = jcr->ClientId;
 502          ar.PathId = 0;
 503          ar.FilenameId = 0;
 504
 505          Dmsg2(111, "dird<filed: stream=%d %s\n", stream, jcr->fname);
 506          Dmsg1(120, "dird<filed: attr=%s\n", attr);
 507
 508          if (!db_create_file_attributes_record(jcr, jcr->db, &ar)) {
 509             Jmsg1(jcr, M_ERROR, 0, "%s", db_strerror(jcr->db));
 510             set_jcr_job_status(jcr, JS_Error);
 511             continue;
 512          }
 513          jcr->FileId = ar.FileId;
 514       } else if (stream == STREAM_MD5_SIGNATURE || stream == STREAM_SHA1_SIGNATURE) {
 515          if (jcr->FileIndex != (uint32_t)file_index) {
 516             Jmsg2(jcr, M_ERROR, 0, _("MD5/SHA1 index %d not same as attributes %d\n"),
 517                file_index, jcr->FileIndex);
 518             set_jcr_job_status(jcr, JS_Error);
 519             continue;
 520          }
 521          db_escape_string(SIG, Opts_SIG, strlen(Opts_SIG));
 522          Dmsg2(120, "SIGlen=%d SIG=%s\n", strlen(SIG), SIG);
 523          if (!db_add_SIG_to_file_record(jcr, jcr->db, jcr->FileId, SIG,
 524                    stream==STREAM_MD5_SIGNATURE?MD5_SIG:SHA1_SIG)) {
 525             Jmsg1(jcr, M_ERROR, 0, "%s", db_strerror(jcr->db));
 526             set_jcr_job_status(jcr, JS_Error);
 527          }
 528       }
 529       jcr->jr.JobFiles = jcr->JobFiles = file_index;
 530       jcr->jr.LastIndex = file_index;
 531    }
 532    if (is_bnet_error(fd)) {
 533       Jmsg1(jcr, M_FATAL, 0, _("<filed: Network error getting attributes. ERR=%s\n"),
 534                         bnet_strerror(fd));
 535       set_jcr_job_status(jcr, JS_ErrorTerminated);
 536       return 0;
 537    }
 538
 539    set_jcr_job_status(jcr, JS_Terminated);
 540    return 1;
 541 }