git.sur5r.net Git - bacula/bacula/blob - bacula/src/filed/job.c

   1 /*
   2  *  Bacula File Daemon Job processing
   3  *
   4  *    Kern Sibbald, October MM
   5  *
   6  *   Version $Id$
   7  *
   8  */
   9 /*
  10    Copyright (C) 2000-2004 Kern Sibbald and John Walker
  11
  12    This program is free software; you can redistribute it and/or
  13    modify it under the terms of the GNU General Public License as
  14    published by the Free Software Foundation; either version 2 of
  15    the License, or (at your option) any later version.
  16
  17    This program is distributed in the hope that it will be useful,
  18    but WITHOUT ANY WARRANTY; without even the implied warranty of
  19    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  20    General Public License for more details.
  21
  22    You should have received a copy of the GNU General Public
  23    License along with this program; if not, write to the Free
  24    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  25    MA 02111-1307, USA.
  26
  27  */
  28
  29 #include "bacula.h"
  30 #include "filed.h"
  31
  32 extern char my_name[];
  33 extern CLIENT *me;                    /* our client resource */
  34
  35 /* Imported functions */
  36 extern int status_cmd(JCR *jcr);
  37 extern int qstatus_cmd(JCR *jcr);
  38
  39 /* Forward referenced functions */
  40 static int backup_cmd(JCR *jcr);
  41 static int bootstrap_cmd(JCR *jcr);
  42 static int cancel_cmd(JCR *jcr);
  43 static int setdebug_cmd(JCR *jcr);
  44 static int estimate_cmd(JCR *jcr);
  45 static int exclude_cmd(JCR *jcr);
  46 static int hello_cmd(JCR *jcr);
  47 static int job_cmd(JCR *jcr);
  48 static int include_cmd(JCR *jcr);
  49 static int fileset_cmd(JCR *jcr);
  50 static int level_cmd(JCR *jcr);
  51 static int verify_cmd(JCR *jcr);
  52 static int restore_cmd(JCR *jcr);
  53 static int storage_cmd(JCR *jcr);
  54 static int session_cmd(JCR *jcr);
  55 static int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd);
  56 static void filed_free_jcr(JCR *jcr);
  57 static int open_sd_read_session(JCR *jcr);
  58 static int send_bootstrap_file(JCR *jcr);
  59 static int runbefore_cmd(JCR *jcr);
  60 static int runafter_cmd(JCR *jcr);
  61 static int run_cmd(JCR *jcr, char *cmd, const char *name);
  62 static void set_options(findFOPTS *fo, const char *opts);
  63
  64
  65 /* Exported functions */
  66
  67 struct s_cmds {
  68    const char *cmd;
  69    int (*func)(JCR *);
  70    int monitoraccess; /* specify if monitors have access to this function */
  71 };
  72
  73 /*
  74  * The following are the recognized commands from the Director.
  75  */
  76 static struct s_cmds cmds[] = {
  77    {"backup",       backup_cmd,    0},
  78    {"cancel",       cancel_cmd,    0},
  79    {"setdebug=",    setdebug_cmd,  0},
  80    {"estimate",     estimate_cmd,  0},
  81    {"exclude",      exclude_cmd,   0},
  82    {"Hello",        hello_cmd,     1},
  83    {"include",      include_cmd,   0},
  84    {"fileset",      fileset_cmd,   0},
  85    {"JobId=",       job_cmd,       0},
  86    {"level = ",     level_cmd,     0},
  87    {"restore",      restore_cmd,   0},
  88    {"session",      session_cmd,   0},
  89    {"status",       status_cmd,    1},
  90    {".status",      qstatus_cmd,   1},
  91    {"storage ",     storage_cmd,   0},
  92    {"verify",       verify_cmd,    0},
  93    {"bootstrap",    bootstrap_cmd, 0},
  94    {"RunBeforeJob", runbefore_cmd, 0},
  95    {"RunAfterJob",  runafter_cmd,  0},
  96    {NULL,       NULL}                  /* list terminator */
  97 };
  98
  99 /* Commands received from director that need scanning */
 100 static char jobcmd[]      = "JobId=%d Job=%127s SDid=%d SDtime=%d Authorization=%100s";
 101 static char storaddr[]    = "storage address=%s port=%d ssl=%d\n";
 102 static char sessioncmd[]  = "session %127s %ld %ld %ld %ld %ld %ld\n";
 103 static char restorecmd[]  = "restore replace=%c prelinks=%d where=%s\n";
 104 static char restorecmd1[] = "restore replace=%c prelinks=%d where=\n";
 105 static char verifycmd[]   = "verify level=%30s\n";
 106 static char estimatecmd[] = "estimate listing=%d\n";
 107 static char runbefore[]   = "RunBeforeJob %s\n";
 108 static char runafter[]    = "RunAfterJob %s\n";
 109
 110 /* Responses sent to Director */
 111 static char errmsg[]      = "2999 Invalid command\n";
 112 static char no_auth[]     = "2998 No Authorization\n";
 113 static char illegal_cmd[] = "2997 Illegal command for a Director with Monitor directive enabled\n";
 114 static char OKinc[]       = "2000 OK include\n";
 115 static char OKest[]       = "2000 OK estimate files=%u bytes=%s\n";
 116 static char OKexc[]       = "2000 OK exclude\n";
 117 static char OKlevel[]     = "2000 OK level\n";
 118 static char OKbackup[]    = "2000 OK backup\n";
 119 static char OKbootstrap[] = "2000 OK bootstrap\n";
 120 static char OKverify[]    = "2000 OK verify\n";
 121 static char OKrestore[]   = "2000 OK restore\n";
 122 static char OKsession[]   = "2000 OK session\n";
 123 static char OKstore[]     = "2000 OK storage\n";
 124 static char OKjob[]       = "2000 OK Job %s,%s,%s";
 125 static char OKsetdebug[]  = "2000 OK setdebug=%d\n";
 126 static char BADjob[]      = "2901 Bad Job\n";
 127 static char EndJob[]      = "2800 End Job TermCode=%d JobFiles=%u ReadBytes=%s JobBytes=%s Errors=%u\n";
 128 static char OKRunBefore[] = "2000 OK RunBefore\n";
 129 static char OKRunAfter[]  = "2000 OK RunAfter\n";
 130
 131 /* Responses received from Storage Daemon */
 132 static char OK_end[]       = "3000 OK end\n";
 133 static char OK_close[]     = "3000 OK close Status = %d\n";
 134 static char OK_open[]      = "3000 OK open ticket = %d\n";
 135 static char OK_data[]      = "3000 OK data\n";
 136 static char OK_append[]    = "3000 OK append data\n";
 137 static char OKSDbootstrap[] = "3000 OK bootstrap\n";
 138
 139
 140 /* Commands sent to Storage Daemon */
 141 static char append_open[]  = "append open session\n";
 142 static char append_data[]  = "append data %d\n";
 143 static char append_end[]   = "append end session %d\n";
 144 static char append_close[] = "append close session %d\n";
 145 static char read_open[]    = "read open session = %s %ld %ld %ld %ld %ld %ld\n";
 146 static char read_data[]    = "read data %d\n";
 147 static char read_close[]   = "read close session %d\n";
 148
 149 /*
 150  * Accept requests from a Director
 151  *
 152  * NOTE! We are running as a separate thread
 153  *
 154  * Send output one line
 155  * at a time followed by a zero length transmission.
 156  *
 157  * Return when the connection is terminated or there
 158  * is an error.
 159  *
 160  * Basic task here is:
 161  *   Authenticate Director (during Hello command).
 162  *   Accept commands one at a time from the Director
 163  *     and execute them.
 164  *
 165  */
 166 void *handle_client_request(void *dirp)
 167 {
 168    int i;
 169    bool found, quit;
 170    JCR *jcr;
 171    BSOCK *dir = (BSOCK *)dirp;
 172
 173    jcr = new_jcr(sizeof(JCR), filed_free_jcr); /* create JCR */
 174    jcr->dir_bsock = dir;
 175    jcr->ff = init_find_files();
 176    jcr->start_time = time(NULL);
 177    jcr->last_fname = get_pool_memory(PM_FNAME);
 178    jcr->last_fname[0] = 0;
 179    jcr->client_name = get_memory(strlen(my_name) + 1);
 180    pm_strcpy(jcr->client_name, my_name);
 181    dir->jcr = jcr;
 182    enable_backup_privileges(NULL, 1 /* ignore_errors */);
 183
 184    /**********FIXME******* add command handler error code */
 185
 186    for (quit=false; !quit;) {
 187
 188       /* Read command */
 189       if (bnet_recv(dir) < 0) {
 190          break;               /* connection terminated */
 191       }
 192       dir->msg[dir->msglen] = 0;
 193       Dmsg1(100, "<dird: %s", dir->msg);
 194       found = false;
 195       for (i=0; cmds[i].cmd; i++) {
 196          if (strncmp(cmds[i].cmd, dir->msg, strlen(cmds[i].cmd)) == 0) {
 197             found = true;         /* indicate command found */
 198             if (!jcr->authenticated && cmds[i].func != hello_cmd) {
 199                bnet_fsend(dir, no_auth);
 200                bnet_sig(dir, BNET_EOD);
 201                break;
 202             }
 203             if ((jcr->authenticated) && (!cmds[i].monitoraccess) && (jcr->director->monitor)) {
 204                Dmsg1(100, "Command %s illegal.\n", cmds[i].cmd);
 205                bnet_fsend(dir, illegal_cmd);
 206                bnet_sig(dir, BNET_EOD);
 207                break;
 208             }
 209             Dmsg1(100, "Executing %s command.\n", cmds[i].cmd);
 210             if (!cmds[i].func(jcr)) {         /* do command */
 211                quit = true;         /* error or fully terminated,       get out */
 212                Dmsg0(20, "Quit command loop due to command error or Job done.\n");
 213             }
 214             break;
 215          }
 216       }
 217       if (!found) {              /* command not found */
 218          bnet_fsend(dir, errmsg);
 219          quit = true;
 220          break;
 221       }
 222    }
 223
 224    /* Inform Storage daemon that we are done */
 225    if (jcr->store_bsock) {
 226       bnet_sig(jcr->store_bsock, BNET_TERMINATE);
 227    }
 228
 229    if (jcr->RunAfterJob && !job_canceled(jcr)) {
 230       run_cmd(jcr, jcr->RunAfterJob, "ClientRunAfterJob");
 231    }
 232    dequeue_messages(jcr);             /* send any queued messages */
 233
 234    /* Inform Director that we are done */
 235    bnet_sig(dir, BNET_TERMINATE);
 236
 237    /* Clean up fileset */
 238    FF_PKT *ff = (FF_PKT *)jcr->ff;
 239    findFILESET *fileset = ff->fileset;
 240    if (fileset) {
 241       int i, j, k;
 242       /* Delete FileSet Include lists */
 243       for (i=0; i<fileset->include_list.size(); i++) {
 244          findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 245          for (j=0; j<incexe->opts_list.size(); j++) {
 246             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 247             for (k=0; k<fo->regex.size(); k++) {
 248                regfree((regex_t *)fo->regex.get(k));
 249             }
 250             fo->regex.destroy();
 251             fo->regexdir.destroy();
 252             fo->regexfile.destroy();
 253             fo->wild.destroy();
 254             fo->wilddir.destroy();
 255             fo->wildfile.destroy();
 256             fo->base.destroy();
 257             fo->fstype.destroy();
 258             if (fo->reader) {
 259                free(fo->reader);
 260             }
 261             if (fo->writer) {
 262                free(fo->writer);
 263             }
 264          }
 265          incexe->opts_list.destroy();
 266          incexe->name_list.destroy();
 267       }
 268       fileset->include_list.destroy();
 269
 270       /* Delete FileSet Exclude lists */
 271       for (i=0; i<fileset->exclude_list.size(); i++) {
 272          findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 273          for (j=0; j<incexe->opts_list.size(); j++) {
 274             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 275             fo->regex.destroy();
 276             fo->regexdir.destroy();
 277             fo->regexfile.destroy();
 278             fo->wild.destroy();
 279             fo->wilddir.destroy();
 280             fo->wildfile.destroy();
 281             fo->base.destroy();
 282             fo->fstype.destroy();
 283          }
 284          incexe->opts_list.destroy();
 285          incexe->name_list.destroy();
 286       }
 287       fileset->exclude_list.destroy();
 288       free(fileset);
 289    }
 290    Dmsg0(100, "Calling term_find_files\n");
 291    term_find_files((FF_PKT *)jcr->ff);
 292    Dmsg0(100, "Done with term_find_files\n");
 293    free_jcr(jcr);                     /* destroy JCR record */
 294    Dmsg0(100, "Done with free_jcr\n");
 295    return NULL;
 296 }
 297
 298 /*
 299  * Hello from Director he must identify himself and provide his
 300  *  password.
 301  */
 302 static int hello_cmd(JCR *jcr)
 303 {
 304    Dmsg0(120, "Calling Authenticate\n");
 305    if (!authenticate_director(jcr)) {
 306       return 0;
 307    }
 308    Dmsg0(120, "OK Authenticate\n");
 309    jcr->authenticated = true;
 310    return 1;
 311 }
 312
 313 /*
 314  * Cancel a Job
 315  */
 316 static int cancel_cmd(JCR *jcr)
 317 {
 318    BSOCK *dir = jcr->dir_bsock;
 319    char Job[MAX_NAME_LENGTH];
 320    JCR *cjcr;
 321
 322    if (sscanf(dir->msg, "cancel Job=%127s", Job) == 1) {
 323       if (!(cjcr=get_jcr_by_full_name(Job))) {
 324          bnet_fsend(dir, "2901 Job %s not found.\n", Job);
 325       } else {
 326          if (cjcr->store_bsock) {
 327             P(cjcr->mutex);
 328             cjcr->store_bsock->timed_out = 1;
 329             cjcr->store_bsock->terminated = 1;
 330 /*
 331  * #if !defined(HAVE_CYGWIN) && !defined(HAVE_WIN32)
 332  */
 333 #if !defined(HAVE_CYGWIN)
 334             pthread_kill(cjcr->my_thread_id, TIMEOUT_SIGNAL);
 335 #endif
 336             V(cjcr->mutex);
 337          }
 338          set_jcr_job_status(cjcr, JS_Canceled);
 339          free_jcr(cjcr);
 340          bnet_fsend(dir, _("2001 Job %s marked to be canceled.\n"), Job);
 341       }
 342    } else {
 343       bnet_fsend(dir, _("2902 Error scanning cancel command.\n"));
 344    }
 345    bnet_sig(dir, BNET_EOD);
 346    return 1;
 347 }
 348
 349
 350 /*
 351  * Set debug level as requested by the Director
 352  *
 353  */
 354 static int setdebug_cmd(JCR *jcr)
 355 {
 356    BSOCK *dir = jcr->dir_bsock;
 357    int level, trace_flag;
 358
 359    Dmsg1(110, "setdebug_cmd: %s", dir->msg);
 360    if (sscanf(dir->msg, "setdebug=%d trace=%d", &level, &trace_flag) != 2 || level < 0) {
 361       pm_strcpy(jcr->errmsg, dir->msg);
 362       bnet_fsend(dir, "2991 Bad setdebug command: %s\n", jcr->errmsg);
 363       return 0;
 364    }
 365    debug_level = level;
 366    set_trace(trace_flag);
 367    return bnet_fsend(dir, OKsetdebug, level);
 368 }
 369
 370
 371 static int estimate_cmd(JCR *jcr)
 372 {
 373    BSOCK *dir = jcr->dir_bsock;
 374    char ed2[50];
 375
 376    if (sscanf(dir->msg, estimatecmd, &jcr->listing) != 1) {
 377       pm_strcpy(jcr->errmsg, dir->msg);
 378       Jmsg(jcr, M_FATAL, 0, _("Bad estimate command: %s"), jcr->errmsg);
 379       bnet_fsend(dir, "2992 Bad estimate command.\n");
 380       return 0;
 381    }
 382    make_estimate(jcr);
 383    bnet_fsend(dir, OKest, jcr->num_files_examined,
 384       edit_uint64_with_commas(jcr->JobBytes, ed2));
 385    bnet_sig(dir, BNET_EOD);
 386    return 1;
 387 }
 388
 389 /*
 390  * Get JobId and Storage Daemon Authorization key from Director
 391  */
 392 static int job_cmd(JCR *jcr)
 393 {
 394    BSOCK *dir = jcr->dir_bsock;
 395    POOLMEM *sd_auth_key;
 396
 397    sd_auth_key = get_memory(dir->msglen);
 398    if (sscanf(dir->msg, jobcmd,  &jcr->JobId, jcr->Job,
 399               &jcr->VolSessionId, &jcr->VolSessionTime,
 400               sd_auth_key) != 5) {
 401       pm_strcpy(jcr->errmsg, dir->msg);
 402       Jmsg(jcr, M_FATAL, 0, _("Bad Job Command: %s"), jcr->errmsg);
 403       bnet_fsend(dir, BADjob);
 404       free_pool_memory(sd_auth_key);
 405       return 0;
 406    }
 407    jcr->sd_auth_key = bstrdup(sd_auth_key);
 408    free_pool_memory(sd_auth_key);
 409    Dmsg2(120, "JobId=%d Auth=%s\n", jcr->JobId, jcr->sd_auth_key);
 410    return bnet_fsend(dir, OKjob, HOST_OS, DISTNAME, DISTVER);
 411 }
 412
 413 static int runbefore_cmd(JCR *jcr)
 414 {
 415    int stat;
 416    BSOCK *dir = jcr->dir_bsock;
 417    POOLMEM *cmd = get_memory(dir->msglen+1);
 418
 419    Dmsg1(100, "runbefore_cmd: %s", dir->msg);
 420    if (sscanf(dir->msg, runbefore, cmd) != 1) {
 421       pm_strcpy(jcr->errmsg, dir->msg);
 422       Jmsg1(jcr, M_FATAL, 0, _("Bad RunBeforeJob command: %s\n"), jcr->errmsg);
 423       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 424       free_memory(cmd);
 425       return 0;
 426    }
 427    unbash_spaces(cmd);
 428
 429    /* Run the command now */
 430    stat = run_cmd(jcr, cmd, "ClientRunBeforeJob");
 431    free_memory(cmd);
 432    if (stat) {
 433       bnet_fsend(dir, OKRunBefore);
 434       return 1;
 435    } else {
 436       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 437       return 0;
 438    }
 439 }
 440
 441 static int runafter_cmd(JCR *jcr)
 442 {
 443    BSOCK *dir = jcr->dir_bsock;
 444    POOLMEM *msg = get_memory(dir->msglen+1);
 445
 446    Dmsg1(100, "runafter_cmd: %s", dir->msg);
 447    if (sscanf(dir->msg, runafter, msg) != 1) {
 448       pm_strcpy(jcr->errmsg, dir->msg);
 449       Jmsg1(jcr, M_FATAL, 0, _("Bad RunAfter command: %s\n"), jcr->errmsg);
 450       bnet_fsend(dir, "2905 Bad RunAfterJob command.\n");
 451       free_memory(msg);
 452       return 0;
 453    }
 454    unbash_spaces(msg);
 455    if (jcr->RunAfterJob) {
 456       free_pool_memory(jcr->RunAfterJob);
 457    }
 458    jcr->RunAfterJob = get_pool_memory(PM_FNAME);
 459    pm_strcpy(jcr->RunAfterJob, msg);
 460    free_pool_memory(msg);
 461    return bnet_fsend(dir, OKRunAfter);
 462 }
 463
 464 static int run_cmd(JCR *jcr, char *cmd, const char *name)
 465 {
 466    POOLMEM *ecmd = get_pool_memory(PM_FNAME);
 467    int status;
 468    BPIPE *bpipe;
 469    char line[MAXSTRING];
 470
 471    ecmd = edit_job_codes(jcr, ecmd, cmd, "");
 472    bpipe = open_bpipe(ecmd, 0, "r");
 473    free_pool_memory(ecmd);
 474    if (bpipe == NULL) {
 475       berrno be;
 476       Jmsg(jcr, M_FATAL, 0, _("%s could not execute. ERR=%s\n"), name,
 477          be.strerror());
 478       return 0;
 479    }
 480    while (fgets(line, sizeof(line), bpipe->rfd)) {
 481       int len = strlen(line);
 482       if (len > 0 && line[len-1] != '\n') {
 483          bstrncat(line, "\n", sizeof(line));
 484       }
 485       Jmsg(jcr, M_INFO, 0, _("%s: %s"), name, line);
 486    }
 487    status = close_bpipe(bpipe);
 488    if (status != 0) {
 489       berrno be;
 490       Jmsg(jcr, M_FATAL, 0, _("%s returned non-zero status=%d. ERR=%s\n"), name,
 491          status, be.strerror(status));
 492       return 0;
 493    }
 494    return 1;
 495 }
 496
 497
 498 #define INC_LIST 0
 499 #define EXC_LIST 1
 500
 501 static void add_fname_to_list(JCR *jcr, char *fname, int list)
 502 {
 503    char *p, *q;
 504    BPIPE *bpipe;
 505    POOLMEM *fn;
 506    FILE *ffd;
 507    char buf[1000];
 508    int optlen;
 509    int stat;
 510
 511    /* Skip leading options -- currently ignored */
 512    for (p=fname; *p && *p != ' '; p++)
 513       { }
 514    /* Skip spaces, and q points to first space */
 515    for (q=NULL; *p && *p == ' '; p++) {
 516       if (!q) {
 517          q = p;
 518       }
 519    }
 520
 521    switch (*p) {
 522    case '|':
 523       p++;                            /* skip over | */
 524       fn = get_pool_memory(PM_FNAME);
 525       fn = edit_job_codes(jcr, fn, p, "");
 526       bpipe = open_bpipe(fn, 0, "r");
 527       free_pool_memory(fn);
 528       if (!bpipe) {
 529          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 530             p, strerror(errno));
 531          return;
 532       }
 533       /* Copy File options */
 534       if (list == INC_LIST) {
 535          *q = 0;                      /* terminate options */
 536          strcpy(buf, fname);
 537          strcat(buf, " ");
 538          optlen = strlen(buf);
 539       } else {
 540          optlen = 0;
 541       }
 542       while (fgets(buf+optlen, sizeof(buf)-optlen, bpipe->rfd)) {
 543          strip_trailing_junk(buf);
 544          if (list == INC_LIST) {
 545             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 546          } else {
 547             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 548          }
 549       }
 550       if ((stat=close_bpipe(bpipe)) != 0) {
 551          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 552             p, stat, strerror(errno));
 553          return;
 554       }
 555       break;
 556    case '<':
 557       p++;                      /* skip over < */
 558       if ((ffd = fopen(p, "r")) == NULL) {
 559          berrno be;
 560          Jmsg(jcr, M_FATAL, 0, _("Cannot open %s file: %s. ERR=%s\n"),
 561             list==INC_LIST?"included":"excluded", p, be.strerror());
 562          return;
 563       }
 564       /* Copy File options */
 565       if (list == INC_LIST) {
 566          *q = 0;                      /* terminate options */
 567          strcpy(buf, fname);
 568          strcat(buf, " ");
 569          optlen = strlen(buf);
 570       } else {
 571          optlen = 0;
 572       }
 573       while (fgets(buf+optlen, sizeof(buf)-optlen, ffd)) {
 574          strip_trailing_junk(buf);
 575          if (list == INC_LIST) {
 576             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 577          } else {
 578             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 579          }
 580       }
 581       fclose(ffd);
 582       break;
 583    default:
 584       if (list == INC_LIST) {
 585          add_fname_to_include_list((FF_PKT *)jcr->ff, 1, fname);
 586       } else {
 587          add_fname_to_exclude_list((FF_PKT *)jcr->ff, p);
 588       }
 589       break;
 590    }
 591 }
 592
 593 /*
 594  *
 595  * Get list of files/directories to include from Director
 596  *
 597  */
 598 static int include_cmd(JCR *jcr)
 599 {
 600    BSOCK *dir = jcr->dir_bsock;
 601
 602    while (bnet_recv(dir) >= 0) {
 603       dir->msg[dir->msglen] = 0;
 604       strip_trailing_junk(dir->msg);
 605       Dmsg1(010, "include file: %s\n", dir->msg);
 606       add_fname_to_list(jcr, dir->msg, INC_LIST);
 607    }
 608
 609    return bnet_fsend(dir, OKinc);
 610 }
 611
 612 static bool init_fileset(JCR *jcr)
 613 {
 614    FF_PKT *ff;
 615    findFILESET *fileset;
 616
 617    if (!jcr->ff) {
 618       return false;
 619    }
 620    ff = (FF_PKT *)jcr->ff;
 621    if (ff->fileset) {
 622       return false;
 623    }
 624    fileset = (findFILESET *)malloc(sizeof(findFILESET));
 625    memset(fileset, 0, sizeof(findFILESET));
 626    ff->fileset = fileset;
 627    fileset->state = state_none;
 628    fileset->include_list.init(1, true);
 629    fileset->exclude_list.init(1, true);
 630    return true;
 631 }
 632
 633 static findFOPTS *start_options(FF_PKT *ff)
 634 {
 635    int state = ff->fileset->state;
 636    findINCEXE *incexe = ff->fileset->incexe;
 637
 638    if (state != state_options) {
 639       ff->fileset->state = state_options;
 640       findFOPTS *fo = (findFOPTS *)malloc(sizeof(findFOPTS));
 641       memset(fo, 0, sizeof(findFOPTS));
 642       fo->regex.init(1, true);
 643       fo->regexdir.init(1, true);
 644       fo->regexfile.init(1, true);
 645       fo->wild.init(1, true);
 646       fo->wilddir.init(1, true);
 647       fo->wildfile.init(1, true);
 648       fo->base.init(1, true);
 649       fo->fstype.init(1, true);
 650       incexe->current_opts = fo;
 651       incexe->opts_list.append(fo);
 652    }
 653    return incexe->current_opts;
 654
 655 }
 656
 657 /*
 658  * Add fname to include/exclude fileset list. First check for
 659  * | and < and if necessary perform command.
 660  */
 661 static void add_file_to_fileset(JCR *jcr, const char *fname, findFILESET *fileset)
 662 {
 663    char *p;
 664    BPIPE *bpipe;
 665    POOLMEM *fn;
 666    FILE *ffd;
 667    char buf[1000];
 668    int stat;
 669
 670    p = (char *)fname;
 671    switch (*p) {
 672    case '|':
 673       p++;                            /* skip over | */
 674       fn = get_pool_memory(PM_FNAME);
 675       fn = edit_job_codes(jcr, fn, p, "");
 676       bpipe = open_bpipe(fn, 0, "r");
 677       free_pool_memory(fn);
 678       if (!bpipe) {
 679          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 680             p, strerror(errno));
 681          return;
 682       }
 683       while (fgets(buf, sizeof(buf), bpipe->rfd)) {
 684          strip_trailing_junk(buf);
 685          fileset->incexe->name_list.append(bstrdup(buf));
 686       }
 687       if ((stat=close_bpipe(bpipe)) != 0) {
 688          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 689             p, stat, strerror(errno));
 690          return;
 691       }
 692       break;
 693    case '<':
 694       p++;                      /* skip over < */
 695       if ((ffd = fopen(p, "r")) == NULL) {
 696          berrno be;
 697          Jmsg(jcr, M_FATAL, 0, _("Cannot open FileSet input file: %s. ERR=%s\n"),
 698             p, be.strerror());
 699          return;
 700       }
 701       while (fgets(buf, sizeof(buf), ffd)) {
 702          strip_trailing_junk(buf);
 703          fileset->incexe->name_list.append(bstrdup(buf));
 704       }
 705       fclose(ffd);
 706       break;
 707    default:
 708       fileset->incexe->name_list.append(bstrdup(fname));
 709       break;
 710    }
 711 }
 712
 713
 714 static void add_fileset(JCR *jcr, const char *item)
 715 {
 716    FF_PKT *ff = (FF_PKT *)jcr->ff;
 717    findFILESET *fileset = ff->fileset;
 718    int state = fileset->state;
 719    findFOPTS *current_opts;
 720
 721    /* Get code, optional subcode, and position item past the dividing space */
 722    Dmsg1(100, "%s\n", item);
 723    int code = item[0];
 724    if (code != '\0') {
 725       ++item;
 726    }
 727    int subcode = ' ';               /* A space is always a valid subcode */
 728    if (item[0] != '\0' && item[0] != ' ') {
 729       subcode = item[0];
 730       ++item;
 731    }
 732    if (*item == ' ') {
 733       ++item;
 734    }
 735
 736    /* Skip all lines we receive after an error */
 737    if (state == state_error) {
 738       return;
 739    }
 740
 741    /*
 742     * The switch tests the code for validity.
 743     * The subcode is always good if it is a space, otherwise we must confirm.
 744     * We set state to state_error first assuming the subcode is invalid,
 745     * requiring state to be set in cases below that handle subcodes.
 746     */
 747    if (subcode != ' ') {
 748       state = state_error;
 749    }
 750    switch (code) {
 751    case 'I':
 752       /* New include */
 753       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 754       memset(fileset->incexe, 0, sizeof(findINCEXE));
 755       fileset->incexe->opts_list.init(1, true);
 756       fileset->incexe->name_list.init(1, true);
 757       fileset->include_list.append(fileset->incexe);
 758       break;
 759    case 'E':
 760       /* New exclude */
 761       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 762       memset(fileset->incexe, 0, sizeof(findINCEXE));
 763       fileset->incexe->opts_list.init(1, true);
 764       fileset->incexe->name_list.init(1, true);
 765       fileset->exclude_list.append(fileset->incexe);
 766       break;
 767    case 'N':
 768       state = state_none;
 769       break;
 770    case 'F':
 771       /* File item to either include/include list */
 772       state = state_include;
 773       add_file_to_fileset(jcr, item, fileset);
 774       break;
 775    case 'R':
 776       current_opts = start_options(ff);
 777       regex_t *preg;
 778       int rc;
 779       char prbuf[500];
 780       preg = (regex_t *)malloc(sizeof(regex_t));
 781       if (current_opts->flags & FO_IGNORECASE) {
 782          rc = regcomp(preg, item, REG_EXTENDED|REG_ICASE);
 783       } else {
 784          rc = regcomp(preg, item, REG_EXTENDED);
 785       }
 786       if (rc != 0) {
 787          regerror(rc, preg, prbuf, sizeof(prbuf));
 788          regfree(preg);
 789          free(preg);
 790          Jmsg(jcr, M_FATAL, 0, "REGEX %s compile error. ERR=%s\n", item, prbuf);
 791          state = state_error;
 792          break;
 793       }
 794       state = state_options;
 795       if (subcode == ' ') {
 796          current_opts->regex.append(preg);
 797       } else if (subcode == 'D') {
 798          current_opts->regexdir.append(preg);
 799       } else if (subcode == 'F') {
 800          current_opts->regexfile.append(preg);
 801       } else {
 802          state = state_error;
 803       }
 804       break;
 805    case 'B':
 806       current_opts = start_options(ff);
 807       current_opts->base.append(bstrdup(item));
 808       state = state_options;
 809       break;
 810    case 'X':
 811       current_opts = start_options(ff);
 812       current_opts->fstype.append(bstrdup(item));
 813       state = state_options;
 814       break;
 815    case 'W':
 816       current_opts = start_options(ff);
 817       state = state_options;
 818       if (subcode == ' ') {
 819          current_opts->wild.append(bstrdup(item));
 820       } else if (subcode == 'D') {
 821          current_opts->wilddir.append(bstrdup(item));
 822       } else if (subcode == 'F') {
 823          current_opts->wildfile.append(bstrdup(item));
 824       } else {
 825          state = state_error;
 826       }
 827       break;
 828    case 'O':
 829       current_opts = start_options(ff);
 830       set_options(current_opts, item);
 831       state = state_options;
 832       break;
 833    case 'D':
 834       current_opts = start_options(ff);
 835       current_opts->reader = bstrdup(item);
 836       state = state_options;
 837       break;
 838    case 'T':
 839       current_opts = start_options(ff);
 840       current_opts->writer = bstrdup(item);
 841       state = state_options;
 842       break;
 843    default:
 844       Jmsg(jcr, M_FATAL, 0, "Invalid FileSet command: %s\n", item);
 845       state = state_error;
 846       break;
 847    }
 848    ff->fileset->state = state;
 849 }
 850
 851 static bool term_fileset(JCR *jcr)
 852 {
 853    FF_PKT *ff = (FF_PKT *)jcr->ff;
 854    findFILESET *fileset = ff->fileset;
 855    int i, j, k;
 856
 857    for (i=0; i<fileset->include_list.size(); i++) {
 858       findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 859       Dmsg0(400, "I\n");
 860       for (j=0; j<incexe->opts_list.size(); j++) {
 861          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 862          for (k=0; k<fo->regex.size(); k++) {
 863             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 864          }
 865          for (k=0; k<fo->regexdir.size(); k++) {
 866             Dmsg1(400, "RD %s\n", (char *)fo->regexdir.get(k));
 867          }
 868          for (k=0; k<fo->regexfile.size(); k++) {
 869             Dmsg1(400, "RF %s\n", (char *)fo->regexfile.get(k));
 870          }
 871          for (k=0; k<fo->wild.size(); k++) {
 872             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 873          }
 874          for (k=0; k<fo->wilddir.size(); k++) {
 875             Dmsg1(400, "WD %s\n", (char *)fo->wilddir.get(k));
 876          }
 877          for (k=0; k<fo->wildfile.size(); k++) {
 878             Dmsg1(400, "WF %s\n", (char *)fo->wildfile.get(k));
 879          }
 880          for (k=0; k<fo->base.size(); k++) {
 881             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 882          }
 883          for (k=0; k<fo->fstype.size(); k++) {
 884             Dmsg1(400, "X %s\n", (char *)fo->fstype.get(k));
 885          }
 886          if (fo->reader) {
 887             Dmsg1(400, "D %s\n", fo->reader);
 888          }
 889          if (fo->writer) {
 890             Dmsg1(400, "T %s\n", fo->writer);
 891          }
 892       }
 893       for (j=0; j<incexe->name_list.size(); j++) {
 894          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 895       }
 896    }
 897    for (i=0; i<fileset->exclude_list.size(); i++) {
 898       findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 899       Dmsg0(400, "E\n");
 900       for (j=0; j<incexe->opts_list.size(); j++) {
 901          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 902          for (k=0; k<fo->regex.size(); k++) {
 903             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 904          }
 905          for (k=0; k<fo->regexdir.size(); k++) {
 906             Dmsg1(400, "RD %s\n", (char *)fo->regexdir.get(k));
 907          }
 908          for (k=0; k<fo->regexfile.size(); k++) {
 909             Dmsg1(400, "RF %s\n", (char *)fo->regexfile.get(k));
 910          }
 911          for (k=0; k<fo->wild.size(); k++) {
 912             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 913          }
 914          for (k=0; k<fo->wilddir.size(); k++) {
 915             Dmsg1(400, "WD %s\n", (char *)fo->wilddir.get(k));
 916          }
 917          for (k=0; k<fo->wildfile.size(); k++) {
 918             Dmsg1(400, "WF %s\n", (char *)fo->wildfile.get(k));
 919          }
 920          for (k=0; k<fo->base.size(); k++) {
 921             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 922          }
 923          for (k=0; k<fo->fstype.size(); k++) {
 924             Dmsg1(400, "X %s\n", (char *)fo->fstype.get(k));
 925          }
 926       }
 927       for (j=0; j<incexe->name_list.size(); j++) {
 928          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 929       }
 930    }
 931    return ff->fileset->state != state_error;
 932 }
 933
 934
 935 /*
 936  * As an optimization, we should do this during
 937  *  "compile" time in filed/job.c, and keep only a bit mask
 938  *  and the Verify options.
 939  */
 940 static void set_options(findFOPTS *fo, const char *opts)
 941 {
 942    int j;
 943    const char *p;
 944
 945    for (p=opts; *p; p++) {
 946       switch (*p) {
 947       case 'a':                 /* alway replace */
 948       case '0':                 /* no option */
 949          break;
 950       case 'e':
 951          fo->flags |= FO_EXCLUDE;
 952          break;
 953       case 'f':
 954          fo->flags |= FO_MULTIFS;
 955          break;
 956       case 'h':                 /* no recursion */
 957          fo->flags |= FO_NO_RECURSION;
 958          break;
 959       case 'H':                 /* no hard link handling */
 960          fo->flags |= FO_NO_HARDLINK;
 961          break;
 962       case 'i':
 963          fo->flags |= FO_IGNORECASE;
 964          break;
 965       case 'M':                 /* MD5 */
 966          fo->flags |= FO_MD5;
 967          break;
 968       case 'n':
 969          fo->flags |= FO_NOREPLACE;
 970          break;
 971       case 'p':                 /* use portable data format */
 972          fo->flags |= FO_PORTABLE;
 973          break;
 974       case 'R':                 /* Resource forks and Finder Info */
 975          fo->flags |= FO_HFSPLUS;
 976       case 'r':                 /* read fifo */
 977          fo->flags |= FO_READFIFO;
 978          break;
 979       case 'S':
 980          fo->flags |= FO_SHA1;
 981          break;
 982       case 's':
 983          fo->flags |= FO_SPARSE;
 984          break;
 985       case 'm':
 986          fo->flags |= FO_MTIMEONLY;
 987          break;
 988       case 'k':
 989          fo->flags |= FO_KEEPATIME;
 990          break;
 991       case 'A':
 992          fo->flags |= FO_ACL;
 993          break;
 994       case 'V':                  /* verify options */
 995          /* Copy Verify Options */
 996          for (j=0; *p && *p != ':'; p++) {
 997             fo->VerifyOpts[j] = *p;
 998             if (j < (int)sizeof(fo->VerifyOpts) - 1) {
 999                j++;
1000             }
1001          }
1002          fo->VerifyOpts[j] = 0;
1003          break;
1004       case 'w':
1005          fo->flags |= FO_IF_NEWER;
1006          break;
1007       case 'Z':                 /* gzip compression */
1008          fo->flags |= FO_GZIP;
1009          fo->GZIP_level = *++p - '0';
1010          Dmsg1(200, "Compression level=%d\n", fo->GZIP_level);
1011          break;
1012       default:
1013          Emsg1(M_ERROR, 0, "Unknown include/exclude option: %c\n", *p);
1014          break;
1015       }
1016    }
1017 }
1018
1019
1020 /*
1021  * Director is passing his Fileset
1022  */
1023 static int fileset_cmd(JCR *jcr)
1024 {
1025    BSOCK *dir = jcr->dir_bsock;
1026
1027    if (!init_fileset(jcr)) {
1028       return 0;
1029    }
1030    while (bnet_recv(dir) >= 0) {
1031       strip_trailing_junk(dir->msg);
1032       Dmsg1(400, "Fileset: %s\n", dir->msg);
1033       add_fileset(jcr, dir->msg);
1034    }
1035    if (!term_fileset(jcr)) {
1036       return 0;
1037    }
1038    return bnet_fsend(dir, OKinc);
1039 }
1040
1041
1042 /*
1043  * Get list of files to exclude from Director
1044  *
1045  */
1046 static int exclude_cmd(JCR *jcr)
1047 {
1048    BSOCK *dir = jcr->dir_bsock;
1049
1050    while (bnet_recv(dir) >= 0) {
1051       dir->msg[dir->msglen] = 0;
1052       strip_trailing_junk(dir->msg);
1053       add_fname_to_list(jcr, dir->msg, EXC_LIST);
1054       Dmsg1(110, "<dird: exclude file %s\n", dir->msg);
1055    }
1056
1057    return bnet_fsend(dir, OKexc);
1058 }
1059
1060
1061 static int bootstrap_cmd(JCR *jcr)
1062 {
1063    BSOCK *dir = jcr->dir_bsock;
1064    POOLMEM *fname = get_pool_memory(PM_FNAME);
1065    FILE *bs;
1066
1067    if (jcr->RestoreBootstrap) {
1068       unlink(jcr->RestoreBootstrap);
1069       free_pool_memory(jcr->RestoreBootstrap);
1070    }
1071    Mmsg(fname, "%s/%s.%s.bootstrap", me->working_directory, me->hdr.name,
1072       jcr->Job);
1073    Dmsg1(400, "bootstrap=%s\n", fname);
1074    jcr->RestoreBootstrap = fname;
1075    bs = fopen(fname, "a+");           /* create file */
1076    if (!bs) {
1077       berrno be;
1078       /*
1079        * Suck up what he is sending to us so that he will then
1080        *   read our error message.
1081        */
1082       while (bnet_recv(dir) >= 0)
1083         {  }
1084
1085       Jmsg(jcr, M_FATAL, 0, _("Could not create bootstrap file %s: ERR=%s\n"),
1086          jcr->RestoreBootstrap, be.strerror());
1087       free_pool_memory(jcr->RestoreBootstrap);
1088       jcr->RestoreBootstrap = NULL;
1089       set_jcr_job_status(jcr, JS_ErrorTerminated);
1090       return 0;
1091    }
1092
1093    while (bnet_recv(dir) >= 0) {
1094        Dmsg1(200, "filed<dird: bootstrap file %s\n", dir->msg);
1095        fputs(dir->msg, bs);
1096    }
1097    fclose(bs);
1098
1099    return bnet_fsend(dir, OKbootstrap);
1100 }
1101
1102
1103 /*
1104  * Get backup level from Director
1105  *
1106  */
1107 static int level_cmd(JCR *jcr)
1108 {
1109    BSOCK *dir = jcr->dir_bsock;
1110    POOLMEM *level, *buf = NULL;
1111    struct tm tm;
1112    time_t mtime;
1113    int mtime_only;
1114
1115    level = get_memory(dir->msglen+1);
1116    Dmsg1(110, "level_cmd: %s", dir->msg);
1117    if (sscanf(dir->msg, "level = %s ", level) != 1) {
1118       goto bail_out;
1119    }
1120    /* Base backup requested? */
1121    if (strcmp(level, "base") == 0) {
1122       jcr->JobLevel = L_BASE;
1123    /* Full backup requested? */
1124    } else if (strcmp(level, "full") == 0) {
1125       jcr->JobLevel = L_FULL;
1126    /*
1127     * Backup requested since <date> <time>
1128     *  This form is also used for incremental and differential
1129     *  This code is deprecated.  See since_utime for new code.
1130     */
1131    } else if (strcmp(level, "since") == 0) {
1132       jcr->JobLevel = L_SINCE;
1133       if (sscanf(dir->msg, "level = since %d-%d-%d %d:%d:%d mtime_only=%d",
1134                  &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
1135                  &tm.tm_hour, &tm.tm_min, &tm.tm_sec, &mtime_only) != 7) {
1136          goto bail_out;
1137       }
1138       tm.tm_year -= 1900;
1139       tm.tm_mon  -= 1;
1140       tm.tm_wday = tm.tm_yday = 0;
1141       tm.tm_isdst = -1;
1142       mtime = mktime(&tm);
1143       Dmsg2(100, "Got since time: %s mtime_only=%d\n", ctime(&mtime), mtime_only);
1144       jcr->incremental = 1;           /* set incremental or decremental backup */
1145       jcr->mtime = mtime;             /* set since time */
1146    /*
1147     * We get his UTC since time, then sync the clocks and correct it
1148     *   to agree with our clock.
1149     */
1150    } else if (strcmp(level, "since_utime") == 0) {
1151       buf = get_memory(dir->msglen+1);
1152       utime_t since_time, adj;
1153       btime_t his_time, bt_start, rt=0, bt_adj=0;
1154       jcr->JobLevel = L_SINCE;
1155       if (sscanf(dir->msg, "level = since_utime %s mtime_only=%d",
1156                  buf, &mtime_only) != 2) {
1157          goto bail_out;
1158       }
1159       since_time = str_to_uint64(buf);  /* this is the since time */
1160       char ed1[50], ed2[50];
1161       /*
1162        * Sync clocks by polling him for the time. We take
1163        *   10 samples of his time throwing out the first two.
1164        */
1165       for (int i=0; i<10; i++) {
1166          bt_start = get_current_btime();
1167          bnet_sig(dir, BNET_BTIME);   /* poll for time */
1168          if (bnet_recv(dir) <= 0) {   /* get response */
1169             goto bail_out;
1170          }
1171          if (sscanf(dir->msg, "btime %s", buf) != 1) {
1172             goto bail_out;
1173          }
1174          if (i < 2) {                 /* toss first two results */
1175             continue;
1176          }
1177          his_time = str_to_uint64(buf);
1178          rt = get_current_btime() - bt_start; /* compute round trip time */
1179          bt_adj -= his_time - bt_start - rt/2;
1180          Dmsg2(200, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1181       }
1182
1183       bt_adj = bt_adj / 8;            /* compute average time */
1184       Dmsg2(100, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1185       adj = btime_to_utime(bt_adj);
1186       since_time += adj;              /* adjust for clock difference */
1187       if (adj != 0) {
1188          Jmsg(jcr, M_INFO, 0, _("Since time adjusted by %d seconds.\n"), adj);
1189       }
1190       bnet_sig(dir, BNET_EOD);
1191
1192       Dmsg2(100, "adj = %d since_time=%d\n", (int)adj, (int)since_time);
1193       jcr->incremental = 1;           /* set incremental or decremental backup */
1194       jcr->mtime = (time_t)since_time; /* set since time */
1195    } else {
1196       Jmsg1(jcr, M_FATAL, 0, "Unknown backup level: %s\n", level);
1197       free_memory(level);
1198       return 0;
1199    }
1200    free_memory(level);
1201    if (buf) {
1202       free_memory(buf);
1203    }
1204    return bnet_fsend(dir, OKlevel);
1205
1206 bail_out:
1207    pm_strcpy(jcr->errmsg, dir->msg);
1208    Jmsg1(jcr, M_FATAL, 0, _("Bad level command: %s\n"), jcr->errmsg);
1209    free_memory(level);
1210    if (buf) {
1211       free_memory(buf);
1212    }
1213    return 0;
1214 }
1215
1216 /*
1217  * Get session parameters from Director -- this is for a Restore command
1218  */
1219 static int session_cmd(JCR *jcr)
1220 {
1221    BSOCK *dir = jcr->dir_bsock;
1222
1223    Dmsg1(100, "SessionCmd: %s", dir->msg);
1224    if (sscanf(dir->msg, sessioncmd, jcr->VolumeName,
1225               &jcr->VolSessionId, &jcr->VolSessionTime,
1226               &jcr->StartFile, &jcr->EndFile,
1227               &jcr->StartBlock, &jcr->EndBlock) != 7) {
1228       pm_strcpy(jcr->errmsg, dir->msg);
1229       Jmsg(jcr, M_FATAL, 0, "Bad session command: %s", jcr->errmsg);
1230       return 0;
1231    }
1232
1233    return bnet_fsend(dir, OKsession);
1234 }
1235
1236 /*
1237  * Get address of storage daemon from Director
1238  *
1239  */
1240 static int storage_cmd(JCR *jcr)
1241 {
1242    int stored_port;                /* storage daemon port */
1243    int enable_ssl;                 /* enable ssl to sd */
1244    BSOCK *dir = jcr->dir_bsock;
1245    BSOCK *sd;                         /* storage daemon bsock */
1246
1247    Dmsg1(100, "StorageCmd: %s", dir->msg);
1248    if (sscanf(dir->msg, storaddr, &jcr->stored_addr, &stored_port, &enable_ssl) != 3) {
1249       pm_strcpy(jcr->errmsg, dir->msg);
1250       Jmsg(jcr, M_FATAL, 0, _("Bad storage command: %s"), jcr->errmsg);
1251       return 0;
1252    }
1253    Dmsg3(110, "Open storage: %s:%d ssl=%d\n", jcr->stored_addr, stored_port, enable_ssl);
1254    /* Open command communications with Storage daemon */
1255    /* Try to connect for 1 hour at 10 second intervals */
1256    sd = bnet_connect(jcr, 10, (int)me->SDConnectTimeout, _("Storage daemon"),
1257                      jcr->stored_addr, NULL, stored_port, 1);
1258    if (sd == NULL) {
1259       Jmsg(jcr, M_FATAL, 0, _("Failed to connect to Storage daemon: %s:%d\n"),
1260           jcr->stored_addr, stored_port);
1261       Dmsg2(100, "Failed to connect to Storage daemon: %s:%d\n",
1262           jcr->stored_addr, stored_port);
1263       return 0;
1264    }
1265    Dmsg0(110, "Connection OK to SD.\n");
1266
1267    jcr->store_bsock = sd;
1268
1269    bnet_fsend(sd, "Hello Start Job %s\n", jcr->Job);
1270    if (!authenticate_storagedaemon(jcr)) {
1271       Jmsg(jcr, M_FATAL, 0, _("Failed to authenticate Storage daemon.\n"));
1272       return 0;
1273    }
1274    Dmsg0(110, "Authenticated with SD.\n");
1275
1276    /* Send OK to Director */
1277    return bnet_fsend(dir, OKstore);
1278 }
1279
1280
1281 /*
1282  * Do a backup. For now, we handle only Full and Incremental.
1283  */
1284 static int backup_cmd(JCR *jcr)
1285 {
1286    BSOCK *dir = jcr->dir_bsock;
1287    BSOCK *sd = jcr->store_bsock;
1288    int ok = 0;
1289    int SDJobStatus;
1290    char ed1[50], ed2[50];
1291
1292    set_jcr_job_status(jcr, JS_Blocked);
1293    jcr->JobType = JT_BACKUP;
1294    Dmsg1(100, "begin backup ff=%p\n", (FF_PKT *)jcr->ff);
1295
1296    if (sd == NULL) {
1297       Jmsg(jcr, M_FATAL, 0, _("Cannot contact Storage daemon\n"));
1298       goto cleanup;
1299    }
1300
1301    bnet_fsend(dir, OKbackup);
1302    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1303
1304    /*
1305     * Send Append Open Session to Storage daemon
1306     */
1307    bnet_fsend(sd, append_open);
1308    Dmsg1(110, ">stored: %s", sd->msg);
1309    /*
1310     * Expect to receive back the Ticket number
1311     */
1312    if (bget_msg(sd) >= 0) {
1313       Dmsg1(110, "<stored: %s", sd->msg);
1314       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1315          Jmsg(jcr, M_FATAL, 0, _("Bad response to append open: %s\n"), sd->msg);
1316          goto cleanup;
1317       }
1318       Dmsg1(110, "Got Ticket=%d\n", jcr->Ticket);
1319    } else {
1320       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to open command\n"));
1321       goto cleanup;
1322    }
1323
1324    /*
1325     * Send Append data command to Storage daemon
1326     */
1327    bnet_fsend(sd, append_data, jcr->Ticket);
1328    Dmsg1(110, ">stored: %s", sd->msg);
1329
1330    /*
1331     * Expect to get OK data
1332     */
1333    Dmsg1(110, "<stored: %s", sd->msg);
1334    if (!response(jcr, sd, OK_data, "Append Data")) {
1335       goto cleanup;
1336    }
1337
1338    /*
1339     * Send Files to Storage daemon
1340     */
1341    Dmsg1(110, "begin blast ff=%p\n", (FF_PKT *)jcr->ff);
1342    if (!blast_data_to_storage_daemon(jcr, NULL)) {
1343       set_jcr_job_status(jcr, JS_ErrorTerminated);
1344       bnet_suppress_error_messages(sd, 1);
1345       Dmsg0(110, "Error in blast_data.\n");
1346    } else {
1347       set_jcr_job_status(jcr, JS_Terminated);
1348       if (jcr->JobStatus != JS_Terminated) {
1349          bnet_suppress_error_messages(sd, 1);
1350          goto cleanup;                /* bail out now */
1351       }
1352       /*
1353        * Expect to get response to append_data from Storage daemon
1354        */
1355       if (!response(jcr, sd, OK_append, "Append Data")) {
1356          set_jcr_job_status(jcr, JS_ErrorTerminated);
1357          goto cleanup;
1358       }
1359
1360       /*
1361        * Send Append End Data to Storage daemon
1362        */
1363       bnet_fsend(sd, append_end, jcr->Ticket);
1364       /* Get end OK */
1365       if (!response(jcr, sd, OK_end, "Append End")) {
1366          set_jcr_job_status(jcr, JS_ErrorTerminated);
1367          goto cleanup;
1368       }
1369
1370       /*
1371        * Send Append Close to Storage daemon
1372        */
1373       bnet_fsend(sd, append_close, jcr->Ticket);
1374       while (bget_msg(sd) >= 0) {    /* stop on signal or error */
1375          if (sscanf(sd->msg, OK_close, &SDJobStatus) == 1) {
1376             ok = 1;
1377             Dmsg2(200, "SDJobStatus = %d %c\n", SDJobStatus, (char)SDJobStatus);
1378          }
1379       }
1380       if (!ok) {
1381          Jmsg(jcr, M_FATAL, 0, _("Append Close with SD failed.\n"));
1382          goto cleanup;
1383       }
1384       if (SDJobStatus != JS_Terminated) {
1385          Jmsg(jcr, M_FATAL, 0, _("Bad status %d returned from Storage Daemon.\n"),
1386             SDJobStatus);
1387       }
1388    }
1389
1390 cleanup:
1391    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1392       edit_uint64(jcr->ReadBytes, ed1),
1393       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1394    Dmsg1(110, "End FD msg: %s\n", dir->msg);
1395
1396    return 0;                          /* return and stop command loop */
1397 }
1398
1399 /*
1400  * Do a Verify for Director
1401  *
1402  */
1403 static int verify_cmd(JCR *jcr)
1404 {
1405    BSOCK *dir = jcr->dir_bsock;
1406    BSOCK *sd  = jcr->store_bsock;
1407    char level[100], ed1[50], ed2[50];
1408
1409    jcr->JobType = JT_VERIFY;
1410    if (sscanf(dir->msg, verifycmd, level) != 1) {
1411       bnet_fsend(dir, "2994 Bad verify command: %s\n", dir->msg);
1412       return 0;
1413    }
1414    if (strcasecmp(level, "init") == 0) {
1415       jcr->JobLevel = L_VERIFY_INIT;
1416    } else if (strcasecmp(level, "catalog") == 0){
1417       jcr->JobLevel = L_VERIFY_CATALOG;
1418    } else if (strcasecmp(level, "volume") == 0){
1419       jcr->JobLevel = L_VERIFY_VOLUME_TO_CATALOG;
1420    } else if (strcasecmp(level, "data") == 0){
1421       jcr->JobLevel = L_VERIFY_DATA;
1422    } else if (strcasecmp(level, "disk_to_catalog") == 0) {
1423       jcr->JobLevel = L_VERIFY_DISK_TO_CATALOG;
1424    } else {
1425       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1426       return 0;
1427    }
1428
1429    bnet_fsend(dir, OKverify);
1430    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1431
1432    switch (jcr->JobLevel) {
1433    case L_VERIFY_INIT:
1434    case L_VERIFY_CATALOG:
1435       do_verify(jcr);
1436       break;
1437    case L_VERIFY_VOLUME_TO_CATALOG:
1438       if (!open_sd_read_session(jcr)) {
1439          return 0;
1440       }
1441       start_dir_heartbeat(jcr);
1442       do_verify_volume(jcr);
1443       stop_dir_heartbeat(jcr);
1444       /*
1445        * Send Close session command to Storage daemon
1446        */
1447       bnet_fsend(sd, read_close, jcr->Ticket);
1448       Dmsg1(130, "bfiled>stored: %s", sd->msg);
1449
1450       /* ****FIXME**** check response */
1451       bget_msg(sd);                      /* get OK */
1452
1453       /* Inform Storage daemon that we are done */
1454       bnet_sig(sd, BNET_TERMINATE);
1455
1456       break;
1457    case L_VERIFY_DISK_TO_CATALOG:
1458       do_verify(jcr);
1459       break;
1460    default:
1461       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1462       return 0;
1463    }
1464
1465    bnet_sig(dir, BNET_EOD);
1466
1467    /* Send termination status back to Dir */
1468    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1469       edit_uint64(jcr->ReadBytes, ed1),
1470       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1471
1472    /* Inform Director that we are done */
1473    bnet_sig(dir, BNET_TERMINATE);
1474    return 0;                          /* return and terminate command loop */
1475 }
1476
1477 /*
1478  * Do a Restore for Director
1479  *
1480  */
1481 static int restore_cmd(JCR *jcr)
1482 {
1483    BSOCK *dir = jcr->dir_bsock;
1484    BSOCK *sd = jcr->store_bsock;
1485    POOLMEM *where;
1486    int prefix_links;
1487    char replace;
1488    char ed1[50], ed2[50];
1489
1490    /*
1491     * Scan WHERE (base directory for restore) from command
1492     */
1493    Dmsg0(150, "restore command\n");
1494    /* Pickup where string */
1495    where = get_memory(dir->msglen+1);
1496    *where = 0;
1497
1498    if (sscanf(dir->msg, restorecmd, &replace, &prefix_links, where) != 3) {
1499       if (sscanf(dir->msg, restorecmd1, &replace, &prefix_links) != 2) {
1500          pm_strcpy(jcr->errmsg, dir->msg);
1501          Jmsg(jcr, M_FATAL, 0, _("Bad replace command. CMD=%s\n"), jcr->errmsg);
1502          return 0;
1503       }
1504       *where = 0;
1505    }
1506    /* Turn / into nothing */
1507    if (where[0] == '/' && where[1] == 0) {
1508       where[0] = 0;
1509    }
1510
1511    Dmsg2(150, "Got replace %c, where=%s\n", replace, where);
1512    unbash_spaces(where);
1513    jcr->where = bstrdup(where);
1514    free_pool_memory(where);
1515    jcr->replace = replace;
1516    jcr->prefix_links = prefix_links;
1517
1518    bnet_fsend(dir, OKrestore);
1519    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1520
1521    jcr->JobType = JT_RESTORE;
1522
1523    set_jcr_job_status(jcr, JS_Blocked);
1524    if (!open_sd_read_session(jcr)) {
1525       set_jcr_job_status(jcr, JS_ErrorTerminated);
1526       goto bail_out;
1527    }
1528
1529    set_jcr_job_status(jcr, JS_Running);
1530
1531    /*
1532     * Do restore of files and data
1533     */
1534    start_dir_heartbeat(jcr);
1535    do_restore(jcr);
1536    stop_dir_heartbeat(jcr);
1537
1538    set_jcr_job_status(jcr, JS_Terminated);
1539    if (jcr->JobStatus != JS_Terminated) {
1540       bnet_suppress_error_messages(sd, 1);
1541    }
1542
1543    /*
1544     * Send Close session command to Storage daemon
1545     */
1546    bnet_fsend(sd, read_close, jcr->Ticket);
1547    Dmsg1(130, "bfiled>stored: %s", sd->msg);
1548
1549    bget_msg(sd);                      /* get OK */
1550
1551    /* Inform Storage daemon that we are done */
1552    bnet_sig(sd, BNET_TERMINATE);
1553
1554 bail_out:
1555
1556    if (jcr->Errors) {
1557       set_jcr_job_status(jcr, JS_ErrorTerminated);
1558    }
1559    /* Send termination status back to Dir */
1560    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1561       edit_uint64(jcr->ReadBytes, ed1),
1562       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1563
1564    /* Inform Director that we are done */
1565    bnet_sig(dir, BNET_TERMINATE);
1566
1567    Dmsg0(130, "Done in job.c\n");
1568    return 0;                          /* return and terminate command loop */
1569 }
1570
1571 static int open_sd_read_session(JCR *jcr)
1572 {
1573    BSOCK *sd = jcr->store_bsock;
1574
1575    if (!sd) {
1576       Jmsg(jcr, M_FATAL, 0, _("Improper calling sequence.\n"));
1577       return 0;
1578    }
1579    Dmsg4(120, "VolSessId=%ld VolsessT=%ld SF=%ld EF=%ld\n",
1580       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile);
1581    Dmsg2(120, "JobId=%d vol=%s\n", jcr->JobId, "DummyVolume");
1582    /*
1583     * Open Read Session with Storage daemon
1584     */
1585    bnet_fsend(sd, read_open, jcr->VolumeName,
1586       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile,
1587       jcr->StartBlock, jcr->EndBlock);
1588    Dmsg1(110, ">stored: %s", sd->msg);
1589
1590    /*
1591     * Get ticket number
1592     */
1593    if (bget_msg(sd) >= 0) {
1594       Dmsg1(110, "bfiled<stored: %s", sd->msg);
1595       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1596          Jmsg(jcr, M_FATAL, 0, _("Bad response to SD read open: %s\n"), sd->msg);
1597          return 0;
1598       }
1599       Dmsg1(110, "bfiled: got Ticket=%d\n", jcr->Ticket);
1600    } else {
1601       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to read open command\n"));
1602       return 0;
1603    }
1604
1605    if (!send_bootstrap_file(jcr)) {
1606       return 0;
1607    }
1608
1609    /*
1610     * Start read of data with Storage daemon
1611     */
1612    bnet_fsend(sd, read_data, jcr->Ticket);
1613    Dmsg1(110, ">stored: %s", sd->msg);
1614
1615    /*
1616     * Get OK data
1617     */
1618    if (!response(jcr, sd, OK_data, "Read Data")) {
1619       return 0;
1620    }
1621    return 1;
1622 }
1623
1624 /*
1625  * Destroy the Job Control Record and associated
1626  * resources (sockets).
1627  */
1628 static void filed_free_jcr(JCR *jcr)
1629 {
1630    if (jcr->store_bsock) {
1631       bnet_close(jcr->store_bsock);
1632    }
1633    if (jcr->RestoreBootstrap) {
1634       unlink(jcr->RestoreBootstrap);
1635       free_pool_memory(jcr->RestoreBootstrap);
1636       jcr->RestoreBootstrap = NULL;
1637    }
1638    if (jcr->last_fname) {
1639       free_pool_memory(jcr->last_fname);
1640    }
1641    if (jcr->RunAfterJob) {
1642       free_pool_memory(jcr->RunAfterJob);
1643    }
1644
1645
1646    return;
1647 }
1648
1649 /*
1650  * Get response from Storage daemon to a command we
1651  * sent. Check that the response is OK.
1652  *
1653  *  Returns: 0 on failure
1654  *           1 on success
1655  */
1656 int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd)
1657 {
1658    if (sd->errors) {
1659       return 0;
1660    }
1661    if (bget_msg(sd) > 0) {
1662       Dmsg0(110, sd->msg);
1663       if (strcmp(sd->msg, resp) == 0) {
1664          return 1;
1665       }
1666    }
1667    if (job_canceled(jcr)) {
1668       return 0;                       /* if canceled avoid useless error messages */
1669    }
1670    if (is_bnet_error(sd)) {
1671       Jmsg2(jcr, M_FATAL, 0, _("Comm error with SD. bad response to %s. ERR=%s\n"),
1672          cmd, bnet_strerror(sd));
1673    } else {
1674       Jmsg3(jcr, M_FATAL, 0, _("Bad response to %s command. Wanted %s, got %s\n"),
1675          cmd, resp, sd->msg);
1676    }
1677    return 0;
1678 }
1679
1680 static int send_bootstrap_file(JCR *jcr)
1681 {
1682    FILE *bs;
1683    char buf[2000];
1684    BSOCK *sd = jcr->store_bsock;
1685    const char *bootstrap = "bootstrap\n";
1686    int stat = 0;
1687
1688    Dmsg1(400, "send_bootstrap_file: %s\n", jcr->RestoreBootstrap);
1689    if (!jcr->RestoreBootstrap) {
1690       return 1;
1691    }
1692    bs = fopen(jcr->RestoreBootstrap, "r");
1693    if (!bs) {
1694       berrno be;
1695       Jmsg(jcr, M_FATAL, 0, _("Could not open bootstrap file %s: ERR=%s\n"),
1696          jcr->RestoreBootstrap, be.strerror());
1697       set_jcr_job_status(jcr, JS_ErrorTerminated);
1698       goto bail_out;
1699    }
1700    sd->msglen = pm_strcpy(sd->msg, bootstrap);
1701    bnet_send(sd);
1702    while (fgets(buf, sizeof(buf), bs)) {
1703       sd->msglen = Mmsg(sd->msg, "%s", buf);
1704       bnet_send(sd);
1705    }
1706    bnet_sig(sd, BNET_EOD);
1707    fclose(bs);
1708    if (!response(jcr, sd, OKSDbootstrap, "Bootstrap")) {
1709       set_jcr_job_status(jcr, JS_ErrorTerminated);
1710       goto bail_out;
1711    }
1712    stat = 1;
1713
1714 bail_out:
1715    if (jcr->RestoreBootstrap) {
1716       unlink(jcr->RestoreBootstrap);
1717       free_pool_memory(jcr->RestoreBootstrap);
1718       jcr->RestoreBootstrap = NULL;
1719    }
1720
1721    return stat;
1722 }