git.sur5r.net Git - bacula/bacula/blob - bacula/src/filed/job.c

   1 /*
   2  *  Bacula File Daemon Job processing
   3  *
   4  *    Kern Sibbald, October MM
   5  *
   6  *   Version $Id$
   7  *
   8  */
   9 /*
  10    Copyright (C) 2000-2004 Kern Sibbald and John Walker
  11
  12    This program is free software; you can redistribute it and/or
  13    modify it under the terms of the GNU General Public License as
  14    published by the Free Software Foundation; either version 2 of
  15    the License, or (at your option) any later version.
  16
  17    This program is distributed in the hope that it will be useful,
  18    but WITHOUT ANY WARRANTY; without even the implied warranty of
  19    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  20    General Public License for more details.
  21
  22    You should have received a copy of the GNU General Public
  23    License along with this program; if not, write to the Free
  24    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  25    MA 02111-1307, USA.
  26
  27  */
  28
  29 #include "bacula.h"
  30 #include "filed.h"
  31
  32 extern char my_name[];
  33 extern CLIENT *me;                    /* our client resource */
  34
  35 /* Imported functions */
  36 extern int status_cmd(JCR *jcr);
  37
  38 /* Forward referenced functions */
  39 static int backup_cmd(JCR *jcr);
  40 static int bootstrap_cmd(JCR *jcr);
  41 static int cancel_cmd(JCR *jcr);
  42 static int setdebug_cmd(JCR *jcr);
  43 static int estimate_cmd(JCR *jcr);
  44 static int exclude_cmd(JCR *jcr);
  45 static int hello_cmd(JCR *jcr);
  46 static int job_cmd(JCR *jcr);
  47 static int include_cmd(JCR *jcr);
  48 static int fileset_cmd(JCR *jcr);
  49 static int level_cmd(JCR *jcr);
  50 static int verify_cmd(JCR *jcr);
  51 static int restore_cmd(JCR *jcr);
  52 static int storage_cmd(JCR *jcr);
  53 static int session_cmd(JCR *jcr);
  54 static int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd);
  55 static void filed_free_jcr(JCR *jcr);
  56 static int open_sd_read_session(JCR *jcr);
  57 static int send_bootstrap_file(JCR *jcr);
  58 static int runbefore_cmd(JCR *jcr);
  59 static int runafter_cmd(JCR *jcr);
  60 static int run_cmd(JCR *jcr, char *cmd, const char *name);
  61 static void set_options(findFOPTS *fo, const char *opts);
  62
  63
  64 /* Exported functions */
  65
  66 struct s_cmds {
  67    const char *cmd;
  68    int (*func)(JCR *);
  69 };
  70
  71 /*
  72  * The following are the recognized commands from the Director.
  73  */
  74 static struct s_cmds cmds[] = {
  75    {"backup",       backup_cmd},
  76    {"cancel",       cancel_cmd},
  77    {"setdebug=",    setdebug_cmd},
  78    {"estimate",     estimate_cmd},
  79    {"exclude",      exclude_cmd},
  80    {"Hello",        hello_cmd},
  81    {"include",      include_cmd},
  82    {"fileset",      fileset_cmd},
  83    {"JobId=",       job_cmd},
  84    {"level = ",     level_cmd},
  85    {"restore",      restore_cmd},
  86    {"session",      session_cmd},
  87    {"status",       status_cmd},
  88    {"storage ",     storage_cmd},
  89    {"verify",       verify_cmd},
  90    {"bootstrap",    bootstrap_cmd},
  91    {"RunBeforeJob", runbefore_cmd},
  92    {"RunAfterJob",  runafter_cmd},
  93    {NULL,       NULL}                  /* list terminator */
  94 };
  95
  96 /* Commands received from director that need scanning */
  97 static char jobcmd[]      = "JobId=%d Job=%127s SDid=%d SDtime=%d Authorization=%100s";
  98 static char storaddr[]    = "storage address=%s port=%d ssl=%d\n";
  99 static char sessioncmd[]  = "session %127s %ld %ld %ld %ld %ld %ld\n";
 100 static char restorecmd[]  = "restore replace=%c prelinks=%d where=%s\n";
 101 static char restorecmd1[] = "restore replace=%c prelinks=%d where=\n";
 102 static char verifycmd[]   = "verify level=%30s\n";
 103 static char estimatecmd[] = "estimate listing=%d\n";
 104 static char runbefore[]   = "RunBeforeJob %s\n";
 105 static char runafter[]    = "RunAfterJob %s\n";
 106
 107 /* Responses sent to Director */
 108 static char errmsg[]      = "2999 Invalid command\n";
 109 static char no_auth[]     = "2998 No Authorization\n";
 110 static char OKinc[]       = "2000 OK include\n";
 111 static char OKest[]       = "2000 OK estimate files=%u bytes=%s\n";
 112 static char OKexc[]       = "2000 OK exclude\n";
 113 static char OKlevel[]     = "2000 OK level\n";
 114 static char OKbackup[]    = "2000 OK backup\n";
 115 static char OKbootstrap[] = "2000 OK bootstrap\n";
 116 static char OKverify[]    = "2000 OK verify\n";
 117 static char OKrestore[]   = "2000 OK restore\n";
 118 static char OKsession[]   = "2000 OK session\n";
 119 static char OKstore[]     = "2000 OK storage\n";
 120 static char OKjob[]       = "2000 OK Job %s,%s,%s";
 121 static char OKsetdebug[]  = "2000 OK setdebug=%d\n";
 122 static char BADjob[]      = "2901 Bad Job\n";
 123 static char EndJob[]      = "2800 End Job TermCode=%d JobFiles=%u ReadBytes=%s JobBytes=%s Errors=%u\n";
 124 static char OKRunBefore[] = "2000 OK RunBefore\n";
 125 static char OKRunAfter[]  = "2000 OK RunAfter\n";
 126
 127 /* Responses received from Storage Daemon */
 128 static char OK_end[]       = "3000 OK end\n";
 129 static char OK_close[]     = "3000 OK close Status = %d\n";
 130 static char OK_open[]      = "3000 OK open ticket = %d\n";
 131 static char OK_data[]      = "3000 OK data\n";
 132 static char OK_append[]    = "3000 OK append data\n";
 133 static char OKSDbootstrap[] = "3000 OK bootstrap\n";
 134
 135
 136 /* Commands sent to Storage Daemon */
 137 static char append_open[]  = "append open session\n";
 138 static char append_data[]  = "append data %d\n";
 139 static char append_end[]   = "append end session %d\n";
 140 static char append_close[] = "append close session %d\n";
 141 static char read_open[]    = "read open session = %s %ld %ld %ld %ld %ld %ld\n";
 142 static char read_data[]    = "read data %d\n";
 143 static char read_close[]   = "read close session %d\n";
 144
 145 /*
 146  * Accept requests from a Director
 147  *
 148  * NOTE! We are running as a separate thread
 149  *
 150  * Send output one line
 151  * at a time followed by a zero length transmission.
 152  *
 153  * Return when the connection is terminated or there
 154  * is an error.
 155  *
 156  * Basic task here is:
 157  *   Authenticate Director (during Hello command).
 158  *   Accept commands one at a time from the Director
 159  *     and execute them.
 160  *
 161  */
 162 void *handle_client_request(void *dirp)
 163 {
 164    int i;
 165    bool found, quit;
 166    JCR *jcr;
 167    BSOCK *dir = (BSOCK *)dirp;
 168
 169    jcr = new_jcr(sizeof(JCR), filed_free_jcr); /* create JCR */
 170    jcr->dir_bsock = dir;
 171    jcr->ff = init_find_files();
 172    jcr->start_time = time(NULL);
 173    jcr->last_fname = get_pool_memory(PM_FNAME);
 174    jcr->last_fname[0] = 0;
 175    jcr->client_name = get_memory(strlen(my_name) + 1);
 176    pm_strcpy(&jcr->client_name, my_name);
 177    dir->jcr = jcr;
 178    enable_backup_privileges(NULL, 1 /* ignore_errors */);
 179
 180    /**********FIXME******* add command handler error code */
 181
 182    for (quit=false; !quit;) {
 183
 184       /* Read command */
 185       if (bnet_recv(dir) < 0) {
 186          break;                       /* connection terminated */
 187       }
 188       dir->msg[dir->msglen] = 0;
 189       Dmsg1(100, "<dird: %s", dir->msg);
 190       found = false;
 191       for (i=0; cmds[i].cmd; i++) {
 192          if (strncmp(cmds[i].cmd, dir->msg, strlen(cmds[i].cmd)) == 0) {
 193             if (!jcr->authenticated && cmds[i].func != hello_cmd) {
 194                bnet_fsend(dir, no_auth);
 195                break;
 196             }
 197             found = true;                /* indicate command found */
 198             Dmsg1(100, "Executing %s command.\n", cmds[i].cmd);
 199             if (!cmds[i].func(jcr)) {    /* do command */
 200                quit = true;              /* error or fully terminated,  get out */
 201                Dmsg0(20, "Quit command loop due to command error or Job done.\n");
 202             }
 203             break;
 204          }
 205       }
 206       if (!found) {                   /* command not found */
 207          bnet_fsend(dir, errmsg);
 208          quit = true;
 209          break;
 210       }
 211    }
 212
 213    /* Inform Storage daemon that we are done */
 214    if (jcr->store_bsock) {
 215       bnet_sig(jcr->store_bsock, BNET_TERMINATE);
 216    }
 217
 218    if (jcr->RunAfterJob && !job_canceled(jcr)) {
 219       run_cmd(jcr, jcr->RunAfterJob, "ClientRunAfterJob");
 220    }
 221
 222    /* Inform Director that we are done */
 223    bnet_sig(dir, BNET_TERMINATE);
 224
 225    /* Clean up fileset */
 226    FF_PKT *ff = (FF_PKT *)jcr->ff;
 227    findFILESET *fileset = ff->fileset;
 228    if (fileset) {
 229       int i, j, k;
 230       /* Delete FileSet Include lists */
 231       for (i=0; i<fileset->include_list.size(); i++) {
 232          findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 233          for (j=0; j<incexe->opts_list.size(); j++) {
 234             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 235             for (k=0; k<fo->regex.size(); k++) {
 236                regfree((regex_t *)fo->regex.get(k));
 237             }
 238             fo->regex.destroy();
 239             fo->wild.destroy();
 240             fo->base.destroy();
 241          }
 242          incexe->opts_list.destroy();
 243          incexe->name_list.destroy();
 244       }
 245       fileset->include_list.destroy();
 246
 247       /* Delete FileSet Exclude lists */
 248       for (i=0; i<fileset->exclude_list.size(); i++) {
 249          findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 250          for (j=0; j<incexe->opts_list.size(); j++) {
 251             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 252             fo->regex.destroy();
 253             fo->wild.destroy();
 254             fo->base.destroy();
 255          }
 256          incexe->opts_list.destroy();
 257          incexe->name_list.destroy();
 258       }
 259       fileset->exclude_list.destroy();
 260       free(fileset);
 261    }
 262    Dmsg0(100, "Calling term_find_files\n");
 263    term_find_files((FF_PKT *)jcr->ff);
 264    Dmsg0(100, "Done with term_find_files\n");
 265    free_jcr(jcr);                     /* destroy JCR record */
 266    Dmsg0(100, "Done with free_jcr\n");
 267    return NULL;
 268 }
 269
 270 /*
 271  * Hello from Director he must identify himself and provide his
 272  *  password.
 273  */
 274 static int hello_cmd(JCR *jcr)
 275 {
 276    Dmsg0(120, "Calling Authenticate\n");
 277    if (!authenticate_director(jcr)) {
 278       return 0;
 279    }
 280    Dmsg0(120, "OK Authenticate\n");
 281    jcr->authenticated = true;
 282    return 1;
 283 }
 284
 285 /*
 286  * Cancel a Job
 287  */
 288 static int cancel_cmd(JCR *jcr)
 289 {
 290    BSOCK *dir = jcr->dir_bsock;
 291    char Job[MAX_NAME_LENGTH];
 292    JCR *cjcr;
 293
 294    if (sscanf(dir->msg, "cancel Job=%127s", Job) == 1) {
 295       if (!(cjcr=get_jcr_by_full_name(Job))) {
 296          bnet_fsend(dir, "2901 Job %s not found.\n", Job);
 297       } else {
 298          if (cjcr->store_bsock) {
 299             P(cjcr->mutex);
 300             cjcr->store_bsock->timed_out = 1;
 301             cjcr->store_bsock->terminated = 1;
 302 /*
 303  * #if !defined(HAVE_CYGWIN) && !defined(HAVE_WIN32)
 304  */
 305 #if !defined(HAVE_CYGWIN)
 306             pthread_kill(cjcr->my_thread_id, TIMEOUT_SIGNAL);
 307 #endif
 308             V(cjcr->mutex);
 309          }
 310          set_jcr_job_status(cjcr, JS_Canceled);
 311          free_jcr(cjcr);
 312          bnet_fsend(dir, _("2001 Job %s marked to be canceled.\n"), Job);
 313       }
 314    } else {
 315       bnet_fsend(dir, _("2902 Error scanning cancel command.\n"));
 316    }
 317    bnet_sig(dir, BNET_EOD);
 318    return 1;
 319 }
 320
 321
 322 /*
 323  * Set debug level as requested by the Director
 324  *
 325  */
 326 static int setdebug_cmd(JCR *jcr)
 327 {
 328    BSOCK *dir = jcr->dir_bsock;
 329    int level, trace_flag;
 330
 331    Dmsg1(110, "setdebug_cmd: %s", dir->msg);
 332    if (sscanf(dir->msg, "setdebug=%d trace=%d", &level, &trace_flag) != 2 || level < 0) {
 333       pm_strcpy(&jcr->errmsg, dir->msg);
 334       bnet_fsend(dir, "2991 Bad setdebug command: %s\n", jcr->errmsg);
 335       return 0;
 336    }
 337    debug_level = level;
 338    set_trace(trace_flag);
 339    return bnet_fsend(dir, OKsetdebug, level);
 340 }
 341
 342
 343 static int estimate_cmd(JCR *jcr)
 344 {
 345    BSOCK *dir = jcr->dir_bsock;
 346    char ed2[50];
 347
 348    if (sscanf(dir->msg, estimatecmd, &jcr->listing) != 1) {
 349       pm_strcpy(&jcr->errmsg, dir->msg);
 350       Jmsg(jcr, M_FATAL, 0, _("Bad estimate command: %s"), jcr->errmsg);
 351       bnet_fsend(dir, "2992 Bad estimate command.\n");
 352       return 0;
 353    }
 354    make_estimate(jcr);
 355    bnet_fsend(dir, OKest, jcr->num_files_examined,
 356       edit_uint64_with_commas(jcr->JobBytes, ed2));
 357    bnet_sig(dir, BNET_EOD);
 358    return 1;
 359 }
 360
 361 /*
 362  * Get JobId and Storage Daemon Authorization key from Director
 363  */
 364 static int job_cmd(JCR *jcr)
 365 {
 366    BSOCK *dir = jcr->dir_bsock;
 367    POOLMEM *sd_auth_key;
 368
 369    sd_auth_key = get_memory(dir->msglen);
 370    if (sscanf(dir->msg, jobcmd,  &jcr->JobId, jcr->Job,
 371               &jcr->VolSessionId, &jcr->VolSessionTime,
 372               sd_auth_key) != 5) {
 373       pm_strcpy(&jcr->errmsg, dir->msg);
 374       Jmsg(jcr, M_FATAL, 0, _("Bad Job Command: %s"), jcr->errmsg);
 375       bnet_fsend(dir, BADjob);
 376       free_pool_memory(sd_auth_key);
 377       return 0;
 378    }
 379    jcr->sd_auth_key = bstrdup(sd_auth_key);
 380    free_pool_memory(sd_auth_key);
 381    Dmsg2(120, "JobId=%d Auth=%s\n", jcr->JobId, jcr->sd_auth_key);
 382    return bnet_fsend(dir, OKjob, HOST_OS, DISTNAME, DISTVER);
 383 }
 384
 385 static int runbefore_cmd(JCR *jcr)
 386 {
 387    int stat;
 388    BSOCK *dir = jcr->dir_bsock;
 389    POOLMEM *cmd = get_memory(dir->msglen+1);
 390
 391    Dmsg1(100, "runbefore_cmd: %s", dir->msg);
 392    if (sscanf(dir->msg, runbefore, cmd) != 1) {
 393       pm_strcpy(&jcr->errmsg, dir->msg);
 394       Jmsg1(jcr, M_FATAL, 0, _("Bad RunBeforeJob command: %s\n"), jcr->errmsg);
 395       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 396       free_memory(cmd);
 397       return 0;
 398    }
 399    unbash_spaces(cmd);
 400
 401    /* Run the command now */
 402    stat = run_cmd(jcr, cmd, "ClientRunBeforeJob");
 403    free_memory(cmd);
 404    if (stat) {
 405       bnet_fsend(dir, OKRunBefore);
 406       return 1;
 407    } else {
 408       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 409       return 0;
 410    }
 411 }
 412
 413 static int runafter_cmd(JCR *jcr)
 414 {
 415    BSOCK *dir = jcr->dir_bsock;
 416    POOLMEM *msg = get_memory(dir->msglen+1);
 417
 418    Dmsg1(100, "runafter_cmd: %s", dir->msg);
 419    if (sscanf(dir->msg, runafter, msg) != 1) {
 420       pm_strcpy(&jcr->errmsg, dir->msg);
 421       Jmsg1(jcr, M_FATAL, 0, _("Bad RunAfter command: %s\n"), jcr->errmsg);
 422       bnet_fsend(dir, "2905 Bad RunAfterJob command.\n");
 423       free_memory(msg);
 424       return 0;
 425    }
 426    unbash_spaces(msg);
 427    if (jcr->RunAfterJob) {
 428       free_pool_memory(jcr->RunAfterJob);
 429    }
 430    jcr->RunAfterJob = get_pool_memory(PM_FNAME);
 431    pm_strcpy(&jcr->RunAfterJob, msg);
 432    free_pool_memory(msg);
 433    return bnet_fsend(dir, OKRunAfter);
 434 }
 435
 436 static int run_cmd(JCR *jcr, char *cmd, const char *name)
 437 {
 438    POOLMEM *ecmd = get_pool_memory(PM_FNAME);
 439    int status;
 440    BPIPE *bpipe;
 441    char line[MAXSTRING];
 442
 443    ecmd = edit_job_codes(jcr, ecmd, cmd, "");
 444    bpipe = open_bpipe(ecmd, 0, "r");
 445    free_pool_memory(ecmd);
 446    if (bpipe == NULL) {
 447       Jmsg(jcr, M_FATAL, 0, _("%s could not execute\n"), name);
 448       set_jcr_job_status(jcr, JS_FatalError);
 449       return 0;
 450    }
 451    while (fgets(line, sizeof(line), bpipe->rfd)) {
 452       Jmsg(jcr, M_INFO, 0, _("%s: %s"), name, line);
 453    }
 454    status = close_bpipe(bpipe);
 455    if (status != 0) {
 456       Jmsg(jcr, M_FATAL, 0, _("%s returned non-zero status=%d\n"), name,
 457          status);
 458       set_jcr_job_status(jcr, JS_FatalError);
 459       return 0;
 460    }
 461    return 1;
 462 }
 463
 464
 465 #define INC_LIST 0
 466 #define EXC_LIST 1
 467
 468 static void add_fname_to_list(JCR *jcr, char *fname, int list)
 469 {
 470    char *p, *q;
 471    BPIPE *bpipe;
 472    POOLMEM *fn;
 473    FILE *ffd;
 474    char buf[1000];
 475    int optlen;
 476    int stat;
 477
 478    /* Skip leading options -- currently ignored */
 479    for (p=fname; *p && *p != ' '; p++)
 480       { }
 481    /* Skip spaces, and q points to first space */
 482    for (q=NULL; *p && *p == ' '; p++) {
 483       if (!q) {
 484          q = p;
 485       }
 486    }
 487
 488    switch (*p) {
 489    case '|':
 490       p++;                            /* skip over | */
 491       fn = get_pool_memory(PM_FNAME);
 492       fn = edit_job_codes(jcr, fn, p, "");
 493       bpipe = open_bpipe(fn, 0, "r");
 494       free_pool_memory(fn);
 495       if (!bpipe) {
 496          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 497             p, strerror(errno));
 498          return;
 499       }
 500       /* Copy File options */
 501       if (list == INC_LIST) {
 502          *q = 0;                      /* terminate options */
 503          strcpy(buf, fname);
 504          strcat(buf, " ");
 505          optlen = strlen(buf);
 506       } else {
 507          optlen = 0;
 508       }
 509       while (fgets(buf+optlen, sizeof(buf)-optlen, bpipe->rfd)) {
 510          strip_trailing_junk(buf);
 511          if (list == INC_LIST) {
 512             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 513          } else {
 514             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 515          }
 516       }
 517       if ((stat=close_bpipe(bpipe)) != 0) {
 518          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 519             p, stat, strerror(errno));
 520          return;
 521       }
 522       break;
 523    case '<':
 524       p++;                      /* skip over < */
 525       if ((ffd = fopen(p, "r")) == NULL) {
 526          berrno be;
 527          Jmsg(jcr, M_FATAL, 0, _("Cannot open %s file: %s. ERR=%s\n"),
 528             list==INC_LIST?"included":"excluded", p, be.strerror());
 529          return;
 530       }
 531       /* Copy File options */
 532       if (list == INC_LIST) {
 533          *q = 0;                      /* terminate options */
 534          strcpy(buf, fname);
 535          strcat(buf, " ");
 536          optlen = strlen(buf);
 537       } else {
 538          optlen = 0;
 539       }
 540       while (fgets(buf+optlen, sizeof(buf)-optlen, ffd)) {
 541          strip_trailing_junk(buf);
 542          if (list == INC_LIST) {
 543             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 544          } else {
 545             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 546          }
 547       }
 548       fclose(ffd);
 549       break;
 550    default:
 551       if (list == INC_LIST) {
 552          add_fname_to_include_list((FF_PKT *)jcr->ff, 1, fname);
 553       } else {
 554          add_fname_to_exclude_list((FF_PKT *)jcr->ff, p);
 555       }
 556       break;
 557    }
 558 }
 559
 560 /*
 561  *
 562  * Get list of files/directories to include from Director
 563  *
 564  */
 565 static int include_cmd(JCR *jcr)
 566 {
 567    BSOCK *dir = jcr->dir_bsock;
 568
 569    while (bnet_recv(dir) >= 0) {
 570       dir->msg[dir->msglen] = 0;
 571       strip_trailing_junk(dir->msg);
 572       Dmsg1(010, "include file: %s\n", dir->msg);
 573       add_fname_to_list(jcr, dir->msg, INC_LIST);
 574    }
 575
 576    return bnet_fsend(dir, OKinc);
 577 }
 578
 579 static bool init_fileset(JCR *jcr)
 580 {
 581    FF_PKT *ff;
 582    findFILESET *fileset;
 583
 584    if (!jcr->ff) {
 585       return false;
 586    }
 587    ff = (FF_PKT *)jcr->ff;
 588    if (ff->fileset) {
 589       return false;
 590    }
 591    fileset = (findFILESET *)malloc(sizeof(findFILESET));
 592    memset(fileset, 0, sizeof(findFILESET));
 593    ff->fileset = fileset;
 594    fileset->state = state_none;
 595    fileset->include_list.init(1, true);
 596    fileset->exclude_list.init(1, true);
 597    return true;
 598 }
 599
 600 static findFOPTS *start_options(FF_PKT *ff)
 601 {
 602    int state = ff->fileset->state;
 603    findINCEXE *incexe = ff->fileset->incexe;
 604
 605    if (state != state_options) {
 606       ff->fileset->state = state_options;
 607       findFOPTS *fo = (findFOPTS *)malloc(sizeof(findFOPTS));
 608       memset(fo, 0, sizeof(findFOPTS));
 609       fo->regex.init(1, true);
 610       fo->wild.init(1, true);
 611       fo->base.init(1, true);
 612       incexe->current_opts = fo;
 613       incexe->opts_list.append(fo);
 614    }
 615    return incexe->current_opts;
 616
 617 }
 618
 619 /*
 620  * Add fname to include/exclude fileset list. First check for
 621  * | and < and if necessary perform command.
 622  */
 623 static void add_file_to_fileset(JCR *jcr, const char *fname, findFILESET *fileset)
 624 {
 625    char *p;
 626    BPIPE *bpipe;
 627    POOLMEM *fn;
 628    FILE *ffd;
 629    char buf[1000];
 630    int stat;
 631
 632    p = (char *)fname;
 633    switch (*p) {
 634    case '|':
 635       p++;                            /* skip over | */
 636       fn = get_pool_memory(PM_FNAME);
 637       fn = edit_job_codes(jcr, fn, p, "");
 638       bpipe = open_bpipe(fn, 0, "r");
 639       free_pool_memory(fn);
 640       if (!bpipe) {
 641          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 642             p, strerror(errno));
 643          return;
 644       }
 645       while (fgets(buf, sizeof(buf), bpipe->rfd)) {
 646          strip_trailing_junk(buf);
 647          fileset->incexe->name_list.append(bstrdup(buf));
 648       }
 649       if ((stat=close_bpipe(bpipe)) != 0) {
 650          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 651             p, stat, strerror(errno));
 652          return;
 653       }
 654       break;
 655    case '<':
 656       p++;                      /* skip over < */
 657       if ((ffd = fopen(p, "r")) == NULL) {
 658          berrno be;
 659          Jmsg(jcr, M_FATAL, 0, _("Cannot open FileSet input file: %s. ERR=%s\n"),
 660             p, be.strerror());
 661          return;
 662       }
 663       while (fgets(buf, sizeof(buf), ffd)) {
 664          strip_trailing_junk(buf);
 665          fileset->incexe->name_list.append(bstrdup(buf));
 666       }
 667       fclose(ffd);
 668       break;
 669    default:
 670       fileset->incexe->name_list.append(bstrdup(fname));
 671       break;
 672    }
 673 }
 674
 675
 676 static void add_fileset(JCR *jcr, const char *item)
 677 {
 678    FF_PKT *ff = (FF_PKT *)jcr->ff;
 679    findFILESET *fileset = ff->fileset;
 680    int state = fileset->state;
 681    findFOPTS *current_opts;
 682
 683    Dmsg1(100, "%s\n", item);
 684    int code = item[0];
 685    if (item[1] == ' ') {              /* If string follows */
 686       item += 2;                      /* point to string */
 687    }
 688
 689    if (state == state_error) {
 690       return;
 691    }
 692    switch (code) {
 693    case 'I':
 694       /* New include */
 695       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 696       memset(fileset->incexe, 0, sizeof(findINCEXE));
 697       fileset->incexe->opts_list.init(1, true);
 698       fileset->incexe->name_list.init(1, true);
 699       fileset->include_list.append(fileset->incexe);
 700       break;
 701    case 'E':
 702       /* New exclude */
 703       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 704       memset(fileset->incexe, 0, sizeof(findINCEXE));
 705       fileset->incexe->opts_list.init(1, true);
 706       fileset->incexe->name_list.init(1, true);
 707       fileset->exclude_list.append(fileset->incexe);
 708       break;
 709    case 'N':
 710       state = state_none;
 711       break;
 712    case 'F':
 713       /* File item to either include/include list */
 714       state = state_include;
 715       add_file_to_fileset(jcr, item, fileset);
 716       break;
 717    case 'R':
 718       current_opts = start_options(ff);
 719       regex_t *preg;
 720       int rc;
 721       char prbuf[500];
 722       preg = (regex_t *)malloc(sizeof(regex_t));
 723       rc = regcomp(preg, item, REG_EXTENDED);
 724       if (rc != 0) {
 725          regerror(rc, preg, prbuf, sizeof(prbuf));
 726          regfree(preg);
 727          free(preg);
 728          Jmsg(jcr, M_FATAL, 0, "REGEX %s compile error. ERR=%s\n", item, prbuf);
 729          state = state_error;
 730          break;
 731       }
 732       current_opts->regex.append(preg);
 733       state = state_options;
 734       break;
 735    case 'B':
 736       current_opts = start_options(ff);
 737       current_opts->base.append(bstrdup(item));
 738       state = state_options;
 739       break;
 740    case 'W':
 741       current_opts = start_options(ff);
 742       current_opts->wild.append(bstrdup(item));
 743       state = state_options;
 744       break;
 745    case 'O':
 746       current_opts = start_options(ff);
 747       set_options(current_opts, item);
 748       state = state_options;
 749       break;
 750    default:
 751       Jmsg(jcr, M_FATAL, 0, "Invalid FileSet command: %s\n", item);
 752       state = state_error;
 753       break;
 754    }
 755    ff->fileset->state = state;
 756 }
 757
 758 static bool term_fileset(JCR *jcr)
 759 {
 760    FF_PKT *ff = (FF_PKT *)jcr->ff;
 761    findFILESET *fileset = ff->fileset;
 762    int i, j, k;
 763
 764    for (i=0; i<fileset->include_list.size(); i++) {
 765       findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 766       Dmsg0(400, "I\n");
 767       for (j=0; j<incexe->opts_list.size(); j++) {
 768          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 769          for (k=0; k<fo->regex.size(); k++) {
 770             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 771          }
 772          for (k=0; k<fo->wild.size(); k++) {
 773             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 774          }
 775          for (k=0; k<fo->base.size(); k++) {
 776             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 777          }
 778       }
 779       for (j=0; j<incexe->name_list.size(); j++) {
 780          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 781       }
 782    }
 783    for (i=0; i<fileset->exclude_list.size(); i++) {
 784       findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 785       Dmsg0(400, "E\n");
 786       for (j=0; j<incexe->opts_list.size(); j++) {
 787          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 788          for (k=0; k<fo->regex.size(); k++) {
 789             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 790          }
 791          for (k=0; k<fo->wild.size(); k++) {
 792             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 793          }
 794          for (k=0; k<fo->base.size(); k++) {
 795             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 796          }
 797       }
 798       for (j=0; j<incexe->name_list.size(); j++) {
 799          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 800       }
 801    }
 802    return ff->fileset->state != state_error;
 803 }
 804
 805
 806 /*
 807  * As an optimization, we should do this during
 808  *  "compile" time in filed/job.c, and keep only a bit mask
 809  *  and the Verify options.
 810  */
 811 static void set_options(findFOPTS *fo, const char *opts)
 812 {
 813    int j;
 814    const char *p;
 815
 816    for (p=opts; *p; p++) {
 817       switch (*p) {
 818       case 'a':                 /* alway replace */
 819       case '0':                 /* no option */
 820          break;
 821       case 'e':
 822          fo->flags |= FO_EXCLUDE;
 823          break;
 824       case 'f':
 825          fo->flags |= FO_MULTIFS;
 826          break;
 827       case 'h':                 /* no recursion */
 828          fo->flags |= FO_NO_RECURSION;
 829          break;
 830       case 'M':                 /* MD5 */
 831          fo->flags |= FO_MD5;
 832          break;
 833       case 'n':
 834          fo->flags |= FO_NOREPLACE;
 835          break;
 836       case 'p':                 /* use portable data format */
 837          fo->flags |= FO_PORTABLE;
 838          break;
 839       case 'r':                 /* read fifo */
 840          fo->flags |= FO_READFIFO;
 841          break;
 842       case 'S':
 843          fo->flags |= FO_SHA1;
 844          break;
 845       case 's':
 846          fo->flags |= FO_SPARSE;
 847          break;
 848       case 'm':
 849          fo->flags |= FO_MTIMEONLY;
 850          break;
 851       case 'k':
 852          fo->flags |= FO_KEEPATIME;
 853          break;
 854       case 'V':                  /* verify options */
 855          /* Copy Verify Options */
 856          for (j=0; *p && *p != ':'; p++) {
 857             fo->VerifyOpts[j] = *p;
 858             if (j < (int)sizeof(fo->VerifyOpts) - 1) {
 859                j++;
 860             }
 861          }
 862          fo->VerifyOpts[j] = 0;
 863          break;
 864       case 'w':
 865          fo->flags |= FO_IF_NEWER;
 866          break;
 867       case 'Z':                 /* gzip compression */
 868          fo->flags |= FO_GZIP;
 869          fo->GZIP_level = *++p - '0';
 870          Dmsg1(200, "Compression level=%d\n", fo->GZIP_level);
 871          break;
 872       default:
 873          Emsg1(M_ERROR, 0, "Unknown include/exclude option: %c\n", *p);
 874          break;
 875       }
 876    }
 877 }
 878
 879
 880 /*
 881  * Director is passing his Fileset
 882  */
 883 static int fileset_cmd(JCR *jcr)
 884 {
 885    BSOCK *dir = jcr->dir_bsock;
 886
 887    if (!init_fileset(jcr)) {
 888       return 0;
 889    }
 890    while (bnet_recv(dir) >= 0) {
 891       strip_trailing_junk(dir->msg);
 892       Dmsg1(400, "Fileset: %s\n", dir->msg);
 893       add_fileset(jcr, dir->msg);
 894    }
 895    if (!term_fileset(jcr)) {
 896       return 0;
 897    }
 898    return bnet_fsend(dir, OKinc);
 899 }
 900
 901
 902 /*
 903  * Get list of files to exclude from Director
 904  *
 905  */
 906 static int exclude_cmd(JCR *jcr)
 907 {
 908    BSOCK *dir = jcr->dir_bsock;
 909
 910    while (bnet_recv(dir) >= 0) {
 911       dir->msg[dir->msglen] = 0;
 912       strip_trailing_junk(dir->msg);
 913       add_fname_to_list(jcr, dir->msg, EXC_LIST);
 914       Dmsg1(110, "<dird: exclude file %s\n", dir->msg);
 915    }
 916
 917    return bnet_fsend(dir, OKexc);
 918 }
 919
 920
 921 static int bootstrap_cmd(JCR *jcr)
 922 {
 923    BSOCK *dir = jcr->dir_bsock;
 924    POOLMEM *fname = get_pool_memory(PM_FNAME);
 925    FILE *bs;
 926
 927    if (jcr->RestoreBootstrap) {
 928       unlink(jcr->RestoreBootstrap);
 929       free_pool_memory(jcr->RestoreBootstrap);
 930    }
 931    Mmsg(&fname, "%s/%s.%s.bootstrap", me->working_directory, me->hdr.name,
 932       jcr->Job);
 933    Dmsg1(400, "bootstrap=%s\n", fname);
 934    jcr->RestoreBootstrap = fname;
 935    bs = fopen(fname, "a+");           /* create file */
 936    if (!bs) {
 937       berrno be;
 938       /*
 939        * Suck up what he is sending to us so that he will then
 940        *   read our error message.
 941        */
 942       while (bnet_recv(dir) >= 0)
 943         {  }
 944
 945       Jmsg(jcr, M_FATAL, 0, _("Could not create bootstrap file %s: ERR=%s\n"),
 946          jcr->RestoreBootstrap, be.strerror());
 947       free_pool_memory(jcr->RestoreBootstrap);
 948       jcr->RestoreBootstrap = NULL;
 949       set_jcr_job_status(jcr, JS_ErrorTerminated);
 950       return 0;
 951    }
 952
 953    while (bnet_recv(dir) >= 0) {
 954        Dmsg1(200, "filed<dird: bootstrap file %s\n", dir->msg);
 955        fputs(dir->msg, bs);
 956    }
 957    fclose(bs);
 958
 959    return bnet_fsend(dir, OKbootstrap);
 960 }
 961
 962
 963 /*
 964  * Get backup level from Director
 965  *
 966  */
 967 static int level_cmd(JCR *jcr)
 968 {
 969    BSOCK *dir = jcr->dir_bsock;
 970    POOLMEM *level, *buf = NULL;
 971    struct tm tm;
 972    time_t mtime;
 973    int mtime_only;
 974
 975    level = get_memory(dir->msglen+1);
 976    Dmsg1(110, "level_cmd: %s", dir->msg);
 977    if (sscanf(dir->msg, "level = %s ", level) != 1) {
 978       goto bail_out;
 979    }
 980    /* Base backup requested? */
 981    if (strcmp(level, "base") == 0) {
 982       jcr->JobLevel = L_BASE;
 983    /* Full backup requested? */
 984    } else if (strcmp(level, "full") == 0) {
 985       jcr->JobLevel = L_FULL;
 986    /*
 987     * Backup requested since <date> <time>
 988     *  This form is also used for incremental and differential
 989     *  This code is deprecated.  See since_utime for new code.
 990     */
 991    } else if (strcmp(level, "since") == 0) {
 992       jcr->JobLevel = L_SINCE;
 993       if (sscanf(dir->msg, "level = since %d-%d-%d %d:%d:%d mtime_only=%d",
 994                  &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
 995                  &tm.tm_hour, &tm.tm_min, &tm.tm_sec, &mtime_only) != 7) {
 996          goto bail_out;
 997       }
 998       tm.tm_year -= 1900;
 999       tm.tm_mon  -= 1;
1000       tm.tm_wday = tm.tm_yday = 0;
1001       tm.tm_isdst = -1;
1002       mtime = mktime(&tm);
1003       Dmsg2(100, "Got since time: %s mtime_only=%d\n", ctime(&mtime), mtime_only);
1004       jcr->incremental = 1;           /* set incremental or decremental backup */
1005       jcr->mtime = mtime;             /* set since time */
1006    /*
1007     * We get his UTC since time, then sync the clocks and correct it
1008     *   to agree with our clock.
1009     */
1010    } else if (strcmp(level, "since_utime") == 0) {
1011       buf = get_memory(dir->msglen+1);
1012       utime_t since_time, adj;
1013       btime_t his_time, bt_start, rt=0, bt_adj=0;
1014       jcr->JobLevel = L_SINCE;
1015       if (sscanf(dir->msg, "level = since_utime %s mtime_only=%d",
1016                  buf, &mtime_only) != 2) {
1017          goto bail_out;
1018       }
1019       since_time = str_to_uint64(buf);  /* this is the since time */
1020       char ed1[50], ed2[50];
1021       /*
1022        * Sync clocks by polling him for the time. We take
1023        *   10 samples of his time throwing out the first two.
1024        */
1025       for (int i=0; i<10; i++) {
1026          bt_start = get_current_btime();
1027          bnet_sig(dir, BNET_BTIME);   /* poll for time */
1028          if (bnet_recv(dir) <= 0) {   /* get response */
1029             goto bail_out;
1030          }
1031          if (sscanf(dir->msg, "btime %s", buf) != 1) {
1032             goto bail_out;
1033          }
1034          if (i < 2) {                 /* toss first two results */
1035             continue;
1036          }
1037          his_time = str_to_uint64(buf);
1038          rt = get_current_btime() - bt_start; /* compute round trip time */
1039          bt_adj -= his_time - bt_start - rt/2;
1040          Dmsg2(200, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1041       }
1042
1043       bt_adj = bt_adj / 8;            /* compute average time */
1044       Dmsg2(100, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1045       adj = btime_to_utime(bt_adj);
1046       since_time += adj;              /* adjust for clock difference */
1047       if (adj != 0) {
1048          Jmsg(jcr, M_INFO, 0, _("Since time adjusted by %d seconds.\n"), adj);
1049       }
1050       bnet_sig(dir, BNET_EOD);
1051
1052       Dmsg2(100, "adj = %d since_time=%d\n", (int)adj, (int)since_time);
1053       jcr->incremental = 1;           /* set incremental or decremental backup */
1054       jcr->mtime = (time_t)since_time; /* set since time */
1055    } else {
1056       Jmsg1(jcr, M_FATAL, 0, "Unknown backup level: %s\n", level);
1057       free_memory(level);
1058       return 0;
1059    }
1060    free_memory(level);
1061    if (buf) {
1062       free_memory(buf);
1063    }
1064    return bnet_fsend(dir, OKlevel);
1065
1066 bail_out:
1067    pm_strcpy(&jcr->errmsg, dir->msg);
1068    Jmsg1(jcr, M_FATAL, 0, _("Bad level command: %s\n"), jcr->errmsg);
1069    free_memory(level);
1070    if (buf) {
1071       free_memory(buf);
1072    }
1073    return 0;
1074 }
1075
1076 /*
1077  * Get session parameters from Director -- this is for a Restore command
1078  */
1079 static int session_cmd(JCR *jcr)
1080 {
1081    BSOCK *dir = jcr->dir_bsock;
1082
1083    Dmsg1(100, "SessionCmd: %s", dir->msg);
1084    if (sscanf(dir->msg, sessioncmd, jcr->VolumeName,
1085               &jcr->VolSessionId, &jcr->VolSessionTime,
1086               &jcr->StartFile, &jcr->EndFile,
1087               &jcr->StartBlock, &jcr->EndBlock) != 7) {
1088       pm_strcpy(&jcr->errmsg, dir->msg);
1089       Jmsg(jcr, M_FATAL, 0, "Bad session command: %s", jcr->errmsg);
1090       return 0;
1091    }
1092
1093    return bnet_fsend(dir, OKsession);
1094 }
1095
1096 /*
1097  * Get address of storage daemon from Director
1098  *
1099  */
1100 static int storage_cmd(JCR *jcr)
1101 {
1102    int stored_port;                /* storage daemon port */
1103    int enable_ssl;                 /* enable ssl to sd */
1104    BSOCK *dir = jcr->dir_bsock;
1105    BSOCK *sd;                         /* storage daemon bsock */
1106
1107    Dmsg1(100, "StorageCmd: %s", dir->msg);
1108    if (sscanf(dir->msg, storaddr, &jcr->stored_addr, &stored_port, &enable_ssl) != 3) {
1109       pm_strcpy(&jcr->errmsg, dir->msg);
1110       Jmsg(jcr, M_FATAL, 0, _("Bad storage command: %s"), jcr->errmsg);
1111       return 0;
1112    }
1113    Dmsg3(110, "Open storage: %s:%d ssl=%d\n", jcr->stored_addr, stored_port, enable_ssl);
1114    /* Open command communications with Storage daemon */
1115    /* Try to connect for 1 hour at 10 second intervals */
1116    sd = bnet_connect(jcr, 10, (int)me->SDConnectTimeout, _("Storage daemon"),
1117                      jcr->stored_addr, NULL, stored_port, 1);
1118    if (sd == NULL) {
1119       Jmsg(jcr, M_FATAL, 0, _("Failed to connect to Storage daemon: %s:%d\n"),
1120           jcr->stored_addr, stored_port);
1121       Dmsg2(100, "Failed to connect to Storage daemon: %s:%d\n",
1122           jcr->stored_addr, stored_port);
1123       return 0;
1124    }
1125    Dmsg0(110, "Connection OK to SD.\n");
1126
1127    jcr->store_bsock = sd;
1128
1129    bnet_fsend(sd, "Hello Start Job %s\n", jcr->Job);
1130    if (!authenticate_storagedaemon(jcr)) {
1131       Jmsg(jcr, M_FATAL, 0, _("Failed to authenticate Storage daemon.\n"));
1132       return 0;
1133    }
1134    Dmsg0(110, "Authenticated with SD.\n");
1135
1136    /* Send OK to Director */
1137    return bnet_fsend(dir, OKstore);
1138 }
1139
1140
1141 /*
1142  * Do a backup. For now, we handle only Full and Incremental.
1143  */
1144 static int backup_cmd(JCR *jcr)
1145 {
1146    BSOCK *dir = jcr->dir_bsock;
1147    BSOCK *sd = jcr->store_bsock;
1148    int ok = 0;
1149    int SDJobStatus;
1150    char ed1[50], ed2[50];
1151
1152    set_jcr_job_status(jcr, JS_Blocked);
1153    jcr->JobType = JT_BACKUP;
1154    Dmsg1(100, "begin backup ff=%p\n", (FF_PKT *)jcr->ff);
1155
1156    if (sd == NULL) {
1157       Jmsg(jcr, M_FATAL, 0, _("Cannot contact Storage daemon\n"));
1158       goto cleanup;
1159    }
1160
1161    bnet_fsend(dir, OKbackup);
1162    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1163
1164    /*
1165     * Send Append Open Session to Storage daemon
1166     */
1167    bnet_fsend(sd, append_open);
1168    Dmsg1(110, ">stored: %s", sd->msg);
1169    /*
1170     * Expect to receive back the Ticket number
1171     */
1172    if (bget_msg(sd) >= 0) {
1173       Dmsg1(110, "<stored: %s", sd->msg);
1174       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1175          Jmsg(jcr, M_FATAL, 0, _("Bad response to append open: %s\n"), sd->msg);
1176          goto cleanup;
1177       }
1178       Dmsg1(110, "Got Ticket=%d\n", jcr->Ticket);
1179    } else {
1180       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to open command\n"));
1181       goto cleanup;
1182    }
1183
1184    /*
1185     * Send Append data command to Storage daemon
1186     */
1187    bnet_fsend(sd, append_data, jcr->Ticket);
1188    Dmsg1(110, ">stored: %s", sd->msg);
1189
1190    /*
1191     * Expect to get OK data
1192     */
1193    Dmsg1(110, "<stored: %s", sd->msg);
1194    if (!response(jcr, sd, OK_data, "Append Data")) {
1195       goto cleanup;
1196    }
1197
1198    /*
1199     * Send Files to Storage daemon
1200     */
1201    Dmsg1(110, "begin blast ff=%p\n", (FF_PKT *)jcr->ff);
1202    if (!blast_data_to_storage_daemon(jcr, NULL)) {
1203       set_jcr_job_status(jcr, JS_ErrorTerminated);
1204       bnet_suppress_error_messages(sd, 1);
1205       Dmsg0(110, "Error in blast_data.\n");
1206    } else {
1207       set_jcr_job_status(jcr, JS_Terminated);
1208       if (jcr->JobStatus != JS_Terminated) {
1209          bnet_suppress_error_messages(sd, 1);
1210          goto cleanup;                /* bail out now */
1211       }
1212       /*
1213        * Expect to get response to append_data from Storage daemon
1214        */
1215       if (!response(jcr, sd, OK_append, "Append Data")) {
1216          set_jcr_job_status(jcr, JS_ErrorTerminated);
1217          goto cleanup;
1218       }
1219
1220       /*
1221        * Send Append End Data to Storage daemon
1222        */
1223       bnet_fsend(sd, append_end, jcr->Ticket);
1224       /* Get end OK */
1225       if (!response(jcr, sd, OK_end, "Append End")) {
1226          set_jcr_job_status(jcr, JS_ErrorTerminated);
1227          goto cleanup;
1228       }
1229
1230       /*
1231        * Send Append Close to Storage daemon
1232        */
1233       bnet_fsend(sd, append_close, jcr->Ticket);
1234       while (bget_msg(sd) >= 0) {    /* stop on signal or error */
1235          if (sscanf(sd->msg, OK_close, &SDJobStatus) == 1) {
1236             ok = 1;
1237             Dmsg2(200, "SDJobStatus = %d %c\n", SDJobStatus, (char)SDJobStatus);
1238          }
1239       }
1240       if (!ok) {
1241          Jmsg(jcr, M_FATAL, 0, _("Append Close with SD failed.\n"));
1242          goto cleanup;
1243       }
1244       if (SDJobStatus != JS_Terminated) {
1245          Jmsg(jcr, M_FATAL, 0, _("Bad status %d returned from Storage Daemon.\n"),
1246             SDJobStatus);
1247       }
1248    }
1249
1250 cleanup:
1251    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1252       edit_uint64(jcr->ReadBytes, ed1),
1253       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1254    Dmsg1(110, "End FD msg: %s\n", dir->msg);
1255
1256    return 0;                          /* return and stop command loop */
1257 }
1258
1259 /*
1260  * Do a Verify for Director
1261  *
1262  */
1263 static int verify_cmd(JCR *jcr)
1264 {
1265    BSOCK *dir = jcr->dir_bsock;
1266    BSOCK *sd  = jcr->store_bsock;
1267    char level[100], ed1[50], ed2[50];
1268
1269    jcr->JobType = JT_VERIFY;
1270    if (sscanf(dir->msg, verifycmd, level) != 1) {
1271       bnet_fsend(dir, "2994 Bad verify command: %s\n", dir->msg);
1272       return 0;
1273    }
1274    if (strcasecmp(level, "init") == 0) {
1275       jcr->JobLevel = L_VERIFY_INIT;
1276    } else if (strcasecmp(level, "catalog") == 0){
1277       jcr->JobLevel = L_VERIFY_CATALOG;
1278    } else if (strcasecmp(level, "volume") == 0){
1279       jcr->JobLevel = L_VERIFY_VOLUME_TO_CATALOG;
1280    } else if (strcasecmp(level, "data") == 0){
1281       jcr->JobLevel = L_VERIFY_DATA;
1282    } else if (strcasecmp(level, "disk_to_catalog") == 0) {
1283       jcr->JobLevel = L_VERIFY_DISK_TO_CATALOG;
1284    } else {
1285       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1286       return 0;
1287    }
1288
1289    bnet_fsend(dir, OKverify);
1290    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1291
1292    switch (jcr->JobLevel) {
1293    case L_VERIFY_INIT:
1294    case L_VERIFY_CATALOG:
1295       do_verify(jcr);
1296       break;
1297    case L_VERIFY_VOLUME_TO_CATALOG:
1298       if (!open_sd_read_session(jcr)) {
1299          return 0;
1300       }
1301       start_dir_heartbeat(jcr);
1302       do_verify_volume(jcr);
1303       stop_dir_heartbeat(jcr);
1304       /*
1305        * Send Close session command to Storage daemon
1306        */
1307       bnet_fsend(sd, read_close, jcr->Ticket);
1308       Dmsg1(130, "bfiled>stored: %s", sd->msg);
1309
1310       /* ****FIXME**** check response */
1311       bget_msg(sd);                      /* get OK */
1312
1313       /* Inform Storage daemon that we are done */
1314       bnet_sig(sd, BNET_TERMINATE);
1315
1316       break;
1317    case L_VERIFY_DISK_TO_CATALOG:
1318       do_verify(jcr);
1319       break;
1320    default:
1321       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1322       return 0;
1323    }
1324
1325    bnet_sig(dir, BNET_EOD);
1326
1327    /* Send termination status back to Dir */
1328    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1329       edit_uint64(jcr->ReadBytes, ed1),
1330       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1331
1332    /* Inform Director that we are done */
1333    bnet_sig(dir, BNET_TERMINATE);
1334    return 0;                          /* return and terminate command loop */
1335 }
1336
1337 /*
1338  * Do a Restore for Director
1339  *
1340  */
1341 static int restore_cmd(JCR *jcr)
1342 {
1343    BSOCK *dir = jcr->dir_bsock;
1344    BSOCK *sd = jcr->store_bsock;
1345    POOLMEM *where;
1346    int prefix_links;
1347    char replace;
1348    char ed1[50], ed2[50];
1349
1350    /*
1351     * Scan WHERE (base directory for restore) from command
1352     */
1353    Dmsg0(150, "restore command\n");
1354    /* Pickup where string */
1355    where = get_memory(dir->msglen+1);
1356    *where = 0;
1357
1358    if (sscanf(dir->msg, restorecmd, &replace, &prefix_links, where) != 3) {
1359       if (sscanf(dir->msg, restorecmd1, &replace, &prefix_links) != 2) {
1360          pm_strcpy(&jcr->errmsg, dir->msg);
1361          Jmsg(jcr, M_FATAL, 0, _("Bad replace command. CMD=%s\n"), jcr->errmsg);
1362          return 0;
1363       }
1364       *where = 0;
1365    }
1366    /* Turn / into nothing */
1367    if (where[0] == '/' && where[1] == 0) {
1368       where[0] = 0;
1369    }
1370
1371    Dmsg2(150, "Got replace %c, where=%s\n", replace, where);
1372    unbash_spaces(where);
1373    jcr->where = bstrdup(where);
1374    free_pool_memory(where);
1375    jcr->replace = replace;
1376    jcr->prefix_links = prefix_links;
1377
1378    bnet_fsend(dir, OKrestore);
1379    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1380
1381    jcr->JobType = JT_RESTORE;
1382
1383    set_jcr_job_status(jcr, JS_Blocked);
1384    if (!open_sd_read_session(jcr)) {
1385       set_jcr_job_status(jcr, JS_ErrorTerminated);
1386       goto bail_out;
1387    }
1388
1389    set_jcr_job_status(jcr, JS_Running);
1390
1391    /*
1392     * Do restore of files and data
1393     */
1394    start_dir_heartbeat(jcr);
1395    do_restore(jcr);
1396    stop_dir_heartbeat(jcr);
1397
1398    set_jcr_job_status(jcr, JS_Terminated);
1399    if (jcr->JobStatus != JS_Terminated) {
1400       bnet_suppress_error_messages(sd, 1);
1401    }
1402
1403    /*
1404     * Send Close session command to Storage daemon
1405     */
1406    bnet_fsend(sd, read_close, jcr->Ticket);
1407    Dmsg1(130, "bfiled>stored: %s", sd->msg);
1408
1409    bget_msg(sd);                      /* get OK */
1410
1411    /* Inform Storage daemon that we are done */
1412    bnet_sig(sd, BNET_TERMINATE);
1413
1414 bail_out:
1415
1416    if (jcr->Errors) {
1417       set_jcr_job_status(jcr, JS_ErrorTerminated);
1418    }
1419    /* Send termination status back to Dir */
1420    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1421       edit_uint64(jcr->ReadBytes, ed1),
1422       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1423
1424    /* Inform Director that we are done */
1425    bnet_sig(dir, BNET_TERMINATE);
1426
1427    Dmsg0(130, "Done in job.c\n");
1428    return 0;                          /* return and terminate command loop */
1429 }
1430
1431 static int open_sd_read_session(JCR *jcr)
1432 {
1433    BSOCK *sd = jcr->store_bsock;
1434
1435    if (!sd) {
1436       Jmsg(jcr, M_FATAL, 0, _("Improper calling sequence.\n"));
1437       return 0;
1438    }
1439    Dmsg4(120, "VolSessId=%ld VolsessT=%ld SF=%ld EF=%ld\n",
1440       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile);
1441    Dmsg2(120, "JobId=%d vol=%s\n", jcr->JobId, "DummyVolume");
1442    /*
1443     * Open Read Session with Storage daemon
1444     */
1445    bnet_fsend(sd, read_open, jcr->VolumeName,
1446       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile,
1447       jcr->StartBlock, jcr->EndBlock);
1448    Dmsg1(110, ">stored: %s", sd->msg);
1449
1450    /*
1451     * Get ticket number
1452     */
1453    if (bget_msg(sd) >= 0) {
1454       Dmsg1(110, "bfiled<stored: %s", sd->msg);
1455       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1456          Jmsg(jcr, M_FATAL, 0, _("Bad response to SD read open: %s\n"), sd->msg);
1457          return 0;
1458       }
1459       Dmsg1(110, "bfiled: got Ticket=%d\n", jcr->Ticket);
1460    } else {
1461       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to read open command\n"));
1462       return 0;
1463    }
1464
1465    if (!send_bootstrap_file(jcr)) {
1466       return 0;
1467    }
1468
1469    /*
1470     * Start read of data with Storage daemon
1471     */
1472    bnet_fsend(sd, read_data, jcr->Ticket);
1473    Dmsg1(110, ">stored: %s", sd->msg);
1474
1475    /*
1476     * Get OK data
1477     */
1478    if (!response(jcr, sd, OK_data, "Read Data")) {
1479       return 0;
1480    }
1481    return 1;
1482 }
1483
1484 /*
1485  * Destroy the Job Control Record and associated
1486  * resources (sockets).
1487  */
1488 static void filed_free_jcr(JCR *jcr)
1489 {
1490    if (jcr->store_bsock) {
1491       bnet_close(jcr->store_bsock);
1492    }
1493    if (jcr->RestoreBootstrap) {
1494       unlink(jcr->RestoreBootstrap);
1495       free_pool_memory(jcr->RestoreBootstrap);
1496       jcr->RestoreBootstrap = NULL;
1497    }
1498    if (jcr->last_fname) {
1499       free_pool_memory(jcr->last_fname);
1500    }
1501    if (jcr->RunAfterJob) {
1502       free_pool_memory(jcr->RunAfterJob);
1503    }
1504
1505
1506    return;
1507 }
1508
1509 /*
1510  * Get response from Storage daemon to a command we
1511  * sent. Check that the response is OK.
1512  *
1513  *  Returns: 0 on failure
1514  *           1 on success
1515  */
1516 int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd)
1517 {
1518    if (sd->errors) {
1519       return 0;
1520    }
1521    if (bget_msg(sd) > 0) {
1522       Dmsg0(110, sd->msg);
1523       if (strcmp(sd->msg, resp) == 0) {
1524          return 1;
1525       }
1526    }
1527    if (job_canceled(jcr)) {
1528       return 0;                       /* if canceled avoid useless error messages */
1529    }
1530    if (is_bnet_error(sd)) {
1531       Jmsg2(jcr, M_FATAL, 0, _("Comm error with SD. bad response to %s. ERR=%s\n"),
1532          cmd, bnet_strerror(sd));
1533    } else {
1534       Jmsg3(jcr, M_FATAL, 0, _("Bad response to %s command. Wanted %s, got %s\n"),
1535          cmd, resp, sd->msg);
1536    }
1537    return 0;
1538 }
1539
1540 static int send_bootstrap_file(JCR *jcr)
1541 {
1542    FILE *bs;
1543    char buf[2000];
1544    BSOCK *sd = jcr->store_bsock;
1545    const char *bootstrap = "bootstrap\n";
1546    int stat = 0;
1547
1548    Dmsg1(400, "send_bootstrap_file: %s\n", jcr->RestoreBootstrap);
1549    if (!jcr->RestoreBootstrap) {
1550       return 1;
1551    }
1552    bs = fopen(jcr->RestoreBootstrap, "r");
1553    if (!bs) {
1554       berrno be;
1555       Jmsg(jcr, M_FATAL, 0, _("Could not open bootstrap file %s: ERR=%s\n"),
1556          jcr->RestoreBootstrap, be.strerror());
1557       set_jcr_job_status(jcr, JS_ErrorTerminated);
1558       goto bail_out;
1559    }
1560    pm_strcpy(&sd->msg, bootstrap);
1561    sd->msglen = strlen(sd->msg);
1562    bnet_send(sd);
1563    while (fgets(buf, sizeof(buf), bs)) {
1564       sd->msglen = Mmsg(&sd->msg, "%s", buf);
1565       bnet_send(sd);
1566    }
1567    bnet_sig(sd, BNET_EOD);
1568    fclose(bs);
1569    if (!response(jcr, sd, OKSDbootstrap, "Bootstrap")) {
1570       set_jcr_job_status(jcr, JS_ErrorTerminated);
1571       goto bail_out;
1572    }
1573    stat = 1;
1574
1575 bail_out:
1576    if (jcr->RestoreBootstrap) {
1577       unlink(jcr->RestoreBootstrap);
1578       free_pool_memory(jcr->RestoreBootstrap);
1579       jcr->RestoreBootstrap = NULL;
1580    }
1581
1582    return stat;
1583 }