git.sur5r.net Git - bacula/bacula/blob - bacula/src/filed/job.c

   1 /*
   2  *  Bacula File Daemon Job processing
   3  *
   4  *    Kern Sibbald, October MM
   5  *
   6  *   Version $Id$
   7  *
   8  */
   9 /*
  10    Copyright (C) 2000-2004 Kern Sibbald and John Walker
  11
  12    This program is free software; you can redistribute it and/or
  13    modify it under the terms of the GNU General Public License as
  14    published by the Free Software Foundation; either version 2 of
  15    the License, or (at your option) any later version.
  16
  17    This program is distributed in the hope that it will be useful,
  18    but WITHOUT ANY WARRANTY; without even the implied warranty of
  19    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  20    General Public License for more details.
  21
  22    You should have received a copy of the GNU General Public
  23    License along with this program; if not, write to the Free
  24    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  25    MA 02111-1307, USA.
  26
  27  */
  28
  29 #include "bacula.h"
  30 #include "filed.h"
  31
  32 extern char my_name[];
  33 extern CLIENT *me;                    /* our client resource */
  34
  35 /* Imported functions */
  36 extern int status_cmd(JCR *jcr);
  37
  38 /* Forward referenced functions */
  39 static int backup_cmd(JCR *jcr);
  40 static int bootstrap_cmd(JCR *jcr);
  41 static int cancel_cmd(JCR *jcr);
  42 static int setdebug_cmd(JCR *jcr);
  43 static int estimate_cmd(JCR *jcr);
  44 static int exclude_cmd(JCR *jcr);
  45 static int hello_cmd(JCR *jcr);
  46 static int job_cmd(JCR *jcr);
  47 static int include_cmd(JCR *jcr);
  48 static int fileset_cmd(JCR *jcr);
  49 static int level_cmd(JCR *jcr);
  50 static int verify_cmd(JCR *jcr);
  51 static int restore_cmd(JCR *jcr);
  52 static int storage_cmd(JCR *jcr);
  53 static int session_cmd(JCR *jcr);
  54 static int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd);
  55 static void filed_free_jcr(JCR *jcr);
  56 static int open_sd_read_session(JCR *jcr);
  57 static int send_bootstrap_file(JCR *jcr);
  58 static int runbefore_cmd(JCR *jcr);
  59 static int runafter_cmd(JCR *jcr);
  60 static int run_cmd(JCR *jcr, char *cmd, const char *name);
  61 static void set_options(findFOPTS *fo, const char *opts);
  62
  63
  64 /* Exported functions */
  65
  66 struct s_cmds {
  67    const char *cmd;
  68    int (*func)(JCR *);
  69 };
  70
  71 /*
  72  * The following are the recognized commands from the Director.
  73  */
  74 static struct s_cmds cmds[] = {
  75    {"backup",       backup_cmd},
  76    {"cancel",       cancel_cmd},
  77    {"setdebug=",    setdebug_cmd},
  78    {"estimate",     estimate_cmd},
  79    {"exclude",      exclude_cmd},
  80    {"Hello",        hello_cmd},
  81    {"include",      include_cmd},
  82    {"fileset",      fileset_cmd},
  83    {"JobId=",       job_cmd},
  84    {"level = ",     level_cmd},
  85    {"restore",      restore_cmd},
  86    {"session",      session_cmd},
  87    {"status",       status_cmd},
  88    {"storage ",     storage_cmd},
  89    {"verify",       verify_cmd},
  90    {"bootstrap",    bootstrap_cmd},
  91    {"RunBeforeJob", runbefore_cmd},
  92    {"RunAfterJob",  runafter_cmd},
  93    {NULL,       NULL}                  /* list terminator */
  94 };
  95
  96 /* Commands received from director that need scanning */
  97 static char jobcmd[]      = "JobId=%d Job=%127s SDid=%d SDtime=%d Authorization=%100s";
  98 static char storaddr[]    = "storage address=%s port=%d ssl=%d\n";
  99 static char sessioncmd[]  = "session %127s %ld %ld %ld %ld %ld %ld\n";
 100 static char restorecmd[]  = "restore replace=%c prelinks=%d where=%s\n";
 101 static char restorecmd1[] = "restore replace=%c prelinks=%d where=\n";
 102 static char verifycmd[]   = "verify level=%30s\n";
 103 static char estimatecmd[] = "estimate listing=%d\n";
 104 static char runbefore[]   = "RunBeforeJob %s\n";
 105 static char runafter[]    = "RunAfterJob %s\n";
 106
 107 /* Responses sent to Director */
 108 static char errmsg[]      = "2999 Invalid command\n";
 109 static char no_auth[]     = "2998 No Authorization\n";
 110 static char OKinc[]       = "2000 OK include\n";
 111 static char OKest[]       = "2000 OK estimate files=%u bytes=%s\n";
 112 static char OKexc[]       = "2000 OK exclude\n";
 113 static char OKlevel[]     = "2000 OK level\n";
 114 static char OKbackup[]    = "2000 OK backup\n";
 115 static char OKbootstrap[] = "2000 OK bootstrap\n";
 116 static char OKverify[]    = "2000 OK verify\n";
 117 static char OKrestore[]   = "2000 OK restore\n";
 118 static char OKsession[]   = "2000 OK session\n";
 119 static char OKstore[]     = "2000 OK storage\n";
 120 static char OKjob[]       = "2000 OK Job %s,%s,%s";
 121 static char OKsetdebug[]  = "2000 OK setdebug=%d\n";
 122 static char BADjob[]      = "2901 Bad Job\n";
 123 static char EndJob[]      = "2800 End Job TermCode=%d JobFiles=%u ReadBytes=%s JobBytes=%s Errors=%u\n";
 124 static char OKRunBefore[] = "2000 OK RunBefore\n";
 125 static char OKRunAfter[]  = "2000 OK RunAfter\n";
 126
 127 /* Responses received from Storage Daemon */
 128 static char OK_end[]       = "3000 OK end\n";
 129 static char OK_close[]     = "3000 OK close Status = %d\n";
 130 static char OK_open[]      = "3000 OK open ticket = %d\n";
 131 static char OK_data[]      = "3000 OK data\n";
 132 static char OK_append[]    = "3000 OK append data\n";
 133 static char OKSDbootstrap[] = "3000 OK bootstrap\n";
 134
 135
 136 /* Commands sent to Storage Daemon */
 137 static char append_open[]  = "append open session\n";
 138 static char append_data[]  = "append data %d\n";
 139 static char append_end[]   = "append end session %d\n";
 140 static char append_close[] = "append close session %d\n";
 141 static char read_open[]    = "read open session = %s %ld %ld %ld %ld %ld %ld\n";
 142 static char read_data[]    = "read data %d\n";
 143 static char read_close[]   = "read close session %d\n";
 144
 145 /*
 146  * Accept requests from a Director
 147  *
 148  * NOTE! We are running as a separate thread
 149  *
 150  * Send output one line
 151  * at a time followed by a zero length transmission.
 152  *
 153  * Return when the connection is terminated or there
 154  * is an error.
 155  *
 156  * Basic task here is:
 157  *   Authenticate Director (during Hello command).
 158  *   Accept commands one at a time from the Director
 159  *     and execute them.
 160  *
 161  */
 162 void *handle_client_request(void *dirp)
 163 {
 164    int i;
 165    bool found, quit;
 166    JCR *jcr;
 167    BSOCK *dir = (BSOCK *)dirp;
 168
 169    jcr = new_jcr(sizeof(JCR), filed_free_jcr); /* create JCR */
 170    jcr->dir_bsock = dir;
 171    jcr->ff = init_find_files();
 172    jcr->start_time = time(NULL);
 173    jcr->last_fname = get_pool_memory(PM_FNAME);
 174    jcr->last_fname[0] = 0;
 175    jcr->client_name = get_memory(strlen(my_name) + 1);
 176    pm_strcpy(&jcr->client_name, my_name);
 177    dir->jcr = jcr;
 178    enable_backup_privileges(NULL, 1 /* ignore_errors */);
 179
 180    /**********FIXME******* add command handler error code */
 181
 182    for (quit=false; !quit;) {
 183
 184       /* Read command */
 185       if (bnet_recv(dir) < 0) {
 186          break;                       /* connection terminated */
 187       }
 188       dir->msg[dir->msglen] = 0;
 189       Dmsg1(100, "<dird: %s", dir->msg);
 190       found = false;
 191       for (i=0; cmds[i].cmd; i++) {
 192          if (strncmp(cmds[i].cmd, dir->msg, strlen(cmds[i].cmd)) == 0) {
 193             if (!jcr->authenticated && cmds[i].func != hello_cmd) {
 194                bnet_fsend(dir, no_auth);
 195                break;
 196             }
 197             found = true;                /* indicate command found */
 198             Dmsg1(100, "Executing %s command.\n", cmds[i].cmd);
 199             if (!cmds[i].func(jcr)) {    /* do command */
 200                quit = true;              /* error or fully terminated,  get out */
 201                Dmsg0(20, "Quit command loop due to command error or Job done.\n");
 202             }
 203             break;
 204          }
 205       }
 206       if (!found) {                   /* command not found */
 207          bnet_fsend(dir, errmsg);
 208          quit = true;
 209          break;
 210       }
 211    }
 212
 213    /* Inform Storage daemon that we are done */
 214    if (jcr->store_bsock) {
 215       bnet_sig(jcr->store_bsock, BNET_TERMINATE);
 216    }
 217
 218    if (jcr->RunAfterJob && !job_canceled(jcr)) {
 219       run_cmd(jcr, jcr->RunAfterJob, "ClientRunAfterJob");
 220    }
 221
 222    /* Inform Director that we are done */
 223    bnet_sig(dir, BNET_TERMINATE);
 224
 225    /* Clean up fileset */
 226    FF_PKT *ff = (FF_PKT *)jcr->ff;
 227    findFILESET *fileset = ff->fileset;
 228    if (fileset) {
 229       int i, j, k;
 230       /* Delete FileSet Include lists */
 231       for (i=0; i<fileset->include_list.size(); i++) {
 232          findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 233          for (j=0; j<incexe->opts_list.size(); j++) {
 234             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 235             for (k=0; k<fo->regex.size(); k++) {
 236                regfree((regex_t *)fo->regex.get(k));
 237             }
 238             fo->regex.destroy();
 239             fo->wild.destroy();
 240             fo->base.destroy();
 241             if (fo->reader) {
 242                free(fo->reader);
 243             }
 244             if (fo->writer) {
 245                free(fo->writer);
 246             }
 247          }
 248          incexe->opts_list.destroy();
 249          incexe->name_list.destroy();
 250       }
 251       fileset->include_list.destroy();
 252
 253       /* Delete FileSet Exclude lists */
 254       for (i=0; i<fileset->exclude_list.size(); i++) {
 255          findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 256          for (j=0; j<incexe->opts_list.size(); j++) {
 257             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 258             fo->regex.destroy();
 259             fo->wild.destroy();
 260             fo->base.destroy();
 261          }
 262          incexe->opts_list.destroy();
 263          incexe->name_list.destroy();
 264       }
 265       fileset->exclude_list.destroy();
 266       free(fileset);
 267    }
 268    Dmsg0(100, "Calling term_find_files\n");
 269    term_find_files((FF_PKT *)jcr->ff);
 270    Dmsg0(100, "Done with term_find_files\n");
 271    free_jcr(jcr);                     /* destroy JCR record */
 272    Dmsg0(100, "Done with free_jcr\n");
 273    return NULL;
 274 }
 275
 276 /*
 277  * Hello from Director he must identify himself and provide his
 278  *  password.
 279  */
 280 static int hello_cmd(JCR *jcr)
 281 {
 282    Dmsg0(120, "Calling Authenticate\n");
 283    if (!authenticate_director(jcr)) {
 284       return 0;
 285    }
 286    Dmsg0(120, "OK Authenticate\n");
 287    jcr->authenticated = true;
 288    return 1;
 289 }
 290
 291 /*
 292  * Cancel a Job
 293  */
 294 static int cancel_cmd(JCR *jcr)
 295 {
 296    BSOCK *dir = jcr->dir_bsock;
 297    char Job[MAX_NAME_LENGTH];
 298    JCR *cjcr;
 299
 300    if (sscanf(dir->msg, "cancel Job=%127s", Job) == 1) {
 301       if (!(cjcr=get_jcr_by_full_name(Job))) {
 302          bnet_fsend(dir, "2901 Job %s not found.\n", Job);
 303       } else {
 304          if (cjcr->store_bsock) {
 305             P(cjcr->mutex);
 306             cjcr->store_bsock->timed_out = 1;
 307             cjcr->store_bsock->terminated = 1;
 308 /*
 309  * #if !defined(HAVE_CYGWIN) && !defined(HAVE_WIN32)
 310  */
 311 #if !defined(HAVE_CYGWIN)
 312             pthread_kill(cjcr->my_thread_id, TIMEOUT_SIGNAL);
 313 #endif
 314             V(cjcr->mutex);
 315          }
 316          set_jcr_job_status(cjcr, JS_Canceled);
 317          free_jcr(cjcr);
 318          bnet_fsend(dir, _("2001 Job %s marked to be canceled.\n"), Job);
 319       }
 320    } else {
 321       bnet_fsend(dir, _("2902 Error scanning cancel command.\n"));
 322    }
 323    bnet_sig(dir, BNET_EOD);
 324    return 1;
 325 }
 326
 327
 328 /*
 329  * Set debug level as requested by the Director
 330  *
 331  */
 332 static int setdebug_cmd(JCR *jcr)
 333 {
 334    BSOCK *dir = jcr->dir_bsock;
 335    int level, trace_flag;
 336
 337    Dmsg1(110, "setdebug_cmd: %s", dir->msg);
 338    if (sscanf(dir->msg, "setdebug=%d trace=%d", &level, &trace_flag) != 2 || level < 0) {
 339       pm_strcpy(&jcr->errmsg, dir->msg);
 340       bnet_fsend(dir, "2991 Bad setdebug command: %s\n", jcr->errmsg);
 341       return 0;
 342    }
 343    debug_level = level;
 344    set_trace(trace_flag);
 345    return bnet_fsend(dir, OKsetdebug, level);
 346 }
 347
 348
 349 static int estimate_cmd(JCR *jcr)
 350 {
 351    BSOCK *dir = jcr->dir_bsock;
 352    char ed2[50];
 353
 354    if (sscanf(dir->msg, estimatecmd, &jcr->listing) != 1) {
 355       pm_strcpy(&jcr->errmsg, dir->msg);
 356       Jmsg(jcr, M_FATAL, 0, _("Bad estimate command: %s"), jcr->errmsg);
 357       bnet_fsend(dir, "2992 Bad estimate command.\n");
 358       return 0;
 359    }
 360    make_estimate(jcr);
 361    bnet_fsend(dir, OKest, jcr->num_files_examined,
 362       edit_uint64_with_commas(jcr->JobBytes, ed2));
 363    bnet_sig(dir, BNET_EOD);
 364    return 1;
 365 }
 366
 367 /*
 368  * Get JobId and Storage Daemon Authorization key from Director
 369  */
 370 static int job_cmd(JCR *jcr)
 371 {
 372    BSOCK *dir = jcr->dir_bsock;
 373    POOLMEM *sd_auth_key;
 374
 375    sd_auth_key = get_memory(dir->msglen);
 376    if (sscanf(dir->msg, jobcmd,  &jcr->JobId, jcr->Job,
 377               &jcr->VolSessionId, &jcr->VolSessionTime,
 378               sd_auth_key) != 5) {
 379       pm_strcpy(&jcr->errmsg, dir->msg);
 380       Jmsg(jcr, M_FATAL, 0, _("Bad Job Command: %s"), jcr->errmsg);
 381       bnet_fsend(dir, BADjob);
 382       free_pool_memory(sd_auth_key);
 383       return 0;
 384    }
 385    jcr->sd_auth_key = bstrdup(sd_auth_key);
 386    free_pool_memory(sd_auth_key);
 387    Dmsg2(120, "JobId=%d Auth=%s\n", jcr->JobId, jcr->sd_auth_key);
 388    return bnet_fsend(dir, OKjob, HOST_OS, DISTNAME, DISTVER);
 389 }
 390
 391 static int runbefore_cmd(JCR *jcr)
 392 {
 393    int stat;
 394    BSOCK *dir = jcr->dir_bsock;
 395    POOLMEM *cmd = get_memory(dir->msglen+1);
 396
 397    Dmsg1(100, "runbefore_cmd: %s", dir->msg);
 398    if (sscanf(dir->msg, runbefore, cmd) != 1) {
 399       pm_strcpy(&jcr->errmsg, dir->msg);
 400       Jmsg1(jcr, M_FATAL, 0, _("Bad RunBeforeJob command: %s\n"), jcr->errmsg);
 401       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 402       free_memory(cmd);
 403       return 0;
 404    }
 405    unbash_spaces(cmd);
 406
 407    /* Run the command now */
 408    stat = run_cmd(jcr, cmd, "ClientRunBeforeJob");
 409    free_memory(cmd);
 410    if (stat) {
 411       bnet_fsend(dir, OKRunBefore);
 412       return 1;
 413    } else {
 414       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 415       return 0;
 416    }
 417 }
 418
 419 static int runafter_cmd(JCR *jcr)
 420 {
 421    BSOCK *dir = jcr->dir_bsock;
 422    POOLMEM *msg = get_memory(dir->msglen+1);
 423
 424    Dmsg1(100, "runafter_cmd: %s", dir->msg);
 425    if (sscanf(dir->msg, runafter, msg) != 1) {
 426       pm_strcpy(&jcr->errmsg, dir->msg);
 427       Jmsg1(jcr, M_FATAL, 0, _("Bad RunAfter command: %s\n"), jcr->errmsg);
 428       bnet_fsend(dir, "2905 Bad RunAfterJob command.\n");
 429       free_memory(msg);
 430       return 0;
 431    }
 432    unbash_spaces(msg);
 433    if (jcr->RunAfterJob) {
 434       free_pool_memory(jcr->RunAfterJob);
 435    }
 436    jcr->RunAfterJob = get_pool_memory(PM_FNAME);
 437    pm_strcpy(&jcr->RunAfterJob, msg);
 438    free_pool_memory(msg);
 439    return bnet_fsend(dir, OKRunAfter);
 440 }
 441
 442 static int run_cmd(JCR *jcr, char *cmd, const char *name)
 443 {
 444    POOLMEM *ecmd = get_pool_memory(PM_FNAME);
 445    int status;
 446    BPIPE *bpipe;
 447    char line[MAXSTRING];
 448
 449    ecmd = edit_job_codes(jcr, ecmd, cmd, "");
 450    bpipe = open_bpipe(ecmd, 0, "r");
 451    free_pool_memory(ecmd);
 452    if (bpipe == NULL) {
 453       Jmsg(jcr, M_FATAL, 0, _("%s could not execute\n"), name);
 454       set_jcr_job_status(jcr, JS_FatalError);
 455       return 0;
 456    }
 457    while (fgets(line, sizeof(line), bpipe->rfd)) {
 458       Jmsg(jcr, M_INFO, 0, _("%s: %s"), name, line);
 459    }
 460    status = close_bpipe(bpipe);
 461    if (status != 0) {
 462       Jmsg(jcr, M_FATAL, 0, _("%s returned non-zero status=%d\n"), name,
 463          status);
 464       set_jcr_job_status(jcr, JS_FatalError);
 465       return 0;
 466    }
 467    return 1;
 468 }
 469
 470
 471 #define INC_LIST 0
 472 #define EXC_LIST 1
 473
 474 static void add_fname_to_list(JCR *jcr, char *fname, int list)
 475 {
 476    char *p, *q;
 477    BPIPE *bpipe;
 478    POOLMEM *fn;
 479    FILE *ffd;
 480    char buf[1000];
 481    int optlen;
 482    int stat;
 483
 484    /* Skip leading options -- currently ignored */
 485    for (p=fname; *p && *p != ' '; p++)
 486       { }
 487    /* Skip spaces, and q points to first space */
 488    for (q=NULL; *p && *p == ' '; p++) {
 489       if (!q) {
 490          q = p;
 491       }
 492    }
 493
 494    switch (*p) {
 495    case '|':
 496       p++;                            /* skip over | */
 497       fn = get_pool_memory(PM_FNAME);
 498       fn = edit_job_codes(jcr, fn, p, "");
 499       bpipe = open_bpipe(fn, 0, "r");
 500       free_pool_memory(fn);
 501       if (!bpipe) {
 502          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 503             p, strerror(errno));
 504          return;
 505       }
 506       /* Copy File options */
 507       if (list == INC_LIST) {
 508          *q = 0;                      /* terminate options */
 509          strcpy(buf, fname);
 510          strcat(buf, " ");
 511          optlen = strlen(buf);
 512       } else {
 513          optlen = 0;
 514       }
 515       while (fgets(buf+optlen, sizeof(buf)-optlen, bpipe->rfd)) {
 516          strip_trailing_junk(buf);
 517          if (list == INC_LIST) {
 518             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 519          } else {
 520             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 521          }
 522       }
 523       if ((stat=close_bpipe(bpipe)) != 0) {
 524          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 525             p, stat, strerror(errno));
 526          return;
 527       }
 528       break;
 529    case '<':
 530       p++;                      /* skip over < */
 531       if ((ffd = fopen(p, "r")) == NULL) {
 532          berrno be;
 533          Jmsg(jcr, M_FATAL, 0, _("Cannot open %s file: %s. ERR=%s\n"),
 534             list==INC_LIST?"included":"excluded", p, be.strerror());
 535          return;
 536       }
 537       /* Copy File options */
 538       if (list == INC_LIST) {
 539          *q = 0;                      /* terminate options */
 540          strcpy(buf, fname);
 541          strcat(buf, " ");
 542          optlen = strlen(buf);
 543       } else {
 544          optlen = 0;
 545       }
 546       while (fgets(buf+optlen, sizeof(buf)-optlen, ffd)) {
 547          strip_trailing_junk(buf);
 548          if (list == INC_LIST) {
 549             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 550          } else {
 551             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 552          }
 553       }
 554       fclose(ffd);
 555       break;
 556    default:
 557       if (list == INC_LIST) {
 558          add_fname_to_include_list((FF_PKT *)jcr->ff, 1, fname);
 559       } else {
 560          add_fname_to_exclude_list((FF_PKT *)jcr->ff, p);
 561       }
 562       break;
 563    }
 564 }
 565
 566 /*
 567  *
 568  * Get list of files/directories to include from Director
 569  *
 570  */
 571 static int include_cmd(JCR *jcr)
 572 {
 573    BSOCK *dir = jcr->dir_bsock;
 574
 575    while (bnet_recv(dir) >= 0) {
 576       dir->msg[dir->msglen] = 0;
 577       strip_trailing_junk(dir->msg);
 578       Dmsg1(010, "include file: %s\n", dir->msg);
 579       add_fname_to_list(jcr, dir->msg, INC_LIST);
 580    }
 581
 582    return bnet_fsend(dir, OKinc);
 583 }
 584
 585 static bool init_fileset(JCR *jcr)
 586 {
 587    FF_PKT *ff;
 588    findFILESET *fileset;
 589
 590    if (!jcr->ff) {
 591       return false;
 592    }
 593    ff = (FF_PKT *)jcr->ff;
 594    if (ff->fileset) {
 595       return false;
 596    }
 597    fileset = (findFILESET *)malloc(sizeof(findFILESET));
 598    memset(fileset, 0, sizeof(findFILESET));
 599    ff->fileset = fileset;
 600    fileset->state = state_none;
 601    fileset->include_list.init(1, true);
 602    fileset->exclude_list.init(1, true);
 603    return true;
 604 }
 605
 606 static findFOPTS *start_options(FF_PKT *ff)
 607 {
 608    int state = ff->fileset->state;
 609    findINCEXE *incexe = ff->fileset->incexe;
 610
 611    if (state != state_options) {
 612       ff->fileset->state = state_options;
 613       findFOPTS *fo = (findFOPTS *)malloc(sizeof(findFOPTS));
 614       memset(fo, 0, sizeof(findFOPTS));
 615       fo->regex.init(1, true);
 616       fo->wild.init(1, true);
 617       fo->base.init(1, true);
 618       incexe->current_opts = fo;
 619       incexe->opts_list.append(fo);
 620    }
 621    return incexe->current_opts;
 622
 623 }
 624
 625 /*
 626  * Add fname to include/exclude fileset list. First check for
 627  * | and < and if necessary perform command.
 628  */
 629 static void add_file_to_fileset(JCR *jcr, const char *fname, findFILESET *fileset)
 630 {
 631    char *p;
 632    BPIPE *bpipe;
 633    POOLMEM *fn;
 634    FILE *ffd;
 635    char buf[1000];
 636    int stat;
 637
 638    p = (char *)fname;
 639    switch (*p) {
 640    case '|':
 641       p++;                            /* skip over | */
 642       fn = get_pool_memory(PM_FNAME);
 643       fn = edit_job_codes(jcr, fn, p, "");
 644       bpipe = open_bpipe(fn, 0, "r");
 645       free_pool_memory(fn);
 646       if (!bpipe) {
 647          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 648             p, strerror(errno));
 649          return;
 650       }
 651       while (fgets(buf, sizeof(buf), bpipe->rfd)) {
 652          strip_trailing_junk(buf);
 653          fileset->incexe->name_list.append(bstrdup(buf));
 654       }
 655       if ((stat=close_bpipe(bpipe)) != 0) {
 656          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 657             p, stat, strerror(errno));
 658          return;
 659       }
 660       break;
 661    case '<':
 662       p++;                      /* skip over < */
 663       if ((ffd = fopen(p, "r")) == NULL) {
 664          berrno be;
 665          Jmsg(jcr, M_FATAL, 0, _("Cannot open FileSet input file: %s. ERR=%s\n"),
 666             p, be.strerror());
 667          return;
 668       }
 669       while (fgets(buf, sizeof(buf), ffd)) {
 670          strip_trailing_junk(buf);
 671          fileset->incexe->name_list.append(bstrdup(buf));
 672       }
 673       fclose(ffd);
 674       break;
 675    default:
 676       fileset->incexe->name_list.append(bstrdup(fname));
 677       break;
 678    }
 679 }
 680
 681
 682 static void add_fileset(JCR *jcr, const char *item)
 683 {
 684    FF_PKT *ff = (FF_PKT *)jcr->ff;
 685    findFILESET *fileset = ff->fileset;
 686    int state = fileset->state;
 687    findFOPTS *current_opts;
 688
 689    Dmsg1(100, "%s\n", item);
 690    int code = item[0];
 691    if (item[1] == ' ') {              /* If string follows */
 692       item += 2;                      /* point to string */
 693    }
 694
 695    if (state == state_error) {
 696       return;
 697    }
 698    switch (code) {
 699    case 'I':
 700       /* New include */
 701       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 702       memset(fileset->incexe, 0, sizeof(findINCEXE));
 703       fileset->incexe->opts_list.init(1, true);
 704       fileset->incexe->name_list.init(1, true);
 705       fileset->include_list.append(fileset->incexe);
 706       break;
 707    case 'E':
 708       /* New exclude */
 709       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 710       memset(fileset->incexe, 0, sizeof(findINCEXE));
 711       fileset->incexe->opts_list.init(1, true);
 712       fileset->incexe->name_list.init(1, true);
 713       fileset->exclude_list.append(fileset->incexe);
 714       break;
 715    case 'N':
 716       state = state_none;
 717       break;
 718    case 'F':
 719       /* File item to either include/include list */
 720       state = state_include;
 721       add_file_to_fileset(jcr, item, fileset);
 722       break;
 723    case 'R':
 724       current_opts = start_options(ff);
 725       regex_t *preg;
 726       int rc;
 727       char prbuf[500];
 728       preg = (regex_t *)malloc(sizeof(regex_t));
 729       rc = regcomp(preg, item, REG_EXTENDED);
 730       if (rc != 0) {
 731          regerror(rc, preg, prbuf, sizeof(prbuf));
 732          regfree(preg);
 733          free(preg);
 734          Jmsg(jcr, M_FATAL, 0, "REGEX %s compile error. ERR=%s\n", item, prbuf);
 735          state = state_error;
 736          break;
 737       }
 738       current_opts->regex.append(preg);
 739       state = state_options;
 740       break;
 741    case 'B':
 742       current_opts = start_options(ff);
 743       current_opts->base.append(bstrdup(item));
 744       state = state_options;
 745       break;
 746    case 'W':
 747       current_opts = start_options(ff);
 748       current_opts->wild.append(bstrdup(item));
 749       state = state_options;
 750       break;
 751    case 'O':
 752       current_opts = start_options(ff);
 753       set_options(current_opts, item);
 754       state = state_options;
 755       break;
 756    case 'D':
 757       current_opts = start_options(ff);
 758       current_opts->reader = bstrdup(item);
 759       state = state_options;
 760       break;
 761    case 'T':
 762       current_opts = start_options(ff);
 763       current_opts->writer = bstrdup(item);
 764       state = state_options;
 765       break;
 766    default:
 767       Jmsg(jcr, M_FATAL, 0, "Invalid FileSet command: %s\n", item);
 768       state = state_error;
 769       break;
 770    }
 771    ff->fileset->state = state;
 772 }
 773
 774 static bool term_fileset(JCR *jcr)
 775 {
 776    FF_PKT *ff = (FF_PKT *)jcr->ff;
 777    findFILESET *fileset = ff->fileset;
 778    int i, j, k;
 779
 780    for (i=0; i<fileset->include_list.size(); i++) {
 781       findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 782       Dmsg0(400, "I\n");
 783       for (j=0; j<incexe->opts_list.size(); j++) {
 784          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 785          for (k=0; k<fo->regex.size(); k++) {
 786             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 787          }
 788          for (k=0; k<fo->wild.size(); k++) {
 789             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 790          }
 791          for (k=0; k<fo->base.size(); k++) {
 792             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 793          }
 794          if (fo->reader) {
 795             Dmsg1(400, "D %s\n", fo->reader);
 796          }
 797          if (fo->writer) {
 798             Dmsg1(400, "T %s\n", fo->writer);
 799          }
 800       }
 801       for (j=0; j<incexe->name_list.size(); j++) {
 802          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 803       }
 804    }
 805    for (i=0; i<fileset->exclude_list.size(); i++) {
 806       findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 807       Dmsg0(400, "E\n");
 808       for (j=0; j<incexe->opts_list.size(); j++) {
 809          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 810          for (k=0; k<fo->regex.size(); k++) {
 811             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 812          }
 813          for (k=0; k<fo->wild.size(); k++) {
 814             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 815          }
 816          for (k=0; k<fo->base.size(); k++) {
 817             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 818          }
 819       }
 820       for (j=0; j<incexe->name_list.size(); j++) {
 821          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 822       }
 823    }
 824    return ff->fileset->state != state_error;
 825 }
 826
 827
 828 /*
 829  * As an optimization, we should do this during
 830  *  "compile" time in filed/job.c, and keep only a bit mask
 831  *  and the Verify options.
 832  */
 833 static void set_options(findFOPTS *fo, const char *opts)
 834 {
 835    int j;
 836    const char *p;
 837
 838    for (p=opts; *p; p++) {
 839       switch (*p) {
 840       case 'a':                 /* alway replace */
 841       case '0':                 /* no option */
 842          break;
 843       case 'e':
 844          fo->flags |= FO_EXCLUDE;
 845          break;
 846       case 'f':
 847          fo->flags |= FO_MULTIFS;
 848          break;
 849       case 'h':                 /* no recursion */
 850          fo->flags |= FO_NO_RECURSION;
 851          break;
 852       case 'M':                 /* MD5 */
 853          fo->flags |= FO_MD5;
 854          break;
 855       case 'n':
 856          fo->flags |= FO_NOREPLACE;
 857          break;
 858       case 'p':                 /* use portable data format */
 859          fo->flags |= FO_PORTABLE;
 860          break;
 861       case 'r':                 /* read fifo */
 862          fo->flags |= FO_READFIFO;
 863          break;
 864       case 'S':
 865          fo->flags |= FO_SHA1;
 866          break;
 867       case 's':
 868          fo->flags |= FO_SPARSE;
 869          break;
 870       case 'm':
 871          fo->flags |= FO_MTIMEONLY;
 872          break;
 873       case 'k':
 874          fo->flags |= FO_KEEPATIME;
 875          break;
 876       case 'V':                  /* verify options */
 877          /* Copy Verify Options */
 878          for (j=0; *p && *p != ':'; p++) {
 879             fo->VerifyOpts[j] = *p;
 880             if (j < (int)sizeof(fo->VerifyOpts) - 1) {
 881                j++;
 882             }
 883          }
 884          fo->VerifyOpts[j] = 0;
 885          break;
 886       case 'w':
 887          fo->flags |= FO_IF_NEWER;
 888          break;
 889       case 'Z':                 /* gzip compression */
 890          fo->flags |= FO_GZIP;
 891          fo->GZIP_level = *++p - '0';
 892          Dmsg1(200, "Compression level=%d\n", fo->GZIP_level);
 893          break;
 894       default:
 895          Emsg1(M_ERROR, 0, "Unknown include/exclude option: %c\n", *p);
 896          break;
 897       }
 898    }
 899 }
 900
 901
 902 /*
 903  * Director is passing his Fileset
 904  */
 905 static int fileset_cmd(JCR *jcr)
 906 {
 907    BSOCK *dir = jcr->dir_bsock;
 908
 909    if (!init_fileset(jcr)) {
 910       return 0;
 911    }
 912    while (bnet_recv(dir) >= 0) {
 913       strip_trailing_junk(dir->msg);
 914       Dmsg1(400, "Fileset: %s\n", dir->msg);
 915       add_fileset(jcr, dir->msg);
 916    }
 917    if (!term_fileset(jcr)) {
 918       return 0;
 919    }
 920    return bnet_fsend(dir, OKinc);
 921 }
 922
 923
 924 /*
 925  * Get list of files to exclude from Director
 926  *
 927  */
 928 static int exclude_cmd(JCR *jcr)
 929 {
 930    BSOCK *dir = jcr->dir_bsock;
 931
 932    while (bnet_recv(dir) >= 0) {
 933       dir->msg[dir->msglen] = 0;
 934       strip_trailing_junk(dir->msg);
 935       add_fname_to_list(jcr, dir->msg, EXC_LIST);
 936       Dmsg1(110, "<dird: exclude file %s\n", dir->msg);
 937    }
 938
 939    return bnet_fsend(dir, OKexc);
 940 }
 941
 942
 943 static int bootstrap_cmd(JCR *jcr)
 944 {
 945    BSOCK *dir = jcr->dir_bsock;
 946    POOLMEM *fname = get_pool_memory(PM_FNAME);
 947    FILE *bs;
 948
 949    if (jcr->RestoreBootstrap) {
 950       unlink(jcr->RestoreBootstrap);
 951       free_pool_memory(jcr->RestoreBootstrap);
 952    }
 953    Mmsg(fname, "%s/%s.%s.bootstrap", me->working_directory, me->hdr.name,
 954       jcr->Job);
 955    Dmsg1(400, "bootstrap=%s\n", fname);
 956    jcr->RestoreBootstrap = fname;
 957    bs = fopen(fname, "a+");           /* create file */
 958    if (!bs) {
 959       berrno be;
 960       /*
 961        * Suck up what he is sending to us so that he will then
 962        *   read our error message.
 963        */
 964       while (bnet_recv(dir) >= 0)
 965         {  }
 966
 967       Jmsg(jcr, M_FATAL, 0, _("Could not create bootstrap file %s: ERR=%s\n"),
 968          jcr->RestoreBootstrap, be.strerror());
 969       free_pool_memory(jcr->RestoreBootstrap);
 970       jcr->RestoreBootstrap = NULL;
 971       set_jcr_job_status(jcr, JS_ErrorTerminated);
 972       return 0;
 973    }
 974
 975    while (bnet_recv(dir) >= 0) {
 976        Dmsg1(200, "filed<dird: bootstrap file %s\n", dir->msg);
 977        fputs(dir->msg, bs);
 978    }
 979    fclose(bs);
 980
 981    return bnet_fsend(dir, OKbootstrap);
 982 }
 983
 984
 985 /*
 986  * Get backup level from Director
 987  *
 988  */
 989 static int level_cmd(JCR *jcr)
 990 {
 991    BSOCK *dir = jcr->dir_bsock;
 992    POOLMEM *level, *buf = NULL;
 993    struct tm tm;
 994    time_t mtime;
 995    int mtime_only;
 996
 997    level = get_memory(dir->msglen+1);
 998    Dmsg1(110, "level_cmd: %s", dir->msg);
 999    if (sscanf(dir->msg, "level = %s ", level) != 1) {
1000       goto bail_out;
1001    }
1002    /* Base backup requested? */
1003    if (strcmp(level, "base") == 0) {
1004       jcr->JobLevel = L_BASE;
1005    /* Full backup requested? */
1006    } else if (strcmp(level, "full") == 0) {
1007       jcr->JobLevel = L_FULL;
1008    /*
1009     * Backup requested since <date> <time>
1010     *  This form is also used for incremental and differential
1011     *  This code is deprecated.  See since_utime for new code.
1012     */
1013    } else if (strcmp(level, "since") == 0) {
1014       jcr->JobLevel = L_SINCE;
1015       if (sscanf(dir->msg, "level = since %d-%d-%d %d:%d:%d mtime_only=%d",
1016                  &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
1017                  &tm.tm_hour, &tm.tm_min, &tm.tm_sec, &mtime_only) != 7) {
1018          goto bail_out;
1019       }
1020       tm.tm_year -= 1900;
1021       tm.tm_mon  -= 1;
1022       tm.tm_wday = tm.tm_yday = 0;
1023       tm.tm_isdst = -1;
1024       mtime = mktime(&tm);
1025       Dmsg2(100, "Got since time: %s mtime_only=%d\n", ctime(&mtime), mtime_only);
1026       jcr->incremental = 1;           /* set incremental or decremental backup */
1027       jcr->mtime = mtime;             /* set since time */
1028    /*
1029     * We get his UTC since time, then sync the clocks and correct it
1030     *   to agree with our clock.
1031     */
1032    } else if (strcmp(level, "since_utime") == 0) {
1033       buf = get_memory(dir->msglen+1);
1034       utime_t since_time, adj;
1035       btime_t his_time, bt_start, rt=0, bt_adj=0;
1036       jcr->JobLevel = L_SINCE;
1037       if (sscanf(dir->msg, "level = since_utime %s mtime_only=%d",
1038                  buf, &mtime_only) != 2) {
1039          goto bail_out;
1040       }
1041       since_time = str_to_uint64(buf);  /* this is the since time */
1042       char ed1[50], ed2[50];
1043       /*
1044        * Sync clocks by polling him for the time. We take
1045        *   10 samples of his time throwing out the first two.
1046        */
1047       for (int i=0; i<10; i++) {
1048          bt_start = get_current_btime();
1049          bnet_sig(dir, BNET_BTIME);   /* poll for time */
1050          if (bnet_recv(dir) <= 0) {   /* get response */
1051             goto bail_out;
1052          }
1053          if (sscanf(dir->msg, "btime %s", buf) != 1) {
1054             goto bail_out;
1055          }
1056          if (i < 2) {                 /* toss first two results */
1057             continue;
1058          }
1059          his_time = str_to_uint64(buf);
1060          rt = get_current_btime() - bt_start; /* compute round trip time */
1061          bt_adj -= his_time - bt_start - rt/2;
1062          Dmsg2(200, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1063       }
1064
1065       bt_adj = bt_adj / 8;            /* compute average time */
1066       Dmsg2(100, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1067       adj = btime_to_utime(bt_adj);
1068       since_time += adj;              /* adjust for clock difference */
1069       if (adj != 0) {
1070          Jmsg(jcr, M_INFO, 0, _("Since time adjusted by %d seconds.\n"), adj);
1071       }
1072       bnet_sig(dir, BNET_EOD);
1073
1074       Dmsg2(100, "adj = %d since_time=%d\n", (int)adj, (int)since_time);
1075       jcr->incremental = 1;           /* set incremental or decremental backup */
1076       jcr->mtime = (time_t)since_time; /* set since time */
1077    } else {
1078       Jmsg1(jcr, M_FATAL, 0, "Unknown backup level: %s\n", level);
1079       free_memory(level);
1080       return 0;
1081    }
1082    free_memory(level);
1083    if (buf) {
1084       free_memory(buf);
1085    }
1086    return bnet_fsend(dir, OKlevel);
1087
1088 bail_out:
1089    pm_strcpy(&jcr->errmsg, dir->msg);
1090    Jmsg1(jcr, M_FATAL, 0, _("Bad level command: %s\n"), jcr->errmsg);
1091    free_memory(level);
1092    if (buf) {
1093       free_memory(buf);
1094    }
1095    return 0;
1096 }
1097
1098 /*
1099  * Get session parameters from Director -- this is for a Restore command
1100  */
1101 static int session_cmd(JCR *jcr)
1102 {
1103    BSOCK *dir = jcr->dir_bsock;
1104
1105    Dmsg1(100, "SessionCmd: %s", dir->msg);
1106    if (sscanf(dir->msg, sessioncmd, jcr->VolumeName,
1107               &jcr->VolSessionId, &jcr->VolSessionTime,
1108               &jcr->StartFile, &jcr->EndFile,
1109               &jcr->StartBlock, &jcr->EndBlock) != 7) {
1110       pm_strcpy(&jcr->errmsg, dir->msg);
1111       Jmsg(jcr, M_FATAL, 0, "Bad session command: %s", jcr->errmsg);
1112       return 0;
1113    }
1114
1115    return bnet_fsend(dir, OKsession);
1116 }
1117
1118 /*
1119  * Get address of storage daemon from Director
1120  *
1121  */
1122 static int storage_cmd(JCR *jcr)
1123 {
1124    int stored_port;                /* storage daemon port */
1125    int enable_ssl;                 /* enable ssl to sd */
1126    BSOCK *dir = jcr->dir_bsock;
1127    BSOCK *sd;                         /* storage daemon bsock */
1128
1129    Dmsg1(100, "StorageCmd: %s", dir->msg);
1130    if (sscanf(dir->msg, storaddr, &jcr->stored_addr, &stored_port, &enable_ssl) != 3) {
1131       pm_strcpy(&jcr->errmsg, dir->msg);
1132       Jmsg(jcr, M_FATAL, 0, _("Bad storage command: %s"), jcr->errmsg);
1133       return 0;
1134    }
1135    Dmsg3(110, "Open storage: %s:%d ssl=%d\n", jcr->stored_addr, stored_port, enable_ssl);
1136    /* Open command communications with Storage daemon */
1137    /* Try to connect for 1 hour at 10 second intervals */
1138    sd = bnet_connect(jcr, 10, (int)me->SDConnectTimeout, _("Storage daemon"),
1139                      jcr->stored_addr, NULL, stored_port, 1);
1140    if (sd == NULL) {
1141       Jmsg(jcr, M_FATAL, 0, _("Failed to connect to Storage daemon: %s:%d\n"),
1142           jcr->stored_addr, stored_port);
1143       Dmsg2(100, "Failed to connect to Storage daemon: %s:%d\n",
1144           jcr->stored_addr, stored_port);
1145       return 0;
1146    }
1147    Dmsg0(110, "Connection OK to SD.\n");
1148
1149    jcr->store_bsock = sd;
1150
1151    bnet_fsend(sd, "Hello Start Job %s\n", jcr->Job);
1152    if (!authenticate_storagedaemon(jcr)) {
1153       Jmsg(jcr, M_FATAL, 0, _("Failed to authenticate Storage daemon.\n"));
1154       return 0;
1155    }
1156    Dmsg0(110, "Authenticated with SD.\n");
1157
1158    /* Send OK to Director */
1159    return bnet_fsend(dir, OKstore);
1160 }
1161
1162
1163 /*
1164  * Do a backup. For now, we handle only Full and Incremental.
1165  */
1166 static int backup_cmd(JCR *jcr)
1167 {
1168    BSOCK *dir = jcr->dir_bsock;
1169    BSOCK *sd = jcr->store_bsock;
1170    int ok = 0;
1171    int SDJobStatus;
1172    char ed1[50], ed2[50];
1173
1174    set_jcr_job_status(jcr, JS_Blocked);
1175    jcr->JobType = JT_BACKUP;
1176    Dmsg1(100, "begin backup ff=%p\n", (FF_PKT *)jcr->ff);
1177
1178    if (sd == NULL) {
1179       Jmsg(jcr, M_FATAL, 0, _("Cannot contact Storage daemon\n"));
1180       goto cleanup;
1181    }
1182
1183    bnet_fsend(dir, OKbackup);
1184    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1185
1186    /*
1187     * Send Append Open Session to Storage daemon
1188     */
1189    bnet_fsend(sd, append_open);
1190    Dmsg1(110, ">stored: %s", sd->msg);
1191    /*
1192     * Expect to receive back the Ticket number
1193     */
1194    if (bget_msg(sd) >= 0) {
1195       Dmsg1(110, "<stored: %s", sd->msg);
1196       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1197          Jmsg(jcr, M_FATAL, 0, _("Bad response to append open: %s\n"), sd->msg);
1198          goto cleanup;
1199       }
1200       Dmsg1(110, "Got Ticket=%d\n", jcr->Ticket);
1201    } else {
1202       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to open command\n"));
1203       goto cleanup;
1204    }
1205
1206    /*
1207     * Send Append data command to Storage daemon
1208     */
1209    bnet_fsend(sd, append_data, jcr->Ticket);
1210    Dmsg1(110, ">stored: %s", sd->msg);
1211
1212    /*
1213     * Expect to get OK data
1214     */
1215    Dmsg1(110, "<stored: %s", sd->msg);
1216    if (!response(jcr, sd, OK_data, "Append Data")) {
1217       goto cleanup;
1218    }
1219
1220    /*
1221     * Send Files to Storage daemon
1222     */
1223    Dmsg1(110, "begin blast ff=%p\n", (FF_PKT *)jcr->ff);
1224    if (!blast_data_to_storage_daemon(jcr, NULL)) {
1225       set_jcr_job_status(jcr, JS_ErrorTerminated);
1226       bnet_suppress_error_messages(sd, 1);
1227       Dmsg0(110, "Error in blast_data.\n");
1228    } else {
1229       set_jcr_job_status(jcr, JS_Terminated);
1230       if (jcr->JobStatus != JS_Terminated) {
1231          bnet_suppress_error_messages(sd, 1);
1232          goto cleanup;                /* bail out now */
1233       }
1234       /*
1235        * Expect to get response to append_data from Storage daemon
1236        */
1237       if (!response(jcr, sd, OK_append, "Append Data")) {
1238          set_jcr_job_status(jcr, JS_ErrorTerminated);
1239          goto cleanup;
1240       }
1241
1242       /*
1243        * Send Append End Data to Storage daemon
1244        */
1245       bnet_fsend(sd, append_end, jcr->Ticket);
1246       /* Get end OK */
1247       if (!response(jcr, sd, OK_end, "Append End")) {
1248          set_jcr_job_status(jcr, JS_ErrorTerminated);
1249          goto cleanup;
1250       }
1251
1252       /*
1253        * Send Append Close to Storage daemon
1254        */
1255       bnet_fsend(sd, append_close, jcr->Ticket);
1256       while (bget_msg(sd) >= 0) {    /* stop on signal or error */
1257          if (sscanf(sd->msg, OK_close, &SDJobStatus) == 1) {
1258             ok = 1;
1259             Dmsg2(200, "SDJobStatus = %d %c\n", SDJobStatus, (char)SDJobStatus);
1260          }
1261       }
1262       if (!ok) {
1263          Jmsg(jcr, M_FATAL, 0, _("Append Close with SD failed.\n"));
1264          goto cleanup;
1265       }
1266       if (SDJobStatus != JS_Terminated) {
1267          Jmsg(jcr, M_FATAL, 0, _("Bad status %d returned from Storage Daemon.\n"),
1268             SDJobStatus);
1269       }
1270    }
1271
1272 cleanup:
1273    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1274       edit_uint64(jcr->ReadBytes, ed1),
1275       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1276    Dmsg1(110, "End FD msg: %s\n", dir->msg);
1277
1278    return 0;                          /* return and stop command loop */
1279 }
1280
1281 /*
1282  * Do a Verify for Director
1283  *
1284  */
1285 static int verify_cmd(JCR *jcr)
1286 {
1287    BSOCK *dir = jcr->dir_bsock;
1288    BSOCK *sd  = jcr->store_bsock;
1289    char level[100], ed1[50], ed2[50];
1290
1291    jcr->JobType = JT_VERIFY;
1292    if (sscanf(dir->msg, verifycmd, level) != 1) {
1293       bnet_fsend(dir, "2994 Bad verify command: %s\n", dir->msg);
1294       return 0;
1295    }
1296    if (strcasecmp(level, "init") == 0) {
1297       jcr->JobLevel = L_VERIFY_INIT;
1298    } else if (strcasecmp(level, "catalog") == 0){
1299       jcr->JobLevel = L_VERIFY_CATALOG;
1300    } else if (strcasecmp(level, "volume") == 0){
1301       jcr->JobLevel = L_VERIFY_VOLUME_TO_CATALOG;
1302    } else if (strcasecmp(level, "data") == 0){
1303       jcr->JobLevel = L_VERIFY_DATA;
1304    } else if (strcasecmp(level, "disk_to_catalog") == 0) {
1305       jcr->JobLevel = L_VERIFY_DISK_TO_CATALOG;
1306    } else {
1307       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1308       return 0;
1309    }
1310
1311    bnet_fsend(dir, OKverify);
1312    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1313
1314    switch (jcr->JobLevel) {
1315    case L_VERIFY_INIT:
1316    case L_VERIFY_CATALOG:
1317       do_verify(jcr);
1318       break;
1319    case L_VERIFY_VOLUME_TO_CATALOG:
1320       if (!open_sd_read_session(jcr)) {
1321          return 0;
1322       }
1323       start_dir_heartbeat(jcr);
1324       do_verify_volume(jcr);
1325       stop_dir_heartbeat(jcr);
1326       /*
1327        * Send Close session command to Storage daemon
1328        */
1329       bnet_fsend(sd, read_close, jcr->Ticket);
1330       Dmsg1(130, "bfiled>stored: %s", sd->msg);
1331
1332       /* ****FIXME**** check response */
1333       bget_msg(sd);                      /* get OK */
1334
1335       /* Inform Storage daemon that we are done */
1336       bnet_sig(sd, BNET_TERMINATE);
1337
1338       break;
1339    case L_VERIFY_DISK_TO_CATALOG:
1340       do_verify(jcr);
1341       break;
1342    default:
1343       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1344       return 0;
1345    }
1346
1347    bnet_sig(dir, BNET_EOD);
1348
1349    /* Send termination status back to Dir */
1350    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1351       edit_uint64(jcr->ReadBytes, ed1),
1352       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1353
1354    /* Inform Director that we are done */
1355    bnet_sig(dir, BNET_TERMINATE);
1356    return 0;                          /* return and terminate command loop */
1357 }
1358
1359 /*
1360  * Do a Restore for Director
1361  *
1362  */
1363 static int restore_cmd(JCR *jcr)
1364 {
1365    BSOCK *dir = jcr->dir_bsock;
1366    BSOCK *sd = jcr->store_bsock;
1367    POOLMEM *where;
1368    int prefix_links;
1369    char replace;
1370    char ed1[50], ed2[50];
1371
1372    /*
1373     * Scan WHERE (base directory for restore) from command
1374     */
1375    Dmsg0(150, "restore command\n");
1376    /* Pickup where string */
1377    where = get_memory(dir->msglen+1);
1378    *where = 0;
1379
1380    if (sscanf(dir->msg, restorecmd, &replace, &prefix_links, where) != 3) {
1381       if (sscanf(dir->msg, restorecmd1, &replace, &prefix_links) != 2) {
1382          pm_strcpy(&jcr->errmsg, dir->msg);
1383          Jmsg(jcr, M_FATAL, 0, _("Bad replace command. CMD=%s\n"), jcr->errmsg);
1384          return 0;
1385       }
1386       *where = 0;
1387    }
1388    /* Turn / into nothing */
1389    if (where[0] == '/' && where[1] == 0) {
1390       where[0] = 0;
1391    }
1392
1393    Dmsg2(150, "Got replace %c, where=%s\n", replace, where);
1394    unbash_spaces(where);
1395    jcr->where = bstrdup(where);
1396    free_pool_memory(where);
1397    jcr->replace = replace;
1398    jcr->prefix_links = prefix_links;
1399
1400    bnet_fsend(dir, OKrestore);
1401    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1402
1403    jcr->JobType = JT_RESTORE;
1404
1405    set_jcr_job_status(jcr, JS_Blocked);
1406    if (!open_sd_read_session(jcr)) {
1407       set_jcr_job_status(jcr, JS_ErrorTerminated);
1408       goto bail_out;
1409    }
1410
1411    set_jcr_job_status(jcr, JS_Running);
1412
1413    /*
1414     * Do restore of files and data
1415     */
1416    start_dir_heartbeat(jcr);
1417    do_restore(jcr);
1418    stop_dir_heartbeat(jcr);
1419
1420    set_jcr_job_status(jcr, JS_Terminated);
1421    if (jcr->JobStatus != JS_Terminated) {
1422       bnet_suppress_error_messages(sd, 1);
1423    }
1424
1425    /*
1426     * Send Close session command to Storage daemon
1427     */
1428    bnet_fsend(sd, read_close, jcr->Ticket);
1429    Dmsg1(130, "bfiled>stored: %s", sd->msg);
1430
1431    bget_msg(sd);                      /* get OK */
1432
1433    /* Inform Storage daemon that we are done */
1434    bnet_sig(sd, BNET_TERMINATE);
1435
1436 bail_out:
1437
1438    if (jcr->Errors) {
1439       set_jcr_job_status(jcr, JS_ErrorTerminated);
1440    }
1441    /* Send termination status back to Dir */
1442    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1443       edit_uint64(jcr->ReadBytes, ed1),
1444       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1445
1446    /* Inform Director that we are done */
1447    bnet_sig(dir, BNET_TERMINATE);
1448
1449    Dmsg0(130, "Done in job.c\n");
1450    return 0;                          /* return and terminate command loop */
1451 }
1452
1453 static int open_sd_read_session(JCR *jcr)
1454 {
1455    BSOCK *sd = jcr->store_bsock;
1456
1457    if (!sd) {
1458       Jmsg(jcr, M_FATAL, 0, _("Improper calling sequence.\n"));
1459       return 0;
1460    }
1461    Dmsg4(120, "VolSessId=%ld VolsessT=%ld SF=%ld EF=%ld\n",
1462       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile);
1463    Dmsg2(120, "JobId=%d vol=%s\n", jcr->JobId, "DummyVolume");
1464    /*
1465     * Open Read Session with Storage daemon
1466     */
1467    bnet_fsend(sd, read_open, jcr->VolumeName,
1468       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile,
1469       jcr->StartBlock, jcr->EndBlock);
1470    Dmsg1(110, ">stored: %s", sd->msg);
1471
1472    /*
1473     * Get ticket number
1474     */
1475    if (bget_msg(sd) >= 0) {
1476       Dmsg1(110, "bfiled<stored: %s", sd->msg);
1477       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1478          Jmsg(jcr, M_FATAL, 0, _("Bad response to SD read open: %s\n"), sd->msg);
1479          return 0;
1480       }
1481       Dmsg1(110, "bfiled: got Ticket=%d\n", jcr->Ticket);
1482    } else {
1483       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to read open command\n"));
1484       return 0;
1485    }
1486
1487    if (!send_bootstrap_file(jcr)) {
1488       return 0;
1489    }
1490
1491    /*
1492     * Start read of data with Storage daemon
1493     */
1494    bnet_fsend(sd, read_data, jcr->Ticket);
1495    Dmsg1(110, ">stored: %s", sd->msg);
1496
1497    /*
1498     * Get OK data
1499     */
1500    if (!response(jcr, sd, OK_data, "Read Data")) {
1501       return 0;
1502    }
1503    return 1;
1504 }
1505
1506 /*
1507  * Destroy the Job Control Record and associated
1508  * resources (sockets).
1509  */
1510 static void filed_free_jcr(JCR *jcr)
1511 {
1512    if (jcr->store_bsock) {
1513       bnet_close(jcr->store_bsock);
1514    }
1515    if (jcr->RestoreBootstrap) {
1516       unlink(jcr->RestoreBootstrap);
1517       free_pool_memory(jcr->RestoreBootstrap);
1518       jcr->RestoreBootstrap = NULL;
1519    }
1520    if (jcr->last_fname) {
1521       free_pool_memory(jcr->last_fname);
1522    }
1523    if (jcr->RunAfterJob) {
1524       free_pool_memory(jcr->RunAfterJob);
1525    }
1526
1527
1528    return;
1529 }
1530
1531 /*
1532  * Get response from Storage daemon to a command we
1533  * sent. Check that the response is OK.
1534  *
1535  *  Returns: 0 on failure
1536  *           1 on success
1537  */
1538 int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd)
1539 {
1540    if (sd->errors) {
1541       return 0;
1542    }
1543    if (bget_msg(sd) > 0) {
1544       Dmsg0(110, sd->msg);
1545       if (strcmp(sd->msg, resp) == 0) {
1546          return 1;
1547       }
1548    }
1549    if (job_canceled(jcr)) {
1550       return 0;                       /* if canceled avoid useless error messages */
1551    }
1552    if (is_bnet_error(sd)) {
1553       Jmsg2(jcr, M_FATAL, 0, _("Comm error with SD. bad response to %s. ERR=%s\n"),
1554          cmd, bnet_strerror(sd));
1555    } else {
1556       Jmsg3(jcr, M_FATAL, 0, _("Bad response to %s command. Wanted %s, got %s\n"),
1557          cmd, resp, sd->msg);
1558    }
1559    return 0;
1560 }
1561
1562 static int send_bootstrap_file(JCR *jcr)
1563 {
1564    FILE *bs;
1565    char buf[2000];
1566    BSOCK *sd = jcr->store_bsock;
1567    const char *bootstrap = "bootstrap\n";
1568    int stat = 0;
1569
1570    Dmsg1(400, "send_bootstrap_file: %s\n", jcr->RestoreBootstrap);
1571    if (!jcr->RestoreBootstrap) {
1572       return 1;
1573    }
1574    bs = fopen(jcr->RestoreBootstrap, "r");
1575    if (!bs) {
1576       berrno be;
1577       Jmsg(jcr, M_FATAL, 0, _("Could not open bootstrap file %s: ERR=%s\n"),
1578          jcr->RestoreBootstrap, be.strerror());
1579       set_jcr_job_status(jcr, JS_ErrorTerminated);
1580       goto bail_out;
1581    }
1582    pm_strcpy(&sd->msg, bootstrap);
1583    sd->msglen = strlen(sd->msg);
1584    bnet_send(sd);
1585    while (fgets(buf, sizeof(buf), bs)) {
1586       sd->msglen = Mmsg(sd->msg, "%s", buf);
1587       bnet_send(sd);
1588    }
1589    bnet_sig(sd, BNET_EOD);
1590    fclose(bs);
1591    if (!response(jcr, sd, OKSDbootstrap, "Bootstrap")) {
1592       set_jcr_job_status(jcr, JS_ErrorTerminated);
1593       goto bail_out;
1594    }
1595    stat = 1;
1596
1597 bail_out:
1598    if (jcr->RestoreBootstrap) {
1599       unlink(jcr->RestoreBootstrap);
1600       free_pool_memory(jcr->RestoreBootstrap);
1601       jcr->RestoreBootstrap = NULL;
1602    }
1603
1604    return stat;
1605 }