git.sur5r.net Git - bacula/bacula/blob - bacula/src/filed/job.c

   1 /*
   2  *  Bacula File Daemon Job processing
   3  *
   4  *    Kern Sibbald, October MM
   5  *
   6  *   Version $Id$
   7  *
   8  */
   9 /*
  10    Copyright (C) 2000-2004 Kern Sibbald and John Walker
  11
  12    This program is free software; you can redistribute it and/or
  13    modify it under the terms of the GNU General Public License as
  14    published by the Free Software Foundation; either version 2 of
  15    the License, or (at your option) any later version.
  16
  17    This program is distributed in the hope that it will be useful,
  18    but WITHOUT ANY WARRANTY; without even the implied warranty of
  19    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  20    General Public License for more details.
  21
  22    You should have received a copy of the GNU General Public
  23    License along with this program; if not, write to the Free
  24    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  25    MA 02111-1307, USA.
  26
  27  */
  28
  29 #include "bacula.h"
  30 #include "filed.h"
  31
  32 extern char my_name[];
  33 extern CLIENT *me;                    /* our client resource */
  34
  35 /* Imported functions */
  36 extern int status_cmd(JCR *jcr);
  37 extern int qstatus_cmd(JCR *jcr);
  38
  39 /* Forward referenced functions */
  40 static int backup_cmd(JCR *jcr);
  41 static int bootstrap_cmd(JCR *jcr);
  42 static int cancel_cmd(JCR *jcr);
  43 static int setdebug_cmd(JCR *jcr);
  44 static int estimate_cmd(JCR *jcr);
  45 static int exclude_cmd(JCR *jcr);
  46 static int hello_cmd(JCR *jcr);
  47 static int job_cmd(JCR *jcr);
  48 static int include_cmd(JCR *jcr);
  49 static int fileset_cmd(JCR *jcr);
  50 static int level_cmd(JCR *jcr);
  51 static int verify_cmd(JCR *jcr);
  52 static int restore_cmd(JCR *jcr);
  53 static int storage_cmd(JCR *jcr);
  54 static int session_cmd(JCR *jcr);
  55 static int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd);
  56 static void filed_free_jcr(JCR *jcr);
  57 static int open_sd_read_session(JCR *jcr);
  58 static int send_bootstrap_file(JCR *jcr);
  59 static int runbefore_cmd(JCR *jcr);
  60 static int runafter_cmd(JCR *jcr);
  61 static int run_cmd(JCR *jcr, char *cmd, const char *name);
  62 static void set_options(findFOPTS *fo, const char *opts);
  63
  64
  65 /* Exported functions */
  66
  67 struct s_cmds {
  68    const char *cmd;
  69    int (*func)(JCR *);
  70    int monitoraccess; /* specify if monitors have access to this function */
  71 };
  72
  73 /*
  74  * The following are the recognized commands from the Director.
  75  */
  76 static struct s_cmds cmds[] = {
  77    {"backup",       backup_cmd,    0},
  78    {"cancel",       cancel_cmd,    0},
  79    {"setdebug=",    setdebug_cmd,  0},
  80    {"estimate",     estimate_cmd,  0},
  81    {"exclude",      exclude_cmd,   0},
  82    {"Hello",        hello_cmd,     1},
  83    {"include",      include_cmd,   0},
  84    {"fileset",      fileset_cmd,   0},
  85    {"JobId=",       job_cmd,       0},
  86    {"level = ",     level_cmd,     0},
  87    {"restore",      restore_cmd,   0},
  88    {"session",      session_cmd,   0},
  89    {"status",       status_cmd,    1},
  90    {".status",      qstatus_cmd,   1},
  91    {"storage ",     storage_cmd,   0},
  92    {"verify",       verify_cmd,    0},
  93    {"bootstrap",    bootstrap_cmd, 0},
  94    {"RunBeforeJob", runbefore_cmd, 0},
  95    {"RunAfterJob",  runafter_cmd,  0},
  96    {NULL,       NULL}                  /* list terminator */
  97 };
  98
  99 /* Commands received from director that need scanning */
 100 static char jobcmd[]      = "JobId=%d Job=%127s SDid=%d SDtime=%d Authorization=%100s";
 101 static char storaddr[]    = "storage address=%s port=%d ssl=%d\n";
 102 static char sessioncmd[]  = "session %127s %ld %ld %ld %ld %ld %ld\n";
 103 static char restorecmd[]  = "restore replace=%c prelinks=%d where=%s\n";
 104 static char restorecmd1[] = "restore replace=%c prelinks=%d where=\n";
 105 static char verifycmd[]   = "verify level=%30s\n";
 106 static char estimatecmd[] = "estimate listing=%d\n";
 107 static char runbefore[]   = "RunBeforeJob %s\n";
 108 static char runafter[]    = "RunAfterJob %s\n";
 109
 110 /* Responses sent to Director */
 111 static char errmsg[]      = "2999 Invalid command\n";
 112 static char no_auth[]     = "2998 No Authorization\n";
 113 static char illegal_cmd[] = "2997 Illegal command for a Director with Monitor directive enabled\n";
 114 static char OKinc[]       = "2000 OK include\n";
 115 static char OKest[]       = "2000 OK estimate files=%u bytes=%s\n";
 116 static char OKexc[]       = "2000 OK exclude\n";
 117 static char OKlevel[]     = "2000 OK level\n";
 118 static char OKbackup[]    = "2000 OK backup\n";
 119 static char OKbootstrap[] = "2000 OK bootstrap\n";
 120 static char OKverify[]    = "2000 OK verify\n";
 121 static char OKrestore[]   = "2000 OK restore\n";
 122 static char OKsession[]   = "2000 OK session\n";
 123 static char OKstore[]     = "2000 OK storage\n";
 124 static char OKjob[]       = "2000 OK Job %s,%s,%s";
 125 static char OKsetdebug[]  = "2000 OK setdebug=%d\n";
 126 static char BADjob[]      = "2901 Bad Job\n";
 127 static char EndJob[]      = "2800 End Job TermCode=%d JobFiles=%u ReadBytes=%s JobBytes=%s Errors=%u\n";
 128 static char OKRunBefore[] = "2000 OK RunBefore\n";
 129 static char OKRunAfter[]  = "2000 OK RunAfter\n";
 130
 131 /* Responses received from Storage Daemon */
 132 static char OK_end[]       = "3000 OK end\n";
 133 static char OK_close[]     = "3000 OK close Status = %d\n";
 134 static char OK_open[]      = "3000 OK open ticket = %d\n";
 135 static char OK_data[]      = "3000 OK data\n";
 136 static char OK_append[]    = "3000 OK append data\n";
 137 static char OKSDbootstrap[] = "3000 OK bootstrap\n";
 138
 139
 140 /* Commands sent to Storage Daemon */
 141 static char append_open[]  = "append open session\n";
 142 static char append_data[]  = "append data %d\n";
 143 static char append_end[]   = "append end session %d\n";
 144 static char append_close[] = "append close session %d\n";
 145 static char read_open[]    = "read open session = %s %ld %ld %ld %ld %ld %ld\n";
 146 static char read_data[]    = "read data %d\n";
 147 static char read_close[]   = "read close session %d\n";
 148
 149 /*
 150  * Accept requests from a Director
 151  *
 152  * NOTE! We are running as a separate thread
 153  *
 154  * Send output one line
 155  * at a time followed by a zero length transmission.
 156  *
 157  * Return when the connection is terminated or there
 158  * is an error.
 159  *
 160  * Basic task here is:
 161  *   Authenticate Director (during Hello command).
 162  *   Accept commands one at a time from the Director
 163  *     and execute them.
 164  *
 165  */
 166 void *handle_client_request(void *dirp)
 167 {
 168    int i;
 169    bool found, quit;
 170    JCR *jcr;
 171    BSOCK *dir = (BSOCK *)dirp;
 172
 173    jcr = new_jcr(sizeof(JCR), filed_free_jcr); /* create JCR */
 174    jcr->dir_bsock = dir;
 175    jcr->ff = init_find_files();
 176    jcr->start_time = time(NULL);
 177    jcr->last_fname = get_pool_memory(PM_FNAME);
 178    jcr->last_fname[0] = 0;
 179    jcr->client_name = get_memory(strlen(my_name) + 1);
 180    pm_strcpy(&jcr->client_name, my_name);
 181    dir->jcr = jcr;
 182    enable_backup_privileges(NULL, 1 /* ignore_errors */);
 183
 184    /**********FIXME******* add command handler error code */
 185
 186    for (quit=false; !quit;) {
 187
 188       /* Read command */
 189       if (bnet_recv(dir) < 0) {
 190          break;               /* connection terminated */
 191       }
 192       dir->msg[dir->msglen] = 0;
 193       Dmsg1(100, "<dird: %s", dir->msg);
 194       found = false;
 195       for (i=0; cmds[i].cmd; i++) {
 196          if (strncmp(cmds[i].cmd, dir->msg, strlen(cmds[i].cmd)) == 0) {
 197             found = true;         /* indicate command found */
 198             if (!jcr->authenticated && cmds[i].func != hello_cmd) {
 199                bnet_fsend(dir, no_auth);
 200                bnet_sig(dir, BNET_EOD);
 201                break;
 202             }
 203             if ((jcr->authenticated) && (!cmds[i].monitoraccess) && (jcr->director->monitor)) {
 204                Dmsg1(100, "Command %s illegal.\n", cmds[i].cmd);
 205                bnet_fsend(dir, illegal_cmd);
 206                bnet_sig(dir, BNET_EOD);
 207                break;
 208             }
 209             Dmsg1(100, "Executing %s command.\n", cmds[i].cmd);
 210             if (!cmds[i].func(jcr)) {         /* do command */
 211                quit = true;         /* error or fully terminated,       get out */
 212                Dmsg0(20, "Quit command loop due to command error or Job done.\n");
 213             }
 214             break;
 215          }
 216       }
 217       if (!found) {              /* command not found */
 218          bnet_fsend(dir, errmsg);
 219          quit = true;
 220          break;
 221       }
 222    }
 223
 224    /* Inform Storage daemon that we are done */
 225    if (jcr->store_bsock) {
 226       bnet_sig(jcr->store_bsock, BNET_TERMINATE);
 227    }
 228
 229    if (jcr->RunAfterJob && !job_canceled(jcr)) {
 230       run_cmd(jcr, jcr->RunAfterJob, "ClientRunAfterJob");
 231    }
 232
 233    /* Inform Director that we are done */
 234    bnet_sig(dir, BNET_TERMINATE);
 235
 236    /* Clean up fileset */
 237    FF_PKT *ff = (FF_PKT *)jcr->ff;
 238    findFILESET *fileset = ff->fileset;
 239    if (fileset) {
 240       int i, j, k;
 241       /* Delete FileSet Include lists */
 242       for (i=0; i<fileset->include_list.size(); i++) {
 243          findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 244          for (j=0; j<incexe->opts_list.size(); j++) {
 245             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 246             for (k=0; k<fo->regex.size(); k++) {
 247                regfree((regex_t *)fo->regex.get(k));
 248             }
 249             fo->regex.destroy();
 250             fo->wild.destroy();
 251             fo->base.destroy();
 252             if (fo->reader) {
 253                free(fo->reader);
 254             }
 255             if (fo->writer) {
 256                free(fo->writer);
 257             }
 258          }
 259          incexe->opts_list.destroy();
 260          incexe->name_list.destroy();
 261       }
 262       fileset->include_list.destroy();
 263
 264       /* Delete FileSet Exclude lists */
 265       for (i=0; i<fileset->exclude_list.size(); i++) {
 266          findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 267          for (j=0; j<incexe->opts_list.size(); j++) {
 268             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 269             fo->regex.destroy();
 270             fo->wild.destroy();
 271             fo->base.destroy();
 272          }
 273          incexe->opts_list.destroy();
 274          incexe->name_list.destroy();
 275       }
 276       fileset->exclude_list.destroy();
 277       free(fileset);
 278    }
 279    Dmsg0(100, "Calling term_find_files\n");
 280    term_find_files((FF_PKT *)jcr->ff);
 281    Dmsg0(100, "Done with term_find_files\n");
 282    free_jcr(jcr);                     /* destroy JCR record */
 283    Dmsg0(100, "Done with free_jcr\n");
 284    return NULL;
 285 }
 286
 287 /*
 288  * Hello from Director he must identify himself and provide his
 289  *  password.
 290  */
 291 static int hello_cmd(JCR *jcr)
 292 {
 293    Dmsg0(120, "Calling Authenticate\n");
 294    if (!authenticate_director(jcr)) {
 295       return 0;
 296    }
 297    Dmsg0(120, "OK Authenticate\n");
 298    jcr->authenticated = true;
 299    return 1;
 300 }
 301
 302 /*
 303  * Cancel a Job
 304  */
 305 static int cancel_cmd(JCR *jcr)
 306 {
 307    BSOCK *dir = jcr->dir_bsock;
 308    char Job[MAX_NAME_LENGTH];
 309    JCR *cjcr;
 310
 311    if (sscanf(dir->msg, "cancel Job=%127s", Job) == 1) {
 312       if (!(cjcr=get_jcr_by_full_name(Job))) {
 313          bnet_fsend(dir, "2901 Job %s not found.\n", Job);
 314       } else {
 315          if (cjcr->store_bsock) {
 316             P(cjcr->mutex);
 317             cjcr->store_bsock->timed_out = 1;
 318             cjcr->store_bsock->terminated = 1;
 319 /*
 320  * #if !defined(HAVE_CYGWIN) && !defined(HAVE_WIN32)
 321  */
 322 #if !defined(HAVE_CYGWIN)
 323             pthread_kill(cjcr->my_thread_id, TIMEOUT_SIGNAL);
 324 #endif
 325             V(cjcr->mutex);
 326          }
 327          set_jcr_job_status(cjcr, JS_Canceled);
 328          free_jcr(cjcr);
 329          bnet_fsend(dir, _("2001 Job %s marked to be canceled.\n"), Job);
 330       }
 331    } else {
 332       bnet_fsend(dir, _("2902 Error scanning cancel command.\n"));
 333    }
 334    bnet_sig(dir, BNET_EOD);
 335    return 1;
 336 }
 337
 338
 339 /*
 340  * Set debug level as requested by the Director
 341  *
 342  */
 343 static int setdebug_cmd(JCR *jcr)
 344 {
 345    BSOCK *dir = jcr->dir_bsock;
 346    int level, trace_flag;
 347
 348    Dmsg1(110, "setdebug_cmd: %s", dir->msg);
 349    if (sscanf(dir->msg, "setdebug=%d trace=%d", &level, &trace_flag) != 2 || level < 0) {
 350       pm_strcpy(&jcr->errmsg, dir->msg);
 351       bnet_fsend(dir, "2991 Bad setdebug command: %s\n", jcr->errmsg);
 352       return 0;
 353    }
 354    debug_level = level;
 355    set_trace(trace_flag);
 356    return bnet_fsend(dir, OKsetdebug, level);
 357 }
 358
 359
 360 static int estimate_cmd(JCR *jcr)
 361 {
 362    BSOCK *dir = jcr->dir_bsock;
 363    char ed2[50];
 364
 365    if (sscanf(dir->msg, estimatecmd, &jcr->listing) != 1) {
 366       pm_strcpy(&jcr->errmsg, dir->msg);
 367       Jmsg(jcr, M_FATAL, 0, _("Bad estimate command: %s"), jcr->errmsg);
 368       bnet_fsend(dir, "2992 Bad estimate command.\n");
 369       return 0;
 370    }
 371    make_estimate(jcr);
 372    bnet_fsend(dir, OKest, jcr->num_files_examined,
 373       edit_uint64_with_commas(jcr->JobBytes, ed2));
 374    bnet_sig(dir, BNET_EOD);
 375    return 1;
 376 }
 377
 378 /*
 379  * Get JobId and Storage Daemon Authorization key from Director
 380  */
 381 static int job_cmd(JCR *jcr)
 382 {
 383    BSOCK *dir = jcr->dir_bsock;
 384    POOLMEM *sd_auth_key;
 385
 386    sd_auth_key = get_memory(dir->msglen);
 387    if (sscanf(dir->msg, jobcmd,  &jcr->JobId, jcr->Job,
 388               &jcr->VolSessionId, &jcr->VolSessionTime,
 389               sd_auth_key) != 5) {
 390       pm_strcpy(&jcr->errmsg, dir->msg);
 391       Jmsg(jcr, M_FATAL, 0, _("Bad Job Command: %s"), jcr->errmsg);
 392       bnet_fsend(dir, BADjob);
 393       free_pool_memory(sd_auth_key);
 394       return 0;
 395    }
 396    jcr->sd_auth_key = bstrdup(sd_auth_key);
 397    free_pool_memory(sd_auth_key);
 398    Dmsg2(120, "JobId=%d Auth=%s\n", jcr->JobId, jcr->sd_auth_key);
 399    return bnet_fsend(dir, OKjob, HOST_OS, DISTNAME, DISTVER);
 400 }
 401
 402 static int runbefore_cmd(JCR *jcr)
 403 {
 404    int stat;
 405    BSOCK *dir = jcr->dir_bsock;
 406    POOLMEM *cmd = get_memory(dir->msglen+1);
 407
 408    Dmsg1(100, "runbefore_cmd: %s", dir->msg);
 409    if (sscanf(dir->msg, runbefore, cmd) != 1) {
 410       pm_strcpy(&jcr->errmsg, dir->msg);
 411       Jmsg1(jcr, M_FATAL, 0, _("Bad RunBeforeJob command: %s\n"), jcr->errmsg);
 412       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 413       free_memory(cmd);
 414       return 0;
 415    }
 416    unbash_spaces(cmd);
 417
 418    /* Run the command now */
 419    stat = run_cmd(jcr, cmd, "ClientRunBeforeJob");
 420    free_memory(cmd);
 421    if (stat) {
 422       bnet_fsend(dir, OKRunBefore);
 423       return 1;
 424    } else {
 425       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 426       return 0;
 427    }
 428 }
 429
 430 static int runafter_cmd(JCR *jcr)
 431 {
 432    BSOCK *dir = jcr->dir_bsock;
 433    POOLMEM *msg = get_memory(dir->msglen+1);
 434
 435    Dmsg1(100, "runafter_cmd: %s", dir->msg);
 436    if (sscanf(dir->msg, runafter, msg) != 1) {
 437       pm_strcpy(&jcr->errmsg, dir->msg);
 438       Jmsg1(jcr, M_FATAL, 0, _("Bad RunAfter command: %s\n"), jcr->errmsg);
 439       bnet_fsend(dir, "2905 Bad RunAfterJob command.\n");
 440       free_memory(msg);
 441       return 0;
 442    }
 443    unbash_spaces(msg);
 444    if (jcr->RunAfterJob) {
 445       free_pool_memory(jcr->RunAfterJob);
 446    }
 447    jcr->RunAfterJob = get_pool_memory(PM_FNAME);
 448    pm_strcpy(&jcr->RunAfterJob, msg);
 449    free_pool_memory(msg);
 450    return bnet_fsend(dir, OKRunAfter);
 451 }
 452
 453 static int run_cmd(JCR *jcr, char *cmd, const char *name)
 454 {
 455    POOLMEM *ecmd = get_pool_memory(PM_FNAME);
 456    int status;
 457    BPIPE *bpipe;
 458    char line[MAXSTRING];
 459
 460    ecmd = edit_job_codes(jcr, ecmd, cmd, "");
 461    bpipe = open_bpipe(ecmd, 0, "r");
 462    free_pool_memory(ecmd);
 463    if (bpipe == NULL) {
 464       Jmsg(jcr, M_FATAL, 0, _("%s could not execute\n"), name);
 465       set_jcr_job_status(jcr, JS_FatalError);
 466       return 0;
 467    }
 468    while (fgets(line, sizeof(line), bpipe->rfd)) {
 469       Jmsg(jcr, M_INFO, 0, _("%s: %s"), name, line);
 470    }
 471    status = close_bpipe(bpipe);
 472    if (status != 0) {
 473       Jmsg(jcr, M_FATAL, 0, _("%s returned non-zero status=%d\n"), name,
 474          status);
 475       set_jcr_job_status(jcr, JS_FatalError);
 476       return 0;
 477    }
 478    return 1;
 479 }
 480
 481
 482 #define INC_LIST 0
 483 #define EXC_LIST 1
 484
 485 static void add_fname_to_list(JCR *jcr, char *fname, int list)
 486 {
 487    char *p, *q;
 488    BPIPE *bpipe;
 489    POOLMEM *fn;
 490    FILE *ffd;
 491    char buf[1000];
 492    int optlen;
 493    int stat;
 494
 495    /* Skip leading options -- currently ignored */
 496    for (p=fname; *p && *p != ' '; p++)
 497       { }
 498    /* Skip spaces, and q points to first space */
 499    for (q=NULL; *p && *p == ' '; p++) {
 500       if (!q) {
 501          q = p;
 502       }
 503    }
 504
 505    switch (*p) {
 506    case '|':
 507       p++;                            /* skip over | */
 508       fn = get_pool_memory(PM_FNAME);
 509       fn = edit_job_codes(jcr, fn, p, "");
 510       bpipe = open_bpipe(fn, 0, "r");
 511       free_pool_memory(fn);
 512       if (!bpipe) {
 513          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 514             p, strerror(errno));
 515          return;
 516       }
 517       /* Copy File options */
 518       if (list == INC_LIST) {
 519          *q = 0;                      /* terminate options */
 520          strcpy(buf, fname);
 521          strcat(buf, " ");
 522          optlen = strlen(buf);
 523       } else {
 524          optlen = 0;
 525       }
 526       while (fgets(buf+optlen, sizeof(buf)-optlen, bpipe->rfd)) {
 527          strip_trailing_junk(buf);
 528          if (list == INC_LIST) {
 529             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 530          } else {
 531             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 532          }
 533       }
 534       if ((stat=close_bpipe(bpipe)) != 0) {
 535          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 536             p, stat, strerror(errno));
 537          return;
 538       }
 539       break;
 540    case '<':
 541       p++;                      /* skip over < */
 542       if ((ffd = fopen(p, "r")) == NULL) {
 543          berrno be;
 544          Jmsg(jcr, M_FATAL, 0, _("Cannot open %s file: %s. ERR=%s\n"),
 545             list==INC_LIST?"included":"excluded", p, be.strerror());
 546          return;
 547       }
 548       /* Copy File options */
 549       if (list == INC_LIST) {
 550          *q = 0;                      /* terminate options */
 551          strcpy(buf, fname);
 552          strcat(buf, " ");
 553          optlen = strlen(buf);
 554       } else {
 555          optlen = 0;
 556       }
 557       while (fgets(buf+optlen, sizeof(buf)-optlen, ffd)) {
 558          strip_trailing_junk(buf);
 559          if (list == INC_LIST) {
 560             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 561          } else {
 562             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 563          }
 564       }
 565       fclose(ffd);
 566       break;
 567    default:
 568       if (list == INC_LIST) {
 569          add_fname_to_include_list((FF_PKT *)jcr->ff, 1, fname);
 570       } else {
 571          add_fname_to_exclude_list((FF_PKT *)jcr->ff, p);
 572       }
 573       break;
 574    }
 575 }
 576
 577 /*
 578  *
 579  * Get list of files/directories to include from Director
 580  *
 581  */
 582 static int include_cmd(JCR *jcr)
 583 {
 584    BSOCK *dir = jcr->dir_bsock;
 585
 586    while (bnet_recv(dir) >= 0) {
 587       dir->msg[dir->msglen] = 0;
 588       strip_trailing_junk(dir->msg);
 589       Dmsg1(010, "include file: %s\n", dir->msg);
 590       add_fname_to_list(jcr, dir->msg, INC_LIST);
 591    }
 592
 593    return bnet_fsend(dir, OKinc);
 594 }
 595
 596 static bool init_fileset(JCR *jcr)
 597 {
 598    FF_PKT *ff;
 599    findFILESET *fileset;
 600
 601    if (!jcr->ff) {
 602       return false;
 603    }
 604    ff = (FF_PKT *)jcr->ff;
 605    if (ff->fileset) {
 606       return false;
 607    }
 608    fileset = (findFILESET *)malloc(sizeof(findFILESET));
 609    memset(fileset, 0, sizeof(findFILESET));
 610    ff->fileset = fileset;
 611    fileset->state = state_none;
 612    fileset->include_list.init(1, true);
 613    fileset->exclude_list.init(1, true);
 614    return true;
 615 }
 616
 617 static findFOPTS *start_options(FF_PKT *ff)
 618 {
 619    int state = ff->fileset->state;
 620    findINCEXE *incexe = ff->fileset->incexe;
 621
 622    if (state != state_options) {
 623       ff->fileset->state = state_options;
 624       findFOPTS *fo = (findFOPTS *)malloc(sizeof(findFOPTS));
 625       memset(fo, 0, sizeof(findFOPTS));
 626       fo->regex.init(1, true);
 627       fo->wild.init(1, true);
 628       fo->base.init(1, true);
 629       incexe->current_opts = fo;
 630       incexe->opts_list.append(fo);
 631    }
 632    return incexe->current_opts;
 633
 634 }
 635
 636 /*
 637  * Add fname to include/exclude fileset list. First check for
 638  * | and < and if necessary perform command.
 639  */
 640 static void add_file_to_fileset(JCR *jcr, const char *fname, findFILESET *fileset)
 641 {
 642    char *p;
 643    BPIPE *bpipe;
 644    POOLMEM *fn;
 645    FILE *ffd;
 646    char buf[1000];
 647    int stat;
 648
 649    p = (char *)fname;
 650    switch (*p) {
 651    case '|':
 652       p++;                            /* skip over | */
 653       fn = get_pool_memory(PM_FNAME);
 654       fn = edit_job_codes(jcr, fn, p, "");
 655       bpipe = open_bpipe(fn, 0, "r");
 656       free_pool_memory(fn);
 657       if (!bpipe) {
 658          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 659             p, strerror(errno));
 660          return;
 661       }
 662       while (fgets(buf, sizeof(buf), bpipe->rfd)) {
 663          strip_trailing_junk(buf);
 664          fileset->incexe->name_list.append(bstrdup(buf));
 665       }
 666       if ((stat=close_bpipe(bpipe)) != 0) {
 667          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 668             p, stat, strerror(errno));
 669          return;
 670       }
 671       break;
 672    case '<':
 673       p++;                      /* skip over < */
 674       if ((ffd = fopen(p, "r")) == NULL) {
 675          berrno be;
 676          Jmsg(jcr, M_FATAL, 0, _("Cannot open FileSet input file: %s. ERR=%s\n"),
 677             p, be.strerror());
 678          return;
 679       }
 680       while (fgets(buf, sizeof(buf), ffd)) {
 681          strip_trailing_junk(buf);
 682          fileset->incexe->name_list.append(bstrdup(buf));
 683       }
 684       fclose(ffd);
 685       break;
 686    default:
 687       fileset->incexe->name_list.append(bstrdup(fname));
 688       break;
 689    }
 690 }
 691
 692
 693 static void add_fileset(JCR *jcr, const char *item)
 694 {
 695    FF_PKT *ff = (FF_PKT *)jcr->ff;
 696    findFILESET *fileset = ff->fileset;
 697    int state = fileset->state;
 698    findFOPTS *current_opts;
 699
 700    Dmsg1(100, "%s\n", item);
 701    int code = item[0];
 702    if (item[1] == ' ') {              /* If string follows */
 703       item += 2;                      /* point to string */
 704    }
 705
 706    if (state == state_error) {
 707       return;
 708    }
 709    switch (code) {
 710    case 'I':
 711       /* New include */
 712       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 713       memset(fileset->incexe, 0, sizeof(findINCEXE));
 714       fileset->incexe->opts_list.init(1, true);
 715       fileset->incexe->name_list.init(1, true);
 716       fileset->include_list.append(fileset->incexe);
 717       break;
 718    case 'E':
 719       /* New exclude */
 720       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 721       memset(fileset->incexe, 0, sizeof(findINCEXE));
 722       fileset->incexe->opts_list.init(1, true);
 723       fileset->incexe->name_list.init(1, true);
 724       fileset->exclude_list.append(fileset->incexe);
 725       break;
 726    case 'N':
 727       state = state_none;
 728       break;
 729    case 'F':
 730       /* File item to either include/include list */
 731       state = state_include;
 732       add_file_to_fileset(jcr, item, fileset);
 733       break;
 734    case 'R':
 735       current_opts = start_options(ff);
 736       regex_t *preg;
 737       int rc;
 738       char prbuf[500];
 739       preg = (regex_t *)malloc(sizeof(regex_t));
 740       rc = regcomp(preg, item, REG_EXTENDED);
 741       if (rc != 0) {
 742          regerror(rc, preg, prbuf, sizeof(prbuf));
 743          regfree(preg);
 744          free(preg);
 745          Jmsg(jcr, M_FATAL, 0, "REGEX %s compile error. ERR=%s\n", item, prbuf);
 746          state = state_error;
 747          break;
 748       }
 749       current_opts->regex.append(preg);
 750       state = state_options;
 751       break;
 752    case 'B':
 753       current_opts = start_options(ff);
 754       current_opts->base.append(bstrdup(item));
 755       state = state_options;
 756       break;
 757    case 'W':
 758       current_opts = start_options(ff);
 759       current_opts->wild.append(bstrdup(item));
 760       state = state_options;
 761       break;
 762    case 'O':
 763       current_opts = start_options(ff);
 764       set_options(current_opts, item);
 765       state = state_options;
 766       break;
 767    case 'D':
 768       current_opts = start_options(ff);
 769       current_opts->reader = bstrdup(item);
 770       state = state_options;
 771       break;
 772    case 'T':
 773       current_opts = start_options(ff);
 774       current_opts->writer = bstrdup(item);
 775       state = state_options;
 776       break;
 777    default:
 778       Jmsg(jcr, M_FATAL, 0, "Invalid FileSet command: %s\n", item);
 779       state = state_error;
 780       break;
 781    }
 782    ff->fileset->state = state;
 783 }
 784
 785 static bool term_fileset(JCR *jcr)
 786 {
 787    FF_PKT *ff = (FF_PKT *)jcr->ff;
 788    findFILESET *fileset = ff->fileset;
 789    int i, j, k;
 790
 791    for (i=0; i<fileset->include_list.size(); i++) {
 792       findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 793       Dmsg0(400, "I\n");
 794       for (j=0; j<incexe->opts_list.size(); j++) {
 795          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 796          for (k=0; k<fo->regex.size(); k++) {
 797             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 798          }
 799          for (k=0; k<fo->wild.size(); k++) {
 800             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 801          }
 802          for (k=0; k<fo->base.size(); k++) {
 803             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 804          }
 805          if (fo->reader) {
 806             Dmsg1(400, "D %s\n", fo->reader);
 807          }
 808          if (fo->writer) {
 809             Dmsg1(400, "T %s\n", fo->writer);
 810          }
 811       }
 812       for (j=0; j<incexe->name_list.size(); j++) {
 813          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 814       }
 815    }
 816    for (i=0; i<fileset->exclude_list.size(); i++) {
 817       findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 818       Dmsg0(400, "E\n");
 819       for (j=0; j<incexe->opts_list.size(); j++) {
 820          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 821          for (k=0; k<fo->regex.size(); k++) {
 822             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 823          }
 824          for (k=0; k<fo->wild.size(); k++) {
 825             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 826          }
 827          for (k=0; k<fo->base.size(); k++) {
 828             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 829          }
 830       }
 831       for (j=0; j<incexe->name_list.size(); j++) {
 832          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 833       }
 834    }
 835    return ff->fileset->state != state_error;
 836 }
 837
 838
 839 /*
 840  * As an optimization, we should do this during
 841  *  "compile" time in filed/job.c, and keep only a bit mask
 842  *  and the Verify options.
 843  */
 844 static void set_options(findFOPTS *fo, const char *opts)
 845 {
 846    int j;
 847    const char *p;
 848
 849    for (p=opts; *p; p++) {
 850       switch (*p) {
 851       case 'a':                 /* alway replace */
 852       case '0':                 /* no option */
 853          break;
 854       case 'e':
 855          fo->flags |= FO_EXCLUDE;
 856          break;
 857       case 'f':
 858          fo->flags |= FO_MULTIFS;
 859          break;
 860       case 'h':                 /* no recursion */
 861          fo->flags |= FO_NO_RECURSION;
 862          break;
 863       case 'M':                 /* MD5 */
 864          fo->flags |= FO_MD5;
 865          break;
 866       case 'n':
 867          fo->flags |= FO_NOREPLACE;
 868          break;
 869       case 'p':                 /* use portable data format */
 870          fo->flags |= FO_PORTABLE;
 871          break;
 872       case 'r':                 /* read fifo */
 873          fo->flags |= FO_READFIFO;
 874          break;
 875       case 'S':
 876          fo->flags |= FO_SHA1;
 877          break;
 878       case 's':
 879          fo->flags |= FO_SPARSE;
 880          break;
 881       case 'm':
 882          fo->flags |= FO_MTIMEONLY;
 883          break;
 884       case 'k':
 885          fo->flags |= FO_KEEPATIME;
 886          break;
 887       case 'V':                  /* verify options */
 888          /* Copy Verify Options */
 889          for (j=0; *p && *p != ':'; p++) {
 890             fo->VerifyOpts[j] = *p;
 891             if (j < (int)sizeof(fo->VerifyOpts) - 1) {
 892                j++;
 893             }
 894          }
 895          fo->VerifyOpts[j] = 0;
 896          break;
 897       case 'w':
 898          fo->flags |= FO_IF_NEWER;
 899          break;
 900       case 'Z':                 /* gzip compression */
 901          fo->flags |= FO_GZIP;
 902          fo->GZIP_level = *++p - '0';
 903          Dmsg1(200, "Compression level=%d\n", fo->GZIP_level);
 904          break;
 905       default:
 906          Emsg1(M_ERROR, 0, "Unknown include/exclude option: %c\n", *p);
 907          break;
 908       }
 909    }
 910 }
 911
 912
 913 /*
 914  * Director is passing his Fileset
 915  */
 916 static int fileset_cmd(JCR *jcr)
 917 {
 918    BSOCK *dir = jcr->dir_bsock;
 919
 920    if (!init_fileset(jcr)) {
 921       return 0;
 922    }
 923    while (bnet_recv(dir) >= 0) {
 924       strip_trailing_junk(dir->msg);
 925       Dmsg1(400, "Fileset: %s\n", dir->msg);
 926       add_fileset(jcr, dir->msg);
 927    }
 928    if (!term_fileset(jcr)) {
 929       return 0;
 930    }
 931    return bnet_fsend(dir, OKinc);
 932 }
 933
 934
 935 /*
 936  * Get list of files to exclude from Director
 937  *
 938  */
 939 static int exclude_cmd(JCR *jcr)
 940 {
 941    BSOCK *dir = jcr->dir_bsock;
 942
 943    while (bnet_recv(dir) >= 0) {
 944       dir->msg[dir->msglen] = 0;
 945       strip_trailing_junk(dir->msg);
 946       add_fname_to_list(jcr, dir->msg, EXC_LIST);
 947       Dmsg1(110, "<dird: exclude file %s\n", dir->msg);
 948    }
 949
 950    return bnet_fsend(dir, OKexc);
 951 }
 952
 953
 954 static int bootstrap_cmd(JCR *jcr)
 955 {
 956    BSOCK *dir = jcr->dir_bsock;
 957    POOLMEM *fname = get_pool_memory(PM_FNAME);
 958    FILE *bs;
 959
 960    if (jcr->RestoreBootstrap) {
 961       unlink(jcr->RestoreBootstrap);
 962       free_pool_memory(jcr->RestoreBootstrap);
 963    }
 964    Mmsg(fname, "%s/%s.%s.bootstrap", me->working_directory, me->hdr.name,
 965       jcr->Job);
 966    Dmsg1(400, "bootstrap=%s\n", fname);
 967    jcr->RestoreBootstrap = fname;
 968    bs = fopen(fname, "a+");           /* create file */
 969    if (!bs) {
 970       berrno be;
 971       /*
 972        * Suck up what he is sending to us so that he will then
 973        *   read our error message.
 974        */
 975       while (bnet_recv(dir) >= 0)
 976         {  }
 977
 978       Jmsg(jcr, M_FATAL, 0, _("Could not create bootstrap file %s: ERR=%s\n"),
 979          jcr->RestoreBootstrap, be.strerror());
 980       free_pool_memory(jcr->RestoreBootstrap);
 981       jcr->RestoreBootstrap = NULL;
 982       set_jcr_job_status(jcr, JS_ErrorTerminated);
 983       return 0;
 984    }
 985
 986    while (bnet_recv(dir) >= 0) {
 987        Dmsg1(200, "filed<dird: bootstrap file %s\n", dir->msg);
 988        fputs(dir->msg, bs);
 989    }
 990    fclose(bs);
 991
 992    return bnet_fsend(dir, OKbootstrap);
 993 }
 994
 995
 996 /*
 997  * Get backup level from Director
 998  *
 999  */
1000 static int level_cmd(JCR *jcr)
1001 {
1002    BSOCK *dir = jcr->dir_bsock;
1003    POOLMEM *level, *buf = NULL;
1004    struct tm tm;
1005    time_t mtime;
1006    int mtime_only;
1007
1008    level = get_memory(dir->msglen+1);
1009    Dmsg1(110, "level_cmd: %s", dir->msg);
1010    if (sscanf(dir->msg, "level = %s ", level) != 1) {
1011       goto bail_out;
1012    }
1013    /* Base backup requested? */
1014    if (strcmp(level, "base") == 0) {
1015       jcr->JobLevel = L_BASE;
1016    /* Full backup requested? */
1017    } else if (strcmp(level, "full") == 0) {
1018       jcr->JobLevel = L_FULL;
1019    /*
1020     * Backup requested since <date> <time>
1021     *  This form is also used for incremental and differential
1022     *  This code is deprecated.  See since_utime for new code.
1023     */
1024    } else if (strcmp(level, "since") == 0) {
1025       jcr->JobLevel = L_SINCE;
1026       if (sscanf(dir->msg, "level = since %d-%d-%d %d:%d:%d mtime_only=%d",
1027                  &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
1028                  &tm.tm_hour, &tm.tm_min, &tm.tm_sec, &mtime_only) != 7) {
1029          goto bail_out;
1030       }
1031       tm.tm_year -= 1900;
1032       tm.tm_mon  -= 1;
1033       tm.tm_wday = tm.tm_yday = 0;
1034       tm.tm_isdst = -1;
1035       mtime = mktime(&tm);
1036       Dmsg2(100, "Got since time: %s mtime_only=%d\n", ctime(&mtime), mtime_only);
1037       jcr->incremental = 1;           /* set incremental or decremental backup */
1038       jcr->mtime = mtime;             /* set since time */
1039    /*
1040     * We get his UTC since time, then sync the clocks and correct it
1041     *   to agree with our clock.
1042     */
1043    } else if (strcmp(level, "since_utime") == 0) {
1044       buf = get_memory(dir->msglen+1);
1045       utime_t since_time, adj;
1046       btime_t his_time, bt_start, rt=0, bt_adj=0;
1047       jcr->JobLevel = L_SINCE;
1048       if (sscanf(dir->msg, "level = since_utime %s mtime_only=%d",
1049                  buf, &mtime_only) != 2) {
1050          goto bail_out;
1051       }
1052       since_time = str_to_uint64(buf);  /* this is the since time */
1053       char ed1[50], ed2[50];
1054       /*
1055        * Sync clocks by polling him for the time. We take
1056        *   10 samples of his time throwing out the first two.
1057        */
1058       for (int i=0; i<10; i++) {
1059          bt_start = get_current_btime();
1060          bnet_sig(dir, BNET_BTIME);   /* poll for time */
1061          if (bnet_recv(dir) <= 0) {   /* get response */
1062             goto bail_out;
1063          }
1064          if (sscanf(dir->msg, "btime %s", buf) != 1) {
1065             goto bail_out;
1066          }
1067          if (i < 2) {                 /* toss first two results */
1068             continue;
1069          }
1070          his_time = str_to_uint64(buf);
1071          rt = get_current_btime() - bt_start; /* compute round trip time */
1072          bt_adj -= his_time - bt_start - rt/2;
1073          Dmsg2(200, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1074       }
1075
1076       bt_adj = bt_adj / 8;            /* compute average time */
1077       Dmsg2(100, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1078       adj = btime_to_utime(bt_adj);
1079       since_time += adj;              /* adjust for clock difference */
1080       if (adj != 0) {
1081          Jmsg(jcr, M_INFO, 0, _("Since time adjusted by %d seconds.\n"), adj);
1082       }
1083       bnet_sig(dir, BNET_EOD);
1084
1085       Dmsg2(100, "adj = %d since_time=%d\n", (int)adj, (int)since_time);
1086       jcr->incremental = 1;           /* set incremental or decremental backup */
1087       jcr->mtime = (time_t)since_time; /* set since time */
1088    } else {
1089       Jmsg1(jcr, M_FATAL, 0, "Unknown backup level: %s\n", level);
1090       free_memory(level);
1091       return 0;
1092    }
1093    free_memory(level);
1094    if (buf) {
1095       free_memory(buf);
1096    }
1097    return bnet_fsend(dir, OKlevel);
1098
1099 bail_out:
1100    pm_strcpy(&jcr->errmsg, dir->msg);
1101    Jmsg1(jcr, M_FATAL, 0, _("Bad level command: %s\n"), jcr->errmsg);
1102    free_memory(level);
1103    if (buf) {
1104       free_memory(buf);
1105    }
1106    return 0;
1107 }
1108
1109 /*
1110  * Get session parameters from Director -- this is for a Restore command
1111  */
1112 static int session_cmd(JCR *jcr)
1113 {
1114    BSOCK *dir = jcr->dir_bsock;
1115
1116    Dmsg1(100, "SessionCmd: %s", dir->msg);
1117    if (sscanf(dir->msg, sessioncmd, jcr->VolumeName,
1118               &jcr->VolSessionId, &jcr->VolSessionTime,
1119               &jcr->StartFile, &jcr->EndFile,
1120               &jcr->StartBlock, &jcr->EndBlock) != 7) {
1121       pm_strcpy(&jcr->errmsg, dir->msg);
1122       Jmsg(jcr, M_FATAL, 0, "Bad session command: %s", jcr->errmsg);
1123       return 0;
1124    }
1125
1126    return bnet_fsend(dir, OKsession);
1127 }
1128
1129 /*
1130  * Get address of storage daemon from Director
1131  *
1132  */
1133 static int storage_cmd(JCR *jcr)
1134 {
1135    int stored_port;                /* storage daemon port */
1136    int enable_ssl;                 /* enable ssl to sd */
1137    BSOCK *dir = jcr->dir_bsock;
1138    BSOCK *sd;                         /* storage daemon bsock */
1139
1140    Dmsg1(100, "StorageCmd: %s", dir->msg);
1141    if (sscanf(dir->msg, storaddr, &jcr->stored_addr, &stored_port, &enable_ssl) != 3) {
1142       pm_strcpy(&jcr->errmsg, dir->msg);
1143       Jmsg(jcr, M_FATAL, 0, _("Bad storage command: %s"), jcr->errmsg);
1144       return 0;
1145    }
1146    Dmsg3(110, "Open storage: %s:%d ssl=%d\n", jcr->stored_addr, stored_port, enable_ssl);
1147    /* Open command communications with Storage daemon */
1148    /* Try to connect for 1 hour at 10 second intervals */
1149    sd = bnet_connect(jcr, 10, (int)me->SDConnectTimeout, _("Storage daemon"),
1150                      jcr->stored_addr, NULL, stored_port, 1);
1151    if (sd == NULL) {
1152       Jmsg(jcr, M_FATAL, 0, _("Failed to connect to Storage daemon: %s:%d\n"),
1153           jcr->stored_addr, stored_port);
1154       Dmsg2(100, "Failed to connect to Storage daemon: %s:%d\n",
1155           jcr->stored_addr, stored_port);
1156       return 0;
1157    }
1158    Dmsg0(110, "Connection OK to SD.\n");
1159
1160    jcr->store_bsock = sd;
1161
1162    bnet_fsend(sd, "Hello Start Job %s\n", jcr->Job);
1163    if (!authenticate_storagedaemon(jcr)) {
1164       Jmsg(jcr, M_FATAL, 0, _("Failed to authenticate Storage daemon.\n"));
1165       return 0;
1166    }
1167    Dmsg0(110, "Authenticated with SD.\n");
1168
1169    /* Send OK to Director */
1170    return bnet_fsend(dir, OKstore);
1171 }
1172
1173
1174 /*
1175  * Do a backup. For now, we handle only Full and Incremental.
1176  */
1177 static int backup_cmd(JCR *jcr)
1178 {
1179    BSOCK *dir = jcr->dir_bsock;
1180    BSOCK *sd = jcr->store_bsock;
1181    int ok = 0;
1182    int SDJobStatus;
1183    char ed1[50], ed2[50];
1184
1185    set_jcr_job_status(jcr, JS_Blocked);
1186    jcr->JobType = JT_BACKUP;
1187    Dmsg1(100, "begin backup ff=%p\n", (FF_PKT *)jcr->ff);
1188
1189    if (sd == NULL) {
1190       Jmsg(jcr, M_FATAL, 0, _("Cannot contact Storage daemon\n"));
1191       goto cleanup;
1192    }
1193
1194    bnet_fsend(dir, OKbackup);
1195    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1196
1197    /*
1198     * Send Append Open Session to Storage daemon
1199     */
1200    bnet_fsend(sd, append_open);
1201    Dmsg1(110, ">stored: %s", sd->msg);
1202    /*
1203     * Expect to receive back the Ticket number
1204     */
1205    if (bget_msg(sd) >= 0) {
1206       Dmsg1(110, "<stored: %s", sd->msg);
1207       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1208          Jmsg(jcr, M_FATAL, 0, _("Bad response to append open: %s\n"), sd->msg);
1209          goto cleanup;
1210       }
1211       Dmsg1(110, "Got Ticket=%d\n", jcr->Ticket);
1212    } else {
1213       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to open command\n"));
1214       goto cleanup;
1215    }
1216
1217    /*
1218     * Send Append data command to Storage daemon
1219     */
1220    bnet_fsend(sd, append_data, jcr->Ticket);
1221    Dmsg1(110, ">stored: %s", sd->msg);
1222
1223    /*
1224     * Expect to get OK data
1225     */
1226    Dmsg1(110, "<stored: %s", sd->msg);
1227    if (!response(jcr, sd, OK_data, "Append Data")) {
1228       goto cleanup;
1229    }
1230
1231    /*
1232     * Send Files to Storage daemon
1233     */
1234    Dmsg1(110, "begin blast ff=%p\n", (FF_PKT *)jcr->ff);
1235    if (!blast_data_to_storage_daemon(jcr, NULL)) {
1236       set_jcr_job_status(jcr, JS_ErrorTerminated);
1237       bnet_suppress_error_messages(sd, 1);
1238       Dmsg0(110, "Error in blast_data.\n");
1239    } else {
1240       set_jcr_job_status(jcr, JS_Terminated);
1241       if (jcr->JobStatus != JS_Terminated) {
1242          bnet_suppress_error_messages(sd, 1);
1243          goto cleanup;                /* bail out now */
1244       }
1245       /*
1246        * Expect to get response to append_data from Storage daemon
1247        */
1248       if (!response(jcr, sd, OK_append, "Append Data")) {
1249          set_jcr_job_status(jcr, JS_ErrorTerminated);
1250          goto cleanup;
1251       }
1252
1253       /*
1254        * Send Append End Data to Storage daemon
1255        */
1256       bnet_fsend(sd, append_end, jcr->Ticket);
1257       /* Get end OK */
1258       if (!response(jcr, sd, OK_end, "Append End")) {
1259          set_jcr_job_status(jcr, JS_ErrorTerminated);
1260          goto cleanup;
1261       }
1262
1263       /*
1264        * Send Append Close to Storage daemon
1265        */
1266       bnet_fsend(sd, append_close, jcr->Ticket);
1267       while (bget_msg(sd) >= 0) {    /* stop on signal or error */
1268          if (sscanf(sd->msg, OK_close, &SDJobStatus) == 1) {
1269             ok = 1;
1270             Dmsg2(200, "SDJobStatus = %d %c\n", SDJobStatus, (char)SDJobStatus);
1271          }
1272       }
1273       if (!ok) {
1274          Jmsg(jcr, M_FATAL, 0, _("Append Close with SD failed.\n"));
1275          goto cleanup;
1276       }
1277       if (SDJobStatus != JS_Terminated) {
1278          Jmsg(jcr, M_FATAL, 0, _("Bad status %d returned from Storage Daemon.\n"),
1279             SDJobStatus);
1280       }
1281    }
1282
1283 cleanup:
1284    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1285       edit_uint64(jcr->ReadBytes, ed1),
1286       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1287    Dmsg1(110, "End FD msg: %s\n", dir->msg);
1288
1289    return 0;                          /* return and stop command loop */
1290 }
1291
1292 /*
1293  * Do a Verify for Director
1294  *
1295  */
1296 static int verify_cmd(JCR *jcr)
1297 {
1298    BSOCK *dir = jcr->dir_bsock;
1299    BSOCK *sd  = jcr->store_bsock;
1300    char level[100], ed1[50], ed2[50];
1301
1302    jcr->JobType = JT_VERIFY;
1303    if (sscanf(dir->msg, verifycmd, level) != 1) {
1304       bnet_fsend(dir, "2994 Bad verify command: %s\n", dir->msg);
1305       return 0;
1306    }
1307    if (strcasecmp(level, "init") == 0) {
1308       jcr->JobLevel = L_VERIFY_INIT;
1309    } else if (strcasecmp(level, "catalog") == 0){
1310       jcr->JobLevel = L_VERIFY_CATALOG;
1311    } else if (strcasecmp(level, "volume") == 0){
1312       jcr->JobLevel = L_VERIFY_VOLUME_TO_CATALOG;
1313    } else if (strcasecmp(level, "data") == 0){
1314       jcr->JobLevel = L_VERIFY_DATA;
1315    } else if (strcasecmp(level, "disk_to_catalog") == 0) {
1316       jcr->JobLevel = L_VERIFY_DISK_TO_CATALOG;
1317    } else {
1318       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1319       return 0;
1320    }
1321
1322    bnet_fsend(dir, OKverify);
1323    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1324
1325    switch (jcr->JobLevel) {
1326    case L_VERIFY_INIT:
1327    case L_VERIFY_CATALOG:
1328       do_verify(jcr);
1329       break;
1330    case L_VERIFY_VOLUME_TO_CATALOG:
1331       if (!open_sd_read_session(jcr)) {
1332          return 0;
1333       }
1334       start_dir_heartbeat(jcr);
1335       do_verify_volume(jcr);
1336       stop_dir_heartbeat(jcr);
1337       /*
1338        * Send Close session command to Storage daemon
1339        */
1340       bnet_fsend(sd, read_close, jcr->Ticket);
1341       Dmsg1(130, "bfiled>stored: %s", sd->msg);
1342
1343       /* ****FIXME**** check response */
1344       bget_msg(sd);                      /* get OK */
1345
1346       /* Inform Storage daemon that we are done */
1347       bnet_sig(sd, BNET_TERMINATE);
1348
1349       break;
1350    case L_VERIFY_DISK_TO_CATALOG:
1351       do_verify(jcr);
1352       break;
1353    default:
1354       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1355       return 0;
1356    }
1357
1358    bnet_sig(dir, BNET_EOD);
1359
1360    /* Send termination status back to Dir */
1361    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1362       edit_uint64(jcr->ReadBytes, ed1),
1363       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1364
1365    /* Inform Director that we are done */
1366    bnet_sig(dir, BNET_TERMINATE);
1367    return 0;                          /* return and terminate command loop */
1368 }
1369
1370 /*
1371  * Do a Restore for Director
1372  *
1373  */
1374 static int restore_cmd(JCR *jcr)
1375 {
1376    BSOCK *dir = jcr->dir_bsock;
1377    BSOCK *sd = jcr->store_bsock;
1378    POOLMEM *where;
1379    int prefix_links;
1380    char replace;
1381    char ed1[50], ed2[50];
1382
1383    /*
1384     * Scan WHERE (base directory for restore) from command
1385     */
1386    Dmsg0(150, "restore command\n");
1387    /* Pickup where string */
1388    where = get_memory(dir->msglen+1);
1389    *where = 0;
1390
1391    if (sscanf(dir->msg, restorecmd, &replace, &prefix_links, where) != 3) {
1392       if (sscanf(dir->msg, restorecmd1, &replace, &prefix_links) != 2) {
1393          pm_strcpy(&jcr->errmsg, dir->msg);
1394          Jmsg(jcr, M_FATAL, 0, _("Bad replace command. CMD=%s\n"), jcr->errmsg);
1395          return 0;
1396       }
1397       *where = 0;
1398    }
1399    /* Turn / into nothing */
1400    if (where[0] == '/' && where[1] == 0) {
1401       where[0] = 0;
1402    }
1403
1404    Dmsg2(150, "Got replace %c, where=%s\n", replace, where);
1405    unbash_spaces(where);
1406    jcr->where = bstrdup(where);
1407    free_pool_memory(where);
1408    jcr->replace = replace;
1409    jcr->prefix_links = prefix_links;
1410
1411    bnet_fsend(dir, OKrestore);
1412    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1413
1414    jcr->JobType = JT_RESTORE;
1415
1416    set_jcr_job_status(jcr, JS_Blocked);
1417    if (!open_sd_read_session(jcr)) {
1418       set_jcr_job_status(jcr, JS_ErrorTerminated);
1419       goto bail_out;
1420    }
1421
1422    set_jcr_job_status(jcr, JS_Running);
1423
1424    /*
1425     * Do restore of files and data
1426     */
1427    start_dir_heartbeat(jcr);
1428    do_restore(jcr);
1429    stop_dir_heartbeat(jcr);
1430
1431    set_jcr_job_status(jcr, JS_Terminated);
1432    if (jcr->JobStatus != JS_Terminated) {
1433       bnet_suppress_error_messages(sd, 1);
1434    }
1435
1436    /*
1437     * Send Close session command to Storage daemon
1438     */
1439    bnet_fsend(sd, read_close, jcr->Ticket);
1440    Dmsg1(130, "bfiled>stored: %s", sd->msg);
1441
1442    bget_msg(sd);                      /* get OK */
1443
1444    /* Inform Storage daemon that we are done */
1445    bnet_sig(sd, BNET_TERMINATE);
1446
1447 bail_out:
1448
1449    if (jcr->Errors) {
1450       set_jcr_job_status(jcr, JS_ErrorTerminated);
1451    }
1452    /* Send termination status back to Dir */
1453    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1454       edit_uint64(jcr->ReadBytes, ed1),
1455       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1456
1457    /* Inform Director that we are done */
1458    bnet_sig(dir, BNET_TERMINATE);
1459
1460    Dmsg0(130, "Done in job.c\n");
1461    return 0;                          /* return and terminate command loop */
1462 }
1463
1464 static int open_sd_read_session(JCR *jcr)
1465 {
1466    BSOCK *sd = jcr->store_bsock;
1467
1468    if (!sd) {
1469       Jmsg(jcr, M_FATAL, 0, _("Improper calling sequence.\n"));
1470       return 0;
1471    }
1472    Dmsg4(120, "VolSessId=%ld VolsessT=%ld SF=%ld EF=%ld\n",
1473       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile);
1474    Dmsg2(120, "JobId=%d vol=%s\n", jcr->JobId, "DummyVolume");
1475    /*
1476     * Open Read Session with Storage daemon
1477     */
1478    bnet_fsend(sd, read_open, jcr->VolumeName,
1479       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile,
1480       jcr->StartBlock, jcr->EndBlock);
1481    Dmsg1(110, ">stored: %s", sd->msg);
1482
1483    /*
1484     * Get ticket number
1485     */
1486    if (bget_msg(sd) >= 0) {
1487       Dmsg1(110, "bfiled<stored: %s", sd->msg);
1488       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1489          Jmsg(jcr, M_FATAL, 0, _("Bad response to SD read open: %s\n"), sd->msg);
1490          return 0;
1491       }
1492       Dmsg1(110, "bfiled: got Ticket=%d\n", jcr->Ticket);
1493    } else {
1494       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to read open command\n"));
1495       return 0;
1496    }
1497
1498    if (!send_bootstrap_file(jcr)) {
1499       return 0;
1500    }
1501
1502    /*
1503     * Start read of data with Storage daemon
1504     */
1505    bnet_fsend(sd, read_data, jcr->Ticket);
1506    Dmsg1(110, ">stored: %s", sd->msg);
1507
1508    /*
1509     * Get OK data
1510     */
1511    if (!response(jcr, sd, OK_data, "Read Data")) {
1512       return 0;
1513    }
1514    return 1;
1515 }
1516
1517 /*
1518  * Destroy the Job Control Record and associated
1519  * resources (sockets).
1520  */
1521 static void filed_free_jcr(JCR *jcr)
1522 {
1523    if (jcr->store_bsock) {
1524       bnet_close(jcr->store_bsock);
1525    }
1526    if (jcr->RestoreBootstrap) {
1527       unlink(jcr->RestoreBootstrap);
1528       free_pool_memory(jcr->RestoreBootstrap);
1529       jcr->RestoreBootstrap = NULL;
1530    }
1531    if (jcr->last_fname) {
1532       free_pool_memory(jcr->last_fname);
1533    }
1534    if (jcr->RunAfterJob) {
1535       free_pool_memory(jcr->RunAfterJob);
1536    }
1537
1538
1539    return;
1540 }
1541
1542 /*
1543  * Get response from Storage daemon to a command we
1544  * sent. Check that the response is OK.
1545  *
1546  *  Returns: 0 on failure
1547  *           1 on success
1548  */
1549 int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd)
1550 {
1551    if (sd->errors) {
1552       return 0;
1553    }
1554    if (bget_msg(sd) > 0) {
1555       Dmsg0(110, sd->msg);
1556       if (strcmp(sd->msg, resp) == 0) {
1557          return 1;
1558       }
1559    }
1560    if (job_canceled(jcr)) {
1561       return 0;                       /* if canceled avoid useless error messages */
1562    }
1563    if (is_bnet_error(sd)) {
1564       Jmsg2(jcr, M_FATAL, 0, _("Comm error with SD. bad response to %s. ERR=%s\n"),
1565          cmd, bnet_strerror(sd));
1566    } else {
1567       Jmsg3(jcr, M_FATAL, 0, _("Bad response to %s command. Wanted %s, got %s\n"),
1568          cmd, resp, sd->msg);
1569    }
1570    return 0;
1571 }
1572
1573 static int send_bootstrap_file(JCR *jcr)
1574 {
1575    FILE *bs;
1576    char buf[2000];
1577    BSOCK *sd = jcr->store_bsock;
1578    const char *bootstrap = "bootstrap\n";
1579    int stat = 0;
1580
1581    Dmsg1(400, "send_bootstrap_file: %s\n", jcr->RestoreBootstrap);
1582    if (!jcr->RestoreBootstrap) {
1583       return 1;
1584    }
1585    bs = fopen(jcr->RestoreBootstrap, "r");
1586    if (!bs) {
1587       berrno be;
1588       Jmsg(jcr, M_FATAL, 0, _("Could not open bootstrap file %s: ERR=%s\n"),
1589          jcr->RestoreBootstrap, be.strerror());
1590       set_jcr_job_status(jcr, JS_ErrorTerminated);
1591       goto bail_out;
1592    }
1593    pm_strcpy(&sd->msg, bootstrap);
1594    sd->msglen = strlen(sd->msg);
1595    bnet_send(sd);
1596    while (fgets(buf, sizeof(buf), bs)) {
1597       sd->msglen = Mmsg(sd->msg, "%s", buf);
1598       bnet_send(sd);
1599    }
1600    bnet_sig(sd, BNET_EOD);
1601    fclose(bs);
1602    if (!response(jcr, sd, OKSDbootstrap, "Bootstrap")) {
1603       set_jcr_job_status(jcr, JS_ErrorTerminated);
1604       goto bail_out;
1605    }
1606    stat = 1;
1607
1608 bail_out:
1609    if (jcr->RestoreBootstrap) {
1610       unlink(jcr->RestoreBootstrap);
1611       free_pool_memory(jcr->RestoreBootstrap);
1612       jcr->RestoreBootstrap = NULL;
1613    }
1614
1615    return stat;
1616 }