git.sur5r.net Git - bacula/bacula/blob - bacula/src/filed/job.c

   1 /*
   2  *  Bacula File Daemon Job processing
   3  *
   4  *    Kern Sibbald, October MM
   5  *
   6  *   Version $Id$
   7  *
   8  */
   9 /*
  10    Copyright (C) 2000-2004 Kern Sibbald and John Walker
  11
  12    This program is free software; you can redistribute it and/or
  13    modify it under the terms of the GNU General Public License as
  14    published by the Free Software Foundation; either version 2 of
  15    the License, or (at your option) any later version.
  16
  17    This program is distributed in the hope that it will be useful,
  18    but WITHOUT ANY WARRANTY; without even the implied warranty of
  19    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  20    General Public License for more details.
  21
  22    You should have received a copy of the GNU General Public
  23    License along with this program; if not, write to the Free
  24    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  25    MA 02111-1307, USA.
  26
  27  */
  28
  29 #include "bacula.h"
  30 #include "filed.h"
  31
  32 extern char my_name[];
  33 extern CLIENT *me;                    /* our client resource */
  34
  35 /* Imported functions */
  36 extern int status_cmd(JCR *jcr);
  37 extern int qstatus_cmd(JCR *jcr);
  38
  39 /* Forward referenced functions */
  40 static int backup_cmd(JCR *jcr);
  41 static int bootstrap_cmd(JCR *jcr);
  42 static int cancel_cmd(JCR *jcr);
  43 static int setdebug_cmd(JCR *jcr);
  44 static int estimate_cmd(JCR *jcr);
  45 static int exclude_cmd(JCR *jcr);
  46 static int hello_cmd(JCR *jcr);
  47 static int job_cmd(JCR *jcr);
  48 static int include_cmd(JCR *jcr);
  49 static int fileset_cmd(JCR *jcr);
  50 static int level_cmd(JCR *jcr);
  51 static int verify_cmd(JCR *jcr);
  52 static int restore_cmd(JCR *jcr);
  53 static int storage_cmd(JCR *jcr);
  54 static int session_cmd(JCR *jcr);
  55 static int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd);
  56 static void filed_free_jcr(JCR *jcr);
  57 static int open_sd_read_session(JCR *jcr);
  58 static int send_bootstrap_file(JCR *jcr);
  59 static int runbefore_cmd(JCR *jcr);
  60 static int runafter_cmd(JCR *jcr);
  61 static int run_cmd(JCR *jcr, char *cmd, const char *name);
  62 static void set_options(findFOPTS *fo, const char *opts);
  63
  64
  65 /* Exported functions */
  66
  67 struct s_cmds {
  68    const char *cmd;
  69    int (*func)(JCR *);
  70    int monitoraccess; /* specify if monitors have access to this function */
  71 };
  72
  73 /*
  74  * The following are the recognized commands from the Director.
  75  */
  76 static struct s_cmds cmds[] = {
  77    {"backup",       backup_cmd,    0},
  78    {"cancel",       cancel_cmd,    0},
  79    {"setdebug=",    setdebug_cmd,  0},
  80    {"estimate",     estimate_cmd,  0},
  81    {"exclude",      exclude_cmd,   0},
  82    {"Hello",        hello_cmd,     1},
  83    {"include",      include_cmd,   0},
  84    {"fileset",      fileset_cmd,   0},
  85    {"JobId=",       job_cmd,       0},
  86    {"level = ",     level_cmd,     0},
  87    {"restore",      restore_cmd,   0},
  88    {"session",      session_cmd,   0},
  89    {"status",       status_cmd,    1},
  90    {".status",      qstatus_cmd,   1},
  91    {"storage ",     storage_cmd,   0},
  92    {"verify",       verify_cmd,    0},
  93    {"bootstrap",    bootstrap_cmd, 0},
  94    {"RunBeforeJob", runbefore_cmd, 0},
  95    {"RunAfterJob",  runafter_cmd,  0},
  96    {NULL,       NULL}                  /* list terminator */
  97 };
  98
  99 /* Commands received from director that need scanning */
 100 static char jobcmd[]      = "JobId=%d Job=%127s SDid=%d SDtime=%d Authorization=%100s";
 101 static char storaddr[]    = "storage address=%s port=%d ssl=%d\n";
 102 static char sessioncmd[]  = "session %127s %ld %ld %ld %ld %ld %ld\n";
 103 static char restorecmd[]  = "restore replace=%c prelinks=%d where=%s\n";
 104 static char restorecmd1[] = "restore replace=%c prelinks=%d where=\n";
 105 static char verifycmd[]   = "verify level=%30s\n";
 106 static char estimatecmd[] = "estimate listing=%d\n";
 107 static char runbefore[]   = "RunBeforeJob %s\n";
 108 static char runafter[]    = "RunAfterJob %s\n";
 109
 110 /* Responses sent to Director */
 111 static char errmsg[]      = "2999 Invalid command\n";
 112 static char no_auth[]     = "2998 No Authorization\n";
 113 static char illegal_cmd[] = "2997 Illegal command for a Director with Monitor directive enabled\n";
 114 static char OKinc[]       = "2000 OK include\n";
 115 static char OKest[]       = "2000 OK estimate files=%u bytes=%s\n";
 116 static char OKexc[]       = "2000 OK exclude\n";
 117 static char OKlevel[]     = "2000 OK level\n";
 118 static char OKbackup[]    = "2000 OK backup\n";
 119 static char OKbootstrap[] = "2000 OK bootstrap\n";
 120 static char OKverify[]    = "2000 OK verify\n";
 121 static char OKrestore[]   = "2000 OK restore\n";
 122 static char OKsession[]   = "2000 OK session\n";
 123 static char OKstore[]     = "2000 OK storage\n";
 124 static char OKjob[]       = "2000 OK Job %s,%s,%s";
 125 static char OKsetdebug[]  = "2000 OK setdebug=%d\n";
 126 static char BADjob[]      = "2901 Bad Job\n";
 127 static char EndJob[]      = "2800 End Job TermCode=%d JobFiles=%u ReadBytes=%s JobBytes=%s Errors=%u\n";
 128 static char OKRunBefore[] = "2000 OK RunBefore\n";
 129 static char OKRunAfter[]  = "2000 OK RunAfter\n";
 130
 131 /* Responses received from Storage Daemon */
 132 static char OK_end[]       = "3000 OK end\n";
 133 static char OK_close[]     = "3000 OK close Status = %d\n";
 134 static char OK_open[]      = "3000 OK open ticket = %d\n";
 135 static char OK_data[]      = "3000 OK data\n";
 136 static char OK_append[]    = "3000 OK append data\n";
 137 static char OKSDbootstrap[] = "3000 OK bootstrap\n";
 138
 139
 140 /* Commands sent to Storage Daemon */
 141 static char append_open[]  = "append open session\n";
 142 static char append_data[]  = "append data %d\n";
 143 static char append_end[]   = "append end session %d\n";
 144 static char append_close[] = "append close session %d\n";
 145 static char read_open[]    = "read open session = %s %ld %ld %ld %ld %ld %ld\n";
 146 static char read_data[]    = "read data %d\n";
 147 static char read_close[]   = "read close session %d\n";
 148
 149 /*
 150  * Accept requests from a Director
 151  *
 152  * NOTE! We are running as a separate thread
 153  *
 154  * Send output one line
 155  * at a time followed by a zero length transmission.
 156  *
 157  * Return when the connection is terminated or there
 158  * is an error.
 159  *
 160  * Basic task here is:
 161  *   Authenticate Director (during Hello command).
 162  *   Accept commands one at a time from the Director
 163  *     and execute them.
 164  *
 165  */
 166 void *handle_client_request(void *dirp)
 167 {
 168    int i;
 169    bool found, quit;
 170    JCR *jcr;
 171    BSOCK *dir = (BSOCK *)dirp;
 172
 173    jcr = new_jcr(sizeof(JCR), filed_free_jcr); /* create JCR */
 174    jcr->dir_bsock = dir;
 175    jcr->ff = init_find_files();
 176    jcr->start_time = time(NULL);
 177    jcr->last_fname = get_pool_memory(PM_FNAME);
 178    jcr->last_fname[0] = 0;
 179    jcr->client_name = get_memory(strlen(my_name) + 1);
 180    pm_strcpy(jcr->client_name, my_name);
 181    dir->jcr = jcr;
 182    enable_backup_privileges(NULL, 1 /* ignore_errors */);
 183
 184    /**********FIXME******* add command handler error code */
 185
 186    for (quit=false; !quit;) {
 187
 188       /* Read command */
 189       if (bnet_recv(dir) < 0) {
 190          break;               /* connection terminated */
 191       }
 192       dir->msg[dir->msglen] = 0;
 193       Dmsg1(100, "<dird: %s", dir->msg);
 194       found = false;
 195       for (i=0; cmds[i].cmd; i++) {
 196          if (strncmp(cmds[i].cmd, dir->msg, strlen(cmds[i].cmd)) == 0) {
 197             found = true;         /* indicate command found */
 198             if (!jcr->authenticated && cmds[i].func != hello_cmd) {
 199                bnet_fsend(dir, no_auth);
 200                bnet_sig(dir, BNET_EOD);
 201                break;
 202             }
 203             if ((jcr->authenticated) && (!cmds[i].monitoraccess) && (jcr->director->monitor)) {
 204                Dmsg1(100, "Command %s illegal.\n", cmds[i].cmd);
 205                bnet_fsend(dir, illegal_cmd);
 206                bnet_sig(dir, BNET_EOD);
 207                break;
 208             }
 209             Dmsg1(100, "Executing %s command.\n", cmds[i].cmd);
 210             if (!cmds[i].func(jcr)) {         /* do command */
 211                quit = true;         /* error or fully terminated,       get out */
 212                Dmsg0(20, "Quit command loop due to command error or Job done.\n");
 213             }
 214             break;
 215          }
 216       }
 217       if (!found) {              /* command not found */
 218          bnet_fsend(dir, errmsg);
 219          quit = true;
 220          break;
 221       }
 222    }
 223
 224    /* Inform Storage daemon that we are done */
 225    if (jcr->store_bsock) {
 226       bnet_sig(jcr->store_bsock, BNET_TERMINATE);
 227    }
 228
 229    if (jcr->RunAfterJob && !job_canceled(jcr)) {
 230       run_cmd(jcr, jcr->RunAfterJob, "ClientRunAfterJob");
 231    }
 232    dequeue_messages(jcr);             /* send any queued messages */
 233
 234    /* Inform Director that we are done */
 235    bnet_sig(dir, BNET_TERMINATE);
 236
 237    /* Clean up fileset */
 238    FF_PKT *ff = (FF_PKT *)jcr->ff;
 239    findFILESET *fileset = ff->fileset;
 240    if (fileset) {
 241       int i, j, k;
 242       /* Delete FileSet Include lists */
 243       for (i=0; i<fileset->include_list.size(); i++) {
 244          findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 245          for (j=0; j<incexe->opts_list.size(); j++) {
 246             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 247             for (k=0; k<fo->regex.size(); k++) {
 248                regfree((regex_t *)fo->regex.get(k));
 249             }
 250             fo->regex.destroy();
 251             fo->wild.destroy();
 252             fo->base.destroy();
 253             if (fo->reader) {
 254                free(fo->reader);
 255             }
 256             if (fo->writer) {
 257                free(fo->writer);
 258             }
 259          }
 260          incexe->opts_list.destroy();
 261          incexe->name_list.destroy();
 262       }
 263       fileset->include_list.destroy();
 264
 265       /* Delete FileSet Exclude lists */
 266       for (i=0; i<fileset->exclude_list.size(); i++) {
 267          findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 268          for (j=0; j<incexe->opts_list.size(); j++) {
 269             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 270             fo->regex.destroy();
 271             fo->wild.destroy();
 272             fo->base.destroy();
 273          }
 274          incexe->opts_list.destroy();
 275          incexe->name_list.destroy();
 276       }
 277       fileset->exclude_list.destroy();
 278       free(fileset);
 279    }
 280    Dmsg0(100, "Calling term_find_files\n");
 281    term_find_files((FF_PKT *)jcr->ff);
 282    Dmsg0(100, "Done with term_find_files\n");
 283    free_jcr(jcr);                     /* destroy JCR record */
 284    Dmsg0(100, "Done with free_jcr\n");
 285    return NULL;
 286 }
 287
 288 /*
 289  * Hello from Director he must identify himself and provide his
 290  *  password.
 291  */
 292 static int hello_cmd(JCR *jcr)
 293 {
 294    Dmsg0(120, "Calling Authenticate\n");
 295    if (!authenticate_director(jcr)) {
 296       return 0;
 297    }
 298    Dmsg0(120, "OK Authenticate\n");
 299    jcr->authenticated = true;
 300    return 1;
 301 }
 302
 303 /*
 304  * Cancel a Job
 305  */
 306 static int cancel_cmd(JCR *jcr)
 307 {
 308    BSOCK *dir = jcr->dir_bsock;
 309    char Job[MAX_NAME_LENGTH];
 310    JCR *cjcr;
 311
 312    if (sscanf(dir->msg, "cancel Job=%127s", Job) == 1) {
 313       if (!(cjcr=get_jcr_by_full_name(Job))) {
 314          bnet_fsend(dir, "2901 Job %s not found.\n", Job);
 315       } else {
 316          if (cjcr->store_bsock) {
 317             P(cjcr->mutex);
 318             cjcr->store_bsock->timed_out = 1;
 319             cjcr->store_bsock->terminated = 1;
 320 /*
 321  * #if !defined(HAVE_CYGWIN) && !defined(HAVE_WIN32)
 322  */
 323 #if !defined(HAVE_CYGWIN)
 324             pthread_kill(cjcr->my_thread_id, TIMEOUT_SIGNAL);
 325 #endif
 326             V(cjcr->mutex);
 327          }
 328          set_jcr_job_status(cjcr, JS_Canceled);
 329          free_jcr(cjcr);
 330          bnet_fsend(dir, _("2001 Job %s marked to be canceled.\n"), Job);
 331       }
 332    } else {
 333       bnet_fsend(dir, _("2902 Error scanning cancel command.\n"));
 334    }
 335    bnet_sig(dir, BNET_EOD);
 336    return 1;
 337 }
 338
 339
 340 /*
 341  * Set debug level as requested by the Director
 342  *
 343  */
 344 static int setdebug_cmd(JCR *jcr)
 345 {
 346    BSOCK *dir = jcr->dir_bsock;
 347    int level, trace_flag;
 348
 349    Dmsg1(110, "setdebug_cmd: %s", dir->msg);
 350    if (sscanf(dir->msg, "setdebug=%d trace=%d", &level, &trace_flag) != 2 || level < 0) {
 351       pm_strcpy(jcr->errmsg, dir->msg);
 352       bnet_fsend(dir, "2991 Bad setdebug command: %s\n", jcr->errmsg);
 353       return 0;
 354    }
 355    debug_level = level;
 356    set_trace(trace_flag);
 357    return bnet_fsend(dir, OKsetdebug, level);
 358 }
 359
 360
 361 static int estimate_cmd(JCR *jcr)
 362 {
 363    BSOCK *dir = jcr->dir_bsock;
 364    char ed2[50];
 365
 366    if (sscanf(dir->msg, estimatecmd, &jcr->listing) != 1) {
 367       pm_strcpy(jcr->errmsg, dir->msg);
 368       Jmsg(jcr, M_FATAL, 0, _("Bad estimate command: %s"), jcr->errmsg);
 369       bnet_fsend(dir, "2992 Bad estimate command.\n");
 370       return 0;
 371    }
 372    make_estimate(jcr);
 373    bnet_fsend(dir, OKest, jcr->num_files_examined,
 374       edit_uint64_with_commas(jcr->JobBytes, ed2));
 375    bnet_sig(dir, BNET_EOD);
 376    return 1;
 377 }
 378
 379 /*
 380  * Get JobId and Storage Daemon Authorization key from Director
 381  */
 382 static int job_cmd(JCR *jcr)
 383 {
 384    BSOCK *dir = jcr->dir_bsock;
 385    POOLMEM *sd_auth_key;
 386
 387    sd_auth_key = get_memory(dir->msglen);
 388    if (sscanf(dir->msg, jobcmd,  &jcr->JobId, jcr->Job,
 389               &jcr->VolSessionId, &jcr->VolSessionTime,
 390               sd_auth_key) != 5) {
 391       pm_strcpy(jcr->errmsg, dir->msg);
 392       Jmsg(jcr, M_FATAL, 0, _("Bad Job Command: %s"), jcr->errmsg);
 393       bnet_fsend(dir, BADjob);
 394       free_pool_memory(sd_auth_key);
 395       return 0;
 396    }
 397    jcr->sd_auth_key = bstrdup(sd_auth_key);
 398    free_pool_memory(sd_auth_key);
 399    Dmsg2(120, "JobId=%d Auth=%s\n", jcr->JobId, jcr->sd_auth_key);
 400    return bnet_fsend(dir, OKjob, HOST_OS, DISTNAME, DISTVER);
 401 }
 402
 403 static int runbefore_cmd(JCR *jcr)
 404 {
 405    int stat;
 406    BSOCK *dir = jcr->dir_bsock;
 407    POOLMEM *cmd = get_memory(dir->msglen+1);
 408
 409    Dmsg1(100, "runbefore_cmd: %s", dir->msg);
 410    if (sscanf(dir->msg, runbefore, cmd) != 1) {
 411       pm_strcpy(jcr->errmsg, dir->msg);
 412       Jmsg1(jcr, M_FATAL, 0, _("Bad RunBeforeJob command: %s\n"), jcr->errmsg);
 413       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 414       free_memory(cmd);
 415       return 0;
 416    }
 417    unbash_spaces(cmd);
 418
 419    /* Run the command now */
 420    stat = run_cmd(jcr, cmd, "ClientRunBeforeJob");
 421    free_memory(cmd);
 422    if (stat) {
 423       bnet_fsend(dir, OKRunBefore);
 424       return 1;
 425    } else {
 426       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
 427       return 0;
 428    }
 429 }
 430
 431 static int runafter_cmd(JCR *jcr)
 432 {
 433    BSOCK *dir = jcr->dir_bsock;
 434    POOLMEM *msg = get_memory(dir->msglen+1);
 435
 436    Dmsg1(100, "runafter_cmd: %s", dir->msg);
 437    if (sscanf(dir->msg, runafter, msg) != 1) {
 438       pm_strcpy(jcr->errmsg, dir->msg);
 439       Jmsg1(jcr, M_FATAL, 0, _("Bad RunAfter command: %s\n"), jcr->errmsg);
 440       bnet_fsend(dir, "2905 Bad RunAfterJob command.\n");
 441       free_memory(msg);
 442       return 0;
 443    }
 444    unbash_spaces(msg);
 445    if (jcr->RunAfterJob) {
 446       free_pool_memory(jcr->RunAfterJob);
 447    }
 448    jcr->RunAfterJob = get_pool_memory(PM_FNAME);
 449    pm_strcpy(jcr->RunAfterJob, msg);
 450    free_pool_memory(msg);
 451    return bnet_fsend(dir, OKRunAfter);
 452 }
 453
 454 static int run_cmd(JCR *jcr, char *cmd, const char *name)
 455 {
 456    POOLMEM *ecmd = get_pool_memory(PM_FNAME);
 457    int status;
 458    BPIPE *bpipe;
 459    char line[MAXSTRING];
 460
 461    ecmd = edit_job_codes(jcr, ecmd, cmd, "");
 462    bpipe = open_bpipe(ecmd, 0, "r");
 463    free_pool_memory(ecmd);
 464    if (bpipe == NULL) {
 465       Jmsg(jcr, M_FATAL, 0, _("%s could not execute\n"), name);
 466       set_jcr_job_status(jcr, JS_FatalError);
 467       return 0;
 468    }
 469    while (fgets(line, sizeof(line), bpipe->rfd)) {
 470       Jmsg(jcr, M_INFO, 0, _("%s: %s"), name, line);
 471    }
 472    status = close_bpipe(bpipe);
 473    if (status != 0) {
 474       Jmsg(jcr, M_FATAL, 0, _("%s returned non-zero status=%d\n"), name,
 475          status);
 476       set_jcr_job_status(jcr, JS_FatalError);
 477       return 0;
 478    }
 479    return 1;
 480 }
 481
 482
 483 #define INC_LIST 0
 484 #define EXC_LIST 1
 485
 486 static void add_fname_to_list(JCR *jcr, char *fname, int list)
 487 {
 488    char *p, *q;
 489    BPIPE *bpipe;
 490    POOLMEM *fn;
 491    FILE *ffd;
 492    char buf[1000];
 493    int optlen;
 494    int stat;
 495
 496    /* Skip leading options -- currently ignored */
 497    for (p=fname; *p && *p != ' '; p++)
 498       { }
 499    /* Skip spaces, and q points to first space */
 500    for (q=NULL; *p && *p == ' '; p++) {
 501       if (!q) {
 502          q = p;
 503       }
 504    }
 505
 506    switch (*p) {
 507    case '|':
 508       p++;                            /* skip over | */
 509       fn = get_pool_memory(PM_FNAME);
 510       fn = edit_job_codes(jcr, fn, p, "");
 511       bpipe = open_bpipe(fn, 0, "r");
 512       free_pool_memory(fn);
 513       if (!bpipe) {
 514          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 515             p, strerror(errno));
 516          return;
 517       }
 518       /* Copy File options */
 519       if (list == INC_LIST) {
 520          *q = 0;                      /* terminate options */
 521          strcpy(buf, fname);
 522          strcat(buf, " ");
 523          optlen = strlen(buf);
 524       } else {
 525          optlen = 0;
 526       }
 527       while (fgets(buf+optlen, sizeof(buf)-optlen, bpipe->rfd)) {
 528          strip_trailing_junk(buf);
 529          if (list == INC_LIST) {
 530             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 531          } else {
 532             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 533          }
 534       }
 535       if ((stat=close_bpipe(bpipe)) != 0) {
 536          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 537             p, stat, strerror(errno));
 538          return;
 539       }
 540       break;
 541    case '<':
 542       p++;                      /* skip over < */
 543       if ((ffd = fopen(p, "r")) == NULL) {
 544          berrno be;
 545          Jmsg(jcr, M_FATAL, 0, _("Cannot open %s file: %s. ERR=%s\n"),
 546             list==INC_LIST?"included":"excluded", p, be.strerror());
 547          return;
 548       }
 549       /* Copy File options */
 550       if (list == INC_LIST) {
 551          *q = 0;                      /* terminate options */
 552          strcpy(buf, fname);
 553          strcat(buf, " ");
 554          optlen = strlen(buf);
 555       } else {
 556          optlen = 0;
 557       }
 558       while (fgets(buf+optlen, sizeof(buf)-optlen, ffd)) {
 559          strip_trailing_junk(buf);
 560          if (list == INC_LIST) {
 561             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
 562          } else {
 563             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
 564          }
 565       }
 566       fclose(ffd);
 567       break;
 568    default:
 569       if (list == INC_LIST) {
 570          add_fname_to_include_list((FF_PKT *)jcr->ff, 1, fname);
 571       } else {
 572          add_fname_to_exclude_list((FF_PKT *)jcr->ff, p);
 573       }
 574       break;
 575    }
 576 }
 577
 578 /*
 579  *
 580  * Get list of files/directories to include from Director
 581  *
 582  */
 583 static int include_cmd(JCR *jcr)
 584 {
 585    BSOCK *dir = jcr->dir_bsock;
 586
 587    while (bnet_recv(dir) >= 0) {
 588       dir->msg[dir->msglen] = 0;
 589       strip_trailing_junk(dir->msg);
 590       Dmsg1(010, "include file: %s\n", dir->msg);
 591       add_fname_to_list(jcr, dir->msg, INC_LIST);
 592    }
 593
 594    return bnet_fsend(dir, OKinc);
 595 }
 596
 597 static bool init_fileset(JCR *jcr)
 598 {
 599    FF_PKT *ff;
 600    findFILESET *fileset;
 601
 602    if (!jcr->ff) {
 603       return false;
 604    }
 605    ff = (FF_PKT *)jcr->ff;
 606    if (ff->fileset) {
 607       return false;
 608    }
 609    fileset = (findFILESET *)malloc(sizeof(findFILESET));
 610    memset(fileset, 0, sizeof(findFILESET));
 611    ff->fileset = fileset;
 612    fileset->state = state_none;
 613    fileset->include_list.init(1, true);
 614    fileset->exclude_list.init(1, true);
 615    return true;
 616 }
 617
 618 static findFOPTS *start_options(FF_PKT *ff)
 619 {
 620    int state = ff->fileset->state;
 621    findINCEXE *incexe = ff->fileset->incexe;
 622
 623    if (state != state_options) {
 624       ff->fileset->state = state_options;
 625       findFOPTS *fo = (findFOPTS *)malloc(sizeof(findFOPTS));
 626       memset(fo, 0, sizeof(findFOPTS));
 627       fo->regex.init(1, true);
 628       fo->wild.init(1, true);
 629       fo->base.init(1, true);
 630       incexe->current_opts = fo;
 631       incexe->opts_list.append(fo);
 632    }
 633    return incexe->current_opts;
 634
 635 }
 636
 637 /*
 638  * Add fname to include/exclude fileset list. First check for
 639  * | and < and if necessary perform command.
 640  */
 641 static void add_file_to_fileset(JCR *jcr, const char *fname, findFILESET *fileset)
 642 {
 643    char *p;
 644    BPIPE *bpipe;
 645    POOLMEM *fn;
 646    FILE *ffd;
 647    char buf[1000];
 648    int stat;
 649
 650    p = (char *)fname;
 651    switch (*p) {
 652    case '|':
 653       p++;                            /* skip over | */
 654       fn = get_pool_memory(PM_FNAME);
 655       fn = edit_job_codes(jcr, fn, p, "");
 656       bpipe = open_bpipe(fn, 0, "r");
 657       free_pool_memory(fn);
 658       if (!bpipe) {
 659          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 660             p, strerror(errno));
 661          return;
 662       }
 663       while (fgets(buf, sizeof(buf), bpipe->rfd)) {
 664          strip_trailing_junk(buf);
 665          fileset->incexe->name_list.append(bstrdup(buf));
 666       }
 667       if ((stat=close_bpipe(bpipe)) != 0) {
 668          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
 669             p, stat, strerror(errno));
 670          return;
 671       }
 672       break;
 673    case '<':
 674       p++;                      /* skip over < */
 675       if ((ffd = fopen(p, "r")) == NULL) {
 676          berrno be;
 677          Jmsg(jcr, M_FATAL, 0, _("Cannot open FileSet input file: %s. ERR=%s\n"),
 678             p, be.strerror());
 679          return;
 680       }
 681       while (fgets(buf, sizeof(buf), ffd)) {
 682          strip_trailing_junk(buf);
 683          fileset->incexe->name_list.append(bstrdup(buf));
 684       }
 685       fclose(ffd);
 686       break;
 687    default:
 688       fileset->incexe->name_list.append(bstrdup(fname));
 689       break;
 690    }
 691 }
 692
 693
 694 static void add_fileset(JCR *jcr, const char *item)
 695 {
 696    FF_PKT *ff = (FF_PKT *)jcr->ff;
 697    findFILESET *fileset = ff->fileset;
 698    int state = fileset->state;
 699    findFOPTS *current_opts;
 700
 701    Dmsg1(100, "%s\n", item);
 702    int code = item[0];
 703    if (item[1] == ' ') {              /* If string follows */
 704       item += 2;                      /* point to string */
 705    }
 706
 707    if (state == state_error) {
 708       return;
 709    }
 710    switch (code) {
 711    case 'I':
 712       /* New include */
 713       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 714       memset(fileset->incexe, 0, sizeof(findINCEXE));
 715       fileset->incexe->opts_list.init(1, true);
 716       fileset->incexe->name_list.init(1, true);
 717       fileset->include_list.append(fileset->incexe);
 718       break;
 719    case 'E':
 720       /* New exclude */
 721       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 722       memset(fileset->incexe, 0, sizeof(findINCEXE));
 723       fileset->incexe->opts_list.init(1, true);
 724       fileset->incexe->name_list.init(1, true);
 725       fileset->exclude_list.append(fileset->incexe);
 726       break;
 727    case 'N':
 728       state = state_none;
 729       break;
 730    case 'F':
 731       /* File item to either include/include list */
 732       state = state_include;
 733       add_file_to_fileset(jcr, item, fileset);
 734       break;
 735    case 'R':
 736       current_opts = start_options(ff);
 737       regex_t *preg;
 738       int rc;
 739       char prbuf[500];
 740       preg = (regex_t *)malloc(sizeof(regex_t));
 741       if (current_opts->flags & FO_IGNORECASE) {
 742          rc = regcomp(preg, item, REG_EXTENDED|REG_ICASE);
 743       } else {
 744          rc = regcomp(preg, item, REG_EXTENDED);
 745       }
 746       if (rc != 0) {
 747          regerror(rc, preg, prbuf, sizeof(prbuf));
 748          regfree(preg);
 749          free(preg);
 750          Jmsg(jcr, M_FATAL, 0, "REGEX %s compile error. ERR=%s\n", item, prbuf);
 751          state = state_error;
 752          break;
 753       }
 754       current_opts->regex.append(preg);
 755       state = state_options;
 756       break;
 757    case 'B':
 758       current_opts = start_options(ff);
 759       current_opts->base.append(bstrdup(item));
 760       state = state_options;
 761       break;
 762    case 'W':
 763       current_opts = start_options(ff);
 764       current_opts->wild.append(bstrdup(item));
 765       state = state_options;
 766       break;
 767    case 'O':
 768       current_opts = start_options(ff);
 769       set_options(current_opts, item);
 770       state = state_options;
 771       break;
 772    case 'D':
 773       current_opts = start_options(ff);
 774       current_opts->reader = bstrdup(item);
 775       state = state_options;
 776       break;
 777    case 'T':
 778       current_opts = start_options(ff);
 779       current_opts->writer = bstrdup(item);
 780       state = state_options;
 781       break;
 782    default:
 783       Jmsg(jcr, M_FATAL, 0, "Invalid FileSet command: %s\n", item);
 784       state = state_error;
 785       break;
 786    }
 787    ff->fileset->state = state;
 788 }
 789
 790 static bool term_fileset(JCR *jcr)
 791 {
 792    FF_PKT *ff = (FF_PKT *)jcr->ff;
 793    findFILESET *fileset = ff->fileset;
 794    int i, j, k;
 795
 796    for (i=0; i<fileset->include_list.size(); i++) {
 797       findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 798       Dmsg0(400, "I\n");
 799       for (j=0; j<incexe->opts_list.size(); j++) {
 800          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 801          for (k=0; k<fo->regex.size(); k++) {
 802             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 803          }
 804          for (k=0; k<fo->wild.size(); k++) {
 805             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 806          }
 807          for (k=0; k<fo->base.size(); k++) {
 808             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 809          }
 810          if (fo->reader) {
 811             Dmsg1(400, "D %s\n", fo->reader);
 812          }
 813          if (fo->writer) {
 814             Dmsg1(400, "T %s\n", fo->writer);
 815          }
 816       }
 817       for (j=0; j<incexe->name_list.size(); j++) {
 818          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 819       }
 820    }
 821    for (i=0; i<fileset->exclude_list.size(); i++) {
 822       findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 823       Dmsg0(400, "E\n");
 824       for (j=0; j<incexe->opts_list.size(); j++) {
 825          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 826          for (k=0; k<fo->regex.size(); k++) {
 827             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 828          }
 829          for (k=0; k<fo->wild.size(); k++) {
 830             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 831          }
 832          for (k=0; k<fo->base.size(); k++) {
 833             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 834          }
 835       }
 836       for (j=0; j<incexe->name_list.size(); j++) {
 837          Dmsg1(400, "F %s\n", (char *)incexe->name_list.get(j));
 838       }
 839    }
 840    return ff->fileset->state != state_error;
 841 }
 842
 843
 844 /*
 845  * As an optimization, we should do this during
 846  *  "compile" time in filed/job.c, and keep only a bit mask
 847  *  and the Verify options.
 848  */
 849 static void set_options(findFOPTS *fo, const char *opts)
 850 {
 851    int j;
 852    const char *p;
 853
 854    for (p=opts; *p; p++) {
 855       switch (*p) {
 856       case 'a':                 /* alway replace */
 857       case '0':                 /* no option */
 858          break;
 859       case 'e':
 860          fo->flags |= FO_EXCLUDE;
 861          break;
 862       case 'f':
 863          fo->flags |= FO_MULTIFS;
 864          break;
 865       case 'h':                 /* no recursion */
 866          fo->flags |= FO_NO_RECURSION;
 867          break;
 868       case 'H':                 /* no hard link handling */
 869          fo->flags |= FO_NO_HARDLINK;
 870          break;
 871       case 'i':
 872          fo->flags |= FO_IGNORECASE;
 873          break;
 874       case 'M':                 /* MD5 */
 875          fo->flags |= FO_MD5;
 876          break;
 877       case 'n':
 878          fo->flags |= FO_NOREPLACE;
 879          break;
 880       case 'p':                 /* use portable data format */
 881          fo->flags |= FO_PORTABLE;
 882          break;
 883       case 'r':                 /* read fifo */
 884          fo->flags |= FO_READFIFO;
 885          break;
 886       case 'S':
 887          fo->flags |= FO_SHA1;
 888          break;
 889       case 's':
 890          fo->flags |= FO_SPARSE;
 891          break;
 892       case 'm':
 893          fo->flags |= FO_MTIMEONLY;
 894          break;
 895       case 'k':
 896          fo->flags |= FO_KEEPATIME;
 897          break;
 898       case 'A':
 899          fo->flags |= FO_ACL;
 900          break;
 901       case 'V':                  /* verify options */
 902          /* Copy Verify Options */
 903          for (j=0; *p && *p != ':'; p++) {
 904             fo->VerifyOpts[j] = *p;
 905             if (j < (int)sizeof(fo->VerifyOpts) - 1) {
 906                j++;
 907             }
 908          }
 909          fo->VerifyOpts[j] = 0;
 910          break;
 911       case 'w':
 912          fo->flags |= FO_IF_NEWER;
 913          break;
 914       case 'Z':                 /* gzip compression */
 915          fo->flags |= FO_GZIP;
 916          fo->GZIP_level = *++p - '0';
 917          Dmsg1(200, "Compression level=%d\n", fo->GZIP_level);
 918          break;
 919       default:
 920          Emsg1(M_ERROR, 0, "Unknown include/exclude option: %c\n", *p);
 921          break;
 922       }
 923    }
 924 }
 925
 926
 927 /*
 928  * Director is passing his Fileset
 929  */
 930 static int fileset_cmd(JCR *jcr)
 931 {
 932    BSOCK *dir = jcr->dir_bsock;
 933
 934    if (!init_fileset(jcr)) {
 935       return 0;
 936    }
 937    while (bnet_recv(dir) >= 0) {
 938       strip_trailing_junk(dir->msg);
 939       Dmsg1(400, "Fileset: %s\n", dir->msg);
 940       add_fileset(jcr, dir->msg);
 941    }
 942    if (!term_fileset(jcr)) {
 943       return 0;
 944    }
 945    return bnet_fsend(dir, OKinc);
 946 }
 947
 948
 949 /*
 950  * Get list of files to exclude from Director
 951  *
 952  */
 953 static int exclude_cmd(JCR *jcr)
 954 {
 955    BSOCK *dir = jcr->dir_bsock;
 956
 957    while (bnet_recv(dir) >= 0) {
 958       dir->msg[dir->msglen] = 0;
 959       strip_trailing_junk(dir->msg);
 960       add_fname_to_list(jcr, dir->msg, EXC_LIST);
 961       Dmsg1(110, "<dird: exclude file %s\n", dir->msg);
 962    }
 963
 964    return bnet_fsend(dir, OKexc);
 965 }
 966
 967
 968 static int bootstrap_cmd(JCR *jcr)
 969 {
 970    BSOCK *dir = jcr->dir_bsock;
 971    POOLMEM *fname = get_pool_memory(PM_FNAME);
 972    FILE *bs;
 973
 974    if (jcr->RestoreBootstrap) {
 975       unlink(jcr->RestoreBootstrap);
 976       free_pool_memory(jcr->RestoreBootstrap);
 977    }
 978    Mmsg(fname, "%s/%s.%s.bootstrap", me->working_directory, me->hdr.name,
 979       jcr->Job);
 980    Dmsg1(400, "bootstrap=%s\n", fname);
 981    jcr->RestoreBootstrap = fname;
 982    bs = fopen(fname, "a+");           /* create file */
 983    if (!bs) {
 984       berrno be;
 985       /*
 986        * Suck up what he is sending to us so that he will then
 987        *   read our error message.
 988        */
 989       while (bnet_recv(dir) >= 0)
 990         {  }
 991
 992       Jmsg(jcr, M_FATAL, 0, _("Could not create bootstrap file %s: ERR=%s\n"),
 993          jcr->RestoreBootstrap, be.strerror());
 994       free_pool_memory(jcr->RestoreBootstrap);
 995       jcr->RestoreBootstrap = NULL;
 996       set_jcr_job_status(jcr, JS_ErrorTerminated);
 997       return 0;
 998    }
 999
1000    while (bnet_recv(dir) >= 0) {
1001        Dmsg1(200, "filed<dird: bootstrap file %s\n", dir->msg);
1002        fputs(dir->msg, bs);
1003    }
1004    fclose(bs);
1005
1006    return bnet_fsend(dir, OKbootstrap);
1007 }
1008
1009
1010 /*
1011  * Get backup level from Director
1012  *
1013  */
1014 static int level_cmd(JCR *jcr)
1015 {
1016    BSOCK *dir = jcr->dir_bsock;
1017    POOLMEM *level, *buf = NULL;
1018    struct tm tm;
1019    time_t mtime;
1020    int mtime_only;
1021
1022    level = get_memory(dir->msglen+1);
1023    Dmsg1(110, "level_cmd: %s", dir->msg);
1024    if (sscanf(dir->msg, "level = %s ", level) != 1) {
1025       goto bail_out;
1026    }
1027    /* Base backup requested? */
1028    if (strcmp(level, "base") == 0) {
1029       jcr->JobLevel = L_BASE;
1030    /* Full backup requested? */
1031    } else if (strcmp(level, "full") == 0) {
1032       jcr->JobLevel = L_FULL;
1033    /*
1034     * Backup requested since <date> <time>
1035     *  This form is also used for incremental and differential
1036     *  This code is deprecated.  See since_utime for new code.
1037     */
1038    } else if (strcmp(level, "since") == 0) {
1039       jcr->JobLevel = L_SINCE;
1040       if (sscanf(dir->msg, "level = since %d-%d-%d %d:%d:%d mtime_only=%d",
1041                  &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
1042                  &tm.tm_hour, &tm.tm_min, &tm.tm_sec, &mtime_only) != 7) {
1043          goto bail_out;
1044       }
1045       tm.tm_year -= 1900;
1046       tm.tm_mon  -= 1;
1047       tm.tm_wday = tm.tm_yday = 0;
1048       tm.tm_isdst = -1;
1049       mtime = mktime(&tm);
1050       Dmsg2(100, "Got since time: %s mtime_only=%d\n", ctime(&mtime), mtime_only);
1051       jcr->incremental = 1;           /* set incremental or decremental backup */
1052       jcr->mtime = mtime;             /* set since time */
1053    /*
1054     * We get his UTC since time, then sync the clocks and correct it
1055     *   to agree with our clock.
1056     */
1057    } else if (strcmp(level, "since_utime") == 0) {
1058       buf = get_memory(dir->msglen+1);
1059       utime_t since_time, adj;
1060       btime_t his_time, bt_start, rt=0, bt_adj=0;
1061       jcr->JobLevel = L_SINCE;
1062       if (sscanf(dir->msg, "level = since_utime %s mtime_only=%d",
1063                  buf, &mtime_only) != 2) {
1064          goto bail_out;
1065       }
1066       since_time = str_to_uint64(buf);  /* this is the since time */
1067       char ed1[50], ed2[50];
1068       /*
1069        * Sync clocks by polling him for the time. We take
1070        *   10 samples of his time throwing out the first two.
1071        */
1072       for (int i=0; i<10; i++) {
1073          bt_start = get_current_btime();
1074          bnet_sig(dir, BNET_BTIME);   /* poll for time */
1075          if (bnet_recv(dir) <= 0) {   /* get response */
1076             goto bail_out;
1077          }
1078          if (sscanf(dir->msg, "btime %s", buf) != 1) {
1079             goto bail_out;
1080          }
1081          if (i < 2) {                 /* toss first two results */
1082             continue;
1083          }
1084          his_time = str_to_uint64(buf);
1085          rt = get_current_btime() - bt_start; /* compute round trip time */
1086          bt_adj -= his_time - bt_start - rt/2;
1087          Dmsg2(200, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1088       }
1089
1090       bt_adj = bt_adj / 8;            /* compute average time */
1091       Dmsg2(100, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1092       adj = btime_to_utime(bt_adj);
1093       since_time += adj;              /* adjust for clock difference */
1094       if (adj != 0) {
1095          Jmsg(jcr, M_INFO, 0, _("Since time adjusted by %d seconds.\n"), adj);
1096       }
1097       bnet_sig(dir, BNET_EOD);
1098
1099       Dmsg2(100, "adj = %d since_time=%d\n", (int)adj, (int)since_time);
1100       jcr->incremental = 1;           /* set incremental or decremental backup */
1101       jcr->mtime = (time_t)since_time; /* set since time */
1102    } else {
1103       Jmsg1(jcr, M_FATAL, 0, "Unknown backup level: %s\n", level);
1104       free_memory(level);
1105       return 0;
1106    }
1107    free_memory(level);
1108    if (buf) {
1109       free_memory(buf);
1110    }
1111    return bnet_fsend(dir, OKlevel);
1112
1113 bail_out:
1114    pm_strcpy(jcr->errmsg, dir->msg);
1115    Jmsg1(jcr, M_FATAL, 0, _("Bad level command: %s\n"), jcr->errmsg);
1116    free_memory(level);
1117    if (buf) {
1118       free_memory(buf);
1119    }
1120    return 0;
1121 }
1122
1123 /*
1124  * Get session parameters from Director -- this is for a Restore command
1125  */
1126 static int session_cmd(JCR *jcr)
1127 {
1128    BSOCK *dir = jcr->dir_bsock;
1129
1130    Dmsg1(100, "SessionCmd: %s", dir->msg);
1131    if (sscanf(dir->msg, sessioncmd, jcr->VolumeName,
1132               &jcr->VolSessionId, &jcr->VolSessionTime,
1133               &jcr->StartFile, &jcr->EndFile,
1134               &jcr->StartBlock, &jcr->EndBlock) != 7) {
1135       pm_strcpy(jcr->errmsg, dir->msg);
1136       Jmsg(jcr, M_FATAL, 0, "Bad session command: %s", jcr->errmsg);
1137       return 0;
1138    }
1139
1140    return bnet_fsend(dir, OKsession);
1141 }
1142
1143 /*
1144  * Get address of storage daemon from Director
1145  *
1146  */
1147 static int storage_cmd(JCR *jcr)
1148 {
1149    int stored_port;                /* storage daemon port */
1150    int enable_ssl;                 /* enable ssl to sd */
1151    BSOCK *dir = jcr->dir_bsock;
1152    BSOCK *sd;                         /* storage daemon bsock */
1153
1154    Dmsg1(100, "StorageCmd: %s", dir->msg);
1155    if (sscanf(dir->msg, storaddr, &jcr->stored_addr, &stored_port, &enable_ssl) != 3) {
1156       pm_strcpy(jcr->errmsg, dir->msg);
1157       Jmsg(jcr, M_FATAL, 0, _("Bad storage command: %s"), jcr->errmsg);
1158       return 0;
1159    }
1160    Dmsg3(110, "Open storage: %s:%d ssl=%d\n", jcr->stored_addr, stored_port, enable_ssl);
1161    /* Open command communications with Storage daemon */
1162    /* Try to connect for 1 hour at 10 second intervals */
1163    sd = bnet_connect(jcr, 10, (int)me->SDConnectTimeout, _("Storage daemon"),
1164                      jcr->stored_addr, NULL, stored_port, 1);
1165    if (sd == NULL) {
1166       Jmsg(jcr, M_FATAL, 0, _("Failed to connect to Storage daemon: %s:%d\n"),
1167           jcr->stored_addr, stored_port);
1168       Dmsg2(100, "Failed to connect to Storage daemon: %s:%d\n",
1169           jcr->stored_addr, stored_port);
1170       return 0;
1171    }
1172    Dmsg0(110, "Connection OK to SD.\n");
1173
1174    jcr->store_bsock = sd;
1175
1176    bnet_fsend(sd, "Hello Start Job %s\n", jcr->Job);
1177    if (!authenticate_storagedaemon(jcr)) {
1178       Jmsg(jcr, M_FATAL, 0, _("Failed to authenticate Storage daemon.\n"));
1179       return 0;
1180    }
1181    Dmsg0(110, "Authenticated with SD.\n");
1182
1183    /* Send OK to Director */
1184    return bnet_fsend(dir, OKstore);
1185 }
1186
1187
1188 /*
1189  * Do a backup. For now, we handle only Full and Incremental.
1190  */
1191 static int backup_cmd(JCR *jcr)
1192 {
1193    BSOCK *dir = jcr->dir_bsock;
1194    BSOCK *sd = jcr->store_bsock;
1195    int ok = 0;
1196    int SDJobStatus;
1197    char ed1[50], ed2[50];
1198
1199    set_jcr_job_status(jcr, JS_Blocked);
1200    jcr->JobType = JT_BACKUP;
1201    Dmsg1(100, "begin backup ff=%p\n", (FF_PKT *)jcr->ff);
1202
1203    if (sd == NULL) {
1204       Jmsg(jcr, M_FATAL, 0, _("Cannot contact Storage daemon\n"));
1205       goto cleanup;
1206    }
1207
1208    bnet_fsend(dir, OKbackup);
1209    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1210
1211    /*
1212     * Send Append Open Session to Storage daemon
1213     */
1214    bnet_fsend(sd, append_open);
1215    Dmsg1(110, ">stored: %s", sd->msg);
1216    /*
1217     * Expect to receive back the Ticket number
1218     */
1219    if (bget_msg(sd) >= 0) {
1220       Dmsg1(110, "<stored: %s", sd->msg);
1221       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1222          Jmsg(jcr, M_FATAL, 0, _("Bad response to append open: %s\n"), sd->msg);
1223          goto cleanup;
1224       }
1225       Dmsg1(110, "Got Ticket=%d\n", jcr->Ticket);
1226    } else {
1227       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to open command\n"));
1228       goto cleanup;
1229    }
1230
1231    /*
1232     * Send Append data command to Storage daemon
1233     */
1234    bnet_fsend(sd, append_data, jcr->Ticket);
1235    Dmsg1(110, ">stored: %s", sd->msg);
1236
1237    /*
1238     * Expect to get OK data
1239     */
1240    Dmsg1(110, "<stored: %s", sd->msg);
1241    if (!response(jcr, sd, OK_data, "Append Data")) {
1242       goto cleanup;
1243    }
1244
1245    /*
1246     * Send Files to Storage daemon
1247     */
1248    Dmsg1(110, "begin blast ff=%p\n", (FF_PKT *)jcr->ff);
1249    if (!blast_data_to_storage_daemon(jcr, NULL)) {
1250       set_jcr_job_status(jcr, JS_ErrorTerminated);
1251       bnet_suppress_error_messages(sd, 1);
1252       Dmsg0(110, "Error in blast_data.\n");
1253    } else {
1254       set_jcr_job_status(jcr, JS_Terminated);
1255       if (jcr->JobStatus != JS_Terminated) {
1256          bnet_suppress_error_messages(sd, 1);
1257          goto cleanup;                /* bail out now */
1258       }
1259       /*
1260        * Expect to get response to append_data from Storage daemon
1261        */
1262       if (!response(jcr, sd, OK_append, "Append Data")) {
1263          set_jcr_job_status(jcr, JS_ErrorTerminated);
1264          goto cleanup;
1265       }
1266
1267       /*
1268        * Send Append End Data to Storage daemon
1269        */
1270       bnet_fsend(sd, append_end, jcr->Ticket);
1271       /* Get end OK */
1272       if (!response(jcr, sd, OK_end, "Append End")) {
1273          set_jcr_job_status(jcr, JS_ErrorTerminated);
1274          goto cleanup;
1275       }
1276
1277       /*
1278        * Send Append Close to Storage daemon
1279        */
1280       bnet_fsend(sd, append_close, jcr->Ticket);
1281       while (bget_msg(sd) >= 0) {    /* stop on signal or error */
1282          if (sscanf(sd->msg, OK_close, &SDJobStatus) == 1) {
1283             ok = 1;
1284             Dmsg2(200, "SDJobStatus = %d %c\n", SDJobStatus, (char)SDJobStatus);
1285          }
1286       }
1287       if (!ok) {
1288          Jmsg(jcr, M_FATAL, 0, _("Append Close with SD failed.\n"));
1289          goto cleanup;
1290       }
1291       if (SDJobStatus != JS_Terminated) {
1292          Jmsg(jcr, M_FATAL, 0, _("Bad status %d returned from Storage Daemon.\n"),
1293             SDJobStatus);
1294       }
1295    }
1296
1297 cleanup:
1298    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1299       edit_uint64(jcr->ReadBytes, ed1),
1300       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1301    Dmsg1(110, "End FD msg: %s\n", dir->msg);
1302
1303    return 0;                          /* return and stop command loop */
1304 }
1305
1306 /*
1307  * Do a Verify for Director
1308  *
1309  */
1310 static int verify_cmd(JCR *jcr)
1311 {
1312    BSOCK *dir = jcr->dir_bsock;
1313    BSOCK *sd  = jcr->store_bsock;
1314    char level[100], ed1[50], ed2[50];
1315
1316    jcr->JobType = JT_VERIFY;
1317    if (sscanf(dir->msg, verifycmd, level) != 1) {
1318       bnet_fsend(dir, "2994 Bad verify command: %s\n", dir->msg);
1319       return 0;
1320    }
1321    if (strcasecmp(level, "init") == 0) {
1322       jcr->JobLevel = L_VERIFY_INIT;
1323    } else if (strcasecmp(level, "catalog") == 0){
1324       jcr->JobLevel = L_VERIFY_CATALOG;
1325    } else if (strcasecmp(level, "volume") == 0){
1326       jcr->JobLevel = L_VERIFY_VOLUME_TO_CATALOG;
1327    } else if (strcasecmp(level, "data") == 0){
1328       jcr->JobLevel = L_VERIFY_DATA;
1329    } else if (strcasecmp(level, "disk_to_catalog") == 0) {
1330       jcr->JobLevel = L_VERIFY_DISK_TO_CATALOG;
1331    } else {
1332       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1333       return 0;
1334    }
1335
1336    bnet_fsend(dir, OKverify);
1337    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1338
1339    switch (jcr->JobLevel) {
1340    case L_VERIFY_INIT:
1341    case L_VERIFY_CATALOG:
1342       do_verify(jcr);
1343       break;
1344    case L_VERIFY_VOLUME_TO_CATALOG:
1345       if (!open_sd_read_session(jcr)) {
1346          return 0;
1347       }
1348       start_dir_heartbeat(jcr);
1349       do_verify_volume(jcr);
1350       stop_dir_heartbeat(jcr);
1351       /*
1352        * Send Close session command to Storage daemon
1353        */
1354       bnet_fsend(sd, read_close, jcr->Ticket);
1355       Dmsg1(130, "bfiled>stored: %s", sd->msg);
1356
1357       /* ****FIXME**** check response */
1358       bget_msg(sd);                      /* get OK */
1359
1360       /* Inform Storage daemon that we are done */
1361       bnet_sig(sd, BNET_TERMINATE);
1362
1363       break;
1364    case L_VERIFY_DISK_TO_CATALOG:
1365       do_verify(jcr);
1366       break;
1367    default:
1368       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
1369       return 0;
1370    }
1371
1372    bnet_sig(dir, BNET_EOD);
1373
1374    /* Send termination status back to Dir */
1375    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1376       edit_uint64(jcr->ReadBytes, ed1),
1377       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1378
1379    /* Inform Director that we are done */
1380    bnet_sig(dir, BNET_TERMINATE);
1381    return 0;                          /* return and terminate command loop */
1382 }
1383
1384 /*
1385  * Do a Restore for Director
1386  *
1387  */
1388 static int restore_cmd(JCR *jcr)
1389 {
1390    BSOCK *dir = jcr->dir_bsock;
1391    BSOCK *sd = jcr->store_bsock;
1392    POOLMEM *where;
1393    int prefix_links;
1394    char replace;
1395    char ed1[50], ed2[50];
1396
1397    /*
1398     * Scan WHERE (base directory for restore) from command
1399     */
1400    Dmsg0(150, "restore command\n");
1401    /* Pickup where string */
1402    where = get_memory(dir->msglen+1);
1403    *where = 0;
1404
1405    if (sscanf(dir->msg, restorecmd, &replace, &prefix_links, where) != 3) {
1406       if (sscanf(dir->msg, restorecmd1, &replace, &prefix_links) != 2) {
1407          pm_strcpy(jcr->errmsg, dir->msg);
1408          Jmsg(jcr, M_FATAL, 0, _("Bad replace command. CMD=%s\n"), jcr->errmsg);
1409          return 0;
1410       }
1411       *where = 0;
1412    }
1413    /* Turn / into nothing */
1414    if (where[0] == '/' && where[1] == 0) {
1415       where[0] = 0;
1416    }
1417
1418    Dmsg2(150, "Got replace %c, where=%s\n", replace, where);
1419    unbash_spaces(where);
1420    jcr->where = bstrdup(where);
1421    free_pool_memory(where);
1422    jcr->replace = replace;
1423    jcr->prefix_links = prefix_links;
1424
1425    bnet_fsend(dir, OKrestore);
1426    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1427
1428    jcr->JobType = JT_RESTORE;
1429
1430    set_jcr_job_status(jcr, JS_Blocked);
1431    if (!open_sd_read_session(jcr)) {
1432       set_jcr_job_status(jcr, JS_ErrorTerminated);
1433       goto bail_out;
1434    }
1435
1436    set_jcr_job_status(jcr, JS_Running);
1437
1438    /*
1439     * Do restore of files and data
1440     */
1441    start_dir_heartbeat(jcr);
1442    do_restore(jcr);
1443    stop_dir_heartbeat(jcr);
1444
1445    set_jcr_job_status(jcr, JS_Terminated);
1446    if (jcr->JobStatus != JS_Terminated) {
1447       bnet_suppress_error_messages(sd, 1);
1448    }
1449
1450    /*
1451     * Send Close session command to Storage daemon
1452     */
1453    bnet_fsend(sd, read_close, jcr->Ticket);
1454    Dmsg1(130, "bfiled>stored: %s", sd->msg);
1455
1456    bget_msg(sd);                      /* get OK */
1457
1458    /* Inform Storage daemon that we are done */
1459    bnet_sig(sd, BNET_TERMINATE);
1460
1461 bail_out:
1462
1463    if (jcr->Errors) {
1464       set_jcr_job_status(jcr, JS_ErrorTerminated);
1465    }
1466    /* Send termination status back to Dir */
1467    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1468       edit_uint64(jcr->ReadBytes, ed1),
1469       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);
1470
1471    /* Inform Director that we are done */
1472    bnet_sig(dir, BNET_TERMINATE);
1473
1474    Dmsg0(130, "Done in job.c\n");
1475    return 0;                          /* return and terminate command loop */
1476 }
1477
1478 static int open_sd_read_session(JCR *jcr)
1479 {
1480    BSOCK *sd = jcr->store_bsock;
1481
1482    if (!sd) {
1483       Jmsg(jcr, M_FATAL, 0, _("Improper calling sequence.\n"));
1484       return 0;
1485    }
1486    Dmsg4(120, "VolSessId=%ld VolsessT=%ld SF=%ld EF=%ld\n",
1487       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile);
1488    Dmsg2(120, "JobId=%d vol=%s\n", jcr->JobId, "DummyVolume");
1489    /*
1490     * Open Read Session with Storage daemon
1491     */
1492    bnet_fsend(sd, read_open, jcr->VolumeName,
1493       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile,
1494       jcr->StartBlock, jcr->EndBlock);
1495    Dmsg1(110, ">stored: %s", sd->msg);
1496
1497    /*
1498     * Get ticket number
1499     */
1500    if (bget_msg(sd) >= 0) {
1501       Dmsg1(110, "bfiled<stored: %s", sd->msg);
1502       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1503          Jmsg(jcr, M_FATAL, 0, _("Bad response to SD read open: %s\n"), sd->msg);
1504          return 0;
1505       }
1506       Dmsg1(110, "bfiled: got Ticket=%d\n", jcr->Ticket);
1507    } else {
1508       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to read open command\n"));
1509       return 0;
1510    }
1511
1512    if (!send_bootstrap_file(jcr)) {
1513       return 0;
1514    }
1515
1516    /*
1517     * Start read of data with Storage daemon
1518     */
1519    bnet_fsend(sd, read_data, jcr->Ticket);
1520    Dmsg1(110, ">stored: %s", sd->msg);
1521
1522    /*
1523     * Get OK data
1524     */
1525    if (!response(jcr, sd, OK_data, "Read Data")) {
1526       return 0;
1527    }
1528    return 1;
1529 }
1530
1531 /*
1532  * Destroy the Job Control Record and associated
1533  * resources (sockets).
1534  */
1535 static void filed_free_jcr(JCR *jcr)
1536 {
1537    if (jcr->store_bsock) {
1538       bnet_close(jcr->store_bsock);
1539    }
1540    if (jcr->RestoreBootstrap) {
1541       unlink(jcr->RestoreBootstrap);
1542       free_pool_memory(jcr->RestoreBootstrap);
1543       jcr->RestoreBootstrap = NULL;
1544    }
1545    if (jcr->last_fname) {
1546       free_pool_memory(jcr->last_fname);
1547    }
1548    if (jcr->RunAfterJob) {
1549       free_pool_memory(jcr->RunAfterJob);
1550    }
1551
1552
1553    return;
1554 }
1555
1556 /*
1557  * Get response from Storage daemon to a command we
1558  * sent. Check that the response is OK.
1559  *
1560  *  Returns: 0 on failure
1561  *           1 on success
1562  */
1563 int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd)
1564 {
1565    if (sd->errors) {
1566       return 0;
1567    }
1568    if (bget_msg(sd) > 0) {
1569       Dmsg0(110, sd->msg);
1570       if (strcmp(sd->msg, resp) == 0) {
1571          return 1;
1572       }
1573    }
1574    if (job_canceled(jcr)) {
1575       return 0;                       /* if canceled avoid useless error messages */
1576    }
1577    if (is_bnet_error(sd)) {
1578       Jmsg2(jcr, M_FATAL, 0, _("Comm error with SD. bad response to %s. ERR=%s\n"),
1579          cmd, bnet_strerror(sd));
1580    } else {
1581       Jmsg3(jcr, M_FATAL, 0, _("Bad response to %s command. Wanted %s, got %s\n"),
1582          cmd, resp, sd->msg);
1583    }
1584    return 0;
1585 }
1586
1587 static int send_bootstrap_file(JCR *jcr)
1588 {
1589    FILE *bs;
1590    char buf[2000];
1591    BSOCK *sd = jcr->store_bsock;
1592    const char *bootstrap = "bootstrap\n";
1593    int stat = 0;
1594
1595    Dmsg1(400, "send_bootstrap_file: %s\n", jcr->RestoreBootstrap);
1596    if (!jcr->RestoreBootstrap) {
1597       return 1;
1598    }
1599    bs = fopen(jcr->RestoreBootstrap, "r");
1600    if (!bs) {
1601       berrno be;
1602       Jmsg(jcr, M_FATAL, 0, _("Could not open bootstrap file %s: ERR=%s\n"),
1603          jcr->RestoreBootstrap, be.strerror());
1604       set_jcr_job_status(jcr, JS_ErrorTerminated);
1605       goto bail_out;
1606    }
1607    sd->msglen = pm_strcpy(sd->msg, bootstrap);
1608    bnet_send(sd);
1609    while (fgets(buf, sizeof(buf), bs)) {
1610       sd->msglen = Mmsg(sd->msg, "%s", buf);
1611       bnet_send(sd);
1612    }
1613    bnet_sig(sd, BNET_EOD);
1614    fclose(bs);
1615    if (!response(jcr, sd, OKSDbootstrap, "Bootstrap")) {
1616       set_jcr_job_status(jcr, JS_ErrorTerminated);
1617       goto bail_out;
1618    }
1619    stat = 1;
1620
1621 bail_out:
1622    if (jcr->RestoreBootstrap) {
1623       unlink(jcr->RestoreBootstrap);
1624       free_pool_memory(jcr->RestoreBootstrap);
1625       jcr->RestoreBootstrap = NULL;
1626    }
1627
1628    return stat;
1629 }