git.sur5r.net Git - bacula/bacula/blob - bacula/src/filed/job.c

   1 /*
   2    Bacula® - The Network Backup Solution
   3
   4    Copyright (C) 2000-2007 Free Software Foundation Europe e.V.
   5
   6    The main author of Bacula is Kern Sibbald, with contributions from
   7    many others, a complete list can be found in the file AUTHORS.
   8    This program is Free Software; you can redistribute it and/or
   9    modify it under the terms of version two of the GNU General Public
  10    License as published by the Free Software Foundation plus additions
  11    that are listed in the file LICENSE.
  12
  13    This program is distributed in the hope that it will be useful, but
  14    WITHOUT ANY WARRANTY; without even the implied warranty of
  15    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  16    General Public License for more details.
  17
  18    You should have received a copy of the GNU General Public License
  19    along with this program; if not, write to the Free Software
  20    Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
  21    02110-1301, USA.
  22
  23    Bacula® is a registered trademark of John Walker.
  24    The licensor of Bacula is the Free Software Foundation Europe
  25    (FSFE), Fiduciary Program, Sumatrastrasse 25, 8006 Zürich,
  26    Switzerland, email:ftf@fsfeurope.org.
  27 */
  28 /*
  29  *  Bacula File Daemon Job processing
  30  *
  31  *    Kern Sibbald, October MM
  32  *
  33  *   Version $Id$
  34  *
  35  */
  36
  37 #include "bacula.h"
  38 #include "filed.h"
  39
  40 #if defined(WIN32_VSS)
  41 #include "vss.h"
  42
  43 static pthread_mutex_t vss_mutex = PTHREAD_MUTEX_INITIALIZER;
  44 static int enable_vss;
  45 #endif
  46
  47 extern CLIENT *me;                    /* our client resource */
  48
  49 /* Imported functions */
  50 extern int status_cmd(JCR *jcr);
  51 extern int qstatus_cmd(JCR *jcr);
  52
  53 /* Forward referenced functions */
  54 static int backup_cmd(JCR *jcr);
  55 static int bootstrap_cmd(JCR *jcr);
  56 static int cancel_cmd(JCR *jcr);
  57 static int setdebug_cmd(JCR *jcr);
  58 static int estimate_cmd(JCR *jcr);
  59 static int hello_cmd(JCR *jcr);
  60 static int job_cmd(JCR *jcr);
  61 static int fileset_cmd(JCR *jcr);
  62 static int level_cmd(JCR *jcr);
  63 static int verify_cmd(JCR *jcr);
  64 static int restore_cmd(JCR *jcr);
  65 static int storage_cmd(JCR *jcr);
  66 static int session_cmd(JCR *jcr);
  67 static int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd);
  68 static void filed_free_jcr(JCR *jcr);
  69 static int open_sd_read_session(JCR *jcr);
  70 static int send_bootstrap_file(JCR *jcr);
  71 static int runscript_cmd(JCR *jcr);
  72 static int runbefore_cmd(JCR *jcr);
  73 static int runafter_cmd(JCR *jcr);
  74 static int runbeforenow_cmd(JCR *jcr);
  75 static void set_options(findFOPTS *fo, const char *opts);
  76
  77
  78 /* Exported functions */
  79
  80 struct s_cmds {
  81    const char *cmd;
  82    int (*func)(JCR *);
  83    int monitoraccess; /* specify if monitors have access to this function */
  84 };
  85
  86 /*
  87  * The following are the recognized commands from the Director.
  88  */
  89 static struct s_cmds cmds[] = {
  90    {"backup",       backup_cmd,    0},
  91    {"cancel",       cancel_cmd,    0},
  92    {"setdebug=",    setdebug_cmd,  0},
  93    {"estimate",     estimate_cmd,  0},
  94    {"Hello",        hello_cmd,     1},
  95    {"fileset",      fileset_cmd,   0},
  96    {"JobId=",       job_cmd,       0},
  97    {"level = ",     level_cmd,     0},
  98    {"restore",      restore_cmd,   0},
  99    {"session",      session_cmd,   0},
 100    {"status",       status_cmd,    1},
 101    {".status",      qstatus_cmd,   1},
 102    {"storage ",     storage_cmd,   0},
 103    {"verify",       verify_cmd,    0},
 104    {"bootstrap",    bootstrap_cmd, 0},
 105    {"RunBeforeNow", runbeforenow_cmd, 0},
 106    {"RunBeforeJob", runbefore_cmd, 0},
 107    {"RunAfterJob",  runafter_cmd,  0},
 108    {"Run",          runscript_cmd, 0},
 109    {NULL,       NULL}                  /* list terminator */
 110 };
 111
 112 /* Commands received from director that need scanning */
 113 static char jobcmd[]      = "JobId=%d Job=%127s SDid=%d SDtime=%d Authorization=%100s";
 114 static char storaddr[]    = "storage address=%s port=%d ssl=%d";
 115 static char sessioncmd[]  = "session %127s %ld %ld %ld %ld %ld %ld\n";
 116 static char restorecmd[]  = "restore replace=%c prelinks=%d where=%s\n";
 117 static char restorecmd1[] = "restore replace=%c prelinks=%d where=\n";
 118 static char restorecmdR[] = "restore replace=%c prelinks=%d regexwhere=%s\n";
 119 static char verifycmd[]   = "verify level=%30s";
 120 static char estimatecmd[] = "estimate listing=%d";
 121 static char runbefore[]   = "RunBeforeJob %s";
 122 static char runafter[]    = "RunAfterJob %s";
 123 static char runscript[]   = "Run OnSuccess=%u OnFailure=%u AbortOnError=%u When=%u Command=%s";
 124
 125 /* Responses sent to Director */
 126 static char errmsg[]      = "2999 Invalid command\n";
 127 static char no_auth[]     = "2998 No Authorization\n";
 128 static char invalid_cmd[] = "2997 Invalid command for a Director with Monitor directive enabled.\n";
 129 static char OKinc[]       = "2000 OK include\n";
 130 static char OKest[]       = "2000 OK estimate files=%u bytes=%s\n";
 131 static char OKlevel[]     = "2000 OK level\n";
 132 static char OKbackup[]    = "2000 OK backup\n";
 133 static char OKbootstrap[] = "2000 OK bootstrap\n";
 134 static char OKverify[]    = "2000 OK verify\n";
 135 static char OKrestore[]   = "2000 OK restore\n";
 136 static char OKsession[]   = "2000 OK session\n";
 137 static char OKstore[]     = "2000 OK storage\n";
 138 static char OKjob[]       = "2000 OK Job %s (%s) %s,%s,%s";
 139 static char OKsetdebug[]  = "2000 OK setdebug=%d\n";
 140 static char BADjob[]      = "2901 Bad Job\n";
 141 static char EndJob[]      = "2800 End Job TermCode=%d JobFiles=%u ReadBytes=%s"
 142                             " JobBytes=%s Errors=%u VSS=%d Encrypt=%d\n";
 143 static char OKRunBefore[] = "2000 OK RunBefore\n";
 144 static char OKRunBeforeNow[] = "2000 OK RunBeforeNow\n";
 145 static char OKRunAfter[]  = "2000 OK RunAfter\n";
 146 static char OKRunScript[] = "2000 OK RunScript\n";
 147
 148
 149 /* Responses received from Storage Daemon */
 150 static char OK_end[]       = "3000 OK end\n";
 151 static char OK_close[]     = "3000 OK close Status = %d\n";
 152 static char OK_open[]      = "3000 OK open ticket = %d\n";
 153 static char OK_data[]      = "3000 OK data\n";
 154 static char OK_append[]    = "3000 OK append data\n";
 155 static char OKSDbootstrap[]= "3000 OK bootstrap\n";
 156
 157
 158 /* Commands sent to Storage Daemon */
 159 static char append_open[]  = "append open session\n";
 160 static char append_data[]  = "append data %d\n";
 161 static char append_end[]   = "append end session %d\n";
 162 static char append_close[] = "append close session %d\n";
 163 static char read_open[]    = "read open session = %s %ld %ld %ld %ld %ld %ld\n";
 164 static char read_data[]    = "read data %d\n";
 165 static char read_close[]   = "read close session %d\n";
 166
 167 /*
 168  * Accept requests from a Director
 169  *
 170  * NOTE! We are running as a separate thread
 171  *
 172  * Send output one line
 173  * at a time followed by a zero length transmission.
 174  *
 175  * Return when the connection is terminated or there
 176  * is an error.
 177  *
 178  * Basic task here is:
 179  *   Authenticate Director (during Hello command).
 180  *   Accept commands one at a time from the Director
 181  *     and execute them.
 182  *
 183  * Concerning ClientRunBefore/After, the sequence of events
 184  * is rather critical. If they are not done in the right
 185  * order one can easily get FD->SD timeouts if the script
 186  * runs a long time.
 187  *
 188  * The current sequence of events is:
 189  *  1. Dir starts job with FD
 190  *  2. Dir connects to SD
 191  *  3. Dir connects to FD
 192  *  4. FD connects to SD
 193  *  5. FD gets/runs ClientRunBeforeJob and sends ClientRunAfterJob
 194  *  6. Dir sends include/exclude
 195  *  7. FD sends data to SD
 196  *  8. SD/FD disconnects while SD despools data and attributes (optionnal)
 197  *  9. FD runs ClientRunAfterJob
 198  */
 199
 200 void *handle_client_request(void *dirp)
 201 {
 202    int i;
 203    bool found, quit;
 204    JCR *jcr;
 205    BSOCK *dir = (BSOCK *)dirp;
 206
 207    jcr = new_jcr(sizeof(JCR), filed_free_jcr); /* create JCR */
 208    jcr->dir_bsock = dir;
 209    jcr->ff = init_find_files();
 210    jcr->start_time = time(NULL);
 211    jcr->RunScripts = New(alist(10, not_owned_by_alist));
 212    jcr->last_fname = get_pool_memory(PM_FNAME);
 213    jcr->last_fname[0] = 0;
 214    jcr->client_name = get_memory(strlen(my_name) + 1);
 215    pm_strcpy(jcr->client_name, my_name);
 216    jcr->pki_sign = me->pki_sign;
 217    jcr->pki_encrypt = me->pki_encrypt;
 218    jcr->pki_keypair = me->pki_keypair;
 219    jcr->pki_signers = me->pki_signers;
 220    jcr->pki_recipients = me->pki_recipients;
 221    dir->set_jcr(jcr);
 222    enable_backup_privileges(NULL, 1 /* ignore_errors */);
 223
 224    /**********FIXME******* add command handler error code */
 225
 226    for (quit=false; !quit;) {
 227
 228       /* Read command */
 229       if (bnet_recv(dir) < 0) {
 230          break;               /* connection terminated */
 231       }
 232       dir->msg[dir->msglen] = 0;
 233       Dmsg1(100, "<dird: %s", dir->msg);
 234       found = false;
 235       for (i=0; cmds[i].cmd; i++) {
 236          if (strncmp(cmds[i].cmd, dir->msg, strlen(cmds[i].cmd)) == 0) {
 237             found = true;         /* indicate command found */
 238             if (!jcr->authenticated && cmds[i].func != hello_cmd) {
 239                bnet_fsend(dir, no_auth);
 240                bnet_sig(dir, BNET_EOD);
 241                break;
 242             }
 243             if ((jcr->authenticated) && (!cmds[i].monitoraccess) && (jcr->director->monitor)) {
 244                Dmsg1(100, "Command \"%s\" is invalid.\n", cmds[i].cmd);
 245                bnet_fsend(dir, invalid_cmd);
 246                bnet_sig(dir, BNET_EOD);
 247                break;
 248             }
 249             Dmsg1(100, "Executing %s command.\n", cmds[i].cmd);
 250             if (!cmds[i].func(jcr)) {         /* do command */
 251                quit = true;         /* error or fully terminated, get out */
 252                Dmsg1(20, "Quit command loop. Canceled=%d\n", job_canceled(jcr));
 253             }
 254             break;
 255          }
 256       }
 257       if (!found) {              /* command not found */
 258          bnet_fsend(dir, errmsg);
 259          quit = true;
 260          break;
 261       }
 262    }
 263
 264    /* Inform Storage daemon that we are done */
 265    if (jcr->store_bsock) {
 266       bnet_sig(jcr->store_bsock, BNET_TERMINATE);
 267    }
 268
 269    /* Run the after job */
 270    run_scripts(jcr, jcr->RunScripts, "ClientAfterJob");
 271
 272    generate_daemon_event(jcr, "JobEnd");
 273
 274    dequeue_messages(jcr);             /* send any queued messages */
 275
 276    /* Inform Director that we are done */
 277    bnet_sig(dir, BNET_TERMINATE);
 278
 279    /* Clean up fileset */
 280    FF_PKT *ff = jcr->ff;
 281    findFILESET *fileset = ff->fileset;
 282    if (fileset) {
 283       int i, j, k;
 284       /* Delete FileSet Include lists */
 285       for (i=0; i<fileset->include_list.size(); i++) {
 286          findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 287          for (j=0; j<incexe->opts_list.size(); j++) {
 288             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 289             for (k=0; k<fo->regex.size(); k++) {
 290                regfree((regex_t *)fo->regex.get(k));
 291             }
 292             fo->regex.destroy();
 293             fo->regexdir.destroy();
 294             fo->regexfile.destroy();
 295             fo->wild.destroy();
 296             fo->wilddir.destroy();
 297             fo->wildfile.destroy();
 298             fo->wildbase.destroy();
 299             fo->base.destroy();
 300             fo->fstype.destroy();
 301             fo->drivetype.destroy();
 302             if (fo->reader) {
 303                free(fo->reader);
 304             }
 305             if (fo->writer) {
 306                free(fo->writer);
 307             }
 308          }
 309          incexe->opts_list.destroy();
 310          incexe->name_list.destroy();
 311       }
 312       fileset->include_list.destroy();
 313
 314       /* Delete FileSet Exclude lists */
 315       for (i=0; i<fileset->exclude_list.size(); i++) {
 316          findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 317          for (j=0; j<incexe->opts_list.size(); j++) {
 318             findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 319             fo->regex.destroy();
 320             fo->regexdir.destroy();
 321             fo->regexfile.destroy();
 322             fo->wild.destroy();
 323             fo->wilddir.destroy();
 324             fo->wildfile.destroy();
 325             fo->wildbase.destroy();
 326             fo->base.destroy();
 327             fo->fstype.destroy();
 328             fo->drivetype.destroy();
 329          }
 330          incexe->opts_list.destroy();
 331          incexe->name_list.destroy();
 332       }
 333       fileset->exclude_list.destroy();
 334       free(fileset);
 335    }
 336    ff->fileset = NULL;
 337    Dmsg0(100, "Calling term_find_files\n");
 338    term_find_files(jcr->ff);
 339    jcr->ff = NULL;
 340    Dmsg0(100, "Done with term_find_files\n");
 341    free_jcr(jcr);                     /* destroy JCR record */
 342    Dmsg0(100, "Done with free_jcr\n");
 343    return NULL;
 344 }
 345
 346 /*
 347  * Hello from Director he must identify himself and provide his
 348  *  password.
 349  */
 350 static int hello_cmd(JCR *jcr)
 351 {
 352    Dmsg0(120, "Calling Authenticate\n");
 353    if (!authenticate_director(jcr)) {
 354       return 0;
 355    }
 356    Dmsg0(120, "OK Authenticate\n");
 357    jcr->authenticated = true;
 358    return 1;
 359 }
 360
 361 /*
 362  * Cancel a Job
 363  */
 364 static int cancel_cmd(JCR *jcr)
 365 {
 366    BSOCK *dir = jcr->dir_bsock;
 367    char Job[MAX_NAME_LENGTH];
 368    JCR *cjcr;
 369
 370    if (sscanf(dir->msg, "cancel Job=%127s", Job) == 1) {
 371       if (!(cjcr=get_jcr_by_full_name(Job))) {
 372          bnet_fsend(dir, _("2901 Job %s not found.\n"), Job);
 373       } else {
 374          if (cjcr->store_bsock) {
 375             cjcr->store_bsock->timed_out = 1;
 376             cjcr->store_bsock->terminated = 1;
 377             pthread_kill(cjcr->my_thread_id, TIMEOUT_SIGNAL);
 378          }
 379          set_jcr_job_status(cjcr, JS_Canceled);
 380          free_jcr(cjcr);
 381          bnet_fsend(dir, _("2001 Job %s marked to be canceled.\n"), Job);
 382       }
 383    } else {
 384       bnet_fsend(dir, _("2902 Error scanning cancel command.\n"));
 385    }
 386    bnet_sig(dir, BNET_EOD);
 387    return 1;
 388 }
 389
 390
 391 /*
 392  * Set debug level as requested by the Director
 393  *
 394  */
 395 static int setdebug_cmd(JCR *jcr)
 396 {
 397    BSOCK *dir = jcr->dir_bsock;
 398    int level, trace_flag;
 399
 400    Dmsg1(110, "setdebug_cmd: %s", dir->msg);
 401    if (sscanf(dir->msg, "setdebug=%d trace=%d", &level, &trace_flag) != 2 || level < 0) {
 402       pm_strcpy(jcr->errmsg, dir->msg);
 403       bnet_fsend(dir, _("2991 Bad setdebug command: %s\n"), jcr->errmsg);
 404       return 0;
 405    }
 406    debug_level = level;
 407    set_trace(trace_flag);
 408    return bnet_fsend(dir, OKsetdebug, level);
 409 }
 410
 411
 412 static int estimate_cmd(JCR *jcr)
 413 {
 414    BSOCK *dir = jcr->dir_bsock;
 415    char ed2[50];
 416
 417    if (sscanf(dir->msg, estimatecmd, &jcr->listing) != 1) {
 418       pm_strcpy(jcr->errmsg, dir->msg);
 419       Jmsg(jcr, M_FATAL, 0, _("Bad estimate command: %s"), jcr->errmsg);
 420       bnet_fsend(dir, _("2992 Bad estimate command.\n"));
 421       return 0;
 422    }
 423    make_estimate(jcr);
 424    bnet_fsend(dir, OKest, jcr->num_files_examined,
 425       edit_uint64_with_commas(jcr->JobBytes, ed2));
 426    bnet_sig(dir, BNET_EOD);
 427    return 1;
 428 }
 429
 430 /*
 431  * Get JobId and Storage Daemon Authorization key from Director
 432  */
 433 static int job_cmd(JCR *jcr)
 434 {
 435    BSOCK *dir = jcr->dir_bsock;
 436    POOLMEM *sd_auth_key;
 437
 438    sd_auth_key = get_memory(dir->msglen);
 439    if (sscanf(dir->msg, jobcmd,  &jcr->JobId, jcr->Job,
 440               &jcr->VolSessionId, &jcr->VolSessionTime,
 441               sd_auth_key) != 5) {
 442       pm_strcpy(jcr->errmsg, dir->msg);
 443       Jmsg(jcr, M_FATAL, 0, _("Bad Job Command: %s"), jcr->errmsg);
 444       bnet_fsend(dir, BADjob);
 445       free_pool_memory(sd_auth_key);
 446       return 0;
 447    }
 448    jcr->sd_auth_key = bstrdup(sd_auth_key);
 449    free_pool_memory(sd_auth_key);
 450    Dmsg2(120, "JobId=%d Auth=%s\n", jcr->JobId, jcr->sd_auth_key);
 451    return bnet_fsend(dir, OKjob, VERSION, LSMDATE, HOST_OS, DISTNAME, DISTVER);
 452 }
 453
 454 static int runbefore_cmd(JCR *jcr)
 455 {
 456    bool ok;
 457    BSOCK *dir = jcr->dir_bsock;
 458    POOLMEM *cmd = get_memory(dir->msglen+1);
 459    RUNSCRIPT *script;
 460
 461    Dmsg1(100, "runbefore_cmd: %s", dir->msg);
 462    if (sscanf(dir->msg, runbefore, cmd) != 1) {
 463       pm_strcpy(jcr->errmsg, dir->msg);
 464       Jmsg1(jcr, M_FATAL, 0, _("Bad RunBeforeJob command: %s\n"), jcr->errmsg);
 465       bnet_fsend(dir, _("2905 Bad RunBeforeJob command.\n"));
 466       free_memory(cmd);
 467       return 0;
 468    }
 469    unbash_spaces(cmd);
 470
 471    /* Run the command now */
 472    script = new_runscript();
 473    script->set_command(cmd);
 474    script->when = SCRIPT_Before;
 475    ok = script->run(jcr, "ClientRunBeforeJob");
 476    free_runscript(script);
 477
 478    free_memory(cmd);
 479    if (ok) {
 480       bnet_fsend(dir, OKRunBefore);
 481       return 1;
 482    } else {
 483       bnet_fsend(dir, _("2905 Bad RunBeforeJob command.\n"));
 484       return 0;
 485    }
 486 }
 487
 488 static int runbeforenow_cmd(JCR *jcr)
 489 {
 490    BSOCK *dir = jcr->dir_bsock;
 491
 492    run_scripts(jcr, jcr->RunScripts, "ClientBeforeJob");
 493    if (job_canceled(jcr)) {
 494       return  bnet_fsend(dir, _("2905 Bad RunBeforeNow command.\n"));
 495    } else {
 496       return  bnet_fsend(dir, OKRunBeforeNow);
 497    }
 498 }
 499
 500 static int runafter_cmd(JCR *jcr)
 501 {
 502    BSOCK *dir = jcr->dir_bsock;
 503    POOLMEM *msg = get_memory(dir->msglen+1);
 504    RUNSCRIPT *cmd;
 505
 506    Dmsg1(100, "runafter_cmd: %s", dir->msg);
 507    if (sscanf(dir->msg, runafter, msg) != 1) {
 508       pm_strcpy(jcr->errmsg, dir->msg);
 509       Jmsg1(jcr, M_FATAL, 0, _("Bad RunAfter command: %s\n"), jcr->errmsg);
 510       bnet_fsend(dir, _("2905 Bad RunAfterJob command.\n"));
 511       free_memory(msg);
 512       return 0;
 513    }
 514    unbash_spaces(msg);
 515
 516    cmd = new_runscript();
 517    cmd->set_command(msg);
 518    cmd->on_success = true;
 519    cmd->on_failure = false;
 520    cmd->when = SCRIPT_After;
 521
 522    jcr->RunScripts->append(cmd);
 523
 524    free_pool_memory(msg);
 525    return bnet_fsend(dir, OKRunAfter);
 526 }
 527
 528 static int runscript_cmd(JCR *jcr)
 529 {
 530    BSOCK *dir = jcr->dir_bsock;
 531    POOLMEM *msg = get_memory(dir->msglen+1);
 532
 533    RUNSCRIPT *cmd = new_runscript() ;
 534
 535    Dmsg1(100, "runscript_cmd: '%s'\n", dir->msg);
 536    if (sscanf(dir->msg, runscript, &cmd->on_success,
 537                                   &cmd->on_failure,
 538                                   &cmd->abort_on_error,
 539                                   &cmd->when,
 540                                   msg) != 5) {
 541       pm_strcpy(jcr->errmsg, dir->msg);
 542       Jmsg1(jcr, M_FATAL, 0, _("Bad RunScript command: %s\n"), jcr->errmsg);
 543       bnet_fsend(dir, _("2905 Bad RunScript command.\n"));
 544       free_runscript(cmd);
 545       free_memory(msg);
 546       return 0;
 547    }
 548    unbash_spaces(msg);
 549
 550    cmd->set_command(msg);
 551    cmd->debug();
 552    jcr->RunScripts->append(cmd);
 553
 554    free_pool_memory(msg);
 555    return bnet_fsend(dir, OKRunScript);
 556 }
 557
 558
 559 static bool init_fileset(JCR *jcr)
 560 {
 561    FF_PKT *ff;
 562    findFILESET *fileset;
 563
 564    if (!jcr->ff) {
 565       return false;
 566    }
 567    ff = jcr->ff;
 568    if (ff->fileset) {
 569       return false;
 570    }
 571    fileset = (findFILESET *)malloc(sizeof(findFILESET));
 572    memset(fileset, 0, sizeof(findFILESET));
 573    ff->fileset = fileset;
 574    fileset->state = state_none;
 575    fileset->include_list.init(1, true);
 576    fileset->exclude_list.init(1, true);
 577    return true;
 578 }
 579
 580 static findFOPTS *start_options(FF_PKT *ff)
 581 {
 582    int state = ff->fileset->state;
 583    findINCEXE *incexe = ff->fileset->incexe;
 584
 585    if (state != state_options) {
 586       ff->fileset->state = state_options;
 587       findFOPTS *fo = (findFOPTS *)malloc(sizeof(findFOPTS));
 588       memset(fo, 0, sizeof(findFOPTS));
 589       fo->regex.init(1, true);
 590       fo->regexdir.init(1, true);
 591       fo->regexfile.init(1, true);
 592       fo->wild.init(1, true);
 593       fo->wilddir.init(1, true);
 594       fo->wildfile.init(1, true);
 595       fo->wildbase.init(1, true);
 596       fo->base.init(1, true);
 597       fo->fstype.init(1, true);
 598       fo->drivetype.init(1, true);
 599       incexe->current_opts = fo;
 600       incexe->opts_list.append(fo);
 601    }
 602    return incexe->current_opts;
 603
 604 }
 605
 606 /*
 607  * Add fname to include/exclude fileset list. First check for
 608  * | and < and if necessary perform command.
 609  */
 610 static void add_file_to_fileset(JCR *jcr, const char *fname, findFILESET *fileset)
 611 {
 612    char *p;
 613    BPIPE *bpipe;
 614    POOLMEM *fn;
 615    FILE *ffd;
 616    char buf[1000];
 617    int ch;
 618    int stat;
 619
 620    p = (char *)fname;
 621    ch = (uint8_t)*p;
 622    switch (ch) {
 623    case '|':
 624       p++;                            /* skip over | */
 625       fn = get_pool_memory(PM_FNAME);
 626       fn = edit_job_codes(jcr, fn, p, "");
 627       bpipe = open_bpipe(fn, 0, "r");
 628       if (!bpipe) {
 629          berrno be;
 630          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
 631             p, be.strerror());
 632          free_pool_memory(fn);
 633          return;
 634       }
 635       free_pool_memory(fn);
 636       while (fgets(buf, sizeof(buf), bpipe->rfd)) {
 637          strip_trailing_junk(buf);
 638          fileset->incexe->name_list.append(new_dlistString(buf));
 639       }
 640       if ((stat=close_bpipe(bpipe)) != 0) {
 641          berrno be;
 642          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. stat=%d: ERR=%s\n"),
 643             p, be.code(stat), be.strerror(stat));
 644          return;
 645       }
 646       break;
 647    case '<':
 648       Dmsg0(100, "Doing < include on client.\n");
 649       p++;                      /* skip over < */
 650       if ((ffd = fopen(p, "rb")) == NULL) {
 651          berrno be;
 652          Jmsg(jcr, M_FATAL, 0, _("Cannot open FileSet input file: %s. ERR=%s\n"),
 653             p, be.strerror());
 654          return;
 655       }
 656       while (fgets(buf, sizeof(buf), ffd)) {
 657          strip_trailing_junk(buf);
 658          Dmsg1(100, "%s\n", buf);
 659          fileset->incexe->name_list.append(new_dlistString(buf));
 660       }
 661       fclose(ffd);
 662       break;
 663    default:
 664       fileset->incexe->name_list.append(new_dlistString(fname));
 665       break;
 666    }
 667 }
 668
 669
 670 static void add_fileset(JCR *jcr, const char *item)
 671 {
 672    FF_PKT *ff = jcr->ff;
 673    findFILESET *fileset = ff->fileset;
 674    int state = fileset->state;
 675    findFOPTS *current_opts;
 676
 677    /* Get code, optional subcode, and position item past the dividing space */
 678    Dmsg1(100, "%s\n", item);
 679    int code = item[0];
 680    if (code != '\0') {
 681       ++item;
 682    }
 683    int subcode = ' ';               /* A space is always a valid subcode */
 684    if (item[0] != '\0' && item[0] != ' ') {
 685       subcode = item[0];
 686       ++item;
 687    }
 688    if (*item == ' ') {
 689       ++item;
 690    }
 691
 692    /* Skip all lines we receive after an error */
 693    if (state == state_error) {
 694       Dmsg0(100, "State=error return\n");
 695       return;
 696    }
 697
 698    /*
 699     * The switch tests the code for validity.
 700     * The subcode is always good if it is a space, otherwise we must confirm.
 701     * We set state to state_error first assuming the subcode is invalid,
 702     * requiring state to be set in cases below that handle subcodes.
 703     */
 704    if (subcode != ' ') {
 705       state = state_error;
 706       Dmsg0(100, "Set state=error\n");
 707    }
 708    switch (code) {
 709    case 'I':
 710       /* New include */
 711       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 712       memset(fileset->incexe, 0, sizeof(findINCEXE));
 713       fileset->incexe->opts_list.init(1, true);
 714       fileset->incexe->name_list.init(); /* for dlist;  was 1,true for alist */
 715       fileset->include_list.append(fileset->incexe);
 716       break;
 717    case 'E':
 718       /* New exclude */
 719       fileset->incexe = (findINCEXE *)malloc(sizeof(findINCEXE));
 720       memset(fileset->incexe, 0, sizeof(findINCEXE));
 721       fileset->incexe->opts_list.init(1, true);
 722       fileset->incexe->name_list.init();
 723       fileset->exclude_list.append(fileset->incexe);
 724       break;
 725    case 'N':
 726       state = state_none;
 727       break;
 728    case 'F':
 729       /* File item to either include/include list */
 730       state = state_include;
 731       add_file_to_fileset(jcr, item, fileset);
 732       break;
 733    case 'R':
 734       current_opts = start_options(ff);
 735       regex_t *preg;
 736       int rc;
 737       char prbuf[500];
 738       preg = (regex_t *)malloc(sizeof(regex_t));
 739       if (current_opts->flags & FO_IGNORECASE) {
 740          rc = regcomp(preg, item, REG_EXTENDED|REG_ICASE);
 741       } else {
 742          rc = regcomp(preg, item, REG_EXTENDED);
 743       }
 744       if (rc != 0) {
 745          regerror(rc, preg, prbuf, sizeof(prbuf));
 746          regfree(preg);
 747          free(preg);
 748          Jmsg(jcr, M_FATAL, 0, _("REGEX %s compile error. ERR=%s\n"), item, prbuf);
 749          state = state_error;
 750          break;
 751       }
 752       state = state_options;
 753       if (subcode == ' ') {
 754          current_opts->regex.append(preg);
 755       } else if (subcode == 'D') {
 756          current_opts->regexdir.append(preg);
 757       } else if (subcode == 'F') {
 758          current_opts->regexfile.append(preg);
 759       } else {
 760          state = state_error;
 761       }
 762       break;
 763    case 'B':
 764       current_opts = start_options(ff);
 765       current_opts->base.append(bstrdup(item));
 766       state = state_options;
 767       break;
 768    case 'X':
 769       current_opts = start_options(ff);
 770       state = state_options;
 771       if (subcode == ' ') {
 772          current_opts->fstype.append(bstrdup(item));
 773       } else if (subcode == 'D') {
 774          current_opts->drivetype.append(bstrdup(item));
 775       } else {
 776          state = state_error;
 777       }
 778       break;
 779    case 'W':
 780       current_opts = start_options(ff);
 781       state = state_options;
 782       if (subcode == ' ') {
 783          current_opts->wild.append(bstrdup(item));
 784       } else if (subcode == 'D') {
 785          current_opts->wilddir.append(bstrdup(item));
 786       } else if (subcode == 'F') {
 787          current_opts->wildfile.append(bstrdup(item));
 788       } else if (subcode == 'B') {
 789          current_opts->wildbase.append(bstrdup(item));
 790       } else {
 791          state = state_error;
 792       }
 793       break;
 794    case 'O':
 795       current_opts = start_options(ff);
 796       set_options(current_opts, item);
 797       state = state_options;
 798       break;
 799    case 'D':
 800       current_opts = start_options(ff);
 801       current_opts->reader = bstrdup(item);
 802       state = state_options;
 803       break;
 804    case 'T':
 805       current_opts = start_options(ff);
 806       current_opts->writer = bstrdup(item);
 807       state = state_options;
 808       break;
 809    default:
 810       Jmsg(jcr, M_FATAL, 0, _("Invalid FileSet command: %s\n"), item);
 811       state = state_error;
 812       break;
 813    }
 814    ff->fileset->state = state;
 815 }
 816
 817 static bool term_fileset(JCR *jcr)
 818 {
 819    FF_PKT *ff = jcr->ff;
 820
 821 #ifdef xxx
 822    findFILESET *fileset = ff->fileset;
 823    int i, j, k;
 824
 825    for (i=0; i<fileset->include_list.size(); i++) {
 826       findINCEXE *incexe = (findINCEXE *)fileset->include_list.get(i);
 827       Dmsg0(400, "I\n");
 828       for (j=0; j<incexe->opts_list.size(); j++) {
 829          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 830          for (k=0; k<fo->regex.size(); k++) {
 831             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 832          }
 833          for (k=0; k<fo->regexdir.size(); k++) {
 834             Dmsg1(400, "RD %s\n", (char *)fo->regexdir.get(k));
 835          }
 836          for (k=0; k<fo->regexfile.size(); k++) {
 837             Dmsg1(400, "RF %s\n", (char *)fo->regexfile.get(k));
 838          }
 839          for (k=0; k<fo->wild.size(); k++) {
 840             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 841          }
 842          for (k=0; k<fo->wilddir.size(); k++) {
 843             Dmsg1(400, "WD %s\n", (char *)fo->wilddir.get(k));
 844          }
 845          for (k=0; k<fo->wildfile.size(); k++) {
 846             Dmsg1(400, "WF %s\n", (char *)fo->wildfile.get(k));
 847          }
 848          for (k=0; k<fo->wildbase.size(); k++) {
 849             Dmsg1(400, "WB %s\n", (char *)fo->wildbase.get(k));
 850          }
 851          for (k=0; k<fo->base.size(); k++) {
 852             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 853          }
 854          for (k=0; k<fo->fstype.size(); k++) {
 855             Dmsg1(400, "X %s\n", (char *)fo->fstype.get(k));
 856          }
 857          for (k=0; k<fo->drivetype.size(); k++) {
 858             Dmsg1(400, "XD %s\n", (char *)fo->drivetype.get(k));
 859          }
 860          if (fo->reader) {
 861             Dmsg1(400, "D %s\n", fo->reader);
 862          }
 863          if (fo->writer) {
 864             Dmsg1(400, "T %s\n", fo->writer);
 865          }
 866       }
 867       dlistString *node;
 868       foreach_dlist(node, &incexe->name_list) {
 869          Dmsg1(400, "F %s\n", node->c_str());
 870       }
 871    }
 872    for (i=0; i<fileset->exclude_list.size(); i++) {
 873       findINCEXE *incexe = (findINCEXE *)fileset->exclude_list.get(i);
 874       Dmsg0(400, "E\n");
 875       for (j=0; j<incexe->opts_list.size(); j++) {
 876          findFOPTS *fo = (findFOPTS *)incexe->opts_list.get(j);
 877          for (k=0; k<fo->regex.size(); k++) {
 878             Dmsg1(400, "R %s\n", (char *)fo->regex.get(k));
 879          }
 880          for (k=0; k<fo->regexdir.size(); k++) {
 881             Dmsg1(400, "RD %s\n", (char *)fo->regexdir.get(k));
 882          }
 883          for (k=0; k<fo->regexfile.size(); k++) {
 884             Dmsg1(400, "RF %s\n", (char *)fo->regexfile.get(k));
 885          }
 886          for (k=0; k<fo->wild.size(); k++) {
 887             Dmsg1(400, "W %s\n", (char *)fo->wild.get(k));
 888          }
 889          for (k=0; k<fo->wilddir.size(); k++) {
 890             Dmsg1(400, "WD %s\n", (char *)fo->wilddir.get(k));
 891          }
 892          for (k=0; k<fo->wildfile.size(); k++) {
 893             Dmsg1(400, "WF %s\n", (char *)fo->wildfile.get(k));
 894          }
 895          for (k=0; k<fo->wildbase.size(); k++) {
 896             Dmsg1(400, "WB %s\n", (char *)fo->wildbase.get(k));
 897          }
 898          for (k=0; k<fo->base.size(); k++) {
 899             Dmsg1(400, "B %s\n", (char *)fo->base.get(k));
 900          }
 901          for (k=0; k<fo->fstype.size(); k++) {
 902             Dmsg1(400, "X %s\n", (char *)fo->fstype.get(k));
 903          }
 904          for (k=0; k<fo->drivetype.size(); k++) {
 905             Dmsg1(400, "XD %s\n", (char *)fo->drivetype.get(k));
 906          }
 907       }
 908       dlistString *node;
 909       foreach_dlist(node, incexe->name_list) {
 910          Dmsg1(400, "F %s\n", node->c_str());
 911       }
 912    }
 913 #endif
 914    return ff->fileset->state != state_error;
 915 }
 916
 917
 918 /*
 919  * As an optimization, we should do this during
 920  *  "compile" time in filed/job.c, and keep only a bit mask
 921  *  and the Verify options.
 922  */
 923 static void set_options(findFOPTS *fo, const char *opts)
 924 {
 925    int j;
 926    const char *p;
 927
 928    for (p=opts; *p; p++) {
 929       switch (*p) {
 930       case 'a':                 /* alway replace */
 931       case '0':                 /* no option */
 932          break;
 933       case 'e':
 934          fo->flags |= FO_EXCLUDE;
 935          break;
 936       case 'f':
 937          fo->flags |= FO_MULTIFS;
 938          break;
 939       case 'h':                 /* no recursion */
 940          fo->flags |= FO_NO_RECURSION;
 941          break;
 942       case 'H':                 /* no hard link handling */
 943          fo->flags |= FO_NO_HARDLINK;
 944          break;
 945       case 'i':
 946          fo->flags |= FO_IGNORECASE;
 947          break;
 948       case 'M':                 /* MD5 */
 949          fo->flags |= FO_MD5;
 950          break;
 951       case 'n':
 952          fo->flags |= FO_NOREPLACE;
 953          break;
 954       case 'p':                 /* use portable data format */
 955          fo->flags |= FO_PORTABLE;
 956          break;
 957       case 'R':                 /* Resource forks and Finder Info */
 958          fo->flags |= FO_HFSPLUS;
 959       case 'r':                 /* read fifo */
 960          fo->flags |= FO_READFIFO;
 961          break;
 962       case 'S':
 963          switch(*(p + 1)) {
 964          case '1':
 965             fo->flags |= FO_SHA1;
 966             p++;
 967             break;
 968 #ifdef HAVE_SHA2
 969          case '2':
 970             fo->flags |= FO_SHA256;
 971             p++;
 972             break;
 973          case '3':
 974             fo->flags |= FO_SHA512;
 975             p++;
 976             break;
 977 #endif
 978          default:
 979             /*
 980              * If 2 or 3 is seen here, SHA2 is not configured, so
 981              *  eat the option, and drop back to SHA-1.
 982              */
 983             if (p[1] == '2' || p[1] == '3') {
 984                p++;
 985             }
 986             fo->flags |= FO_SHA1;
 987             break;
 988          }
 989          break;
 990       case 's':
 991          fo->flags |= FO_SPARSE;
 992          break;
 993       case 'm':
 994          fo->flags |= FO_MTIMEONLY;
 995          break;
 996       case 'k':
 997          fo->flags |= FO_KEEPATIME;
 998          break;
 999       case 'A':
1000          fo->flags |= FO_ACL;
1001          break;
1002       case 'V':                  /* verify options */
1003          /* Copy Verify Options */
1004          for (j=0; *p && *p != ':'; p++) {
1005             fo->VerifyOpts[j] = *p;
1006             if (j < (int)sizeof(fo->VerifyOpts) - 1) {
1007                j++;
1008             }
1009          }
1010          fo->VerifyOpts[j] = 0;
1011          break;
1012       case 'w':
1013          fo->flags |= FO_IF_NEWER;
1014          break;
1015       case 'W':
1016          fo->flags |= FO_ENHANCEDWILD;
1017          break;
1018       case 'Z':                 /* gzip compression */
1019          fo->flags |= FO_GZIP;
1020          fo->GZIP_level = *++p - '0';
1021          break;
1022       case 'K':
1023          fo->flags |= FO_NOATIME;
1024          break;
1025       case 'c':
1026          fo->flags |= FO_CHKCHANGES;
1027          break;
1028       default:
1029          Emsg1(M_ERROR, 0, _("Unknown include/exclude option: %c\n"), *p);
1030          break;
1031       }
1032    }
1033 }
1034
1035
1036 /*
1037  * Director is passing his Fileset
1038  */
1039 static int fileset_cmd(JCR *jcr)
1040 {
1041    BSOCK *dir = jcr->dir_bsock;
1042
1043 #if defined(WIN32_VSS)
1044    int vss = 0;
1045
1046    sscanf(dir->msg, "fileset vss=%d", &vss);
1047    enable_vss = vss;
1048 #endif
1049
1050    if (!init_fileset(jcr)) {
1051       return 0;
1052    }
1053    while (bnet_recv(dir) >= 0) {
1054       strip_trailing_junk(dir->msg);
1055       Dmsg1(500, "Fileset: %s\n", dir->msg);
1056       add_fileset(jcr, dir->msg);
1057    }
1058    if (!term_fileset(jcr)) {
1059       return 0;
1060    }
1061    return bnet_fsend(dir, OKinc);
1062 }
1063
1064 static void free_bootstrap(JCR *jcr)
1065 {
1066    if (jcr->RestoreBootstrap) {
1067       unlink(jcr->RestoreBootstrap);
1068       free_pool_memory(jcr->RestoreBootstrap);
1069       jcr->RestoreBootstrap = NULL;
1070    }
1071 }
1072
1073
1074 static pthread_mutex_t bsr_mutex = PTHREAD_MUTEX_INITIALIZER;
1075 static uint32_t bsr_uniq = 0;
1076
1077 /*
1078  * The Director sends us the bootstrap file, which
1079  *   we will in turn pass to the SD.
1080  */
1081 static int bootstrap_cmd(JCR *jcr)
1082 {
1083    BSOCK *dir = jcr->dir_bsock;
1084    POOLMEM *fname = get_pool_memory(PM_FNAME);
1085    FILE *bs;
1086
1087    free_bootstrap(jcr);
1088    P(bsr_mutex);
1089    bsr_uniq++;
1090    Mmsg(fname, "%s/%s.%s.%d.bootstrap", me->working_directory, me->hdr.name,
1091       jcr->Job, bsr_uniq);
1092    V(bsr_mutex);
1093    Dmsg1(400, "bootstrap=%s\n", fname);
1094    jcr->RestoreBootstrap = fname;
1095    bs = fopen(fname, "a+b");           /* create file */
1096    if (!bs) {
1097       berrno be;
1098       Jmsg(jcr, M_FATAL, 0, _("Could not create bootstrap file %s: ERR=%s\n"),
1099          jcr->RestoreBootstrap, be.strerror());
1100       /*
1101        * Suck up what he is sending to us so that he will then
1102        *   read our error message.
1103        */
1104       while (bnet_recv(dir) >= 0)
1105         {  }
1106       free_bootstrap(jcr);
1107       set_jcr_job_status(jcr, JS_ErrorTerminated);
1108       return 0;
1109    }
1110
1111    while (bnet_recv(dir) >= 0) {
1112        Dmsg1(200, "filed<dird: bootstrap file %s\n", dir->msg);
1113        fputs(dir->msg, bs);
1114    }
1115    fclose(bs);
1116    /*
1117     * Note, do not free the bootstrap yet -- it needs to be
1118     *  sent to the SD
1119     */
1120    return bnet_fsend(dir, OKbootstrap);
1121 }
1122
1123
1124 /*
1125  * Get backup level from Director
1126  *
1127  */
1128 static int level_cmd(JCR *jcr)
1129 {
1130    BSOCK *dir = jcr->dir_bsock;
1131    POOLMEM *level, *buf = NULL;
1132    int mtime_only;
1133
1134    level = get_memory(dir->msglen+1);
1135    Dmsg1(110, "level_cmd: %s", dir->msg);
1136    if (sscanf(dir->msg, "level = %s ", level) != 1) {
1137       goto bail_out;
1138    }
1139    /* Base backup requested? */
1140    if (strcmp(level, "base") == 0) {
1141       jcr->JobLevel = L_BASE;
1142    /* Full backup requested? */
1143    } else if (strcmp(level, "full") == 0) {
1144       jcr->JobLevel = L_FULL;
1145    } else if (strcmp(level, "differential") == 0) {
1146       jcr->JobLevel = L_DIFFERENTIAL;
1147       free_memory(level);
1148       return 1;
1149    } else if (strcmp(level, "incremental") == 0) {
1150       jcr->JobLevel = L_INCREMENTAL;
1151       free_memory(level);
1152       return 1;
1153    /*
1154     * We get his UTC since time, then sync the clocks and correct it
1155     *   to agree with our clock.
1156     */
1157    } else if (strcmp(level, "since_utime") == 0) {
1158       buf = get_memory(dir->msglen+1);
1159       utime_t since_time, adj;
1160       btime_t his_time, bt_start, rt=0, bt_adj=0;
1161       if (jcr->JobLevel == L_NONE) {
1162          jcr->JobLevel = L_SINCE;     /* if no other job level set, do it now */
1163       }
1164       if (sscanf(dir->msg, "level = since_utime %s mtime_only=%d",
1165                  buf, &mtime_only) != 2) {
1166          goto bail_out;
1167       }
1168       since_time = str_to_uint64(buf);  /* this is the since time */
1169       Dmsg1(100, "since_time=%d\n", (int)since_time);
1170       char ed1[50], ed2[50];
1171       /*
1172        * Sync clocks by polling him for the time. We take
1173        *   10 samples of his time throwing out the first two.
1174        */
1175       for (int i=0; i<10; i++) {
1176          bt_start = get_current_btime();
1177          bnet_sig(dir, BNET_BTIME);   /* poll for time */
1178          if (bnet_recv(dir) <= 0) {   /* get response */
1179             goto bail_out;
1180          }
1181          if (sscanf(dir->msg, "btime %s", buf) != 1) {
1182             goto bail_out;
1183          }
1184          if (i < 2) {                 /* toss first two results */
1185             continue;
1186          }
1187          his_time = str_to_uint64(buf);
1188          rt = get_current_btime() - bt_start; /* compute round trip time */
1189          Dmsg2(100, "Dirtime=%s FDtime=%s\n", edit_uint64(his_time, ed1),
1190                edit_uint64(bt_start, ed2));
1191          bt_adj +=  bt_start - his_time - rt/2;
1192          Dmsg2(100, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1193       }
1194
1195       bt_adj = bt_adj / 8;            /* compute average time */
1196       Dmsg2(100, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
1197       adj = btime_to_utime(bt_adj);
1198       since_time += adj;              /* adjust for clock difference */
1199       if (adj != 0) {
1200          Jmsg(jcr, M_INFO, 0, _("DIR and FD clocks differ by %d seconds, FD automatically adjusting.\n"), adj);
1201       }
1202       bnet_sig(dir, BNET_EOD);
1203
1204       Dmsg2(100, "adj = %d since_time=%d\n", (int)adj, (int)since_time);
1205       jcr->incremental = 1;           /* set incremental or decremental backup */
1206       jcr->mtime = (time_t)since_time; /* set since time */
1207    } else {
1208       Jmsg1(jcr, M_FATAL, 0, _("Unknown backup level: %s\n"), level);
1209       free_memory(level);
1210       return 0;
1211    }
1212    free_memory(level);
1213    if (buf) {
1214       free_memory(buf);
1215    }
1216    return bnet_fsend(dir, OKlevel);
1217
1218 bail_out:
1219    pm_strcpy(jcr->errmsg, dir->msg);
1220    Jmsg1(jcr, M_FATAL, 0, _("Bad level command: %s\n"), jcr->errmsg);
1221    free_memory(level);
1222    if (buf) {
1223       free_memory(buf);
1224    }
1225    return 0;
1226 }
1227
1228 /*
1229  * Get session parameters from Director -- this is for a Restore command
1230  */
1231 static int session_cmd(JCR *jcr)
1232 {
1233    BSOCK *dir = jcr->dir_bsock;
1234
1235    Dmsg1(100, "SessionCmd: %s", dir->msg);
1236    if (sscanf(dir->msg, sessioncmd, jcr->VolumeName,
1237               &jcr->VolSessionId, &jcr->VolSessionTime,
1238               &jcr->StartFile, &jcr->EndFile,
1239               &jcr->StartBlock, &jcr->EndBlock) != 7) {
1240       pm_strcpy(jcr->errmsg, dir->msg);
1241       Jmsg(jcr, M_FATAL, 0, _("Bad session command: %s"), jcr->errmsg);
1242       return 0;
1243    }
1244
1245    return bnet_fsend(dir, OKsession);
1246 }
1247
1248 /*
1249  * Get address of storage daemon from Director
1250  *
1251  */
1252 static int storage_cmd(JCR *jcr)
1253 {
1254    int stored_port;                /* storage daemon port */
1255    int enable_ssl;                 /* enable ssl to sd */
1256    BSOCK *dir = jcr->dir_bsock;
1257    BSOCK *sd;                         /* storage daemon bsock */
1258
1259    Dmsg1(100, "StorageCmd: %s", dir->msg);
1260    if (sscanf(dir->msg, storaddr, &jcr->stored_addr, &stored_port, &enable_ssl) != 3) {
1261       pm_strcpy(jcr->errmsg, dir->msg);
1262       Jmsg(jcr, M_FATAL, 0, _("Bad storage command: %s"), jcr->errmsg);
1263       return 0;
1264    }
1265    Dmsg3(110, "Open storage: %s:%d ssl=%d\n", jcr->stored_addr, stored_port, enable_ssl);
1266    /* Open command communications with Storage daemon */
1267    /* Try to connect for 1 hour at 10 second intervals */
1268    sd = bnet_connect(jcr, 10, (int)me->SDConnectTimeout, me->heartbeat_interval,
1269                       _("Storage daemon"), jcr->stored_addr, NULL, stored_port, 1);
1270    if (sd == NULL) {
1271       Jmsg(jcr, M_FATAL, 0, _("Failed to connect to Storage daemon: %s:%d\n"),
1272           jcr->stored_addr, stored_port);
1273       Dmsg2(100, "Failed to connect to Storage daemon: %s:%d\n",
1274           jcr->stored_addr, stored_port);
1275       return 0;
1276    }
1277    Dmsg0(110, "Connection OK to SD.\n");
1278
1279    jcr->store_bsock = sd;
1280
1281    bnet_fsend(sd, "Hello Start Job %s\n", jcr->Job);
1282    if (!authenticate_storagedaemon(jcr)) {
1283       Jmsg(jcr, M_FATAL, 0, _("Failed to authenticate Storage daemon.\n"));
1284       return 0;
1285    }
1286    Dmsg0(110, "Authenticated with SD.\n");
1287
1288    /* Send OK to Director */
1289    return bnet_fsend(dir, OKstore);
1290 }
1291
1292
1293 /*
1294  * Do a backup.
1295  */
1296 static int backup_cmd(JCR *jcr)
1297 {
1298    BSOCK *dir = jcr->dir_bsock;
1299    BSOCK *sd = jcr->store_bsock;
1300    int ok = 0;
1301    int SDJobStatus;
1302    char ed1[50], ed2[50];
1303    bool bDoVSS = false;
1304
1305 #if defined(WIN32_VSS)
1306    // capture state here, if client is backed up by multiple directors
1307    // and one enables vss and the other does not then enable_vss can change
1308    // between here and where its evaluated after the job completes.
1309    bDoVSS = g_pVSSClient && enable_vss;
1310    if (bDoVSS) {
1311       /* Run only one at a time */
1312       P(vss_mutex);
1313    }
1314 #endif
1315
1316    set_jcr_job_status(jcr, JS_Blocked);
1317    jcr->JobType = JT_BACKUP;
1318    Dmsg1(100, "begin backup ff=%p\n", jcr->ff);
1319
1320    if (sd == NULL) {
1321       Jmsg(jcr, M_FATAL, 0, _("Cannot contact Storage daemon\n"));
1322       goto cleanup;
1323    }
1324
1325    bnet_fsend(dir, OKbackup);
1326    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1327
1328    /*
1329     * Send Append Open Session to Storage daemon
1330     */
1331    bnet_fsend(sd, append_open);
1332    Dmsg1(110, ">stored: %s", sd->msg);
1333    /*
1334     * Expect to receive back the Ticket number
1335     */
1336    if (bget_msg(sd) >= 0) {
1337       Dmsg1(110, "<stored: %s", sd->msg);
1338       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1339          Jmsg(jcr, M_FATAL, 0, _("Bad response to append open: %s\n"), sd->msg);
1340          goto cleanup;
1341       }
1342       Dmsg1(110, "Got Ticket=%d\n", jcr->Ticket);
1343    } else {
1344       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to open command\n"));
1345       goto cleanup;
1346    }
1347
1348    /*
1349     * Send Append data command to Storage daemon
1350     */
1351    bnet_fsend(sd, append_data, jcr->Ticket);
1352    Dmsg1(110, ">stored: %s", sd->msg);
1353
1354    /*
1355     * Expect to get OK data
1356     */
1357    Dmsg1(110, "<stored: %s", sd->msg);
1358    if (!response(jcr, sd, OK_data, "Append Data")) {
1359       goto cleanup;
1360    }
1361
1362    generate_daemon_event(jcr, "JobStart");
1363
1364 #if defined(WIN32_VSS)
1365    /* START VSS ON WIN 32 */
1366    if (bDoVSS) {
1367       if (g_pVSSClient->InitializeForBackup()) {
1368         /* tell vss which drives to snapshot */
1369         char szWinDriveLetters[27];
1370         if (get_win32_driveletters(jcr->ff, szWinDriveLetters)) {
1371             Jmsg(jcr, M_INFO, 0, _("Generate VSS snapshots. Driver=\"%s\", Drive(s)=\"%s\"\n"), g_pVSSClient->GetDriverName(), szWinDriveLetters);
1372             if (!g_pVSSClient->CreateSnapshots(szWinDriveLetters)) {
1373                Jmsg(jcr, M_WARNING, 0, _("Generate VSS snapshots failed.\n"));
1374                jcr->Errors++;
1375             } else {
1376                /* tell user if snapshot creation of a specific drive failed */
1377                int i;
1378                for (i=0; i < (int)strlen(szWinDriveLetters); i++) {
1379                   if (islower(szWinDriveLetters[i])) {
1380                      Jmsg(jcr, M_WARNING, 0, _("Generate VSS snapshot of drive \"%c:\\\" failed. VSS support is disabled on this drive.\n"), szWinDriveLetters[i]);
1381                      jcr->Errors++;
1382                   }
1383                }
1384                /* inform user about writer states */
1385                for (i=0; i < (int)g_pVSSClient->GetWriterCount(); i++)
1386                   if (g_pVSSClient->GetWriterState(i) < 1) {
1387                      Jmsg(jcr, M_WARNING, 0, _("VSS Writer (PrepareForBackup): %s\n"), g_pVSSClient->GetWriterInfo(i));
1388                      jcr->Errors++;
1389                   }
1390             }
1391         } else {
1392             Jmsg(jcr, M_INFO, 0, _("No drive letters found for generating VSS snapshots.\n"));
1393         }
1394       } else {
1395          berrno be;
1396          Jmsg(jcr, M_WARNING, 0, _("VSS was not initialized properly. VSS support is disabled. ERR=%s\n"), be.strerror());
1397       }
1398    }
1399 #endif
1400
1401    /*
1402     * Send Files to Storage daemon
1403     */
1404    Dmsg1(110, "begin blast ff=%p\n", (FF_PKT *)jcr->ff);
1405    if (!blast_data_to_storage_daemon(jcr, NULL)) {
1406       set_jcr_job_status(jcr, JS_ErrorTerminated);
1407       bnet_suppress_error_messages(sd, 1);
1408       bget_msg(sd);                   /* Read final response from append_data */
1409       Dmsg0(110, "Error in blast_data.\n");
1410    } else {
1411       set_jcr_job_status(jcr, JS_Terminated);
1412
1413       if (jcr->JobStatus != JS_Terminated) {
1414          bnet_suppress_error_messages(sd, 1);
1415          goto cleanup;                /* bail out now */
1416       }
1417       /*
1418        * Expect to get response to append_data from Storage daemon
1419        */
1420       if (!response(jcr, sd, OK_append, "Append Data")) {
1421          set_jcr_job_status(jcr, JS_ErrorTerminated);
1422          goto cleanup;
1423       }
1424
1425       /*
1426        * Send Append End Data to Storage daemon
1427        */
1428       bnet_fsend(sd, append_end, jcr->Ticket);
1429       /* Get end OK */
1430       if (!response(jcr, sd, OK_end, "Append End")) {
1431          set_jcr_job_status(jcr, JS_ErrorTerminated);
1432          goto cleanup;
1433       }
1434
1435       /*
1436        * Send Append Close to Storage daemon
1437        */
1438       bnet_fsend(sd, append_close, jcr->Ticket);
1439       while (bget_msg(sd) >= 0) {    /* stop on signal or error */
1440          if (sscanf(sd->msg, OK_close, &SDJobStatus) == 1) {
1441             ok = 1;
1442             Dmsg2(200, "SDJobStatus = %d %c\n", SDJobStatus, (char)SDJobStatus);
1443          }
1444       }
1445       if (!ok) {
1446          Jmsg(jcr, M_FATAL, 0, _("Append Close with SD failed.\n"));
1447          goto cleanup;
1448       }
1449       if (SDJobStatus != JS_Terminated) {
1450          Jmsg(jcr, M_FATAL, 0, _("Bad status %d returned from Storage Daemon.\n"),
1451             SDJobStatus);
1452       }
1453    }
1454
1455 cleanup:
1456 #if defined(WIN32_VSS)
1457    /* STOP VSS ON WIN 32 */
1458    /* tell vss to close the backup session */
1459    if (bDoVSS) {
1460       if (g_pVSSClient->CloseBackup()) {
1461          /* inform user about writer states */
1462          for (int i=0; i<(int)g_pVSSClient->GetWriterCount(); i++) {
1463             int msg_type = M_INFO;
1464             if (g_pVSSClient->GetWriterState(i) < 1) {
1465                msg_type = M_WARNING;
1466                jcr->Errors++;
1467             }
1468             Jmsg(jcr, msg_type, 0, _("VSS Writer (BackupComplete): %s\n"), g_pVSSClient->GetWriterInfo(i));
1469          }
1470       }
1471       V(vss_mutex);
1472    }
1473 #endif
1474
1475    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1476       edit_uint64(jcr->ReadBytes, ed1),
1477       edit_uint64(jcr->JobBytes, ed2), jcr->Errors, (int)bDoVSS,
1478       jcr->pki_encrypt);
1479    Dmsg1(110, "End FD msg: %s\n", dir->msg);
1480
1481    return 0;                          /* return and stop command loop */
1482 }
1483
1484 /*
1485  * Do a Verify for Director
1486  *
1487  */
1488 static int verify_cmd(JCR *jcr)
1489 {
1490    BSOCK *dir = jcr->dir_bsock;
1491    BSOCK *sd  = jcr->store_bsock;
1492    char level[100], ed1[50], ed2[50];
1493
1494    jcr->JobType = JT_VERIFY;
1495    if (sscanf(dir->msg, verifycmd, level) != 1) {
1496       bnet_fsend(dir, _("2994 Bad verify command: %s\n"), dir->msg);
1497       return 0;
1498    }
1499
1500    if (strcasecmp(level, "init") == 0) {
1501       jcr->JobLevel = L_VERIFY_INIT;
1502    } else if (strcasecmp(level, "catalog") == 0){
1503       jcr->JobLevel = L_VERIFY_CATALOG;
1504    } else if (strcasecmp(level, "volume") == 0){
1505       jcr->JobLevel = L_VERIFY_VOLUME_TO_CATALOG;
1506    } else if (strcasecmp(level, "data") == 0){
1507       jcr->JobLevel = L_VERIFY_DATA;
1508    } else if (strcasecmp(level, "disk_to_catalog") == 0) {
1509       jcr->JobLevel = L_VERIFY_DISK_TO_CATALOG;
1510    } else {
1511       bnet_fsend(dir, _("2994 Bad verify level: %s\n"), dir->msg);
1512       return 0;
1513    }
1514
1515    bnet_fsend(dir, OKverify);
1516
1517    generate_daemon_event(jcr, "JobStart");
1518
1519    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1520
1521    switch (jcr->JobLevel) {
1522    case L_VERIFY_INIT:
1523    case L_VERIFY_CATALOG:
1524       do_verify(jcr);
1525       break;
1526    case L_VERIFY_VOLUME_TO_CATALOG:
1527       if (!open_sd_read_session(jcr)) {
1528          return 0;
1529       }
1530       start_dir_heartbeat(jcr);
1531       do_verify_volume(jcr);
1532       stop_dir_heartbeat(jcr);
1533       /*
1534        * Send Close session command to Storage daemon
1535        */
1536       bnet_fsend(sd, read_close, jcr->Ticket);
1537       Dmsg1(130, "bfiled>stored: %s", sd->msg);
1538
1539       /* ****FIXME**** check response */
1540       bget_msg(sd);                      /* get OK */
1541
1542       /* Inform Storage daemon that we are done */
1543       bnet_sig(sd, BNET_TERMINATE);
1544
1545       break;
1546    case L_VERIFY_DISK_TO_CATALOG:
1547       do_verify(jcr);
1548       break;
1549    default:
1550       bnet_fsend(dir, _("2994 Bad verify level: %s\n"), dir->msg);
1551       return 0;
1552    }
1553
1554    bnet_sig(dir, BNET_EOD);
1555
1556    /* Send termination status back to Dir */
1557    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1558       edit_uint64(jcr->ReadBytes, ed1),
1559       edit_uint64(jcr->JobBytes, ed2), jcr->Errors, 0,
1560       jcr->pki_encrypt);
1561    Dmsg1(110, "End FD msg: %s\n", dir->msg);
1562
1563    /* Inform Director that we are done */
1564    bnet_sig(dir, BNET_TERMINATE);
1565    return 0;                          /* return and terminate command loop */
1566 }
1567
1568 /*
1569  * Do a Restore for Director
1570  *
1571  */
1572 static int restore_cmd(JCR *jcr)
1573 {
1574    BSOCK *dir = jcr->dir_bsock;
1575    BSOCK *sd = jcr->store_bsock;
1576    POOLMEM *where;
1577    int prefix_links;
1578    char replace;
1579    char ed1[50], ed2[50];
1580
1581    /*
1582     * Scan WHERE (base directory for restore) from command
1583     */
1584    Dmsg0(150, "restore command\n");
1585    /* Pickup where string */
1586    where = get_memory(dir->msglen+1);
1587    *where = 0;
1588
1589    if (sscanf(dir->msg, restorecmd, &replace, &prefix_links, where) != 3) {
1590       if (sscanf(dir->msg, restorecmdR, &replace, &prefix_links, where) != 3){
1591          if (sscanf(dir->msg, restorecmd1, &replace, &prefix_links) != 2) {
1592             pm_strcpy(jcr->errmsg, dir->msg);
1593             Jmsg(jcr, M_FATAL, 0, _("Bad replace command. CMD=%s\n"), jcr->errmsg);
1594             return 0;
1595          }
1596          *where = 0;
1597       }
1598       jcr->where_use_regexp = true;
1599    }
1600    /* Turn / into nothing */
1601    if (IsPathSeparator(where[0]) && where[1] == '\0') {
1602       where[0] = '\0';
1603    }
1604
1605    Dmsg2(150, "Got replace %c, where=%s\n", replace, where);
1606    unbash_spaces(where);
1607    jcr->where = bstrdup(where);
1608
1609    if (jcr->where_use_regexp) {
1610       jcr->where_bregexp = get_bregexps(jcr->where);
1611       if (!jcr->where_bregexp) {
1612          Jmsg(jcr, M_FATAL, 0, _("Bad where regexp. where=%s\n"), jcr->where);
1613          free_pool_memory(where);
1614          return 0;
1615       }
1616    }
1617    free_pool_memory(where);
1618    jcr->replace = replace;
1619    jcr->prefix_links = prefix_links;
1620
1621    bnet_fsend(dir, OKrestore);
1622    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1623
1624    jcr->JobType = JT_RESTORE;
1625
1626    set_jcr_job_status(jcr, JS_Blocked);
1627
1628    if (!open_sd_read_session(jcr)) {
1629       set_jcr_job_status(jcr, JS_ErrorTerminated);
1630       goto bail_out;
1631    }
1632
1633    set_jcr_job_status(jcr, JS_Running);
1634
1635    /*
1636     * Do restore of files and data
1637     */
1638    start_dir_heartbeat(jcr);
1639    generate_daemon_event(jcr, "JobStart");
1640    do_restore(jcr);
1641    stop_dir_heartbeat(jcr);
1642
1643    set_jcr_job_status(jcr, JS_Terminated);
1644    if (jcr->JobStatus != JS_Terminated) {
1645       bnet_suppress_error_messages(sd, 1);
1646    }
1647
1648    /*
1649     * Send Close session command to Storage daemon
1650     */
1651    bnet_fsend(sd, read_close, jcr->Ticket);
1652    Dmsg1(130, "bfiled>stored: %s", sd->msg);
1653
1654    bget_msg(sd);                      /* get OK */
1655
1656    /* Inform Storage daemon that we are done */
1657    bnet_sig(sd, BNET_TERMINATE);
1658
1659 bail_out:
1660
1661    if (jcr->Errors) {
1662       set_jcr_job_status(jcr, JS_ErrorTerminated);
1663    }
1664    /* Send termination status back to Dir */
1665    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles,
1666       edit_uint64(jcr->ReadBytes, ed1),
1667       edit_uint64(jcr->JobBytes, ed2), jcr->Errors, 0,
1668       jcr->pki_encrypt);
1669    Dmsg1(110, "End FD msg: %s\n", dir->msg);
1670
1671    /* Inform Director that we are done */
1672    bnet_sig(dir, BNET_TERMINATE);
1673
1674    Dmsg0(130, "Done in job.c\n");
1675    return 0;                          /* return and terminate command loop */
1676 }
1677
1678 static int open_sd_read_session(JCR *jcr)
1679 {
1680    BSOCK *sd = jcr->store_bsock;
1681
1682    if (!sd) {
1683       Jmsg(jcr, M_FATAL, 0, _("Improper calling sequence.\n"));
1684       return 0;
1685    }
1686    Dmsg4(120, "VolSessId=%ld VolsessT=%ld SF=%ld EF=%ld\n",
1687       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile);
1688    Dmsg2(120, "JobId=%d vol=%s\n", jcr->JobId, "DummyVolume");
1689    /*
1690     * Open Read Session with Storage daemon
1691     */
1692    bnet_fsend(sd, read_open, "DummyVolume",
1693       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile,
1694       jcr->StartBlock, jcr->EndBlock);
1695    Dmsg1(110, ">stored: %s", sd->msg);
1696
1697    /*
1698     * Get ticket number
1699     */
1700    if (bget_msg(sd) >= 0) {
1701       Dmsg1(110, "bfiled<stored: %s", sd->msg);
1702       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1703          Jmsg(jcr, M_FATAL, 0, _("Bad response to SD read open: %s\n"), sd->msg);
1704          return 0;
1705       }
1706       Dmsg1(110, "bfiled: got Ticket=%d\n", jcr->Ticket);
1707    } else {
1708       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to read open command\n"));
1709       return 0;
1710    }
1711
1712    if (!send_bootstrap_file(jcr)) {
1713       return 0;
1714    }
1715
1716    /*
1717     * Start read of data with Storage daemon
1718     */
1719    bnet_fsend(sd, read_data, jcr->Ticket);
1720    Dmsg1(110, ">stored: %s", sd->msg);
1721
1722    /*
1723     * Get OK data
1724     */
1725    if (!response(jcr, sd, OK_data, "Read Data")) {
1726       return 0;
1727    }
1728    return 1;
1729 }
1730
1731 /*
1732  * Destroy the Job Control Record and associated
1733  * resources (sockets).
1734  */
1735 static void filed_free_jcr(JCR *jcr)
1736 {
1737    if (jcr->store_bsock) {
1738       bnet_close(jcr->store_bsock);
1739    }
1740    free_bootstrap(jcr);
1741    if (jcr->last_fname) {
1742       free_pool_memory(jcr->last_fname);
1743    }
1744    free_runscripts(jcr->RunScripts);
1745    delete jcr->RunScripts;
1746
1747    return;
1748 }
1749
1750 /*
1751  * Get response from Storage daemon to a command we
1752  * sent. Check that the response is OK.
1753  *
1754  *  Returns: 0 on failure
1755  *           1 on success
1756  */
1757 int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd)
1758 {
1759    if (sd->errors) {
1760       return 0;
1761    }
1762    if (bget_msg(sd) > 0) {
1763       Dmsg0(110, sd->msg);
1764       if (strcmp(sd->msg, resp) == 0) {
1765          return 1;
1766       }
1767    }
1768    if (job_canceled(jcr)) {
1769       return 0;                       /* if canceled avoid useless error messages */
1770    }
1771    if (is_bnet_error(sd)) {
1772       Jmsg2(jcr, M_FATAL, 0, _("Comm error with SD. bad response to %s. ERR=%s\n"),
1773          cmd, bnet_strerror(sd));
1774    } else {
1775       Jmsg3(jcr, M_FATAL, 0, _("Bad response to %s command. Wanted %s, got %s\n"),
1776          cmd, resp, sd->msg);
1777    }
1778    return 0;
1779 }
1780
1781 static int send_bootstrap_file(JCR *jcr)
1782 {
1783    FILE *bs;
1784    char buf[2000];
1785    BSOCK *sd = jcr->store_bsock;
1786    const char *bootstrap = "bootstrap\n";
1787    int stat = 0;
1788
1789    Dmsg1(400, "send_bootstrap_file: %s\n", jcr->RestoreBootstrap);
1790    if (!jcr->RestoreBootstrap) {
1791       return 1;
1792    }
1793    bs = fopen(jcr->RestoreBootstrap, "rb");
1794    if (!bs) {
1795       berrno be;
1796       Jmsg(jcr, M_FATAL, 0, _("Could not open bootstrap file %s: ERR=%s\n"),
1797          jcr->RestoreBootstrap, be.strerror());
1798       set_jcr_job_status(jcr, JS_ErrorTerminated);
1799       goto bail_out;
1800    }
1801    sd->msglen = pm_strcpy(sd->msg, bootstrap);
1802    bnet_send(sd);
1803    while (fgets(buf, sizeof(buf), bs)) {
1804       sd->msglen = Mmsg(sd->msg, "%s", buf);
1805       bnet_send(sd);
1806    }
1807    bnet_sig(sd, BNET_EOD);
1808    fclose(bs);
1809    if (!response(jcr, sd, OKSDbootstrap, "Bootstrap")) {
1810       set_jcr_job_status(jcr, JS_ErrorTerminated);
1811       goto bail_out;
1812    }
1813    stat = 1;
1814
1815 bail_out:
1816    free_bootstrap(jcr);
1817    return stat;
1818 }