]> git.sur5r.net Git - bacula/bacula/blob - bacula/src/filed/job.c
mtimeonly and keepatime in Include + first cut disk seeking + test win32 installer
[bacula/bacula] / bacula / src / filed / job.c
1 /*
2  *  Bacula File Daemon Job processing
3  *
4  *    Kern Sibbald, October MM
5  *
6  *   Version $Id$
7  *
8  */
9 /*
10    Copyright (C) 2000-2004 Kern Sibbald and John Walker
11
12    This program is free software; you can redistribute it and/or
13    modify it under the terms of the GNU General Public License as
14    published by the Free Software Foundation; either version 2 of
15    the License, or (at your option) any later version.
16
17    This program is distributed in the hope that it will be useful,
18    but WITHOUT ANY WARRANTY; without even the implied warranty of
19    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
20    General Public License for more details.
21
22    You should have received a copy of the GNU General Public
23    License along with this program; if not, write to the Free
24    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
25    MA 02111-1307, USA.
26
27  */
28
29 #include "bacula.h"
30 #include "filed.h"
31
32 extern char my_name[];
33 extern CLIENT *me;                    /* our client resource */
34                         
35 /* Imported functions */
36 extern int status_cmd(JCR *jcr);
37                                    
38 /* Forward referenced functions */
39 static int backup_cmd(JCR *jcr);
40 static int bootstrap_cmd(JCR *jcr);
41 static int cancel_cmd(JCR *jcr);
42 static int setdebug_cmd(JCR *jcr);
43 static int estimate_cmd(JCR *jcr);
44 static int exclude_cmd(JCR *jcr);
45 static int hello_cmd(JCR *jcr);
46 static int job_cmd(JCR *jcr);
47 static int include_cmd(JCR *jcr);
48 static int level_cmd(JCR *jcr);
49 static int verify_cmd(JCR *jcr);
50 static int restore_cmd(JCR *jcr);
51 static int storage_cmd(JCR *jcr);
52 static int session_cmd(JCR *jcr);
53 static int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd);
54 static void filed_free_jcr(JCR *jcr);
55 static int open_sd_read_session(JCR *jcr);
56 static int send_bootstrap_file(JCR *jcr);
57 static int runbefore_cmd(JCR *jcr);
58 static int runafter_cmd(JCR *jcr);
59 static int run_cmd(JCR *jcr, char *cmd, const char *name);
60
61
62 /* Exported functions */
63
64 struct s_cmds {
65    char *cmd;
66    int (*func)(JCR *);
67 };
68
69 /*  
70  * The following are the recognized commands from the Director. 
71  */
72 static struct s_cmds cmds[] = {
73    {"backup",       backup_cmd},
74    {"cancel",       cancel_cmd},
75    {"setdebug=",    setdebug_cmd},
76    {"estimate",     estimate_cmd},
77    {"exclude",      exclude_cmd},
78    {"Hello",        hello_cmd},
79    {"include",      include_cmd},
80    {"JobId=",       job_cmd},
81    {"level = ",     level_cmd},
82    {"restore",      restore_cmd},
83    {"session",      session_cmd},
84    {"status",       status_cmd},
85    {"storage ",     storage_cmd},
86    {"verify",       verify_cmd},
87    {"bootstrap",    bootstrap_cmd},
88    {"RunBeforeJob", runbefore_cmd},
89    {"RunAfterJob",  runafter_cmd},
90    {NULL,       NULL}                  /* list terminator */
91 };
92
93 /* Commands received from director that need scanning */
94 static char jobcmd[]      = "JobId=%d Job=%127s SDid=%d SDtime=%d Authorization=%100s";
95 static char storaddr[]    = "storage address=%s port=%d ssl=%d\n";
96 static char sessioncmd[]  = "session %127s %ld %ld %ld %ld %ld %ld\n";
97 static char restorecmd[]  = "restore replace=%c prelinks=%d where=%s\n";
98 static char restorecmd1[] = "restore replace=%c prelinks=%d where=\n";
99 static char verifycmd[]   = "verify level=%30s\n";
100 static char estimatecmd[] = "estimate listing=%d\n";
101 static char runbefore[]   = "RunBeforeJob %s\n";
102 static char runafter[]    = "RunAfterJob %s\n";
103
104 /* Responses sent to Director */
105 static char errmsg[]      = "2999 Invalid command\n";
106 static char no_auth[]     = "2998 No Authorization\n";
107 static char OKinc[]       = "2000 OK include\n";
108 static char OKest[]       = "2000 OK estimate files=%u bytes=%s\n";
109 static char OKexc[]       = "2000 OK exclude\n";
110 static char OKlevel[]     = "2000 OK level\n";
111 static char OKbackup[]    = "2000 OK backup\n";
112 static char OKbootstrap[] = "2000 OK bootstrap\n";
113 static char OKverify[]    = "2000 OK verify\n";
114 static char OKrestore[]   = "2000 OK restore\n";
115 static char OKsession[]   = "2000 OK session\n";
116 static char OKstore[]     = "2000 OK storage\n";
117 static char OKjob[]       = "2000 OK Job %s,%s,%s";
118 static char OKsetdebug[]  = "2000 OK setdebug=%d\n";
119 static char BADjob[]      = "2901 Bad Job\n";
120 static char EndJob[]      = "2800 End Job TermCode=%d JobFiles=%u ReadBytes=%s JobBytes=%s Errors=%u\n";
121 static char OKRunBefore[] = "2000 OK RunBefore\n";
122 static char OKRunAfter[]  = "2000 OK RunAfter\n";
123
124 /* Responses received from Storage Daemon */
125 static char OK_end[]       = "3000 OK end\n";
126 static char OK_close[]     = "3000 OK close Status = %d\n";
127 static char OK_open[]      = "3000 OK open ticket = %d\n";
128 static char OK_data[]      = "3000 OK data\n";
129 static char OK_append[]    = "3000 OK append data\n";
130 static char OKSDbootstrap[] = "3000 OK bootstrap\n";
131
132
133 /* Commands sent to Storage Daemon */
134 static char append_open[]  = "append open session\n";
135 static char append_data[]  = "append data %d\n";
136 static char append_end[]   = "append end session %d\n";
137 static char append_close[] = "append close session %d\n";
138 static char read_open[]    = "read open session = %s %ld %ld %ld %ld %ld %ld\n";
139 static char read_data[]    = "read data %d\n";
140 static char read_close[]   = "read close session %d\n";
141
142 /* 
143  * Accept requests from a Director
144  *
145  * NOTE! We are running as a separate thread
146  *
147  * Send output one line
148  * at a time followed by a zero length transmission.
149  *
150  * Return when the connection is terminated or there
151  * is an error.
152  *
153  * Basic task here is:
154  *   Authenticate Director (during Hello command).
155  *   Accept commands one at a time from the Director
156  *     and execute them.
157  *
158  */
159 void *handle_client_request(void *dirp)
160 {
161    int i, found, quit;
162    JCR *jcr;
163    BSOCK *dir = (BSOCK *)dirp;
164
165    jcr = new_jcr(sizeof(JCR), filed_free_jcr); /* create JCR */
166    jcr->dir_bsock = dir;
167    jcr->ff = init_find_files();
168    jcr->start_time = time(NULL);
169    jcr->last_fname = get_pool_memory(PM_FNAME);
170    jcr->last_fname[0] = 0;
171    jcr->client_name = get_memory(strlen(my_name) + 1);
172    pm_strcpy(&jcr->client_name, my_name);
173    dir->jcr = jcr;
174    enable_backup_privileges(NULL, 1 /* ignore_errors */);
175
176    /**********FIXME******* add command handler error code */
177
178    for (quit=0; !quit;) {
179
180       /* Read command */
181       if (bnet_recv(dir) < 0) {
182          break;                       /* connection terminated */
183       }
184       dir->msg[dir->msglen] = 0;
185       Dmsg1(100, "<dird: %s", dir->msg);
186       found = FALSE;
187       for (i=0; cmds[i].cmd; i++) {
188          if (strncmp(cmds[i].cmd, dir->msg, strlen(cmds[i].cmd)) == 0) {
189             if (!jcr->authenticated && cmds[i].func != hello_cmd) {
190                bnet_fsend(dir, no_auth);
191                break;
192             }
193             found = TRUE;                /* indicate command found */
194             if (!cmds[i].func(jcr)) {    /* do command */
195                quit = TRUE;              /* error or fully terminated,  get out */
196                Dmsg0(20, "Command error or Job done.\n");
197             }
198             break;
199          }
200       }
201       if (!found) {                   /* command not found */
202          bnet_fsend(dir, errmsg);
203          quit = TRUE;
204          break;
205       }
206    }
207
208    /* Inform Storage daemon that we are done */
209    if (jcr->store_bsock) {
210       bnet_sig(jcr->store_bsock, BNET_TERMINATE);
211    }
212
213    if (jcr->RunAfterJob && !job_canceled(jcr)) {
214       run_cmd(jcr, jcr->RunAfterJob, "ClientRunAfterJob");
215    }
216
217    /* Inform Director that we are done */
218    bnet_sig(dir, BNET_TERMINATE);
219
220    Dmsg0(100, "Calling term_find_files\n");
221    term_find_files((FF_PKT *)jcr->ff);
222    Dmsg0(100, "Done with term_find_files\n");
223    free_jcr(jcr);                     /* destroy JCR record */
224    Dmsg0(100, "Done with free_jcr\n");
225    return NULL;
226 }
227
228 /*
229  * Hello from Director he must identify himself and provide his 
230  *  password.
231  */
232 static int hello_cmd(JCR *jcr)
233 {
234    Dmsg0(120, "Calling Authenticate\n");
235    if (!authenticate_director(jcr)) {
236       return 0;
237    }
238    Dmsg0(120, "OK Authenticate\n");
239    jcr->authenticated = TRUE;
240    return 1;
241 }
242
243 /*
244  * Cancel a Job
245  */
246 static int cancel_cmd(JCR *jcr)
247 {
248    BSOCK *dir = jcr->dir_bsock;
249    char Job[MAX_NAME_LENGTH];
250    JCR *cjcr;
251
252    if (sscanf(dir->msg, "cancel Job=%127s", Job) == 1) {
253       if (!(cjcr=get_jcr_by_full_name(Job))) {
254          bnet_fsend(dir, "2901 Job %s not found.\n", Job);
255       } else {
256          if (cjcr->store_bsock) {
257             P(cjcr->mutex);
258             cjcr->store_bsock->timed_out = 1;
259             cjcr->store_bsock->terminated = 1;
260 #if !defined(HAVE_CYGWIN) && !defined(HAVE_WIN32)
261             pthread_kill(cjcr->my_thread_id, TIMEOUT_SIGNAL);
262 #endif
263             V(cjcr->mutex);
264          }
265          set_jcr_job_status(cjcr, JS_Canceled);
266          free_jcr(cjcr);
267          bnet_fsend(dir, _("2001 Job %s marked to be canceled.\n"), Job);
268       }
269    } else {
270       bnet_fsend(dir, _("2902 Error scanning cancel command.\n"));
271    }
272    bnet_sig(dir, BNET_EOD);
273    return 1;
274 }
275
276
277 /*
278  * Set debug level as requested by the Director
279  *
280  */
281 static int setdebug_cmd(JCR *jcr)
282 {
283    BSOCK *dir = jcr->dir_bsock;
284    int level;
285
286    Dmsg1(110, "setdebug_cmd: %s", dir->msg);
287    if (sscanf(dir->msg, "setdebug=%d", &level) != 1 || level < 0) {
288       pm_strcpy(&jcr->errmsg, dir->msg);
289       bnet_fsend(dir, "2991 Bad setdebug command: %s\n", jcr->errmsg);
290       return 0;   
291    }
292    debug_level = level;
293    return bnet_fsend(dir, OKsetdebug, level);
294 }
295
296
297 static int estimate_cmd(JCR *jcr)
298 {
299    BSOCK *dir = jcr->dir_bsock;
300    char ed2[50];
301
302    if (sscanf(dir->msg, estimatecmd, &jcr->listing) != 1) {
303       pm_strcpy(&jcr->errmsg, dir->msg);
304       Jmsg(jcr, M_FATAL, 0, _("Bad estimate command: %s"), jcr->errmsg);
305       bnet_fsend(dir, "2992 Bad estimate command.\n");
306       return 0;
307    }
308    make_estimate(jcr);
309    bnet_fsend(dir, OKest, jcr->num_files_examined, 
310       edit_uint64_with_commas(jcr->JobBytes, ed2));
311    bnet_sig(dir, BNET_EOD);
312    return 1;
313 }
314
315 /*
316  * Get JobId and Storage Daemon Authorization key from Director
317  */
318 static int job_cmd(JCR *jcr)
319 {
320    BSOCK *dir = jcr->dir_bsock;
321    POOLMEM *sd_auth_key;
322
323    sd_auth_key = get_memory(dir->msglen);
324    if (sscanf(dir->msg, jobcmd,  &jcr->JobId, jcr->Job,  
325               &jcr->VolSessionId, &jcr->VolSessionTime,
326               sd_auth_key) != 5) {
327       pm_strcpy(&jcr->errmsg, dir->msg);
328       Jmsg(jcr, M_FATAL, 0, _("Bad Job Command: %s"), jcr->errmsg);
329       bnet_fsend(dir, BADjob);
330       free_pool_memory(sd_auth_key);
331       return 0;
332    }
333    jcr->sd_auth_key = bstrdup(sd_auth_key);
334    free_pool_memory(sd_auth_key);
335    Dmsg2(120, "JobId=%d Auth=%s\n", jcr->JobId, jcr->sd_auth_key);
336    return bnet_fsend(dir, OKjob, HOST_OS, DISTNAME, DISTVER);
337 }
338
339 static int runbefore_cmd(JCR *jcr)
340 {
341    int stat;
342    BSOCK *dir = jcr->dir_bsock;
343    POOLMEM *cmd = get_memory(dir->msglen+1);
344
345    Dmsg1(100, "runbefore_cmd: %s", dir->msg);
346    if (sscanf(dir->msg, runbefore, cmd) != 1) {
347       pm_strcpy(&jcr->errmsg, dir->msg);
348       Jmsg1(jcr, M_FATAL, 0, _("Bad RunBeforeJob command: %s\n"), jcr->errmsg);
349       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
350       free_memory(cmd);
351       return 0;
352    }
353    unbash_spaces(cmd);
354
355    /* Run the command now */
356    stat = run_cmd(jcr, cmd, "ClientRunBeforeJob");
357    free_memory(cmd);
358    if (stat) {
359       bnet_fsend(dir, OKRunBefore);
360       return 1;
361    } else {
362       bnet_fsend(dir, "2905 Bad RunBeforeJob command.\n");
363       return 0;
364    }
365 }
366
367 static int runafter_cmd(JCR *jcr)
368 {
369    BSOCK *dir = jcr->dir_bsock;
370    POOLMEM *msg = get_memory(dir->msglen+1);
371
372    Dmsg1(100, "runafter_cmd: %s", dir->msg);
373    if (sscanf(dir->msg, runafter, msg) != 1) {
374       pm_strcpy(&jcr->errmsg, dir->msg);
375       Jmsg1(jcr, M_FATAL, 0, _("Bad RunAfter command: %s\n"), jcr->errmsg);
376       bnet_fsend(dir, "2905 Bad RunAfterJob command.\n");
377       free_memory(msg);
378       return 0;
379    }
380    unbash_spaces(msg);
381    if (jcr->RunAfterJob) {
382       free_pool_memory(jcr->RunAfterJob);
383    }
384    jcr->RunAfterJob = get_pool_memory(PM_FNAME);
385    pm_strcpy(&jcr->RunAfterJob, msg);
386    free_pool_memory(msg);
387    return bnet_fsend(dir, OKRunAfter);
388 }
389
390 static int run_cmd(JCR *jcr, char *cmd, const char *name)
391 {
392    POOLMEM *ecmd = get_pool_memory(PM_FNAME);
393    int status;
394    BPIPE *bpipe;
395    char line[MAXSTRING];
396    
397    ecmd = edit_job_codes(jcr, ecmd, cmd, "");
398    bpipe = open_bpipe(ecmd, 0, "r");
399    free_pool_memory(ecmd);
400    while (fgets(line, sizeof(line), bpipe->rfd)) {
401       Jmsg(jcr, M_INFO, 0, _("%s: %s"), name, line);
402    }
403    status = close_bpipe(bpipe);
404    if (status != 0) {
405       Jmsg(jcr, M_FATAL, 0, _("%s returned non-zero status=%d\n"), name,
406          status);
407       set_jcr_job_status(jcr, JS_FatalError);
408       return 0;
409    }
410    return 1;
411 }
412
413
414 #define INC_LIST 0
415 #define EXC_LIST 1
416
417 static void add_fname_to_list(JCR *jcr, char *fname, int list)
418 {
419    char *p, *q;
420    BPIPE *bpipe;
421    POOLMEM *fn;
422    FILE *ffd;
423    char buf[1000];
424    int optlen;
425    int stat;
426
427    /* Skip leading options -- currently ignored */
428    for (p=fname; *p && *p != ' '; p++)
429       { }
430    /* Skip spaces, and q points to first space */
431    for (q=NULL; *p && *p == ' '; p++) {
432       if (!q) {
433          q = p;
434       }
435    }
436
437    switch (*p) {
438    case '|':
439       p++;                            /* skip over | */
440       fn = get_pool_memory(PM_FNAME);
441       fn = edit_job_codes(jcr, fn, p, "");
442       bpipe = open_bpipe(fn, 0, "r");
443       free_pool_memory(fn);
444       if (!bpipe) {
445          Jmsg(jcr, M_FATAL, 0, _("Cannot run program: %s. ERR=%s\n"),
446             p, strerror(errno));
447          return;
448       }
449       /* Copy File options */
450       if (list == INC_LIST) {
451          *q = 0;                      /* terminate options */
452          strcpy(buf, fname);
453          strcat(buf, " ");
454          optlen = strlen(buf);
455       } else {
456          optlen = 0;
457       }
458       while (fgets(buf+optlen, sizeof(buf)-optlen, bpipe->rfd)) {
459          strip_trailing_junk(buf);
460          if (list == INC_LIST) {
461             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
462          } else {
463             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
464          }
465       }
466       if ((stat=close_bpipe(bpipe)) != 0) {
467          Jmsg(jcr, M_FATAL, 0, _("Error running program: %s. RtnStat=%d ERR=%s\n"),
468             p, stat, strerror(errno));
469          return;
470       }
471       break;
472    case '<':
473       p++;                      /* skip over < */
474       if ((ffd = fopen(p, "r")) == NULL) {
475          Jmsg(jcr, M_FATAL, 0, _("Cannot open %s file: %s. ERR=%s\n"),
476             list==INC_LIST?"included":"excluded", p, strerror(errno));
477          return;
478       }
479       /* Copy File options */
480       if (list == INC_LIST) {
481          *q = 0;                      /* terminate options */
482          strcpy(buf, fname);
483          strcat(buf, " ");
484          optlen = strlen(buf);
485       } else {
486          optlen = 0;
487       }
488       while (fgets(buf+optlen, sizeof(buf)-optlen, ffd)) {
489          strip_trailing_junk(buf);
490          if (list == INC_LIST) {
491             add_fname_to_include_list((FF_PKT *)jcr->ff, 1, buf);
492          } else {
493             add_fname_to_exclude_list((FF_PKT *)jcr->ff, buf);
494          }
495       }
496       fclose(ffd);
497       break;
498    default:
499       if (list == INC_LIST) {
500          add_fname_to_include_list((FF_PKT *)jcr->ff, 1, fname);
501       } else {
502          add_fname_to_exclude_list((FF_PKT *)jcr->ff, p);
503       }
504       break;
505    }
506 }
507
508 /* 
509  * 
510  * Get list of files/directories to include from Director
511  *
512  */
513 static int include_cmd(JCR *jcr)
514 {
515    BSOCK *dir = jcr->dir_bsock;
516
517    while (bnet_recv(dir) >= 0) {
518       dir->msg[dir->msglen] = 0;
519       strip_trailing_junk(dir->msg);
520       Dmsg1(010, "include file: %s\n", dir->msg);
521       add_fname_to_list(jcr, dir->msg, INC_LIST);
522    }
523
524    return bnet_fsend(dir, OKinc);
525 }
526
527 /*
528  * Get list of files to exclude from Director
529  *
530  */
531 static int exclude_cmd(JCR *jcr)
532 {
533    BSOCK *dir = jcr->dir_bsock;
534
535    while (bnet_recv(dir) >= 0) {
536       dir->msg[dir->msglen] = 0;
537       strip_trailing_junk(dir->msg);
538       add_fname_to_list(jcr, dir->msg, EXC_LIST);
539       Dmsg1(110, "<dird: exclude file %s\n", dir->msg);
540    }
541
542    return bnet_fsend(dir, OKexc);
543 }
544
545
546 static int bootstrap_cmd(JCR *jcr)
547 {
548    BSOCK *dir = jcr->dir_bsock;
549    POOLMEM *fname = get_pool_memory(PM_FNAME);
550    FILE *bs;
551
552    if (jcr->RestoreBootstrap) {
553       unlink(jcr->RestoreBootstrap);
554       free_pool_memory(jcr->RestoreBootstrap);
555    }
556    Mmsg(&fname, "%s/%s.%s.bootstrap", me->working_directory, me->hdr.name,
557       jcr->Job);
558    Dmsg1(400, "bootstrap=%s\n", fname);
559    jcr->RestoreBootstrap = fname;
560    bs = fopen(fname, "a+");           /* create file */
561    if (!bs) {
562       /* 
563        * Suck up what he is sending to us so that he will then
564        *   read our error message.
565        */
566       while (bnet_recv(dir) >= 0)
567         {  }
568
569       Jmsg(jcr, M_FATAL, 0, _("Could not create bootstrap file %s: ERR=%s\n"),
570          jcr->RestoreBootstrap, strerror(errno));
571       free_pool_memory(jcr->RestoreBootstrap);
572       jcr->RestoreBootstrap = NULL;
573       set_jcr_job_status(jcr, JS_ErrorTerminated);
574       return 0;
575    }
576
577    while (bnet_recv(dir) >= 0) {
578        Dmsg1(200, "filed<dird: bootstrap file %s\n", dir->msg);
579        fputs(dir->msg, bs);
580    }
581    fclose(bs);
582
583    return bnet_fsend(dir, OKbootstrap);
584 }
585
586
587 /*
588  * Get backup level from Director
589  *
590  */
591 static int level_cmd(JCR *jcr)
592 {
593    BSOCK *dir = jcr->dir_bsock;
594    POOLMEM *level, *buf = NULL;
595    struct tm tm;
596    time_t mtime;
597    int mtime_only;
598
599    level = get_memory(dir->msglen+1);
600    Dmsg1(110, "level_cmd: %s", dir->msg);
601    if (sscanf(dir->msg, "level = %s ", level) != 1) {
602       goto bail_out;
603    }
604    /* Base backup requested? */
605    if (strcmp(level, "base") == 0) {
606       jcr->JobLevel = L_BASE;
607    /* Full backup requested? */ 
608    } else if (strcmp(level, "full") == 0) {
609       jcr->JobLevel = L_FULL;
610    /* 
611     * Backup requested since <date> <time>
612     *  This form is also used for incremental and differential
613     *  This code is deprecated.  See since_utime for new code.
614     */
615    } else if (strcmp(level, "since") == 0) {
616       jcr->JobLevel = L_SINCE;
617       if (sscanf(dir->msg, "level = since %d-%d-%d %d:%d:%d mtime_only=%d", 
618                  &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
619                  &tm.tm_hour, &tm.tm_min, &tm.tm_sec, &mtime_only) != 7) {
620          goto bail_out;
621       }
622       tm.tm_year -= 1900;
623       tm.tm_mon  -= 1;
624       tm.tm_wday = tm.tm_yday = 0;              
625       tm.tm_isdst = -1;
626       mtime = mktime(&tm);
627       Dmsg2(100, "Got since time: %s mtime_only=%d\n", ctime(&mtime), mtime_only);
628       jcr->incremental = 1;           /* set incremental or decremental backup */
629       jcr->mtime = mtime;             /* set since time */
630    /*
631     * We get his UTC since time, then sync the clocks and correct it
632     *   to agree with our clock.
633     */
634    } else if (strcmp(level, "since_utime") == 0) {
635       buf = get_memory(dir->msglen+1);
636       utime_t since_time, adj;
637       btime_t his_time, bt_start, rt=0, bt_adj=0;
638       jcr->JobLevel = L_SINCE;
639       if (sscanf(dir->msg, "level = since_utime %s mtime_only=%d", 
640                  buf, &mtime_only) != 2) { 
641          goto bail_out;
642       }
643       since_time = str_to_uint64(buf);  /* this is the since time */
644       char ed1[50], ed2[50];
645       /* 
646        * Sync clocks by polling him for the time. We take        
647        *   10 samples of his time throwing out the first two.
648        */
649       for (int i=0; i<10; i++) {
650          bt_start = get_current_btime();
651          bnet_sig(dir, BNET_BTIME);   /* poll for time */
652          if (bnet_recv(dir) <= 0) {   /* get response */
653             goto bail_out;
654          }
655          if (sscanf(dir->msg, "btime %s", buf) != 1) {
656             goto bail_out;
657          }
658          if (i < 2) {                 /* toss first two results */
659             continue;
660          }
661          his_time = str_to_uint64(buf);
662          rt = get_current_btime() - bt_start; /* compute round trip time */
663          bt_adj -= his_time - bt_start - rt/2;
664          Dmsg2(100, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
665       }
666
667       bt_adj = bt_adj / 8;            /* compute average time */
668       Dmsg2(100, "rt=%s adj=%s\n", edit_uint64(rt, ed1), edit_uint64(bt_adj, ed2));
669       adj = btime_to_utime(bt_adj);
670       since_time += adj;              /* adjust for clock difference */
671       if (adj != 0) {
672          Jmsg(jcr, M_INFO, 0, _("Since time adjusted by %d seconds.\n"), adj);
673       }
674       bnet_sig(dir, BNET_EOD);
675
676       Dmsg2(100, "adj = %d since_time=%d\n", (int)adj, (int)since_time);
677       jcr->incremental = 1;           /* set incremental or decremental backup */
678       jcr->mtime = since_time;        /* set since time */
679    } else {
680       Jmsg1(jcr, M_FATAL, 0, "Unknown backup level: %s\n", level);
681       free_memory(level);
682       return 0;
683    }
684    free_memory(level);
685    if (buf) {
686       free_memory(buf);
687    }
688    return bnet_fsend(dir, OKlevel);
689
690 bail_out:
691    pm_strcpy(&jcr->errmsg, dir->msg);
692    Jmsg1(jcr, M_FATAL, 0, _("Bad level command: %s\n"), jcr->errmsg);
693    free_memory(level);
694    if (buf) {
695       free_memory(buf);
696    }
697    return 0;
698 }
699
700 /*
701  * Get session parameters from Director -- this is for a Restore command
702  */
703 static int session_cmd(JCR *jcr)
704 {
705    BSOCK *dir = jcr->dir_bsock;
706
707    Dmsg1(100, "SessionCmd: %s", dir->msg);
708    if (sscanf(dir->msg, sessioncmd, jcr->VolumeName,
709               &jcr->VolSessionId, &jcr->VolSessionTime,
710               &jcr->StartFile, &jcr->EndFile, 
711               &jcr->StartBlock, &jcr->EndBlock) != 7) {
712       pm_strcpy(&jcr->errmsg, dir->msg);
713       Jmsg(jcr, M_FATAL, 0, "Bad session command: %s", jcr->errmsg);
714       return 0;
715    }
716
717    return bnet_fsend(dir, OKsession);
718 }
719
720 /*
721  * Get address of storage daemon from Director
722  *
723  */
724 static int storage_cmd(JCR *jcr)
725 {
726    int stored_port;                /* storage daemon port */
727    int enable_ssl;                 /* enable ssl to sd */
728    BSOCK *dir = jcr->dir_bsock;
729    BSOCK *sd;                         /* storage daemon bsock */
730
731    Dmsg1(100, "StorageCmd: %s", dir->msg);
732    if (sscanf(dir->msg, storaddr, &jcr->stored_addr, &stored_port, &enable_ssl) != 3) {
733       pm_strcpy(&jcr->errmsg, dir->msg);
734       Jmsg(jcr, M_FATAL, 0, _("Bad storage command: %s"), jcr->errmsg);
735       return 0;
736    }
737    Dmsg3(110, "Open storage: %s:%d ssl=%d\n", jcr->stored_addr, stored_port, enable_ssl);
738    /* Open command communications with Storage daemon */
739    /* Try to connect for 1 hour at 10 second intervals */
740    sd = bnet_connect(jcr, 10, me->SDConnectTimeout, _("Storage daemon"), 
741                      jcr->stored_addr, NULL, stored_port, 1);
742    if (sd == NULL) {
743       Jmsg(jcr, M_FATAL, 0, _("Failed to connect to Storage daemon: %s:%d\n"),
744           jcr->stored_addr, stored_port);
745       return 0;
746    }
747
748    jcr->store_bsock = sd;
749
750    bnet_fsend(sd, "Hello Start Job %s\n", jcr->Job);
751    if (!authenticate_storagedaemon(jcr)) {
752       Jmsg(jcr, M_FATAL, 0, _("Failed to authenticate Storage daemon.\n"));
753       return 0;
754    }
755    Dmsg0(110, "Authenticated with SD.\n");
756
757    /* Send OK to Director */
758    return bnet_fsend(dir, OKstore);
759 }
760
761
762 /*  
763  * Do a backup. For now, we handle only Full and Incremental.
764  */
765 static int backup_cmd(JCR *jcr)
766
767    BSOCK *dir = jcr->dir_bsock;
768    BSOCK *sd = jcr->store_bsock;
769    int ok = 0;
770    int SDJobStatus;
771    char ed1[50], ed2[50];
772
773    set_jcr_job_status(jcr, JS_Blocked);
774    jcr->JobType = JT_BACKUP;
775    Dmsg1(100, "begin backup ff=%p\n", (FF_PKT *)jcr->ff);
776
777    if (sd == NULL) {
778       Jmsg(jcr, M_FATAL, 0, _("Cannot contact Storage daemon\n"));
779       goto cleanup;
780    }
781
782    bnet_fsend(dir, OKbackup);
783    Dmsg1(110, "bfiled>dird: %s", dir->msg);
784
785    /* 
786     * Send Append Open Session to Storage daemon
787     */
788    bnet_fsend(sd, append_open);
789    Dmsg1(110, ">stored: %s", sd->msg);
790    /* 
791     * Expect to receive back the Ticket number
792     */
793    if (bget_msg(sd) >= 0) {
794       Dmsg1(110, "<stored: %s", sd->msg);
795       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
796          Jmsg(jcr, M_FATAL, 0, _("Bad response to append open: %s\n"), sd->msg);
797          goto cleanup;
798       }
799       Dmsg1(110, "Got Ticket=%d\n", jcr->Ticket);
800    } else {
801       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to open command\n"));
802       goto cleanup;
803    }
804
805    /* 
806     * Send Append data command to Storage daemon
807     */
808    bnet_fsend(sd, append_data, jcr->Ticket);
809    Dmsg1(110, ">stored: %s", sd->msg);
810
811    /* 
812     * Expect to get OK data 
813     */
814    Dmsg1(110, "<stored: %s", sd->msg);
815    if (!response(jcr, sd, OK_data, "Append Data")) {
816       goto cleanup;
817    }
818       
819    /*
820     * Send Files to Storage daemon
821     */
822    Dmsg1(110, "begin blast ff=%p\n", (FF_PKT *)jcr->ff);
823    if (!blast_data_to_storage_daemon(jcr, NULL)) {
824       set_jcr_job_status(jcr, JS_ErrorTerminated);
825       bnet_suppress_error_messages(sd, 1);
826    } else {
827       set_jcr_job_status(jcr, JS_Terminated);
828       if (jcr->JobStatus != JS_Terminated) {
829          bnet_suppress_error_messages(sd, 1);
830          goto cleanup;                /* bail out now */
831       }
832       /* 
833        * Expect to get response to append_data from Storage daemon
834        */
835       if (!response(jcr, sd, OK_append, "Append Data")) {
836          set_jcr_job_status(jcr, JS_ErrorTerminated);
837          goto cleanup;
838       }
839      
840       /* 
841        * Send Append End Data to Storage daemon
842        */
843       bnet_fsend(sd, append_end, jcr->Ticket);
844       /* Get end OK */
845       if (!response(jcr, sd, OK_end, "Append End")) {
846          set_jcr_job_status(jcr, JS_ErrorTerminated);
847          goto cleanup;
848       }
849
850       /*
851        * Send Append Close to Storage daemon
852        */
853       bnet_fsend(sd, append_close, jcr->Ticket);
854       while (bget_msg(sd) >= 0) {    /* stop on signal or error */
855          if (sscanf(sd->msg, OK_close, &SDJobStatus) == 1) {
856             ok = 1;
857             Dmsg2(200, "SDJobStatus = %d %c\n", SDJobStatus, (char)SDJobStatus);
858          }
859       }
860       if (!ok) {
861          Jmsg(jcr, M_FATAL, 0, _("Append Close with SD failed.\n"));
862          goto cleanup;
863       }
864       if (SDJobStatus != JS_Terminated) {
865          Jmsg(jcr, M_FATAL, 0, _("Bad status %d returned from Storage Daemon.\n"),
866             SDJobStatus);
867       }
868    }
869
870 cleanup:
871
872    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles, 
873       edit_uint64(jcr->ReadBytes, ed1), 
874       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);    
875
876    return 0;                          /* return and stop command loop */
877 }
878
879 /*  
880  * Do a Verify for Director
881  *
882  */
883 static int verify_cmd(JCR *jcr)
884
885    BSOCK *dir = jcr->dir_bsock;
886    BSOCK *sd  = jcr->store_bsock;
887    char level[100], ed1[50], ed2[50];
888
889    jcr->JobType = JT_VERIFY;
890    if (sscanf(dir->msg, verifycmd, level) != 1) {
891       bnet_fsend(dir, "2994 Bad verify command: %s\n", dir->msg);
892       return 0;   
893    }
894    if (strcasecmp(level, "init") == 0) {
895       jcr->JobLevel = L_VERIFY_INIT;
896    } else if (strcasecmp(level, "catalog") == 0){
897       jcr->JobLevel = L_VERIFY_CATALOG;
898    } else if (strcasecmp(level, "volume") == 0){
899       jcr->JobLevel = L_VERIFY_VOLUME_TO_CATALOG;
900    } else if (strcasecmp(level, "data") == 0){
901       jcr->JobLevel = L_VERIFY_DATA;
902    } else if (strcasecmp(level, "disk_to_catalog") == 0) {
903       jcr->JobLevel = L_VERIFY_DISK_TO_CATALOG;
904    } else {   
905       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
906       return 0;   
907    }
908
909    bnet_fsend(dir, OKverify);
910    Dmsg1(110, "bfiled>dird: %s", dir->msg);
911
912    switch (jcr->JobLevel) {
913    case L_VERIFY_INIT:
914    case L_VERIFY_CATALOG:
915       do_verify(jcr);
916       break;
917    case L_VERIFY_VOLUME_TO_CATALOG:
918       if (!open_sd_read_session(jcr)) {
919          return 0;
920       }
921       start_dir_heartbeat(jcr);
922       do_verify_volume(jcr);
923       stop_dir_heartbeat(jcr);
924       /* 
925        * Send Close session command to Storage daemon
926        */
927       bnet_fsend(sd, read_close, jcr->Ticket);
928       Dmsg1(130, "bfiled>stored: %s", sd->msg);
929
930       /* ****FIXME**** check response */
931       bget_msg(sd);                      /* get OK */
932
933       /* Inform Storage daemon that we are done */
934       bnet_sig(sd, BNET_TERMINATE);
935
936       break;
937    case L_VERIFY_DISK_TO_CATALOG:
938       do_verify(jcr);
939       break;
940    default:
941       bnet_fsend(dir, "2994 Bad verify level: %s\n", dir->msg);
942       return 0; 
943    }
944
945    bnet_sig(dir, BNET_EOD);
946
947    /* Send termination status back to Dir */
948    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles, 
949       edit_uint64(jcr->ReadBytes, ed1), 
950       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);    
951
952    /* Inform Director that we are done */
953    bnet_sig(dir, BNET_TERMINATE);
954    return 0;                          /* return and terminate command loop */
955 }
956
957 /*  
958  * Do a Restore for Director
959  *
960  */
961 static int restore_cmd(JCR *jcr)
962
963    BSOCK *dir = jcr->dir_bsock;
964    BSOCK *sd = jcr->store_bsock;
965    POOLMEM *where;
966    int prefix_links;
967    char replace;
968    char ed1[50], ed2[50];
969
970    /*
971     * Scan WHERE (base directory for restore) from command
972     */
973    Dmsg0(150, "restore command\n");
974    /* Pickup where string */
975    where = get_memory(dir->msglen+1);
976    *where = 0;
977
978    if (sscanf(dir->msg, restorecmd, &replace, &prefix_links, where) != 3) {
979       if (sscanf(dir->msg, restorecmd1, &replace, &prefix_links) != 2) {
980          pm_strcpy(&jcr->errmsg, dir->msg);
981          Jmsg(jcr, M_FATAL, 0, _("Bad replace command. CMD=%s\n"), jcr->errmsg);
982          return 0;
983       }
984       *where = 0;
985    }
986    /* Turn / into nothing */
987    if (where[0] == '/' && where[1] == 0) {
988       where[0] = 0;
989    }
990       
991    Dmsg2(150, "Got replace %c, where=%s\n", replace, where);
992    unbash_spaces(where);
993    jcr->where = bstrdup(where);
994    free_pool_memory(where);
995    jcr->replace = replace;
996    jcr->prefix_links = prefix_links;
997
998    bnet_fsend(dir, OKrestore);
999    Dmsg1(110, "bfiled>dird: %s", dir->msg);
1000
1001    jcr->JobType = JT_RESTORE;
1002
1003    set_jcr_job_status(jcr, JS_Blocked);
1004    if (!open_sd_read_session(jcr)) {
1005       set_jcr_job_status(jcr, JS_ErrorTerminated);
1006       goto bail_out;
1007    }
1008
1009    set_jcr_job_status(jcr, JS_Running);
1010
1011    /* 
1012     * Do restore of files and data
1013     */
1014    start_dir_heartbeat(jcr);
1015    do_restore(jcr);
1016    stop_dir_heartbeat(jcr);
1017    
1018    set_jcr_job_status(jcr, JS_Terminated);
1019    if (jcr->JobStatus != JS_Terminated) {
1020       bnet_suppress_error_messages(sd, 1);
1021    }
1022
1023    /* 
1024     * Send Close session command to Storage daemon
1025     */
1026    bnet_fsend(sd, read_close, jcr->Ticket);
1027    Dmsg1(130, "bfiled>stored: %s", sd->msg);
1028
1029    bget_msg(sd);                      /* get OK */
1030
1031    /* Inform Storage daemon that we are done */
1032    bnet_sig(sd, BNET_TERMINATE);
1033
1034 bail_out:
1035
1036    if (jcr->Errors) {
1037       set_jcr_job_status(jcr, JS_ErrorTerminated);
1038    }
1039    /* Send termination status back to Dir */
1040    bnet_fsend(dir, EndJob, jcr->JobStatus, jcr->JobFiles, 
1041       edit_uint64(jcr->ReadBytes, ed1), 
1042       edit_uint64(jcr->JobBytes, ed2), jcr->Errors);    
1043
1044    /* Inform Director that we are done */
1045    bnet_sig(dir, BNET_TERMINATE);
1046
1047    Dmsg0(130, "Done in job.c\n");
1048    return 0;                          /* return and terminate command loop */
1049 }
1050
1051 static int open_sd_read_session(JCR *jcr)
1052 {
1053    BSOCK *sd = jcr->store_bsock;
1054
1055    if (!sd) {
1056       Jmsg(jcr, M_FATAL, 0, _("Improper calling sequence.\n"));
1057       return 0;
1058    }
1059    Dmsg4(120, "VolSessId=%ld VolsessT=%ld SF=%ld EF=%ld\n",
1060       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile);
1061    Dmsg2(120, "JobId=%d vol=%s\n", jcr->JobId, "DummyVolume");
1062    /* 
1063     * Open Read Session with Storage daemon
1064     */
1065    bnet_fsend(sd, read_open, jcr->VolumeName,
1066       jcr->VolSessionId, jcr->VolSessionTime, jcr->StartFile, jcr->EndFile, 
1067       jcr->StartBlock, jcr->EndBlock);
1068    Dmsg1(110, ">stored: %s", sd->msg);
1069
1070    /* 
1071     * Get ticket number
1072     */
1073    if (bget_msg(sd) >= 0) {
1074       Dmsg1(110, "bfiled<stored: %s", sd->msg);
1075       if (sscanf(sd->msg, OK_open, &jcr->Ticket) != 1) {
1076          Jmsg(jcr, M_FATAL, 0, _("Bad response to SD read open: %s\n"), sd->msg);
1077          return 0;
1078       }
1079       Dmsg1(110, "bfiled: got Ticket=%d\n", jcr->Ticket);
1080    } else {
1081       Jmsg(jcr, M_FATAL, 0, _("Bad response from stored to read open command\n"));
1082       return 0;
1083    }
1084
1085    if (!send_bootstrap_file(jcr)) {
1086       return 0;
1087    }
1088
1089    /* 
1090     * Start read of data with Storage daemon
1091     */
1092    bnet_fsend(sd, read_data, jcr->Ticket);
1093    Dmsg1(110, ">stored: %s", sd->msg);
1094
1095    /* 
1096     * Get OK data
1097     */
1098    if (!response(jcr, sd, OK_data, "Read Data")) {
1099       return 0;
1100    }
1101    return 1;
1102 }
1103
1104 /* 
1105  * Destroy the Job Control Record and associated
1106  * resources (sockets).
1107  */
1108 static void filed_free_jcr(JCR *jcr) 
1109 {
1110    if (jcr->store_bsock) {
1111       bnet_close(jcr->store_bsock);
1112    }
1113    if (jcr->RestoreBootstrap) {
1114       unlink(jcr->RestoreBootstrap);
1115       free_pool_memory(jcr->RestoreBootstrap);
1116       jcr->RestoreBootstrap = NULL;
1117    }
1118    if (jcr->last_fname) {
1119       free_pool_memory(jcr->last_fname);
1120    }
1121    if (jcr->RunAfterJob) {
1122       free_pool_memory(jcr->RunAfterJob);
1123    }
1124    return;
1125 }
1126
1127 /*
1128  * Get response from Storage daemon to a command we
1129  * sent. Check that the response is OK.
1130  *
1131  *  Returns: 0 on failure
1132  *           1 on success
1133  */
1134 int response(JCR *jcr, BSOCK *sd, char *resp, const char *cmd)
1135 {
1136    if (sd->errors) {
1137       return 0;
1138    }
1139    if (bget_msg(sd) > 0) {
1140       Dmsg0(110, sd->msg);
1141       if (strcmp(sd->msg, resp) == 0) {
1142          return 1;
1143       }
1144    } 
1145    if (job_canceled(jcr)) {
1146       return 0;                       /* if canceled avoid useless error messages */
1147    }
1148    if (is_bnet_error(sd)) {
1149       Jmsg2(jcr, M_FATAL, 0, _("Comm error with SD. bad response to %s. ERR=%s\n"),
1150          cmd, bnet_strerror(sd));
1151    } else {
1152       Jmsg3(jcr, M_FATAL, 0, _("Bad response to %s command. Wanted %s, got %s\n"),
1153          cmd, resp, sd->msg);
1154    }
1155    return 0;
1156 }
1157
1158 static int send_bootstrap_file(JCR *jcr)
1159 {
1160    FILE *bs;
1161    char buf[2000];
1162    BSOCK *sd = jcr->store_bsock;
1163    char *bootstrap = "bootstrap\n";
1164    int stat = 0;
1165
1166    Dmsg1(400, "send_bootstrap_file: %s\n", jcr->RestoreBootstrap);
1167    if (!jcr->RestoreBootstrap) {
1168       return 1;
1169    }
1170    bs = fopen(jcr->RestoreBootstrap, "r");
1171    if (!bs) {
1172       Jmsg(jcr, M_FATAL, 0, _("Could not open bootstrap file %s: ERR=%s\n"), 
1173          jcr->RestoreBootstrap, strerror(errno));
1174       set_jcr_job_status(jcr, JS_ErrorTerminated);
1175       goto bail_out;
1176    }
1177    pm_strcpy(&sd->msg, bootstrap);  
1178    sd->msglen = strlen(sd->msg);
1179    bnet_send(sd);
1180    while (fgets(buf, sizeof(buf), bs)) {
1181       sd->msglen = Mmsg(&sd->msg, "%s", buf);
1182       bnet_send(sd);       
1183    }
1184    bnet_sig(sd, BNET_EOD);
1185    fclose(bs);
1186    if (!response(jcr, sd, OKSDbootstrap, "Bootstrap")) {
1187       set_jcr_job_status(jcr, JS_ErrorTerminated);
1188       goto bail_out;
1189    }
1190    stat = 1;
1191
1192 bail_out:
1193    if (jcr->RestoreBootstrap) {
1194       unlink(jcr->RestoreBootstrap);
1195       free_pool_memory(jcr->RestoreBootstrap);
1196       jcr->RestoreBootstrap = NULL;
1197    }
1198
1199    return stat;
1200 }