]> git.sur5r.net Git - bacula/bacula/blob - bacula/src/stored/bscan.c
Constrain BSR indexes, fix bscan, add some new alist code
[bacula/bacula] / bacula / src / stored / bscan.c
1 /*
2  *
3  *  Program to scan a Bacula Volume and compare it with
4  *    the catalog and optionally synchronize the catalog
5  *    with the tape.
6  *
7  *   Kern E. Sibbald, December 2001
8  *
9  *
10  *   Version $Id$
11  */
12 /*
13    Copyright (C) 2001, 2002 Kern Sibbald and John Walker
14
15    This program is free software; you can redistribute it and/or
16    modify it under the terms of the GNU General Public License as
17    published by the Free Software Foundation; either version 2 of
18    the License, or (at your option) any later version.
19
20    This program is distributed in the hope that it will be useful,
21    but WITHOUT ANY WARRANTY; without even the implied warranty of
22    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
23    General Public License for more details.
24
25    You should have received a copy of the GNU General Public
26    License along with this program; if not, write to the Free
27    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
28    MA 02111-1307, USA.
29
30  */
31
32 #include "bacula.h"
33 #include "stored.h"
34 #include "findlib/find.h"
35 #include "cats/cats.h"
36
37 /* Forward referenced functions */
38 static void do_scan(void);
39 static void record_cb(JCR *jcr, DEVICE *dev, DEV_BLOCK *block, DEV_RECORD *rec);
40 static int  create_file_attributes_record(B_DB *db, JCR *mjcr, 
41                                char *fname, char *lname, int type,
42                                char *ap, DEV_RECORD *rec);
43 static int  create_media_record(B_DB *db, MEDIA_DBR *mr, VOLUME_LABEL *vl);
44 static int  update_media_record(B_DB *db, MEDIA_DBR *mr);
45 static int  create_pool_record(B_DB *db, POOL_DBR *pr);
46 static JCR *create_job_record(B_DB *db, JOB_DBR *mr, SESSION_LABEL *label, DEV_RECORD *rec);
47 static int  update_job_record(B_DB *db, JOB_DBR *mr, SESSION_LABEL *elabel, 
48                               DEV_RECORD *rec);
49 static int  create_client_record(B_DB *db, CLIENT_DBR *cr);
50 static int  create_fileset_record(B_DB *db, FILESET_DBR *fsr);
51 static int  create_jobmedia_record(B_DB *db, JCR *jcr);
52 static JCR *create_jcr(JOB_DBR *jr, DEV_RECORD *rec, uint32_t JobId);
53 static int update_SIG_record(B_DB *db, char *SIGbuf, DEV_RECORD *rec, int type);
54
55
56 /* Global variables */
57 STORES *me;
58 #ifdef HAVE_CYGWIN
59 int win32_client = 1;
60 #else
61 int win32_client = 0;
62 #endif
63
64
65 /* Local variables */
66 static DEVICE *dev = NULL;
67 static B_DB *db;
68 static JCR *bjcr;                     /* jcr for bscan */
69 static BSR *bsr = NULL;
70 static MEDIA_DBR mr;
71 static POOL_DBR pr;
72 static JOB_DBR jr;
73 static CLIENT_DBR cr;
74 static FILESET_DBR fsr;
75 static ATTR_DBR ar;
76 static FILE_DBR fr;
77 static SESSION_LABEL label;
78 static SESSION_LABEL elabel;
79 static ATTR *attr;
80
81 static time_t lasttime = 0;
82
83 static char *db_name = "bacula";
84 static char *db_user = "bacula";
85 static char *db_password = "";
86 static char *wd = NULL;
87 static int update_db = 0;
88 static int update_vol_info = 0;
89 static int list_records = 0;
90 static int ignored_msgs = 0;
91
92 #define CONFIG_FILE "bacula-sd.conf"
93 char *configfile;
94
95
96
97 static void usage()
98 {
99    fprintf(stderr, _(
100 "\nVersion: " VERSION " (" BDATE ")\n\n"
101 "Usage: bscan [-d debug_level] <bacula-archive>\n"
102 "       -b bootstrap      specify a bootstrap file\n"
103 "       -c <file>         specify configuration file\n"
104 "       -dnn              set debug level to nn\n"
105 "       -m                update media info in database\n"
106 "       -n name           specify the database name (default bacula)\n"
107 "       -u user           specify database user name (default bacula)\n"
108 "       -p password       specify database password (default none)\n"
109 "       -r                list records\n"
110 "       -s                synchronize or store in database\n"
111 "       -v                verbose\n"
112 "       -V                specify Volume names (separated by |)\n"
113 "       -w dir            specify working directory (default from conf file)\n"
114 "       -?                print this message\n\n"));
115    exit(1);
116 }
117
118 int main (int argc, char *argv[])
119 {
120    int ch;
121    struct stat stat_buf;
122    char *VolumeName = NULL;
123
124    my_name_is(argc, argv, "bscan");
125    init_msg(NULL, NULL);
126
127
128    while ((ch = getopt(argc, argv, "b:c:d:mn:p:rsu:vVw:?")) != -1) {
129       switch (ch) {
130       case 'b':
131          bsr = parse_bsr(NULL, optarg);
132          break;
133
134       case 'c':                    /* specify config file */
135          if (configfile != NULL) {
136             free(configfile);
137          }
138          configfile = bstrdup(optarg);
139          break;
140
141       case 'd':                    /* debug level */
142          debug_level = atoi(optarg);
143          if (debug_level <= 0)
144             debug_level = 1; 
145          break;
146
147       case 'm':
148          update_vol_info = 1;
149          break;
150
151       case 'n':
152          db_name = optarg;
153          break;
154
155       case 'u':
156          db_user = optarg;
157          break;
158
159       case 'p':
160          db_password = optarg;
161          break;
162
163       case 'r':
164          list_records = 1;
165          break;
166
167       case 's':
168          update_db = 1;
169          break;
170
171       case 'v':
172          verbose++;
173          break;
174
175       case 'V':                    /* Volume name */
176          VolumeName = optarg;
177          break;
178
179       case 'w':
180          wd = optarg;
181          break;
182
183       case '?':
184       default:
185          usage();
186
187       }  
188    }
189    argc -= optind;
190    argv += optind;
191
192    if (argc != 1) {
193       Pmsg0(0, _("Wrong number of arguments: \n"));
194       usage();
195    }
196
197    if (configfile == NULL) {
198       configfile = bstrdup(CONFIG_FILE);
199    }
200
201    parse_config(configfile);
202    LockRes();
203    me = (STORES *)GetNextRes(R_STORAGE, NULL);
204    if (!me) {
205       UnlockRes();
206       Emsg1(M_ERROR_TERM, 0, _("No Storage resource defined in %s. Cannot continue.\n"), 
207          configfile);
208    }
209    UnlockRes();
210    /* Check if -w option given, otherwise use resource for working directory */
211    if (wd) { 
212       working_directory = wd;
213    } else if (!me->working_directory) {
214       Emsg1(M_ERROR_TERM, 0, _("No Working Directory defined in %s. Cannot continue.\n"),
215          configfile);
216    } else {
217       working_directory = me->working_directory;
218    }
219
220    /* Check that working directory is good */
221    if (stat(working_directory, &stat_buf) != 0) {
222       Emsg1(M_ERROR_TERM, 0, _("Working Directory: %s not found. Cannot continue.\n"),
223          working_directory);
224    }
225    if (!S_ISDIR(stat_buf.st_mode)) {
226       Emsg1(M_ERROR_TERM, 0, _("Working Directory: %s is not a directory. Cannot continue.\n"),
227          working_directory);
228    }
229
230    bjcr = setup_jcr("bscan", argv[0], bsr, VolumeName);
231    dev = setup_to_access_device(bjcr, 1);   /* read device */
232    if (!dev) { 
233       exit(1);
234    }
235
236    if ((db=db_init_database(NULL, db_name, db_user, db_password, NULL, 0, NULL)) == NULL) {
237       Emsg0(M_ERROR_TERM, 0, _("Could not init Bacula database\n"));
238    }
239    if (!db_open_database(NULL, db)) {
240       Emsg0(M_ERROR_TERM, 0, db_strerror(db));
241    }
242    Dmsg0(200, "Database opened\n");
243    if (verbose) {
244       Pmsg2(000, _("Using Database: %s, User: %s\n"), db_name, db_user);
245    }
246
247    do_scan();
248
249    free_jcr(bjcr);
250    return 0;
251 }
252   
253 /*  
254  * We are at the end of reading a tape. Now, we simulate handling
255  *   the end of writing a tape by wiffling through the attached
256  *   jcrs creating jobmedia records.
257  */
258 static int bscan_mount_next_read_volume(JCR *jcr, DEVICE *dev, DEV_BLOCK *block)
259 {
260    Dmsg1(100, "Walk attached jcrs. Volume=%s\n", dev->VolCatInfo.VolCatName);
261    for (JCR *mjcr=NULL; (mjcr=next_attached_jcr(dev, mjcr)); ) {
262       if (verbose) {
263          Pmsg1(000, _("Create JobMedia for Job %s\n"), mjcr->Job);
264       }
265       if (dev->state & ST_TAPE) {
266          mjcr->EndBlock = dev->EndBlock;
267          mjcr->EndFile = dev->EndFile;
268       } else {
269          mjcr->EndBlock = (uint32_t)dev->file_addr;
270          mjcr->StartBlock = (uint32_t)(dev->file_addr >> 32);
271       }
272       if (!create_jobmedia_record(db, mjcr)) {
273          Pmsg2(000, _("Could not create JobMedia record for Volume=%s Job=%s\n"),
274             dev->VolCatInfo.VolCatName, mjcr->Job);
275       }
276    }  
277    /* Now let common read routine get up next tape. Note,
278     * we call mount_next... with bscan's jcr because that is where we
279     * have the Volume list, but we get attached.
280     */
281    int stat = mount_next_read_volume(jcr, dev, block);
282    /* we must once more detach ourselves (attached by mount_next ...) */
283    detach_jcr_from_device(dev, jcr); /* detach bscan jcr */
284    return stat;
285 }
286
287 static void do_scan()             
288 {
289    attr = new_attr();
290
291    memset(&ar, 0, sizeof(ar));
292    memset(&pr, 0, sizeof(pr));
293    memset(&jr, 0, sizeof(jr));
294    memset(&cr, 0, sizeof(cr));
295    memset(&fsr, 0, sizeof(fsr));
296    memset(&fr, 0, sizeof(fr));
297
298    /* Detach bscan's jcr as we are not a real Job on the tape */
299    detach_jcr_from_device(dev, bjcr);
300
301    read_records(bjcr, dev, record_cb, bscan_mount_next_read_volume);
302    release_device(bjcr, dev);
303
304    free_attr(attr);
305    term_dev(dev);
306 }
307
308 static void record_cb(JCR *bjcr, DEVICE *dev, DEV_BLOCK *block, DEV_RECORD *rec)
309 {
310    JCR *mjcr;
311    char ec1[30];
312
313    if (rec->data_len > 0) {
314       mr.VolBytes += rec->data_len + WRITE_RECHDR_LENGTH; /* Accumulate Volume bytes */
315    }
316    if (list_records) {
317       Pmsg5(000, _("Record: SessId=%u SessTim=%u FileIndex=%d Stream=%d len=%u\n"),
318             rec->VolSessionId, rec->VolSessionTime, rec->FileIndex, 
319             rec->Stream, rec->data_len);
320    }
321    /* 
322     * Check for Start or End of Session Record 
323     *
324     */
325    if (rec->FileIndex < 0) {
326       int save_update_db = update_db;
327
328       if (verbose > 1) {
329          dump_label_record(dev, rec, 1);
330       }
331       switch (rec->FileIndex) {
332       case PRE_LABEL:
333          Pmsg0(000, _("Volume is prelabeled. This tape cannot be scanned.\n"));
334          return;
335          break;
336
337       case VOL_LABEL:
338          unser_volume_label(dev, rec);
339          /* Check Pool info */
340          bstrncpy(pr.Name, dev->VolHdr.PoolName, sizeof(pr.Name));
341          bstrncpy(pr.PoolType, dev->VolHdr.PoolType, sizeof(pr.PoolType));
342          if (db_get_pool_record(bjcr, db, &pr)) {
343             if (verbose) {
344                Pmsg1(000, _("Pool record for %s found in DB.\n"), pr.Name);
345             }
346          } else {
347             if (!update_db) {
348                Pmsg1(000, _("VOL_LABEL: Pool record not found for Pool: %s\n"),
349                   pr.Name);
350             }
351             create_pool_record(db, &pr);
352          }
353          if (strcmp(pr.PoolType, dev->VolHdr.PoolType) != 0) {
354             Pmsg2(000, _("VOL_LABEL: PoolType mismatch. DB=%s Vol=%s\n"),
355                pr.PoolType, dev->VolHdr.PoolType);
356             return;
357          } else if (verbose) {
358             Pmsg1(000, _("Pool type \"%s\" is OK.\n"), pr.PoolType);
359          }
360
361          /* Check Media Info */
362          memset(&mr, 0, sizeof(mr));
363          bstrncpy(mr.VolumeName, dev->VolHdr.VolName, sizeof(mr.VolumeName));
364          mr.PoolId = pr.PoolId;
365          if (db_get_media_record(bjcr, db, &mr)) {
366             if (verbose) {
367                Pmsg1(000, _("Media record for %s found in DB.\n"), mr.VolumeName);
368             }
369             /* Clear out some volume statistics that will be updated */
370             mr.VolJobs = mr.VolFiles = mr.VolBlocks = 0;
371             mr.VolBytes = rec->data_len + 20;
372          } else {
373             if (!update_db) {
374                Pmsg1(000, _("VOL_LABEL: Media record not found for Volume: %s\n"),
375                   mr.VolumeName);
376             }
377             bstrncpy(mr.MediaType, dev->VolHdr.MediaType, sizeof(mr.MediaType));
378             create_media_record(db, &mr, &dev->VolHdr);
379          }
380          if (strcmp(mr.MediaType, dev->VolHdr.MediaType) != 0) {
381             Pmsg2(000, _("VOL_LABEL: MediaType mismatch. DB=%s Vol=%s\n"),
382                mr.MediaType, dev->VolHdr.MediaType);
383             return;
384          } else if (verbose) {
385             Pmsg1(000, _("Media type \"%s\" is OK.\n"), mr.MediaType);
386          }
387          /* Reset some JCR variables */
388          for (mjcr=NULL; (mjcr=next_attached_jcr(dev, mjcr)); ) {
389             mjcr->VolFirstIndex = mjcr->FileIndex = 0;
390             mjcr->StartBlock = mjcr->EndBlock = 0;
391             mjcr->StartFile = mjcr->EndFile = 0;
392          }
393
394          Pmsg1(000, _("VOL_LABEL: OK for Volume: %s\n"), mr.VolumeName);
395          break;
396
397       case SOS_LABEL:
398          mr.VolJobs++;
399          if (ignored_msgs > 0) {
400             Pmsg1(000, _("%d \"errors\" ignored before first Start of Session record.\n"), 
401                   ignored_msgs);
402             ignored_msgs = 0;
403          }
404          unser_session_label(&label, rec);
405          memset(&jr, 0, sizeof(jr));
406          jr.JobId = label.JobId;
407          if (db_get_job_record(bjcr, db, &jr)) {
408             /* Job record already exists in DB */
409             update_db = 0;  /* don't change db in create_job_record */
410             if (verbose) {
411                Pmsg1(000, _("SOS_LABEL: Found Job record for JobId: %d\n"), jr.JobId);
412             }
413          } else {
414             /* Must create a Job record in DB */
415             if (!update_db) {
416                Pmsg1(000, _("SOS_LABEL: Job record not found for JobId: %d\n"),
417                   jr.JobId);
418             }
419          }
420          /* Create Client record if not already there */
421             strcpy(cr.Name, label.ClientName);
422             create_client_record(db, &cr);
423             jr.ClientId = cr.ClientId;
424
425          /* process label, if Job record exists don't update db */
426          mjcr = create_job_record(db, &jr, &label, rec);
427          update_db = save_update_db;
428
429          jr.PoolId = pr.PoolId;
430          /* Set start positions into JCR */
431          if (dev->state & ST_TAPE) {
432             mjcr->StartBlock = dev->block_num;
433             mjcr->StartFile = dev->file;
434          } else {
435             mjcr->StartBlock = (uint32_t)dev->file_addr;
436             mjcr->StartFile = (uint32_t)(dev->file_addr >> 32);
437          }
438          mjcr->start_time = jr.StartTime;
439          mjcr->JobLevel = jr.Level;
440
441          mjcr->client_name = get_pool_memory(PM_FNAME);
442          pm_strcpy(&mjcr->client_name, label.ClientName);
443          mjcr->pool_type = get_pool_memory(PM_FNAME);
444          pm_strcpy(&mjcr->pool_type, label.PoolType);
445          mjcr->fileset_name = get_pool_memory(PM_FNAME);
446          pm_strcpy(&mjcr->fileset_name, label.FileSetName);
447          mjcr->pool_name = get_pool_memory(PM_FNAME);
448          pm_strcpy(&mjcr->pool_name, label.PoolName);
449
450          if (rec->VolSessionId != jr.VolSessionId) {
451             Pmsg3(000, _("SOS_LABEL: VolSessId mismatch for JobId=%u. DB=%d Vol=%d\n"),
452                jr.JobId,
453                jr.VolSessionId, rec->VolSessionId);
454             return;
455          }
456          if (rec->VolSessionTime != jr.VolSessionTime) {
457             Pmsg3(000, _("SOS_LABEL: VolSessTime mismatch for JobId=%u. DB=%d Vol=%d\n"),
458                jr.JobId,
459                jr.VolSessionTime, rec->VolSessionTime);
460             return;
461          }
462          if (jr.PoolId != pr.PoolId) {
463             Pmsg3(000, _("SOS_LABEL: PoolId mismatch for JobId=%u. DB=%d Vol=%d\n"),
464                jr.JobId,
465                jr.PoolId, pr.PoolId);
466             return;
467          }
468          break;
469
470       case EOS_LABEL:
471          unser_session_label(&elabel, rec);
472
473          /* Create FileSet record */
474          strcpy(fsr.FileSet, label.FileSetName);
475          strcpy(fsr.MD5, label.FileSetMD5);
476          create_fileset_record(db, &fsr);
477          jr.FileSetId = fsr.FileSetId;
478
479          mjcr = get_jcr_by_session(rec->VolSessionId, rec->VolSessionTime);
480          if (!mjcr) {
481             Pmsg2(000, _("Could not find SessId=%d SessTime=%d for EOS record.\n"),
482                   rec->VolSessionId, rec->VolSessionTime);
483             break;
484          }
485
486          /* Do the final update to the Job record */
487          update_job_record(db, &jr, &elabel, rec);
488
489          mjcr->end_time = jr.EndTime;
490          mjcr->JobStatus = JS_Terminated;
491
492          /* Create JobMedia record */
493          create_jobmedia_record(db, mjcr);
494          detach_jcr_from_device(dev, mjcr);
495          free_jcr(mjcr);
496
497          break;
498
499       case EOM_LABEL:
500          break;
501
502       case EOT_LABEL:              /* end of all tapes */
503          /* 
504           * Wiffle through all jobs still open and close
505           *   them.
506           */
507          if (update_db) {
508             for (mjcr=NULL; (mjcr=next_attached_jcr(dev, mjcr)); ) {
509                jr.JobId = mjcr->JobId;
510                jr.JobStatus = JS_ErrorTerminated;
511                jr.JobFiles = mjcr->JobFiles;
512                jr.JobBytes = mjcr->JobBytes;
513                jr.VolSessionId = mjcr->VolSessionId;
514                jr.VolSessionTime = mjcr->VolSessionTime;
515                jr.JobTDate = (utime_t)mjcr->start_time;
516                jr.ClientId = mjcr->ClientId;
517                free_jcr(mjcr);
518                if (!db_update_job_end_record(bjcr, db, &jr)) {
519                   Pmsg1(0, _("Could not update job record. ERR=%s\n"), db_strerror(db));
520                }
521             }
522          }
523          mr.VolFiles = rec->File;
524          mr.VolBlocks = rec->Block;
525          mr.VolBytes += mr.VolBlocks * WRITE_BLKHDR_LENGTH; /* approx. */
526          mr.VolMounts++;
527          update_media_record(db, &mr);
528          Pmsg3(0, _("End of all Volumes. VolFiles=%u VolBlocks=%u VolBytes=%s\n"), mr.VolFiles,
529                     mr.VolBlocks, edit_uint64_with_commas(mr.VolBytes, ec1));
530          break;
531       default:
532          break;
533       } /* end switch */
534       return;
535    }
536
537    mjcr = get_jcr_by_session(rec->VolSessionId, rec->VolSessionTime);
538    if (!mjcr) {
539       if (mr.VolJobs > 0) {
540          Pmsg2(000, _("Could not find Job for SessId=%d SessTime=%d record.\n"),
541                       rec->VolSessionId, rec->VolSessionTime);
542       } else {
543          ignored_msgs++;
544       }
545       return;
546    }
547    if (mjcr->VolFirstIndex == 0) {
548       mjcr->VolFirstIndex = block->FirstIndex;
549    }
550
551    /* File Attributes stream */
552    switch (rec->Stream) {
553    case STREAM_UNIX_ATTRIBUTES:   
554    case STREAM_UNIX_ATTRIBUTES_EX:  
555
556       if (!unpack_attributes_record(bjcr, rec->Stream, rec->data, attr)) {
557          Emsg0(M_ERROR_TERM, 0, _("Cannot continue.\n"));
558       }
559
560       if (attr->file_index != rec->FileIndex) {
561          Emsg2(M_ERROR_TERM, 0, _("Record header file index %ld not equal record index %ld\n"),
562             rec->FileIndex, attr->file_index);
563       }
564        
565       if (verbose > 1) {
566          decode_stat(attr->attr, &attr->statp, &attr->LinkFI);
567          build_attr_output_fnames(bjcr, attr);
568          print_ls_output(bjcr, attr);
569       }
570       fr.JobId = mjcr->JobId;
571       fr.FileId = 0;
572       if (db_get_file_attributes_record(bjcr, db, attr->fname, &fr)) {
573          if (verbose > 1) {
574             Pmsg1(000, _("File record already exists for: %s\n"), attr->fname);
575          }
576       } else {
577          create_file_attributes_record(db, mjcr, attr->fname, attr->lname, 
578             attr->type, attr->attr, rec);
579       }
580       free_jcr(mjcr);
581       break;
582
583    /* Data stream */
584    case STREAM_WIN32_DATA:
585    case STREAM_FILE_DATA:
586    case STREAM_SPARSE_DATA:
587       mjcr->JobBytes += rec->data_len;
588       if (rec->Stream == STREAM_SPARSE_DATA) {
589          mjcr->JobBytes -= sizeof(uint64_t);
590       }
591          
592       free_jcr(mjcr);                 /* done using JCR */
593       break;
594
595    case STREAM_GZIP_DATA:
596       mjcr->JobBytes += rec->data_len; /* No correct, we should expand it */
597       free_jcr(mjcr);                 /* done using JCR */
598       break;
599
600    case STREAM_SPARSE_GZIP_DATA:
601       mjcr->JobBytes += rec->data_len - sizeof(uint64_t); /* No correct, we should expand it */
602       free_jcr(mjcr);                 /* done using JCR */
603       break;
604
605    /* Win32 GZIP stream */
606    case STREAM_WIN32_GZIP_DATA:
607       mjcr->JobBytes += rec->data_len;
608       free_jcr(mjcr);                 /* done using JCR */
609       break;
610
611    case STREAM_MD5_SIGNATURE:
612       char MD5buf[50];
613       bin_to_base64(MD5buf, (char *)rec->data, 16); /* encode 16 bytes */
614       if (verbose > 1) {
615          Pmsg1(000, _("Got MD5 record: %s\n"), MD5buf);
616       }
617       update_SIG_record(db, MD5buf, rec, MD5_SIG);
618       break;
619
620    case STREAM_SHA1_SIGNATURE:
621       char SIGbuf[50];
622       bin_to_base64(SIGbuf, (char *)rec->data, 20); /* encode 20 bytes */
623       if (verbose > 1) {
624          Pmsg1(000, _("Got SHA1 record: %s\n"), SIGbuf);
625       }
626       update_SIG_record(db, SIGbuf, rec, SHA1_SIG);
627       break;
628
629
630    case STREAM_PROGRAM_NAMES:
631       if (verbose) {
632          Pmsg1(000, _("Got Prog Names Stream: %s\n"), rec->data);
633       }
634       break;
635
636    case STREAM_PROGRAM_DATA:
637       if (verbose > 1) {
638          Pmsg0(000, _("Got Prog Data Stream record.\n"));
639       }
640       break;
641    default:
642       Pmsg2(0, _("Unknown stream type!!! stream=%d data=%s\n"), rec->Stream, rec->data);
643       break;
644    }
645    return;
646 }
647
648 /*
649  * Free the Job Control Record if no one is still using it.
650  *  Called from main free_jcr() routine in src/lib/jcr.c so
651  *  that we can do our Director specific cleanup of the jcr.
652  */
653 static void dird_free_jcr(JCR *jcr)
654 {
655    Dmsg0(200, "Start dird free_jcr\n");
656
657    if (jcr->file_bsock) {
658       Dmsg0(200, "Close File bsock\n");
659       bnet_close(jcr->file_bsock);
660    }
661    if (jcr->store_bsock) {
662       Dmsg0(200, "Close Store bsock\n");
663       bnet_close(jcr->store_bsock);
664    }
665    if (jcr->RestoreBootstrap) {
666       free(jcr->RestoreBootstrap);
667    }
668    Dmsg0(200, "End dird free_jcr\n");
669 }
670
671 /*
672  * We got a File Attributes record on the tape.  Now, lookup the Job
673  *   record, and then create the attributes record.
674  */
675 static int create_file_attributes_record(B_DB *db, JCR *mjcr,
676                                char *fname, char *lname, int type,
677                                char *ap, DEV_RECORD *rec)
678 {
679
680    ar.fname = fname;
681    ar.link = lname;
682    ar.ClientId = mjcr->ClientId;
683    ar.JobId = mjcr->JobId;
684    ar.Stream = rec->Stream;
685    ar.FileIndex = rec->FileIndex;
686    ar.attr = ap;
687    if (mjcr->VolFirstIndex == 0) {
688       mjcr->VolFirstIndex = rec->FileIndex;
689    }
690    mjcr->FileIndex = rec->FileIndex;
691    mjcr->JobFiles++;
692
693    if (!update_db) {
694       return 1;
695    }
696
697    if (!db_create_file_attributes_record(bjcr, db, &ar)) {
698       Pmsg1(0, _("Could not create File Attributes record. ERR=%s\n"), db_strerror(db));
699       return 0;
700    }
701    mjcr->FileId = ar.FileId;
702
703    if (verbose > 1) {
704       Pmsg1(000, _("Created File record: %s\n"), fname);   
705    }
706    return 1;
707 }
708
709 /*
710  * For each Volume we see, we create a Medium record
711  */
712 static int create_media_record(B_DB *db, MEDIA_DBR *mr, VOLUME_LABEL *vl)
713 {
714    struct date_time dt;
715    struct tm tm;
716
717    strcpy(mr->VolStatus, "Full");
718    mr->VolRetention = 365 * 3600 * 24; /* 1 year */
719    if (vl->VerNum >= 11) {
720       mr->FirstWritten = btime_to_utime(vl->write_btime);
721       mr->LabelDate    = btime_to_utime(vl->label_btime);
722    } else {
723       /* DEPRECATED DO NOT USE */
724       dt.julian_day_number = vl->write_date;
725       dt.julian_day_fraction = vl->write_time;
726       tm_decode(&dt, &tm);
727       mr->FirstWritten = mktime(&tm);
728       dt.julian_day_number = vl->label_date;
729       dt.julian_day_fraction = vl->label_time;
730       tm_decode(&dt, &tm);
731       mr->LabelDate = mktime(&tm);
732    }
733    lasttime = mr->LabelDate;
734
735    if (!update_db) {
736       return 1;
737    }
738
739    if (!db_create_media_record(bjcr, db, mr)) {
740       Pmsg1(0, _("Could not create media record. ERR=%s\n"), db_strerror(db));
741       return 0;
742    }
743    if (!db_update_media_record(bjcr, db, mr)) {
744       Pmsg1(0, _("Could not update media record. ERR=%s\n"), db_strerror(db));
745       return 0;
746    }
747    if (verbose) {
748       Pmsg1(000, _("Created Media record for Volume: %s\n"), mr->VolumeName);
749    }
750    return 1;
751
752 }
753
754 /*
755  * Called at end of media to update it
756  */
757 static int update_media_record(B_DB *db, MEDIA_DBR *mr)
758 {
759    if (!update_db && !update_vol_info) {
760       return 1;
761    }
762
763    mr->LastWritten = lasttime;
764    if (!db_update_media_record(bjcr, db, mr)) {
765       Pmsg1(0, _("Could not update media record. ERR=%s\n"), db_strerror(db));
766       return 0;
767    }
768    if (verbose) {
769       Pmsg1(000, _("Updated Media record at end of Volume: %s\n"), mr->VolumeName);
770    }
771    return 1;
772
773 }
774
775
776 static int create_pool_record(B_DB *db, POOL_DBR *pr)
777 {
778    pr->NumVols++;
779    pr->UseCatalog = 1;
780    pr->VolRetention = 355 * 3600 * 24; /* 1 year */
781
782    if (!update_db) {
783       return 1;
784    }
785    if (!db_create_pool_record(bjcr, db, pr)) {
786       Pmsg1(0, _("Could not create pool record. ERR=%s\n"), db_strerror(db));
787       return 0;
788    }
789    if (verbose) {
790       Pmsg1(000, _("Created Pool record for Pool: %s\n"), pr->Name);
791    }
792    return 1;
793
794 }
795
796
797 /*
798  * Called from SOS to create a client for the current Job 
799  */
800 static int create_client_record(B_DB *db, CLIENT_DBR *cr)
801 {
802    if (!update_db) {
803       return 1;
804    }
805    if (!db_create_client_record(bjcr, db, cr)) {
806       Pmsg1(0, _("Could not create Client record. ERR=%s\n"), db_strerror(db));
807       return 0;
808    }
809    if (verbose) {
810       Pmsg1(000, _("Created Client record for Client: %s\n"), cr->Name);
811    }
812    return 1;
813 }
814
815 static int create_fileset_record(B_DB *db, FILESET_DBR *fsr)
816 {
817    if (!update_db) {
818       return 1;
819    }
820    fsr->FileSetId = 0;
821    if (fsr->MD5[0] == 0) {
822       fsr->MD5[0] = ' ';              /* Equivalent to nothing */
823       fsr->MD5[1] = 0;
824    }
825    if (db_get_fileset_record(bjcr, db, fsr)) {
826       if (verbose) {
827          Pmsg1(000, _("Fileset \"%s\" already exists.\n"), fsr->FileSet);
828       }
829    } else {
830       if (!db_create_fileset_record(bjcr, db, fsr)) {
831          Pmsg2(0, _("Could not create FileSet record \"%s\". ERR=%s\n"), 
832             fsr->FileSet, db_strerror(db));
833          return 0;
834       }
835       if (verbose) {
836          Pmsg1(000, _("Created FileSet record \"%s\"\n"), fsr->FileSet);
837       }
838    }
839    return 1;
840 }
841
842 /*
843  * Simulate the two calls on the database to create
844  *  the Job record and to update it when the Job actually
845  *  begins running.
846  */
847 static JCR *create_job_record(B_DB *db, JOB_DBR *jr, SESSION_LABEL *label, 
848                              DEV_RECORD *rec)
849 {
850    JCR *mjcr;
851    struct date_time dt;
852    struct tm tm;
853
854    jr->JobId = label->JobId;
855    jr->Type = label->JobType;
856    jr->Level = label->JobLevel;
857    jr->JobStatus = JS_Created;
858    strcpy(jr->Name, label->JobName);
859    strcpy(jr->Job, label->Job);
860    if (label->VerNum >= 11) {
861       jr->SchedTime = btime_to_unix(label->write_btime);
862    } else {
863       dt.julian_day_number = label->write_date;
864       dt.julian_day_fraction = label->write_time;
865       tm_decode(&dt, &tm);
866       jr->SchedTime = mktime(&tm);
867    }
868
869    jr->StartTime = jr->SchedTime;
870    jr->JobTDate = (utime_t)jr->SchedTime;
871    jr->VolSessionId = rec->VolSessionId;
872    jr->VolSessionTime = rec->VolSessionTime;
873
874    /* Now create a JCR as if starting the Job */
875    mjcr = create_jcr(jr, rec, label->JobId);
876
877    if (!update_db) {
878       return mjcr;
879    }
880
881    /* This creates the bare essentials */
882    if (!db_create_job_record(bjcr, db, jr)) {
883       Pmsg1(0, _("Could not create JobId record. ERR=%s\n"), db_strerror(db));
884       return mjcr;
885    }
886
887    /* This adds the client, StartTime, JobTDate, ... */
888    if (!db_update_job_start_record(bjcr, db, jr)) {
889       Pmsg1(0, _("Could not update job start record. ERR=%s\n"), db_strerror(db));
890       return mjcr;
891    }
892    Pmsg2(000, _("Created new JobId=%u record for original JobId=%u\n"), jr->JobId, 
893          label->JobId);
894    mjcr->JobId = jr->JobId;           /* set new JobId */
895    return mjcr;
896 }
897
898 /* 
899  * Simulate the database call that updates the Job 
900  *  at Job termination time.
901  */
902 static int update_job_record(B_DB *db, JOB_DBR *jr, SESSION_LABEL *elabel,
903                               DEV_RECORD *rec)
904 {
905    struct date_time dt;
906    struct tm tm;
907    JCR *mjcr;
908
909    mjcr = get_jcr_by_session(rec->VolSessionId, rec->VolSessionTime);
910    if (!mjcr) {
911       Pmsg2(000, _("Could not find SessId=%d SessTime=%d for EOS record.\n"),
912                    rec->VolSessionId, rec->VolSessionTime);
913       return 0;
914    }
915    if (elabel->VerNum >= 11) {
916       jr->EndTime = btime_to_unix(elabel->write_btime);
917    } else {
918       dt.julian_day_number = elabel->write_date;
919       dt.julian_day_fraction = elabel->write_time;
920       tm_decode(&dt, &tm);
921       jr->EndTime = mktime(&tm);
922    }
923    lasttime = jr->EndTime;
924    mjcr->end_time = jr->EndTime;
925
926    jr->JobId = mjcr->JobId;
927    jr->JobStatus = elabel->JobStatus;
928    mjcr->JobStatus = elabel->JobStatus;
929    jr->JobFiles = elabel->JobFiles;
930    jr->JobBytes = elabel->JobBytes;
931    jr->VolSessionId = rec->VolSessionId;
932    jr->VolSessionTime = rec->VolSessionTime;
933    jr->JobTDate = (utime_t)mjcr->start_time;
934    jr->ClientId = mjcr->ClientId;
935
936    if (!update_db) {
937       free_jcr(mjcr);
938       return 1;
939    }
940    
941    if (!db_update_job_end_record(bjcr, db, jr)) {
942       Pmsg2(0, _("Could not update JobId=%u record. ERR=%s\n"), jr->JobId,  db_strerror(db));
943       free_jcr(mjcr);
944       return 0;
945    }
946    if (verbose) {
947       Pmsg1(000, _("Updated Job termination record for new JobId=%u\n"), jr->JobId);
948    }
949    if (verbose > 1) {
950       char *term_msg;
951       static char term_code[70];
952       char sdt[50], edt[50];
953       char ec1[30], ec2[30], ec3[30];
954
955       switch (mjcr->JobStatus) {
956       case JS_Terminated:
957          term_msg = _("Backup OK");
958          break;
959       case JS_FatalError:
960       case JS_ErrorTerminated:
961          term_msg = _("*** Backup Error ***");
962          break;
963       case JS_Canceled:
964          term_msg = _("Backup Canceled");
965          break;
966       default:
967          term_msg = term_code;
968          sprintf(term_code, _("Job Termination code: %d"), mjcr->JobStatus);
969          break;
970       }
971       bstrftime(sdt, sizeof(sdt), mjcr->start_time);
972       bstrftime(edt, sizeof(edt), mjcr->end_time);
973       Pmsg14(000,  _("%s\n\
974 JobId:                  %d\n\
975 Job:                    %s\n\
976 FileSet:                %s\n\
977 Backup Level:           %s\n\
978 Client:                 %s\n\
979 Start time:             %s\n\
980 End time:               %s\n\
981 Files Written:          %s\n\
982 Bytes Written:          %s\n\
983 Volume Session Id:      %d\n\
984 Volume Session Time:    %d\n\
985 Last Volume Bytes:      %s\n\
986 Termination:            %s\n\n"),
987         edt,
988         mjcr->JobId,
989         mjcr->Job,
990         mjcr->fileset_name,
991         job_level_to_str(mjcr->JobLevel),
992         mjcr->client_name,
993         sdt,
994         edt,
995         edit_uint64_with_commas(mjcr->JobFiles, ec1),
996         edit_uint64_with_commas(mjcr->JobBytes, ec2),
997         mjcr->VolSessionId,
998         mjcr->VolSessionTime,
999         edit_uint64_with_commas(mr.VolBytes, ec3),
1000         term_msg);
1001    }
1002    free_jcr(mjcr);
1003    return 1;
1004 }
1005
1006 static int create_jobmedia_record(B_DB *db, JCR *mjcr)
1007 {
1008    JOBMEDIA_DBR jmr;
1009
1010    if (dev->state & ST_TAPE) {
1011       mjcr->EndBlock = dev->EndBlock;
1012       mjcr->EndFile  = dev->EndFile;
1013    } else {
1014       mjcr->EndBlock = (uint32_t)dev->file_addr;
1015       mjcr->EndFile = (uint32_t)(dev->file_addr >> 32);
1016    }
1017
1018    memset(&jmr, 0, sizeof(jmr));
1019    jmr.JobId = mjcr->JobId;
1020    jmr.MediaId = mr.MediaId;
1021    jmr.FirstIndex = mjcr->VolFirstIndex;
1022    jmr.LastIndex = mjcr->FileIndex;
1023    jmr.StartFile = mjcr->StartFile;
1024    jmr.EndFile = mjcr->EndFile;
1025    jmr.StartBlock = mjcr->StartBlock;
1026    jmr.EndBlock = mjcr->EndBlock;
1027
1028
1029    if (!update_db) {
1030       return 1;
1031    }
1032
1033    if (!db_create_jobmedia_record(bjcr, db, &jmr)) {
1034       Pmsg1(0, _("Could not create JobMedia record. ERR=%s\n"), db_strerror(db));
1035       return 0;
1036    }
1037    if (verbose) {
1038       Pmsg2(000, _("Created JobMedia record JobId %d, MediaId %d\n"), 
1039                 jmr.JobId, jmr.MediaId);
1040    }
1041    return 1;
1042 }
1043
1044 /* 
1045  * Simulate the database call that updates the MD5/SHA1 record
1046  */
1047 static int update_SIG_record(B_DB *db, char *SIGbuf, DEV_RECORD *rec, int type)
1048 {
1049    JCR *mjcr;
1050
1051    mjcr = get_jcr_by_session(rec->VolSessionId, rec->VolSessionTime);
1052    if (!mjcr) {
1053       if (mr.VolJobs > 0) {
1054          Pmsg2(000, _("Could not find SessId=%d SessTime=%d for MD5/SHA1 record.\n"),
1055                       rec->VolSessionId, rec->VolSessionTime);
1056       } else {
1057          ignored_msgs++;
1058       }
1059       return 0;
1060    }
1061
1062    if (!update_db) {
1063       free_jcr(mjcr);
1064       return 1;
1065    }
1066    
1067    if (!db_add_SIG_to_file_record(bjcr, db, mjcr->FileId, SIGbuf, type)) {
1068       Pmsg1(0, _("Could not add MD5/SHA1 to File record. ERR=%s\n"), db_strerror(db));
1069       free_jcr(mjcr);
1070       return 0;
1071    }
1072    if (verbose > 1) {
1073       Pmsg0(000, _("Updated MD5/SHA1 record\n"));
1074    }
1075    free_jcr(mjcr);
1076    return 1;
1077 }
1078
1079
1080 /* 
1081  * Create a JCR as if we are really starting the job
1082  */
1083 static JCR *create_jcr(JOB_DBR *jr, DEV_RECORD *rec, uint32_t JobId)
1084 {
1085    JCR *jobjcr;
1086    /*
1087     * Transfer as much as possible to the Job JCR. Most important is
1088     *   the JobId and the ClientId.
1089     */
1090    jobjcr = new_jcr(sizeof(JCR), dird_free_jcr);
1091    jobjcr->JobType = jr->Type;
1092    jobjcr->JobLevel = jr->Level;
1093    jobjcr->JobStatus = jr->JobStatus;
1094    strcpy(jobjcr->Job, jr->Job);
1095    jobjcr->JobId = JobId;      /* this is JobId on tape */
1096    jobjcr->sched_time = jr->SchedTime;
1097    jobjcr->start_time = jr->StartTime;
1098    jobjcr->VolSessionId = rec->VolSessionId;
1099    jobjcr->VolSessionTime = rec->VolSessionTime;
1100    jobjcr->ClientId = jr->ClientId;
1101    attach_jcr_to_device(dev, jobjcr);
1102    return jobjcr;
1103 }
1104
1105 /* Dummies to replace askdir.c */
1106 int     dir_get_volume_info(JCR *jcr, enum get_vol_info_rw  writing) { return 1;}
1107 int     dir_find_next_appendable_volume(JCR *jcr) { return 1;}
1108 int     dir_update_volume_info(JCR *jcr, VOLUME_CAT_INFO *vol, int relabel) { return 1; }
1109 int     dir_create_jobmedia_record(JCR *jcr) { return 1; }
1110 int     dir_ask_sysop_to_mount_next_volume(JCR *jcr, DEVICE *dev) { return 1; }
1111 int     dir_update_file_attributes(JCR *jcr, DEV_RECORD *rec) { return 1;}
1112 int     dir_send_job_status(JCR *jcr) {return 1;}
1113
1114
1115 int dir_ask_sysop_to_mount_volume(JCR *jcr, DEVICE *dev)
1116 {
1117    fprintf(stderr, _("Mount Volume %s on device %s and press return when ready: "),
1118       jcr->VolumeName, dev_name(dev));
1119    getchar();   
1120    return 1;
1121 }