]> git.sur5r.net Git - bacula/bacula/blob - bacula/src/dird/dird.c
fb0aa191000db04e548a8ba1e3760693d031936d
[bacula/bacula] / bacula / src / dird / dird.c
1 /*
2  *
3  *   Bacula Director daemon -- this is the main program
4  *
5  *     Kern Sibbald, March MM
6  *
7  *   Version $Id$
8  */
9 /*
10    Copyright (C) 2000-2004 Kern Sibbald and John Walker
11
12    This program is free software; you can redistribute it and/or
13    modify it under the terms of the GNU General Public License as
14    published by the Free Software Foundation; either version 2 of
15    the License, or (at your option) any later version.
16
17    This program is distributed in the hope that it will be useful,
18    but WITHOUT ANY WARRANTY; without even the implied warranty of
19    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
20    General Public License for more details.
21
22    You should have received a copy of the GNU General Public
23    License along with this program; if not, write to the Free
24    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
25    MA 02111-1307, USA.
26
27  */
28
29 #include "bacula.h"
30 #include "dird.h"
31
32 /* Forward referenced subroutines */
33 static void terminate_dird(int sig);
34 static int check_resources();
35
36 /* Exported subroutines */
37
38 extern "C" void reload_config(int sig);
39
40
41 /* Imported subroutines */
42 JCR *wait_for_next_job(char *runjob);
43 void term_scheduler();
44 void term_ua_server();
45 int do_backup(JCR *jcr);
46 void backup_cleanup(void);
47 void start_UA_server(dlist *addrs);
48 void init_job_server(int max_workers);
49 void term_job_server();
50 void store_jobtype(LEX *lc, RES_ITEM *item, int index, int pass);
51 void store_level(LEX *lc, RES_ITEM *item, int index, int pass);
52 void store_replace(LEX *lc, RES_ITEM *item, int index, int pass);
53
54 static char *configfile = NULL;
55 static char *runjob = NULL;
56 static int background = 1;
57 static void init_reload(void);
58
59 /* Globals Exported */
60 DIRRES *director;                     /* Director resource */
61 int FDConnectTimeout;
62 int SDConnectTimeout;
63
64 /* Globals Imported */
65 extern int r_first, r_last;           /* first and last resources */
66 extern RES_TABLE resources[];
67 extern RES **res_head;
68 extern RES_ITEM job_items[];
69 extern URES res_all;
70
71
72 #define CONFIG_FILE "./bacula-dir.conf" /* default configuration file */
73
74 static void usage()
75 {
76    fprintf(stderr, _(
77 "Copyright (C) 2000-2004 Kern Sibbald and John Walker\n"
78 "\nVersion: " VERSION " (" BDATE ")\n\n"
79 "Usage: dird [-f -s] [-c config_file] [-d debug_level] [config_file]\n"
80 "       -c <file>   set configuration file to file\n"
81 "       -dnn        set debug level to nn\n"
82 "       -f          run in foreground (for debugging)\n"
83 "       -g          groupid\n"
84 "       -r <job>    run <job> now\n"
85 "       -s          no signals\n"
86 "       -t          test - read configuration and exit\n"
87 "       -u          userid\n"
88 "       -v          verbose user messages\n"
89 "       -?          print this message.\n"  
90 "\n"));
91
92    exit(1);
93 }
94
95
96 /*********************************************************************
97  *
98  *         Main Bacula Server program
99  *
100  */
101 int main (int argc, char *argv[])
102 {
103    int ch;
104    JCR *jcr;
105    int no_signals = FALSE;
106    int test_config = FALSE;
107    char *uid = NULL;
108    char *gid = NULL;
109
110    init_stack_dump();
111    my_name_is(argc, argv, "bacula-dir");
112    textdomain("bacula");
113    init_msg(NULL, NULL);              /* initialize message handler */
114    init_reload();
115    daemon_start_time = time(NULL);
116
117    while ((ch = getopt(argc, argv, "c:d:fg:r:stu:v?")) != -1) {
118       switch (ch) {
119       case 'c':                    /* specify config file */
120          if (configfile != NULL) {
121             free(configfile);
122          }
123          configfile = bstrdup(optarg);
124          break;
125
126       case 'd':                    /* set debug level */
127          debug_level = atoi(optarg);
128          if (debug_level <= 0) {
129             debug_level = 1; 
130          }
131          Dmsg1(0, "Debug level = %d\n", debug_level);
132          break;
133
134       case 'f':                    /* run in foreground */
135          background = FALSE;
136          break;
137
138       case 'g':                    /* set group id */
139          gid = optarg;
140          break;
141
142       case 'r':                    /* run job */
143          if (runjob != NULL) {
144             free(runjob);
145          }
146          if (optarg) {
147             runjob = bstrdup(optarg);
148          }
149          break;
150
151       case 's':                    /* turn off signals */
152          no_signals = TRUE;
153          break;
154
155       case 't':                    /* test config */
156          test_config = TRUE;
157          break;
158
159       case 'u':                    /* set uid */
160          uid = optarg;
161          break;
162
163       case 'v':                    /* verbose */
164          verbose++;
165          break;
166
167       case '?':
168       default:
169          usage();
170
171       }  
172    }
173    argc -= optind;
174    argv += optind;
175
176    if (!no_signals) {
177       init_signals(terminate_dird);
178    }
179
180    if (argc) {
181       if (configfile != NULL) {
182          free(configfile);
183       }
184       configfile = bstrdup(*argv);
185       argc--; 
186       argv++;
187    }
188    if (argc) {
189       usage();
190    }
191
192    if (configfile == NULL) {
193       configfile = bstrdup(CONFIG_FILE);
194    }
195
196    parse_config(configfile);
197
198    if (!check_resources()) {
199       Jmsg((JCR *)NULL, M_ERROR_TERM, 0, _("Please correct configuration file: %s\n"), configfile);
200    }
201
202    if (test_config) {
203       terminate_dird(0);
204    }
205
206    my_name_is(0, NULL, director->hdr.name);    /* set user defined name */
207
208    FDConnectTimeout = (int)director->FDConnectTimeout;
209    SDConnectTimeout = (int)director->SDConnectTimeout;
210
211    if (background) {
212       daemon_start();
213       init_stack_dump();              /* grab new pid */
214    }
215
216    /* Create pid must come after we are a daemon -- so we have our final pid */
217    create_pid_file(director->pid_directory, "bacula-dir", get_first_port_host_order(director->DIRaddrs));
218    read_state_file(director->working_directory, "bacula-dir", get_first_port_host_order(director->DIRaddrs));
219
220    drop(uid, gid);                    /* reduce priveleges if requested */
221
222    signal(SIGHUP, reload_config);
223
224    init_console_msg(working_directory);
225
226    init_python_interpreter(director->hdr.name, director->scripts_directory ?
227       director->scripts_directory : ".");
228
229    set_thread_concurrency(director->MaxConcurrentJobs * 2 +
230       4 /* UA */ + 4 /* sched+watchdog+jobsvr+misc */);
231
232    Dmsg0(200, "Start UA server\n");
233    start_UA_server(director->DIRaddrs);
234
235    start_watchdog();                  /* start network watchdog thread */
236
237    init_jcr_subsystem();              /* start JCR watchdogs etc. */
238
239    init_job_server(director->MaxConcurrentJobs);
240   
241    Dmsg0(200, "wait for next job\n");
242    /* Main loop -- call scheduler to get next job to run */
243    while ((jcr = wait_for_next_job(runjob))) {
244       run_job(jcr);                   /* run job */
245       free_jcr(jcr);                  /* release jcr */
246       if (runjob) {                   /* command line, run a single job? */
247          break;                       /* yes, terminate */
248       }
249    }
250
251    terminate_dird(0);
252 }
253
254 /* Cleanup and then exit */
255 static void terminate_dird(int sig)
256 {
257    static int already_here = FALSE;
258
259    if (already_here) {                /* avoid recursive temination problems */
260       exit(1);
261    }
262    already_here = TRUE;
263    write_state_file(director->working_directory, "bacula-dir", get_first_port_host_order(director->DIRaddrs));
264    delete_pid_file(director->pid_directory, "bacula-dir", get_first_port_host_order(director->DIRaddrs));
265 // signal(SIGCHLD, SIG_IGN);          /* don't worry about children now */
266    term_scheduler();
267    term_job_server();
268    if (runjob) {
269       free(runjob);
270    }
271    if (configfile != NULL) {
272       free(configfile);
273    }
274    if (debug_level > 5) {
275       print_memory_pool_stats(); 
276    }
277    free_config_resources();
278    term_ua_server();
279    term_msg();                        /* terminate message handler */
280    stop_watchdog();
281    close_memory_pool();               /* release free memory in pool */
282    sm_dump(false);  
283    exit(sig);
284 }
285
286 struct RELOAD_TABLE {
287    int job_count;
288    RES **res_table;
289 };
290
291 static const int max_reloads = 10;
292 static RELOAD_TABLE reload_table[max_reloads];
293
294 static void init_reload(void) 
295 {
296    for (int i=0; i < max_reloads; i++) {
297       reload_table[i].job_count = 0;
298       reload_table[i].res_table = NULL;
299    }
300 }
301
302 static void free_saved_resources(int table)
303 {
304    int num = r_last - r_first + 1;
305    RES **res_tab = reload_table[table].res_table;
306    if (!res_tab) {
307       Dmsg1(100, "res_tab for table %d already released.\n", table);
308       return;
309    }
310    Dmsg1(100, "Freeing resources for table %d\n", table);
311    for (int j=0; j<num; j++) {
312       free_resource(res_tab[j], r_first + j);
313    }
314    free(res_tab);
315    reload_table[table].job_count = 0;
316    reload_table[table].res_table = NULL;
317 }
318
319 /*
320  * Called here at the end of every job that was
321  * hooked decrementing the active job_count. When
322  * it goes to zero, no one is using the associated
323  * resource table, so free it.
324  */
325 static void reload_job_end_cb(JCR *jcr, void *ctx)
326 {
327    int reload_id = (int)((long int)ctx);
328    Dmsg3(100, "reload job_end JobId=%d table=%d cnt=%d\n", jcr->JobId,
329       reload_id, reload_table[reload_id].job_count);
330    lock_jcr_chain();
331    LockRes();
332    if (--reload_table[reload_id].job_count <= 0) {
333       free_saved_resources(reload_id);
334    }
335    UnlockRes();
336    unlock_jcr_chain();
337 }
338
339 static int find_free_reload_table_entry()
340 {
341    int table = -1;
342    for (int i=0; i < max_reloads; i++) {
343       if (reload_table[i].res_table == NULL) {
344          table = i;
345          break;
346       }
347    }
348    return table;
349 }
350
351 /*
352  * If we get here, we have received a SIGHUP, which means to
353  *    reread our configuration file. 
354  *
355  * The algorithm used is as follows: we count how many jobs are
356  *   running and mark the running jobs to make a callback on 
357  *   exiting. The old config is saved with the reload table
358  *   id in a reload table. The new config file is read. Now, as
359  *   each job exits, it calls back to the reload_job_end_cb(), which
360  *   decrements the count of open jobs for the given reload table.
361  *   When the count goes to zero, we release those resources.
362  *   This allows us to have pointers into the resource table (from
363  *   jobs), and once they exit and all the pointers are released, we
364  *   release the old table. Note, if no new jobs are running since the
365  *   last reload, then the old resources will be immediately release.
366  *   A console is considered a job because it may have pointers to
367  *   resources, but a SYSTEM job is not since it *should* not have any
368  *   permanent pointers to jobs.
369  */
370 extern "C"
371 void reload_config(int sig)
372 {
373    static bool already_here = false;
374    sigset_t set;        
375    JCR *jcr;
376    int njobs = 0;                     /* number of running jobs */
377    int table, rtable;
378
379    if (already_here) {
380       abort();                        /* Oops, recursion -> die */
381    }
382    already_here = true;
383    sigemptyset(&set);
384    sigaddset(&set, SIGHUP);
385    sigprocmask(SIG_BLOCK, &set, NULL);
386
387 // Jmsg(NULL, M_INFO, 0, "Entering experimental reload config code. Bug reports will not be accepted.\n");
388
389    lock_jcr_chain();
390    LockRes();
391
392    table = find_free_reload_table_entry();
393    if (table < 0) {
394       Jmsg(NULL, M_ERROR, 0, _("Too many open reload requests. Request ignored.\n"));
395       goto bail_out;
396    }
397
398    Dmsg1(100, "Reload_config njobs=%d\n", njobs);
399    reload_table[table].res_table = save_config_resources();
400    Dmsg1(100, "Saved old config in table %d\n", table);
401
402    parse_config(configfile);
403
404    Dmsg0(100, "Reloaded config file\n");
405    if (!check_resources()) {
406       rtable = find_free_reload_table_entry();    /* save new, bad table */
407       if (rtable < 0) {
408          Jmsg(NULL, M_ERROR, 0, _("Please correct configuration file: %s\n"), configfile);
409          Jmsg(NULL, M_ERROR_TERM, 0, _("Out of reload table entries. Giving up.\n"));
410       } else {
411          Jmsg(NULL, M_ERROR, 0, _("Please correct configuration file: %s\n"), configfile);
412       }
413       reload_table[rtable].res_table = save_config_resources();
414       /* Now restore old resoure values */
415       int num = r_last - r_first + 1;
416       RES **res_tab = reload_table[table].res_table;
417       for (int i=0; i<num; i++) {
418          res_head[i] = res_tab[i];
419       }
420       table = rtable;                 /* release new, bad, saved table below */
421    } else {
422       /*
423        * Hook all active jobs so that they release this table 
424        */
425       foreach_jcr(jcr) {
426          if (jcr->JobType != JT_SYSTEM) {
427             reload_table[table].job_count++;
428             job_end_push(jcr, reload_job_end_cb, (void *)((long int)table));
429             njobs++;
430          }
431          free_locked_jcr(jcr);
432       }
433    }
434
435    /* Reset globals */
436    set_working_directory(director->working_directory);
437    FDConnectTimeout = director->FDConnectTimeout;
438    SDConnectTimeout = director->SDConnectTimeout;
439    Dmsg0(0, "Director's configuration file reread.\n");
440         
441    /* Now release saved resources, if no jobs using the resources */
442    if (njobs == 0) {
443       free_saved_resources(table);
444    }
445
446 bail_out:
447    UnlockRes();
448    unlock_jcr_chain();
449    sigprocmask(SIG_UNBLOCK, &set, NULL);
450    signal(SIGHUP, reload_config);
451    already_here = false;
452 }
453
454 /*
455  * Make a quick check to see that we have all the
456  * resources needed.
457  *
458  *  **** FIXME **** this routine could be a lot more
459  *   intelligent and comprehensive.
460  */
461 static int check_resources()
462 {
463    bool OK = true;
464    JOB *job;
465
466    LockRes();
467
468    job = (JOB *)GetNextRes(R_JOB, NULL);
469    director = (DIRRES *)GetNextRes(R_DIRECTOR, NULL);
470    if (!director) {
471       Jmsg(NULL, M_FATAL, 0, _("No Director resource defined in %s\n\
472 Without that I don't know who I am :-(\n"), configfile);
473       OK = false;
474    } else {
475       set_working_directory(director->working_directory);
476       if (!director->messages) {       /* If message resource not specified */
477          director->messages = (MSGS *)GetNextRes(R_MSGS, NULL);
478          if (!director->messages) {
479             Jmsg(NULL, M_FATAL, 0, _("No Messages resource defined in %s\n"), configfile);
480             OK = false;
481          }
482       }
483       if (GetNextRes(R_DIRECTOR, (RES *)director) != NULL) {
484          Jmsg(NULL, M_FATAL, 0, _("Only one Director resource permitted in %s\n"),
485             configfile);
486          OK = false;
487       } 
488    }
489
490    if (!job) {
491       Jmsg(NULL, M_FATAL, 0, _("No Job records defined in %s\n"), configfile);
492       OK = false;
493    }
494    foreach_res(job, R_JOB) {
495       int i;
496
497       if (job->jobdefs) {
498          /* Handle Storage alists specifically */
499          JOB *jobdefs = job->jobdefs;
500          for (i=0; i < MAX_STORE; i++) {
501             if (jobdefs->storage[i] && !job->storage[i]) {
502                STORE *st;
503                job->storage[i] = New(alist(10, not_owned_by_alist));
504                foreach_alist(st, jobdefs->storage[i]) {
505                   job->storage[i]->append(st);
506                }
507             }
508          }
509
510          /* Transfer default items from JobDefs Resource */
511          for (i=0; job_items[i].name; i++) {
512             char **def_svalue, **svalue;  /* string value */
513             int *def_ivalue, *ivalue;     /* integer value */
514             int64_t *def_lvalue, *lvalue; /* 64 bit values */
515             uint32_t offset;
516
517             Dmsg4(400, "Job \"%s\", field \"%s\" bit=%d def=%d\n",
518                 job->hdr.name, job_items[i].name, 
519                 bit_is_set(i, job->hdr.item_present),  
520                 bit_is_set(i, job->jobdefs->hdr.item_present));
521
522             if (!bit_is_set(i, job->hdr.item_present) &&
523                  bit_is_set(i, job->jobdefs->hdr.item_present)) { 
524                Dmsg2(400, "Job \"%s\", field \"%s\": getting default.\n",
525                  job->hdr.name, job_items[i].name);
526                offset = (char *)(job_items[i].value) - (char *)&res_all;   
527                /*
528                 * Handle strings and directory strings
529                 */
530                if (job_items[i].handler == store_str ||
531                    job_items[i].handler == store_dir) {
532                   def_svalue = (char **)((char *)(job->jobdefs) + offset);
533                   Dmsg5(400, "Job \"%s\", field \"%s\" def_svalue=%s item %d offset=%u\n", 
534                        job->hdr.name, job_items[i].name, *def_svalue, i, offset);
535                   svalue = (char **)((char *)job + offset);
536                   if (*svalue) {
537                      Pmsg1(000, "Hey something is wrong. p=0x%lu\n", *svalue);
538                   }
539                   *svalue = bstrdup(*def_svalue);
540                   set_bit(i, job->hdr.item_present);
541                /*
542                 * Handle resources   
543                 */
544                } else if (job_items[i].handler == store_res) {
545                   def_svalue = (char **)((char *)(job->jobdefs) + offset);
546                   Dmsg4(400, "Job \"%s\", field \"%s\" item %d offset=%u\n", 
547                        job->hdr.name, job_items[i].name, i, offset);
548                   svalue = (char **)((char *)job + offset);
549                   if (*svalue) {
550                      Pmsg1(000, "Hey something is wrong. p=0x%lu\n", *svalue);
551                   }
552                   *svalue = *def_svalue;
553                   set_bit(i, job->hdr.item_present);
554                /*
555                 * Handle alist resources
556                 */
557                } else if (job_items[i].handler == store_alist_res) {
558                   if (bit_is_set(i, job->jobdefs->hdr.item_present)) { 
559                      set_bit(i, job->hdr.item_present);
560                   }
561                /*
562                 * Handle integer fields 
563                 *    Note, our store_yesno does not handle bitmaped fields
564                 */
565                } else if (job_items[i].handler == store_yesno   ||
566                           job_items[i].handler == store_pint    ||
567                           job_items[i].handler == store_jobtype ||
568                           job_items[i].handler == store_level   ||
569                           job_items[i].handler == store_pint    ||
570                           job_items[i].handler == store_replace) {
571                   def_ivalue = (int *)((char *)(job->jobdefs) + offset);
572                   Dmsg5(400, "Job \"%s\", field \"%s\" def_ivalue=%d item %d offset=%u\n", 
573                        job->hdr.name, job_items[i].name, *def_ivalue, i, offset);
574                   ivalue = (int *)((char *)job + offset);
575                   *ivalue = *def_ivalue;
576                   set_bit(i, job->hdr.item_present);
577                /*
578                 * Handle 64 bit integer fields 
579                 */
580                } else if (job_items[i].handler == store_time   ||
581                           job_items[i].handler == store_size   ||
582                           job_items[i].handler == store_int64) {
583                   def_lvalue = (int64_t *)((char *)(job->jobdefs) + offset);
584                   Dmsg5(400, "Job \"%s\", field \"%s\" def_lvalue=%" lld " item %d offset=%u\n", 
585                        job->hdr.name, job_items[i].name, *def_lvalue, i, offset);
586                   lvalue = (int64_t *)((char *)job + offset);
587                   *lvalue = *def_lvalue;
588                   set_bit(i, job->hdr.item_present);
589                }
590             }
591          }
592       }
593       /* 
594        * Ensure that all required items are present
595        */
596       for (i=0; job_items[i].name; i++) {
597          if (job_items[i].flags & ITEM_REQUIRED) {
598                if (!bit_is_set(i, job->hdr.item_present)) {  
599                   Jmsg(NULL, M_FATAL, 0, "\"%s\" directive in Job \"%s\" resource is required, but not found.\n",
600                     job_items[i].name, job->hdr.name);
601                   OK = false;
602                 }
603          }
604          /* If this triggers, take a look at lib/parse_conf.h */
605          if (i >= MAX_RES_ITEMS) {
606             Emsg0(M_ERROR_TERM, 0, "Too many items in Job resource\n");
607          }
608       }
609    } /* End loop over Job res */
610
611    /* Loop over databases */
612    CAT *catalog;
613    foreach_res(catalog, R_CATALOG) {
614       B_DB *db;
615       /*
616        * Make sure we can open catalog, otherwise print a warning
617        * message because the server is probably not running.
618        */
619       db = db_init_database(NULL, catalog->db_name, catalog->db_user,
620                          catalog->db_password, catalog->db_address,
621                          catalog->db_port, catalog->db_socket, 
622                          catalog->mult_db_connections);
623       if (!db || !db_open_database(NULL, db)) {
624          Jmsg(NULL, M_FATAL, 0, _("Could not open database \"%s\".\n"),
625               catalog->db_name);
626          if (db) {
627             Jmsg(NULL, M_FATAL, 0, _("%s"), db_strerror(db));
628          }
629          OK = false;
630          continue;
631       } 
632
633       /* Loop over all pools, defining/updating them in each database */
634       POOL *pool;
635       foreach_res(pool, R_POOL) {
636          create_pool(NULL, db, pool, POOL_OP_UPDATE);  /* update request */
637       }      
638       /* Loop over all counters, defining them in each database */
639
640       /* Set default value in all counters */
641       COUNTER *counter;
642       foreach_res(counter, R_COUNTER) {
643          /* Write to catalog? */
644          if (!counter->created && counter->Catalog == catalog) {
645             COUNTER_DBR cr;
646             bstrncpy(cr.Counter, counter->hdr.name, sizeof(cr.Counter));
647             cr.MinValue = counter->MinValue;
648             cr.MaxValue = counter->MaxValue;
649             cr.CurrentValue = counter->MinValue;
650             if (counter->WrapCounter) {
651                bstrncpy(cr.WrapCounter, counter->WrapCounter->hdr.name, sizeof(cr.WrapCounter));
652             } else {
653                cr.WrapCounter[0] = 0;  /* empty string */
654             }
655             if (db_create_counter_record(NULL, db, &cr)) {
656                counter->CurrentValue = cr.CurrentValue;
657                counter->created = true;
658                Dmsg2(100, "Create counter %s val=%d\n", counter->hdr.name, counter->CurrentValue);
659             }
660          } 
661          if (!counter->created) {
662             counter->CurrentValue = counter->MinValue;  /* default value */
663          }
664       }
665       db_close_database(NULL, db);
666    }
667
668    UnlockRes();
669    if (OK) {
670       close_msg(NULL);                /* close temp message handler */
671       init_msg(NULL, director->messages); /* open daemon message handler */
672    }
673    return OK;
674 }