git.sur5r.net Git - bacula/bacula/blob - bacula/src/lib/jcr.c

   1 /*
   2  * Manipulation routines for Job Control Records
   3  *
   4  *  Kern E. Sibbald, December 2000
   5  *
   6  *  Version $Id$
   7  *
   8  *  These routines are thread safe.
   9  *
  10  */
  11 /*
  12    Copyright (C) 2000-2005 Kern Sibbald
  13
  14    This program is free software; you can redistribute it and/or
  15    modify it under the terms of the GNU General Public License as
  16    published by the Free Software Foundation; either version 2 of
  17    the License, or (at your option) any later version.
  18
  19    This program is distributed in the hope that it will be useful,
  20    but WITHOUT ANY WARRANTY; without even the implied warranty of
  21    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  22    General Public License for more details.
  23
  24    You should have received a copy of the GNU General Public
  25    License along with this program; if not, write to the Free
  26    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  27    MA 02111-1307, USA.
  28
  29  */
  30
  31 #include "bacula.h"
  32 #include "jcr.h"
  33
  34 /* External variables we reference */
  35 extern time_t watchdog_time;
  36
  37 /* Forward referenced functions */
  38 extern "C" void timeout_handler(int sig);
  39
  40 static void jcr_timeout_check(watchdog_t *self);
  41
  42 int num_jobs_run;
  43 dlist *last_jobs = NULL;
  44 const int max_last_jobs = 10;
  45
  46 JCR *jobs = NULL;                     /* pointer to JCR chain */
  47 static brwlock_t lock;                /* lock for last jobs and JCR chain */
  48
  49 void init_last_jobs_list()
  50 {
  51    int errstat;
  52    struct s_last_job *job_entry = NULL;
  53    if (!last_jobs) {
  54       last_jobs = New(dlist(job_entry, &job_entry->link));
  55       if ((errstat=rwl_init(&lock)) != 0) {
  56          Emsg1(M_ABORT, 0, _("Unable to initialize jcr_chain lock. ERR=%s\n"),
  57                strerror(errstat));
  58       }
  59    }
  60
  61 }
  62
  63 void term_last_jobs_list()
  64 {
  65    if (last_jobs) {
  66       while (!last_jobs->empty()) {
  67          void *je = last_jobs->first();
  68          last_jobs->remove(je);
  69          free(je);
  70       }
  71       delete last_jobs;
  72       last_jobs = NULL;
  73       rwl_destroy(&lock);
  74    }
  75 }
  76
  77 void read_last_jobs_list(int fd, uint64_t addr)
  78 {
  79    struct s_last_job *je, job;
  80    uint32_t num;
  81
  82    Dmsg1(100, "read_last_jobs seek to %d\n", (int)addr);
  83    if (addr == 0 || lseek(fd, (off_t)addr, SEEK_SET) < 0) {
  84       return;
  85    }
  86    if (read(fd, &num, sizeof(num)) != sizeof(num)) {
  87       return;
  88    }
  89    Dmsg1(100, "Read num_items=%d\n", num);
  90    if (num > 4 * max_last_jobs) {  /* sanity check */
  91       return;
  92    }
  93    for ( ; num; num--) {
  94       if (read(fd, &job, sizeof(job)) != sizeof(job)) {
  95          Dmsg1(000, "Read job entry. ERR=%s\n", strerror(errno));
  96          return;
  97       }
  98       if (job.JobId > 0) {
  99          je = (struct s_last_job *)malloc(sizeof(struct s_last_job));
 100          memcpy((char *)je, (char *)&job, sizeof(job));
 101          if (!last_jobs) {
 102             init_last_jobs_list();
 103          }
 104          last_jobs->append(je);
 105          if (last_jobs->size() > max_last_jobs) {
 106             je = (struct s_last_job *)last_jobs->first();
 107             last_jobs->remove(je);
 108             free(je);
 109          }
 110       }
 111    }
 112 }
 113
 114 uint64_t write_last_jobs_list(int fd, uint64_t addr)
 115 {
 116    struct s_last_job *je;
 117    uint32_t num;
 118
 119    Dmsg1(100, "write_last_jobs seek to %d\n", (int)addr);
 120    if (lseek(fd, (off_t)addr, SEEK_SET) < 0) {
 121       return 0;
 122    }
 123    if (last_jobs) {
 124       /* First record is number of entires */
 125       num = last_jobs->size();
 126       if (write(fd, &num, sizeof(num)) != sizeof(num)) {
 127          Dmsg1(000, "Error writing num_items: ERR=%s\n", strerror(errno));
 128          return 0;
 129       }
 130       foreach_dlist(je, last_jobs) {
 131          if (write(fd, je, sizeof(struct s_last_job)) != sizeof(struct s_last_job)) {
 132             Dmsg1(000, "Error writing job: ERR=%s\n", strerror(errno));
 133             return 0;
 134          }
 135       }
 136    }
 137    /* Return current address */
 138    ssize_t stat = lseek(fd, 0, SEEK_CUR);
 139    if (stat < 0) {
 140       stat = 0;
 141    }
 142    return stat;
 143
 144 }
 145
 146 void lock_last_jobs_list()
 147 {
 148    /* Use jcr chain mutex */
 149    lock_jcr_chain();
 150 }
 151
 152 void unlock_last_jobs_list()
 153 {
 154    /* Use jcr chain mutex */
 155    unlock_jcr_chain();
 156 }
 157
 158 /*
 159  * Push a subroutine address into the job end callback stack
 160  */
 161 void job_end_push(JCR *jcr, void job_end_cb(JCR *jcr,void *), void *ctx)
 162 {
 163    jcr->job_end_push.append((void *)job_end_cb);
 164    jcr->job_end_push.append(ctx);
 165 }
 166
 167 /* Pop each job_end subroutine and call it */
 168 static void job_end_pop(JCR *jcr)
 169 {
 170    void (*job_end_cb)(JCR *jcr, void *ctx);
 171    void *ctx;
 172    for (int i=jcr->job_end_push.size()-1; i > 0; ) {
 173       ctx = jcr->job_end_push.get(i--);
 174       job_end_cb = (void (*)(JCR *,void *))jcr->job_end_push.get(i--);
 175       job_end_cb(jcr, ctx);
 176    }
 177 }
 178
 179 /*
 180  * Create a Job Control Record and link it into JCR chain
 181  * Returns newly allocated JCR
 182  * Note, since each daemon has a different JCR, he passes
 183  *  us the size.
 184  */
 185 JCR *new_jcr(int size, JCR_free_HANDLER *daemon_free_jcr)
 186 {
 187    JCR *jcr;
 188    MQUEUE_ITEM *item = NULL;
 189    struct sigaction sigtimer;
 190
 191    Dmsg0(3400, "Enter new_jcr\n");
 192    jcr = (JCR *)malloc(size);
 193    memset(jcr, 0, size);
 194    jcr->my_thread_id = pthread_self();
 195    jcr->msg_queue = New(dlist(item, &item->link));
 196    jcr->job_end_push.init(1, false);
 197    jcr->sched_time = time(NULL);
 198    jcr->daemon_free_jcr = daemon_free_jcr;    /* plug daemon free routine */
 199    jcr->use_count = 1;
 200    pthread_mutex_init(&(jcr->mutex), NULL);
 201    jcr->JobStatus = JS_Created;       /* ready to run */
 202    jcr->VolumeName = get_pool_memory(PM_FNAME);
 203    jcr->VolumeName[0] = 0;
 204    jcr->errmsg = get_pool_memory(PM_MESSAGE);
 205    jcr->errmsg[0] = 0;
 206    /* Setup some dummy values */
 207    bstrncpy(jcr->Job, "*System*", sizeof(jcr->Job));
 208    jcr->JobId = 0;
 209    jcr->JobType = JT_SYSTEM;          /* internal job until defined */
 210    jcr->JobLevel = L_NONE;
 211    jcr->JobStatus = JS_Created;
 212
 213    sigtimer.sa_flags = 0;
 214    sigtimer.sa_handler = timeout_handler;
 215    sigfillset(&sigtimer.sa_mask);
 216    sigaction(TIMEOUT_SIGNAL, &sigtimer, NULL);
 217
 218    lock_jcr_chain();
 219    jcr->prev = NULL;
 220    jcr->next = jobs;
 221    if (jobs) {
 222       jobs->prev = jcr;
 223    }
 224    jobs = jcr;
 225    unlock_jcr_chain();
 226    return jcr;
 227 }
 228
 229
 230 /*
 231  * Remove a JCR from the chain
 232  * NOTE! The chain must be locked prior to calling
 233  *       this routine.
 234  */
 235 static void remove_jcr(JCR *jcr)
 236 {
 237    Dmsg0(3400, "Enter remove_jcr\n");
 238    if (!jcr) {
 239       Emsg0(M_ABORT, 0, "NULL jcr.\n");
 240    }
 241    if (!jcr->prev) {                  /* if no prev */
 242       jobs = jcr->next;               /* set new head */
 243    } else {
 244       jcr->prev->next = jcr->next;    /* update prev */
 245    }
 246    if (jcr->next) {
 247       jcr->next->prev = jcr->prev;
 248    }
 249    Dmsg0(3400, "Leave remove_jcr\n");
 250 }
 251
 252 /*
 253  * Free stuff common to all JCRs.  N.B. Be careful to include only
 254  *  generic stuff in the common part of the jcr.
 255  */
 256 static void free_common_jcr(JCR *jcr)
 257 {
 258    struct s_last_job *je, last_job;
 259
 260    /* Keep some statistics */
 261    switch (jcr->JobType) {
 262    case JT_BACKUP:
 263    case JT_VERIFY:
 264    case JT_RESTORE:
 265    case JT_ADMIN:
 266       num_jobs_run++;
 267       last_job.Errors = jcr->Errors;
 268       last_job.JobType = jcr->JobType;
 269       last_job.JobId = jcr->JobId;
 270       last_job.VolSessionId = jcr->VolSessionId;
 271       last_job.VolSessionTime = jcr->VolSessionTime;
 272       bstrncpy(last_job.Job, jcr->Job, sizeof(last_job.Job));
 273       last_job.JobFiles = jcr->JobFiles;
 274       last_job.JobBytes = jcr->JobBytes;
 275       last_job.JobStatus = jcr->JobStatus;
 276       last_job.JobLevel = jcr->JobLevel;
 277       last_job.start_time = jcr->start_time;
 278       last_job.end_time = time(NULL);
 279       /* Keep list of last jobs, but not Console where JobId==0 */
 280       if (last_job.JobId > 0) {
 281          je = (struct s_last_job *)malloc(sizeof(struct s_last_job));
 282          memcpy((char *)je, (char *)&last_job, sizeof(last_job));
 283          if (!last_jobs) {
 284             init_last_jobs_list();
 285          }
 286          last_jobs->append(je);
 287          if (last_jobs->size() > max_last_jobs) {
 288             je = (struct s_last_job *)last_jobs->first();
 289             last_jobs->remove(je);
 290             free(je);
 291          }
 292       }
 293       break;
 294    default:
 295       break;
 296    }
 297    pthread_mutex_destroy(&jcr->mutex);
 298
 299    delete jcr->msg_queue;
 300    close_msg(jcr);                    /* close messages for this job */
 301
 302    /* do this after closing messages */
 303    if (jcr->client_name) {
 304       free_pool_memory(jcr->client_name);
 305       jcr->client_name = NULL;
 306    }
 307
 308    if (jcr->attr) {
 309       free_pool_memory(jcr->attr);
 310       jcr->attr = NULL;
 311    }
 312
 313    if (jcr->sd_auth_key) {
 314       free(jcr->sd_auth_key);
 315       jcr->sd_auth_key = NULL;
 316    }
 317    if (jcr->VolumeName) {
 318       free_pool_memory(jcr->VolumeName);
 319       jcr->VolumeName = NULL;
 320    }
 321
 322    if (jcr->dir_bsock) {
 323       bnet_close(jcr->dir_bsock);
 324       jcr->dir_bsock = NULL;
 325    }
 326    if (jcr->errmsg) {
 327       free_pool_memory(jcr->errmsg);
 328       jcr->errmsg = NULL;
 329    }
 330    if (jcr->where) {
 331       free(jcr->where);
 332       jcr->where = NULL;
 333    }
 334    if (jcr->cached_path) {
 335       free_pool_memory(jcr->cached_path);
 336       jcr->cached_path = NULL;
 337       jcr->cached_pnl = 0;
 338    }
 339    free_getuser_cache();
 340    free_getgroup_cache();
 341    free(jcr);
 342 }
 343
 344 /*
 345  * Global routine to free a jcr
 346  */
 347 #ifdef DEBUG
 348 void b_free_jcr(const char *file, int line, JCR *jcr)
 349 {
 350    Dmsg3(3400, "Enter free_jcr 0x%x from %s:%d\n", jcr, file, line);
 351
 352 #else
 353
 354 void free_jcr(JCR *jcr)
 355 {
 356
 357    Dmsg1(3400, "Enter free_jcr 0x%x\n", jcr);
 358
 359 #endif
 360
 361    dequeue_messages(jcr);
 362    lock_jcr_chain();
 363    jcr->use_count--;                  /* decrement use count */
 364    if (jcr->use_count < 0) {
 365       Emsg2(M_ERROR, 0, _("JCR use_count=%d JobId=%d\n"),
 366          jcr->use_count, jcr->JobId);
 367    }
 368    Dmsg3(3400, "Dec free_jcr 0x%x use_count=%d jobid=%d\n", jcr, jcr->use_count, jcr->JobId);
 369    if (jcr->use_count > 0) {          /* if in use */
 370       unlock_jcr_chain();
 371       Dmsg2(3400, "free_jcr 0x%x use_count=%d\n", jcr, jcr->use_count);
 372       return;
 373    }
 374
 375    remove_jcr(jcr);                   /* remove Jcr from chain */
 376    unlock_jcr_chain();
 377
 378    job_end_pop(jcr);                  /* pop and call hooked routines */
 379
 380    Dmsg1(3400, "End job=%d\n", jcr->JobId);
 381    if (jcr->daemon_free_jcr) {
 382       jcr->daemon_free_jcr(jcr);      /* call daemon free routine */
 383    }
 384    free_common_jcr(jcr);
 385    close_msg(NULL);                   /* flush any daemon messages */
 386    Dmsg0(3400, "Exit free_jcr\n");
 387 }
 388
 389
 390 /*
 391  * Global routine to free a jcr
 392  *  JCR chain is already locked
 393  */
 394 void free_locked_jcr(JCR *jcr)
 395 {
 396    jcr->use_count--;                  /* decrement use count */
 397    Dmsg2(3400, "Dec free_locked_jcr 0x%x use_count=%d\n", jcr, jcr->use_count);
 398    if (jcr->use_count > 0) {          /* if in use */
 399       return;
 400    }
 401    remove_jcr(jcr);
 402    jcr->daemon_free_jcr(jcr);         /* call daemon free routine */
 403    free_common_jcr(jcr);
 404 }
 405
 406
 407
 408 /*
 409  * Given a JobId, find the JCR
 410  *   Returns: jcr on success
 411  *            NULL on failure
 412  */
 413 JCR *get_jcr_by_id(uint32_t JobId)
 414 {
 415    JCR *jcr;
 416
 417    lock_jcr_chain();                    /* lock chain */
 418    for (jcr = jobs; jcr; jcr=jcr->next) {
 419       if (jcr->JobId == JobId) {
 420          P(jcr->mutex);
 421          jcr->use_count++;
 422          V(jcr->mutex);
 423          Dmsg2(3400, "Inc get_jcr 0x%x use_count=%d\n", jcr, jcr->use_count);
 424          break;
 425       }
 426    }
 427    unlock_jcr_chain();
 428    return jcr;
 429 }
 430
 431 /*
 432  * Given a SessionId and SessionTime, find the JCR
 433  *   Returns: jcr on success
 434  *            NULL on failure
 435  */
 436 JCR *get_jcr_by_session(uint32_t SessionId, uint32_t SessionTime)
 437 {
 438    JCR *jcr;
 439
 440    lock_jcr_chain();
 441    for (jcr = jobs; jcr; jcr=jcr->next) {
 442       if (jcr->VolSessionId == SessionId &&
 443           jcr->VolSessionTime == SessionTime) {
 444          P(jcr->mutex);
 445          jcr->use_count++;
 446          V(jcr->mutex);
 447          Dmsg2(3400, "Inc get_jcr 0x%x use_count=%d\n", jcr, jcr->use_count);
 448          break;
 449       }
 450    }
 451    unlock_jcr_chain();
 452    return jcr;
 453 }
 454
 455
 456 /*
 457  * Given a Job, find the JCR
 458  *  compares on the number of characters in Job
 459  *  thus allowing partial matches.
 460  *   Returns: jcr on success
 461  *            NULL on failure
 462  */
 463 JCR *get_jcr_by_partial_name(char *Job)
 464 {
 465    JCR *jcr;
 466    int len;
 467
 468    if (!Job) {
 469       return NULL;
 470    }
 471    lock_jcr_chain();
 472    len = strlen(Job);
 473    for (jcr = jobs; jcr; jcr=jcr->next) {
 474       if (strncmp(Job, jcr->Job, len) == 0) {
 475          P(jcr->mutex);
 476          jcr->use_count++;
 477          V(jcr->mutex);
 478          Dmsg2(3400, "Inc get_jcr 0x%x use_count=%d\n", jcr, jcr->use_count);
 479          break;
 480       }
 481    }
 482    unlock_jcr_chain();
 483    return jcr;
 484 }
 485
 486
 487 /*
 488  * Given a Job, find the JCR
 489  *  requires an exact match of names.
 490  *   Returns: jcr on success
 491  *            NULL on failure
 492  */
 493 JCR *get_jcr_by_full_name(char *Job)
 494 {
 495    JCR *jcr;
 496
 497    if (!Job) {
 498       return NULL;
 499    }
 500    lock_jcr_chain();
 501    for (jcr = jobs; jcr; jcr=jcr->next) {
 502       if (strcmp(jcr->Job, Job) == 0) {
 503          P(jcr->mutex);
 504          jcr->use_count++;
 505          V(jcr->mutex);
 506          Dmsg2(3400, "Inc get_jcr 0x%x use_count=%d\n", jcr, jcr->use_count);
 507          break;
 508       }
 509    }
 510    unlock_jcr_chain();
 511    return jcr;
 512 }
 513
 514 void set_jcr_job_status(JCR *jcr, int JobStatus)
 515 {
 516    /*
 517     * For a set of errors, ... keep the current status
 518     *   so it isn't lost. For all others, set it.
 519     */
 520    switch (jcr->JobStatus) {
 521    case JS_ErrorTerminated:
 522    case JS_Error:
 523    case JS_FatalError:
 524    case JS_Differences:
 525    case JS_Canceled:
 526       break;
 527    default:
 528       jcr->JobStatus = JobStatus;
 529    }
 530 }
 531
 532 #ifdef TRACE_JCR_CHAIN
 533 static int lock_count = 0;
 534 #endif
 535
 536 /*
 537  * Lock the chain
 538  */
 539 #ifdef TRACE_JCR_CHAIN
 540 void b_lock_jcr_chain(const char *fname, int line)
 541 #else
 542 void lock_jcr_chain()
 543 #endif
 544 {
 545    int errstat;
 546 #ifdef TRACE_JCR_CHAIN
 547    Dmsg3(3400, "Lock jcr chain %d from %s:%d\n", ++lock_count,
 548       fname, line);
 549 #endif
 550    if ((errstat=rwl_writelock(&lock)) != 0) {
 551       Emsg1(M_ABORT, 0, "rwl_writelock failure. ERR=%s\n",
 552            strerror(errstat));
 553    }
 554 }
 555
 556 /*
 557  * Unlock the chain
 558  */
 559 #ifdef TRACE_JCR_CHAIN
 560 void b_unlock_jcr_chain(const char *fname, int line)
 561 #else
 562 void unlock_jcr_chain()
 563 #endif
 564 {
 565    int errstat;
 566 #ifdef TRACE_JCR_CHAIN
 567    Dmsg3(3400, "Unlock jcr chain %d from %s:%d\n", lock_count--,
 568       fname, line);
 569 #endif
 570    if ((errstat=rwl_writeunlock(&lock)) != 0) {
 571       Emsg1(M_ABORT, 0, "rwl_writeunlock failure. ERR=%s\n",
 572            strerror(errstat));
 573    }
 574 }
 575
 576
 577 JCR *get_next_jcr(JCR *prev_jcr)
 578 {
 579    JCR *jcr;
 580
 581    if (prev_jcr == NULL) {
 582       jcr = jobs;
 583    } else {
 584       jcr = prev_jcr->next;
 585    }
 586    if (jcr) {
 587       P(jcr->mutex);
 588       jcr->use_count++;
 589       V(jcr->mutex);
 590       Dmsg2(3400, "Inc get_next_jcr 0x%x use_count=%d\n", jcr, jcr->use_count);
 591    }
 592    return jcr;
 593 }
 594
 595 bool init_jcr_subsystem(void)
 596 {
 597    watchdog_t *wd = new_watchdog();
 598
 599    wd->one_shot = false;
 600    wd->interval = 30;   /* FIXME: should be configurable somewhere, even
 601                          if only with a #define */
 602    wd->callback = jcr_timeout_check;
 603
 604    register_watchdog(wd);
 605
 606    return true;
 607 }
 608
 609 static void jcr_timeout_check(watchdog_t *self)
 610 {
 611    JCR *jcr;
 612    BSOCK *fd;
 613    time_t timer_start;
 614
 615    Dmsg0(3400, "Start JCR timeout checks\n");
 616
 617    /* Walk through all JCRs checking if any one is
 618     * blocked for more than specified max time.
 619     */
 620    lock_jcr_chain();
 621    foreach_jcr(jcr) {
 622       free_locked_jcr(jcr);           /* OK to free now cuz chain is locked */
 623       if (jcr->JobId == 0) {
 624          continue;
 625       }
 626       fd = jcr->store_bsock;
 627       if (fd) {
 628          timer_start = fd->timer_start;
 629          if (timer_start && (watchdog_time - timer_start) > fd->timeout) {
 630             fd->timer_start = 0;      /* turn off timer */
 631             fd->timed_out = TRUE;
 632             Jmsg(jcr, M_ERROR, 0, _(
 633 "Watchdog sending kill after %d secs to thread stalled reading Storage daemon.\n"),
 634                  watchdog_time - timer_start);
 635             pthread_kill(jcr->my_thread_id, TIMEOUT_SIGNAL);
 636          }
 637       }
 638       fd = jcr->file_bsock;
 639       if (fd) {
 640          timer_start = fd->timer_start;
 641          if (timer_start && (watchdog_time - timer_start) > fd->timeout) {
 642             fd->timer_start = 0;      /* turn off timer */
 643             fd->timed_out = TRUE;
 644             Jmsg(jcr, M_ERROR, 0, _(
 645 "Watchdog sending kill after %d secs to thread stalled reading File daemon.\n"),
 646                  watchdog_time - timer_start);
 647             pthread_kill(jcr->my_thread_id, TIMEOUT_SIGNAL);
 648          }
 649       }
 650       fd = jcr->dir_bsock;
 651       if (fd) {
 652          timer_start = fd->timer_start;
 653          if (timer_start && (watchdog_time - timer_start) > fd->timeout) {
 654             fd->timer_start = 0;      /* turn off timer */
 655             fd->timed_out = TRUE;
 656             Jmsg(jcr, M_ERROR, 0, _(
 657 "Watchdog sending kill after %d secs to thread stalled reading Director.\n"),
 658                  watchdog_time - timer_start);
 659             pthread_kill(jcr->my_thread_id, TIMEOUT_SIGNAL);
 660          }
 661       }
 662
 663    }
 664    unlock_jcr_chain();
 665
 666    Dmsg0(3400, "Finished JCR timeout checks\n");
 667 }
 668
 669 /*
 670  * Timeout signal comes here
 671  */
 672 extern "C" void timeout_handler(int sig)
 673 {
 674    return;                            /* thus interrupting the function */
 675 }