git.sur5r.net Git - bacula/bacula/blob - bacula/src/stored/block.c

   1 /*
   2  *
   3  *   block.c -- tape block handling functions
   4  *
   5  *              Kern Sibbald, March MMI
   6  *                 added BB02 format October MMII
   7  *
   8  *   Version $Id$
   9  *
  10  */
  11 /*
  12    Copyright (C) 2000-2004 Kern Sibbald and John Walker
  13
  14    This program is free software; you can redistribute it and/or
  15    modify it under the terms of the GNU General Public License as
  16    published by the Free Software Foundation; either version 2 of
  17    the License, or (at your option) any later version.
  18
  19    This program is distributed in the hope that it will be useful,
  20    but WITHOUT ANY WARRANTY; without even the implied warranty of
  21    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  22    General Public License for more details.
  23
  24    You should have received a copy of the GNU General Public
  25    License along with this program; if not, write to the Free
  26    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  27    MA 02111-1307, USA.
  28
  29  */
  30
  31
  32 #include "bacula.h"
  33 #include "stored.h"
  34
  35 extern int debug_level;
  36
  37 /*
  38  * Dump the block header, then walk through
  39  * the block printing out the record headers.
  40  */
  41 void dump_block(DEV_BLOCK *b, const char *msg)
  42 {
  43    ser_declare;
  44    char *p;
  45    char Id[BLKHDR_ID_LENGTH+1];
  46    uint32_t CheckSum, BlockCheckSum;
  47    uint32_t block_len;
  48    uint32_t BlockNumber;
  49    uint32_t VolSessionId, VolSessionTime, data_len;
  50    int32_t  FileIndex;
  51    int32_t  Stream;
  52    int bhl, rhl;
  53
  54    unser_begin(b->buf, BLKHDR1_LENGTH);
  55    unser_uint32(CheckSum);
  56    unser_uint32(block_len);
  57    unser_uint32(BlockNumber);
  58    unser_bytes(Id, BLKHDR_ID_LENGTH);
  59    ASSERT(unser_length(b->buf) == BLKHDR1_LENGTH);
  60    Id[BLKHDR_ID_LENGTH] = 0;
  61    if (Id[3] == '2') {
  62       unser_uint32(VolSessionId);
  63       unser_uint32(VolSessionTime);
  64       bhl = BLKHDR2_LENGTH;
  65       rhl = RECHDR2_LENGTH;
  66    } else {
  67       VolSessionId = VolSessionTime = 0;
  68       bhl = BLKHDR1_LENGTH;
  69       rhl = RECHDR1_LENGTH;
  70    }
  71
  72    if (block_len > 100000) {
  73       Dmsg3(20, "Dump block %s 0x%x blocksize too big %u\n", msg, b, block_len);
  74       return;
  75    }
  76
  77    BlockCheckSum = bcrc32((uint8_t *)b->buf+BLKHDR_CS_LENGTH,
  78                          block_len-BLKHDR_CS_LENGTH);
  79    Pmsg6(000, "Dump block %s %x: size=%d BlkNum=%d\n\
  80                Hdrcksum=%x cksum=%x\n",
  81       msg, b, block_len, BlockNumber, CheckSum, BlockCheckSum);
  82    p = b->buf + bhl;
  83    while (p < (b->buf + block_len+WRITE_RECHDR_LENGTH)) {
  84       unser_begin(p, WRITE_RECHDR_LENGTH);
  85       if (rhl == RECHDR1_LENGTH) {
  86          unser_uint32(VolSessionId);
  87          unser_uint32(VolSessionTime);
  88       }
  89       unser_int32(FileIndex);
  90       unser_int32(Stream);
  91       unser_uint32(data_len);
  92       Pmsg6(000, "   Rec: VId=%u VT=%u FI=%s Strm=%s len=%d p=%x\n",
  93            VolSessionId, VolSessionTime, FI_to_ascii(FileIndex),
  94            stream_to_ascii(Stream, FileIndex), data_len, p);
  95       p += data_len + rhl;
  96   }
  97 }
  98
  99 /*
 100  * Create a new block structure.
 101  * We pass device so that the block can inherit the
 102  * min and max block sizes.
 103  */
 104 DEV_BLOCK *new_block(DEVICE *dev)
 105 {
 106    DEV_BLOCK *block = (DEV_BLOCK *)get_memory(sizeof(DEV_BLOCK));
 107
 108    memset(block, 0, sizeof(DEV_BLOCK));
 109
 110    /* If the user has specified a max_block_size, use it as the default */
 111    if (dev->max_block_size == 0) {
 112       block->buf_len = DEFAULT_BLOCK_SIZE;
 113    } else {
 114       block->buf_len = dev->max_block_size;
 115    }
 116    block->dev = dev;
 117    block->block_len = block->buf_len;  /* default block size */
 118    block->buf = get_memory(block->buf_len);
 119    empty_block(block);
 120    block->BlockVer = BLOCK_VER;       /* default write version */
 121    Dmsg1(90, "Returning new block=%x\n", block);
 122    return block;
 123 }
 124
 125
 126 /*
 127  * Duplicate an existing block (eblock)
 128  */
 129 DEV_BLOCK *dup_block(DEV_BLOCK *eblock)
 130 {
 131    DEV_BLOCK *block = (DEV_BLOCK *)get_memory(sizeof(DEV_BLOCK));
 132    int buf_len = sizeof_pool_memory(eblock->buf);
 133
 134    memcpy(block, eblock, sizeof(DEV_BLOCK));
 135    block->buf = get_memory(buf_len);
 136    memcpy(block->buf, eblock->buf, buf_len);
 137    return block;
 138 }
 139
 140
 141 /*
 142  * Only the first block checksum error was reported.
 143  *   If there are more, report it now.
 144  */
 145 void print_block_read_errors(JCR *jcr, DEV_BLOCK *block)
 146 {
 147    if (block->read_errors > 1) {
 148       Jmsg(jcr, M_ERROR, 0, _("%d block read errors not printed.\n"),
 149          block->read_errors);
 150    }
 151 }
 152
 153 /*
 154  * Free block
 155  */
 156 void free_block(DEV_BLOCK *block)
 157 {
 158    Dmsg1(199, "free_block buffer %x\n", block->buf);
 159    free_memory(block->buf);
 160    Dmsg1(199, "free_block block %x\n", block);
 161    free_memory((POOLMEM *)block);
 162 }
 163
 164 /* Empty the block -- for writing */
 165 void empty_block(DEV_BLOCK *block)
 166 {
 167    block->binbuf = WRITE_BLKHDR_LENGTH;
 168    block->bufp = block->buf + block->binbuf;
 169    block->read_len = 0;
 170    block->write_failed = false;
 171    block->block_read = false;
 172    block->FirstIndex = block->LastIndex = 0;
 173 }
 174
 175 /*
 176  * Create block header just before write. The space
 177  * in the buffer should have already been reserved by
 178  * init_block.
 179  */
 180 void ser_block_header(DEV_BLOCK *block)
 181 {
 182    ser_declare;
 183    uint32_t CheckSum = 0;
 184    uint32_t block_len = block->binbuf;
 185
 186    Dmsg1(190, "ser_block_header: block_len=%d\n", block_len);
 187    ser_begin(block->buf, BLKHDR2_LENGTH);
 188    ser_uint32(CheckSum);
 189    ser_uint32(block_len);
 190    ser_uint32(block->BlockNumber);
 191    ser_bytes(WRITE_BLKHDR_ID, BLKHDR_ID_LENGTH);
 192    if (BLOCK_VER >= 2) {
 193       ser_uint32(block->VolSessionId);
 194       ser_uint32(block->VolSessionTime);
 195    }
 196
 197    /* Checksum whole block except for the checksum */
 198    CheckSum = bcrc32((uint8_t *)block->buf+BLKHDR_CS_LENGTH,
 199                  block_len-BLKHDR_CS_LENGTH);
 200    Dmsg1(190, "ser_bloc_header: checksum=%x\n", CheckSum);
 201    ser_begin(block->buf, BLKHDR2_LENGTH);
 202    ser_uint32(CheckSum);              /* now add checksum to block header */
 203 }
 204
 205 /*
 206  * Unserialize the block header for reading block.
 207  *  This includes setting all the buffer pointers correctly.
 208  *
 209  *  Returns: false on failure (not a block)
 210  *           true  on success
 211  */
 212 static bool unser_block_header(JCR *jcr, DEVICE *dev, DEV_BLOCK *block)
 213 {
 214    ser_declare;
 215    char Id[BLKHDR_ID_LENGTH+1];
 216    uint32_t CheckSum, BlockCheckSum;
 217    uint32_t block_len;
 218    uint32_t block_end;
 219    uint32_t BlockNumber;
 220    int bhl;
 221
 222    unser_begin(block->buf, BLKHDR_LENGTH);
 223    unser_uint32(CheckSum);
 224    unser_uint32(block_len);
 225    unser_uint32(BlockNumber);
 226    unser_bytes(Id, BLKHDR_ID_LENGTH);
 227    ASSERT(unser_length(block->buf) == BLKHDR1_LENGTH);
 228
 229    Id[BLKHDR_ID_LENGTH] = 0;
 230    if (Id[3] == '1') {
 231       bhl = BLKHDR1_LENGTH;
 232       block->BlockVer = 1;
 233       block->bufp = block->buf + bhl;
 234       if (strncmp(Id, BLKHDR1_ID, BLKHDR_ID_LENGTH) != 0) {
 235          dev->dev_errno = EIO;
 236          Mmsg4(dev->errmsg, _("Volume data error at %u:%u! Wanted ID: \"%s\", got \"%s\". Buffer discarded.\n"),
 237             dev->file, dev->block_num, BLKHDR1_ID, Id);
 238          if (block->read_errors == 0 || verbose >= 2) {
 239             Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 240          }
 241          block->read_errors++;
 242          return false;
 243       }
 244    } else if (Id[3] == '2') {
 245       unser_uint32(block->VolSessionId);
 246       unser_uint32(block->VolSessionTime);
 247       bhl = BLKHDR2_LENGTH;
 248       block->BlockVer = 2;
 249       block->bufp = block->buf + bhl;
 250       if (strncmp(Id, BLKHDR2_ID, BLKHDR_ID_LENGTH) != 0) {
 251          dev->dev_errno = EIO;
 252          Mmsg4(dev->errmsg, _("Volume data error at %u:%u! Wanted ID: \"%s\", got \"%s\". Buffer discarded.\n"),
 253             dev->file, dev->block_num, BLKHDR2_ID, Id);
 254          if (block->read_errors == 0 || verbose >= 2) {
 255             Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 256          }
 257          block->read_errors++;
 258          return false;
 259       }
 260    } else {
 261       dev->dev_errno = EIO;
 262       Mmsg4(dev->errmsg, _("Volume data error at %u:%u! Wanted ID: \"%s\", got \"%s\". Buffer discarded.\n"),
 263           dev->file, dev->block_num, BLKHDR2_ID, Id);
 264       if (block->read_errors == 0 || verbose >= 2) {
 265          Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 266       }
 267       block->read_errors++;
 268       unser_uint32(block->VolSessionId);
 269       unser_uint32(block->VolSessionTime);
 270       return false;
 271    }
 272
 273    /* Sanity check */
 274    if (block_len > MAX_BLOCK_LENGTH) {
 275       dev->dev_errno = EIO;
 276       Mmsg3(dev->errmsg,  _("Volume data error at %u:%u! Block length %u is insane (too large), probably due to a bad archive.\n"),
 277          dev->file, dev->block_num, block_len);
 278       if (block->read_errors == 0 || verbose >= 2) {
 279          Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 280       }
 281       block->read_errors++;
 282       return false;
 283    }
 284
 285    Dmsg1(190, "unser_block_header block_len=%d\n", block_len);
 286    /* Find end of block or end of buffer whichever is smaller */
 287    if (block_len > block->read_len) {
 288       block_end = block->read_len;
 289    } else {
 290       block_end = block_len;
 291    }
 292    block->binbuf = block_end - bhl;
 293    block->block_len = block_len;
 294    block->BlockNumber = BlockNumber;
 295    Dmsg3(190, "Read binbuf = %d %d block_len=%d\n", block->binbuf,
 296       bhl, block_len);
 297    if (block_len <= block->read_len) {
 298       BlockCheckSum = bcrc32((uint8_t *)block->buf+BLKHDR_CS_LENGTH,
 299                          block_len-BLKHDR_CS_LENGTH);
 300       if (BlockCheckSum != CheckSum) {
 301          dev->dev_errno = EIO;
 302          Mmsg5(dev->errmsg, _("Volume data error at %u:%u! Block checksum mismatch in block %u: calc=%x blk=%x\n"),
 303             dev->file, dev->block_num, (unsigned)BlockNumber, BlockCheckSum, CheckSum);
 304          if (block->read_errors == 0 || verbose >= 2) {
 305             Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 306          }
 307          block->read_errors++;
 308          if (!forge_on) {
 309             return false;
 310          }
 311       }
 312    }
 313    return true;
 314 }
 315
 316 /*
 317  * Write a block to the device, with locking and unlocking
 318  *
 319  * Returns: true  on success
 320  *        : false on failure
 321  *
 322  */
 323 bool write_block_to_device(DCR *dcr)
 324 {
 325    bool stat = true;
 326    DEVICE *dev = dcr->dev;
 327    JCR *jcr = dcr->jcr;
 328
 329    if (dcr->spooling) {
 330       stat = write_block_to_spool_file(dcr);
 331       return stat;
 332    }
 333
 334    if (!dcr->dev_locked) {
 335       lock_device(dev);
 336    }
 337
 338    /*
 339     * If a new volume has been mounted since our last write
 340     *   Create a JobMedia record for the previous volume written,
 341     *   and set new parameters to write this volume
 342     * The same applies for if we are in a new file.
 343     */
 344    if (dcr->NewVol || dcr->NewFile) {
 345       /* Create a jobmedia record for this job */
 346       if (!dir_create_jobmedia_record(dcr)) {
 347          dev->dev_errno = EIO;
 348          Jmsg(jcr, M_FATAL, 0, _("Could not create JobMedia record for Volume=\"%s\" Job=%s\n"),
 349             dcr->VolCatInfo.VolCatName, jcr->Job);
 350          set_new_volume_parameters(dcr);
 351          stat = false;
 352          goto bail_out;
 353       }
 354       if (dcr->NewVol) {
 355          /* Note, setting a new volume also handles any pending new file */
 356          set_new_volume_parameters(dcr);
 357          dcr->NewFile = false;        /* this handled for new file too */
 358       } else {
 359          set_new_file_parameters(dcr);
 360       }
 361    }
 362
 363    if (!write_block_to_dev(dcr)) {
 364        if (job_canceled(jcr)) {
 365           stat = 0;
 366        } else {
 367           stat = fixup_device_block_write_error(dcr);
 368        }
 369    }
 370
 371 bail_out:
 372    if (!dcr->dev_locked) {
 373       unlock_device(dev);
 374    }
 375    return stat;
 376 }
 377
 378 /*
 379  * Write a block to the device
 380  *
 381  *  Returns: true  on success or EOT
 382  *           false on hard error
 383  */
 384 bool write_block_to_dev(DCR *dcr)
 385 {
 386    ssize_t stat = 0;
 387    uint32_t wlen;                     /* length to write */
 388    int hit_max1, hit_max2;
 389    bool ok = true;
 390    DEVICE *dev = dcr->dev;
 391    JCR *jcr = dcr->jcr;
 392    DEV_BLOCK *block = dcr->block;
 393
 394 #ifdef NO_TAPE_WRITE_TEST
 395    empty_block(block);
 396    return true;
 397 #endif
 398    ASSERT(block->binbuf == ((uint32_t) (block->bufp - block->buf)));
 399
 400    /* dump_block(block, "before write"); */
 401    if (dev->state & ST_WEOT) {
 402       Dmsg0(100, "return write_block_to_dev with ST_WEOT\n");
 403       dev->dev_errno = ENOSPC;
 404       Jmsg(jcr, M_FATAL, 0,  _("Cannot write block. Device at EOM.\n"));
 405       return false;
 406    }
 407    wlen = block->binbuf;
 408    if (wlen <= WRITE_BLKHDR_LENGTH) {  /* Does block have data in it? */
 409       Dmsg0(100, "return write_block_to_dev no data to write\n");
 410       return true;
 411    }
 412    /*
 413     * Clear to the end of the buffer if it is not full,
 414     *  and on tape devices, apply min and fixed blocking.
 415     */
 416    if (wlen != block->buf_len) {
 417       uint32_t blen;                  /* current buffer length */
 418
 419       Dmsg2(200, "binbuf=%d buf_len=%d\n", block->binbuf, block->buf_len);
 420       blen = wlen;
 421
 422       /* Adjust write size to min/max for tapes only */
 423       if (dev->state & ST_TAPE) {
 424          /* check for fixed block size */
 425          if (dev->min_block_size == dev->max_block_size) {
 426             wlen = block->buf_len;    /* fixed block size already rounded */
 427          /* Check for min block size */
 428          } else if (wlen < dev->min_block_size) {
 429             wlen =  ((dev->min_block_size + TAPE_BSIZE - 1) / TAPE_BSIZE) * TAPE_BSIZE;
 430          /* Ensure size is rounded */
 431          } else {
 432             wlen = ((wlen + TAPE_BSIZE - 1) / TAPE_BSIZE) * TAPE_BSIZE;
 433          }
 434       }
 435       if (wlen-blen > 0) {
 436          memset(block->bufp, 0, wlen-blen); /* clear garbage */
 437       }
 438    }
 439
 440    ser_block_header(block);
 441
 442    /* Limit maximum Volume size to value specified by user */
 443    hit_max1 = (dev->max_volume_size > 0) &&
 444        ((dev->VolCatInfo.VolCatBytes + block->binbuf)) >= dev->max_volume_size;
 445    hit_max2 = (dev->VolCatInfo.VolCatMaxBytes > 0) &&
 446        ((dev->VolCatInfo.VolCatBytes + block->binbuf)) >= dev->VolCatInfo.VolCatMaxBytes;
 447    if (hit_max1 || hit_max2) {
 448       char ed1[50];
 449       uint64_t max_cap;
 450       Dmsg0(10, "==== Output bytes Triggered medium max capacity.\n");
 451       if (hit_max1) {
 452          max_cap = dev->max_volume_size;
 453       } else {
 454          max_cap = dev->VolCatInfo.VolCatMaxBytes;
 455       }
 456       Jmsg(jcr, M_INFO, 0, _("User defined maximum volume capacity %s exceeded on device %s.\n"),
 457             edit_uint64_with_commas(max_cap, ed1),  dev->dev_name);
 458       block->write_failed = true;
 459       if (weof_dev(dev, 1) != 0) {            /* end tape */
 460          Jmsg(jcr, M_FATAL, 0, "%s", dev->errmsg);
 461          dev->VolCatInfo.VolCatErrors++;
 462       }
 463       /* Don't do update after second EOF or file count will be wrong */
 464       Dmsg0(100, "dir_update_volume_info\n");
 465       dev->VolCatInfo.VolCatFiles = dev->file;
 466       dir_update_volume_info(dcr, false);
 467       if (dev_cap(dev, CAP_TWOEOF) && weof_dev(dev, 1) != 0) {  /* write eof */
 468          /* This may not be fatal since we already wrote an EOF */
 469          Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 470          dev->VolCatInfo.VolCatErrors++;
 471       }
 472       dev->state |= (ST_EOF | ST_EOT | ST_WEOT);
 473       dev->dev_errno = ENOSPC;
 474       return false;
 475    }
 476
 477    /* Limit maximum File size on volume to user specified value */
 478    if ((dev->max_file_size > 0) &&
 479        (dev->file_size+block->binbuf) >= dev->max_file_size) {
 480
 481       if (dev_state(dev, ST_TAPE) && weof_dev(dev, 1) != 0) {            /* write eof */
 482          /* Write EOF */
 483          Jmsg(jcr, M_FATAL, 0, "%s", dev->errmsg);
 484          block->write_failed = true;
 485          dev->VolCatInfo.VolCatErrors++;
 486          dev->state |= (ST_EOF | ST_EOT | ST_WEOT);
 487          Dmsg0(100, "dir_update_volume_info\n");
 488          dev->VolCatInfo.VolCatFiles = dev->file;
 489          dir_update_volume_info(dcr, false);
 490          dev->dev_errno = ENOSPC;
 491          return false;
 492       }
 493
 494       /* Create a JobMedia record so restore can seek */
 495       Dmsg0(100, "dir_update_volume_info\n");
 496       dev->VolCatInfo.VolCatFiles = dev->file;
 497       dir_update_volume_info(dcr, false);
 498       if (!dir_create_jobmedia_record(dcr)) {
 499          dev->dev_errno = EIO;
 500           Jmsg(jcr, M_ERROR, 0, _("Could not create JobMedia record for Volume=\"%s\" Job=%s\n"),
 501                dcr->VolCatInfo.VolCatName, jcr->Job);
 502           if (!forge_on) {
 503              return false;
 504           }
 505       }
 506       dev->file_size = 0;             /* reset file size */
 507       /*
 508        * Walk through all attached jcrs indicating the file has changed
 509        */
 510       Dmsg1(100, "Walk attached jcrs. Volume=%s\n", dev->VolCatInfo.VolCatName);
 511 #ifdef xxx
 512       for (JCR *mjcr=NULL; (mjcr=next_attached_jcr(dev, mjcr)); ) {
 513          if (mjcr->JobId == 0) {
 514             continue;                 /* ignore console */
 515          }
 516          mjcr->dcr->NewFile = true;   /* set reminder to do set_new_file_params */
 517       }
 518 #endif
 519       /*
 520        * Walk through all attached dcrs setting flag to call
 521        * set_new_file_parameters() when that dcr is next used.
 522        */
 523       DCR *mdcr;
 524       foreach_dlist(mdcr, dev->attached_dcrs) {
 525          if (mdcr->jcr->JobId == 0) {
 526             continue;
 527          }
 528          mdcr->NewFile = true;        /* set reminder to do set_new_file_params */
 529       }
 530       /* Set new file/block parameters for current dcr */
 531       set_new_file_parameters(dcr);
 532    }
 533
 534    dev->VolCatInfo.VolCatWrites++;
 535    Dmsg1(200, "Write block of %u bytes\n", wlen);
 536 #ifdef DEBUG_BLOCK_ZEROING
 537    uint32_t *bp = (uint32_t *)block->buf;
 538    if (bp[0] == 0 && bp[1] == 0 && bp[2] == 0 && block->buf[12] == 0) {
 539       Jmsg0(jcr, M_ABORT, 0, "Write block header zeroed.\n");
 540    }
 541 #endif
 542
 543    stat = write(dev->fd, block->buf, (size_t)wlen);
 544
 545 #ifdef DEBUG_BLOCK_ZEROING
 546    if (bp[0] == 0 && bp[1] == 0 && bp[2] == 0 && block->buf[12] == 0) {
 547       Jmsg0(jcr, M_ABORT, 0, "Write block header zeroed.\n");
 548    }
 549 #endif
 550
 551    if (stat != (ssize_t)wlen) {
 552       /* Some devices simply report EIO when the volume is full.
 553        * With a little more thought we may be able to check
 554        * capacity and distinguish real errors and EOT
 555        * conditions.  In any case, we probably want to
 556        * simulate an End of Medium.
 557        */
 558       if (stat == -1) {
 559          berrno be;
 560          /* I have added the ifdefing here because it appears on
 561           * FreeBSD where MTIOCERRSTAT is defined, this not only
 562           * clears the error but clears the residual unwritten
 563           * buffers -> data loss. As a consequence, on those
 564           * systems (FreeBSD like), do the clrerror() only after
 565           * the weof_dev() call.
 566           */
 567          clrerror_dev(dev, -1);
 568          if (dev->dev_errno == 0) {
 569             dev->dev_errno = ENOSPC;        /* out of space */
 570          }
 571          if (dev->dev_errno != ENOSPC) {
 572             Jmsg4(jcr, M_ERROR, 0, _("Write error at %u:%u on device %s. ERR=%s.\n"),
 573                dev->file, dev->block_num, dev->dev_name, be.strerror());
 574          }
 575       } else {
 576         dev->dev_errno = ENOSPC;            /* out of space */
 577       }
 578       if (dev->dev_errno == ENOSPC) {
 579          Jmsg(jcr, M_INFO, 0, _("End of Volume \"%s\" at %u:%u on device %s. Write of %u bytes got %d.\n"),
 580             dev->VolCatInfo.VolCatName,
 581             dev->file, dev->block_num, dev->dev_name, wlen, stat);
 582       }
 583       Dmsg6(100, "=== Write error. size=%u rtn=%d dev_blk=%d blk_blk=%d errno=%d: ERR=%s\n",
 584          wlen, stat, dev->block_num, block->BlockNumber, dev->dev_errno, strerror(dev->dev_errno));
 585
 586       block->write_failed = true;
 587       if (weof_dev(dev, 1) != 0) {         /* end the tape */
 588          dev->VolCatInfo.VolCatErrors++;
 589          Jmsg(jcr, M_FATAL, 0, "%s", dev->errmsg);
 590          ok = false;
 591       }
 592       Dmsg0(100, "dir_update_volume_info\n");
 593       dev->VolCatInfo.VolCatFiles = dev->file;
 594       dir_update_volume_info(dcr, false);
 595       if (ok && dev_cap(dev, CAP_TWOEOF) && weof_dev(dev, 1) != 0) {  /* end the tape */
 596          dev->VolCatInfo.VolCatErrors++;
 597          /* This may not be fatal since we already wrote an EOF */
 598          Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 599       }
 600       dev->state |= (ST_EOF | ST_EOT | ST_WEOT);
 601
 602 #define CHECK_LAST_BLOCK
 603 #ifdef  CHECK_LAST_BLOCK
 604       /*
 605        * If the device is a tape and it supports backspace record,
 606        *   we backspace over one or two eof marks depending on
 607        *   how many we just wrote, then over the last record,
 608        *   then re-read it and verify that the block number is
 609        *   correct.
 610        */
 611       if (ok && (dev->state & ST_TAPE) && dev_cap(dev, CAP_BSR)) {
 612          /* Now back up over what we wrote and read the last block */
 613          if (!bsf_dev(dev, 1)) {
 614             ok = false;
 615             Jmsg(jcr, M_ERROR, 0, _("Backspace file at EOT failed. ERR=%s\n"), strerror(dev->dev_errno));
 616          }
 617          if (ok && dev_cap(dev, CAP_TWOEOF) && !bsf_dev(dev, 1)) {
 618             ok = false;
 619             Jmsg(jcr, M_ERROR, 0, _("Backspace file at EOT failed. ERR=%s\n"), strerror(dev->dev_errno));
 620          }
 621          /* Backspace over record */
 622          if (ok && !bsr_dev(dev, 1)) {
 623             ok = false;
 624             Jmsg(jcr, M_ERROR, 0, _("Backspace record at EOT failed. ERR=%s\n"), strerror(dev->dev_errno));
 625             /*
 626              *  On FreeBSD systems, if the user got here, it is likely that his/her
 627              *    tape drive is "frozen".  The correct thing to do is a
 628              *    rewind(), but if we do that, higher levels in cleaning up, will
 629              *    most likely write the EOS record over the beginning of the
 630              *    tape.  The rewind *is* done later in mount.c when another
 631              *    tape is requested. Note, the clrerror_dev() call in bsr_dev()
 632              *    calls ioctl(MTCERRSTAT), which *should* fix the problem.
 633              */
 634          }
 635          if (ok) {
 636             DEV_BLOCK *lblock = new_block(dev);
 637             /* Note, this can destroy dev->errmsg */
 638             dcr->block = lblock;
 639             if (!read_block_from_dev(dcr, NO_BLOCK_NUMBER_CHECK)) {
 640                Jmsg(jcr, M_ERROR, 0, _("Re-read last block at EOT failed. ERR=%s"), dev->errmsg);
 641             } else {
 642                if (lblock->BlockNumber+1 == block->BlockNumber) {
 643                   Jmsg(jcr, M_INFO, 0, _("Re-read of last block succeeded.\n"));
 644                } else {
 645                   Jmsg(jcr, M_ERROR, 0, _(
 646 "Re-read of last block failed. Last block=%u Current block=%u.\n"),
 647                        lblock->BlockNumber, block->BlockNumber);
 648                }
 649             }
 650             free_block(lblock);
 651             dcr->block = block;
 652          }
 653       }
 654 #endif
 655       return false;
 656    }
 657
 658    /* We successfully wrote the block, now do housekeeping */
 659
 660    dev->VolCatInfo.VolCatBytes += block->binbuf;
 661    dev->VolCatInfo.VolCatBlocks++;
 662    dev->EndBlock = dev->block_num;
 663    dev->EndFile  = dev->file;
 664    dev->block_num++;
 665    block->BlockNumber++;
 666
 667    /* Update dcr values */
 668    if (dev_state(dev, ST_TAPE)) {
 669       dcr->EndBlock = dev->EndBlock;
 670       dcr->EndFile  = dev->EndFile;
 671    } else {
 672       /* Save address of start of block just written */
 673       dcr->EndBlock = (uint32_t)dev->file_addr;
 674       dcr->EndFile = (uint32_t)(dev->file_addr >> 32);
 675    }
 676    if (dcr->VolFirstIndex == 0 && block->FirstIndex > 0) {
 677       dcr->VolFirstIndex = block->FirstIndex;
 678    }
 679    if (block->LastIndex > 0) {
 680       dcr->VolLastIndex = block->LastIndex;
 681    }
 682    dcr->WroteVol = true;
 683    dev->file_addr += wlen;            /* update file address */
 684    dev->file_size += wlen;
 685
 686    Dmsg2(190, "write_block: wrote block %d bytes=%d\n", dev->block_num,
 687       wlen);
 688    empty_block(block);
 689    return true;
 690 }
 691
 692 /*
 693  * Read block with locking
 694  *
 695  */
 696 bool read_block_from_device(DCR *dcr, bool check_block_numbers)
 697 {
 698    bool stat;
 699    DEVICE *dev = dcr->dev;
 700    Dmsg0(90, "Enter read_block_from_device\n");
 701    lock_device(dev);
 702    stat = read_block_from_dev(dcr, check_block_numbers);
 703    unlock_device(dev);
 704    Dmsg0(90, "Leave read_block_from_device\n");
 705    return stat;
 706 }
 707
 708 /*
 709  * Read the next block into the block structure and unserialize
 710  *  the block header.  For a file, the block may be partially
 711  *  or completely in the current buffer.
 712  */
 713 bool read_block_from_dev(DCR *dcr, bool check_block_numbers)
 714 {
 715    ssize_t stat;
 716    int looping;
 717    uint32_t BlockNumber;
 718    int retry;
 719    JCR *jcr = dcr->jcr;
 720    DEVICE *dev = dcr->dev;
 721    DEV_BLOCK *block = dcr->block;
 722
 723    if (dev_state(dev, ST_EOT)) {
 724       return false;
 725    }
 726    looping = 0;
 727    Dmsg1(100, "Full read() in read_block_from_device() len=%d\n",
 728          block->buf_len);
 729 reread:
 730    if (looping > 1) {
 731       dev->dev_errno = EIO;
 732       Mmsg1(dev->errmsg, _("Block buffer size looping problem on device %s\n"),
 733          dev->dev_name);
 734       Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 735       block->read_len = 0;
 736       return false;
 737    }
 738    retry = 0;
 739    do {
 740 //    uint32_t *bp = (uint32_t *)block->buf;
 741 //    Dmsg3(000, "Read %p %u at %llu\n", block->buf, block->buf_len, lseek(dev->fd, 0, SEEK_CUR));
 742
 743       stat = read(dev->fd, block->buf, (size_t)block->buf_len);
 744
 745 //    Dmsg8(000, "stat=%d Csum=%u blen=%u bnum=%u %c%c%c%c\n",stat, bp[0],bp[1],bp[2],
 746 //      block->buf[12],block->buf[13],block->buf[14],block->buf[15]);
 747
 748       if (retry == 1) {
 749          dev->VolCatInfo.VolCatErrors++;
 750       }
 751    } while (stat == -1 && (errno == EINTR || errno == EIO) && retry++ < 11);
 752    if (stat < 0) {
 753       clrerror_dev(dev, -1);
 754       Dmsg1(90, "Read device got: ERR=%s\n", strerror(errno));
 755       block->read_len = 0;
 756       Mmsg4(dev->errmsg, _("Read error at file:blk %u:%u on device %s. ERR=%s.\n"),
 757          dev->file, dev->block_num, dev->dev_name, strerror(dev->dev_errno));
 758       Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 759       if (dev->state & ST_EOF) {  /* EOF just seen? */
 760          dev->state |= ST_EOT;    /* yes, error => EOT */
 761       }
 762       return false;
 763    }
 764    Dmsg1(90, "Read device got %d bytes\n", stat);
 765    if (stat == 0) {             /* Got EOF ! */
 766       dev->block_num = block->read_len = 0;
 767       Mmsg3(dev->errmsg, _("Read zero bytes at %u:%u on device %s.\n"),
 768          dev->file, dev->block_num, dev->dev_name);
 769       if (dev->state & ST_EOF) { /* EOF already read? */
 770          dev->state |= ST_EOT;  /* yes, 2 EOFs => EOT */
 771          block->read_len = 0;
 772          return 0;
 773       }
 774       dev->file++;              /* increment file */
 775       dev->state |= ST_EOF;     /* set EOF read */
 776       block->read_len = 0;
 777       return false;             /* return eof */
 778    }
 779    /* Continue here for successful read */
 780    block->read_len = stat;      /* save length read */
 781    if (block->read_len < BLKHDR2_LENGTH) {
 782       dev->dev_errno = EIO;
 783       Mmsg4(dev->errmsg, _("Volume data error at %u:%u! Very short block of %d bytes on device %s discarded.\n"),
 784          dev->file, dev->block_num, block->read_len, dev->dev_name);
 785       Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 786       dev->state |= ST_SHORT;   /* set short block */
 787       block->read_len = block->binbuf = 0;
 788       return false;             /* return error */
 789    }
 790
 791    BlockNumber = block->BlockNumber + 1;
 792    if (!unser_block_header(jcr, dev, block)) {
 793       if (forge_on) {
 794          dev->file_addr += block->read_len;
 795          dev->file_size += block->read_len;
 796          goto reread;
 797       }
 798       return false;
 799    }
 800
 801    /*
 802     * If the block is bigger than the buffer, we reposition for
 803     *  re-reading the block, allocate a buffer of the correct size,
 804     *  and go re-read.
 805     */
 806    if (block->block_len > block->buf_len) {
 807       dev->dev_errno = EIO;
 808       Mmsg2(dev->errmsg,  _("Block length %u is greater than buffer %u. Attempting recovery.\n"),
 809          block->block_len, block->buf_len);
 810       Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 811       Pmsg1(000, "%s", dev->errmsg);
 812       /* Attempt to reposition to re-read the block */
 813       if (dev->state & ST_TAPE) {
 814          Dmsg0(100, "Backspace record for reread.\n");
 815          if (!bsr_dev(dev, 1)) {
 816             Jmsg(jcr, M_ERROR, 0, "%s", strerror_dev(dev));
 817             block->read_len = 0;
 818             return false;
 819          }
 820       } else {
 821          Dmsg0(200, "Seek to beginning of block for reread.\n");
 822          off_t pos = lseek(dev->fd, (off_t)0, SEEK_CUR); /* get curr pos */
 823          pos -= block->read_len;
 824          lseek(dev->fd, pos, SEEK_SET);
 825          dev->file_addr = pos;
 826       }
 827       Mmsg1(dev->errmsg, _("Setting block buffer size to %u bytes.\n"), block->block_len);
 828       Jmsg(jcr, M_INFO, 0, "%s", dev->errmsg);
 829       Pmsg1(000, "%s", dev->errmsg);
 830       /* Set new block length */
 831       dev->max_block_size = block->block_len;
 832       block->buf_len = block->block_len;
 833       free_memory(block->buf);
 834       block->buf = get_memory(block->buf_len);
 835       empty_block(block);
 836       looping++;
 837       goto reread;                    /* re-read block with correct block size */
 838    }
 839
 840    if (block->block_len > block->read_len) {
 841       dev->dev_errno = EIO;
 842       Mmsg4(dev->errmsg, _("Volume data error at %u:%u! Short block of %d bytes on device %s discarded.\n"),
 843          dev->file, dev->block_num, block->read_len, dev->dev_name);
 844       Jmsg(jcr, M_ERROR, 0, "%s", dev->errmsg);
 845       dev->state |= ST_SHORT;   /* set short block */
 846       block->read_len = block->binbuf = 0;
 847       return false;             /* return error */
 848    }
 849
 850    dev->state &= ~(ST_EOF|ST_SHORT); /* clear EOF and short block */
 851    dev->VolCatInfo.VolCatReads++;
 852    dev->VolCatInfo.VolCatRBytes += block->read_len;
 853
 854    dev->VolCatInfo.VolCatBytes += block->block_len;
 855    dev->VolCatInfo.VolCatBlocks++;
 856    dev->EndBlock = dev->block_num;
 857    dev->EndFile  = dev->file;
 858    dev->block_num++;
 859
 860    /* Update dcr values */
 861    if (dev->state & ST_TAPE) {
 862       dcr->EndBlock = dev->EndBlock;
 863       dcr->EndFile  = dev->EndFile;
 864    } else {
 865       dcr->EndBlock = (uint32_t)dev->file_addr;
 866       dcr->EndFile = (uint32_t)(dev->file_addr >> 32);
 867       dev->block_num = dcr->EndBlock;
 868       dev->file = dcr->EndFile;
 869    }
 870    dev->file_addr += block->block_len;
 871    dev->file_size += block->block_len;
 872
 873    /*
 874     * If we read a short block on disk,
 875     * seek to beginning of next block. This saves us
 876     * from shuffling blocks around in the buffer. Take a
 877     * look at this from an efficiency stand point later, but
 878     * it should only happen once at the end of each job.
 879     *
 880     * I've been lseek()ing negative relative to SEEK_CUR for 30
 881     *   years now. However, it seems that with the new off_t definition,
 882     *   it is not possible to seek negative amounts, so we use two
 883     *   lseek(). One to get the position, then the second to do an
 884     *   absolute positioning -- so much for efficiency.  KES Sep 02.
 885     */
 886    Dmsg0(200, "At end of read block\n");
 887    if (block->read_len > block->block_len && !(dev->state & ST_TAPE)) {
 888       off_t pos = lseek(dev->fd, (off_t)0, SEEK_CUR); /* get curr pos */
 889       pos -= (block->read_len - block->block_len);
 890       lseek(dev->fd, pos, SEEK_SET);
 891       Dmsg2(200, "Did lseek blk_size=%d rdlen=%d\n", block->block_len,
 892             block->read_len);
 893       dev->file_addr = pos;
 894       dev->file_size = pos;
 895    }
 896    Dmsg2(200, "Exit read_block read_len=%d block_len=%d\n",
 897       block->read_len, block->block_len);
 898    block->block_read = true;
 899    return true;
 900 }