]> git.sur5r.net Git - bacula/bacula/blobdiff - bacula/src/dird/next_vol.c
kes Apply patch from Peter Much <pmc@citylink.dinoex.sub.org> that fixes
[bacula/bacula] / bacula / src / dird / next_vol.c
index 043fd1ac93ad646d07b9e53c5630432b3853a7bf..29a92541b6beb21c10635dd3663ab8d45f03b36d 100644 (file)
@@ -1,3 +1,30 @@
+/*
+   Bacula® - The Network Backup Solution
+
+   Copyright (C) 2001-2007 Free Software Foundation Europe e.V.
+
+   The main author of Bacula is Kern Sibbald, with contributions from
+   many others, a complete list can be found in the file AUTHORS.
+   This program is Free Software; you can redistribute it and/or
+   modify it under the terms of version two of the GNU General Public
+   License as published by the Free Software Foundation and included
+   in the file LICENSE.
+
+   This program is distributed in the hope that it will be useful, but
+   WITHOUT ANY WARRANTY; without even the implied warranty of
+   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
+   General Public License for more details.
+
+   You should have received a copy of the GNU General Public License
+   along with this program; if not, write to the Free Software
+   Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
+   02110-1301, USA.
+
+   Bacula® is a registered trademark of John Walker.
+   The licensor of Bacula is the Free Software Foundation Europe
+   (FSFE), Fiduciary Program, Sumatrastrasse 25, 8006 Zürich,
+   Switzerland, email:ftf@fsfeurope.org.
+*/
 /*
  *
  *   Bacula Director -- next_vol -- handles finding the next
  *
  *   Version $Id$
  */
-/*
-   Copyright (C) 2000, 2001, 2002 Kern Sibbald and John Walker
-
-   This program is free software; you can redistribute it and/or
-   modify it under the terms of the GNU General Public License as
-   published by the Free Software Foundation; either version 2 of
-   the License, or (at your option) any later version.
-
-   This program is distributed in the hope that it will be useful,
-   but WITHOUT ANY WARRANTY; without even the implied warranty of
-   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
-   General Public License for more details.
-
-   You should have received a copy of the GNU General Public
-   License along with this program; if not, write to the Free
-   Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
-   MA 02111-1307, USA.
-
- */
 
 #include "bacula.h"
 #include "dird.h"
 
 /*
  *  Items needed:
- *   jcr->PoolId
- *   jcr->store
+ *   mr.PoolId must be set
+ *   jcr->wstore
  *   jcr->db
  *   jcr->pool
- *   MEDIA_DBR mr (zeroed out)
+ *   MEDIA_DBR mr with PoolId set
  *   create -- whether or not to create a new volume
  */
-int find_next_volume_for_append(JCR *jcr, MEDIA_DBR *mr, int create)
+int find_next_volume_for_append(JCR *jcr, MEDIA_DBR *mr, int index,             
+                                bool create, bool prune)
 {
-   int ok, retry = 0;
+   int retry = 0;
+   bool ok;
+   bool InChanger;
+   STORE *store = jcr->wstore;
 
-   mr->PoolId = jcr->PoolId;
-   bstrncpy(mr->MediaType, jcr->store->media_type, sizeof(mr->MediaType));
-   Dmsg2(120, "CatReq FindMedia: Id=%d, MediaType=%s\n", mr->PoolId, mr->MediaType);
+   bstrncpy(mr->MediaType, store->media_type, sizeof(mr->MediaType));
+   Dmsg3(100, "find_next_vol_for_append: JobId=%u PoolId=%d, MediaType=%s\n", 
+         (uint32_t)jcr->JobId, (int)mr->PoolId, mr->MediaType);
+   /*
+    * If we are using an Autochanger, restrict Volume
+    *   search to the Autochanger on the first pass
+    */
+   InChanger = store->autochanger;
    /*
     * Find the Next Volume for Append
     */
    db_lock(jcr->db);
    for ( ;; ) {
       bstrncpy(mr->VolStatus, "Append", sizeof(mr->VolStatus));  /* want only appendable volumes */
-      ok = db_find_next_volume(jcr, jcr->db, 1, mr);  
-      Dmsg2(100, "catreq after find_next_vol ok=%d FW=%d\n", ok, mr->FirstWritten);
+      /*
+       *  1. Look for volume with "Append" status.
+       */
+      ok = db_find_next_volume(jcr, jcr->db, index, InChanger, mr);
+
       if (!ok) {
-        /* Well, try finding recycled volumes */
-        ok = find_recycled_volume(jcr, mr);
-         Dmsg2(100, "find_recycled_volume %d FW=%d\n", ok, mr->FirstWritten);
-        if (!ok) {
-           prune_volumes(jcr);  
-           ok = recycle_oldest_purged_volume(jcr, mr);
-            Dmsg2(200, "find_recycled_volume2 %d FW=%d\n", ok, mr->FirstWritten);
-           if (!ok && create) {
-              /* See if we can create a new Volume */
-              ok = newVolume(jcr, mr);
-           }
-        }
-
-        if (!ok && (jcr->pool->purge_oldest_volume ||
-                    jcr->pool->recycle_oldest_volume)) {
+         Dmsg4(050, "after find_next_vol ok=%d index=%d InChanger=%d Vstat=%s\n",
+               ok, index, InChanger, mr->VolStatus);
+         /*
+          * 2. Try finding a recycled volume
+          */
+         ok = find_recycled_volume(jcr, InChanger, mr);
+         Dmsg2(150, "find_recycled_volume ok=%d FW=%d\n", ok, mr->FirstWritten);
+         if (!ok) {
+            /*
+             * 3. Try recycling any purged volume
+             */
+            ok = recycle_oldest_purged_volume(jcr, InChanger, mr);
+            if (!ok) {
+               /*
+                * 4. Try pruning Volumes
+                */
+               if (prune) {
+                  Dmsg0(150, "Call prune_volumes\n");
+                  prune_volumes(jcr, InChanger, mr);
+               }
+               ok = recycle_oldest_purged_volume(jcr, InChanger, mr);
+               if (!ok && create) {
+                  Dmsg4(050, "after prune volumes_vol ok=%d index=%d InChanger=%d Vstat=%s\n",
+                        ok, index, InChanger, mr->VolStatus);
+                  /*
+                   * 5. Try pulling a volume from the Scratch pool
+                   */ 
+                  ok = get_scratch_volume(jcr, InChanger, mr);
+               }
+               /*
+                * If we are using an Autochanger and have not found
+                * a volume, retry looking for any volume. 
+                */
+               if (InChanger) {
+                  InChanger = false;
+                  if (!ok) {
+                     continue;           /* retry again accepting any volume */
+                  }
+               }
+            }
+         }
+
+
+         if (!ok && create) {
+            /*
+             * 6. Try "creating" a new Volume
+             */
+            ok = newVolume(jcr, mr);
+         }
+         /*
+          *  Look at more drastic ways to find an Appendable Volume
+          */
+         if (!ok && (jcr->pool->purge_oldest_volume ||
+                     jcr->pool->recycle_oldest_volume)) {
             Dmsg2(200, "No next volume found. PurgeOldest=%d\n RecyleOldest=%d",
-               jcr->pool->purge_oldest_volume, jcr->pool->recycle_oldest_volume);
-           /* Find oldest volume to recycle */
-           ok = db_find_next_volume(jcr, jcr->db, -1, mr);
+                jcr->pool->purge_oldest_volume, jcr->pool->recycle_oldest_volume);
+            /* Find oldest volume to recycle */
+            ok = db_find_next_volume(jcr, jcr->db, -1, InChanger, mr);
             Dmsg1(400, "Find oldest=%d\n", ok);
-           if (ok) {
-              UAContext *ua;
+            if (ok && prune) {
+               UAContext *ua;
                Dmsg0(400, "Try purge.\n");
-              /* Try to purge oldest volume */
-              ua = new_ua_context(jcr);
-              if (jcr->pool->purge_oldest_volume) {
+               /*
+                * 7.  Try to purging oldest volume only if not UA calling us.
+                */
+               ua = new_ua_context(jcr);
+               if (jcr->pool->purge_oldest_volume && create) {
                   Jmsg(jcr, M_INFO, 0, _("Purging oldest volume \"%s\"\n"), mr->VolumeName);
-                 ok = purge_jobs_from_volume(ua, mr);
-              } else {
+                  ok = purge_jobs_from_volume(ua, mr);
+               /*
+                * 8. or try recycling the oldest volume
+                */
+               } else if (jcr->pool->recycle_oldest_volume) {
                   Jmsg(jcr, M_INFO, 0, _("Pruning oldest volume \"%s\"\n"), mr->VolumeName);
-                 ok = prune_volume(ua, mr);
-              }
-              free_ua_context(ua);
-              if (ok) {
-                 ok = recycle_volume(jcr, mr);
+                  ok = prune_volume(ua, mr);
+               }
+               free_ua_context(ua);
+               if (ok) {
+                  ok = recycle_volume(jcr, mr);
                   Dmsg1(400, "Recycle after purge oldest=%d\n", ok);
-              }
-           }
-        }
+               }
+            }
+         }
       }
       Dmsg2(100, "VolJobs=%d FirstWritten=%d\n", mr->VolJobs, mr->FirstWritten);
       if (ok) {
-        /* If we can use the volume, check if it is expired */
-        if (has_volume_expired(jcr, mr)) {
-           /* Need to update media */
-           if (!db_update_media_record(jcr, jcr->db, mr)) {
-               Jmsg(jcr, M_ERROR, 0, _("Catalog error updating volume \"%s\". ERR=%s"),
-                   mr->VolumeName, db_strerror(jcr->db));
-           }           
-           if (retry++ < 200) {            /* sanity check */
-              continue;                    /* try again from the top */
-           } else {
-              Jmsg(jcr, M_ERROR, 0, _(
+         /* If we can use the volume, check if it is expired */
+         if (has_volume_expired(jcr, mr)) {
+            if (retry++ < 200) {            /* sanity check */
+               continue;                    /* try again from the top */
+            } else {
+               Jmsg(jcr, M_ERROR, 0, _(
 "We seem to be looping trying to find the next volume. I give up.\n"));
-           }
-        }
+            }
+         }
       }
       break;
    } /* end for loop */
    db_unlock(jcr->db);
+   Dmsg1(150, "return ok=%d find_next_vol\n", ok);
    return ok;
 }
 
@@ -134,42 +194,51 @@ bool has_volume_expired(JCR *jcr, MEDIA_DBR *mr)
    if (strcmp(mr->VolStatus, "Append") == 0 && mr->VolJobs > 0) {
       /* First handle Max Volume Bytes */
       if ((mr->MaxVolBytes > 0 && mr->VolBytes >= mr->MaxVolBytes)) {
-         Jmsg(jcr, M_INFO, 0, _("Max Volume bytes exceeded. "             
+         Jmsg(jcr, M_INFO, 0, _("Max Volume bytes exceeded. "
              "Marking Volume \"%s\" as Full.\n"), mr->VolumeName);
          bstrncpy(mr->VolStatus, "Full", sizeof(mr->VolStatus));
-        expired = true;
+         expired = true;
 
       /* Now see if Volume should only be used once */
       } else if (mr->VolBytes > 0 && jcr->pool->use_volume_once) {
-         Jmsg(jcr, M_INFO, 0, _("Volume used once. "             
+         Jmsg(jcr, M_INFO, 0, _("Volume used once. "
              "Marking Volume \"%s\" as Used.\n"), mr->VolumeName);
          bstrncpy(mr->VolStatus, "Used", sizeof(mr->VolStatus));
-        expired = true;
+         expired = true;
 
       /* Now see if Max Jobs written to volume */
       } else if (mr->MaxVolJobs > 0 && mr->MaxVolJobs <= mr->VolJobs) {
-         Jmsg(jcr, M_INFO, 0, _("Max Volume jobs exceeded. "       
+         Jmsg(jcr, M_INFO, 0, _("Max Volume jobs exceeded. "
              "Marking Volume \"%s\" as Used.\n"), mr->VolumeName);
+         Dmsg3(100, "MaxVolJobs=%d JobId=%d Vol=%s\n", mr->MaxVolJobs,
+               (uint32_t)jcr->JobId, mr->VolumeName);
          bstrncpy(mr->VolStatus, "Used", sizeof(mr->VolStatus));
-        expired = true;
+         expired = true;
 
       /* Now see if Max Files written to volume */
       } else if (mr->MaxVolFiles > 0 && mr->MaxVolFiles <= mr->VolFiles) {
-         Jmsg(jcr, M_INFO, 0, _("Max Volume files exceeded. "       
+         Jmsg(jcr, M_INFO, 0, _("Max Volume files exceeded. "
              "Marking Volume \"%s\" as Used.\n"), mr->VolumeName);
          bstrncpy(mr->VolStatus, "Used", sizeof(mr->VolStatus));
-        expired = true;
+         expired = true;
 
       /* Finally, check Use duration expiration */
       } else if (mr->VolUseDuration > 0) {
-        utime_t now = time(NULL);
-        /* See if Vol Use has expired */
-        if (mr->VolUseDuration <= (now - mr->FirstWritten)) {
-            Jmsg(jcr, M_INFO, 0, _("Max configured use duration exceeded. "       
+         utime_t now = time(NULL);
+         /* See if Vol Use has expired */
+         if (mr->VolUseDuration <= (now - mr->FirstWritten)) {
+            Jmsg(jcr, M_INFO, 0, _("Max configured use duration exceeded. "
                "Marking Volume \"%s\" as Used.\n"), mr->VolumeName);
             bstrncpy(mr->VolStatus, "Used", sizeof(mr->VolStatus));
-           expired = true;
-        }
+            expired = true;
+         }
+      }
+   }
+   if (expired) {
+      /* Need to update media */
+      if (!db_update_media_record(jcr, jcr->db, mr)) {
+         Jmsg(jcr, M_ERROR, 0, _("Catalog error updating volume \"%s\". ERR=%s"),
+              mr->VolumeName, db_strerror(jcr->db));
       }
    }
    return expired;
@@ -179,42 +248,47 @@ bool has_volume_expired(JCR *jcr, MEDIA_DBR *mr)
  * Try hard to recycle the current volume
  *
  *  Returns: on failure - reason = NULL
- *          on success - reason - pointer to reason
+ *           on success - reason - pointer to reason
  */
-bool is_volume_valid_or_recyclable(JCR *jcr, MEDIA_DBR *mr, char **reason)
+void check_if_volume_valid_or_recyclable(JCR *jcr, MEDIA_DBR *mr, const char **reason)
 {
    int ok;
 
    *reason = NULL;
 
    /*  Check if a duration or limit has expired */
-   has_volume_expired(jcr, mr);
+   if (has_volume_expired(jcr, mr)) {
+      *reason = _("volume has expired");
+      /* Keep going because we may be able to recycle volume */
+   }
 
    /*
     * Now see if we can use the volume as is
     */
    if (strcmp(mr->VolStatus, "Append") == 0 ||
        strcmp(mr->VolStatus, "Recycle") == 0) {
-      return true;
+      *reason = NULL;
+      return;
    }
-                                                                                       
+
    /*
-    * Check if the Volume is alreay marked for recycling
+    * Check if the Volume is already marked for recycling
     */
    if (strcmp(mr->VolStatus, "Purged") == 0) {
       if (recycle_volume(jcr, mr)) {
-         Jmsg(jcr, M_INFO, 0, "Recycled current volume \"%s\"\n", mr->VolumeName);
-        return true;
+         Jmsg(jcr, M_INFO, 0, _("Recycled current volume \"%s\"\n"), mr->VolumeName);
+         *reason = NULL;
+         return;
       } else {
          /* In principle this shouldn't happen */
-         *reason = "recycling of current volume failed";
-        return false;
+         *reason = _("and recycling of current volume failed");
+         return;
       }
    }
-                                                                                       
+
    /* At this point, the volume is not valid for writing */
-   *reason = "not Append, Purged or Recycle";
-                                                                                       
+   *reason = _("but should be Append, Purged or Recycle");
+
    /*
     * What we're trying to do here is see if the current volume is
     * "recyclable" - ie. if we prune all expired jobs off it, is
@@ -222,7 +296,7 @@ bool is_volume_valid_or_recyclable(JCR *jcr, MEDIA_DBR *mr, char **reason)
     * needed for?
     */
    if ((mr->LastWritten + mr->VolRetention) < (utime_t)time(NULL)
-        && mr->Recycle && jcr->pool->recycle_current_volume
+         && mr->Recycle && jcr->pool->recycle_current_volume
          && (strcmp(mr->VolStatus, "Full") == 0 ||
             strcmp(mr->VolStatus, "Used") == 0)) {
       /*
@@ -230,24 +304,117 @@ bool is_volume_valid_or_recyclable(JCR *jcr, MEDIA_DBR *mr, char **reason)
        * recycle it for use.
        */
       UAContext *ua;
-                                                                                       
+
       ua = new_ua_context(jcr);
       ok = prune_volume(ua, mr);
       free_ua_context(ua);
-                                                                                       
+
       if (ok) {
-        /* If fully purged, recycle current volume */
-        if (recycle_volume(jcr, mr)) {
-            Jmsg(jcr, M_INFO, 0, "Recycled current volume \"%s\"\n", mr->VolumeName);
-           return true;               /* Good volume */
-        } else {
-            *reason = "not Append, Purged or Recycle (recycling of the "
-               "current volume failed)";
-        }
+         /* If fully purged, recycle current volume */
+         if (recycle_volume(jcr, mr)) {
+            Jmsg(jcr, M_INFO, 0, _("Recycled current volume \"%s\"\n"), mr->VolumeName);
+            *reason = NULL;
+         } else {
+            *reason = _("but should be Append, Purged or Recycle (recycling of the "
+               "current volume failed)");
+         }
       } else {
-         *reason = "not Append, Purged or Recycle (cannot automatically "
-            "recycle current volume, as it still contains unpruned data)";
+         *reason = _("but should be Append, Purged or Recycle (cannot automatically "
+            "recycle current volume, as it still contains unpruned data "
+            "or the Volume Retention time has not expired.)");
       }
    }
-   return *reason ? false : true;
+}
+
+static pthread_mutex_t mutex = PTHREAD_MUTEX_INITIALIZER;
+
+bool get_scratch_volume(JCR *jcr, bool InChanger, MEDIA_DBR *mr)
+{
+   MEDIA_DBR smr;                        /* for searching scratch pool */
+   POOL_DBR spr, pr;
+   bool ok = false;
+   bool found = false;
+
+   /* Only one thread at a time can pull from the scratch pool */
+   P(mutex);
+   /* 
+    * Get Pool record for Scratch Pool
+    */
+   memset(&spr, 0, sizeof(spr));
+   bstrncpy(spr.Name, "Scratch", sizeof(spr.Name));
+   if (db_get_pool_record(jcr, jcr->db, &spr)) {
+      memset(&smr, 0, sizeof(smr));
+      smr.PoolId = spr.PoolId;
+      if (InChanger) {       
+         smr.StorageId = mr->StorageId;  /* want only Scratch Volumes in changer */
+      }
+      bstrncpy(smr.VolStatus, "Append", sizeof(smr.VolStatus));  /* want only appendable volumes */
+      bstrncpy(smr.MediaType, mr->MediaType, sizeof(smr.MediaType));
+
+      /*
+       * If we do not find a valid Scratch volume, try
+       *  recycling any existing purged volumes, then
+       *  try to take the oldest volume.
+       */
+      if (db_find_next_volume(jcr, jcr->db, 1, InChanger, &smr)) {
+         found = true;
+
+      } else if (find_recycled_volume(jcr, InChanger, &smr)) {
+         found = true;
+
+      } else if (recycle_oldest_purged_volume(jcr, InChanger, &smr)) {
+         found = true;
+      }
+
+      if (found) {
+         POOL_MEM query(PM_MESSAGE);
+
+         /*   
+          * Get pool record where the Scratch Volume will go to ensure
+          * that we can add a Volume.
+          */
+         memset(&pr, 0, sizeof(pr));
+         bstrncpy(pr.Name, jcr->pool->name(), sizeof(pr.Name));
+
+         if (!db_get_pool_record(jcr, jcr->db, &pr)) {
+            Jmsg(jcr, M_WARNING, 0, _("Unable to get Pool record: ERR=%s"), 
+                 db_strerror(jcr->db));
+            goto bail_out;
+         }
+         
+         /* Make sure there is room for another volume */
+         if (pr.MaxVols > 0 && pr.NumVols >= pr.MaxVols) {
+            Jmsg(jcr, M_WARNING, 0, _("Unable add Scratch Volume, Pool \"%s\" full MaxVols=%d\n"),
+                 jcr->pool->name(), pr.MaxVols);
+            goto bail_out;
+         }
+
+         memcpy(mr, &smr, sizeof(MEDIA_DBR)); 
+
+         /* Set default parameters from current pool */
+         set_pool_dbr_defaults_in_media_dbr(mr, &pr);
+
+         /*
+          * set_pool_dbr_defaults_in_media_dbr set VolStatus to Append,
+          *   we could have Recycled media, also, we retain the old
+          *   RecyclePoolId.
+          */
+         bstrncpy(mr->VolStatus, smr.VolStatus, sizeof(smr.VolStatus));
+         mr->RecyclePoolId = smr.RecyclePoolId;
+
+         if (!db_update_media_record(jcr, jcr->db, mr)) {
+            Jmsg(jcr, M_WARNING, 0, _("Failed to move Scratch Volume. ERR=%s\n"),
+                 db_strerror(jcr->db));
+            goto bail_out;
+         }
+
+         Jmsg(jcr, M_INFO, 0, _("Using Volume \"%s\" from 'Scratch' pool.\n"), 
+              mr->VolumeName);
+         
+         ok = true;
+      }
+   }
+bail_out:
+   V(mutex);
+   return ok;
 }