]> git.sur5r.net Git - bacula/bacula/blob - bacula/src/dird/catreq.c
Small updates
[bacula/bacula] / bacula / src / dird / catreq.c
1 /*
2  *
3  *   Bacula Director -- catreq.c -- handles the message channel
4  *    catalog request from the Storage daemon.
5  *
6  *     Kern Sibbald, March MMI
7  *
8  *    This routine runs as a thread and must be thread reentrant.
9  *
10  *  Basic tasks done here:
11  *      Handle Catalog services.
12  *
13  *   Version $Id$
14  */
15 /*
16    Copyright (C) 2000, 2001, 2002 Kern Sibbald and John Walker
17
18    This program is free software; you can redistribute it and/or
19    modify it under the terms of the GNU General Public License as
20    published by the Free Software Foundation; either version 2 of
21    the License, or (at your option) any later version.
22
23    This program is distributed in the hope that it will be useful,
24    but WITHOUT ANY WARRANTY; without even the implied warranty of
25    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
26    General Public License for more details.
27
28    You should have received a copy of the GNU General Public
29    License along with this program; if not, write to the Free
30    Software Foundation, Inc., 59 Temple Place - Suite 330, Boston,
31    MA 02111-1307, USA.
32
33  */
34
35 #include "bacula.h"
36 #include "dird.h"
37
38 /*
39  * Handle catalog request
40  *  For now, we simply return next Volume to be used
41  */
42
43 /* Requests from the Storage daemon */
44 static char Find_media[] = "CatReq Job=%127s FindMedia=%d\n";
45 static char Get_Vol_Info[] = "CatReq Job=%127s GetVolInfo VolName=%127s write=%d\n";
46
47 static char Update_media[] = "CatReq Job=%127s UpdateMedia VolName=%s\
48  VolJobs=%u VolFiles=%u VolBlocks=%u VolBytes=%" lld " VolMounts=%u\
49  VolErrors=%u VolWrites=%u MaxVolBytes=%" lld " EndTime=%d VolStatus=%10s\
50  Slot=%d relabel=%d\n";
51
52 static char Create_job_media[] = "CatReq Job=%127s CreateJobMedia \
53  FirstIndex=%u LastIndex=%u StartFile=%u EndFile=%u \
54  StartBlock=%u EndBlock=%u\n";
55
56
57 /* Responses  sent to Storage daemon */
58 static char OK_media[] = "1000 OK VolName=%s VolJobs=%u VolFiles=%u\
59  VolBlocks=%u VolBytes=%s VolMounts=%u VolErrors=%u VolWrites=%u\
60  MaxVolBytes=%s VolCapacityBytes=%s VolStatus=%s Slot=%d\
61  MaxVolJobs=%u MaxVolFiles=%u\n";
62
63 static char OK_update[] = "1000 OK UpdateMedia\n";
64
65 /* static char FileAttributes[] = "UpdCat Job=%127s FileAttributes "; */
66
67
68 void catalog_request(JCR *jcr, BSOCK *bs, char *msg)
69 {
70    MEDIA_DBR mr, sdmr; 
71    JOBMEDIA_DBR jm;
72    char Job[MAX_NAME_LENGTH];
73    int index, ok, relabel, writing, retry = 0;
74    POOLMEM *omsg;
75
76    memset(&mr, 0, sizeof(mr));
77    memset(&sdmr, 0, sizeof(sdmr));
78    memset(&jm, 0, sizeof(jm));
79
80    /*
81     * Request to find next appendable Volume for this Job
82     */
83    Dmsg1(200, "catreq %s", bs->msg);
84    if (sscanf(bs->msg, Find_media, &Job, &index) == 2) {
85       mr.PoolId = jcr->PoolId;
86       bstrncpy(mr.MediaType, jcr->store->media_type, sizeof(mr.MediaType));
87       Dmsg2(120, "CatReq FindMedia: Id=%d, MediaType=%s\n",
88          mr.PoolId, mr.MediaType);
89       /*
90        * Find the Next Volume for Append
91        */
92       db_lock(jcr->db);
93       for ( ;; ) {
94          strcpy(mr.VolStatus, "Append");  /* want only appendable volumes */
95          ok = db_find_next_volume(jcr, jcr->db, index, &mr);  
96          Dmsg2(100, "catreq after find_next_vol ok=%d FW=%d\n", ok, mr.FirstWritten);
97          if (!ok) {
98             /* Well, try finding recycled volumes */
99             ok = find_recycled_volume(jcr, &mr);
100             Dmsg2(100, "find_recycled_volume %d FW=%d\n", ok, mr.FirstWritten);
101             if (!ok) {
102                prune_volumes(jcr);  
103                ok = recycle_oldest_purged_volume(jcr, &mr);
104                Dmsg2(200, "find_recycled_volume2 %d FW=%d\n", ok, mr.FirstWritten);
105                if (!ok) {
106                   /* See if we can create a new Volume */
107                   ok = newVolume(jcr, &mr);
108                }
109             }
110
111             if (!ok && (jcr->pool->purge_oldest_volume ||
112                         jcr->pool->recycle_oldest_volume)) {
113                Dmsg2(200, "No next volume found. PurgeOldest=%d\n RecyleOldest=%d",
114                    jcr->pool->purge_oldest_volume, jcr->pool->recycle_oldest_volume);
115                /* Find oldest volume to recycle */
116                ok = db_find_next_volume(jcr, jcr->db, -1, &mr);
117                Dmsg1(400, "Find oldest=%d\n", ok);
118                if (ok) {
119                   UAContext *ua;
120                   Dmsg0(400, "Try purge.\n");
121                   /* Try to purge oldest volume */
122                   ua = new_ua_context(jcr);
123                   if (jcr->pool->purge_oldest_volume) {
124                      Jmsg(jcr, M_INFO, 0, _("Purging oldest volume \"%s\"\n"), mr.VolumeName);
125                      ok = purge_jobs_from_volume(ua, &mr);
126                   } else {
127                      Jmsg(jcr, M_INFO, 0, _("Pruning oldest volume \"%s\"\n"), mr.VolumeName);
128                      ok = prune_volume(ua, &mr);
129                   }
130                   free_ua_context(ua);
131                   if (ok) {
132                      ok = recycle_volume(jcr, &mr);
133                      Dmsg1(400, "Recycle after purge oldest=%d\n", ok);
134                   }
135                }
136             }
137          }
138          /* Check if use duration applies, then if it has expired */
139          Dmsg2(100, "VolJobs=%d FirstWritten=%d\n", mr.VolJobs, mr.FirstWritten);
140          if (ok && mr.VolJobs > 0 && mr.VolUseDuration > 0 && 
141               strcmp(mr.VolStatus, "Append") == 0) {
142             utime_t now = time(NULL);
143             if (mr.VolUseDuration <= (now - mr.FirstWritten)) {
144                ok = FALSE;
145                Dmsg4(100, "Duration=%d now=%d start=%d now-start=%d\n",
146                   (int)mr.VolUseDuration, (int)now, (int)mr.FirstWritten, 
147                   (int)(now-mr.FirstWritten));
148                Jmsg(jcr, M_INFO, 0, _("Max configured use duration exceeded. "       
149                   "Marking Volume \"%s\" as Used.\n"), mr.VolumeName);
150                strcpy(mr.VolStatus, "Used");  /* yes, mark as used */
151                if (!db_update_media_record(jcr, jcr->db, &mr)) {
152                   Jmsg(jcr, M_ERROR, 0, _("Catalog error updating volume \"%s\". ERR=%s"),
153                        mr.VolumeName, db_strerror(jcr->db));
154                }           
155                if (retry++ < 200) {            /* sanity check */
156                   continue;                    /* try again from the top */
157                } else {
158                   Jmsg(jcr, M_ERROR, 0, _(
159 "We seem to be looping trying to find the next volume. I give up.\n"));
160                }
161             }
162          }
163          break;
164       } /* end for loop */
165       db_unlock(jcr->db);
166
167       /*
168        * Send Find Media response to Storage daemon 
169        */
170       if (ok) {
171          char ed1[50], ed2[50], ed3[50];
172          jcr->MediaId = mr.MediaId;
173          pm_strcpy(&jcr->VolumeName, mr.VolumeName);
174          bash_spaces(mr.VolumeName);
175          bnet_fsend(bs, OK_media, mr.VolumeName, mr.VolJobs,
176             mr.VolFiles, mr.VolBlocks, edit_uint64(mr.VolBytes, ed1),
177             mr.VolMounts, mr.VolErrors, mr.VolWrites, 
178             edit_uint64(mr.MaxVolBytes, ed2), 
179             edit_uint64(mr.VolCapacityBytes, ed3),
180             mr.VolStatus, mr.Slot, mr.MaxVolJobs, mr.MaxVolFiles);
181          Dmsg2(100, "Find media for %s: %s", jcr->Job, bs->msg);
182       } else {
183          bnet_fsend(bs, "1901 No Media.\n");
184       }
185
186    /* 
187     * Request to find specific Volume information
188     */
189    } else if (sscanf(bs->msg, Get_Vol_Info, &Job, &mr.VolumeName, &writing) == 3) {
190       Dmsg1(400, "CatReq GetVolInfo Vol=%s\n", mr.VolumeName);
191       /*
192        * Find the Volume
193        */
194       unbash_spaces(mr.VolumeName);
195       if (db_get_media_record(jcr, jcr->db, &mr)) {
196          bool VolSuitable = false;
197          char *reason = "";           /* detailed reason for rejection */
198          jcr->MediaId = mr.MediaId;
199          Dmsg1(120, "VolumeInfo MediaId=%d\n", jcr->MediaId);
200          pm_strcpy(&jcr->VolumeName, mr.VolumeName);
201          if (!writing) {
202             VolSuitable = true;        /* accept anything for read */
203          } else {
204             /* 
205              * SD wants to write this Volume, so make
206              *   sure it is suitable for this job, i.e.
207              *   Pool matches, and it is either Append or Recycle 
208              *   and Media Type matches and Pool allows any volume.
209              */
210             if (mr.PoolId != jcr->PoolId) {
211                reason = "not in Pool";
212             } else if (strcmp(mr.VolStatus, "Append") != 0 &&
213                        strcmp(mr.VolStatus, "Recycle") != 0) {
214                reason = "not Append or Recycle";
215                /* What we're trying to do here is see if the current volume is
216                 * "recycleable" - ie. if we prune all expired jobs off it, is
217                 * it now possible to reuse it for the job that it is currently
218                 * needed for?
219                 */
220                if ((mr.LastWritten + mr.VolRetention) < (utime_t)time(NULL)
221                      && mr.Recycle && jcr->pool->recycle_current_volume   
222                      && (strcmp(mr.VolStatus, "Full") == 0 ||
223                         strcmp(mr.VolStatus, "Used") == 0)) {
224                   /*
225                    * Attempt prune of current volume to see if we can
226                    * recycle it for use.
227                    */
228                   UAContext *ua;
229
230                   ua = new_ua_context(jcr);
231                   ok = prune_volume(ua, &mr);
232                   free_ua_context(ua);
233
234                   if (ok) {
235                      /* If fully purged, recycle current volume */
236                      if (recycle_volume(jcr, &mr)) {
237                         Jmsg(jcr, M_INFO, 0, "Recycled current "
238                               "volume \"%s\"\n", mr.VolumeName);
239                         VolSuitable = true;
240                      } else {
241                         reason = "not Append or Recycle (recycling of the "
242                            "current volume failed)";
243                      }
244                   } else {
245                      reason = "not Append or Recycle (cannot automatically "
246                         "recycle current volume, as it still contains "
247                         "unpruned data)";
248                   }
249                }
250             } else if (strcmp(mr.MediaType, jcr->store->media_type) != 0) {
251                reason = "not correct MediaType";
252             } else if (!jcr->pool->accept_any_volume) {
253                reason = "Volume not in sequence";
254             } else {
255                VolSuitable = true;
256             }
257          }
258          if (VolSuitable) {
259             char ed1[50], ed2[50], ed3[50];
260             /*
261              * Send Find Media response to Storage daemon 
262              */
263             bash_spaces(mr.VolumeName);
264             bnet_fsend(bs, OK_media, mr.VolumeName, mr.VolJobs,
265                mr.VolFiles, mr.VolBlocks, edit_uint64(mr.VolBytes, ed1),
266                mr.VolMounts, mr.VolErrors, mr.VolWrites, 
267                edit_uint64(mr.MaxVolBytes, ed2), 
268                edit_uint64(mr.VolCapacityBytes, ed3),
269                mr.VolStatus, mr.Slot, mr.MaxVolJobs, mr.MaxVolFiles);
270             Dmsg2(100, "Vol Info for %s: %s", jcr->Job, bs->msg);
271          } else { 
272             /* Not suitable volume */
273             bnet_fsend(bs, "1998 Volume \"%s\" %s.\n",
274                mr.VolumeName, reason);
275          }
276
277       } else {
278          bnet_fsend(bs, "1997 Volume \"%s\" not in catalog.\n", mr.VolumeName);
279       }
280
281    
282    /*
283     * Request to update Media record. Comes typically at the end
284     *  of a Storage daemon Job Session
285     */
286    } else if (sscanf(bs->msg, Update_media, &Job, &sdmr.VolumeName, &sdmr.VolJobs,
287       &sdmr.VolFiles, &sdmr.VolBlocks, &sdmr.VolBytes, &sdmr.VolMounts, &sdmr.VolErrors,
288       &sdmr.VolWrites, &sdmr.MaxVolBytes, &sdmr.LastWritten, &sdmr.VolStatus, 
289       &sdmr.Slot, &relabel) == 14) {
290
291       db_lock(jcr->db);
292       Dmsg3(400, "Update media %s oldStat=%s newStat=%s\n", sdmr.VolumeName,
293          mr.VolStatus, sdmr.VolStatus);
294       bstrncpy(mr.VolumeName, sdmr.VolumeName, sizeof(mr.VolumeName)); /* copy Volume name */
295       unbash_spaces(mr.VolumeName);
296       if (!db_get_media_record(jcr, jcr->db, &mr)) {
297          Jmsg(jcr, M_ERROR, 0, _("Unable to get Media record for Volume %s: ERR=%s\n"),
298               mr.VolumeName, db_strerror(jcr->db));
299          bnet_fsend(bs, "1991 Catalog Request failed: %s", db_strerror(jcr->db));
300          db_unlock(jcr->db);
301          return;
302       }
303       /* Set first written time if this is first job */
304       if (mr.VolJobs == 0 || sdmr.VolJobs == 1) {
305          mr.FirstWritten = jcr->start_time;   /* use Job start time as first write */
306       }
307       Dmsg2(200, "Update media: BefVolJobs=%u After=%u\n", mr.VolJobs, sdmr.VolJobs);
308       /* Copy updated values to original media record */
309       mr.VolJobs     = sdmr.VolJobs;
310       mr.VolFiles    = sdmr.VolFiles;
311       mr.VolBlocks   = sdmr.VolBlocks;
312       mr.VolBytes    = sdmr.VolBytes;
313       mr.VolMounts   = sdmr.VolMounts;
314       mr.VolErrors   = sdmr.VolErrors;
315       mr.VolWrites   = sdmr.VolWrites;
316       mr.LastWritten = sdmr.LastWritten;
317       bstrncpy(mr.VolStatus, sdmr.VolStatus, sizeof(mr.VolStatus));
318       mr.Slot = sdmr.Slot;
319
320       /*     
321        * Update Media Record
322        */
323
324       /* Check limits and expirations if "Append" and not a relable request */
325       if (strcmp(mr.VolStatus, "Append") == 0 && !relabel) {
326          /* First handle Max Volume Bytes */
327          if ((mr.MaxVolBytes > 0 && mr.VolBytes >= mr.MaxVolBytes)) {
328             Jmsg(jcr, M_INFO, 0, _("Max Volume bytes exceeded. "             
329                 "Marking Volume \"%s\" as Full.\n"), mr.VolumeName);
330             strcpy(mr.VolStatus, "Full");
331
332          /* Now see if Volume should only be used once */
333          } else if (mr.VolBytes > 0 && jcr->pool->use_volume_once) {
334             Jmsg(jcr, M_INFO, 0, _("Volume used once. "             
335                 "Marking Volume \"%s\" as Used.\n"), mr.VolumeName);
336             strcpy(mr.VolStatus, "Used");
337
338          /* Now see if Max Jobs written to volume */
339          } else if (mr.MaxVolJobs > 0 && mr.MaxVolJobs <= mr.VolJobs) {
340             Jmsg(jcr, M_INFO, 0, _("Max Volume jobs exceeded. "       
341                 "Marking Volume \"%s\" as Used.\n"), mr.VolumeName);
342             strcpy(mr.VolStatus, "Used");
343
344          /* Now see if Max Files written to volume */
345          } else if (mr.MaxVolFiles > 0 && mr.MaxVolFiles <= mr.VolFiles) {
346             Jmsg(jcr, M_INFO, 0, _("Max Volume files exceeded. "       
347                 "Marking Volume \"%s\" as Used.\n"), mr.VolumeName);
348             strcpy(mr.VolStatus, "Used");
349
350          /* Finally, check Use duration expiration */
351          } else if (mr.VolUseDuration > 0) {
352             utime_t now = time(NULL);
353             /* See if Vol Use has expired */
354             if (mr.VolUseDuration <= (now - mr.FirstWritten)) {
355                Jmsg(jcr, M_INFO, 0, _("Max configured use duration exceeded. "       
356                   "Marking Volume \"%s\"as Used.\n"), mr.VolumeName);
357                strcpy(mr.VolStatus, "Used");  /* yes, mark as used */
358             }
359          }
360       }
361       Dmsg2(200, "db_update_media_record. Stat=%s Vol=%s\n", mr.VolStatus, mr.VolumeName);
362       if (db_update_media_record(jcr, jcr->db, &mr)) {
363          bnet_fsend(bs, OK_update);
364          Dmsg0(190, "send OK\n");
365       } else {
366          Jmsg(jcr, M_ERROR, 0, _("Catalog error updating Media record. %s"),
367             db_strerror(jcr->db));
368          bnet_fsend(bs, "1992 Update Media error\n");
369          Dmsg0(190, "send error\n");
370       }
371       db_unlock(jcr->db);
372
373    /*
374     * Request to create a JobMedia record
375     */
376    } else if (sscanf(bs->msg, Create_job_media, &Job,
377       &jm.FirstIndex, &jm.LastIndex, &jm.StartFile, &jm.EndFile,
378       &jm.StartBlock, &jm.EndBlock) == 7) {
379
380       jm.JobId = jcr->JobId;
381       jm.MediaId = jcr->MediaId;
382       Dmsg6(100, "create_jobmedia JobId=%d MediaId=%d SF=%d EF=%d FI=%d LI=%d\n",
383          jm.JobId, jm.MediaId, jm.StartFile, jm.EndFile, jm.FirstIndex, jm.LastIndex);
384       if (!db_create_jobmedia_record(jcr, jcr->db, &jm)) {
385          Jmsg(jcr, M_ERROR, 0, _("Catalog error creating JobMedia record. %s"),
386             db_strerror(jcr->db));
387          bnet_fsend(bs, "1991 Update JobMedia error\n");
388       } else {
389          Dmsg0(100, "JobMedia record created\n");
390          bnet_fsend(bs, OK_update);
391       }
392
393    } else {
394       omsg = get_memory(bs->msglen+1);
395       pm_strcpy(&omsg, bs->msg);
396       bnet_fsend(bs, "1990 Invalid Catalog Request: %s", omsg);    
397       Jmsg1(jcr, M_ERROR, 0, _("Invalid Catalog request: %s"), omsg);
398       free_memory(omsg);
399    }
400    Dmsg1(120, ">CatReq response: %s", bs->msg);
401    Dmsg1(200, "Leave catreq jcr 0x%x\n", jcr);
402    return;
403 }
404
405 /*
406  * Update File Attributes in the catalog with data
407  *  sent by the Storage daemon.  Note, we receive the whole
408  *  attribute record, but we select out only the stat packet,
409  *  VolSessionId, VolSessionTime, FileIndex, and file name 
410  *  to store in the catalog.
411  */
412 void catalog_update(JCR *jcr, BSOCK *bs, char *msg)
413 {
414    unser_declare;
415    uint32_t VolSessionId, VolSessionTime;
416    int32_t Stream;
417    uint32_t FileIndex;
418    uint32_t data_len;
419    char *p = bs->msg;
420    int len;
421    char *fname, *attr;
422    ATTR_DBR ar;
423
424    if (!jcr->pool->catalog_files) {
425       return;
426    }
427    db_start_transaction(jcr, jcr->db);     /* start transaction if not already open */
428    skip_nonspaces(&p);                /* UpdCat */
429    skip_spaces(&p);
430    skip_nonspaces(&p);                /* Job=nnn */
431    skip_spaces(&p);
432    skip_nonspaces(&p);                /* FileAttributes */
433    p += 1;
434    unser_begin(p, 0);
435    unser_uint32(VolSessionId);
436    unser_uint32(VolSessionTime);
437    unser_int32(FileIndex);
438    unser_int32(Stream);
439    unser_uint32(data_len);
440    p += unser_length(p);
441
442    Dmsg1(99, "UpdCat msg=%s\n", bs->msg);
443    Dmsg5(99, "UpdCat VolSessId=%d VolSessT=%d FI=%d Strm=%d data_len=%d\n",
444       VolSessionId, VolSessionTime, FileIndex, Stream, data_len);
445
446    if (Stream == STREAM_UNIX_ATTRIBUTES || Stream == STREAM_UNIX_ATTRIBUTES_EX) {
447       skip_nonspaces(&p);             /* skip FileIndex */
448       skip_spaces(&p);
449       skip_nonspaces(&p);             /* skip FileType */
450       skip_spaces(&p);
451       fname = p;
452       len = strlen(fname);        /* length before attributes */
453       attr = &fname[len+1];
454
455       Dmsg2(109, "dird<stored: stream=%d %s\n", Stream, fname);
456       Dmsg1(109, "dird<stored: attr=%s\n", attr);
457       ar.attr = attr; 
458       ar.fname = fname;
459       ar.FileIndex = FileIndex;
460       ar.Stream = Stream;
461       ar.link = NULL;
462       ar.JobId = jcr->JobId;
463
464       Dmsg2(111, "dird<filed: stream=%d %s\n", Stream, fname);
465       Dmsg1(120, "dird<filed: attr=%s\n", attr);
466
467       if (!db_create_file_attributes_record(jcr, jcr->db, &ar)) {
468          Jmsg1(jcr, M_FATAL, 0, _("Attribute create error. %s"), db_strerror(jcr->db));
469       }
470       /* Save values for SIG update */
471       jcr->FileId = ar.FileId;
472       jcr->FileIndex = FileIndex;
473    } else if (Stream == STREAM_MD5_SIGNATURE || Stream == STREAM_SHA1_SIGNATURE) {
474       fname = p;
475       if (jcr->FileIndex != FileIndex) {    
476          Jmsg(jcr, M_WARNING, 0, "Got MD5/SHA1 but not same File as attributes\n");
477       } else {
478          /* Update signature in catalog */
479          char SIGbuf[50];           /* 24 bytes should be enough */
480          int len, type;
481          if (Stream == STREAM_MD5_SIGNATURE) {
482             len = 16;
483             type = MD5_SIG;
484          } else {
485             len = 20;
486             type = SHA1_SIG;
487          }
488          bin_to_base64(SIGbuf, fname, len);
489          Dmsg3(190, "SIGlen=%d SIG=%s type=%d\n", strlen(SIGbuf), SIGbuf, Stream);
490          if (!db_add_SIG_to_file_record(jcr, jcr->db, jcr->FileId, SIGbuf, type)) {
491             Jmsg(jcr, M_ERROR, 0, _("Catalog error updating MD5/SHA1. %s"), 
492                db_strerror(jcr->db));
493          }
494       }
495    }
496 }