]> git.sur5r.net Git - bacula/bacula/blob - bacula/src/cats/sql_create.c
ebl fix batch evry x files
[bacula/bacula] / bacula / src / cats / sql_create.c
1 /*
2    Bacula® - The Network Backup Solution
3
4    Copyright (C) 2000-2007 Free Software Foundation Europe e.V.
5
6    The main author of Bacula is Kern Sibbald, with contributions from
7    many others, a complete list can be found in the file AUTHORS.
8    This program is Free Software; you can redistribute it and/or
9    modify it under the terms of version two of the GNU General Public
10    License as published by the Free Software Foundation plus additions
11    that are listed in the file LICENSE.
12
13    This program is distributed in the hope that it will be useful, but
14    WITHOUT ANY WARRANTY; without even the implied warranty of
15    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
16    General Public License for more details.
17
18    You should have received a copy of the GNU General Public License
19    along with this program; if not, write to the Free Software
20    Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
21    02110-1301, USA.
22
23    Bacula® is a registered trademark of John Walker.
24    The licensor of Bacula is the Free Software Foundation Europe
25    (FSFE), Fiduciary Program, Sumatrastrasse 25, 8006 Zürich,
26    Switzerland, email:ftf@fsfeurope.org.
27 */
28 /*
29  * Bacula Catalog Database Create record interface routines
30  *
31  *    Kern Sibbald, March 2000
32  *
33  *    Version $Id$
34  */
35
36 /* The following is necessary so that we do not include
37  * the dummy external definition of DB.
38  */
39 #define __SQL_C                       /* indicate that this is sql.c */
40
41 #include "bacula.h"
42 #include "cats.h"
43
44 static const int dbglevel = 500;
45
46 #if    HAVE_SQLITE3 || HAVE_MYSQL || HAVE_SQLITE || HAVE_POSTGRESQL
47
48 /* -----------------------------------------------------------------------
49  *
50  *   Generic Routines (or almost generic)
51  *
52  * -----------------------------------------------------------------------
53  */
54
55 /* Forward referenced subroutines */
56 #ifndef HAVE_BATCH_FILE_INSERT
57 static int db_create_file_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar);
58 static int db_create_filename_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar);
59 static int db_create_path_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar);
60 #endif /* HAVE_BATCH_FILE_INSERT */
61
62
63 /* Create a new record for the Job
64  * Returns: false on failure
65  *          true  on success
66  */
67 bool
68 db_create_job_record(JCR *jcr, B_DB *mdb, JOB_DBR *jr)
69 {
70    char dt[MAX_TIME_LENGTH];
71    time_t stime;
72    struct tm tm;
73    bool ok;
74    utime_t JobTDate;
75    char ed1[30],ed2[30];
76
77    db_lock(mdb);
78
79    stime = jr->SchedTime;
80    ASSERT(stime != 0);
81
82    (void)localtime_r(&stime, &tm);
83    strftime(dt, sizeof(dt), "%Y-%m-%d %H:%M:%S", &tm);
84    JobTDate = (utime_t)stime;
85
86    /* Must create it */
87    Mmsg(mdb->cmd,
88 "INSERT INTO Job (Job,Name,Type,Level,JobStatus,SchedTime,JobTDate,ClientId) "
89 "VALUES ('%s','%s','%c','%c','%c','%s',%s,%s)",
90            jr->Job, jr->Name, (char)(jr->JobType), (char)(jr->JobLevel),
91            (char)(jr->JobStatus), dt, edit_uint64(JobTDate, ed1),
92            edit_int64(jr->ClientId, ed2));
93
94    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
95       Mmsg2(&mdb->errmsg, _("Create DB Job record %s failed. ERR=%s\n"),
96             mdb->cmd, sql_strerror(mdb));
97       jr->JobId = 0;
98       ok = false;
99    } else {
100       jr->JobId = sql_insert_id(mdb, NT_("Job"));
101       ok = true;
102    }
103    db_unlock(mdb);
104    return ok;
105 }
106
107
108 /* Create a JobMedia record for medium used this job
109  * Returns: false on failure
110  *          true  on success
111  */
112 bool
113 db_create_jobmedia_record(JCR *jcr, B_DB *mdb, JOBMEDIA_DBR *jm)
114 {
115    bool ok = true;;
116    int count;
117    char ed1[50], ed2[50];
118
119    db_lock(mdb);
120
121    /* Now get count for VolIndex */
122    Mmsg(mdb->cmd, "SELECT count(*) from JobMedia WHERE JobId=%s",
123         edit_int64(jm->JobId, ed1));
124    count = get_sql_record_max(jcr, mdb);
125    if (count < 0) {
126       count = 0;
127    }
128    count++;
129
130    /* Note, jm->Strip is not used and is not likely to be used
131     * in the near future, so I have removed it from the insert
132     * to save space in the DB. KES June 2006.
133     */
134    Mmsg(mdb->cmd,
135         "INSERT INTO JobMedia (JobId,MediaId,FirstIndex,LastIndex,"
136         "StartFile,EndFile,StartBlock,EndBlock,VolIndex,Copy) "
137         "VALUES (%s,%s,%u,%u,%u,%u,%u,%u,%u,%u)",
138         edit_int64(jm->JobId, ed1),
139         edit_int64(jm->MediaId, ed2),
140         jm->FirstIndex, jm->LastIndex,
141         jm->StartFile, jm->EndFile, jm->StartBlock, jm->EndBlock,count,
142         jm->Copy);
143
144    Dmsg0(300, mdb->cmd);
145    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
146       Mmsg2(&mdb->errmsg, _("Create JobMedia record %s failed: ERR=%s\n"), mdb->cmd,
147          sql_strerror(mdb));
148       ok = false;
149    } else {
150       /* Worked, now update the Media record with the EndFile and EndBlock */
151       Mmsg(mdb->cmd,
152            "UPDATE Media SET EndFile=%u, EndBlock=%u WHERE MediaId=%u",
153            jm->EndFile, jm->EndBlock, jm->MediaId);
154       if (!UPDATE_DB(jcr, mdb, mdb->cmd)) {
155          Mmsg2(&mdb->errmsg, _("Update Media record %s failed: ERR=%s\n"), mdb->cmd,
156               sql_strerror(mdb));
157          ok = false;
158       }
159    }
160    db_unlock(mdb);
161    Dmsg0(300, "Return from JobMedia\n");
162    return ok;
163 }
164
165
166
167 /* Create Unique Pool record
168  * Returns: false on failure
169  *          true  on success
170  */
171 bool
172 db_create_pool_record(JCR *jcr, B_DB *mdb, POOL_DBR *pr)
173 {
174    bool stat;        
175    char ed1[30], ed2[30], ed3[50], ed4[50];
176
177    Dmsg0(200, "In create pool\n");
178    db_lock(mdb);
179    Mmsg(mdb->cmd, "SELECT PoolId,Name FROM Pool WHERE Name='%s'", pr->Name);
180    Dmsg1(200, "selectpool: %s\n", mdb->cmd);
181
182    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
183       mdb->num_rows = sql_num_rows(mdb);
184       if (mdb->num_rows > 0) {
185          Mmsg1(&mdb->errmsg, _("pool record %s already exists\n"), pr->Name);
186          sql_free_result(mdb);
187          db_unlock(mdb);
188          return false;
189       }
190       sql_free_result(mdb);
191    }
192
193    /* Must create it */
194    Mmsg(mdb->cmd,
195 "INSERT INTO Pool (Name,NumVols,MaxVols,UseOnce,UseCatalog,"
196 "AcceptAnyVolume,AutoPrune,Recycle,VolRetention,VolUseDuration,"
197 "MaxVolJobs,MaxVolFiles,MaxVolBytes,PoolType,LabelType,LabelFormat,RecyclePoolId) "
198 "VALUES ('%s',%u,%u,%d,%d,%d,%d,%d,%s,%s,%u,%u,%s,'%s',%d,'%s',%s)",
199                   pr->Name,
200                   pr->NumVols, pr->MaxVols,
201                   pr->UseOnce, pr->UseCatalog,
202                   pr->AcceptAnyVolume,
203                   pr->AutoPrune, pr->Recycle,
204                   edit_uint64(pr->VolRetention, ed1),
205                   edit_uint64(pr->VolUseDuration, ed2),
206                   pr->MaxVolJobs, pr->MaxVolFiles,
207                   edit_uint64(pr->MaxVolBytes, ed3),
208                   pr->PoolType, pr->LabelType, pr->LabelFormat,
209                   edit_int64(pr->RecyclePoolId,ed4));
210    Dmsg1(200, "Create Pool: %s\n", mdb->cmd);
211    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
212       Mmsg2(&mdb->errmsg, _("Create db Pool record %s failed: ERR=%s\n"),
213             mdb->cmd, sql_strerror(mdb));
214       pr->PoolId = 0;
215       stat = false;
216    } else {
217       pr->PoolId = sql_insert_id(mdb, NT_("Pool"));
218       stat = true;
219    }
220    db_unlock(mdb);
221    return stat;
222 }
223
224 /*
225  * Create Unique Device record
226  * Returns: false on failure
227  *          true  on success
228  */
229 bool
230 db_create_device_record(JCR *jcr, B_DB *mdb, DEVICE_DBR *dr)
231 {
232    bool ok;
233    char ed1[30], ed2[30];
234
235    Dmsg0(200, "In create Device\n");
236    db_lock(mdb);
237    Mmsg(mdb->cmd, "SELECT DeviceId,Name FROM Device WHERE Name='%s'", dr->Name);
238    Dmsg1(200, "selectdevice: %s\n", mdb->cmd);
239
240    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
241       mdb->num_rows = sql_num_rows(mdb);
242       if (mdb->num_rows > 0) {
243          Mmsg1(&mdb->errmsg, _("Device record %s already exists\n"), dr->Name);
244          sql_free_result(mdb);
245          db_unlock(mdb);
246          return false;
247       }
248       sql_free_result(mdb);
249    }
250
251    /* Must create it */
252    Mmsg(mdb->cmd,
253 "INSERT INTO Device (Name,MediaTypeId,StorageId) VALUES ('%s',%s,%s)",
254                   dr->Name,
255                   edit_uint64(dr->MediaTypeId, ed1),
256                   edit_int64(dr->StorageId, ed2));
257    Dmsg1(200, "Create Device: %s\n", mdb->cmd);
258    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
259       Mmsg2(&mdb->errmsg, _("Create db Device record %s failed: ERR=%s\n"),
260             mdb->cmd, sql_strerror(mdb));
261       dr->DeviceId = 0;
262       ok = false;
263    } else {
264       dr->DeviceId = sql_insert_id(mdb, NT_("Device"));
265       ok = true;
266    }
267    db_unlock(mdb);
268    return ok;
269 }
270
271
272
273 /*
274  * Create a Unique record for Storage -- no duplicates
275  * Returns: false on failure
276  *          true  on success with id in sr->StorageId
277  */
278 bool db_create_storage_record(JCR *jcr, B_DB *mdb, STORAGE_DBR *sr)
279 {
280    SQL_ROW row;
281    bool ok;
282
283    db_lock(mdb);
284    Mmsg(mdb->cmd, "SELECT StorageId,AutoChanger FROM Storage WHERE Name='%s'", sr->Name);
285
286    sr->StorageId = 0;
287    sr->created = false;
288    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
289       mdb->num_rows = sql_num_rows(mdb);
290       /* If more than one, report error, but return first row */
291       if (mdb->num_rows > 1) {
292          Mmsg1(&mdb->errmsg, _("More than one Storage record!: %d\n"), (int)(mdb->num_rows));
293          Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
294       }
295       if (mdb->num_rows >= 1) {
296          if ((row = sql_fetch_row(mdb)) == NULL) {
297             Mmsg1(&mdb->errmsg, _("error fetching Storage row: %s\n"), sql_strerror(mdb));
298             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
299             sql_free_result(mdb);
300             db_unlock(mdb);
301             return false;
302          }
303          sr->StorageId = str_to_int64(row[0]);
304          sr->AutoChanger = atoi(row[1]);   /* bool */
305          sql_free_result(mdb);
306          db_unlock(mdb);
307          return true;
308       }
309       sql_free_result(mdb);
310    }
311
312    /* Must create it */
313    Mmsg(mdb->cmd, "INSERT INTO Storage (Name,AutoChanger)"
314         " VALUES ('%s',%d)", sr->Name, sr->AutoChanger);
315
316    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
317       Mmsg2(&mdb->errmsg, _("Create DB Storage record %s failed. ERR=%s\n"),
318             mdb->cmd, sql_strerror(mdb));
319       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
320       ok = false;
321    } else {
322       sr->StorageId = sql_insert_id(mdb, NT_("Storage"));
323       sr->created = true;
324       ok = true;
325    }
326    db_unlock(mdb);
327    return ok;
328 }
329
330
331 /*
332  * Create Unique MediaType record
333  * Returns: false on failure
334  *          true  on success
335  */
336 bool
337 db_create_mediatype_record(JCR *jcr, B_DB *mdb, MEDIATYPE_DBR *mr)
338 {
339    bool stat;        
340
341    Dmsg0(200, "In create mediatype\n");
342    db_lock(mdb);
343    Mmsg(mdb->cmd, "SELECT MediaTypeId,MediaType FROM MediaType WHERE MediaType='%s'", mr->MediaType);
344    Dmsg1(200, "selectmediatype: %s\n", mdb->cmd);
345
346    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
347       mdb->num_rows = sql_num_rows(mdb);
348       if (mdb->num_rows > 0) {
349          Mmsg1(&mdb->errmsg, _("mediatype record %s already exists\n"), mr->MediaType);
350          sql_free_result(mdb);
351          db_unlock(mdb);
352          return false;
353       }
354       sql_free_result(mdb);
355    }
356
357    /* Must create it */
358    Mmsg(mdb->cmd,
359 "INSERT INTO MediaType (MediaType,ReadOnly) "
360 "VALUES ('%s',%d)",
361                   mr->MediaType,
362                   mr->ReadOnly);
363    Dmsg1(200, "Create mediatype: %s\n", mdb->cmd);
364    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
365       Mmsg2(&mdb->errmsg, _("Create db mediatype record %s failed: ERR=%s\n"),
366             mdb->cmd, sql_strerror(mdb));
367       mr->MediaTypeId = 0;
368       stat = false;
369    } else {
370       mr->MediaTypeId = sql_insert_id(mdb, NT_("MediaType"));
371       stat = true;
372    }
373    db_unlock(mdb);
374    return stat;
375 }
376
377
378 /*
379  * Create Media record. VolumeName and non-zero Slot must be unique
380  *
381  * Returns: 0 on failure
382  *          1 on success
383  */
384 int
385 db_create_media_record(JCR *jcr, B_DB *mdb, MEDIA_DBR *mr)
386 {
387    int stat;
388    char ed1[50], ed2[50], ed3[50], ed4[50], ed5[50], ed6[50], ed7[50], ed8[50];
389    char ed9[50], ed10[50], ed11[50], ed12[50];
390    struct tm tm;
391
392    db_lock(mdb);
393    Mmsg(mdb->cmd, "SELECT MediaId FROM Media WHERE VolumeName='%s'",
394            mr->VolumeName);
395    Dmsg1(500, "selectpool: %s\n", mdb->cmd);
396
397    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
398       mdb->num_rows = sql_num_rows(mdb);
399       if (mdb->num_rows > 0) {
400          Mmsg1(&mdb->errmsg, _("Volume \"%s\" already exists.\n"), mr->VolumeName);
401          sql_free_result(mdb);
402          db_unlock(mdb);
403          return 0;
404       }
405       sql_free_result(mdb);
406    }
407
408    /* Must create it */
409    Mmsg(mdb->cmd,
410 "INSERT INTO Media (VolumeName,MediaType,MediaTypeId,PoolId,MaxVolBytes,"
411 "VolCapacityBytes,Recycle,VolRetention,VolUseDuration,MaxVolJobs,MaxVolFiles,"
412 "VolStatus,Slot,VolBytes,InChanger,VolReadTime,VolWriteTime,VolParts,"
413 "EndFile,EndBlock,LabelType,StorageId,DeviceId,LocationId,"
414 "ScratchPoolId,RecyclePoolId,Enabled)"
415 "VALUES ('%s','%s',0,%u,%s,%s,%d,%s,%s,%u,%u,'%s',%d,%s,%d,%s,%s,%d,0,0,%d,%s,"
416 "%s,%s,%s,%s,%d)",
417           mr->VolumeName,
418           mr->MediaType, mr->PoolId,
419           edit_uint64(mr->MaxVolBytes,ed1),
420           edit_uint64(mr->VolCapacityBytes, ed2),
421           mr->Recycle,
422           edit_uint64(mr->VolRetention, ed3),
423           edit_uint64(mr->VolUseDuration, ed4),
424           mr->MaxVolJobs,
425           mr->MaxVolFiles,
426           mr->VolStatus,
427           mr->Slot,
428           edit_uint64(mr->VolBytes, ed5),
429           mr->InChanger,
430           edit_int64(mr->VolReadTime, ed6),
431           edit_int64(mr->VolWriteTime, ed7),
432           mr->VolParts,
433           mr->LabelType,
434           edit_int64(mr->StorageId, ed8), 
435           edit_int64(mr->DeviceId, ed9), 
436           edit_int64(mr->LocationId, ed10), 
437           edit_int64(mr->ScratchPoolId, ed11), 
438           edit_int64(mr->RecyclePoolId, ed12), 
439           mr->Enabled
440           );
441
442
443    Dmsg1(500, "Create Volume: %s\n", mdb->cmd);
444    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
445       Mmsg2(&mdb->errmsg, _("Create DB Media record %s failed. ERR=%s\n"),
446             mdb->cmd, sql_strerror(mdb));
447       stat = 0;
448    } else {
449       mr->MediaId = sql_insert_id(mdb, NT_("Media"));
450       stat = 1;
451       if (mr->set_label_date) {
452          char dt[MAX_TIME_LENGTH];
453          if (mr->LabelDate == 0) {
454             mr->LabelDate = time(NULL);
455          }
456          (void)localtime_r(&mr->LabelDate, &tm);
457          strftime(dt, sizeof(dt), "%Y-%m-%d %H:%M:%S", &tm);
458          Mmsg(mdb->cmd, "UPDATE Media SET LabelDate='%s' "
459               "WHERE MediaId=%d", dt, mr->MediaId);
460          stat = UPDATE_DB(jcr, mdb, mdb->cmd);
461       }
462    }
463
464    /*
465     * Make sure that if InChanger is non-zero any other identical slot
466     *   has InChanger zero.
467     */
468    db_make_inchanger_unique(jcr, mdb, mr);
469
470    db_unlock(mdb);
471    return stat;
472 }
473
474 /*
475  * Create a Unique record for the client -- no duplicates
476  * Returns: 0 on failure
477  *          1 on success with id in cr->ClientId
478  */
479 int db_create_client_record(JCR *jcr, B_DB *mdb, CLIENT_DBR *cr)
480 {
481    SQL_ROW row;
482    int stat;
483    char ed1[50], ed2[50];
484
485    db_lock(mdb);
486    Mmsg(mdb->cmd, "SELECT ClientId,Uname FROM Client WHERE Name='%s'", cr->Name);
487
488    cr->ClientId = 0;
489    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
490       mdb->num_rows = sql_num_rows(mdb);
491       /* If more than one, report error, but return first row */
492       if (mdb->num_rows > 1) {
493          Mmsg1(&mdb->errmsg, _("More than one Client!: %d\n"), (int)(mdb->num_rows));
494          Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
495       }
496       if (mdb->num_rows >= 1) {
497          if ((row = sql_fetch_row(mdb)) == NULL) {
498             Mmsg1(&mdb->errmsg, _("error fetching Client row: %s\n"), sql_strerror(mdb));
499             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
500             sql_free_result(mdb);
501             db_unlock(mdb);
502             return 0;
503          }
504          cr->ClientId = str_to_int64(row[0]);
505          if (row[1]) {
506             bstrncpy(cr->Uname, row[1], sizeof(cr->Uname));
507          } else {
508             cr->Uname[0] = 0;         /* no name */
509          }
510          sql_free_result(mdb);
511          db_unlock(mdb);
512          return 1;
513       }
514       sql_free_result(mdb);
515    }
516
517    /* Must create it */
518    Mmsg(mdb->cmd, "INSERT INTO Client (Name,Uname,AutoPrune,"
519 "FileRetention,JobRetention) VALUES "
520 "('%s','%s',%d,%s,%s)", cr->Name, cr->Uname, cr->AutoPrune,
521       edit_uint64(cr->FileRetention, ed1),
522       edit_uint64(cr->JobRetention, ed2));
523
524    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
525       Mmsg2(&mdb->errmsg, _("Create DB Client record %s failed. ERR=%s\n"),
526             mdb->cmd, sql_strerror(mdb));
527       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
528       cr->ClientId = 0;
529       stat = 0;
530    } else {
531       cr->ClientId = sql_insert_id(mdb, NT_("Client"));
532       stat = 1;
533    }
534    db_unlock(mdb);
535    return stat;
536 }
537
538
539
540
541
542 /*
543  * Create a Unique record for the counter -- no duplicates
544  * Returns: 0 on failure
545  *          1 on success with counter filled in
546  */
547 int db_create_counter_record(JCR *jcr, B_DB *mdb, COUNTER_DBR *cr)
548 {
549    COUNTER_DBR mcr;
550    int stat;
551
552    db_lock(mdb);
553    memset(&mcr, 0, sizeof(mcr));
554    bstrncpy(mcr.Counter, cr->Counter, sizeof(mcr.Counter));
555    if (db_get_counter_record(jcr, mdb, &mcr)) {
556       memcpy(cr, &mcr, sizeof(COUNTER_DBR));
557       db_unlock(mdb);
558       return 1;
559    }
560
561    /* Must create it */
562    Mmsg(mdb->cmd, "INSERT INTO Counters (Counter,MinValue,MaxValue,CurrentValue,"
563       "WrapCounter) VALUES ('%s','%d','%d','%d','%s')",
564       cr->Counter, cr->MinValue, cr->MaxValue, cr->CurrentValue,
565       cr->WrapCounter);
566
567    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
568       Mmsg2(&mdb->errmsg, _("Create DB Counters record %s failed. ERR=%s\n"),
569             mdb->cmd, sql_strerror(mdb));
570       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
571       stat = 0;
572    } else {
573       stat = 1;
574    }
575    db_unlock(mdb);
576    return stat;
577 }
578
579
580 /*
581  * Create a FileSet record. This record is unique in the
582  *  name and the MD5 signature of the include/exclude sets.
583  *  Returns: 0 on failure
584  *           1 on success with FileSetId in record
585  */
586 bool db_create_fileset_record(JCR *jcr, B_DB *mdb, FILESET_DBR *fsr)
587 {
588    SQL_ROW row;
589    bool stat;
590    struct tm tm;
591
592    db_lock(mdb);
593    fsr->created = false;
594    Mmsg(mdb->cmd, "SELECT FileSetId,CreateTime FROM FileSet WHERE "
595 "FileSet='%s' AND MD5='%s'", fsr->FileSet, fsr->MD5);
596
597    fsr->FileSetId = 0;
598    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
599       mdb->num_rows = sql_num_rows(mdb);
600       if (mdb->num_rows > 1) {
601          Mmsg1(&mdb->errmsg, _("More than one FileSet!: %d\n"), (int)(mdb->num_rows));
602          Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
603       }
604       if (mdb->num_rows >= 1) {
605          if ((row = sql_fetch_row(mdb)) == NULL) {
606             Mmsg1(&mdb->errmsg, _("error fetching FileSet row: ERR=%s\n"), sql_strerror(mdb));
607             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
608             sql_free_result(mdb);
609             db_unlock(mdb);
610             return false;
611          }
612          fsr->FileSetId = str_to_int64(row[0]);
613          if (row[1] == NULL) {
614             fsr->cCreateTime[0] = 0;
615          } else {
616             bstrncpy(fsr->cCreateTime, row[1], sizeof(fsr->cCreateTime));
617          }
618          sql_free_result(mdb);
619          db_unlock(mdb);
620          return true;
621       }
622       sql_free_result(mdb);
623    }
624
625    if (fsr->CreateTime == 0 && fsr->cCreateTime[0] == 0) {
626       fsr->CreateTime = time(NULL);
627    }
628    (void)localtime_r(&fsr->CreateTime, &tm);
629    strftime(fsr->cCreateTime, sizeof(fsr->cCreateTime), "%Y-%m-%d %H:%M:%S", &tm);
630
631    /* Must create it */
632       Mmsg(mdb->cmd, "INSERT INTO FileSet (FileSet,MD5,CreateTime) "
633 "VALUES ('%s','%s','%s')", fsr->FileSet, fsr->MD5, fsr->cCreateTime);
634
635    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
636       Mmsg2(&mdb->errmsg, _("Create DB FileSet record %s failed. ERR=%s\n"),
637             mdb->cmd, sql_strerror(mdb));
638       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
639       fsr->FileSetId = 0;
640       stat = false;
641    } else {
642       fsr->FileSetId = sql_insert_id(mdb, NT_("FileSet"));
643       fsr->created = true;
644       stat = true;
645    }
646
647    db_unlock(mdb);
648    return stat;
649 }
650
651
652 /*
653  *  struct stat
654  *  {
655  *      dev_t         st_dev;       * device *
656  *      ino_t         st_ino;       * inode *
657  *      mode_t        st_mode;      * protection *
658  *      nlink_t       st_nlink;     * number of hard links *
659  *      uid_t         st_uid;       * user ID of owner *
660  *      gid_t         st_gid;       * group ID of owner *
661  *      dev_t         st_rdev;      * device type (if inode device) *
662  *      off_t         st_size;      * total size, in bytes *
663  *      unsigned long st_blksize;   * blocksize for filesystem I/O *
664  *      unsigned long st_blocks;    * number of blocks allocated *
665  *      time_t        st_atime;     * time of last access *
666  *      time_t        st_mtime;     * time of last modification *
667  *      time_t        st_ctime;     * time of last inode change *
668  *  };
669  */
670
671 /*  All sql_batch_* functions are used to do bulk batch insert in File/Filename/Path
672  *  tables. This code can be activated by adding "#define HAVE_BATCH_FILE_INSERT 1"
673  *  in baconfig.h
674  *  
675  *  To sum up :
676  *   - bulk load a temp table
677  *   - insert missing filenames into filename with a single query (lock filenames 
678  *   - table before that to avoid possible duplicate inserts with concurrent update)
679  *   - insert missing paths into path with another single query
680  *   - then insert the join between the temp, filename and path tables into file.
681  */
682
683 /* 
684  * Returns 1 if OK
685  *         0 if failed
686  */
687 bool my_batch_start(JCR *jcr, B_DB *mdb)
688 {
689    return db_sql_query(mdb,
690              " CREATE TEMPORARY TABLE batch "
691              "        (fileindex integer,   "
692              "        jobid integer,        "
693              "        path blob,            "
694              "        name blob,            "
695              "        lstat tinyblob,       "
696              "        md5 tinyblob)         ",NULL, NULL);
697 }
698
699 /* 
700  * Returns 1 if OK
701  *         0 if failed
702  */
703 bool my_batch_insert(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
704 {
705    size_t len;
706    char *digest;
707    char ed1[50];
708
709    mdb->esc_name = check_pool_memory_size(mdb->esc_name, mdb->fnl*2+1);
710    db_escape_string(mdb->esc_name, mdb->fname, mdb->fnl);
711
712    mdb->esc_name2 = check_pool_memory_size(mdb->esc_name2, mdb->pnl*2+1);
713    db_escape_string(mdb->esc_name2, mdb->path, mdb->pnl);
714
715    if (ar->Digest == NULL || ar->Digest[0] == 0) {
716       digest = "0";
717    } else {
718       digest = ar->Digest;
719    }
720
721    len = Mmsg(mdb->cmd, "INSERT INTO batch VALUES (%u,%s,'%s','%s','%s','%s')",
722               ar->FileIndex, edit_int64(ar->JobId,ed1), mdb->esc_name2, 
723               mdb->esc_name, ar->attr, digest);
724
725    return INSERT_DB(jcr, mdb, mdb->cmd);
726 }
727
728 /* set error to something to abort operation */
729 /* 
730  * Returns 1 if OK
731  *         0 if failed
732  */
733 bool my_batch_end(JCR *jcr, B_DB *mdb, const char *error)
734 {
735    
736    Dmsg0(50, "sql_batch_end started");
737
738    if (mdb) {
739       mdb->status = 0;
740    }
741    return true;
742 }
743
744 #ifdef HAVE_BATCH_FILE_INSERT
745 /* 
746  * Returns 1 if OK
747  *         0 if failed
748  */
749 bool db_write_batch_file_records(JCR *jcr)
750 {
751    Dmsg0(50,"db_create_file_record : no files");
752
753    if (!jcr->db_batch) {         /* no files to backup ? */
754       Dmsg0(50,"db_create_file_record : no files\n");
755       return true;
756    }
757
758    if (!sql_batch_end(jcr, jcr->db_batch, NULL)) {
759       Jmsg(jcr, M_FATAL, 0, "Bad batch end %s\n", jcr->db_batch->errmsg);
760       return false;
761    }
762
763    if (job_canceled(jcr)) {
764       return false;
765    }
766
767    /* we have to lock tables */
768    if (!db_sql_query(jcr->db_batch, sql_batch_lock_path_query, NULL, NULL)) {
769       Jmsg(jcr, M_FATAL, 0, "Can't lock Path table %s\n", jcr->db_batch->errmsg);
770       return false;
771    }
772
773    if (!db_sql_query(jcr->db_batch, sql_batch_fill_path_query, NULL, NULL)) {
774       Jmsg(jcr, M_FATAL, 0, "Can't fill Path table %s\n",jcr->db_batch->errmsg);
775       db_sql_query(jcr->db_batch, sql_batch_unlock_tables_query, NULL, NULL);
776       return false;
777    }
778    
779    if (!db_sql_query(jcr->db_batch, sql_batch_unlock_tables_query,NULL,NULL)) {
780       Jmsg(jcr, M_FATAL, 0, "Can't unlock Path table %s\n", jcr->db_batch->errmsg);
781       return false;      
782    }
783
784    /* we have to lock tables */
785    if (!db_sql_query(jcr->db_batch,sql_batch_lock_filename_query,NULL, NULL)) {
786       Jmsg(jcr, M_FATAL, 0, "Can't lock Filename table %s\n", jcr->db_batch->errmsg);
787       return false;
788    }
789    
790    if (!db_sql_query(jcr->db_batch,sql_batch_fill_filename_query, NULL,NULL)) {
791       Jmsg(jcr,M_FATAL,0,"Can't fill Filename table %s\n",jcr->db_batch->errmsg);
792       QUERY_DB(jcr, jcr->db_batch, sql_batch_unlock_tables_query);
793       return false;            
794    }
795
796    if (!db_sql_query(jcr->db_batch, sql_batch_unlock_tables_query,NULL,NULL)) {
797       Jmsg(jcr, M_FATAL, 0, "Can't unlock Filename table %s\n", jcr->db_batch->errmsg);
798       return false;
799    }
800    
801    if (!db_sql_query(jcr->db_batch, 
802        " INSERT INTO File (FileIndex, JobId, PathId, FilenameId, LStat, MD5)"
803        "  SELECT batch.FileIndex, batch.JobId, Path.PathId,               " 
804        "         Filename.FilenameId,batch.LStat, batch.MD5               "
805        "  FROM batch                                                      "
806        "    JOIN Path ON (batch.Path = Path.Path)                         "
807        "    JOIN Filename ON (batch.Name = Filename.Name)                 ",
808                      NULL,NULL))
809    {
810       Jmsg(jcr, M_FATAL, 0, "Can't fill File table %s\n", jcr->db_batch->errmsg);
811       return false;
812    }
813
814    db_sql_query(jcr->db_batch, "DROP TABLE batch", NULL,NULL);
815
816    return true;
817 }
818
819 /*
820  * Create File record in B_DB
821  *
822  *  In order to reduce database size, we store the File attributes,
823  *  the FileName, and the Path separately.  In principle, there
824  *  is a single FileName record and a single Path record, no matter
825  *  how many times it occurs.  This is this subroutine, we separate
826  *  the file and the path and fill temporary tables with this three records.
827  */
828 bool db_create_file_attributes_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
829 {
830    Dmsg1(dbglevel, "Fname=%s\n", ar->fname);
831    Dmsg0(dbglevel, "put_file_into_catalog\n");
832
833    if (!jcr->db_batch) {
834       jcr->db_batch = db_init_database(jcr, 
835                                       mdb->db_name, 
836                                       mdb->db_user,
837                                       mdb->db_password, 
838                                       mdb->db_address,
839                                       mdb->db_port,
840                                       mdb->db_socket,
841                                       1 /* multi_db = true */);
842
843       if (!jcr->db_batch || !db_open_database(jcr, jcr->db_batch)) {
844          Jmsg(jcr, M_FATAL, 0, _("Could not open database \"%s\".\n"),
845               jcr->db->db_name);
846          if (jcr->db_batch) {
847             Jmsg(jcr, M_FATAL, 0, "%s", db_strerror(jcr->db_batch));
848          }
849          return false;
850       }      
851       
852       if (!sql_batch_start(jcr, jcr->db_batch)) {
853          Jmsg(jcr, M_FATAL, 0, 
854               "Can't start batch mode %s", db_strerror(jcr->db_batch));
855          return false;
856       }
857    }
858
859    B_DB *bdb = jcr->db_batch;
860
861    /*
862     * Make sure we have an acceptable attributes record.
863     */
864    if (!(ar->Stream == STREAM_UNIX_ATTRIBUTES ||
865          ar->Stream == STREAM_UNIX_ATTRIBUTES_EX)) {
866       Mmsg1(&bdb->errmsg, _("Attempt to put non-attributes into catalog. Stream=%d\n"),
867          ar->Stream);
868       Jmsg(jcr, M_ERROR, 0, "%s", bdb->errmsg);
869       return 0;
870    }
871
872    split_path_and_file(jcr, bdb, ar->fname);
873
874
875 /*
876    if (bdb->changes > 100000) {
877       db_write_batch_file_records(jcr);
878       bdb->changes = 0;
879       sql_batch_start(jcr, bdb);
880    }
881 */
882
883    return sql_batch_insert(jcr, bdb, ar);
884 }
885
886 #else  /* ! HAVE_BATCH_FILE_INSERT */
887
888 /*
889  * Create File record in B_DB
890  *
891  *  In order to reduce database size, we store the File attributes,
892  *  the FileName, and the Path separately.  In principle, there
893  *  is a single FileName record and a single Path record, no matter
894  *  how many times it occurs.  This is this subroutine, we separate
895  *  the file and the path and create three database records.
896  */
897 bool db_create_file_attributes_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
898 {
899    db_lock(mdb);
900    Dmsg1(dbglevel, "Fname=%s\n", ar->fname);
901    Dmsg0(dbglevel, "put_file_into_catalog\n");
902    /*
903     * Make sure we have an acceptable attributes record.
904     */
905    if (!(ar->Stream == STREAM_UNIX_ATTRIBUTES ||
906          ar->Stream == STREAM_UNIX_ATTRIBUTES_EX)) {
907       Mmsg1(&mdb->errmsg, _("Attempt to put non-attributes into catalog. Stream=%d\n"),
908          ar->Stream);
909       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
910       goto bail_out;
911    }
912
913
914    split_path_and_file(jcr, mdb, ar->fname);
915
916    if (!db_create_filename_record(jcr, mdb, ar)) {
917       goto bail_out;
918    }
919    Dmsg1(dbglevel, "db_create_filename_record: %s\n", mdb->esc_name);
920
921
922    if (!db_create_path_record(jcr, mdb, ar)) {
923       goto bail_out;
924    }
925    Dmsg1(dbglevel, "db_create_path_record: %s\n", mdb->esc_name);
926
927    /* Now create master File record */
928    if (!db_create_file_record(jcr, mdb, ar)) {
929       goto bail_out;
930    }
931    Dmsg0(dbglevel, "db_create_file_record OK\n");
932
933    Dmsg3(dbglevel, "CreateAttributes Path=%s File=%s FilenameId=%d\n", mdb->path, mdb->fname, ar->FilenameId);
934    db_unlock(mdb);
935    return true;
936
937 bail_out:
938    db_unlock(mdb);
939    return false;
940 }
941
942
943 /*
944  * This is the master File entry containing the attributes.
945  *  The filename and path records have already been created.
946  */
947 static int db_create_file_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
948 {
949    int stat;
950    static char *no_digest = "0";
951    char *digest;
952
953    ASSERT(ar->JobId);
954    ASSERT(ar->PathId);
955    ASSERT(ar->FilenameId);
956
957    if (ar->Digest == NULL || ar->Digest[0] == 0) {
958       digest = no_digest;
959    } else {
960       digest = ar->Digest;
961    }
962
963    /* Must create it */
964    Mmsg(mdb->cmd,
965         "INSERT INTO File (FileIndex,JobId,PathId,FilenameId,"
966         "LStat,MD5) VALUES (%u,%u,%u,%u,'%s','%s')",
967         ar->FileIndex, ar->JobId, ar->PathId, ar->FilenameId,
968         ar->attr, digest);
969
970    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
971       Mmsg2(&mdb->errmsg, _("Create db File record %s failed. ERR=%s"),
972          mdb->cmd, sql_strerror(mdb));
973       Jmsg(jcr, M_FATAL, 0, "%s", mdb->errmsg);
974       ar->FileId = 0;
975       stat = 0;
976    } else {
977       ar->FileId = sql_insert_id(mdb, NT_("File"));
978       stat = 1;
979    }
980    return stat;
981 }
982
983 /* Create a Unique record for the Path -- no duplicates */
984 static int db_create_path_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
985 {
986    SQL_ROW row;
987    int stat;
988
989    mdb->esc_name = check_pool_memory_size(mdb->esc_name, 2*mdb->pnl+2);
990    db_escape_string(mdb->esc_name, mdb->path, mdb->pnl);
991
992    if (mdb->cached_path_id != 0 && mdb->cached_path_len == mdb->pnl &&
993        strcmp(mdb->cached_path, mdb->path) == 0) {
994       ar->PathId = mdb->cached_path_id;
995       return 1;
996    }
997
998    Mmsg(mdb->cmd, "SELECT PathId FROM Path WHERE Path='%s'", mdb->esc_name);
999
1000    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
1001       mdb->num_rows = sql_num_rows(mdb);
1002       if (mdb->num_rows > 1) {
1003          char ed1[30];
1004          Mmsg2(&mdb->errmsg, _("More than one Path!: %s for path: %s\n"),
1005             edit_uint64(mdb->num_rows, ed1), mdb->path);
1006          Jmsg(jcr, M_WARNING, 0, "%s", mdb->errmsg);
1007       }
1008       /* Even if there are multiple paths, take the first one */
1009       if (mdb->num_rows >= 1) {
1010          if ((row = sql_fetch_row(mdb)) == NULL) {
1011             Mmsg1(&mdb->errmsg, _("error fetching row: %s\n"), sql_strerror(mdb));
1012             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
1013             sql_free_result(mdb);
1014             ar->PathId = 0;
1015             ASSERT(ar->PathId);
1016             return 0;
1017          }
1018          ar->PathId = str_to_int64(row[0]);
1019          sql_free_result(mdb);
1020          /* Cache path */
1021          if (ar->PathId != mdb->cached_path_id) {
1022             mdb->cached_path_id = ar->PathId;
1023             mdb->cached_path_len = mdb->pnl;
1024             pm_strcpy(mdb->cached_path, mdb->path);
1025          }
1026          ASSERT(ar->PathId);
1027          return 1;
1028       }
1029       sql_free_result(mdb);
1030    }
1031
1032    Mmsg(mdb->cmd, "INSERT INTO Path (Path) VALUES ('%s')", mdb->esc_name);
1033
1034    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
1035       Mmsg2(&mdb->errmsg, _("Create db Path record %s failed. ERR=%s\n"),
1036          mdb->cmd, sql_strerror(mdb));
1037       Jmsg(jcr, M_FATAL, 0, "%s", mdb->errmsg);
1038       ar->PathId = 0;
1039       stat = 0;
1040    } else {
1041       ar->PathId = sql_insert_id(mdb, NT_("Path"));
1042       stat = 1;
1043    }
1044
1045    /* Cache path */
1046    if (stat && ar->PathId != mdb->cached_path_id) {
1047       mdb->cached_path_id = ar->PathId;
1048       mdb->cached_path_len = mdb->pnl;
1049       pm_strcpy(mdb->cached_path, mdb->path);
1050    }
1051    return stat;
1052 }
1053
1054 /* Create a Unique record for the filename -- no duplicates */
1055 static int db_create_filename_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
1056 {
1057    SQL_ROW row;
1058
1059    mdb->esc_name = check_pool_memory_size(mdb->esc_name, 2*mdb->fnl+2);
1060    db_escape_string(mdb->esc_name, mdb->fname, mdb->fnl);
1061
1062    Mmsg(mdb->cmd, "SELECT FilenameId FROM Filename WHERE Name='%s'", mdb->esc_name);
1063
1064    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
1065       mdb->num_rows = sql_num_rows(mdb);
1066       if (mdb->num_rows > 1) {
1067          char ed1[30];
1068          Mmsg2(&mdb->errmsg, _("More than one Filename! %s for file: %s\n"),
1069             edit_uint64(mdb->num_rows, ed1), mdb->fname);
1070          Jmsg(jcr, M_WARNING, 0, "%s", mdb->errmsg);
1071       }
1072       if (mdb->num_rows >= 1) {
1073          if ((row = sql_fetch_row(mdb)) == NULL) {
1074             Mmsg2(&mdb->errmsg, _("Error fetching row for file=%s: ERR=%s\n"),
1075                 mdb->fname, sql_strerror(mdb));
1076             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
1077             ar->FilenameId = 0;
1078          } else {
1079             ar->FilenameId = str_to_int64(row[0]);
1080          }
1081          sql_free_result(mdb);
1082          return ar->FilenameId > 0;
1083       }
1084       sql_free_result(mdb);
1085    }
1086
1087    Mmsg(mdb->cmd, "INSERT INTO Filename (Name) VALUES ('%s')", mdb->esc_name);
1088
1089    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
1090       Mmsg2(&mdb->errmsg, _("Create db Filename record %s failed. ERR=%s\n"),
1091             mdb->cmd, sql_strerror(mdb));
1092       Jmsg(jcr, M_FATAL, 0, "%s", mdb->errmsg);
1093       ar->FilenameId = 0;
1094    } else {
1095       ar->FilenameId = sql_insert_id(mdb, NT_("Filename"));
1096    }
1097    return ar->FilenameId > 0;
1098 }
1099
1100 bool db_write_batch_file_records(JCR *jcr)
1101 {
1102    return true;
1103 }
1104
1105 #endif /* ! HAVE_BATCH_FILE_INSERT */
1106
1107 #endif /* HAVE_SQLITE3 || HAVE_MYSQL || HAVE_SQLITE || HAVE_POSTGRESQL */