]> git.sur5r.net Git - bacula/bacula/blob - bacula/src/cats/sql_create.c
ebl Cleanup batch code
[bacula/bacula] / bacula / src / cats / sql_create.c
1 /*
2    Bacula® - The Network Backup Solution
3
4    Copyright (C) 2000-2007 Free Software Foundation Europe e.V.
5
6    The main author of Bacula is Kern Sibbald, with contributions from
7    many others, a complete list can be found in the file AUTHORS.
8    This program is Free Software; you can redistribute it and/or
9    modify it under the terms of version two of the GNU General Public
10    License as published by the Free Software Foundation and included
11    in the file LICENSE.
12
13    This program is distributed in the hope that it will be useful, but
14    WITHOUT ANY WARRANTY; without even the implied warranty of
15    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
16    General Public License for more details.
17
18    You should have received a copy of the GNU General Public License
19    along with this program; if not, write to the Free Software
20    Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
21    02110-1301, USA.
22
23    Bacula® is a registered trademark of John Walker.
24    The licensor of Bacula is the Free Software Foundation Europe
25    (FSFE), Fiduciary Program, Sumatrastrasse 25, 8006 Zürich,
26    Switzerland, email:ftf@fsfeurope.org.
27 */
28 /*
29  * Bacula Catalog Database Create record interface routines
30  *
31  *    Kern Sibbald, March 2000
32  *
33  *    Version $Id$
34  */
35
36 /* The following is necessary so that we do not include
37  * the dummy external definition of DB.
38  */
39 #define __SQL_C                       /* indicate that this is sql.c */
40
41 #include "bacula.h"
42 #include "cats.h"
43
44 static const int dbglevel = 500;
45
46 #if    HAVE_SQLITE3 || HAVE_MYSQL || HAVE_SQLITE || HAVE_POSTGRESQL
47
48 /* -----------------------------------------------------------------------
49  *
50  *   Generic Routines (or almost generic)
51  *
52  * -----------------------------------------------------------------------
53  */
54
55 /* Forward referenced subroutines */
56 #ifndef HAVE_BATCH_FILE_INSERT
57 static int db_create_file_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar);
58 static int db_create_filename_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar);
59 static int db_create_path_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar);
60 #endif /* HAVE_BATCH_FILE_INSERT */
61
62
63 /* Create a new record for the Job
64  * Returns: false on failure
65  *          true  on success
66  */
67 bool
68 db_create_job_record(JCR *jcr, B_DB *mdb, JOB_DBR *jr)
69 {
70    char dt[MAX_TIME_LENGTH];
71    time_t stime;
72    struct tm tm;
73    bool ok;
74    utime_t JobTDate;
75    char ed1[30],ed2[30];
76
77    db_lock(mdb);
78
79    stime = jr->SchedTime;
80    ASSERT(stime != 0);
81
82    (void)localtime_r(&stime, &tm);
83    strftime(dt, sizeof(dt), "%Y-%m-%d %H:%M:%S", &tm);
84    JobTDate = (utime_t)stime;
85
86    /* Must create it */
87    Mmsg(mdb->cmd,
88 "INSERT INTO Job (Job,Name,Type,Level,JobStatus,SchedTime,JobTDate,ClientId) "
89 "VALUES ('%s','%s','%c','%c','%c','%s',%s,%s)",
90            jr->Job, jr->Name, (char)(jr->JobType), (char)(jr->JobLevel),
91            (char)(jr->JobStatus), dt, edit_uint64(JobTDate, ed1),
92            edit_int64(jr->ClientId, ed2));
93
94    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
95       Mmsg2(&mdb->errmsg, _("Create DB Job record %s failed. ERR=%s\n"),
96             mdb->cmd, sql_strerror(mdb));
97       jr->JobId = 0;
98       ok = false;
99    } else {
100       jr->JobId = sql_insert_id(mdb, NT_("Job"));
101       ok = true;
102    }
103    db_unlock(mdb);
104    return ok;
105 }
106
107
108 /* Create a JobMedia record for medium used this job
109  * Returns: false on failure
110  *          true  on success
111  */
112 bool
113 db_create_jobmedia_record(JCR *jcr, B_DB *mdb, JOBMEDIA_DBR *jm)
114 {
115    bool ok = true;;
116    int count;
117    char ed1[50], ed2[50];
118
119    db_lock(mdb);
120
121    /* Now get count for VolIndex */
122    Mmsg(mdb->cmd, "SELECT count(*) from JobMedia WHERE JobId=%s",
123         edit_int64(jm->JobId, ed1));
124    count = get_sql_record_max(jcr, mdb);
125    if (count < 0) {
126       count = 0;
127    }
128    count++;
129
130    /* Note, jm->Strip is not used and is not likely to be used
131     * in the near future, so I have removed it from the insert
132     * to save space in the DB. KES June 2006.
133     */
134    Mmsg(mdb->cmd,
135         "INSERT INTO JobMedia (JobId,MediaId,FirstIndex,LastIndex,"
136         "StartFile,EndFile,StartBlock,EndBlock,VolIndex,Copy) "
137         "VALUES (%s,%s,%u,%u,%u,%u,%u,%u,%u,%u)",
138         edit_int64(jm->JobId, ed1),
139         edit_int64(jm->MediaId, ed2),
140         jm->FirstIndex, jm->LastIndex,
141         jm->StartFile, jm->EndFile, jm->StartBlock, jm->EndBlock,count,
142         jm->Copy);
143
144    Dmsg0(300, mdb->cmd);
145    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
146       Mmsg2(&mdb->errmsg, _("Create JobMedia record %s failed: ERR=%s\n"), mdb->cmd,
147          sql_strerror(mdb));
148       ok = false;
149    } else {
150       /* Worked, now update the Media record with the EndFile and EndBlock */
151       Mmsg(mdb->cmd,
152            "UPDATE Media SET EndFile=%u, EndBlock=%u WHERE MediaId=%u",
153            jm->EndFile, jm->EndBlock, jm->MediaId);
154       if (!UPDATE_DB(jcr, mdb, mdb->cmd)) {
155          Mmsg2(&mdb->errmsg, _("Update Media record %s failed: ERR=%s\n"), mdb->cmd,
156               sql_strerror(mdb));
157          ok = false;
158       }
159    }
160    db_unlock(mdb);
161    Dmsg0(300, "Return from JobMedia\n");
162    return ok;
163 }
164
165
166
167 /* Create Unique Pool record
168  * Returns: false on failure
169  *          true  on success
170  */
171 bool
172 db_create_pool_record(JCR *jcr, B_DB *mdb, POOL_DBR *pr)
173 {
174    bool stat;        
175    char ed1[30], ed2[30], ed3[50], ed4[50];
176
177    Dmsg0(200, "In create pool\n");
178    db_lock(mdb);
179    Mmsg(mdb->cmd, "SELECT PoolId,Name FROM Pool WHERE Name='%s'", pr->Name);
180    Dmsg1(200, "selectpool: %s\n", mdb->cmd);
181
182    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
183       mdb->num_rows = sql_num_rows(mdb);
184       if (mdb->num_rows > 0) {
185          Mmsg1(&mdb->errmsg, _("pool record %s already exists\n"), pr->Name);
186          sql_free_result(mdb);
187          db_unlock(mdb);
188          return false;
189       }
190       sql_free_result(mdb);
191    }
192
193    /* Must create it */
194    Mmsg(mdb->cmd,
195 "INSERT INTO Pool (Name,NumVols,MaxVols,UseOnce,UseCatalog,"
196 "AcceptAnyVolume,AutoPrune,Recycle,VolRetention,VolUseDuration,"
197 "MaxVolJobs,MaxVolFiles,MaxVolBytes,PoolType,LabelType,LabelFormat,RecyclePoolId) "
198 "VALUES ('%s',%u,%u,%d,%d,%d,%d,%d,%s,%s,%u,%u,%s,'%s',%d,'%s',%s)",
199                   pr->Name,
200                   pr->NumVols, pr->MaxVols,
201                   pr->UseOnce, pr->UseCatalog,
202                   pr->AcceptAnyVolume,
203                   pr->AutoPrune, pr->Recycle,
204                   edit_uint64(pr->VolRetention, ed1),
205                   edit_uint64(pr->VolUseDuration, ed2),
206                   pr->MaxVolJobs, pr->MaxVolFiles,
207                   edit_uint64(pr->MaxVolBytes, ed3),
208                   pr->PoolType, pr->LabelType, pr->LabelFormat,
209                   edit_int64(pr->RecyclePoolId,ed4));
210    Dmsg1(200, "Create Pool: %s\n", mdb->cmd);
211    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
212       Mmsg2(&mdb->errmsg, _("Create db Pool record %s failed: ERR=%s\n"),
213             mdb->cmd, sql_strerror(mdb));
214       pr->PoolId = 0;
215       stat = false;
216    } else {
217       pr->PoolId = sql_insert_id(mdb, NT_("Pool"));
218       stat = true;
219    }
220    db_unlock(mdb);
221    return stat;
222 }
223
224 /*
225  * Create Unique Device record
226  * Returns: false on failure
227  *          true  on success
228  */
229 bool
230 db_create_device_record(JCR *jcr, B_DB *mdb, DEVICE_DBR *dr)
231 {
232    bool ok;
233    char ed1[30], ed2[30];
234
235    Dmsg0(200, "In create Device\n");
236    db_lock(mdb);
237    Mmsg(mdb->cmd, "SELECT DeviceId,Name FROM Device WHERE Name='%s'", dr->Name);
238    Dmsg1(200, "selectdevice: %s\n", mdb->cmd);
239
240    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
241       mdb->num_rows = sql_num_rows(mdb);
242       if (mdb->num_rows > 0) {
243          Mmsg1(&mdb->errmsg, _("Device record %s already exists\n"), dr->Name);
244          sql_free_result(mdb);
245          db_unlock(mdb);
246          return false;
247       }
248       sql_free_result(mdb);
249    }
250
251    /* Must create it */
252    Mmsg(mdb->cmd,
253 "INSERT INTO Device (Name,MediaTypeId,StorageId) VALUES ('%s',%s,%s)",
254                   dr->Name,
255                   edit_uint64(dr->MediaTypeId, ed1),
256                   edit_int64(dr->StorageId, ed2));
257    Dmsg1(200, "Create Device: %s\n", mdb->cmd);
258    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
259       Mmsg2(&mdb->errmsg, _("Create db Device record %s failed: ERR=%s\n"),
260             mdb->cmd, sql_strerror(mdb));
261       dr->DeviceId = 0;
262       ok = false;
263    } else {
264       dr->DeviceId = sql_insert_id(mdb, NT_("Device"));
265       ok = true;
266    }
267    db_unlock(mdb);
268    return ok;
269 }
270
271
272
273 /*
274  * Create a Unique record for Storage -- no duplicates
275  * Returns: false on failure
276  *          true  on success with id in sr->StorageId
277  */
278 bool db_create_storage_record(JCR *jcr, B_DB *mdb, STORAGE_DBR *sr)
279 {
280    SQL_ROW row;
281    bool ok;
282
283    db_lock(mdb);
284    Mmsg(mdb->cmd, "SELECT StorageId,AutoChanger FROM Storage WHERE Name='%s'", sr->Name);
285
286    sr->StorageId = 0;
287    sr->created = false;
288    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
289       mdb->num_rows = sql_num_rows(mdb);
290       /* If more than one, report error, but return first row */
291       if (mdb->num_rows > 1) {
292          Mmsg1(&mdb->errmsg, _("More than one Storage record!: %d\n"), (int)(mdb->num_rows));
293          Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
294       }
295       if (mdb->num_rows >= 1) {
296          if ((row = sql_fetch_row(mdb)) == NULL) {
297             Mmsg1(&mdb->errmsg, _("error fetching Storage row: %s\n"), sql_strerror(mdb));
298             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
299             sql_free_result(mdb);
300             db_unlock(mdb);
301             return false;
302          }
303          sr->StorageId = str_to_int64(row[0]);
304          sr->AutoChanger = atoi(row[1]);   /* bool */
305          sql_free_result(mdb);
306          db_unlock(mdb);
307          return true;
308       }
309       sql_free_result(mdb);
310    }
311
312    /* Must create it */
313    Mmsg(mdb->cmd, "INSERT INTO Storage (Name,AutoChanger)"
314         " VALUES ('%s',%d)", sr->Name, sr->AutoChanger);
315
316    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
317       Mmsg2(&mdb->errmsg, _("Create DB Storage record %s failed. ERR=%s\n"),
318             mdb->cmd, sql_strerror(mdb));
319       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
320       ok = false;
321    } else {
322       sr->StorageId = sql_insert_id(mdb, NT_("Storage"));
323       sr->created = true;
324       ok = true;
325    }
326    db_unlock(mdb);
327    return ok;
328 }
329
330
331 /*
332  * Create Unique MediaType record
333  * Returns: false on failure
334  *          true  on success
335  */
336 bool
337 db_create_mediatype_record(JCR *jcr, B_DB *mdb, MEDIATYPE_DBR *mr)
338 {
339    bool stat;        
340
341    Dmsg0(200, "In create mediatype\n");
342    db_lock(mdb);
343    Mmsg(mdb->cmd, "SELECT MediaTypeId,MediaType FROM MediaType WHERE MediaType='%s'", mr->MediaType);
344    Dmsg1(200, "selectmediatype: %s\n", mdb->cmd);
345
346    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
347       mdb->num_rows = sql_num_rows(mdb);
348       if (mdb->num_rows > 0) {
349          Mmsg1(&mdb->errmsg, _("mediatype record %s already exists\n"), mr->MediaType);
350          sql_free_result(mdb);
351          db_unlock(mdb);
352          return false;
353       }
354       sql_free_result(mdb);
355    }
356
357    /* Must create it */
358    Mmsg(mdb->cmd,
359 "INSERT INTO MediaType (MediaType,ReadOnly) "
360 "VALUES ('%s',%d)",
361                   mr->MediaType,
362                   mr->ReadOnly);
363    Dmsg1(200, "Create mediatype: %s\n", mdb->cmd);
364    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
365       Mmsg2(&mdb->errmsg, _("Create db mediatype record %s failed: ERR=%s\n"),
366             mdb->cmd, sql_strerror(mdb));
367       mr->MediaTypeId = 0;
368       stat = false;
369    } else {
370       mr->MediaTypeId = sql_insert_id(mdb, NT_("MediaType"));
371       stat = true;
372    }
373    db_unlock(mdb);
374    return stat;
375 }
376
377
378 /*
379  * Create Media record. VolumeName and non-zero Slot must be unique
380  *
381  * Returns: 0 on failure
382  *          1 on success
383  */
384 int
385 db_create_media_record(JCR *jcr, B_DB *mdb, MEDIA_DBR *mr)
386 {
387    int stat;
388    char ed1[50], ed2[50], ed3[50], ed4[50], ed5[50], ed6[50], ed7[50], ed8[50];
389    char ed9[50], ed10[50], ed11[50], ed12[50];
390    struct tm tm;
391
392    db_lock(mdb);
393    Mmsg(mdb->cmd, "SELECT MediaId FROM Media WHERE VolumeName='%s'",
394            mr->VolumeName);
395    Dmsg1(500, "selectpool: %s\n", mdb->cmd);
396
397    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
398       mdb->num_rows = sql_num_rows(mdb);
399       if (mdb->num_rows > 0) {
400          Mmsg1(&mdb->errmsg, _("Volume \"%s\" already exists.\n"), mr->VolumeName);
401          sql_free_result(mdb);
402          db_unlock(mdb);
403          return 0;
404       }
405       sql_free_result(mdb);
406    }
407
408    /* Must create it */
409    Mmsg(mdb->cmd,
410 "INSERT INTO Media (VolumeName,MediaType,MediaTypeId,PoolId,MaxVolBytes,"
411 "VolCapacityBytes,Recycle,VolRetention,VolUseDuration,MaxVolJobs,MaxVolFiles,"
412 "VolStatus,Slot,VolBytes,InChanger,VolReadTime,VolWriteTime,VolParts,"
413 "EndFile,EndBlock,LabelType,StorageId,DeviceId,LocationId,"
414 "ScratchPoolId,RecyclePoolId,Enabled)"
415 "VALUES ('%s','%s',0,%u,%s,%s,%d,%s,%s,%u,%u,'%s',%d,%s,%d,%s,%s,%d,0,0,%d,%s,"
416 "%s,%s,%s,%s,%d)",
417           mr->VolumeName,
418           mr->MediaType, mr->PoolId,
419           edit_uint64(mr->MaxVolBytes,ed1),
420           edit_uint64(mr->VolCapacityBytes, ed2),
421           mr->Recycle,
422           edit_uint64(mr->VolRetention, ed3),
423           edit_uint64(mr->VolUseDuration, ed4),
424           mr->MaxVolJobs,
425           mr->MaxVolFiles,
426           mr->VolStatus,
427           mr->Slot,
428           edit_uint64(mr->VolBytes, ed5),
429           mr->InChanger,
430           edit_int64(mr->VolReadTime, ed6),
431           edit_int64(mr->VolWriteTime, ed7),
432           mr->VolParts,
433           mr->LabelType,
434           edit_int64(mr->StorageId, ed8), 
435           edit_int64(mr->DeviceId, ed9), 
436           edit_int64(mr->LocationId, ed10), 
437           edit_int64(mr->ScratchPoolId, ed11), 
438           edit_int64(mr->RecyclePoolId, ed12), 
439           mr->Enabled
440           );
441
442
443    Dmsg1(500, "Create Volume: %s\n", mdb->cmd);
444    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
445       Mmsg2(&mdb->errmsg, _("Create DB Media record %s failed. ERR=%s\n"),
446             mdb->cmd, sql_strerror(mdb));
447       stat = 0;
448    } else {
449       mr->MediaId = sql_insert_id(mdb, NT_("Media"));
450       stat = 1;
451       if (mr->set_label_date) {
452          char dt[MAX_TIME_LENGTH];
453          if (mr->LabelDate == 0) {
454             mr->LabelDate = time(NULL);
455          }
456          (void)localtime_r(&mr->LabelDate, &tm);
457          strftime(dt, sizeof(dt), "%Y-%m-%d %H:%M:%S", &tm);
458          Mmsg(mdb->cmd, "UPDATE Media SET LabelDate='%s' "
459               "WHERE MediaId=%d", dt, mr->MediaId);
460          stat = UPDATE_DB(jcr, mdb, mdb->cmd);
461       }
462    }
463
464    /*
465     * Make sure that if InChanger is non-zero any other identical slot
466     *   has InChanger zero.
467     */
468    db_make_inchanger_unique(jcr, mdb, mr);
469
470    db_unlock(mdb);
471    return stat;
472 }
473
474 /*
475  * Create a Unique record for the client -- no duplicates
476  * Returns: 0 on failure
477  *          1 on success with id in cr->ClientId
478  */
479 int db_create_client_record(JCR *jcr, B_DB *mdb, CLIENT_DBR *cr)
480 {
481    SQL_ROW row;
482    int stat;
483    char ed1[50], ed2[50];
484
485    db_lock(mdb);
486    Mmsg(mdb->cmd, "SELECT ClientId,Uname FROM Client WHERE Name='%s'", cr->Name);
487
488    cr->ClientId = 0;
489    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
490       mdb->num_rows = sql_num_rows(mdb);
491       /* If more than one, report error, but return first row */
492       if (mdb->num_rows > 1) {
493          Mmsg1(&mdb->errmsg, _("More than one Client!: %d\n"), (int)(mdb->num_rows));
494          Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
495       }
496       if (mdb->num_rows >= 1) {
497          if ((row = sql_fetch_row(mdb)) == NULL) {
498             Mmsg1(&mdb->errmsg, _("error fetching Client row: %s\n"), sql_strerror(mdb));
499             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
500             sql_free_result(mdb);
501             db_unlock(mdb);
502             return 0;
503          }
504          cr->ClientId = str_to_int64(row[0]);
505          if (row[1]) {
506             bstrncpy(cr->Uname, row[1], sizeof(cr->Uname));
507          } else {
508             cr->Uname[0] = 0;         /* no name */
509          }
510          sql_free_result(mdb);
511          db_unlock(mdb);
512          return 1;
513       }
514       sql_free_result(mdb);
515    }
516
517    /* Must create it */
518    Mmsg(mdb->cmd, "INSERT INTO Client (Name,Uname,AutoPrune,"
519 "FileRetention,JobRetention) VALUES "
520 "('%s','%s',%d,%s,%s)", cr->Name, cr->Uname, cr->AutoPrune,
521       edit_uint64(cr->FileRetention, ed1),
522       edit_uint64(cr->JobRetention, ed2));
523
524    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
525       Mmsg2(&mdb->errmsg, _("Create DB Client record %s failed. ERR=%s\n"),
526             mdb->cmd, sql_strerror(mdb));
527       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
528       cr->ClientId = 0;
529       stat = 0;
530    } else {
531       cr->ClientId = sql_insert_id(mdb, NT_("Client"));
532       stat = 1;
533    }
534    db_unlock(mdb);
535    return stat;
536 }
537
538
539
540
541
542 /*
543  * Create a Unique record for the counter -- no duplicates
544  * Returns: 0 on failure
545  *          1 on success with counter filled in
546  */
547 int db_create_counter_record(JCR *jcr, B_DB *mdb, COUNTER_DBR *cr)
548 {
549    COUNTER_DBR mcr;
550    int stat;
551
552    db_lock(mdb);
553    memset(&mcr, 0, sizeof(mcr));
554    bstrncpy(mcr.Counter, cr->Counter, sizeof(mcr.Counter));
555    if (db_get_counter_record(jcr, mdb, &mcr)) {
556       memcpy(cr, &mcr, sizeof(COUNTER_DBR));
557       db_unlock(mdb);
558       return 1;
559    }
560
561    /* Must create it */
562    Mmsg(mdb->cmd, "INSERT INTO Counters (Counter,MinValue,MaxValue,CurrentValue,"
563       "WrapCounter) VALUES ('%s','%d','%d','%d','%s')",
564       cr->Counter, cr->MinValue, cr->MaxValue, cr->CurrentValue,
565       cr->WrapCounter);
566
567    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
568       Mmsg2(&mdb->errmsg, _("Create DB Counters record %s failed. ERR=%s\n"),
569             mdb->cmd, sql_strerror(mdb));
570       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
571       stat = 0;
572    } else {
573       stat = 1;
574    }
575    db_unlock(mdb);
576    return stat;
577 }
578
579
580 /*
581  * Create a FileSet record. This record is unique in the
582  *  name and the MD5 signature of the include/exclude sets.
583  *  Returns: 0 on failure
584  *           1 on success with FileSetId in record
585  */
586 bool db_create_fileset_record(JCR *jcr, B_DB *mdb, FILESET_DBR *fsr)
587 {
588    SQL_ROW row;
589    bool stat;
590    struct tm tm;
591
592    db_lock(mdb);
593    fsr->created = false;
594    Mmsg(mdb->cmd, "SELECT FileSetId,CreateTime FROM FileSet WHERE "
595 "FileSet='%s' AND MD5='%s'", fsr->FileSet, fsr->MD5);
596
597    fsr->FileSetId = 0;
598    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
599       mdb->num_rows = sql_num_rows(mdb);
600       if (mdb->num_rows > 1) {
601          Mmsg1(&mdb->errmsg, _("More than one FileSet!: %d\n"), (int)(mdb->num_rows));
602          Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
603       }
604       if (mdb->num_rows >= 1) {
605          if ((row = sql_fetch_row(mdb)) == NULL) {
606             Mmsg1(&mdb->errmsg, _("error fetching FileSet row: ERR=%s\n"), sql_strerror(mdb));
607             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
608             sql_free_result(mdb);
609             db_unlock(mdb);
610             return false;
611          }
612          fsr->FileSetId = str_to_int64(row[0]);
613          if (row[1] == NULL) {
614             fsr->cCreateTime[0] = 0;
615          } else {
616             bstrncpy(fsr->cCreateTime, row[1], sizeof(fsr->cCreateTime));
617          }
618          sql_free_result(mdb);
619          db_unlock(mdb);
620          return true;
621       }
622       sql_free_result(mdb);
623    }
624
625    if (fsr->CreateTime == 0 && fsr->cCreateTime[0] == 0) {
626       fsr->CreateTime = time(NULL);
627    }
628    (void)localtime_r(&fsr->CreateTime, &tm);
629    strftime(fsr->cCreateTime, sizeof(fsr->cCreateTime), "%Y-%m-%d %H:%M:%S", &tm);
630
631    /* Must create it */
632       Mmsg(mdb->cmd, "INSERT INTO FileSet (FileSet,MD5,CreateTime) "
633 "VALUES ('%s','%s','%s')", fsr->FileSet, fsr->MD5, fsr->cCreateTime);
634
635    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
636       Mmsg2(&mdb->errmsg, _("Create DB FileSet record %s failed. ERR=%s\n"),
637             mdb->cmd, sql_strerror(mdb));
638       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
639       fsr->FileSetId = 0;
640       stat = false;
641    } else {
642       fsr->FileSetId = sql_insert_id(mdb, NT_("FileSet"));
643       fsr->created = true;
644       stat = true;
645    }
646
647    db_unlock(mdb);
648    return stat;
649 }
650
651
652 /*
653  *  struct stat
654  *  {
655  *      dev_t         st_dev;       * device *
656  *      ino_t         st_ino;       * inode *
657  *      mode_t        st_mode;      * protection *
658  *      nlink_t       st_nlink;     * number of hard links *
659  *      uid_t         st_uid;       * user ID of owner *
660  *      gid_t         st_gid;       * group ID of owner *
661  *      dev_t         st_rdev;      * device type (if inode device) *
662  *      off_t         st_size;      * total size, in bytes *
663  *      unsigned long st_blksize;   * blocksize for filesystem I/O *
664  *      unsigned long st_blocks;    * number of blocks allocated *
665  *      time_t        st_atime;     * time of last access *
666  *      time_t        st_mtime;     * time of last modification *
667  *      time_t        st_ctime;     * time of last inode change *
668  *  };
669  */
670
671 #ifdef HAVE_BATCH_FILE_INSERT
672
673 /*  All sql_batch_* functions are used to do bulk batch insert in File/Filename/Path
674  *  tables. This code can be activated by adding "#define HAVE_BATCH_FILE_INSERT 1"
675  *  in baconfig.h
676  *  
677  *  To sum up :
678  *   - bulk load a temp table
679  *   - insert missing filenames into filename with a single query (lock filenames 
680  *   - table before that to avoid possible duplicate inserts with concurrent update)
681  *   - insert missing paths into path with another single query
682  *   - then insert the join between the temp, filename and path tables into file.
683  */
684
685 /* 
686  * Returns 1 if OK
687  *         0 if failed
688  */
689 bool my_batch_start(JCR *jcr, B_DB *mdb)
690 {
691    bool ok;
692
693    db_lock(mdb);
694    ok =  db_sql_query(mdb,
695              "CREATE TEMPORARY TABLE batch ("
696                 "FileIndex integer,"
697                 "JobId integer,"
698                 "Path blob,"
699                 "Name blob,"
700                 "LStat tinyblob,"
701                 "MD5 tinyblob)",NULL, NULL);
702    db_unlock(mdb);
703    return ok;
704 }
705
706 /* 
707  * Returns 1 if OK
708  *         0 if failed
709  */
710 bool my_batch_insert(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
711 {
712    size_t len;
713    char *digest;
714    char ed1[50];
715
716    mdb->esc_name = check_pool_memory_size(mdb->esc_name, mdb->fnl*2+1);
717    db_escape_string(jcr, mdb, mdb->esc_name, mdb->fname, mdb->fnl);
718
719    mdb->esc_path = check_pool_memory_size(mdb->esc_path, mdb->pnl*2+1);
720    db_escape_string(jcr, mdb, mdb->esc_path, mdb->path, mdb->pnl);
721
722    if (ar->Digest == NULL || ar->Digest[0] == 0) {
723       digest = "0";
724    } else {
725       digest = ar->Digest;
726    }
727
728    len = Mmsg(mdb->cmd, "INSERT INTO batch VALUES (%u,%s,'%s','%s','%s','%s')",
729               ar->FileIndex, edit_int64(ar->JobId,ed1), mdb->esc_path, 
730               mdb->esc_name, ar->attr, digest);
731
732    return INSERT_DB(jcr, mdb, mdb->cmd);
733 }
734
735 /* set error to something to abort operation */
736 /* 
737  * Returns 1 if OK
738  *         0 if failed
739  */
740 bool my_batch_end(JCR *jcr, B_DB *mdb, const char *error)
741 {
742    
743    Dmsg0(50, "sql_batch_end started\n");
744
745    if (mdb) {
746       mdb->status = 0;
747    }
748    return true;
749 }
750
751 /* 
752  * Returns 1 if OK
753  *         0 if failed
754  */
755 bool db_write_batch_file_records(JCR *jcr)
756 {
757    if (!jcr->db_batch) {         /* no files to backup ? */
758       Dmsg0(50,"db_create_file_record : no files\n");
759       return true;
760    }
761
762    Dmsg1(50,"db_create_file_record changes=%u\n",jcr->db_batch->changes);
763
764    if (!sql_batch_end(jcr, jcr->db_batch, NULL)) {
765       Jmsg(jcr, M_FATAL, 0, "Bad batch end %s\n", jcr->db_batch->errmsg);
766       return false;
767    }
768
769    if (job_canceled(jcr)) {
770       return false;
771    }
772
773    /* we have to lock tables */
774    if (!db_sql_query(jcr->db_batch, sql_batch_lock_path_query, NULL, NULL)) {
775       Jmsg(jcr, M_FATAL, 0, "Can't lock Path table %s\n", jcr->db_batch->errmsg);
776       return false;
777    }
778
779    if (!db_sql_query(jcr->db_batch, sql_batch_fill_path_query, NULL, NULL)) {
780       Jmsg(jcr, M_FATAL, 0, "Can't fill Path table %s\n",jcr->db_batch->errmsg);
781       db_sql_query(jcr->db_batch, sql_batch_unlock_tables_query, NULL, NULL);
782       return false;
783    }
784    
785    if (!db_sql_query(jcr->db_batch, sql_batch_unlock_tables_query,NULL,NULL)) {
786       Jmsg(jcr, M_FATAL, 0, "Can't unlock Path table %s\n", jcr->db_batch->errmsg);
787       return false;      
788    }
789
790    /* we have to lock tables */
791    if (!db_sql_query(jcr->db_batch,sql_batch_lock_filename_query,NULL, NULL)) {
792       Jmsg(jcr, M_FATAL, 0, "Can't lock Filename table %s\n", jcr->db_batch->errmsg);
793       return false;
794    }
795    
796    if (!db_sql_query(jcr->db_batch,sql_batch_fill_filename_query, NULL,NULL)) {
797       Jmsg(jcr,M_FATAL,0,"Can't fill Filename table %s\n",jcr->db_batch->errmsg);
798       QUERY_DB(jcr, jcr->db_batch, sql_batch_unlock_tables_query);
799       return false;            
800    }
801
802    if (!db_sql_query(jcr->db_batch, sql_batch_unlock_tables_query,NULL,NULL)) {
803       Jmsg(jcr, M_FATAL, 0, "Can't unlock Filename table %s\n", jcr->db_batch->errmsg);
804       return false;
805    }
806    
807    if (!db_sql_query(jcr->db_batch, 
808        "INSERT INTO File (FileIndex, JobId, PathId, FilenameId, LStat, MD5)"
809          "SELECT batch.FileIndex, batch.JobId, Path.PathId, "
810                 "Filename.FilenameId,batch.LStat, batch.MD5 "
811            "FROM batch "
812            "JOIN Path ON (batch.Path = Path.Path) "
813            "JOIN Filename ON (batch.Name = Filename.Name)",
814                      NULL,NULL))
815    {
816       Jmsg(jcr, M_FATAL, 0, "Can't fill File table %s\n", jcr->db_batch->errmsg);
817       return false;
818    }
819
820    db_sql_query(jcr->db_batch, "DROP TABLE batch", NULL,NULL);
821
822    return true;
823 }
824
825 /*
826  * Create File record in B_DB
827  *
828  *  In order to reduce database size, we store the File attributes,
829  *  the FileName, and the Path separately.  In principle, there
830  *  is a single FileName record and a single Path record, no matter
831  *  how many times it occurs.  This is this subroutine, we separate
832  *  the file and the path and fill temporary tables with this three records.
833  */
834 bool db_create_file_attributes_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
835 {
836    Dmsg1(dbglevel, "Fname=%s\n", ar->fname);
837    Dmsg0(dbglevel, "put_file_into_catalog\n");
838
839    if (!jcr->db_batch) {
840       Dmsg2(100, "Opendb attr. Stream=%d fname=%s\n", ar->Stream, ar->fname);
841       jcr->db_batch = db_init_database(jcr, 
842                                       mdb->db_name, 
843                                       mdb->db_user,
844                                       mdb->db_password, 
845                                       mdb->db_address,
846                                       mdb->db_port,
847                                       mdb->db_socket,
848                                       1 /* multi_db = true */);
849
850       if (!jcr->db_batch || !db_open_database(jcr, jcr->db_batch)) {
851          Jmsg(jcr, M_FATAL, 0, _("Could not open database \"%s\".\n"),
852               jcr->db->db_name);
853          if (jcr->db_batch) {
854             Jmsg(jcr, M_FATAL, 0, "%s", db_strerror(jcr->db_batch));
855          }
856          return false;
857       }      
858       
859       if (!sql_batch_start(jcr, jcr->db_batch)) {
860          Jmsg(jcr, M_FATAL, 0, 
861               "Can't start batch mode %s", db_strerror(jcr->db_batch));
862          return false;
863       }
864       Dmsg3(100, "initdb ref=%d connected=%d db=%p\n", jcr->db_batch->ref_count,
865             jcr->db_batch->connected, jcr->db_batch->db);
866    }
867    B_DB *bdb = jcr->db_batch;
868
869    /*
870     * Make sure we have an acceptable attributes record.
871     */
872    if (!(ar->Stream == STREAM_UNIX_ATTRIBUTES ||
873          ar->Stream == STREAM_UNIX_ATTRIBUTES_EX)) {
874       Mmsg1(&bdb->errmsg, _("Attempt to put non-attributes into catalog. Stream=%d\n"),
875          ar->Stream);
876       Jmsg(jcr, M_ERROR, 0, "%s", bdb->errmsg);
877       return 0;
878    }
879
880    split_path_and_file(jcr, bdb, ar->fname);
881
882
883 /*
884    if (bdb->changes > 100000) {
885       db_write_batch_file_records(jcr);
886       bdb->changes = 0;
887       sql_batch_start(jcr, bdb);
888    }
889 */
890
891    return sql_batch_insert(jcr, bdb, ar);
892 }
893
894 #else  /* ! HAVE_BATCH_FILE_INSERT */
895
896 /*
897  * Create File record in B_DB
898  *
899  *  In order to reduce database size, we store the File attributes,
900  *  the FileName, and the Path separately.  In principle, there
901  *  is a single FileName record and a single Path record, no matter
902  *  how many times it occurs.  This is this subroutine, we separate
903  *  the file and the path and create three database records.
904  */
905 bool db_create_file_attributes_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
906 {
907    db_lock(mdb);
908    Dmsg1(dbglevel, "Fname=%s\n", ar->fname);
909    Dmsg0(dbglevel, "put_file_into_catalog\n");
910    /*
911     * Make sure we have an acceptable attributes record.
912     */
913    if (!(ar->Stream == STREAM_UNIX_ATTRIBUTES ||
914          ar->Stream == STREAM_UNIX_ATTRIBUTES_EX)) {
915       Mmsg1(&mdb->errmsg, _("Attempt to put non-attributes into catalog. Stream=%d\n"),
916          ar->Stream);
917       Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
918       goto bail_out;
919    }
920
921
922    split_path_and_file(jcr, mdb, ar->fname);
923
924    if (!db_create_filename_record(jcr, mdb, ar)) {
925       goto bail_out;
926    }
927    Dmsg1(dbglevel, "db_create_filename_record: %s\n", mdb->esc_name);
928
929
930    if (!db_create_path_record(jcr, mdb, ar)) {
931       goto bail_out;
932    }
933    Dmsg1(dbglevel, "db_create_path_record: %s\n", mdb->esc_name);
934
935    /* Now create master File record */
936    if (!db_create_file_record(jcr, mdb, ar)) {
937       goto bail_out;
938    }
939    Dmsg0(dbglevel, "db_create_file_record OK\n");
940
941    Dmsg3(dbglevel, "CreateAttributes Path=%s File=%s FilenameId=%d\n", mdb->path, mdb->fname, ar->FilenameId);
942    db_unlock(mdb);
943    return true;
944
945 bail_out:
946    db_unlock(mdb);
947    return false;
948 }
949
950
951 /*
952  * This is the master File entry containing the attributes.
953  *  The filename and path records have already been created.
954  */
955 static int db_create_file_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
956 {
957    int stat;
958    static char *no_digest = "0";
959    char *digest;
960
961    ASSERT(ar->JobId);
962    ASSERT(ar->PathId);
963    ASSERT(ar->FilenameId);
964
965    if (ar->Digest == NULL || ar->Digest[0] == 0) {
966       digest = no_digest;
967    } else {
968       digest = ar->Digest;
969    }
970
971    /* Must create it */
972    Mmsg(mdb->cmd,
973         "INSERT INTO File (FileIndex,JobId,PathId,FilenameId,"
974         "LStat,MD5) VALUES (%u,%u,%u,%u,'%s','%s')",
975         ar->FileIndex, ar->JobId, ar->PathId, ar->FilenameId,
976         ar->attr, digest);
977
978    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
979       Mmsg2(&mdb->errmsg, _("Create db File record %s failed. ERR=%s"),
980          mdb->cmd, sql_strerror(mdb));
981       Jmsg(jcr, M_FATAL, 0, "%s", mdb->errmsg);
982       ar->FileId = 0;
983       stat = 0;
984    } else {
985       ar->FileId = sql_insert_id(mdb, NT_("File"));
986       stat = 1;
987    }
988    return stat;
989 }
990
991 /* Create a Unique record for the Path -- no duplicates */
992 static int db_create_path_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
993 {
994    SQL_ROW row;
995    int stat;
996
997    mdb->esc_name = check_pool_memory_size(mdb->esc_name, 2*mdb->pnl+2);
998    db_escape_string(jcr, mdb, mdb->esc_name, mdb->path, mdb->pnl);
999
1000    if (mdb->cached_path_id != 0 && mdb->cached_path_len == mdb->pnl &&
1001        strcmp(mdb->cached_path, mdb->path) == 0) {
1002       ar->PathId = mdb->cached_path_id;
1003       return 1;
1004    }
1005
1006    Mmsg(mdb->cmd, "SELECT PathId FROM Path WHERE Path='%s'", mdb->esc_name);
1007
1008    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
1009       mdb->num_rows = sql_num_rows(mdb);
1010       if (mdb->num_rows > 1) {
1011          char ed1[30];
1012          Mmsg2(&mdb->errmsg, _("More than one Path!: %s for path: %s\n"),
1013             edit_uint64(mdb->num_rows, ed1), mdb->path);
1014          Jmsg(jcr, M_WARNING, 0, "%s", mdb->errmsg);
1015       }
1016       /* Even if there are multiple paths, take the first one */
1017       if (mdb->num_rows >= 1) {
1018          if ((row = sql_fetch_row(mdb)) == NULL) {
1019             Mmsg1(&mdb->errmsg, _("error fetching row: %s\n"), sql_strerror(mdb));
1020             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
1021             sql_free_result(mdb);
1022             ar->PathId = 0;
1023             ASSERT(ar->PathId);
1024             return 0;
1025          }
1026          ar->PathId = str_to_int64(row[0]);
1027          sql_free_result(mdb);
1028          /* Cache path */
1029          if (ar->PathId != mdb->cached_path_id) {
1030             mdb->cached_path_id = ar->PathId;
1031             mdb->cached_path_len = mdb->pnl;
1032             pm_strcpy(mdb->cached_path, mdb->path);
1033          }
1034          ASSERT(ar->PathId);
1035          return 1;
1036       }
1037       sql_free_result(mdb);
1038    }
1039
1040    Mmsg(mdb->cmd, "INSERT INTO Path (Path) VALUES ('%s')", mdb->esc_name);
1041
1042    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
1043       Mmsg2(&mdb->errmsg, _("Create db Path record %s failed. ERR=%s\n"),
1044          mdb->cmd, sql_strerror(mdb));
1045       Jmsg(jcr, M_FATAL, 0, "%s", mdb->errmsg);
1046       ar->PathId = 0;
1047       stat = 0;
1048    } else {
1049       ar->PathId = sql_insert_id(mdb, NT_("Path"));
1050       stat = 1;
1051    }
1052
1053    /* Cache path */
1054    if (stat && ar->PathId != mdb->cached_path_id) {
1055       mdb->cached_path_id = ar->PathId;
1056       mdb->cached_path_len = mdb->pnl;
1057       pm_strcpy(mdb->cached_path, mdb->path);
1058    }
1059    return stat;
1060 }
1061
1062 /* Create a Unique record for the filename -- no duplicates */
1063 static int db_create_filename_record(JCR *jcr, B_DB *mdb, ATTR_DBR *ar)
1064 {
1065    SQL_ROW row;
1066
1067    mdb->esc_name = check_pool_memory_size(mdb->esc_name, 2*mdb->fnl+2);
1068    db_escape_string(jcr, mdb, mdb->esc_name, mdb->fname, mdb->fnl);
1069    
1070    Mmsg(mdb->cmd, "SELECT FilenameId FROM Filename WHERE Name='%s'", mdb->esc_name);
1071
1072    if (QUERY_DB(jcr, mdb, mdb->cmd)) {
1073       mdb->num_rows = sql_num_rows(mdb);
1074       if (mdb->num_rows > 1) {
1075          char ed1[30];
1076          Mmsg2(&mdb->errmsg, _("More than one Filename! %s for file: %s\n"),
1077             edit_uint64(mdb->num_rows, ed1), mdb->fname);
1078          Jmsg(jcr, M_WARNING, 0, "%s", mdb->errmsg);
1079       }
1080       if (mdb->num_rows >= 1) {
1081          if ((row = sql_fetch_row(mdb)) == NULL) {
1082             Mmsg2(&mdb->errmsg, _("Error fetching row for file=%s: ERR=%s\n"),
1083                 mdb->fname, sql_strerror(mdb));
1084             Jmsg(jcr, M_ERROR, 0, "%s", mdb->errmsg);
1085             ar->FilenameId = 0;
1086          } else {
1087             ar->FilenameId = str_to_int64(row[0]);
1088          }
1089          sql_free_result(mdb);
1090          return ar->FilenameId > 0;
1091       }
1092       sql_free_result(mdb);
1093    }
1094
1095    Mmsg(mdb->cmd, "INSERT INTO Filename (Name) VALUES ('%s')", mdb->esc_name);
1096
1097    if (!INSERT_DB(jcr, mdb, mdb->cmd)) {
1098       Mmsg2(&mdb->errmsg, _("Create db Filename record %s failed. ERR=%s\n"),
1099             mdb->cmd, sql_strerror(mdb));
1100       Jmsg(jcr, M_FATAL, 0, "%s", mdb->errmsg);
1101       ar->FilenameId = 0;
1102    } else {
1103       ar->FilenameId = sql_insert_id(mdb, NT_("Filename"));
1104    }
1105    return ar->FilenameId > 0;
1106 }
1107
1108 bool db_write_batch_file_records(JCR *jcr)
1109 {
1110    return true;
1111 }
1112
1113 #endif /* ! HAVE_BATCH_FILE_INSERT */
1114
1115 #endif /* HAVE_SQLITE3 || HAVE_MYSQL || HAVE_SQLITE || HAVE_POSTGRESQL */