]> git.sur5r.net Git - bacula/bacula/blob - bacula/src/cats/sql_cmds.c
Add delta sequence to batch mode, accurate query and file daemon ff_pkt
[bacula/bacula] / bacula / src / cats / sql_cmds.c
1 /*
2    Bacula® - The Network Backup Solution
3
4    Copyright (C) 2002-2008 Free Software Foundation Europe e.V.
5
6    The main author of Bacula is Kern Sibbald, with contributions from
7    many others, a complete list can be found in the file AUTHORS.
8    This program is Free Software; you can redistribute it and/or
9    modify it under the terms of version three of the GNU Affero General Public
10    License as published by the Free Software Foundation and included
11    in the file LICENSE.
12
13    This program is distributed in the hope that it will be useful, but
14    WITHOUT ANY WARRANTY; without even the implied warranty of
15    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
16    General Public License for more details.
17
18    You should have received a copy of the GNU Affero General Public License
19    along with this program; if not, write to the Free Software
20    Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
21    02110-1301, USA.
22
23    Bacula® is a registered trademark of Kern Sibbald.
24    The licensor of Bacula is the Free Software Foundation Europe
25    (FSFE), Fiduciary Program, Sumatrastrasse 25, 8006 Zürich,
26    Switzerland, email:ftf@fsfeurope.org.
27 */
28 /*
29  *  This file contains all the SQL commands that are either issued by the
30  *  Director or which are database backend specific.
31  *
32  *     Kern Sibbald, July MMII
33  */
34 /*
35  * Note, PostgreSQL imposes some constraints on using DISTINCT and GROUP BY
36  *  for example, the following is illegal in PostgreSQL:
37  *  SELECT DISTINCT JobId FROM temp ORDER BY StartTime ASC;
38  *  because all the ORDER BY expressions must appear in the SELECT list!
39  */
40
41 #include "bacula.h"
42 #include "cats.h"
43
44 const char *cleanup_created_job =
45    "UPDATE Job SET JobStatus='f', StartTime=SchedTime, EndTime=SchedTime "
46    "WHERE JobStatus = 'C'";
47 const char *cleanup_running_job = 
48    "UPDATE Job SET JobStatus='f', EndTime=StartTime WHERE JobStatus = 'R'";
49
50 /* For sql_update.c db_update_stats */
51 const char *fill_jobhisto =
52         "INSERT INTO JobHisto (" 
53            "JobId, Job, Name, Type, Level, ClientId, JobStatus, "
54            "SchedTime, StartTime, EndTime, RealEndTime, JobTDate, "
55            "VolSessionId, VolSessionTime, JobFiles, JobBytes, ReadBytes, "
56            "JobErrors, JobMissingFiles, PoolId, FileSetId, PriorJobId, "
57            "PurgedFiles, HasBase, Reviewed, Comment ) "
58         "SELECT " 
59            "JobId, Job, Name, Type, Level, ClientId, JobStatus, "
60            "SchedTime, StartTime, EndTime, RealEndTime, JobTDate, "
61            "VolSessionId, VolSessionTime, JobFiles, JobBytes, ReadBytes, "
62            "JobErrors, JobMissingFiles, PoolId, FileSetId, PriorJobId, "
63            "PurgedFiles, HasBase, Reviewed, Comment "
64           "FROM Job "
65          "WHERE JobStatus IN ('T','W','f','A','E') "
66            "AND NOT EXISTS "
67                 "(SELECT JobHisto.JobId "
68                    "FROM JobHisto WHERE JobHisto.Jobid=Job.JobId) "
69            "AND JobTDate < %s ";
70
71 /* For ua_update.c */
72 const char *list_pool = "SELECT * FROM Pool WHERE PoolId=%s";
73
74 /* For ua_dotcmds.c */
75 const char *client_backups =
76    "SELECT DISTINCT Job.JobId,Client.Name as Client,Level,StartTime,"
77    "JobFiles,JobBytes,VolumeName,MediaType,FileSet,Media.Enabled as Enabled"
78    " FROM Client,Job,JobMedia,Media,FileSet"
79    " WHERE Client.Name='%s'"
80    " AND FileSet='%s'"
81    " AND Client.ClientId=Job.ClientId"
82    " AND JobStatus IN ('T','W') AND Type='B'" 
83    " AND JobMedia.JobId=Job.JobId AND JobMedia.MediaId=Media.MediaId"
84    " AND Job.FileSetId=FileSet.FileSetId"
85    " ORDER BY Job.StartTime";
86
87
88 /* ====== ua_prune.c */
89
90 const char *del_File     = "DELETE FROM File WHERE JobId=%s";
91 const char *upd_Purged   = "UPDATE Job Set PurgedFiles=1 WHERE JobId=%s";
92 const char *cnt_DelCand  = "SELECT count(*) FROM DelCandidates";
93 const char *del_Job      = "DELETE FROM Job WHERE JobId=%s";
94 const char *del_JobMedia = "DELETE FROM JobMedia WHERE JobId=%s";
95 const char *cnt_JobMedia = "SELECT count(*) FROM JobMedia WHERE MediaId=%s";
96
97 const char *sel_JobMedia = 
98    "SELECT DISTINCT JobMedia.JobId FROM JobMedia,Job "
99    "WHERE MediaId=%s AND Job.JobId=JobMedia.JobId "
100    "AND Job.JobTDate<%s";
101
102 /* Count Select JobIds for File deletion */
103 const char *count_select_job = 
104    "SELECT count(*) from Job "
105    "WHERE JobTDate<%s "
106    "AND ClientId=%s "
107    "AND PurgedFiles=0";
108
109
110 /* Select JobIds for File deletion. */
111 const char *select_job =
112    "SELECT DISTINCT JobId from Job "
113    "WHERE JobTDate<%s "
114    "AND ClientId=%s "
115    "AND PurgedFiles=0";
116
117 /* Delete temp tables and indexes  */
118 const char *drop_deltabs[] = {
119    "DROP TABLE DelCandidates",
120    NULL};
121
122 const char *create_delindex = "CREATE INDEX DelInx1 ON DelCandidates (JobId)";
123
124 /* ======= ua_restore.c */
125 const char *uar_count_files =
126    "SELECT JobFiles FROM Job WHERE JobId=%s";
127
128 /* List last 20 Jobs */
129 const char *uar_list_jobs =
130    "SELECT JobId,Client.Name as Client,StartTime,Level as "
131    "JobLevel,JobFiles,JobBytes "
132    "FROM Client,Job WHERE Client.ClientId=Job.ClientId AND JobStatus IN ('T','W') "
133    "AND Type='B' ORDER BY StartTime DESC LIMIT 20";
134
135 const char *uar_print_jobs =  
136    "SELECT DISTINCT JobId,Level,JobFiles,JobBytes,StartTime,VolumeName"
137    " FROM Job JOIN JobMedia USING (JobId) JOIN Media USING (MediaId) "
138    " WHERE JobId IN (%s) "
139    " ORDER BY StartTime ASC";
140
141 /*
142  * Find all files for a particular JobId and insert them into
143  *  the tree during a restore.
144  */
145 const char *uar_sel_files =
146    "SELECT Path.Path,Filename.Name,FileIndex,JobId,LStat "
147    "FROM File,Filename,Path "
148    "WHERE File.JobId IN (%s) AND Filename.FilenameId=File.FilenameId "
149    "AND Path.PathId=File.PathId";
150
151 const char *uar_del_temp  = "DROP TABLE temp";
152 const char *uar_del_temp1 = "DROP TABLE temp1";
153
154 const char *uar_last_full =
155    "INSERT INTO temp1 SELECT Job.JobId,JobTdate "
156    "FROM Client,Job,JobMedia,Media,FileSet WHERE Client.ClientId=%s "
157    "AND Job.ClientId=%s "
158    "AND Job.StartTime < '%s' "
159    "AND Level='F' AND JobStatus IN ('T','W') AND Type='B' "
160    "AND JobMedia.JobId=Job.JobId "
161    "AND Media.Enabled=1 "
162    "AND JobMedia.MediaId=Media.MediaId "
163    "AND Job.FileSetId=FileSet.FileSetId "
164    "AND FileSet.FileSet='%s' "
165    "%s"
166    "ORDER BY Job.JobTDate DESC LIMIT 1";
167
168 const char *uar_full =
169    "INSERT INTO temp SELECT Job.JobId,Job.JobTDate,"
170    "Job.ClientId,Job.Level,Job.JobFiles,Job.JobBytes,"
171    "StartTime,VolumeName,JobMedia.StartFile,VolSessionId,VolSessionTime "
172    "FROM temp1,Job,JobMedia,Media WHERE temp1.JobId=Job.JobId "
173    "AND Level='F' AND JobStatus IN ('T','W') AND Type='B' "
174    "AND Media.Enabled=1 "
175    "AND JobMedia.JobId=Job.JobId "
176    "AND JobMedia.MediaId=Media.MediaId";
177
178 const char *uar_dif =
179    "INSERT INTO temp SELECT Job.JobId,Job.JobTDate,Job.ClientId,"
180    "Job.Level,Job.JobFiles,Job.JobBytes,"
181    "Job.StartTime,Media.VolumeName,JobMedia.StartFile,"
182    "Job.VolSessionId,Job.VolSessionTime "
183    "FROM Job,JobMedia,Media,FileSet "
184    "WHERE Job.JobTDate>%s AND Job.StartTime<'%s' "
185    "AND Job.ClientId=%s "
186    "AND JobMedia.JobId=Job.JobId "
187    "AND Media.Enabled=1 "
188    "AND JobMedia.MediaId=Media.MediaId "
189    "AND Job.Level='D' AND JobStatus IN ('T','W') AND Type='B' "
190    "AND Job.FileSetId=FileSet.FileSetId "
191    "AND FileSet.FileSet='%s' "
192    "%s"
193    "ORDER BY Job.JobTDate DESC LIMIT 1";
194
195 const char *uar_inc =
196    "INSERT INTO temp SELECT Job.JobId,Job.JobTDate,Job.ClientId,"
197    "Job.Level,Job.JobFiles,Job.JobBytes,"
198    "Job.StartTime,Media.VolumeName,JobMedia.StartFile,"
199    "Job.VolSessionId,Job.VolSessionTime "
200    "FROM Job,JobMedia,Media,FileSet "
201    "WHERE Job.JobTDate>%s AND Job.StartTime<'%s' "
202    "AND Job.ClientId=%s "
203    "AND Media.Enabled=1 "
204    "AND JobMedia.JobId=Job.JobId "
205    "AND JobMedia.MediaId=Media.MediaId "
206    "AND Job.Level='I' AND JobStatus IN ('T','W') AND Type='B' "
207    "AND Job.FileSetId=FileSet.FileSetId "
208    "AND FileSet.FileSet='%s' "
209    "%s";
210
211 const char *uar_list_temp =
212    "SELECT DISTINCT JobId,Level,JobFiles,JobBytes,StartTime,VolumeName"
213    " FROM temp"
214    " ORDER BY StartTime ASC";
215
216
217 const char *uar_sel_jobid_temp = 
218    "SELECT DISTINCT JobId,StartTime FROM temp ORDER BY StartTime ASC";
219
220 const char *uar_sel_all_temp1 = "SELECT * FROM temp1";
221
222 const char *uar_sel_all_temp = "SELECT * FROM temp";
223
224
225
226 /* Select FileSet names for this Client */
227 const char *uar_sel_fileset =
228    "SELECT DISTINCT FileSet.FileSet FROM Job,"
229    "Client,FileSet WHERE Job.FileSetId=FileSet.FileSetId "
230    "AND Job.ClientId=%s AND Client.ClientId=%s "
231    "ORDER BY FileSet.FileSet";
232
233 /* Select all different FileSet for this client
234  * This query doesn't guarantee that the Id is the latest
235  * version of the FileSet. Can be used with other queries that
236  * use Ids to select the FileSet name. (like in accurate)
237  */
238 const char *uar_sel_filesetid =
239    "SELECT MAX(FileSetId) "
240      "FROM FileSet JOIN Job USING (FileSetId) "
241          "WHERE Job.ClientId=%s "
242         "GROUP BY FileSet";
243
244 /* Find MediaType used by this Job */
245 const char *uar_mediatype =
246    "SELECT MediaType FROM JobMedia,Media WHERE JobMedia.JobId=%s "
247    "AND JobMedia.MediaId=Media.MediaId";
248
249 /*
250  *  Find JobId, FileIndex for a given path/file and date
251  *  for use when inserting individual files into the tree.
252  */
253 const char *uar_jobid_fileindex =
254    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
255    "WHERE Job.JobId=File.JobId "
256    "AND Job.StartTime<='%s' "
257    "AND Path.Path='%s' "
258    "AND Filename.Name='%s' "
259    "AND Client.Name='%s' "
260    "AND Job.ClientId=Client.ClientId "
261    "AND Path.PathId=File.PathId "
262    "AND Filename.FilenameId=File.FilenameId "
263    "AND JobStatus IN ('T','W') AND Type='B' "
264    "ORDER BY Job.StartTime DESC LIMIT 1";
265
266 const char *uar_jobids_fileindex =
267    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
268    "WHERE Job.JobId IN (%s) "
269    "AND Job.JobId=File.JobId "
270    "AND Job.StartTime<='%s' "
271    "AND Path.Path='%s' "
272    "AND Filename.Name='%s' "
273    "AND Client.Name='%s' "
274    "AND Job.ClientId=Client.ClientId "
275    "AND Path.PathId=File.PathId "
276    "AND Filename.FilenameId=File.FilenameId "
277    "ORDER BY Job.StartTime DESC LIMIT 1";
278
279 /* Query to get list of files from table -- presuably built by an external program */
280 const char *uar_jobid_fileindex_from_table = 
281    "SELECT JobId,FileIndex from %s";
282
283 /* Get the list of the last recent version per Delta with a given jobid list 
284  * This is a tricky part because with SQL the result of 
285  *
286  * SELECT MAX(A), B, C, D FROM... GROUP BY (B,C)
287  *
288  * doesn't give the good result (for D).
289  *
290  * With PostgreSQL, we can use DISTINCT ON(), but with Mysql or Sqlite,
291  * we need an extra join using JobTDate. 
292  */
293 const char *select_recent_version_with_basejob_default = 
294 "SELECT FileId, Job.JobId AS JobId, FileIndex, File.PathId AS PathId, "
295        "File.FilenameId AS FilenameId, LStat, MD5, MarkId "
296 "FROM Job, File, ( "
297     "SELECT MAX(JobTDate) AS JobTDate, PathId, FilenameId "
298       "FROM ( "
299         "SELECT JobTDate, PathId, FilenameId "   /* Get all normal files */
300           "FROM File JOIN Job USING (JobId) "    /* from selected backup */
301          "WHERE File.JobId IN (%s) "
302           "UNION ALL "
303         "SELECT JobTDate, PathId, FilenameId "   /* Get all files from */ 
304           "FROM BaseFiles "                      /* BaseJob */
305                "JOIN File USING (FileId) "
306                "JOIN Job  ON    (BaseJobId = Job.JobId) "
307          "WHERE BaseFiles.JobId IN (%s) "        /* Use Max(JobTDate) to find */
308        ") AS tmp "
309        "GROUP BY PathId, FilenameId "            /* the latest file version */
310     ") AS T1 "
311 "WHERE (Job.JobId IN ( "  /* Security, we force JobId to be valid */
312         "SELECT DISTINCT BaseJobId FROM BaseFiles WHERE JobId IN (%s)) "
313         "OR Job.JobId IN (%s)) "
314   "AND T1.JobTDate = Job.JobTDate " /* Join on JobTDate to get the orginal */
315   "AND Job.JobId = File.JobId "     /* Job/File record */
316   "AND T1.PathId = File.PathId "
317   "AND T1.FilenameId = File.FilenameId";
318
319 const char *select_recent_version_with_basejob[5] = {
320  /* MySQL */
321    select_recent_version_with_basejob_default,
322
323   /* Postgresql */    /* The DISTINCT ON () permits to avoid extra join */
324  "SELECT DISTINCT ON (FilenameId, PathId) StartTime, JobId, FileId, "
325          "FileIndex, PathId, FilenameId, LStat, MD5, MarkId "
326    "FROM "
327      "(SELECT FileId, JobId, PathId, FilenameId, FileIndex, LStat, MD5, MarkId "
328          "FROM File WHERE JobId IN (%s) "
329         "UNION ALL "
330        "SELECT File.FileId, File.JobId, PathId, FilenameId, "
331               "File.FileIndex, LStat, MD5, MarkId "
332          "FROM BaseFiles JOIN File USING (FileId) "
333         "WHERE BaseFiles.JobId IN (%s) "
334        ") AS T JOIN Job USING (JobId) "
335    "ORDER BY FilenameId, PathId, StartTime DESC ",
336
337   /* SQLite */
338    select_recent_version_with_basejob_default,
339
340  /* SQLite3 */
341    select_recent_version_with_basejob_default,
342
343   /* Ingres */
344    select_recent_version_with_basejob_default
345 };
346
347 /* We do the same thing than the previous query, but we include
348  * all delta parts. If the file has been deleted, we can have irrelevant
349  * parts.
350  *
351  * The code that uses results should control the delta sequence with
352  * the following rules:
353  * First Delta = 0
354  * Delta = Previous Delta + 1
355  *
356  * If we detect a gap, we can discard further pieces
357  * If a file starts at 1 instead of 0, the file has been deleted, and further
358  * pieces are useless.
359  * 
360  * This control should be reset for each new file
361  */
362 const char *select_recent_version_with_basejob_and_delta_default = 
363 "SELECT FileId, Job.JobId AS JobId, FileIndex, File.PathId AS PathId, "
364        "File.FilenameId AS FilenameId, LStat, MD5, MarkId "
365 "FROM Job, File, ( "
366     "SELECT MAX(JobTDate) AS JobTDate, PathId, FilenameId, MarkId "
367       "FROM ( "
368         "SELECT JobTDate, PathId, FilenameId "   /* Get all normal files */
369           "FROM File JOIN Job USING (JobId) "    /* from selected backup */
370          "WHERE File.JobId IN (%s) "
371           "UNION ALL "
372         "SELECT JobTDate, PathId, FilenameId "   /* Get all files from */ 
373           "FROM BaseFiles "                      /* BaseJob */
374                "JOIN File USING (FileId) "
375                "JOIN Job  ON    (BaseJobId = Job.JobId) "
376          "WHERE BaseFiles.JobId IN (%s) "        /* Use Max(JobTDate) to find */
377        ") AS tmp "
378        "GROUP BY PathId, FilenameId, MarkId "    /* the latest file version */
379     ") AS T1 "
380 "WHERE (Job.JobId IN ( "  /* Security, we force JobId to be valid */
381         "SELECT DISTINCT BaseJobId FROM BaseFiles WHERE JobId IN (%s)) "
382         "OR Job.JobId IN (%s)) "
383   "AND T1.JobTDate = Job.JobTDate " /* Join on JobTDate to get the orginal */
384   "AND Job.JobId = File.JobId "     /* Job/File record */
385   "AND T1.PathId = File.PathId "
386   "AND T1.FilenameId = File.FilenameId";
387
388 const char *select_recent_version_with_basejob_and_delta[5] = {
389  /* MySQL */
390    select_recent_version_with_basejob_and_delta_default,
391
392   /* Postgresql */    /* The DISTINCT ON () permits to avoid extra join */
393  "SELECT DISTINCT ON (FilenameId, PathId, MarkId) JobTDate, JobId, FileId, "
394          "FileIndex, PathId, FilenameId, LStat, MD5, MarkId "
395    "FROM "
396      "(SELECT FileId, JobId, PathId, FilenameId, FileIndex, LStat, MD5, MarkId "
397          "FROM File WHERE JobId IN (%s) "
398         "UNION ALL "
399        "SELECT File.FileId, File.JobId, PathId, FilenameId, "
400               "File.FileIndex, LStat, MD5, MarkId "
401          "FROM BaseFiles JOIN File USING (FileId) "
402         "WHERE BaseFiles.JobId IN (%s) "
403        ") AS T JOIN Job USING (JobId) "
404    "ORDER BY FilenameId, PathId, MarkId, JobTDate DESC ",
405
406   /* SQLite */
407    select_recent_version_with_basejob_and_delta_default,
408
409  /* SQLite3 */
410    select_recent_version_with_basejob_and_delta_default,
411
412   /* Ingres */
413    select_recent_version_with_basejob_and_delta_default
414 };
415
416 /* Get the list of the last recent version with a given BaseJob jobid list
417  * We don't handle Delta with BaseJobs, they have only Full files
418  */
419 const char *select_recent_version_default = 
420   "SELECT j1.JobId AS JobId, f1.FileId AS FileId, f1.FileIndex AS FileIndex, "
421           "f1.PathId AS PathId, f1.FilenameId AS FilenameId, "
422           "f1.LStat AS LStat, f1.MD5 AS MD5 "
423      "FROM ( "     /* Choose the last version for each Path/Filename */
424        "SELECT max(JobTDate) AS JobTDate, PathId, FilenameId "
425          "FROM File JOIN Job USING (JobId) "
426         "WHERE File.JobId IN (%s) "
427        "GROUP BY PathId, FilenameId "
428      ") AS t1, Job AS j1, File AS f1 "
429     "WHERE t1.JobTDate = j1.JobTDate "
430       "AND j1.JobId IN (%s) "
431       "AND t1.FilenameId = f1.FilenameId "
432       "AND t1.PathId = f1.PathId "
433       "AND j1.JobId = f1.JobId";
434
435 const char *select_recent_version[5] = {
436    /* MySQL */
437    select_recent_version_default,
438
439    /* Postgresql */
440    "SELECT DISTINCT ON (FilenameId, PathId) JobTDate, JobId, FileId, "
441           "FileIndex, PathId, FilenameId, LStat, MD5 "
442      "FROM File JOIN Job USING (JobId) "
443     "WHERE JobId IN (%s) "
444     "ORDER BY FilenameId, PathId, JobTDate DESC ",
445
446    /* SQLite */
447    select_recent_version_default,
448
449    /* SQLite3 */
450    select_recent_version_default,
451
452    /* Ingres */
453    select_recent_version_default
454 };
455
456 /* We don't create this table as TEMPORARY because MySQL MyISAM 
457  * 5.0 and 5.1 are unable to run further queries in this mode
458  */
459 const char *create_temp_accurate_jobids_default =
460  "CREATE TABLE btemp3%s AS "
461     "SELECT JobId, StartTime, EndTime, JobTDate, PurgedFiles "
462       "FROM Job JOIN FileSet USING (FileSetId) "
463      "WHERE ClientId = %s "
464        "AND Level='F' AND JobStatus IN ('T','W') AND Type='B' "
465        "AND StartTime<'%s' "
466        "AND FileSet.FileSet=(SELECT FileSet FROM FileSet WHERE FileSetId = %s) "
467      "ORDER BY Job.JobTDate DESC LIMIT 1";
468
469 const char *create_temp_accurate_jobids[5] = {
470    /* Mysql */
471    create_temp_accurate_jobids_default,
472    /* Postgresql */
473    create_temp_accurate_jobids_default,
474    /* SQLite */
475    create_temp_accurate_jobids_default,
476    /* SQLite3 */
477    create_temp_accurate_jobids_default,
478    /* Ingres */
479    "DECLARE GLOBAL TEMPORARY TABLE btemp3%s AS "
480    "SELECT JobId, StartTime, EndTime, JobTDate, PurgedFiles "
481    "FROM Job JOIN FileSet USING (FileSetId) "
482    "WHERE ClientId = %s "
483    "AND Level='F' AND JobStatus IN ('T','W') AND Type='B' "
484    "AND StartTime<'%s' "
485    "AND FileSet.FileSet=(SELECT FileSet FROM FileSet WHERE FileSetId = %s) "
486    "ORDER BY Job.JobTDate DESC FETCH FIRST 1 ROW ONLY "
487    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
488 };
489
490 const char *create_temp_basefile[5] = {
491    /* Mysql */
492    "CREATE TEMPORARY TABLE basefile%lld ("
493    "Path BLOB NOT NULL,"
494    "Name BLOB NOT NULL)",
495    /* Postgresql */
496    "CREATE TEMPORARY TABLE basefile%lld ("
497    "Path TEXT,"
498    "Name TEXT)",
499    /* SQLite */
500    "CREATE TEMPORARY TABLE basefile%lld ("
501    "Path TEXT,"
502    "Name TEXT)",
503    /* SQLite3 */
504    "CREATE TEMPORARY TABLE basefile%lld ("
505    "Path TEXT,"
506    "Name TEXT)",
507    /* Ingres */
508    "DECLARE GLOBAL TEMPORARY TABLE basefile%lld ("
509    "Path VARBYTE(32000) NOT NULL,"
510    "Name VARBYTE(32000) NOT NULL) "
511    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
512 };
513
514 const char *create_temp_new_basefile[5] = {
515    /* Mysql */
516    "CREATE TEMPORARY TABLE new_basefile%lld AS "
517    "SELECT Path.Path AS Path, Filename.Name AS Name, Temp.FileIndex AS FileIndex,"
518    "Temp.JobId AS JobId, Temp.LStat AS LStat, Temp.FileId AS FileId, "
519    "Temp.MD5 AS MD5 "
520    "FROM ( %s ) AS Temp "
521    "JOIN Filename ON (Filename.FilenameId = Temp.FilenameId) "
522    "JOIN Path ON (Path.PathId = Temp.PathId) "
523    "WHERE Temp.FileIndex > 0",
524    /* Postgresql */
525    "CREATE TEMPORARY TABLE new_basefile%lld AS "
526    "SELECT Path.Path AS Path, Filename.Name AS Name, Temp.FileIndex AS FileIndex,"
527    "Temp.JobId AS JobId, Temp.LStat AS LStat, Temp.FileId AS FileId, "
528    "Temp.MD5 AS MD5 "
529    "FROM ( %s ) AS Temp "
530    "JOIN Filename ON (Filename.FilenameId = Temp.FilenameId) "
531    "JOIN Path ON (Path.PathId = Temp.PathId) "
532    "WHERE Temp.FileIndex > 0",
533    /* SQLite */
534    "CREATE TEMPORARY TABLE new_basefile%lld AS "
535    "SELECT Path.Path AS Path, Filename.Name AS Name, Temp.FileIndex AS FileIndex,"
536    "Temp.JobId AS JobId, Temp.LStat AS LStat, Temp.FileId AS FileId, "
537    "Temp.MD5 AS MD5 "
538    "FROM ( %s ) AS Temp "
539    "JOIN Filename ON (Filename.FilenameId = Temp.FilenameId) "
540    "JOIN Path ON (Path.PathId = Temp.PathId) "
541    "WHERE Temp.FileIndex > 0",
542    /* SQLite3 */
543    "CREATE TEMPORARY TABLE new_basefile%lld AS "
544    "SELECT Path.Path AS Path, Filename.Name AS Name, Temp.FileIndex AS FileIndex,"
545    "Temp.JobId AS JobId, Temp.LStat AS LStat, Temp.FileId AS FileId, "
546    "Temp.MD5 AS MD5 "
547    "FROM ( %s ) AS Temp "
548    "JOIN Filename ON (Filename.FilenameId = Temp.FilenameId) "
549    "JOIN Path ON (Path.PathId = Temp.PathId) "
550    "WHERE Temp.FileIndex > 0",
551    /* Ingres */
552    "DECLARE GLOBAL TEMPORARY TABLE new_basefile%lld AS "
553    "SELECT Path.Path AS Path, Filename.Name AS Name, Temp.FileIndex AS FileIndex,"
554    "Temp.JobId AS JobId, Temp.LStat AS LStat, Temp.FileId AS FileId, "
555    "Temp.MD5 AS MD5 "
556    "FROM ( %s ) AS Temp "
557    "JOIN Filename ON (Filename.FilenameId = Temp.FilenameId) "
558    "JOIN Path ON (Path.PathId = Temp.PathId) "
559    "WHERE Temp.FileIndex > 0 "
560    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
561 };
562
563 /* ====== ua_prune.c */
564
565 /* List of SQL commands to create temp table and indicies  */
566 const char *create_deltabs[5] = {
567    /* MySQL */
568    "CREATE TEMPORARY TABLE DelCandidates ("
569    "JobId INTEGER UNSIGNED NOT NULL, "
570    "PurgedFiles TINYINT, "
571    "FileSetId INTEGER UNSIGNED, "
572    "JobFiles INTEGER UNSIGNED, "
573    "JobStatus BINARY(1))",
574    /* Postgresql */
575    "CREATE TEMPORARY TABLE DelCandidates (" 
576    "JobId INTEGER NOT NULL, "
577    "PurgedFiles SMALLINT, "
578    "FileSetId INTEGER, "
579    "JobFiles INTEGER, "
580    "JobStatus char(1))",
581    /* SQLite */
582    "CREATE TEMPORARY TABLE DelCandidates ("
583    "JobId INTEGER UNSIGNED NOT NULL, "
584    "PurgedFiles TINYINT, "
585    "FileSetId INTEGER UNSIGNED, "
586    "JobFiles INTEGER UNSIGNED, "
587    "JobStatus CHAR)",
588    /* SQLite3 */
589    "CREATE TEMPORARY TABLE DelCandidates ("
590    "JobId INTEGER UNSIGNED NOT NULL, "
591    "PurgedFiles TINYINT, "
592    "FileSetId INTEGER UNSIGNED, "
593    "JobFiles INTEGER UNSIGNED, "
594    "JobStatus CHAR)",
595    /* Ingres */
596    "DECLARE GLOBAL TEMPORARY TABLE DelCandidates (" 
597    "JobId INTEGER NOT NULL, "
598    "PurgedFiles SMALLINT, "
599    "FileSetId INTEGER, "
600    "JobFiles INTEGER, "
601    "JobStatus CHAR(1)) "
602    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
603 };
604
605 /* ======= ua_purge.c */
606
607 /* Select the first available Copy Job that must be upgraded to a Backup job when the original backup job is expired. */
608
609 const char *uap_upgrade_copies_oldest_job_default = 
610 "CREATE TEMPORARY TABLE cpy_tmp AS "
611        "SELECT MIN(JobId) AS JobId FROM Job "     /* Choose the oldest job */
612         "WHERE Type='%c' "                        /* JT_JOB_COPY */
613           "AND ( PriorJobId IN (%s) "             /* JobId selection */
614               "OR "
615                " PriorJobId IN ( "
616                   "SELECT PriorJobId "
617                     "FROM Job "
618                    "WHERE JobId IN (%s) "         /* JobId selection */
619                     " AND Type='B' "
620                  ") "
621               ") "
622           "GROUP BY PriorJobId ";           /* one result per copy */
623
624 const char *uap_upgrade_copies_oldest_job[5] = {
625    /* Mysql */
626    uap_upgrade_copies_oldest_job_default,
627    /* Postgresql */
628    uap_upgrade_copies_oldest_job_default,
629    /* SQLite */
630    uap_upgrade_copies_oldest_job_default,
631    /* SQLite3 */
632    uap_upgrade_copies_oldest_job_default,
633    /* Ingres */
634    "DECLARE GLOBAL TEMPORARY TABLE cpy_tmp AS "
635        "SELECT MIN(JobId) AS JobId FROM Job "     /* Choose the oldest job */
636         "WHERE Type='%c' "                        /* JT_JOB_COPY */
637           "AND ( PriorJobId IN (%s) "             /* JobId selection */
638               "OR "
639                " PriorJobId IN ( "
640                   "SELECT PriorJobId "
641                     "FROM Job "
642                    "WHERE JobId IN (%s) "         /* JobId selection */
643                     " AND Type='B' "
644                  ") "
645               ") "
646           "GROUP BY PriorJobId "           /* one result per copy */
647    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
648 };
649
650 /* ======= ua_restore.c */
651
652 /* List Jobs where a particular file is saved */
653 const char *uar_file[5] = {
654    /* Mysql */
655    "SELECT Job.JobId as JobId,"
656    "CONCAT(Path.Path,Filename.Name) as Name, "
657    "StartTime,Type as JobType,JobStatus,JobFiles,JobBytes "
658    "FROM Client,Job,File,Filename,Path WHERE Client.Name='%s' "
659    "AND Client.ClientId=Job.ClientId "
660    "AND Job.JobId=File.JobId AND File.FileIndex > 0 "
661    "AND Path.PathId=File.PathId AND Filename.FilenameId=File.FilenameId "
662    "AND Filename.Name='%s' ORDER BY StartTime DESC LIMIT 20",
663    /* Postgresql */
664    "SELECT Job.JobId as JobId,"
665    "Path.Path||Filename.Name as Name, "
666    "StartTime,Type as JobType,JobStatus,JobFiles,JobBytes "
667    "FROM Client,Job,File,Filename,Path WHERE Client.Name='%s' "
668    "AND Client.ClientId=Job.ClientId "
669    "AND Job.JobId=File.JobId AND File.FileIndex > 0 "
670    "AND Path.PathId=File.PathId AND Filename.FilenameId=File.FilenameId "
671    "AND Filename.Name='%s' ORDER BY StartTime DESC LIMIT 20",
672    /* SQLite */
673    "SELECT Job.JobId as JobId,"
674    "Path.Path||Filename.Name as Name, "
675    "StartTime,Type as JobType,JobStatus,JobFiles,JobBytes "
676    "FROM Client,Job,File,Filename,Path WHERE Client.Name='%s' "
677    "AND Client.ClientId=Job.ClientId "
678    "AND Job.JobId=File.JobId AND File.FileIndex > 0 "
679    "AND Path.PathId=File.PathId AND Filename.FilenameId=File.FilenameId "
680    "AND Filename.Name='%s' ORDER BY StartTime DESC LIMIT 20",
681    /* SQLite3 */
682    "SELECT Job.JobId as JobId,"
683    "Path.Path||Filename.Name as Name, "
684    "StartTime,Type as JobType,JobStatus,JobFiles,JobBytes "
685    "FROM Client,Job,File,Filename,Path WHERE Client.Name='%s' "
686    "AND Client.ClientId=Job.ClientId "
687    "AND Job.JobId=File.JobId AND File.FileIndex > 0 "
688    "AND Path.PathId=File.PathId AND Filename.FilenameId=File.FilenameId "
689    "AND Filename.Name='%s' ORDER BY StartTime DESC LIMIT 20",
690    /* Ingres */
691    "SELECT Job.JobId as JobId,"
692    "Path.Path||Filename.Name as Name, "
693    "StartTime,Type as JobType,JobStatus,JobFiles,JobBytes "
694    "FROM Client,Job,File,Filename,Path WHERE Client.Name='%s' "
695    "AND Client.ClientId=Job.ClientId "
696    "AND Job.JobId=File.JobId AND File.FileIndex > 0 "
697    "AND Path.PathId=File.PathId AND Filename.FilenameId=File.FilenameId "
698    "AND Filename.Name='%s' ORDER BY StartTime DESC FETCH FIRST 20 ROWS ONLY"
699 };
700
701 const char *uar_create_temp[5] = {
702    /* Mysql */
703    "CREATE TEMPORARY TABLE temp ("
704    "JobId INTEGER UNSIGNED NOT NULL,"
705    "JobTDate BIGINT UNSIGNED,"
706    "ClientId INTEGER UNSIGNED,"
707    "Level CHAR,"
708    "JobFiles INTEGER UNSIGNED,"
709    "JobBytes BIGINT UNSIGNED,"
710    "StartTime TEXT,"
711    "VolumeName TEXT,"
712    "StartFile INTEGER UNSIGNED,"
713    "VolSessionId INTEGER UNSIGNED,"
714    "VolSessionTime INTEGER UNSIGNED)",
715    /* Postgresql */
716    "CREATE TEMPORARY TABLE temp ("
717    "JobId INTEGER NOT NULL,"
718    "JobTDate BIGINT,"
719    "ClientId INTEGER,"
720    "Level CHAR,"
721    "JobFiles INTEGER,"
722    "JobBytes BIGINT,"
723    "StartTime TEXT,"
724    "VolumeName TEXT,"
725    "StartFile INTEGER,"
726    "VolSessionId INTEGER,"
727    "VolSessionTime INTEGER)",
728    /* SQLite */
729    "CREATE TEMPORARY TABLE temp ("
730    "JobId INTEGER UNSIGNED NOT NULL,"
731    "JobTDate BIGINT UNSIGNED,"
732    "ClientId INTEGER UNSIGNED,"
733    "Level CHAR,"
734    "JobFiles INTEGER UNSIGNED,"
735    "JobBytes BIGINT UNSIGNED,"
736    "StartTime TEXT,"
737    "VolumeName TEXT,"
738    "StartFile INTEGER UNSIGNED,"
739    "VolSessionId INTEGER UNSIGNED,"
740    "VolSessionTime INTEGER UNSIGNED)",
741    /* SQLite3 */
742    "CREATE TEMPORARY TABLE temp ("
743    "JobId INTEGER UNSIGNED NOT NULL,"
744    "JobTDate BIGINT UNSIGNED,"
745    "ClientId INTEGER UNSIGNED,"
746    "Level CHAR,"
747    "JobFiles INTEGER UNSIGNED,"
748    "JobBytes BIGINT UNSIGNED,"
749    "StartTime TEXT,"
750    "VolumeName TEXT,"
751    "StartFile INTEGER UNSIGNED,"
752    "VolSessionId INTEGER UNSIGNED,"
753    "VolSessionTime INTEGER UNSIGNED)",
754    /* Ingres */
755    "DECLARE GLOBAL TEMPORARY TABLE temp ("
756    "JobId INTEGER NOT NULL,"
757    "JobTDate BIGINT,"
758    "ClientId INTEGER,"
759    "Level CHAR(1),"
760    "JobFiles INTEGER,"
761    "JobBytes BIGINT,"
762    "StartTime TIMESTAMP WITHOUT TIME ZONE,"
763    "VolumeName VARBYTE(128),"
764    "StartFile INTEGER,"
765    "VolSessionId INTEGER,"
766    "VolSessionTime INTEGER) "
767    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
768 };
769
770 const char *uar_create_temp1[5] = {
771    /* Mysql */
772    "CREATE TEMPORARY TABLE temp1 ("
773    "JobId INTEGER UNSIGNED NOT NULL,"
774    "JobTDate BIGINT UNSIGNED)",
775    /* Postgresql */
776    "CREATE TEMPORARY TABLE temp1 ("
777    "JobId INTEGER NOT NULL,"
778    "JobTDate BIGINT)",
779    /* SQLite */
780    "CREATE TEMPORARY TABLE temp1 ("
781    "JobId INTEGER UNSIGNED NOT NULL,"
782    "JobTDate BIGINT UNSIGNED)",
783    /* SQLite3 */
784    "CREATE TEMPORARY TABLE temp1 ("
785    "JobId INTEGER UNSIGNED NOT NULL,"
786    "JobTDate BIGINT UNSIGNED)",
787    /* Ingres */
788    "DECLARE GLOBAL TEMPORARY TABLE temp1 ("
789    "JobId INTEGER NOT NULL,"
790    "JobTDate BIGINT) "
791    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
792    };
793
794 /* Query to get all files in a directory -- no recursing   
795  *  Note, for PostgreSQL since it respects the "Single Value
796  *  rule", the results of the SELECT will be unoptimized.
797  *  I.e. the same file will be restored multiple times, once
798  *  for each time it was backed up.
799  */
800
801 const char *uar_jobid_fileindex_from_dir[5] = {
802    /* Mysql */
803    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
804    "WHERE Job.JobId IN (%s) "
805    "AND Job.JobId=File.JobId "
806    "AND Path.Path='%s' "
807    "AND Client.Name='%s' "
808    "AND Job.ClientId=Client.ClientId "
809    "AND Path.PathId=File.Pathid "
810    "AND Filename.FilenameId=File.FilenameId "
811    "GROUP BY File.FileIndex ",
812    /* Postgresql */
813    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
814    "WHERE Job.JobId IN (%s) "
815    "AND Job.JobId=File.JobId "
816    "AND Path.Path='%s' "
817    "AND Client.Name='%s' "
818    "AND Job.ClientId=Client.ClientId "
819    "AND Path.PathId=File.Pathid "
820    "AND Filename.FilenameId=File.FilenameId",
821    /* SQLite */
822    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
823    "WHERE Job.JobId IN (%s) "
824    "AND Job.JobId=File.JobId "
825    "AND Path.Path='%s' "
826    "AND Client.Name='%s' "
827    "AND Job.ClientId=Client.ClientId "
828    "AND Path.PathId=File.Pathid "
829    "AND Filename.FilenameId=File.FilenameId "
830    "GROUP BY File.FileIndex ",
831    /* SQLite3 */
832    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
833    "WHERE Job.JobId IN (%s) "
834    "AND Job.JobId=File.JobId "
835    "AND Path.Path='%s' "
836    "AND Client.Name='%s' "
837    "AND Job.ClientId=Client.ClientId "
838    "AND Path.PathId=File.Pathid "
839    "AND Filename.FilenameId=File.FilenameId "
840    "GROUP BY File.FileIndex ",
841    /* Ingres */
842    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
843    "WHERE Job.JobId IN (%s) "
844    "AND Job.JobId=File.JobId "
845    "AND Path.Path='%s' "
846    "AND Client.Name='%s' "
847    "AND Job.ClientId=Client.ClientId "
848    "AND Path.PathId=File.Pathid "
849    "AND Filename.FilenameId=File.FilenameId"
850 };
851
852 const char *sql_media_order_most_recently_written[5] = {
853    /* Mysql */
854    "ORDER BY LastWritten IS NULL,LastWritten DESC,MediaId",
855    /* Postgresql */
856    "ORDER BY LastWritten IS NULL,LastWritten DESC,MediaId",
857    /* SQLite */
858    "ORDER BY LastWritten IS NULL,LastWritten DESC,MediaId",
859    /* SQLite3 */
860    "ORDER BY LastWritten IS NULL,LastWritten DESC,MediaId",
861    /* Ingres */
862    "ORDER BY IFNULL(LastWritten, '1970-01-01 00:00:00') DESC,MediaId"
863 };
864
865 const char *sql_get_max_connections[5] = {
866    /* Mysql */
867    "SHOW VARIABLES LIKE 'max_connections'",
868    /* Postgresql */
869    "SHOW max_connections",
870    /* SQLite */
871    "SELECT 0",
872    /* SQLite3 */
873    "SELECT 0",
874    /* Ingres (TODO) */
875    "SELECT 0"
876 };
877
878 /* Row number of the max_connections setting */
879 const uint32_t sql_get_max_connections_index[5] = {
880     /* Mysql */
881    1,
882    /* Postgresql */
883    0,
884    /* SQLite */
885    0,
886    /* SQLite3 */
887    0,
888    /* Ingres (TODO) */
889    0
890 };
891
892 const char *sql_bvfs_select[5] = {
893    /* Mysql */
894    "CREATE TABLE %s AS ( "
895       "SELECT JobId, FileIndex, FileId, max(JobTDate) as JobTDate "
896         "FROM btemp%s "
897       "GROUP BY PathId, FilenameId "
898    "HAVING FileIndex > 0)",
899    /* Postgresql */
900    "CREATE TABLE %s AS ( "
901         "SELECT JobId, FileIndex, FileId "
902           "FROM ( "
903              "SELECT DISTINCT ON (PathId, FilenameId) "
904                     "JobId, FileIndex, FileId "
905                "FROM btemp%s "
906               "ORDER BY PathId, FilenameId, JobTDate DESC "
907           ") AS T "
908           "WHERE FileIndex > 0)",
909    /* SQLite */
910    "SELECT 0",
911    /* SQLite3 */
912    "SELECT 0",
913    /* Ingres (TODO) */
914    "SELECT 0"
915 };
916
917 const char *sql_bvfs_list_files_default = 
918 "SELECT 'F', PathId, T1.FilenameId, Filename.Name, "
919         "File.JobId, LStat, FileId "
920 "FROM Job, File, ( "
921     "SELECT MAX(JobTDate) AS JobTDate, PathId, FilenameId "
922       "FROM ( "
923         "SELECT JobTDate, PathId, FilenameId "
924           "FROM File JOIN Job USING (JobId) "
925          "WHERE File.JobId IN (%s) AND PathId = %s "
926           "UNION ALL "
927         "SELECT JobTDate, PathId, FilenameId "
928           "FROM BaseFiles "
929                "JOIN File USING (FileId) "
930                "JOIN Job  ON    (BaseJobId = Job.JobId) "
931          "WHERE BaseFiles.JobId IN (%s)   AND PathId = %s "
932        ") AS tmp GROUP BY PathId, FilenameId LIMIT %lld OFFSET %lld"
933     ") AS T1 JOIN Filename USING (FilenameId) "
934 "WHERE T1.JobTDate = Job.JobTDate "
935   "AND Job.JobId = File.JobId "
936   "AND T1.PathId = File.PathId "
937   "AND T1.FilenameId = File.FilenameId "
938   "AND Filename.Name != '' "
939   " %s "                     /* AND Name LIKE '' */
940   "AND (Job.JobId IN ( "
941         "SELECT DISTINCT BaseJobId FROM BaseFiles WHERE JobId IN (%s)) "
942        "OR Job.JobId IN (%s)) ";
943
944 const char *sql_bvfs_list_files[] = {
945    /* Mysql */
946 /* JobId PathId JobId PathId Limit Offset AND? Filename? JobId JobId*/
947    sql_bvfs_list_files_default,
948
949 /* JobId PathId JobId PathId WHERE? Filename? Limit Offset*/
950    /* Postgresql */
951  "SELECT DISTINCT ON (FilenameId) 'F', PathId, T.FilenameId, "
952   "Filename.Name, JobId, LStat, FileId "
953    "FROM "
954        "(SELECT FileId, JobId, PathId, FilenameId, FileIndex, LStat, MD5 "
955           "FROM File WHERE JobId IN (%s) AND PathId = %s "
956          "UNION ALL "
957         "SELECT File.FileId, File.JobId, PathId, FilenameId, "
958                "File.FileIndex, LStat, MD5 "
959           "FROM BaseFiles JOIN File USING (FileId) "
960          "WHERE BaseFiles.JobId IN (%s) AND File.PathId = %s "
961         ") AS T JOIN Job USING (JobId) JOIN Filename USING (FilenameId) "
962         " WHERE Filename.Name != '' "
963         " %s "               /* AND Name LIKE '' */
964    "ORDER BY FilenameId, StartTime DESC LIMIT %lld OFFSET %lld",
965
966    /* SQLite */
967    sql_bvfs_list_files_default,
968
969    /* SQLite3 */
970    sql_bvfs_list_files_default,
971
972    /* Ingres (TODO) */
973    sql_bvfs_list_files_default
974 };
975