]> git.sur5r.net Git - bacula/bacula/blob - bacula/src/cats/sql_cmds.c
b739d6d96691d52c062d8acb1d042aa470fdf70c
[bacula/bacula] / bacula / src / cats / sql_cmds.c
1 /*
2    Bacula® - The Network Backup Solution
3
4    Copyright (C) 2002-2010 Free Software Foundation Europe e.V.
5
6    The main author of Bacula is Kern Sibbald, with contributions from
7    many others, a complete list can be found in the file AUTHORS.
8    This program is Free Software; you can redistribute it and/or
9    modify it under the terms of version three of the GNU Affero General Public
10    License as published by the Free Software Foundation and included
11    in the file LICENSE.
12
13    This program is distributed in the hope that it will be useful, but
14    WITHOUT ANY WARRANTY; without even the implied warranty of
15    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
16    General Public License for more details.
17
18    You should have received a copy of the GNU Affero General Public License
19    along with this program; if not, write to the Free Software
20    Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
21    02110-1301, USA.
22
23    Bacula® is a registered trademark of Kern Sibbald.
24    The licensor of Bacula is the Free Software Foundation Europe
25    (FSFE), Fiduciary Program, Sumatrastrasse 25, 8006 Zürich,
26    Switzerland, email:ftf@fsfeurope.org.
27 */
28 /*
29  *  This file contains all the SQL commands that are either issued by the
30  *  Director or which are database backend specific.
31  *
32  *     Kern Sibbald, July MMII
33  */
34 /*
35  * Note, PostgreSQL imposes some constraints on using DISTINCT and GROUP BY
36  *  for example, the following is illegal in PostgreSQL:
37  *  SELECT DISTINCT JobId FROM temp ORDER BY StartTime ASC;
38  *  because all the ORDER BY expressions must appear in the SELECT list!
39  */
40
41 #include "bacula.h"
42
43 const char *cleanup_created_job =
44    "UPDATE Job SET JobStatus='f', StartTime=SchedTime, EndTime=SchedTime "
45    "WHERE JobStatus = 'C'";
46 const char *cleanup_running_job = 
47    "UPDATE Job SET JobStatus='f', EndTime=StartTime WHERE JobStatus = 'R'";
48
49 /* For sql_update.c db_update_stats */
50 const char *fill_jobhisto =
51         "INSERT INTO JobHisto (" 
52            "JobId, Job, Name, Type, Level, ClientId, JobStatus, "
53            "SchedTime, StartTime, EndTime, RealEndTime, JobTDate, "
54            "VolSessionId, VolSessionTime, JobFiles, JobBytes, ReadBytes, "
55            "JobErrors, JobMissingFiles, PoolId, FileSetId, PriorJobId, "
56            "PurgedFiles, HasBase, Reviewed, Comment ) "
57         "SELECT " 
58            "JobId, Job, Name, Type, Level, ClientId, JobStatus, "
59            "SchedTime, StartTime, EndTime, RealEndTime, JobTDate, "
60            "VolSessionId, VolSessionTime, JobFiles, JobBytes, ReadBytes, "
61            "JobErrors, JobMissingFiles, PoolId, FileSetId, PriorJobId, "
62            "PurgedFiles, HasBase, Reviewed, Comment "
63           "FROM Job "
64          "WHERE JobStatus IN ('T','W','f','A','E') "
65            "AND NOT EXISTS "
66                 "(SELECT JobHisto.JobId "
67                    "FROM JobHisto WHERE JobHisto.Jobid=Job.JobId) "
68            "AND JobTDate < %s ";
69
70 /* For ua_update.c */
71 const char *list_pool = "SELECT * FROM Pool WHERE PoolId=%s";
72
73 /* For ua_dotcmds.c */
74 const char *client_backups =
75    "SELECT DISTINCT Job.JobId,Client.Name as Client,Level,StartTime,"
76    "JobFiles,JobBytes,VolumeName,MediaType,FileSet,Media.Enabled as Enabled"
77    " FROM Client,Job,JobMedia,Media,FileSet"
78    " WHERE Client.Name='%s'"
79    " AND FileSet='%s'"
80    " AND Client.ClientId=Job.ClientId"
81    " AND JobStatus IN ('T','W') AND Type='B'" 
82    " AND JobMedia.JobId=Job.JobId AND JobMedia.MediaId=Media.MediaId"
83    " AND Job.FileSetId=FileSet.FileSetId"
84    " ORDER BY Job.StartTime";
85
86 /* ====== ua_prune.c */
87
88 const char *sel_JobMedia = 
89    "SELECT DISTINCT JobMedia.JobId FROM JobMedia,Job "
90    "WHERE MediaId=%s AND Job.JobId=JobMedia.JobId "
91    "AND Job.JobTDate<%s";
92
93 /* Delete temp tables and indexes  */
94 const char *drop_deltabs[] = {
95    "DROP TABLE DelCandidates",
96    NULL};
97
98 const char *create_delindex = "CREATE INDEX DelInx1 ON DelCandidates (JobId)";
99
100 /* ======= ua_restore.c */
101 const char *uar_count_files =
102    "SELECT JobFiles FROM Job WHERE JobId=%s";
103
104 /* List last 20 Jobs */
105 const char *uar_list_jobs =
106    "SELECT JobId,Client.Name as Client,StartTime,Level as "
107    "JobLevel,JobFiles,JobBytes "
108    "FROM Client,Job WHERE Client.ClientId=Job.ClientId AND JobStatus IN ('T','W') "
109    "AND Type='B' ORDER BY StartTime DESC LIMIT 20";
110
111 const char *uar_print_jobs =  
112    "SELECT DISTINCT JobId,Level,JobFiles,JobBytes,StartTime,VolumeName"
113    " FROM Job JOIN JobMedia USING (JobId) JOIN Media USING (MediaId) "
114    " WHERE JobId IN (%s) "
115    " ORDER BY StartTime ASC";
116
117 /*
118  * Find all files for a particular JobId and insert them into
119  *  the tree during a restore.
120  */
121 const char *uar_sel_files =
122    "SELECT Path.Path,Filename.Name,FileIndex,JobId,LStat "
123    "FROM File,Filename,Path "
124    "WHERE File.JobId IN (%s) AND Filename.FilenameId=File.FilenameId "
125    "AND Path.PathId=File.PathId";
126
127 const char *uar_del_temp  = "DROP TABLE temp";
128 const char *uar_del_temp1 = "DROP TABLE temp1";
129
130 const char *uar_last_full =
131    "INSERT INTO temp1 SELECT Job.JobId,JobTdate "
132    "FROM Client,Job,JobMedia,Media,FileSet WHERE Client.ClientId=%s "
133    "AND Job.ClientId=%s "
134    "AND Job.StartTime < '%s' "
135    "AND Level='F' AND JobStatus IN ('T','W') AND Type='B' "
136    "AND JobMedia.JobId=Job.JobId "
137    "AND Media.Enabled=1 "
138    "AND JobMedia.MediaId=Media.MediaId "
139    "AND Job.FileSetId=FileSet.FileSetId "
140    "AND FileSet.FileSet='%s' "
141    "%s"
142    "ORDER BY Job.JobTDate DESC LIMIT 1";
143
144 const char *uar_full =
145    "INSERT INTO temp SELECT Job.JobId,Job.JobTDate,"
146    "Job.ClientId,Job.Level,Job.JobFiles,Job.JobBytes,"
147    "StartTime,VolumeName,JobMedia.StartFile,VolSessionId,VolSessionTime "
148    "FROM temp1,Job,JobMedia,Media WHERE temp1.JobId=Job.JobId "
149    "AND Level='F' AND JobStatus IN ('T','W') AND Type='B' "
150    "AND Media.Enabled=1 "
151    "AND JobMedia.JobId=Job.JobId "
152    "AND JobMedia.MediaId=Media.MediaId";
153
154 const char *uar_dif =
155    "INSERT INTO temp SELECT Job.JobId,Job.JobTDate,Job.ClientId,"
156    "Job.Level,Job.JobFiles,Job.JobBytes,"
157    "Job.StartTime,Media.VolumeName,JobMedia.StartFile,"
158    "Job.VolSessionId,Job.VolSessionTime "
159    "FROM Job,JobMedia,Media,FileSet "
160    "WHERE Job.JobTDate>%s AND Job.StartTime<'%s' "
161    "AND Job.ClientId=%s "
162    "AND JobMedia.JobId=Job.JobId "
163    "AND Media.Enabled=1 "
164    "AND JobMedia.MediaId=Media.MediaId "
165    "AND Job.Level='D' AND JobStatus IN ('T','W') AND Type='B' "
166    "AND Job.FileSetId=FileSet.FileSetId "
167    "AND FileSet.FileSet='%s' "
168    "%s"
169    "ORDER BY Job.JobTDate DESC LIMIT 1";
170
171 const char *uar_inc =
172    "INSERT INTO temp SELECT Job.JobId,Job.JobTDate,Job.ClientId,"
173    "Job.Level,Job.JobFiles,Job.JobBytes,"
174    "Job.StartTime,Media.VolumeName,JobMedia.StartFile,"
175    "Job.VolSessionId,Job.VolSessionTime "
176    "FROM Job,JobMedia,Media,FileSet "
177    "WHERE Job.JobTDate>%s AND Job.StartTime<'%s' "
178    "AND Job.ClientId=%s "
179    "AND Media.Enabled=1 "
180    "AND JobMedia.JobId=Job.JobId "
181    "AND JobMedia.MediaId=Media.MediaId "
182    "AND Job.Level='I' AND JobStatus IN ('T','W') AND Type='B' "
183    "AND Job.FileSetId=FileSet.FileSetId "
184    "AND FileSet.FileSet='%s' "
185    "%s";
186
187 const char *uar_list_temp =
188    "SELECT DISTINCT JobId,Level,JobFiles,JobBytes,StartTime,VolumeName"
189    " FROM temp"
190    " ORDER BY StartTime ASC";
191
192
193 const char *uar_sel_jobid_temp = 
194    "SELECT DISTINCT JobId,StartTime FROM temp ORDER BY StartTime ASC";
195
196 const char *uar_sel_all_temp1 = "SELECT * FROM temp1";
197
198 const char *uar_sel_all_temp = "SELECT * FROM temp";
199
200
201
202 /* Select FileSet names for this Client */
203 const char *uar_sel_fileset =
204    "SELECT DISTINCT FileSet.FileSet FROM Job,"
205    "Client,FileSet WHERE Job.FileSetId=FileSet.FileSetId "
206    "AND Job.ClientId=%s AND Client.ClientId=%s "
207    "ORDER BY FileSet.FileSet";
208
209 /* Select all different FileSet for this client
210  * This query doesn't guarantee that the Id is the latest
211  * version of the FileSet. Can be used with other queries that
212  * use Ids to select the FileSet name. (like in accurate)
213  */
214 const char *uar_sel_filesetid =
215    "SELECT MAX(FileSetId) "
216      "FROM FileSet JOIN Job USING (FileSetId) "
217          "WHERE Job.ClientId=%s "
218         "GROUP BY FileSet";
219
220 /* Find MediaType used by this Job */
221 const char *uar_mediatype =
222    "SELECT MediaType FROM JobMedia,Media WHERE JobMedia.JobId=%s "
223    "AND JobMedia.MediaId=Media.MediaId";
224
225 /*
226  *  Find JobId, FileIndex for a given path/file and date
227  *  for use when inserting individual files into the tree.
228  */
229 const char *uar_jobid_fileindex =
230    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
231    "WHERE Job.JobId=File.JobId "
232    "AND Job.StartTime<='%s' "
233    "AND Path.Path='%s' "
234    "AND Filename.Name='%s' "
235    "AND Client.Name='%s' "
236    "AND Job.ClientId=Client.ClientId "
237    "AND Path.PathId=File.PathId "
238    "AND Filename.FilenameId=File.FilenameId "
239    "AND JobStatus IN ('T','W') AND Type='B' "
240    "ORDER BY Job.StartTime DESC LIMIT 1";
241
242 const char *uar_jobids_fileindex =
243    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
244    "WHERE Job.JobId IN (%s) "
245    "AND Job.JobId=File.JobId "
246    "AND Job.StartTime<='%s' "
247    "AND Path.Path='%s' "
248    "AND Filename.Name='%s' "
249    "AND Client.Name='%s' "
250    "AND Job.ClientId=Client.ClientId "
251    "AND Path.PathId=File.PathId "
252    "AND Filename.FilenameId=File.FilenameId "
253    "ORDER BY Job.StartTime DESC LIMIT 1";
254
255 /* Query to get list of files from table -- presuably built by an external program */
256 const char *uar_jobid_fileindex_from_table = 
257    "SELECT JobId,FileIndex from %s";
258
259 /* Get the list of the last recent version per Delta with a given jobid list 
260  * This is a tricky part because with SQL the result of 
261  *
262  * SELECT MAX(A), B, C, D FROM... GROUP BY (B,C)
263  *
264  * doesn't give the good result (for D).
265  *
266  * With PostgreSQL, we can use DISTINCT ON(), but with Mysql or Sqlite,
267  * we need an extra join using JobTDate. 
268  */
269 const char *select_recent_version_with_basejob_default = 
270 "SELECT FileId, Job.JobId AS JobId, FileIndex, File.PathId AS PathId, "
271        "File.FilenameId AS FilenameId, LStat, MD5, MarkId, "
272        "Job.JobTDate AS JobTDate "
273 "FROM Job, File, ( "
274     "SELECT MAX(JobTDate) AS JobTDate, PathId, FilenameId "
275       "FROM ( "
276         "SELECT JobTDate, PathId, FilenameId "   /* Get all normal files */
277           "FROM File JOIN Job USING (JobId) "    /* from selected backup */
278          "WHERE File.JobId IN (%s) "
279           "UNION ALL "
280         "SELECT JobTDate, PathId, FilenameId "   /* Get all files from */ 
281           "FROM BaseFiles "                      /* BaseJob */
282                "JOIN File USING (FileId) "
283                "JOIN Job  ON    (BaseJobId = Job.JobId) "
284          "WHERE BaseFiles.JobId IN (%s) "        /* Use Max(JobTDate) to find */
285        ") AS tmp "
286        "GROUP BY PathId, FilenameId "            /* the latest file version */
287     ") AS T1 "
288 "WHERE (Job.JobId IN ( "  /* Security, we force JobId to be valid */
289         "SELECT DISTINCT BaseJobId FROM BaseFiles WHERE JobId IN (%s)) "
290         "OR Job.JobId IN (%s)) "
291   "AND T1.JobTDate = Job.JobTDate " /* Join on JobTDate to get the orginal */
292   "AND Job.JobId = File.JobId "     /* Job/File record */
293   "AND T1.PathId = File.PathId "
294   "AND T1.FilenameId = File.FilenameId";
295
296 const char *select_recent_version_with_basejob[] = {
297    /* MySQL */
298    select_recent_version_with_basejob_default,
299
300    /* Postgresql */    /* The DISTINCT ON () permits to avoid extra join */
301    "SELECT DISTINCT ON (FilenameId, PathId) JobTDate, JobId, FileId, "
302          "FileIndex, PathId, FilenameId, LStat, MD5, MarkId "
303    "FROM "
304      "(SELECT FileId, JobId, PathId, FilenameId, FileIndex, LStat, MD5, MarkId "
305          "FROM File WHERE JobId IN (%s) "
306         "UNION ALL "
307        "SELECT File.FileId, File.JobId, PathId, FilenameId, "
308               "File.FileIndex, LStat, MD5, MarkId "
309          "FROM BaseFiles JOIN File USING (FileId) "
310         "WHERE BaseFiles.JobId IN (%s) "
311        ") AS T JOIN Job USING (JobId) "
312    "ORDER BY FilenameId, PathId, JobTDate DESC ",
313
314    /* SQLite3 */
315    select_recent_version_with_basejob_default,
316
317    /* Ingres */
318    select_recent_version_with_basejob_default
319 };
320
321 /* We do the same thing than the previous query, but we include
322  * all delta parts. If the file has been deleted, we can have irrelevant
323  * parts.
324  *
325  * The code that uses results should control the delta sequence with
326  * the following rules:
327  * First Delta = 0
328  * Delta = Previous Delta + 1
329  *
330  * If we detect a gap, we can discard further pieces
331  * If a file starts at 1 instead of 0, the file has been deleted, and further
332  * pieces are useless.
333  * 
334  * This control should be reset for each new file
335  */
336 const char *select_recent_version_with_basejob_and_delta_default = 
337 "SELECT FileId, Job.JobId AS JobId, FileIndex, File.PathId AS PathId, "
338        "File.FilenameId AS FilenameId, LStat, MD5, File.MarkId AS MarkId, "
339        "Job.JobTDate AS JobTDate "
340 "FROM Job, File, ( "
341     "SELECT MAX(JobTDate) AS JobTDate, PathId, FilenameId, MarkId "
342       "FROM ( "
343        "SELECT JobTDate, PathId, FilenameId, MarkId " /* Get all normal files */
344          "FROM File JOIN Job USING (JobId) "          /* from selected backup */
345         "WHERE File.JobId IN (%s) "
346          "UNION ALL "
347        "SELECT JobTDate, PathId, FilenameId, MarkId " /* Get all files from */ 
348          "FROM BaseFiles "                            /* BaseJob */
349               "JOIN File USING (FileId) "
350               "JOIN Job  ON    (BaseJobId = Job.JobId) "
351         "WHERE BaseFiles.JobId IN (%s) "        /* Use Max(JobTDate) to find */
352        ") AS tmp "
353        "GROUP BY PathId, FilenameId, MarkId "    /* the latest file version */
354     ") AS T1 "
355 "WHERE (Job.JobId IN ( "  /* Security, we force JobId to be valid */
356         "SELECT DISTINCT BaseJobId FROM BaseFiles WHERE JobId IN (%s)) "
357         "OR Job.JobId IN (%s)) "
358   "AND T1.JobTDate = Job.JobTDate " /* Join on JobTDate to get the orginal */
359   "AND Job.JobId = File.JobId "     /* Job/File record */
360   "AND T1.PathId = File.PathId "
361   "AND T1.FilenameId = File.FilenameId";
362
363 const char *select_recent_version_with_basejob_and_delta[] = {
364    /* MySQL */
365    select_recent_version_with_basejob_and_delta_default,
366
367    /* Postgresql */    /* The DISTINCT ON () permits to avoid extra join */
368    "SELECT DISTINCT ON (FilenameId, PathId, MarkId) JobTDate, JobId, FileId, "
369          "FileIndex, PathId, FilenameId, LStat, MD5, MarkId "
370    "FROM "
371      "(SELECT FileId, JobId, PathId, FilenameId, FileIndex, LStat, MD5, MarkId "
372          "FROM File WHERE JobId IN (%s) "
373         "UNION ALL "
374        "SELECT File.FileId, File.JobId, PathId, FilenameId, "
375               "File.FileIndex, LStat, MD5, MarkId "
376          "FROM BaseFiles JOIN File USING (FileId) "
377         "WHERE BaseFiles.JobId IN (%s) "
378        ") AS T JOIN Job USING (JobId) "
379    "ORDER BY FilenameId, PathId, MarkId, JobTDate DESC ",
380
381    /* SQLite3 */
382    select_recent_version_with_basejob_and_delta_default,
383
384    /* Ingres */
385    select_recent_version_with_basejob_and_delta_default
386 };
387
388 /* Get the list of the last recent version with a given BaseJob jobid list
389  * We don't handle Delta with BaseJobs, they have only Full files
390  */
391 const char *select_recent_version_default = 
392   "SELECT j1.JobId AS JobId, f1.FileId AS FileId, f1.FileIndex AS FileIndex, "
393           "f1.PathId AS PathId, f1.FilenameId AS FilenameId, "
394           "f1.LStat AS LStat, f1.MD5 AS MD5, j1.JobTDate "
395      "FROM ( "     /* Choose the last version for each Path/Filename */
396        "SELECT max(JobTDate) AS JobTDate, PathId, FilenameId "
397          "FROM File JOIN Job USING (JobId) "
398         "WHERE File.JobId IN (%s) "
399        "GROUP BY PathId, FilenameId "
400      ") AS t1, Job AS j1, File AS f1 "
401     "WHERE t1.JobTDate = j1.JobTDate "
402       "AND j1.JobId IN (%s) "
403       "AND t1.FilenameId = f1.FilenameId "
404       "AND t1.PathId = f1.PathId "
405       "AND j1.JobId = f1.JobId";
406
407 const char *select_recent_version[] = {
408    /* MySQL */
409    select_recent_version_default,
410
411    /* Postgresql */
412    "SELECT DISTINCT ON (FilenameId, PathId) JobTDate, JobId, FileId, "
413           "FileIndex, PathId, FilenameId, LStat, MD5 "
414      "FROM File JOIN Job USING (JobId) "
415     "WHERE JobId IN (%s) "
416     "ORDER BY FilenameId, PathId, JobTDate DESC ",
417
418    /* SQLite3 */
419    select_recent_version_default,
420
421    /* Ingres */
422    select_recent_version_default
423 };
424
425 /* We don't create this table as TEMPORARY because MySQL MyISAM 
426  * 5.0 and 5.1 are unable to run further queries in this mode
427  */
428 const char *create_temp_accurate_jobids_default =
429  "CREATE TABLE btemp3%s AS "
430     "SELECT JobId, StartTime, EndTime, JobTDate, PurgedFiles "
431       "FROM Job JOIN FileSet USING (FileSetId) "
432      "WHERE ClientId = %s "
433        "AND Level='F' AND JobStatus IN ('T','W') AND Type='B' "
434        "AND StartTime<'%s' "
435        "AND FileSet.FileSet=(SELECT FileSet FROM FileSet WHERE FileSetId = %s) "
436      "ORDER BY Job.JobTDate DESC LIMIT 1";
437
438 const char *create_temp_accurate_jobids[] = {
439    /* Mysql */
440    create_temp_accurate_jobids_default,
441
442    /* Postgresql */
443    create_temp_accurate_jobids_default,
444
445    /* SQLite3 */
446    create_temp_accurate_jobids_default,
447
448    /* Ingres */
449    "DECLARE GLOBAL TEMPORARY TABLE btemp3%s AS "
450    "SELECT JobId, StartTime, EndTime, JobTDate, PurgedFiles "
451    "FROM Job JOIN FileSet USING (FileSetId) "
452    "WHERE ClientId = %s "
453    "AND Level='F' AND JobStatus IN ('T','W') AND Type='B' "
454    "AND StartTime<'%s' "
455    "AND FileSet.FileSet=(SELECT FileSet FROM FileSet WHERE FileSetId = %s) "
456    "ORDER BY Job.JobTDate DESC FETCH FIRST 1 ROW ONLY "
457    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
458 };
459
460 const char *create_temp_basefile[] = {
461    /* Mysql */
462    "CREATE TEMPORARY TABLE basefile%lld ("
463    "Path BLOB NOT NULL,"
464    "Name BLOB NOT NULL)",
465
466    /* Postgresql */
467    "CREATE TEMPORARY TABLE basefile%lld ("
468    "Path TEXT,"
469    "Name TEXT)",
470
471    /* SQLite3 */
472    "CREATE TEMPORARY TABLE basefile%lld ("
473    "Path TEXT,"
474    "Name TEXT)",
475
476    /* Ingres */
477    "DECLARE GLOBAL TEMPORARY TABLE basefile%lld ("
478    "Path VARBYTE(32000) NOT NULL,"
479    "Name VARBYTE(32000) NOT NULL) "
480    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
481 };
482
483 const char *create_temp_new_basefile[] = {
484    /* Mysql */
485    "CREATE TEMPORARY TABLE new_basefile%lld AS "
486    "SELECT Path.Path AS Path, Filename.Name AS Name, Temp.FileIndex AS FileIndex,"
487    "Temp.JobId AS JobId, Temp.LStat AS LStat, Temp.FileId AS FileId, "
488    "Temp.MD5 AS MD5 "
489    "FROM ( %s ) AS Temp "
490    "JOIN Filename ON (Filename.FilenameId = Temp.FilenameId) "
491    "JOIN Path ON (Path.PathId = Temp.PathId) "
492    "WHERE Temp.FileIndex > 0",
493
494    /* Postgresql */
495    "CREATE TEMPORARY TABLE new_basefile%lld AS "
496    "SELECT Path.Path AS Path, Filename.Name AS Name, Temp.FileIndex AS FileIndex,"
497    "Temp.JobId AS JobId, Temp.LStat AS LStat, Temp.FileId AS FileId, "
498    "Temp.MD5 AS MD5 "
499    "FROM ( %s ) AS Temp "
500    "JOIN Filename ON (Filename.FilenameId = Temp.FilenameId) "
501    "JOIN Path ON (Path.PathId = Temp.PathId) "
502    "WHERE Temp.FileIndex > 0",
503
504    /* SQLite3 */
505    "CREATE TEMPORARY TABLE new_basefile%lld AS "
506    "SELECT Path.Path AS Path, Filename.Name AS Name, Temp.FileIndex AS FileIndex,"
507    "Temp.JobId AS JobId, Temp.LStat AS LStat, Temp.FileId AS FileId, "
508    "Temp.MD5 AS MD5 "
509    "FROM ( %s ) AS Temp "
510    "JOIN Filename ON (Filename.FilenameId = Temp.FilenameId) "
511    "JOIN Path ON (Path.PathId = Temp.PathId) "
512    "WHERE Temp.FileIndex > 0",
513
514    /* Ingres */
515    "DECLARE GLOBAL TEMPORARY TABLE new_basefile%lld AS "
516    "SELECT Path.Path AS Path, Filename.Name AS Name, Temp.FileIndex AS FileIndex,"
517    "Temp.JobId AS JobId, Temp.LStat AS LStat, Temp.FileId AS FileId, "
518    "Temp.MD5 AS MD5 "
519    "FROM ( %s ) AS Temp "
520    "JOIN Filename ON (Filename.FilenameId = Temp.FilenameId) "
521    "JOIN Path ON (Path.PathId = Temp.PathId) "
522    "WHERE Temp.FileIndex > 0 "
523    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
524 };
525
526 /* ====== ua_prune.c */
527
528 /* List of SQL commands to create temp table and indicies  */
529 const char *create_deltabs[] = {
530    /* MySQL */
531    "CREATE TEMPORARY TABLE DelCandidates ("
532    "JobId INTEGER UNSIGNED NOT NULL, "
533    "PurgedFiles TINYINT, "
534    "FileSetId INTEGER UNSIGNED, "
535    "JobFiles INTEGER UNSIGNED, "
536    "JobStatus BINARY(1))",
537
538    /* Postgresql */
539    "CREATE TEMPORARY TABLE DelCandidates (" 
540    "JobId INTEGER NOT NULL, "
541    "PurgedFiles SMALLINT, "
542    "FileSetId INTEGER, "
543    "JobFiles INTEGER, "
544    "JobStatus char(1))",
545
546    /* SQLite3 */
547    "CREATE TEMPORARY TABLE DelCandidates ("
548    "JobId INTEGER UNSIGNED NOT NULL, "
549    "PurgedFiles TINYINT, "
550    "FileSetId INTEGER UNSIGNED, "
551    "JobFiles INTEGER UNSIGNED, "
552    "JobStatus CHAR)",
553
554    /* Ingres */
555    "DECLARE GLOBAL TEMPORARY TABLE DelCandidates (" 
556    "JobId INTEGER NOT NULL, "
557    "PurgedFiles SMALLINT, "
558    "FileSetId INTEGER, "
559    "JobFiles INTEGER, "
560    "JobStatus CHAR(1)) "
561    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
562 };
563
564 /* ======= ua_purge.c */
565
566 /* Select the first available Copy Job that must be upgraded to a Backup job when the original backup job is expired. */
567
568 const char *uap_upgrade_copies_oldest_job_default = 
569 "CREATE TEMPORARY TABLE cpy_tmp AS "
570        "SELECT MIN(JobId) AS JobId FROM Job "     /* Choose the oldest job */
571         "WHERE Type='%c' "                        /* JT_JOB_COPY */
572           "AND ( PriorJobId IN (%s) "             /* JobId selection */
573               "OR "
574                " PriorJobId IN ( "
575                   "SELECT PriorJobId "
576                     "FROM Job "
577                    "WHERE JobId IN (%s) "         /* JobId selection */
578                     " AND Type='B' "
579                  ") "
580               ") "
581           "GROUP BY PriorJobId ";           /* one result per copy */
582
583 const char *uap_upgrade_copies_oldest_job[] = {
584    /* Mysql */
585    uap_upgrade_copies_oldest_job_default,
586
587    /* Postgresql */
588    uap_upgrade_copies_oldest_job_default,
589
590    /* SQLite3 */
591    uap_upgrade_copies_oldest_job_default,
592
593    /* Ingres */
594    "DECLARE GLOBAL TEMPORARY TABLE cpy_tmp AS "
595        "SELECT MIN(JobId) AS JobId FROM Job "     /* Choose the oldest job */
596         "WHERE Type='%c' "                        /* JT_JOB_COPY */
597           "AND ( PriorJobId IN (%s) "             /* JobId selection */
598               "OR "
599                " PriorJobId IN ( "
600                   "SELECT PriorJobId "
601                     "FROM Job "
602                    "WHERE JobId IN (%s) "         /* JobId selection */
603                     " AND Type='B' "
604                  ") "
605               ") "
606           "GROUP BY PriorJobId "           /* one result per copy */
607    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
608 };
609
610 /* ======= ua_restore.c */
611
612 /* List Jobs where a particular file is saved */
613 const char *uar_file[] = {
614    /* Mysql */
615    "SELECT Job.JobId as JobId,"
616    "CONCAT(Path.Path,Filename.Name) as Name, "
617    "StartTime,Type as JobType,JobStatus,JobFiles,JobBytes "
618    "FROM Client,Job,File,Filename,Path WHERE Client.Name='%s' "
619    "AND Client.ClientId=Job.ClientId "
620    "AND Job.JobId=File.JobId AND File.FileIndex > 0 "
621    "AND Path.PathId=File.PathId AND Filename.FilenameId=File.FilenameId "
622    "AND Filename.Name='%s' ORDER BY StartTime DESC LIMIT 20",
623
624    /* Postgresql */
625    "SELECT Job.JobId as JobId,"
626    "Path.Path||Filename.Name as Name, "
627    "StartTime,Type as JobType,JobStatus,JobFiles,JobBytes "
628    "FROM Client,Job,File,Filename,Path WHERE Client.Name='%s' "
629    "AND Client.ClientId=Job.ClientId "
630    "AND Job.JobId=File.JobId AND File.FileIndex > 0 "
631    "AND Path.PathId=File.PathId AND Filename.FilenameId=File.FilenameId "
632    "AND Filename.Name='%s' ORDER BY StartTime DESC LIMIT 20",
633
634    /* SQLite3 */
635    "SELECT Job.JobId as JobId,"
636    "Path.Path||Filename.Name as Name, "
637    "StartTime,Type as JobType,JobStatus,JobFiles,JobBytes "
638    "FROM Client,Job,File,Filename,Path WHERE Client.Name='%s' "
639    "AND Client.ClientId=Job.ClientId "
640    "AND Job.JobId=File.JobId AND File.FileIndex > 0 "
641    "AND Path.PathId=File.PathId AND Filename.FilenameId=File.FilenameId "
642    "AND Filename.Name='%s' ORDER BY StartTime DESC LIMIT 20",
643
644    /* Ingres */
645    "SELECT Job.JobId as JobId,"
646    "Path.Path||Filename.Name as Name, "
647    "StartTime,Type as JobType,JobStatus,JobFiles,JobBytes "
648    "FROM Client,Job,File,Filename,Path WHERE Client.Name='%s' "
649    "AND Client.ClientId=Job.ClientId "
650    "AND Job.JobId=File.JobId AND File.FileIndex > 0 "
651    "AND Path.PathId=File.PathId AND Filename.FilenameId=File.FilenameId "
652    "AND Filename.Name='%s' ORDER BY StartTime DESC FETCH FIRST 20 ROWS ONLY"
653 };
654
655 const char *uar_create_temp[] = {
656    /* Mysql */
657    "CREATE TEMPORARY TABLE temp ("
658    "JobId INTEGER UNSIGNED NOT NULL,"
659    "JobTDate BIGINT UNSIGNED,"
660    "ClientId INTEGER UNSIGNED,"
661    "Level CHAR,"
662    "JobFiles INTEGER UNSIGNED,"
663    "JobBytes BIGINT UNSIGNED,"
664    "StartTime TEXT,"
665    "VolumeName TEXT,"
666    "StartFile INTEGER UNSIGNED,"
667    "VolSessionId INTEGER UNSIGNED,"
668    "VolSessionTime INTEGER UNSIGNED)",
669
670    /* Postgresql */
671    "CREATE TEMPORARY TABLE temp ("
672    "JobId INTEGER NOT NULL,"
673    "JobTDate BIGINT,"
674    "ClientId INTEGER,"
675    "Level CHAR,"
676    "JobFiles INTEGER,"
677    "JobBytes BIGINT,"
678    "StartTime TEXT,"
679    "VolumeName TEXT,"
680    "StartFile INTEGER,"
681    "VolSessionId INTEGER,"
682    "VolSessionTime INTEGER)",
683
684    /* SQLite3 */
685    "CREATE TEMPORARY TABLE temp ("
686    "JobId INTEGER UNSIGNED NOT NULL,"
687    "JobTDate BIGINT UNSIGNED,"
688    "ClientId INTEGER UNSIGNED,"
689    "Level CHAR,"
690    "JobFiles INTEGER UNSIGNED,"
691    "JobBytes BIGINT UNSIGNED,"
692    "StartTime TEXT,"
693    "VolumeName TEXT,"
694    "StartFile INTEGER UNSIGNED,"
695    "VolSessionId INTEGER UNSIGNED,"
696    "VolSessionTime INTEGER UNSIGNED)",
697
698    /* Ingres */
699    "DECLARE GLOBAL TEMPORARY TABLE temp ("
700    "JobId INTEGER NOT NULL,"
701    "JobTDate BIGINT,"
702    "ClientId INTEGER,"
703    "Level CHAR(1),"
704    "JobFiles INTEGER,"
705    "JobBytes BIGINT,"
706    "StartTime TIMESTAMP WITHOUT TIME ZONE,"
707    "VolumeName VARBYTE(128),"
708    "StartFile INTEGER,"
709    "VolSessionId INTEGER,"
710    "VolSessionTime INTEGER) "
711    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
712 };
713
714 const char *uar_create_temp1[] = {
715    /* Mysql */
716    "CREATE TEMPORARY TABLE temp1 ("
717    "JobId INTEGER UNSIGNED NOT NULL,"
718    "JobTDate BIGINT UNSIGNED)",
719
720    /* Postgresql */
721    "CREATE TEMPORARY TABLE temp1 ("
722    "JobId INTEGER NOT NULL,"
723    "JobTDate BIGINT)",
724
725    /* SQLite3 */
726    "CREATE TEMPORARY TABLE temp1 ("
727    "JobId INTEGER UNSIGNED NOT NULL,"
728    "JobTDate BIGINT UNSIGNED)",
729
730    /* Ingres */
731    "DECLARE GLOBAL TEMPORARY TABLE temp1 ("
732    "JobId INTEGER NOT NULL,"
733    "JobTDate BIGINT) "
734    "ON COMMIT PRESERVE ROWS WITH NORECOVERY"
735 };
736
737 /* Query to get all files in a directory -- no recursing   
738  *  Note, for PostgreSQL since it respects the "Single Value
739  *  rule", the results of the SELECT will be unoptimized.
740  *  I.e. the same file will be restored multiple times, once
741  *  for each time it was backed up.
742  */
743
744 const char *uar_jobid_fileindex_from_dir[] = {
745    /* Mysql */
746    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
747    "WHERE Job.JobId IN (%s) "
748    "AND Job.JobId=File.JobId "
749    "AND Path.Path='%s' "
750    "AND Client.Name='%s' "
751    "AND Job.ClientId=Client.ClientId "
752    "AND Path.PathId=File.Pathid "
753    "AND Filename.FilenameId=File.FilenameId "
754    "GROUP BY File.FileIndex ",
755
756    /* Postgresql */
757    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
758    "WHERE Job.JobId IN (%s) "
759    "AND Job.JobId=File.JobId "
760    "AND Path.Path='%s' "
761    "AND Client.Name='%s' "
762    "AND Job.ClientId=Client.ClientId "
763    "AND Path.PathId=File.Pathid "
764    "AND Filename.FilenameId=File.FilenameId",
765
766    /* SQLite3 */
767    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
768    "WHERE Job.JobId IN (%s) "
769    "AND Job.JobId=File.JobId "
770    "AND Path.Path='%s' "
771    "AND Client.Name='%s' "
772    "AND Job.ClientId=Client.ClientId "
773    "AND Path.PathId=File.Pathid "
774    "AND Filename.FilenameId=File.FilenameId "
775    "GROUP BY File.FileIndex ",
776
777    /* Ingres */
778    "SELECT Job.JobId,File.FileIndex FROM Job,File,Path,Filename,Client "
779    "WHERE Job.JobId IN (%s) "
780    "AND Job.JobId=File.JobId "
781    "AND Path.Path='%s' "
782    "AND Client.Name='%s' "
783    "AND Job.ClientId=Client.ClientId "
784    "AND Path.PathId=File.Pathid "
785    "AND Filename.FilenameId=File.FilenameId"
786 };
787
788 const char *sql_media_order_most_recently_written[] = {
789    /* Mysql */
790    "ORDER BY LastWritten IS NULL,LastWritten DESC,MediaId",
791
792    /* Postgresql */
793    "ORDER BY LastWritten IS NULL,LastWritten DESC,MediaId",
794
795    /* SQLite3 */
796    "ORDER BY LastWritten IS NULL,LastWritten DESC,MediaId",
797
798    /* Ingres */
799    "ORDER BY IFNULL(LastWritten, '1970-01-01 00:00:00') DESC,MediaId"
800 };
801
802 const char *sql_get_max_connections[] = {
803    /* Mysql */
804    "SHOW VARIABLES LIKE 'max_connections'",
805
806    /* Postgresql */
807    "SHOW max_connections",
808
809    /* SQLite3 */
810    "SELECT 0",
811
812    /* Ingres (TODO) */
813    "SELECT 0"
814 };
815
816 /* TODO: Check for corner cases with MySQL and SQLite3
817  *  The Group By can return strange numbers when having multiple
818  *  version of a file in the same dataset.
819  */
820 const char *sql_bvfs_select[] = {
821    /* Mysql */
822    "CREATE TABLE %s AS ( "
823       "SELECT JobId, FileIndex, FileId, max(JobTDate) as JobTDate "
824         "FROM btemp%s "
825       "GROUP BY PathId, FilenameId "
826    "HAVING FileIndex > 0)",
827
828    /* Postgresql */
829    "CREATE TABLE %s AS ( "
830         "SELECT JobId, FileIndex, FileId "
831           "FROM ( "
832              "SELECT DISTINCT ON (PathId, FilenameId) "
833                     "JobId, FileIndex, FileId "
834                "FROM btemp%s "
835               "ORDER BY PathId, FilenameId, JobTDate DESC "
836           ") AS T "
837           "WHERE FileIndex > 0)",
838
839    /* SQLite3 */
840    "CREATE TABLE %s AS "
841       "SELECT JobId, FileIndex, FileId, max(JobTDate) as JobTDate "
842         "FROM btemp%s "
843       "GROUP BY PathId, FilenameId "
844    "HAVING FileIndex > 0",
845    
846
847    /* Ingres (TODO) */
848    "SELECT 0"
849 };
850
851 const char *sql_bvfs_list_files_default = 
852 "SELECT 'F', T1.PathId, T1.FilenameId, Filename.Name, "
853         "File.JobId, File.LStat, File.FileId "
854 "FROM Job, File, ( "
855     "SELECT MAX(JobTDate) AS JobTDate, PathId, FilenameId "
856       "FROM ( "
857         "SELECT JobTDate, PathId, FilenameId "
858           "FROM File JOIN Job USING (JobId) "
859          "WHERE File.JobId IN (%s) AND PathId = %s "
860           "UNION ALL "
861         "SELECT JobTDate, PathId, FilenameId "
862           "FROM BaseFiles "
863                "JOIN File USING (FileId) "
864                "JOIN Job  ON    (BaseJobId = Job.JobId) "
865          "WHERE BaseFiles.JobId IN (%s)   AND PathId = %s "
866        ") AS tmp GROUP BY PathId, FilenameId LIMIT %lld OFFSET %lld"
867     ") AS T1 JOIN Filename USING (FilenameId) "
868 "WHERE T1.JobTDate = Job.JobTDate "
869   "AND Job.JobId = File.JobId "
870   "AND T1.PathId = File.PathId "
871   "AND T1.FilenameId = File.FilenameId "
872   "AND Filename.Name != '' "
873   " %s "                     /* AND Name LIKE '' */
874   "AND (Job.JobId IN ( "
875         "SELECT DISTINCT BaseJobId FROM BaseFiles WHERE JobId IN (%s)) "
876        "OR Job.JobId IN (%s)) ";
877
878 const char *sql_bvfs_list_files[] = {
879    /* Mysql */
880    /* JobId PathId JobId PathId Limit Offset AND? Filename? JobId JobId*/
881    sql_bvfs_list_files_default,
882
883    /* JobId PathId JobId PathId WHERE? Filename? Limit Offset*/
884    /* Postgresql */
885  "SELECT DISTINCT ON (FilenameId) 'F', PathId, T.FilenameId, "
886   "Filename.Name, JobId, LStat, FileId "
887    "FROM "
888        "(SELECT FileId, JobId, PathId, FilenameId, FileIndex, LStat, MD5 "
889           "FROM File WHERE JobId IN (%s) AND PathId = %s "
890          "UNION ALL "
891         "SELECT File.FileId, File.JobId, PathId, FilenameId, "
892                "File.FileIndex, LStat, MD5 "
893           "FROM BaseFiles JOIN File USING (FileId) "
894          "WHERE BaseFiles.JobId IN (%s) AND File.PathId = %s "
895         ") AS T JOIN Job USING (JobId) JOIN Filename USING (FilenameId) "
896         " WHERE Filename.Name != '' "
897         " %s "               /* AND Name LIKE '' */
898    "ORDER BY FilenameId, StartTime DESC LIMIT %lld OFFSET %lld",
899
900    /* SQLite */
901    sql_bvfs_list_files_default,
902
903    /* SQLite3 */
904    sql_bvfs_list_files_default,
905
906    /* Ingres (TODO) */
907    sql_bvfs_list_files_default
908 };
909
910 const char *batch_lock_path_query[] = {
911    /* Mysql */
912    "LOCK TABLES Path write, batch write, Path as p write",
913
914    /* Postgresql */
915    "BEGIN; LOCK TABLE Path IN SHARE ROW EXCLUSIVE MODE",
916
917    /* SQLite3 */
918    "BEGIN",
919
920    /* Ingres */
921    "BEGIN"
922 };
923
924 const char *batch_lock_filename_query[] = {
925    /* Mysql */
926    "LOCK TABLES Filename write, batch write, Filename as f write",
927
928    /* Postgresql */
929    "BEGIN; LOCK TABLE Filename IN SHARE ROW EXCLUSIVE MODE",
930
931    /* SQLite3 */
932    "BEGIN",
933
934    /* Ingres */
935    "BEGIN"
936 };
937
938 const char *batch_unlock_tables_query[] = {
939    /* Mysql */
940    "UNLOCK TABLES",
941
942    /* Postgresql */
943    "COMMIT",
944
945    /* SQLite3 */
946    "COMMIT",
947
948    /* Ingres */
949    "COMMIT"
950 };
951
952 const char *batch_fill_path_query[] = {
953    /* Mysql */
954    "INSERT INTO Path (Path) "
955       "SELECT a.Path FROM "
956          "(SELECT DISTINCT Path FROM batch) AS a WHERE NOT EXISTS "
957          "(SELECT Path FROM Path AS p WHERE p.Path = a.Path)",
958
959    /* Postgresql */
960    "INSERT INTO Path (Path) "
961       "SELECT a.Path FROM "
962          "(SELECT DISTINCT Path FROM batch) AS a "
963        "WHERE NOT EXISTS (SELECT Path FROM Path WHERE Path = a.Path) ",
964
965    /* SQLite3 */
966    "INSERT INTO Path (Path) "
967       "SELECT DISTINCT Path FROM batch "
968       "EXCEPT SELECT Path FROM Path",
969
970    /* Ingres */
971    "INSERT INTO Path (Path) "
972       "SELECT DISTINCT b.Path FROM batch b "
973        "WHERE NOT EXISTS (SELECT Path FROM Path p WHERE p.Path = b.Path)"
974 };
975
976 const char *batch_fill_filename_query[] = {
977    /* Mysql */
978    "INSERT INTO Filename (Name) "
979       "SELECT a.Name FROM "
980          "(SELECT DISTINCT Name FROM batch) AS a WHERE NOT EXISTS "
981          "(SELECT Name FROM Filename AS f WHERE f.Name = a.Name)",
982
983    /* Postgresql */
984    "INSERT INTO Filename (Name) "
985       "SELECT a.Name FROM "
986          "(SELECT DISTINCT Name FROM batch) as a "
987        "WHERE NOT EXISTS "
988         "(SELECT Name FROM Filename WHERE Name = a.Name)",
989
990    /* SQLite3 */
991    "INSERT INTO Filename (Name) "
992       "SELECT DISTINCT Name FROM batch "
993       "EXCEPT SELECT Name FROM Filename",
994
995    /* Ingres */
996    "INSERT INTO Filename (Name) "
997       "SELECT DISTINCT b.Name FROM batch b "
998        "WHERE NOT EXISTS (SELECT Name FROM Filename f WHERE f.Name = b.Name)"
999 };
1000
1001 const char *match_query[] = {
1002    /* Mysql */
1003    "MATCH",
1004
1005    /* Postgresql */
1006    "~",
1007
1008    /* SQLite3 */
1009    "MATCH",
1010
1011    /* Ingres */
1012    "~"
1013 };