]> git.sur5r.net Git - bacula/docs/blob - docs/manuals/en/main/newfeatures.tex
update max bandwidth parameter documentation
[bacula/docs] / docs / manuals / en / main / newfeatures.tex
1 \chapter{New Features in 5.1.x}
2 This chapter presents the new features that have been added to the
3 current version of Bacula that is under development. This version will be
4 released at some later date, probably near the end of 2010.
5
6 \section{Job Bandwidth Limitation}
7
8 A new directive may be added to FileDaemon or Director resources within the
9 File Daemon configuration to allow users to limit the bandwidth used by a Job
10 on a Client. It can be set for all Jobs globally or per Directors in the File
11 Daemon configuration, and per Job in the Director configuration file.
12
13 For example:
14 \begin{verbatim}
15 FileDaemon {
16   Name = localhost-fd
17   Working Directory = /some/path
18   Pid Directory = /some/path
19   ...
20   Maximum Bandwidth = 5MB/s
21 }
22 \end{verbatim}
23
24 The above example would cause any jobs running with the FileDaemon to not
25 exceed 5MB/s of throughput when sending data to the Storage Daemon.
26
27 You can specify the speed parameter in k/s, kb/s, m/s, mb/s.
28
29 For example:
30 \begin{verbatim}
31 Job {
32   Name = locahost-data
33   FileSet = FS_localhost
34   Accurate = yes
35   ...
36   Maximum Bandwidth = 5MB/s
37   ...
38 }
39 \end{verbatim}
40
41 The above example would cause job \texttt{localhost-data} to not exceed 5MB/s
42 of throughput when sending data to the Storage Daemon.
43
44 A new console commande \texttt{setbandwidth} permits to set dynamically the
45 maximum throughput of a running Job or for future jobs of a Client.
46
47 \begin{verbatim}
48 * setbandwidth limit=1000000 jobid=10
49 \end{verbatim}
50
51 The \texttt{limit} parameter is in kb/s.
52
53 \medskip
54 This project was funded by Bacula Systems and is available with Bacula
55 Enterprise Edition and Community Edition.
56
57 \section{Support for MSSQL Block Level Backup}
58
59 This project was funded by Bacula Systems and is available with Bacula
60 Enterprise Edition.
61
62 \section{Support for NDMP protocol}
63
64 The new \texttt{ndmp} Plugin is able to backup a NAS through NDMP protocol
65 using \textbf{Filer to server} approach, where the Filer is backing up across
66 the LAN to your Bacula server.
67
68 Accurate option should be turned on in the Job resource.
69 \begin{verbatim}
70 Job {
71  Accurate = yes
72  FileSet = NDMPFS
73  ...
74 }
75
76 FileSet {
77  Name = NDMPFS
78  ...
79  Include {
80    Plugin = "ndmp:host=nasbox user=root pass=root file=/vol/vol1"
81  }
82 }
83 \end{verbatim}
84
85 This project was funded by Bacula Systems and is available with Bacula Enterprise
86 Edition.
87
88 \section{Incremental/Differential Block Level Difference Backup}
89
90 The new \texttt{delta} Plugin is able to compute and apply signature-based file
91 differences. It can be used to backup only changes in a big binary file like Outlook
92 PST, VirtualBox/VmWare images or database files.
93
94 It supports both Incremental and Differential backups and stores signatures
95 database in the File Daemon working directory. This plugin is available on all
96 plateform including Windows 32 and 64bit.
97
98 Accurate option should be turned on in the Job resource.
99 \begin{verbatim}
100 Job {
101  Accurate = yes
102  FileSet = DeltaFS
103  ...
104 }
105
106 FileSet {
107  Name = DeltaFS
108  ...
109  Include {
110    Plugin = "delta:/home/eric/.VirtualBox/HardDisks/lenny-i386.vdi"
111  }
112 }
113 \end{verbatim}
114
115 This project was funded by Bacula Systems and is available with Bacula Enterprise
116 Edition.
117
118 \section{Include All Windows Drives in FileSet}
119
120 The \texttt{alldrives} Windows Plugin allows you to include all local drives with
121 a simple directive. This plugin is available for Windows 64 and 32 bit.
122
123 \begin{verbatim}
124 FileSet {
125  Name = EverythingFS
126  ...
127  Include {
128    Plugin = "alldrives"
129  }
130 }
131 \end{verbatim}
132
133 This project was funded by Bacula Systems and is available with Bacula Enterprise
134 Edition.
135
136 \section{Changes in Bvfs (Bacula Virtual FileSystem)}
137
138 Bat has now a bRestore panel that uses Bvfs to display files and
139 directories. It's still experimental.
140
141 \texttt{Important}, the Bvfs module is not currently compatible with BaseJobs,
142 Copy and Migration jobs.
143
144 \subsection*{General notes}
145
146 \begin{itemize}
147 \item All fields are separated by a tab
148 \item You can specify \texttt{limit=} and \texttt{offset=} to list smoothly
149   records in very big directories
150 \item All operations (except cache creation) are designed to run instantly
151 \item At this time, Bvfs works faster on PostgreSQL than MySQL catalog. If you
152   can contribute new faster SQL queries we will be happy, else don't complain
153   about speed.
154 \item The cache creation is dependent of the number of directories. As Bvfs
155   shares information accross jobs, the first creation can be slow
156 \item All fields are separated by a tab
157 \item Due to potential encoding problem, it's advised to allways use pathid in
158   queries.
159 \end{itemize}
160
161 \subsection*{Get dependent jobs from a given JobId}
162
163 Bvfs allows you to query the catalog against any combination of jobs. You
164 can combine all Jobs and all FileSet for a Client in a single session.
165
166 To get all JobId needed to restore a particular job, you can use the
167 \texttt{.bvfs_get_jobids} command.
168
169 \begin{verbatim}
170 .bvfs_get_jobids jobid=num [all]
171 \end{verbatim}
172
173 \begin{verbatim}
174 .bvfs_get_jobids jobid=10
175 1,2,5,10
176 .bvfs_get_jobids jobid=10 all
177 1,2,3,5,10
178 \end{verbatim}
179
180 In this example, a normal restore will need to use JobIds 1,2,5,10 to
181 compute a complete restore of the system.
182
183 With the \texttt{all} option, the Director will use all defined FileSet for
184 this client.
185
186 \subsection*{Generating Bvfs cache}
187
188 The \texttt{.bvfs_update} command computes the directory cache for jobs
189 specified in argument, or for all jobs if unspecified.
190
191 \begin{verbatim}
192 .bvfs_update [jobid=numlist]
193 \end{verbatim}
194
195 Example:
196 \begin{verbatim}
197 .bvfs_update jobid=1,2,3
198 \end{verbatim}
199
200 You can run the cache update process in a RunScript after the catalog backup.
201
202 \subsection*{Get all versions of a specific file}
203
204 Bvfs allows you to find all versions of a specific file for a given Client with
205 the \texttt{.bvfs_version} command. To avoid problems with encoding, this function
206 uses only PathId and FilenameId. The jobid argument is mandatory but unused.
207
208 \begin{verbatim}
209 .bvfs_versions client=filedaemon pathid=num filenameid=num jobid=1
210 PathId FilenameId FileId JobId LStat Md5 VolName Inchanger
211 PathId FilenameId FileId JobId LStat Md5 VolName Inchanger
212 ...
213 \end{verbatim}
214
215 Example:
216
217 \begin{verbatim}
218 .bvfs_versions client=localhost-fd pathid=1 fnid=47 jobid=1
219 1  47  52  12  gD HRid IGk D Po Po A P BAA I A   /uPgWaxMgKZlnMti7LChyA  Vol1  1
220 \end{verbatim}
221
222 \subsection*{List directories}
223
224 Bvfs allows you to list directories in a specific path.
225 \begin{verbatim}
226 .bvfs_lsdirs pathid=num path=/apath jobid=numlist limit=num offset=num
227 PathId  FilenameId  FileId  JobId  LStat  Path
228 PathId  FilenameId  FileId  JobId  LStat  Path
229 PathId  FilenameId  FileId  JobId  LStat  Path
230 ...
231 \end{verbatim}
232
233 You need to \texttt{pathid} or \texttt{path}. Using \texttt{path=""} will list
234 ``/'' on Unix and all drives on Windows.  If FilenameId is 0, the record
235 listed is a directory.
236
237 \begin{verbatim}
238 .bvfs_lsdirs pathid=4 jobid=1,11,12
239 4       0       0       0       A A A A A A A A A A A A A A     .
240 5       0       0       0       A A A A A A A A A A A A A A     ..
241 3       0       0       0       A A A A A A A A A A A A A A     regress/
242 \end{verbatim}
243
244 In this example, to list directories present in \texttt{regress/}, you can use
245 \begin{verbatim}
246 .bvfs_lsdirs pathid=3 jobid=1,11,12
247 3       0       0       0       A A A A A A A A A A A A A A     .
248 4       0       0       0       A A A A A A A A A A A A A A     ..
249 2       0       0       0       A A A A A A A A A A A A A A     tmp/
250 \end{verbatim}
251
252 \subsection*{List files}
253
254 Bvfs allows you to list files in a specific path.
255 \begin{verbatim}
256 .bvfs_lsfiles pathid=num path=/apath jobid=numlist limit=num offset=num
257 PathId  FilenameId  FileId  JobId  LStat  Path
258 PathId  FilenameId  FileId  JobId  LStat  Path
259 PathId  FilenameId  FileId  JobId  LStat  Path
260 ...
261 \end{verbatim}
262
263 You need to \texttt{pathid} or \texttt{path}. Using \texttt{path=""} will list
264 ``/'' on Unix and all drives on Windows. If FilenameId is 0, the record listed
265 is a directory.
266
267 \begin{verbatim}
268 .bvfs_lsfiles pathid=4 jobid=1,11,12
269 4       0       0       0       A A A A A A A A A A A A A A     .
270 5       0       0       0       A A A A A A A A A A A A A A     ..
271 1       0       0       0       A A A A A A A A A A A A A A     regress/
272 \end{verbatim}
273
274 In this example, to list files present in \texttt{regress/}, you can use
275 \begin{verbatim}
276 .bvfs_lsfiles pathid=1 jobid=1,11,12
277 1   47   52   12    gD HRid IGk BAA I BMqcPH BMqcPE BMqe+t A     titi
278 1   49   53   12    gD HRid IGk BAA I BMqe/K BMqcPE BMqe+t B     toto
279 1   48   54   12    gD HRie IGk BAA I BMqcPH BMqcPE BMqe+3 A     tutu
280 1   45   55   12    gD HRid IGk BAA I BMqe/K BMqcPE BMqe+t B     ficheriro1.txt
281 1   46   56   12    gD HRie IGk BAA I BMqe/K BMqcPE BMqe+3 D     ficheriro2.txt
282 \end{verbatim}
283
284 \subsection*{Restore set of files}
285
286 Bvfs allows you to create a SQL table that contains files that you want to
287 restore. This table can be provided to a restore command with the file option.
288
289 \begin{verbatim}
290 .bvfs_restore fileid=numlist dirid=numlist hardlink=numlist path=b2num
291 OK
292 restore file=?b2num ...
293 \end{verbatim}
294
295 To include a directory (with \texttt{dirid}), Bvfs needs to run a query to
296 select all files. This query could be time consuming.
297
298 \texttt{hardlink} list is always composed of a serie of two numbers (jobid,
299 fileindex). This information can be found in the LinkFI field of the LStat
300 packet.
301
302 The \texttt{path} argument represents the name of the table that Bvfs will
303 store results. The format of this table is \texttt{b2[0-9]+}. (Should start by
304 b2 and followed by digits).
305
306 Example:
307
308 \begin{verbatim}
309 .bvfs_restore fileid=1,2,3,4 hardlink=10,15,10,20 jobid=10 path=b20001
310 OK
311 \end{verbatim}
312
313 \subsection*{Cleanup after restore}
314
315 To drop the table used by the restore command, you can use the
316 \texttt{.bvfs_cleanup} command.
317
318 \begin{verbatim}
319 .bvfs_cleanup path=b20001
320 \end{verbatim}
321
322 \section{Changes in the pruning algorithm}
323
324 We rewrote the job pruning algorithm in this version. Previously, in some users
325 reported that the pruning process at the end of jobs was very long. It should
326 not be longer the case. Now, Bacula won't prune automatically a Job if this
327 particular Job is needed to restore data. Example:
328
329 \begin{verbatim}
330 JobId: 1  Level: Full
331 JobId: 2  Level: Incremental
332 JobId: 3  Level: Incremental
333 JobId: 4  Level: Differential
334 .. Other incrementals up to now
335 \end{verbatim}
336
337 In this example, if the Job Retention defined in the Pool or in the Client
338 resource causes that Jobs with Jobid in 1,2,3,4 can be pruned, Bacula will
339 detect that JobId 1 and 4 are essential to restore data at the current state
340 and will prune only JobId 2 and 3.
341
342 \texttt{Important}, this change affect only the automatic pruning step after a
343 Job and the \texttt{prune jobs} Bconsole command. If a volume expires after the
344 \texttt{VolumeRetention} period, important jobs can be pruned.
345
346 \section{Ability to Verify any specified Job}
347 You now have the ability to tell Bacula which Job should verify instead of
348 automatically verify just the last one.
349
350 This feature can be used with VolumeToCatalog, DiskToCatalog and Catalog level.
351
352 To verify a given job, just specify the Job jobid in argument when starting the
353 job.
354 \begin{verbatim}
355 *run job=VerifyVolume jobid=1 level=VolumeToCatalog
356 Run Verify job
357 JobName:     VerifyVolume
358 Level:       VolumeToCatalog
359 Client:      127.0.0.1-fd
360 FileSet:     Full Set
361 Pool:        Default (From Job resource)
362 Storage:     File (From Job resource)
363 Verify Job:  VerifyVol.2010-09-08_14.17.17_03
364 Verify List: /tmp/regress/working/VerifyVol.bsr
365 When:        2010-09-08 14:17:31
366 Priority:    10
367 OK to run? (yes/mod/no):
368 \end{verbatim}
369
370 \section{Additions to RunScript variables}
371 You can have access to JobBytes and JobFiles using %b and %f in your runscript
372 command.
373
374 \begin{verbatim}
375 RunAfterJob = "/bin/echo Job=%j JobBytes=%b JobFiles=%f"
376 \end{verbatim}
377
378 \section{Changes in drivetype.exe}
379
380 Now the \texttt{drivetype.exe} program allows you to list all local hard
381 drives. It can help to build dynamic FileSet on Windows.
382
383 \begin{verbatim}
384 File = "\\|\"c:/program files/bacula/bin32/drivetype\" -l -a"
385 \end{verbatim}
386
387
388 \section{Additions to the Plugin API}
389 The bfuncs structure has been extended to include a number of
390 new entrypoints.
391
392 \subsection{bfuncs}
393 The bFuncs structure defines the callback entry points within Bacula
394 that the plugin can use register events, get Bacula values, set
395 Bacula values, and send messages to the Job output or debug output.
396
397 The exact definition as of this writing is:
398 \begin{verbatim}
399 typedef struct s_baculaFuncs {
400    uint32_t size;
401    uint32_t version;
402    bRC (*registerBaculaEvents)(bpContext *ctx, ...);
403    bRC (*getBaculaValue)(bpContext *ctx, bVariable var, void *value);
404    bRC (*setBaculaValue)(bpContext *ctx, bVariable var, void *value);
405    bRC (*JobMessage)(bpContext *ctx, const char *file, int line,
406        int type, utime_t mtime, const char *fmt, ...);
407    bRC (*DebugMessage)(bpContext *ctx, const char *file, int line,
408        int level, const char *fmt, ...);
409    void *(*baculaMalloc)(bpContext *ctx, const char *file, int line,
410        size_t size);
411    void (*baculaFree)(bpContext *ctx, const char *file, int line, void *mem);
412    
413    /* New functions follow */
414    bRC (*AddExclude)(bpContext *ctx, const char *file);
415    bRC (*AddInclude)(bpContext *ctx, const char *file);
416    bRC (*AddIncludeOptions)(bpContext *ctx, const char *opts);
417    bRC (*AddRegexToInclude)(bpContext *ctx, const char *item, int type);
418    bRC (*AddWildToInclude)(bpContext *ctx, const char *item, int type);
419
420 } bFuncs;
421 \end{verbatim}
422
423 \begin{description}
424 \item [AddExclude] can be called to exclude a file. The file
425   string passed may include wildcards that will be interpreted by
426   the {\bf fnmatch} subroutine. This function can be called 
427   multiple times, and each time the file specified will be added
428   to the list of files to be excluded. Note, this function only
429   permits adding excludes of specific file or directory names,
430   or files matched by the rather simple fnmatch mechanism.
431   See below for information on doing wild-card and regex excludes.
432
433 \item [NewInclude] can be called to create a new Include block. This
434   block will be added before any user defined Include blocks. This
435   function can be called multiple times, but each time, it will create
436   a new Include section (not normally needed). This function should
437   be called only if you want to add an entirely new Include block.
438
439 \item [AddInclude] can be called to add new files/directories to
440   be included.  They are added to the current Include block. If
441   NewInclude has not been included, the current Include block is
442   the last one that the user created. This function
443   should be used only if you want to add totally new files/directories
444   to be included in the backup. 
445
446 \item [NewOptions] adds a new Options block to the current Include
447   in front of any other Options blocks. This permits the plugin to
448   add exclude directives (wild-cards and regexes) in front of the
449   user Options, and thus prevent certain files from being backed up.
450   This can be useful if the plugin backs up files, and they should
451   not be also backed up by the main Bacula code.  This function
452   may be called multiple times, and each time, it creates a new
453   prepended Options block. Note: normally you want to call this 
454   entry point prior to calling AddOptions, AddRegex, or AddWild.
455   
456 \item [AddOptions] allows the plugin it set options in
457   the current Options block, which is normally created with the
458   NewOptions call just prior to adding Include Options.
459   The permitted options are passed as a character string, where
460   each character has a specific meaning as defined below:
461
462   \begin{description}
463   \item [a] always replace files (default).
464   \item [e] exclude rather than include.
465   \item [h] no recursion into subdirectories.
466   \item [H] do not handle hard links.
467   \item [i] ignore case in wildcard and regex matches.
468   \item [M] compute an MD5 sum.
469   \item [p] use a portable data format on Windows (not recommended).
470   \item [R] backup resource forks and Findr Info.
471   \item [r] read from a fifo
472   \item [S1] compute an SHA1 sum.
473   \item [S2] compute an SHA256 sum.
474   \item [S3] comput an SHA512 sum.
475   \item [s] handle sparse files.
476   \item [m] use st\_mtime only for file differences.
477   \item [k] restore the st\_atime after accessing a file.
478   \item [A] enable ACL backup.
479   \item [Vxxx:] specify verify options. Must terminate with :
480   \item [Cxxx:] specify accurate options. Must terminate with :
481   \item [Jxxx:] specify base job Options. Must terminate with :
482   \item [Pnnn:] specify integer nnn paths to strip. Must terminate with :
483   \item [w] if newer
484   \item [Zn] specify gzip compression level n.
485   \item [K] do not use st\_atime in backup decision.
486   \item [c] check if file changed during backup.
487   \item [N] honor no dump flag.
488   \item [X] enable backup of extended attributes.
489   \end{description}
490
491 \item [AddRegex] adds a regex expression to the current Options block.
492   The fillowing options are permitted:
493   \begin{description}
494   \item [ ] (a blank) regex applies to whole path and filename.
495   \item [F] regex applies only to the filename (directory or path stripped).
496   \item [D] regex applies only to the directory (path) part of the name.
497   \end{description}
498
499 \item [AddWild] adds a wildcard expression to the current Options block.
500   The fillowing options are permitted:
501   \begin{description}
502   \item [ ] (a blank) regex applies to whole path and filename.
503   \item [F] regex applies only to the filename (directory or path stripped).
504   \item [D] regex applies only to the directory (path) part of the name.
505   \end{description}
506   
507 \end{description}
508   
509
510 \subsection{Bacula events}
511 The list of events has been extended to include:
512
513 \begin{verbatim}
514 typedef enum {
515   bEventJobStart        = 1,
516   bEventJobEnd          = 2,
517   bEventStartBackupJob  = 3,
518   bEventEndBackupJob    = 4,
519   bEventStartRestoreJob = 5,
520   bEventEndRestoreJob   = 6,
521   bEventStartVerifyJob  = 7,
522   bEventEndVerifyJob    = 8,
523   bEventBackupCommand   = 9,
524   bEventRestoreCommand  = 10,
525   bEventLevel           = 11,
526   bEventSince           = 12,
527    
528   /* New events */
529   bEventCancelCommand                   = 13,
530   bEventVssBackupAddComponents          = 14,
531   bEventVssRestoreLoadComponentMetadata = 15,
532   bEventVssRestoreSetComponentsSelected = 16,
533   bEventRestoreObject                   = 17,
534   bEventEndFileSet                      = 18
535
536 } bEventType;
537 \end{verbatim}
538
539 \begin{description}
540 \item [bEventCancelCommand] is called whenever the currently
541   running Job is cancelled */
542
543 \item [bEventVssBackupAddComponents] 
544
545 \end{description}
546
547
548 \chapter{Release Version 5.0.3}
549
550 There are no new features in version 5.0.2.  This version simply fixes a
551 number of bugs found in version 5.0.1 during the onging development
552 process.
553
554 \chapter{Release Version 5.0.2}
555
556 There are no new features in version 5.0.2.  This version simply fixes a
557 number of bugs found in version 5.0.1 during the onging development
558 process.
559
560 %%
561 %%
562
563 \chapter{New Features in 5.0.1}
564
565 This chapter presents the new features that are in the released Bacula version
566 5.0.1. This version mainly fixes a number of bugs found in version 5.0.0 during
567 the onging development process.
568
569 \section{Truncate Volume after Purge}
570 \label{sec:actiononpurge}
571
572 The Pool directive \textbf{ActionOnPurge=Truncate} instructs Bacula to truncate
573 the volume when it is purged with the new command \texttt{purge volume
574   action}. It is useful to prevent disk based volumes from consuming too much
575 space.
576
577 \begin{verbatim}
578 Pool {
579   Name = Default
580   Action On Purge = Truncate
581   ...
582 }
583 \end{verbatim}
584
585 As usual you can also set this property with the \texttt{update volume} command
586 \begin{verbatim}
587 *update volume=xxx ActionOnPurge=Truncate
588 *update volume=xxx actiononpurge=None
589 \end{verbatim}
590
591 To ask Bacula to truncate your \texttt{Purged} volumes, you need to use the
592 following command in interactive mode or in a RunScript as shown after:
593 \begin{verbatim}
594 *purge volume action=truncate storage=File allpools
595 # or by default, action=all
596 *purge volume action storage=File pool=Default
597 \end{verbatim}
598
599 This is possible to specify the volume name, the media type, the pool, the
600 storage, etc\dots (see \texttt{help purge}) Be sure that your storage device is
601 idle when you decide to run this command.
602
603 \begin{verbatim}
604 Job {
605  Name = CatalogBackup
606  ...
607  RunScript {
608    RunsWhen=After
609    RunsOnClient=No
610    Console = "purge volume action=all allpools storage=File"
611  }
612 }
613 \end{verbatim}
614
615 \textbf{Important note}: This feature doesn't work as
616 expected in version 5.0.0. Please do not use it before version 5.0.1.
617
618 \section{Allow Higher Duplicates}
619 This directive did not work correctly and has been depreciated
620 (disabled) in version 5.0.1. Please remove it from your bacula-dir.conf
621 file as it will be removed in a future rlease.
622
623 \section{Cancel Lower Level Duplicates}
624 This directive was added in Bacula version 5.0.1.  It compares the
625 level of a new backup job to old jobs of the same name, if any,
626 and will kill the job which has a lower level than the other one.
627 If the levels are the same (i.e. both are Full backups), then 
628 nothing is done and the other Cancel XXX Duplicate directives
629 will be examined.
630
631 \chapter{New Features in 5.0.0}
632
633 \section{Maximum Concurent Jobs for Devices}
634 \label{sec:maximumconcurentjobdevice}
635
636 {\bf Maximum Concurrent Jobs} is a new Device directive in the Storage
637 Daemon configuration permits setting the maximum number of Jobs that can
638 run concurrently on a specified Device.  Using this directive, it is
639 possible to have different Jobs using multiple drives, because when the
640 Maximum Concurrent Jobs limit is reached, the Storage Daemon will start new
641 Jobs on any other available compatible drive.  This facilitates writing to
642 multiple drives with multiple Jobs that all use the same Pool.
643
644 This project was funded by Bacula Systems.
645
646 \section{Restore from Multiple Storage Daemons}
647 \index[general]{Restore}
648
649 Previously, you were able to restore from multiple devices in a single Storage
650 Daemon. Now, Bacula is able to restore from multiple Storage Daemons. For
651 example, if your full backup runs on a Storage Daemon with an autochanger, and
652 your incremental jobs use another Storage Daemon with lots of disks, Bacula
653 will switch automatically from one Storage Daemon to an other within the same
654 Restore job.
655
656 You must upgrade your File Daemon to version 3.1.3 or greater to use this
657 feature.
658
659 This project was funded by Bacula Systems with the help of Equiinet.
660
661 \section{File Deduplication using Base Jobs}
662 A base job is sort of like a Full save except that you will want the FileSet to
663 contain only files that are unlikely to change in the future (i.e.  a snapshot
664 of most of your system after installing it).  After the base job has been run,
665 when you are doing a Full save, you specify one or more Base jobs to be used.
666 All files that have been backed up in the Base job/jobs but not modified will
667 then be excluded from the backup.  During a restore, the Base jobs will be
668 automatically pulled in where necessary.
669
670 This is something none of the competition does, as far as we know (except
671 perhaps BackupPC, which is a Perl program that saves to disk only).  It is big
672 win for the user, it makes Bacula stand out as offering a unique optimization
673 that immediately saves time and money.  Basically, imagine that you have 100
674 nearly identical Windows or Linux machine containing the OS and user files.
675 Now for the OS part, a Base job will be backed up once, and rather than making
676 100 copies of the OS, there will be only one.  If one or more of the systems
677 have some files updated, no problem, they will be automatically restored.
678
679 A new Job directive \texttt{Base=Jobx, Joby...} permits to specify the list of
680 files that will be used during Full backup as base.
681
682 \begin{verbatim}
683 Job {
684    Name = BackupLinux
685    Level= Base
686    ...
687 }
688
689 Job {
690    Name = BackupZog4
691    Base = BackupZog4, BackupLinux
692    Accurate = yes
693    ...
694 }
695 \end{verbatim}
696
697 In this example, the job \texttt{BackupZog4} will use the most recent version
698 of all files contained in \texttt{BackupZog4} and \texttt{BackupLinux}
699 jobs. Base jobs should have run with \texttt{level=Base} to be used.
700
701 By default, Bacula will compare permissions bits, user and group fields,
702 modification time, size and the checksum of the file to choose between the
703 current backup and the BaseJob file list. You can change this behavior with the
704 \texttt{BaseJob} FileSet option. This option works like the \texttt{verify=}
705 one, that is described in the \ilink{FileSet}{FileSetResource} chapter.
706
707 \begin{verbatim}
708 FileSet {
709   Name = Full
710   Include = {
711     Options {
712        BaseJob  = pmugcs5
713        Accurate = mcs
714        Verify   = pin5
715     }
716     File = /
717   }
718 }
719 \end{verbatim}
720
721 \textbf{Important note}: The current implementation doesn't permit to scan
722 volume with \textbf{bscan}. The result wouldn't permit to restore files easily.
723
724 This project was funded by Bacula Systems.
725
726 \section{AllowCompression = \lt{}yes\vb{}no\gt{}}
727 \index[dir]{AllowCompression}
728
729 This new directive may be added to Storage resource within the Director's
730 configuration to allow users to selectively disable the client compression for
731 any job which writes to this storage resource.
732
733 For example:
734 \begin{verbatim}
735 Storage {
736   Name = UltriumTape
737   Address = ultrium-tape
738   Password = storage_password # Password for Storage Daemon
739   Device = Ultrium
740   Media Type = LTO 3
741   AllowCompression = No # Tape drive has hardware compression
742 }
743 \end{verbatim}
744 The above example would cause any jobs running with the UltriumTape storage
745 resource to run without compression from the client file daemons.  This
746 effectively overrides any compression settings defined at the FileSet level.
747
748 This feature is probably most useful if you have a tape drive which supports
749 hardware compression.  By setting the \texttt{AllowCompression = No} directive
750 for your tape drive storage resource, you can avoid additional load on the file
751 daemon and possibly speed up tape backups.
752
753 This project was funded by Collaborative Fusion, Inc.
754
755 \section{Accurate Fileset Options}
756 \label{sec:accuratefileset}
757
758 In previous versions, the accurate code used the file creation and modification
759 times to determine if a file was modified or not. Now you can specify which
760 attributes to use (time, size, checksum, permission, owner, group, \dots),
761 similar to the Verify options.
762
763 \begin{verbatim}
764 FileSet {
765   Name = Full
766   Include = {
767     Options {
768        Accurate = mcs
769        Verify   = pin5
770     }
771     File = /
772   }
773 }
774 \end{verbatim}
775
776 \begin{description}  
777 \item {\bf i}  compare the inodes  
778 \item {\bf p}  compare the permission bits  
779 \item {\bf n}  compare the number of links  
780 \item {\bf u}  compare the user id  
781 \item {\bf g}  compare the group id  
782 \item {\bf s}  compare the size  
783 \item {\bf a}  compare the access time  
784 \item {\bf m}  compare the modification time (st\_mtime)  
785 \item {\bf c}  compare the change time (st\_ctime)  
786 \item {\bf d}  report file size decreases  
787 \item {\bf 5}  compare the MD5 signature  
788 \item {\bf 1}  compare the SHA1 signature  
789 \end{description}
790
791 \textbf{Important note:} If you decide to use checksum in Accurate jobs,
792 the File Daemon will have to read all files even if they normally would not
793 be saved.  This increases the I/O load, but also the accuracy of the
794 deduplication.  By default, Bacula will check modification/creation time
795 and size.
796
797 This project was funded by Bacula Systems.
798
799 \section{Tab-completion for Bconsole}
800 \label{sec:tabcompletion}
801
802 If you build \texttt{bconsole} with readline support, you will be able to use
803 the new auto-completion mode. This mode supports all commands, gives help
804 inside command, and lists resources when required. It works also in the restore
805 mode.
806
807 To use this feature, you should have readline development package loaded on
808 your system, and use the following option in configure.
809 \begin{verbatim}
810 ./configure --with-readline=/usr/include/readline --disable-conio ...
811 \end{verbatim}
812
813 The new bconsole won't be able to tab-complete with older directors.
814
815 This project was funded by Bacula Systems.
816
817 \section{Pool File and Job Retention}
818 \label{sec:poolfilejobretention}
819
820 We added two new Pool directives, \texttt{FileRetention} and
821 \texttt{JobRetention}, that take precedence over Client directives of the same
822 name. It allows you to control the Catalog pruning algorithm Pool by Pool. For
823 example, you can decide to increase Retention times for Archive or OffSite Pool.
824
825 It seems obvious to us, but apparently not to some users, that given the
826 definition above that the Pool File and Job Retention periods is a global
827 override for the normal Client based prunning, which means that when the
828 Job is prunned, the prunning will apply globally to that particular Job.
829
830 Currently, there is a bug in the implementation that causes any Pool 
831 retention periods specified to apply to {\bf all} Pools for that
832 particular Client.  Thus we suggest that you avoid using these two
833 directives until this implementation problem is corrected.
834
835 \section{Read-only File Daemon using capabilities}
836 \label{sec:fdreadonly}
837 This feature implements support of keeping \textbf{ReadAll} capabilities after
838 UID/GID switch, this allows FD to keep root read but drop write permission.
839
840 It introduces new \texttt{bacula-fd} option (\texttt{-k}) specifying that
841 \textbf{ReadAll} capabilities should be kept after UID/GID switch.
842
843 \begin{verbatim}
844 root@localhost:~# bacula-fd -k -u nobody -g nobody
845 \end{verbatim}
846
847 The code for this feature was contributed by our friends at AltLinux.
848
849 \section{Bvfs API}
850 \label{sec:bvfs}
851
852 To help developers of restore GUI interfaces, we have added new \textsl{dot
853   commands} that permit browsing the catalog in a very simple way.
854
855 \begin{itemize}
856 \item \texttt{.bvfs\_update [jobid=x,y,z]} This command is required to update
857   the Bvfs cache in the catalog. You need to run it before any access to the
858   Bvfs layer.
859
860 \item \texttt{.bvfs\_lsdirs jobid=x,y,z path=/path | pathid=101} This command
861   will list all directories in the specified \texttt{path} or
862   \texttt{pathid}. Using \texttt{pathid} avoids problems with character
863   encoding of path/filenames.
864
865 \item \texttt{.bvfs\_lsfiles jobid=x,y,z path=/path | pathid=101} This command
866   will list all files in the specified \texttt{path} or \texttt{pathid}. Using
867   \texttt{pathid} avoids problems with character encoding.
868 \end{itemize}
869
870 You can use \texttt{limit=xxx} and \texttt{offset=yyy} to limit the amount of
871 data that will be displayed.
872
873 \begin{verbatim}
874 * .bvfs_update jobid=1,2
875 * .bvfs_update
876 * .bvfs_lsdir path=/ jobid=1,2
877 \end{verbatim}
878
879 This project was funded by Bacula Systems.
880
881 \section{Testing your Tape Drive}
882 \label{sec:btapespeed}
883
884 To determine the best configuration of your tape drive, you can run the new
885 \texttt{speed} command available in the \texttt{btape} program.
886
887 This command can have the following arguments:
888 \begin{itemize}
889 \item[\texttt{file\_size=n}] Specify the Maximum File Size for this test
890   (between 1 and 5GB). This counter is in GB.
891 \item[\texttt{nb\_file=n}] Specify the number of file to be written. The amount
892   of data should be greater than your memory ($file\_size*nb\_file$).
893 \item[\texttt{skip\_zero}] This flag permits to skip tests with constant
894   data.
895 \item[\texttt{skip\_random}] This flag permits to skip tests with random
896   data.
897 \item[\texttt{skip\_raw}] This flag permits to skip tests with raw access.
898 \item[\texttt{skip\_block}] This flag permits to skip tests with Bacula block
899   access.
900 \end{itemize}
901
902 \begin{verbatim}
903 *speed file_size=3 skip_raw
904 btape.c:1078 Test with zero data and bacula block structure.
905 btape.c:956 Begin writing 3 files of 3.221 GB with blocks of 129024 bytes.
906 ++++++++++++++++++++++++++++++++++++++++++
907 btape.c:604 Wrote 1 EOF to "Drive-0" (/dev/nst0)
908 btape.c:406 Volume bytes=3.221 GB. Write rate = 44.128 MB/s
909 ...
910 btape.c:383 Total Volume bytes=9.664 GB. Total Write rate = 43.531 MB/s
911
912 btape.c:1090 Test with random data, should give the minimum throughput.
913 btape.c:956 Begin writing 3 files of 3.221 GB with blocks of 129024 bytes.
914 +++++++++++++++++++++++++++++++++++++++++++
915 btape.c:604 Wrote 1 EOF to "Drive-0" (/dev/nst0)
916 btape.c:406 Volume bytes=3.221 GB. Write rate = 7.271 MB/s
917 +++++++++++++++++++++++++++++++++++++++++++
918 ...
919 btape.c:383 Total Volume bytes=9.664 GB. Total Write rate = 7.365 MB/s
920
921 \end{verbatim}
922
923 When using compression, the random test will give your the minimum throughput
924 of your drive . The test using constant string will give you the maximum speed
925 of your hardware chain. (cpu, memory, scsi card, cable, drive, tape).
926
927 You can change the block size in the Storage Daemon configuration file.
928
929 \section{New {\bf Block Checksum} Device Directive}
930 You may now turn off the Block Checksum (CRC32) code
931 that Bacula uses when writing blocks to a Volume.  This is
932 done by adding:
933
934 \begin{verbatim}
935 Block Checksum = no
936 \end{verbatim}
937
938 doing so can reduce the Storage daemon CPU usage slightly.  It
939 will also permit Bacula to read a Volume that has corrupted data.
940
941 The default is {\bf yes} -- i.e. the checksum is computed on write
942 and checked on read. 
943
944 We do not recommend to turn this off particularly on older tape
945 drives or for disk Volumes where doing so may allow corrupted data
946 to go undetected.
947
948 \section{New Bat Features}
949
950 Those new features were funded by Bacula Systems.
951
952 \subsection{Media List View}
953
954 By clicking on ``Media'', you can see the list of all your volumes. You will be
955 able to filter by Pool, Media Type, Location,\dots And sort the result directly
956 in the table. The old ``Media'' view is now known as ``Pool''.
957 \begin{figure}[htbp]
958   \centering
959   \includegraphics[width=13cm]{\idir bat-mediaview.eps}
960   \label{fig:mediaview}
961 \end{figure}
962
963
964 \subsection{Media Information View}
965
966 By double-clicking on a volume (on the Media list, in the Autochanger content
967 or in the Job information panel), you can access a detailed overview of your
968 Volume. (cf \ref{fig:mediainfo}.)
969 \begin{figure}[htbp]
970   \centering
971   \includegraphics[width=13cm]{\idir bat11.eps}  
972   \caption{Media information}
973   \label{fig:mediainfo}
974 \end{figure}
975
976 \subsection{Job Information View}
977
978 By double-clicking on a Job record (on the Job run list or in the Media
979 information panel), you can access a detailed overview of your Job. (cf
980 \ref{fig:jobinfo}.)
981 \begin{figure}[htbp]
982   \centering
983   \includegraphics[width=13cm]{\idir bat12.eps}  
984   \caption{Job information}
985   \label{fig:jobinfo}
986 \end{figure}
987
988 \subsection{Autochanger Content View}
989
990 By double-clicking on a Storage record (on the Storage list panel), you can
991 access a detailed overview of your Autochanger. (cf \ref{fig:jobinfo}.)
992 \begin{figure}[htbp]
993   \centering
994   \includegraphics[width=13cm]{\idir bat13.eps}  
995   \caption{Autochanger content}
996   \label{fig:achcontent}
997 \end{figure}
998
999 To use this feature, you need to use the latest mtx-changer script
1000 version. (With new \texttt{listall} and \texttt{transfer} commands)
1001
1002 \section{Bat on Windows}
1003 We have ported {\bf bat} to Windows and it is now installed 
1004 by default when the installer is run.  It works quite well 
1005 on Win32, but has not had a lot of testing there, so your
1006 feedback would be welcome.  Unfortunately, eventhough it is
1007 installed by default, it does not yet work on 64 bit Windows
1008 operating systems.
1009
1010 \section{New Win32 Installer}
1011 The Win32 installer has been modified in several very important
1012 ways.  
1013 \begin{itemize}
1014 \item You must deinstall any current version of the
1015 Win32 File daemon before upgrading to the new one. 
1016 If you forget to do so, the new installation will fail.
1017 To correct this failure, you must manually shutdown 
1018 and deinstall the old File daemon. 
1019 \item All files (other than menu links) are installed
1020 in {\bf c:/Program Files/Bacula}.  
1021 \item The installer no longer sets this
1022 file to require administrator privileges by default. If you want
1023 to do so, please do it manually using the {\bf cacls} program.
1024 For example:
1025 \begin{verbatim}
1026 cacls "C:\Program Files\Bacula" /T /G SYSTEM:F Administrators:F
1027 \end{verbatim}
1028 \item The server daemons (Director and Storage daemon) are
1029 no longer included in the Windows installer.  If you want the
1030 Windows servers, you will either need to build them yourself (note
1031 they have not been ported to 64 bits), or you can contact 
1032 Bacula Systems about this.
1033 \end{itemize}
1034
1035 \section{Win64 Installer}
1036 We have corrected a number of problems that required manual
1037 editing of the conf files.  In most cases, it should now
1038 install and work.  {\bf bat} is by default installed in
1039 {\bf c:/Program Files/Bacula/bin32} rather than
1040 {\bf c:/Program Files/Bacula} as is the case with the 32
1041 bit Windows installer.
1042
1043 \section{Linux Bare Metal Recovery USB Key}
1044 We have made a number of significant improvements in the
1045 Bare Metal Recovery USB key.  Please see the README files
1046 it the {\bf rescue} release for more details.  
1047
1048 We are working on an equivalent USB key for Windows bare
1049 metal recovery, but it will take some time to develop it (best
1050 estimate 3Q2010 or 4Q2010)
1051
1052
1053 \section{bconsole Timeout Option}
1054 You can now use the -u option of {\bf bconsole} to set a timeout in seconds
1055 for commands. This is useful with GUI programs that use {\bf bconsole}
1056 to interface to the Director.
1057
1058 \section{Important Changes}
1059 \label{sec:importantchanges}
1060
1061 \begin{itemize}
1062 \item You are now allowed to Migrate, Copy, and Virtual Full to read and write
1063   to the same Pool. The Storage daemon ensures that you do not read and
1064   write to the same Volume.
1065 \item The \texttt{Device Poll Interval} is now 5 minutes. (previously did not
1066   poll by default).
1067 \item Virtually all the features of {\bf mtx-changer} have
1068   now been parameterized, which allows you to configure
1069   mtx-changer without changing it. There is a new configuration file {\bf mtx-changer.conf} 
1070   that contains variables that you can set to configure mtx-changer.
1071   This configuration file will not be overwritten during upgrades.
1072   We encourage you to submit any changes
1073   that are made to mtx-changer and to parameterize it all in
1074   mtx-changer.conf so that all configuration will be done by
1075   changing only mtx-changer.conf.
1076 \item The new \texttt{mtx-changer} script has two new options, \texttt{listall}
1077   and \texttt{transfer}. Please configure them as appropriate
1078   in mtx-changer.conf.
1079 \item To enhance security of the \texttt{BackupCatalog} job, we provide a new
1080   script (\texttt{make\_catalog\_backup.pl}) that does not expose your catalog
1081   password. If you want to use the new script, you will need to 
1082   manually change the \texttt{BackupCatalog} Job definition.
1083 \item The \texttt{bconsole} \texttt{help} command now accepts
1084   an argument, which if provided produces information on that
1085   command (ex: \texttt{help run}).
1086 \end{itemize}
1087
1088
1089 \subsubsection*{Truncate volume after purge}
1090
1091 Note that the Truncate Volume after purge feature doesn't work as expected
1092 in 5.0.0 version. Please, don't use it before version 5.0.1.
1093
1094 \subsection{Custom Catalog queries}
1095
1096 If you wish to add specialized commands that list the contents of the catalog,
1097 you can do so by adding them to the \texttt{query.sql} file. This
1098 \texttt{query.sql} file is now empty by default.  The file
1099 \texttt{examples/sample-query.sql} has an a number of sample commands
1100 you might find useful.
1101
1102 \subsection{Deprecated parts}
1103
1104 The following items have been \textbf{deprecated} for a long time, and are now
1105 removed from the code.
1106 \begin{itemize}
1107 \item Gnome console
1108 \item Support for SQLite 2
1109 \end{itemize}
1110
1111 \section{Misc Changes}
1112 \label{sec:miscchanges}
1113
1114 \begin{itemize}
1115 \item Updated Nagios check\_bacula
1116 \item Updated man files
1117 \item Added OSX package generation script in platforms/darwin
1118 \item Added Spanish and Ukrainian Bacula translations
1119 \item Enable/disable command shows only Jobs that can change
1120 \item Added \texttt{show disabled} command to show disabled Jobs
1121 \item Many ACL improvements
1122 \item Added Level to FD status Job output
1123 \item Begin Ingres DB driver (not yet working)
1124 \item Split RedHat spec files into bacula, bat, mtx, and docs
1125 \item Reorganized the manuals (fewer separate manuals)
1126 \item Added lock/unlock order protection in lock manager
1127 \item Allow 64 bit sizes for a number of variables
1128 \item Fixed several deadlocks or potential race conditions in the SD
1129 \end{itemize}
1130
1131 \chapter{Released Version 3.0.3 and 3.0.3a}
1132
1133 There are no new features in version 3.0.3.  This version simply fixes a
1134 number of bugs found in version 3.0.2 during the onging development
1135 process.
1136
1137 \chapter{New Features in Released Version 3.0.2}
1138
1139 This chapter presents the new features added to the
1140 Released Bacula Version 3.0.2.
1141
1142 \section{Full Restore from a Given JobId}
1143 \index[general]{Restore menu}
1144
1145 This feature allows selecting a single JobId and having Bacula
1146 automatically select all the other jobs that comprise a full backup up to
1147 and including the selected date (through JobId).
1148
1149 Assume we start with the following jobs:
1150 \begin{verbatim}
1151 +-------+--------------+---------------------+-------+----------+------------+
1152 | jobid | client       | starttime           | level | jobfiles | jobbytes   |
1153 +-------+--------------+---------------------+-------+----------+------------
1154 | 6     | localhost-fd | 2009-07-15 11:45:49 | I     | 2        | 0          |
1155 | 5     | localhost-fd | 2009-07-15 11:45:45 | I     | 15       | 44143      |
1156 | 3     | localhost-fd | 2009-07-15 11:45:38 | I     | 1        | 10         |
1157 | 1     | localhost-fd | 2009-07-15 11:45:30 | F     | 1527     | 44143073   |
1158 +-------+--------------+---------------------+-------+----------+------------+
1159 \end{verbatim}
1160
1161 Below is an example of this new feature (which is number 12 in the
1162 menu).
1163
1164 \begin{verbatim}
1165 * restore
1166 To select the JobIds, you have the following choices:
1167      1: List last 20 Jobs run
1168      2: List Jobs where a given File is saved
1169 ...
1170     12: Select full restore to a specified Job date
1171     13: Cancel
1172
1173 Select item:  (1-13): 12
1174 Enter JobId to get the state to restore: 5
1175 Selecting jobs to build the Full state at 2009-07-15 11:45:45
1176 You have selected the following JobIds: 1,3,5
1177
1178 Building directory tree for JobId(s) 1,3,5 ...  +++++++++++++++++++
1179 1,444 files inserted into the tree.
1180 \end{verbatim}
1181
1182 This project was funded by Bacula Systems.
1183
1184 \section{Source Address}
1185 \index[general]{Source Address}
1186
1187 A feature has been added which allows the administrator to specify the address
1188 from which the Director and File daemons will establish connections.  This
1189 may be used to simplify system configuration overhead when working in complex
1190 networks utilizing multi-homing and policy-routing.
1191
1192 To accomplish this, two new configuration directives have been implemented:
1193 \begin{verbatim}
1194 FileDaemon {
1195   FDSourceAddress=10.0.1.20    # Always initiate connections from this address
1196 }
1197
1198 Director {
1199   DirSourceAddress=10.0.1.10   # Always initiate connections from this address
1200 }
1201 \end{verbatim}
1202
1203 Simply adding specific host routes on the OS
1204 would have an undesirable side-effect: any
1205 application trying to contact the destination host would be forced to use the
1206 more specific route possibly diverting management traffic onto a backup VLAN.
1207 Instead of adding host routes for each client connected to a multi-homed backup
1208 server (for example where there are management and backup VLANs), one can
1209 use the new directives to specify a specific source address at the application
1210 level.
1211
1212 Additionally, this allows the simplification and abstraction of firewall rules
1213 when dealing with a Hot-Standby director or storage daemon configuration.  The
1214 Hot-standby pair may share a CARP address, which connections must be sourced
1215 from, while system services listen and act from the unique interface addresses.
1216
1217 This project was funded by Collaborative Fusion, Inc.
1218
1219 \section{Show volume availability when doing restore}
1220
1221 When doing a restore the selection dialog ends by displaying this
1222 screen:
1223
1224 \begin{verbatim}
1225   The job will require the following
1226    Volume(s)                 Storage(s)                SD Device(s)
1227    ===========================================================================
1228    *000741L3                  LTO-4                     LTO3 
1229    *000866L3                  LTO-4                     LTO3 
1230    *000765L3                  LTO-4                     LTO3 
1231    *000764L3                  LTO-4                     LTO3 
1232    *000756L3                  LTO-4                     LTO3 
1233    *001759L3                  LTO-4                     LTO3 
1234    *001763L3                  LTO-4                     LTO3 
1235     001762L3                  LTO-4                     LTO3 
1236     001767L3                  LTO-4                     LTO3 
1237
1238 Volumes marked with ``*'' are online (in the autochanger).
1239 \end{verbatim}
1240
1241 This should help speed up large restores by minimizing the time spent
1242 waiting for the operator to discover that he must change tapes in the library.
1243
1244 This project was funded by Bacula Systems.
1245
1246 \section{Accurate estimate command}
1247
1248 The \texttt{estimate} command can now use the accurate code to detect changes
1249 and give a better estimation.
1250
1251 You can set the accurate behavior on the command line by using
1252 \texttt{accurate=yes\vb{}no} or use the Job setting as default value.
1253
1254 \begin{verbatim}
1255 * estimate listing accurate=yes level=incremental job=BackupJob
1256 \end{verbatim}
1257
1258 This project was funded by Bacula Systems.
1259
1260 \chapter{New Features in 3.0.0}
1261 \label{NewFeaturesChapter}
1262 \index[general]{New Features}
1263
1264 This chapter presents the new features added to the development 2.5.x
1265 versions to be released as Bacula version 3.0.0 sometime in April 2009.
1266
1267 \section{Accurate Backup}
1268 \index[general]{Accurate Backup}
1269
1270 As with most other backup programs, by default Bacula decides what files to
1271 backup for Incremental and Differental backup by comparing the change
1272 (st\_ctime) and modification (st\_mtime) times of the file to the time the last
1273 backup completed.  If one of those two times is later than the last backup
1274 time, then the file will be backed up.  This does not, however, permit tracking
1275 what files have been deleted and will miss any file with an old time that may
1276 have been restored to or moved onto the client filesystem.
1277
1278 \subsection{Accurate = \lt{}yes\vb{}no\gt{}}
1279 If the {\bf Accurate = \lt{}yes\vb{}no\gt{}} directive is enabled (default no) in
1280 the Job resource, the job will be run as an Accurate Job. For a {\bf Full}
1281 backup, there is no difference, but for {\bf Differential} and {\bf
1282   Incremental} backups, the Director will send a list of all previous files
1283 backed up, and the File daemon will use that list to determine if any new files
1284 have been added or or moved and if any files have been deleted. This allows
1285 Bacula to make an accurate backup of your system to that point in time so that
1286 if you do a restore, it will restore your system exactly.  
1287
1288 One note of caution
1289 about using Accurate backup is that it requires more resources (CPU and memory)
1290 on both the Director and the Client machines to create the list of previous
1291 files backed up, to send that list to the File daemon, for the File daemon to
1292 keep the list (possibly very big) in memory, and for the File daemon to do
1293 comparisons between every file in the FileSet and the list.  In particular,
1294 if your client has lots of files (more than a few million), you will need
1295 lots of memory on the client machine.
1296
1297 Accurate must not be enabled when backing up with a plugin that is not
1298 specially designed to work with Accurate. If you enable it, your restores
1299 will probably not work correctly.
1300
1301 This project was funded by Bacula Systems.
1302                                        
1303
1304
1305 \section{Copy Jobs}
1306 \index[general]{Copy Jobs}
1307
1308 A new {\bf Copy} job type 'C' has been implemented. It is similar to the
1309 existing Migration feature with the exception that the Job that is copied is
1310 left unchanged.  This essentially creates two identical copies of the same
1311 backup. However, the copy is treated as a copy rather than a backup job, and
1312 hence is not directly available for restore.  The {\bf restore} command lists
1313 copy jobs and allows selection of copies by using \texttt{jobid=}
1314 option. If the keyword {\bf copies} is present on the command line, Bacula will
1315 display the list of all copies for selected jobs.
1316
1317 \begin{verbatim}
1318 * restore copies
1319 [...]
1320 These JobIds have copies as follows:
1321 +-------+------------------------------------+-----------+------------------+
1322 | JobId | Job                                | CopyJobId | MediaType        |
1323 +-------+------------------------------------+-----------+------------------+
1324 | 2     | CopyJobSave.2009-02-17_16.31.00.11 | 7         | DiskChangerMedia |
1325 +-------+------------------------------------+-----------+------------------+
1326 +-------+-------+----------+----------+---------------------+------------------+
1327 | JobId | Level | JobFiles | JobBytes | StartTime           | VolumeName       |
1328 +-------+-------+----------+----------+---------------------+------------------+
1329 | 19    | F     | 6274     | 76565018 | 2009-02-17 16:30:45 | ChangerVolume002 |
1330 | 2     | I     | 1        | 5        | 2009-02-17 16:30:51 | FileVolume001    |
1331 +-------+-------+----------+----------+---------------------+------------------+
1332 You have selected the following JobIds: 19,2
1333
1334 Building directory tree for JobId(s) 19,2 ...  ++++++++++++++++++++++++++++++++++++++++++++
1335 5,611 files inserted into the tree.
1336 ...
1337 \end{verbatim}
1338
1339
1340 The Copy Job runs without using the File daemon by copying the data from the
1341 old backup Volume to a different Volume in a different Pool. See the Migration
1342 documentation for additional details. For copy Jobs there is a new selection
1343 directive named {\bf PoolUncopiedJobs} which selects all Jobs that were
1344 not already copied to another Pool. 
1345
1346 As with Migration, the Client, Volume, Job, or SQL query, are
1347 other possible ways of selecting the Jobs to be copied. Selection
1348 types like SmallestVolume, OldestVolume, PoolOccupancy and PoolTime also
1349 work, but are probably more suited for Migration Jobs. 
1350
1351 If Bacula finds a Copy of a job record that is purged (deleted) from the catalog,
1352 it will promote the Copy to a \textsl{real} backup job and will make it available for
1353 automatic restore. If more than one Copy is available, it will promote the copy
1354 with the smallest JobId.
1355
1356 A nice solution which can be built with the new Copy feature is often
1357 called disk-to-disk-to-tape backup (DTDTT). A sample config could
1358 look something like the one below:
1359
1360 \begin{verbatim}
1361 Pool {
1362   Name = FullBackupsVirtualPool
1363   Pool Type = Backup
1364   Purge Oldest Volume = Yes
1365   Storage = vtl
1366   NextPool = FullBackupsTapePool
1367 }
1368
1369 Pool {
1370   Name = FullBackupsTapePool
1371   Pool Type = Backup
1372   Recycle = Yes
1373   AutoPrune = Yes
1374   Volume Retention = 365 days
1375   Storage = superloader
1376 }
1377
1378 #
1379 # Fake fileset for copy jobs
1380 #
1381 Fileset {
1382   Name = None
1383   Include {
1384     Options {
1385       signature = MD5
1386     }
1387   }
1388 }
1389
1390 #
1391 # Fake client for copy jobs
1392 #
1393 Client {
1394   Name = None
1395   Address = localhost
1396   Password = "NoNe"
1397   Catalog = MyCatalog
1398 }
1399
1400 #
1401 # Default template for a CopyDiskToTape Job
1402 #
1403 JobDefs {
1404   Name = CopyDiskToTape
1405   Type = Copy
1406   Messages = StandardCopy
1407   Client = None
1408   FileSet = None
1409   Selection Type = PoolUncopiedJobs
1410   Maximum Concurrent Jobs = 10
1411   SpoolData = No
1412   Allow Duplicate Jobs = Yes
1413   Cancel Queued Duplicates = No
1414   Cancel Running Duplicates = No
1415   Priority = 13
1416 }
1417
1418 Schedule {
1419    Name = DaySchedule7:00
1420    Run = Level=Full daily at 7:00
1421 }
1422
1423 Job {
1424   Name = CopyDiskToTapeFullBackups
1425   Enabled = Yes
1426   Schedule = DaySchedule7:00
1427   Pool = FullBackupsVirtualPool
1428   JobDefs = CopyDiskToTape
1429 }
1430 \end{verbatim}
1431
1432 The example above had 2 pool which are copied using the PoolUncopiedJobs
1433 selection criteria. Normal Full backups go to the Virtual pool and are copied
1434 to the Tape pool the next morning.
1435
1436 The command \texttt{list copies [jobid=x,y,z]} lists copies for a given
1437 \textbf{jobid}.
1438
1439 \begin{verbatim}
1440 *list copies
1441 +-------+------------------------------------+-----------+------------------+
1442 | JobId | Job                                | CopyJobId | MediaType        |
1443 +-------+------------------------------------+-----------+------------------+
1444 |     9 | CopyJobSave.2008-12-20_22.26.49.05 |        11 | DiskChangerMedia |
1445 +-------+------------------------------------+-----------+------------------+
1446 \end{verbatim}
1447
1448 \section{ACL Updates}
1449 \index[general]{ACL Updates}
1450 The whole ACL code had been overhauled and in this version each platforms has
1451 different streams for each type of acl available on such an platform. As ACLs
1452 between platforms tend to be not that portable (most implement POSIX acls but
1453 some use an other draft or a completely different format) we currently only
1454 allow certain platform specific ACL streams to be decoded and restored on the
1455 same platform that they were created on.  The old code allowed to restore ACL
1456 cross platform but the comments already mention that not being to wise. For
1457 backward compatability the new code will accept the two old ACL streams and
1458 handle those with the platform specific handler. But for all new backups it
1459 will save the ACLs using the new streams.
1460
1461 Currently the following platforms support ACLs:
1462
1463 \begin{itemize}
1464  \item {\bf AIX}
1465  \item {\bf Darwin/OSX}
1466  \item {\bf FreeBSD}
1467  \item {\bf HPUX}
1468  \item {\bf IRIX}
1469  \item {\bf Linux}
1470  \item {\bf Tru64}
1471  \item {\bf Solaris}
1472 \end{itemize}
1473
1474 Currently we support the following ACL types (these ACL streams use a reserved
1475 part of the stream numbers):
1476
1477 \begin{itemize}
1478 \item {\bf STREAM\_ACL\_AIX\_TEXT} 1000 AIX specific string representation from
1479   acl\_get
1480  \item {\bf STREAM\_ACL\_DARWIN\_ACCESS\_ACL} 1001 Darwin (OSX) specific acl\_t
1481    string representation from acl\_to\_text (POSIX acl)
1482   \item {\bf STREAM\_ACL\_FREEBSD\_DEFAULT\_ACL} 1002 FreeBSD specific acl\_t
1483     string representation from acl\_to\_text (POSIX acl) for default acls.
1484   \item {\bf STREAM\_ACL\_FREEBSD\_ACCESS\_ACL} 1003 FreeBSD specific acl\_t
1485     string representation from acl\_to\_text (POSIX acl) for access acls.
1486   \item {\bf STREAM\_ACL\_HPUX\_ACL\_ENTRY} 1004 HPUX specific acl\_entry
1487     string representation from acltostr (POSIX acl)
1488   \item {\bf STREAM\_ACL\_IRIX\_DEFAULT\_ACL} 1005 IRIX specific acl\_t string
1489     representation from acl\_to\_text (POSIX acl) for default acls.
1490   \item {\bf STREAM\_ACL\_IRIX\_ACCESS\_ACL} 1006 IRIX specific acl\_t string
1491     representation from acl\_to\_text (POSIX acl) for access acls.
1492   \item {\bf STREAM\_ACL\_LINUX\_DEFAULT\_ACL} 1007 Linux specific acl\_t
1493     string representation from acl\_to\_text (POSIX acl) for default acls.
1494   \item {\bf STREAM\_ACL\_LINUX\_ACCESS\_ACL} 1008 Linux specific acl\_t string
1495     representation from acl\_to\_text (POSIX acl) for access acls.
1496   \item {\bf STREAM\_ACL\_TRU64\_DEFAULT\_ACL} 1009 Tru64 specific acl\_t
1497     string representation from acl\_to\_text (POSIX acl) for default acls.
1498   \item {\bf STREAM\_ACL\_TRU64\_DEFAULT\_DIR\_ACL} 1010 Tru64 specific acl\_t
1499     string representation from acl\_to\_text (POSIX acl) for default acls.
1500   \item {\bf STREAM\_ACL\_TRU64\_ACCESS\_ACL} 1011 Tru64 specific acl\_t string
1501     representation from acl\_to\_text (POSIX acl) for access acls.
1502   \item {\bf STREAM\_ACL\_SOLARIS\_ACLENT} 1012 Solaris specific aclent\_t
1503     string representation from acltotext or acl\_totext (POSIX acl)
1504   \item {\bf STREAM\_ACL\_SOLARIS\_ACE} 1013 Solaris specific ace\_t string
1505     representation from from acl\_totext (NFSv4 or ZFS acl)
1506 \end{itemize}
1507
1508 In future versions we might support conversion functions from one type of acl
1509 into an other for types that are either the same or easily convertable. For now
1510 the streams are seperate and restoring them on a platform that doesn't
1511 recognize them will give you a warning.
1512
1513 \section{Extended Attributes}
1514 \index[general]{Extended Attributes}
1515 Something that was on the project list for some time is now implemented for
1516 platforms that support a similar kind of interface. Its the support for backup
1517 and restore of so called extended attributes. As extended attributes are so
1518 platform specific these attributes are saved in seperate streams for each
1519 platform.  Restores of the extended attributes can only be performed on the
1520 same platform the backup was done.  There is support for all types of extended
1521 attributes, but restoring from one type of filesystem onto an other type of
1522 filesystem on the same platform may lead to supprises.  As extended attributes
1523 can contain any type of data they are stored as a series of so called
1524 value-pairs.  This data must be seen as mostly binary and is stored as such.
1525 As security labels from selinux are also extended attributes this option also
1526 stores those labels and no specific code is enabled for handling selinux
1527 security labels.
1528
1529 Currently the following platforms support extended attributes:
1530 \begin{itemize}
1531  \item {\bf Darwin/OSX}
1532  \item {\bf FreeBSD}
1533  \item {\bf Linux}
1534  \item {\bf NetBSD}
1535 \end{itemize}
1536
1537 On linux acls are also extended attributes, as such when you enable ACLs on a
1538 Linux platform it will NOT save the same data twice e.g. it will save the ACLs
1539 and not the same exteneded attribute.
1540
1541 To enable the backup of extended attributes please add the following to your
1542 fileset definition.
1543 \begin{verbatim}
1544   FileSet {
1545     Name = "MyFileSet"
1546     Include {
1547       Options {
1548         signature = MD5
1549         xattrsupport = yes
1550       }
1551       File = ...
1552     }
1553   }
1554 \end{verbatim}
1555
1556 \section{Shared objects}
1557 \index[general]{Shared objects}
1558 A default build of Bacula will now create the libraries as shared objects
1559 (.so) rather than static libraries as was previously the case.  
1560 The shared libraries are built using {\bf libtool} so it should be quite
1561 portable.
1562
1563 An important advantage of using shared objects is that on a machine with the
1564 Directory, File daemon, the Storage daemon, and a console, you will have only
1565 one copy of the code in memory rather than four copies.  Also the total size of
1566 the binary release is smaller since the library code appears only once rather
1567 than once for every program that uses it; this results in significant reduction
1568 in the size of the binaries particularly for the utility tools.
1569  
1570 In order for the system loader to find the shared objects when loading the
1571 Bacula binaries, the Bacula shared objects must either be in a shared object
1572 directory known to the loader (typically /usr/lib) or they must be in the
1573 directory that may be specified on the {\bf ./configure} line using the {\bf
1574   {-}{-}libdir} option as:
1575
1576 \begin{verbatim}
1577   ./configure --libdir=/full-path/dir
1578 \end{verbatim}
1579
1580 the default is /usr/lib. If {-}{-}libdir is specified, there should be
1581 no need to modify your loader configuration provided that
1582 the shared objects are installed in that directory (Bacula
1583 does this with the make install command). The shared objects
1584 that Bacula references are:
1585
1586 \begin{verbatim}
1587 libbaccfg.so
1588 libbacfind.so
1589 libbacpy.so
1590 libbac.so
1591 \end{verbatim}
1592
1593 These files are symbolically linked to the real shared object file,
1594 which has a version number to permit running multiple versions of
1595 the libraries if desired (not normally the case).
1596
1597 If you have problems with libtool or you wish to use the old
1598 way of building static libraries, or you want to build a static
1599 version of Bacula you may disable
1600 libtool on the configure command line with:
1601
1602 \begin{verbatim}
1603   ./configure --disable-libtool
1604 \end{verbatim}
1605
1606
1607 \section{Building Static versions of Bacula}
1608 \index[general]{Static linking}
1609 In order to build static versions of Bacula, in addition
1610 to configuration options that were needed you now must
1611 also add --disable-libtool.  Example
1612
1613 \begin{verbatim}
1614   ./configure --enable-static-client-only --disable-libtool
1615 \end{verbatim}
1616
1617
1618 \section{Virtual Backup (Vbackup)}
1619 \index[general]{Virtual Backup}
1620 \index[general]{Vbackup}
1621
1622 Bacula's virtual backup feature is often called Synthetic Backup or
1623 Consolidation in other backup products.  It permits you to consolidate the
1624 previous Full backup plus the most recent Differential backup and any
1625 subsequent Incremental backups into a new Full backup.  This new Full
1626 backup will then be considered as the most recent Full for any future
1627 Incremental or Differential backups.  The VirtualFull backup is
1628 accomplished without contacting the client by reading the previous backup
1629 data and writing it to a volume in a different pool.
1630
1631 In some respects the Vbackup feature works similar to a Migration job, in
1632 that Bacula normally reads the data from the pool specified in the 
1633 Job resource, and writes it to the {\bf Next Pool} specified in the 
1634 Job resource. Note, this means that usually the output from the Virtual
1635 Backup is written into a different pool from where your prior backups
1636 are saved. Doing it this way guarantees that you will not get a deadlock
1637 situation attempting to read and write to the same volume in the Storage
1638 daemon. If you then want to do subsequent backups, you may need to
1639 move the Virtual Full Volume back to your normal backup pool.
1640 Alternatively, you can set your {\bf Next Pool} to point to the current
1641 pool.  This will cause Bacula to read and write to Volumes in the
1642 current pool. In general, this will work, because Bacula will
1643 not allow reading and writing on the same Volume. In any case, once
1644 a VirtualFull has been created, and a restore is done involving the
1645 most current Full, it will read the Volume or Volumes by the VirtualFull 
1646 regardless of in which Pool the Volume is found.
1647
1648 The Vbackup is enabled on a Job by Job in the Job resource by specifying
1649 a level of {\bf VirtualFull}.
1650
1651 A typical Job resource definition might look like the following:
1652
1653 \begin{verbatim}
1654 Job {
1655   Name = "MyBackup"
1656   Type = Backup
1657   Client=localhost-fd
1658   FileSet = "Full Set"
1659   Storage = File
1660   Messages = Standard
1661   Pool = Default
1662   SpoolData = yes
1663 }
1664
1665 # Default pool definition
1666 Pool {
1667   Name = Default
1668   Pool Type = Backup
1669   Recycle = yes            # Automatically recycle Volumes
1670   AutoPrune = yes          # Prune expired volumes
1671   Volume Retention = 365d  # one year
1672   NextPool = Full
1673   Storage = File
1674 }
1675
1676 Pool {
1677   Name = Full
1678   Pool Type = Backup
1679   Recycle = yes            # Automatically recycle Volumes
1680   AutoPrune = yes          # Prune expired volumes
1681   Volume Retention = 365d  # one year
1682   Storage = DiskChanger
1683 }
1684
1685 # Definition of file storage device
1686 Storage {
1687   Name = File
1688   Address = localhost
1689   Password = "xxx"
1690   Device = FileStorage
1691   Media Type = File
1692   Maximum Concurrent Jobs = 5
1693 }
1694
1695 # Definition of DDS Virtual tape disk storage device
1696 Storage {
1697   Name = DiskChanger
1698   Address = localhost  # N.B. Use a fully qualified name here
1699   Password = "yyy"
1700   Device = DiskChanger
1701   Media Type = DiskChangerMedia
1702   Maximum Concurrent Jobs = 4
1703   Autochanger = yes
1704 }
1705 \end{verbatim}
1706
1707 Then in bconsole or via a Run schedule, you would run the job as:
1708
1709 \begin{verbatim}
1710 run job=MyBackup level=Full
1711 run job=MyBackup level=Incremental
1712 run job=MyBackup level=Differential
1713 run job=MyBackup level=Incremental
1714 run job=MyBackup level=Incremental
1715 \end{verbatim}
1716
1717 So providing there were changes between each of those jobs, you would end up
1718 with a Full backup, a Differential, which includes the first Incremental
1719 backup, then two Incremental backups.  All the above jobs would be written to
1720 the {\bf Default} pool.
1721
1722 To consolidate those backups into a new Full backup, you would run the
1723 following:
1724
1725 \begin{verbatim}
1726 run job=MyBackup level=VirtualFull
1727 \end{verbatim}
1728
1729 And it would produce a new Full backup without using the client, and the output
1730 would be written to the {\bf Full} Pool which uses the Diskchanger Storage.
1731
1732 If the Virtual Full is run, and there are no prior Jobs, the Virtual Full will
1733 fail with an error.
1734
1735 Note, the Start and End time of the Virtual Full backup is set to the
1736 values for the last job included in the Virtual Full (in the above example,
1737 it is an Increment). This is so that if another incremental is done, which
1738 will be based on the Virtual Full, it will backup all files from the
1739 last Job included in the Virtual Full rather than from the time the Virtual
1740 Full was actually run.
1741
1742
1743
1744 \section{Catalog Format}
1745 \index[general]{Catalog Format}
1746 Bacula 3.0 comes with some changes to the catalog format.  The upgrade
1747 operation will convert the FileId field of the File table from 32 bits (max 4
1748 billion table entries) to 64 bits (very large number of items).  The
1749 conversion process can take a bit of time and will likely DOUBLE THE SIZE of
1750 your catalog during the conversion.  Also you won't be able to run jobs during
1751 this conversion period.  For example, a 3 million file catalog will take 2
1752 minutes to upgrade on a normal machine.  Please don't forget to make a valid
1753 backup of your database before executing the upgrade script. See the 
1754 ReleaseNotes for additional details.
1755
1756 \section{64 bit Windows Client}
1757 \index[general]{Win64 Client}
1758 Unfortunately, Microsoft's implementation of Volume Shadown Copy (VSS) on
1759 their 64 bit OS versions is not compatible with a 32 bit Bacula Client.
1760 As a consequence, we are also releasing a 64 bit version of the Bacula 
1761 Windows Client (win64bacula-3.0.0.exe) that does work with VSS. 
1762 These binaries should only be installed on 64 bit Windows operating systems.
1763 What is important is not your hardware but whether or not you have
1764 a 64 bit version of the Windows OS.  
1765
1766 Compared to the Win32 Bacula Client, the 64 bit release contains a few differences:
1767 \begin{enumerate}
1768 \item Before installing the Win64 Bacula Client, you must totally
1769       deinstall any prior 2.4.x Client installation using the 
1770       Bacula deinstallation (see the menu item). You may want
1771       to save your .conf files first.
1772 \item Only the Client (File daemon) is ported to Win64, the Director
1773       and the Storage daemon are not in the 64 bit Windows installer.
1774 \item bwx-console is not yet ported.
1775 \item bconsole is ported but it has not been tested.
1776 \item The documentation is not included in the installer.
1777 \item Due to Vista security restrictions imposed on a default installation
1778       of Vista, before upgrading the Client, you must manually stop
1779       any prior version of Bacula from running, otherwise the install
1780       will fail.
1781 \item Due to Vista security restrictions imposed on a default installation
1782       of Vista, attempting to edit the conf files via the menu items
1783       will fail. You must directly edit the files with appropriate 
1784       permissions.  Generally double clicking on the appropriate .conf
1785       file will work providing you have sufficient permissions.
1786 \item All Bacula files are now installed in 
1787       {\bf C:/Program Files/Bacula} except the main menu items,
1788       which are installed as before. This vastly simplifies the installation.
1789 \item If you are running on a foreign language version of Windows, most
1790       likely {\bf C:/Program Files} does not exist, so you should use the
1791       Custom installation and enter an appropriate location to install
1792       the files.
1793 \item The 3.0.0 Win32 Client continues to install files in the locations used
1794       by prior versions. For the next version we will convert it to use
1795       the same installation conventions as the Win64 version.
1796 \end{enumerate}
1797
1798 This project was funded by Bacula Systems.
1799
1800
1801 \section{Duplicate Job Control}
1802 \index[general]{Duplicate Jobs}
1803 The new version of Bacula provides four new directives that
1804 give additional control over what Bacula does if duplicate jobs 
1805 are started.  A duplicate job in the sense we use it here means
1806 a second or subsequent job with the same name starts.  This
1807 happens most frequently when the first job runs longer than expected because no 
1808 tapes are available.
1809
1810 The four directives each take as an argument a {\bf yes} or {\bf no} value and
1811 are specified in the Job resource.
1812
1813 They are:
1814
1815 \subsection{Allow Duplicate Jobs = \lt{}yes\vb{}no\gt{}}
1816 \index[general]{Allow Duplicate Jobs}
1817   If this directive is set to {\bf yes}, duplicate jobs will be run.  If
1818   the directive is set to {\bf no} (default) then only one job of a given name
1819   may run at one time, and the action that Bacula takes to ensure only
1820   one job runs is determined by the other directives (see below).
1821  
1822   If {\bf Allow Duplicate Jobs} is set to {\bf no} and two jobs
1823   are present and none of the three directives given below permit
1824   cancelling a job, then the current job (the second one started)
1825   will be cancelled.
1826
1827 \subsection{Allow Higher Duplicates = \lt{}yes\vb{}no\gt{}}
1828 \index[general]{Allow Higher Duplicates}
1829   This directive was in version 5.0.0, but does not work as
1830   expected. If used, it should always be set to no.  In later versions
1831   of Bacula the directive is disabled (disregarded).
1832
1833 \subsection{Cancel Running Duplicates = \lt{}yes\vb{}no\gt{}}
1834 \index[general]{Cancel Running Duplicates}
1835   If {\bf Allow Duplicate Jobs} is set to {\bf no} and
1836   if this directive is set to {\bf yes} any job that is already running
1837   will be canceled.  The default is {\bf no}.
1838
1839 \subsection{Cancel Queued Duplicates = \lt{}yes\vb{}no\gt{}}
1840 \index[general]{Cancel Queued Duplicates}
1841   If {\bf Allow Duplicate Jobs} is set to {\bf no} and
1842   if this directive is set to {\bf yes} any job that is
1843   already queued to run but not yet running will be canceled.
1844   The default is {\bf no}. 
1845
1846
1847 \section{TLS Authentication}
1848 \index[general]{TLS Authentication}
1849 In Bacula version 2.5.x and later, in addition to the normal Bacula
1850 CRAM-MD5 authentication that is used to authenticate each Bacula
1851 connection, you can specify that you want TLS Authentication as well,
1852 which will provide more secure authentication.
1853
1854 This new feature uses Bacula's existing TLS code (normally used for
1855 communications encryption) to do authentication.  To use it, you must
1856 specify all the TLS directives normally used to enable communications
1857 encryption (TLS Enable, TLS Verify Peer, TLS Certificate, ...) and
1858 a new directive:
1859
1860 \subsection{TLS Authenticate = yes}
1861 \begin{verbatim}
1862 TLS Authenticate = yes
1863 \end{verbatim}
1864
1865 in the main daemon configuration resource (Director for the Director,
1866 Client for the File daemon, and Storage for the Storage daemon).
1867
1868 When {\bf TLS Authenticate} is enabled, after doing the CRAM-MD5
1869 authentication, Bacula will also do TLS authentication, then TLS 
1870 encryption will be turned off, and the rest of the communication between
1871 the two Bacula daemons will be done without encryption.
1872
1873 If you want to encrypt communications data, use the normal TLS directives
1874 but do not turn on {\bf TLS Authenticate}.
1875
1876 \section{bextract non-portable Win32 data}
1877 \index[general]{bextract handles Win32 non-portable data}
1878 {\bf bextract} has been enhanced to be able to restore
1879 non-portable Win32 data to any OS.  Previous versions were 
1880 unable to restore non-portable Win32 data to machines that
1881 did not have the Win32 BackupRead and BackupWrite API calls.
1882
1883 \section{State File updated at Job Termination}
1884 \index[general]{State File}
1885 In previous versions of Bacula, the state file, which provides a
1886 summary of previous jobs run in the {\bf status} command output was
1887 updated only when Bacula terminated, thus if the daemon crashed, the
1888 state file might not contain all the run data.  This version of
1889 the Bacula daemons updates the state file on each job termination.
1890
1891 \section{MaxFullInterval = \lt{}time-interval\gt{}}
1892 \index[general]{MaxFullInterval}
1893 The new Job resource directive {\bf Max Full Interval = \lt{}time-interval\gt{}}
1894 can be used to specify the maximum time interval between {\bf Full} backup
1895 jobs. When a job starts, if the time since the last Full backup is
1896 greater than the specified interval, and the job would normally be an
1897 {\bf Incremental} or {\bf Differential}, it will be automatically
1898 upgraded to a {\bf Full} backup.
1899
1900 \section{MaxDiffInterval = \lt{}time-interval\gt{}}
1901 \index[general]{MaxDiffInterval}
1902 The new Job resource directive {\bf Max Diff Interval = \lt{}time-interval\gt{}}
1903 can be used to specify the maximum time interval between {\bf Differential} backup
1904 jobs. When a job starts, if the time since the last Differential backup is
1905 greater than the specified interval, and the job would normally be an
1906 {\bf Incremental}, it will be automatically
1907 upgraded to a {\bf Differential} backup.
1908
1909 \section{Honor No Dump Flag = \lt{}yes\vb{}no\gt{}}
1910 \index[general]{MaxDiffInterval}
1911 On FreeBSD systems, each file has a {\bf no dump flag} that can be set
1912 by the user, and when it is set it is an indication to backup programs
1913 to not backup that particular file.  This version of Bacula contains a
1914 new Options directive within a FileSet resource, which instructs Bacula to
1915 obey this flag.  The new directive is:
1916
1917 \begin{verbatim}
1918   Honor No Dump Flag = yes\vb{}no
1919 \end{verbatim}
1920
1921 The default value is {\bf no}.
1922
1923
1924 \section{Exclude Dir Containing = \lt{}filename-string\gt{}}
1925 \index[general]{IgnoreDir}
1926 The {\bf ExcludeDirContaining = \lt{}filename\gt{}} is a new directive that
1927 can be added to the Include section of the FileSet resource.  If the specified
1928 filename ({\bf filename-string}) is found on the Client in any directory to be
1929 backed up, the whole directory will be ignored (not backed up).  For example:
1930
1931 \begin{verbatim}
1932   # List of files to be backed up
1933   FileSet {
1934     Name = "MyFileSet"
1935     Include {
1936       Options {
1937         signature = MD5
1938       }
1939       File = /home
1940       Exclude Dir Containing = .excludeme
1941     }
1942   }
1943 \end{verbatim}
1944
1945 But in /home, there may be hundreds of directories of users and some
1946 people want to indicate that they don't want to have certain
1947 directories backed up. For example, with the above FileSet, if
1948 the user or sysadmin creates a file named {\bf .excludeme} in 
1949 specific directories, such as
1950
1951 \begin{verbatim}
1952    /home/user/www/cache/.excludeme
1953    /home/user/temp/.excludeme
1954 \end{verbatim}
1955
1956 then Bacula will not backup the two directories named:
1957
1958 \begin{verbatim}
1959    /home/user/www/cache
1960    /home/user/temp
1961 \end{verbatim}
1962
1963 NOTE: subdirectories will not be backed up.  That is, the directive
1964 applies to the two directories in question and any children (be they
1965 files, directories, etc).
1966
1967
1968 \section{Bacula Plugins}
1969 \index[general]{Plugin}
1970 Support for shared object plugins has been implemented in the Linux, Unix
1971 and Win32 File daemons. The API will be documented separately in
1972 the Developer's Guide or in a new document.  For the moment, there is
1973 a single plugin named {\bf bpipe} that allows an external program to
1974 get control to backup and restore a file.
1975
1976 Plugins are also planned (partially implemented) in the Director and the
1977 Storage daemon.  
1978
1979 \subsection{Plugin Directory}
1980 \index[general]{Plugin Directory}
1981 Each daemon (DIR, FD, SD) has a new {\bf Plugin Directory} directive that may
1982 be added to the daemon definition resource. The directory takes a quoted 
1983 string argument, which is the name of the directory in which the daemon can
1984 find the Bacula plugins. If this directive is not specified, Bacula will not
1985 load any plugins. Since each plugin has a distinctive name, all the daemons
1986 can share the same plugin directory. 
1987
1988 \subsection{Plugin Options}
1989 \index[general]{Plugin Options}
1990 The {\bf Plugin Options} directive takes a quoted string
1991 arguement (after the equal sign) and may be specified in the
1992 Job resource.  The options specified will be passed to all plugins
1993 when they are run.  This each plugin must know what it is looking
1994 for. The value defined in the Job resource can be modified
1995 by the user when he runs a Job via the {\bf bconsole} command line 
1996 prompts.
1997
1998 Note: this directive may be specified, and there is code to modify
1999 the string in the run command, but the plugin options are not yet passed to
2000 the plugin (i.e. not fully implemented).
2001
2002 \subsection{Plugin Options ACL}
2003 \index[general]{Plugin Options ACL}
2004 The {\bf Plugin Options ACL} directive may be specified in the
2005 Director's Console resource. It functions as all the other ACL commands
2006 do by permitting users running restricted consoles to specify a 
2007 {\bf Plugin Options} that overrides the one specified in the Job
2008 definition. Without this directive restricted consoles may not modify
2009 the Plugin Options.
2010
2011 \subsection{Plugin = \lt{}plugin-command-string\gt{}}
2012 \index[general]{Plugin}
2013 The {\bf Plugin} directive is specified in the Include section of
2014 a FileSet resource where you put your {\bf File = xxx} directives.
2015 For example:
2016
2017 \begin{verbatim}
2018   FileSet {
2019     Name = "MyFileSet"
2020     Include {
2021       Options {
2022         signature = MD5
2023       }
2024       File = /home
2025       Plugin = "bpipe:..."
2026     }
2027   }
2028 \end{verbatim}
2029
2030 In the above example, when the File daemon is processing the directives
2031 in the Include section, it will first backup all the files in {\bf /home}
2032 then it will load the plugin named {\bf bpipe} (actually bpipe-dir.so) from
2033 the Plugin Directory.  The syntax and semantics of the Plugin directive
2034 require the first part of the string up to the colon (:) to be the name
2035 of the plugin. Everything after the first colon is ignored by the File daemon but
2036 is passed to the plugin. Thus the plugin writer may define the meaning of the
2037 rest of the string as he wishes.
2038
2039 Please see the next section for information about the {\bf bpipe} Bacula
2040 plugin.
2041
2042 \section{The bpipe Plugin}
2043 \index[general]{The bpipe Plugin}
2044 The {\bf bpipe} plugin is provided in the directory src/plugins/fd/bpipe-fd.c of
2045 the Bacula source distribution. When the plugin is compiled and linking into
2046 the resulting dynamic shared object (DSO), it will have the name {\bf bpipe-fd.so}.
2047 Please note that this is a very simple plugin that was written for
2048 demonstration and test purposes. It is and can be used in production, but
2049 that was never really intended.
2050
2051 The purpose of the plugin is to provide an interface to any system program for
2052 backup and restore. As specified above the {\bf bpipe} plugin is specified in
2053 the Include section of your Job's FileSet resource.  The full syntax of the
2054 plugin directive as interpreted by the {\bf bpipe} plugin (each plugin is free
2055 to specify the sytax as it wishes) is:
2056
2057 \begin{verbatim}
2058   Plugin = "<field1>:<field2>:<field3>:<field4>"
2059 \end{verbatim}
2060
2061 where
2062 \begin{description}
2063 \item {\bf field1} is the name of the plugin with the trailing {\bf -fd.so}
2064 stripped off, so in this case, we would put {\bf bpipe} in this field.
2065
2066 \item {\bf field2} specifies the namespace, which for {\bf bpipe} is the
2067 pseudo path and filename under which the backup will be saved. This pseudo
2068 path and filename will be seen by the user in the restore file tree.
2069 For example, if the value is {\bf /MYSQL/regress.sql}, the data
2070 backed up by the plugin will be put under that "pseudo" path and filename.
2071 You must be careful to choose a naming convention that is unique to avoid
2072 a conflict with a path and filename that actually exists on your system.
2073
2074 \item {\bf field3} for the {\bf bpipe} plugin 
2075 specifies the "reader" program that is called by the plugin during
2076 backup to read the data. {\bf bpipe} will call this program by doing a
2077 {\bf popen} on it. 
2078
2079 \item {\bf field4} for the {\bf bpipe} plugin
2080 specifies the "writer" program that is called by the plugin during
2081 restore to write the data back to the filesystem.  
2082 \end{description}
2083
2084 Please note that for two items above describing the "reader" and "writer"
2085 fields, these programs are "executed" by Bacula, which
2086 means there is no shell interpretation of any command line arguments
2087 you might use.  If you want to use shell characters (redirection of input
2088 or output, ...), then we recommend that you put your command or commands
2089 in a shell script and execute the script. In addition if you backup a
2090 file with the reader program, when running the writer program during
2091 the restore, Bacula will not automatically create the path to the file.
2092 Either the path must exist, or you must explicitly do so with your command
2093 or in a shell script.
2094
2095 Putting it all together, the full plugin directive line might look
2096 like the following:
2097
2098 \begin{verbatim}
2099 Plugin = "bpipe:/MYSQL/regress.sql:mysqldump -f 
2100           --opt --databases bacula:mysql"
2101 \end{verbatim}
2102
2103 The directive has been split into two lines, but within the {\bf bacula-dir.conf} file
2104 would be written on a single line.
2105
2106 This causes the File daemon to call the {\bf bpipe} plugin, which will write
2107 its data into the "pseudo" file {\bf /MYSQL/regress.sql} by calling the 
2108 program {\bf mysqldump -f --opt --database bacula} to read the data during
2109 backup. The mysqldump command outputs all the data for the database named
2110 {\bf bacula}, which will be read by the plugin and stored in the backup.
2111 During restore, the data that was backed up will be sent to the program
2112 specified in the last field, which in this case is {\bf mysql}.  When
2113 {\bf mysql} is called, it will read the data sent to it by the plugn
2114 then write it back to the same database from which it came ({\bf bacula}
2115 in this case).
2116
2117 The {\bf bpipe} plugin is a generic pipe program, that simply transmits 
2118 the data from a specified program to Bacula for backup, and then from Bacula to 
2119 a specified program for restore.
2120
2121 By using different command lines to {\bf bpipe},
2122 you can backup any kind of data (ASCII or binary) depending
2123 on the program called.
2124
2125 \section{Microsoft Exchange Server 2003/2007 Plugin}
2126 \index[general]{Microsoft Exchange Server 2003/2007 Plugin}
2127 \subsection{Background}
2128 The Exchange plugin was made possible by a funded development project
2129 between Equiinet Ltd -- www.equiinet.com (many thanks) and Bacula Systems.
2130 The code for the plugin was written by James Harper, and the Bacula core
2131 code by Kern Sibbald.  All the code for this funded development has become
2132 part of the Bacula project.  Thanks to everyone who made it happen.
2133
2134 \subsection{Concepts}
2135 Although it is possible to backup Exchange using Bacula VSS the Exchange 
2136 plugin adds a good deal of functionality, because while Bacula VSS
2137 completes a full backup (snapshot) of Exchange, it does
2138 not support Incremental or Differential backups, restoring is more
2139 complicated, and a single database restore is not possible.
2140
2141 Microsoft Exchange organises its storage into Storage Groups with
2142 Databases inside them. A default installation of Exchange will have a
2143 single Storage Group called 'First Storage Group', with two Databases
2144 inside it, "Mailbox Store (SERVER NAME)" and 
2145 "Public Folder Store (SERVER NAME)", 
2146 which hold user email and public folders respectively.
2147
2148 In the default configuration, Exchange logs everything that happens to
2149 log files, such that if you have a backup, and all the log files since,
2150 you can restore to the present time. Each Storage Group has its own set
2151 of log files and operates independently of any other Storage Groups. At
2152 the Storage Group level, the logging can be turned off by enabling a
2153 function called "Enable circular logging". At this time the Exchange
2154 plugin will not function if this option is enabled.
2155
2156 The plugin allows backing up of entire storage groups, and the restoring
2157 of entire storage groups or individual databases. Backing up and
2158 restoring at the individual mailbox or email item is not supported but
2159 can be simulated by use of the "Recovery" Storage Group (see below).
2160
2161 \subsection{Installing}
2162 The Exchange plugin requires a DLL that is shipped with Microsoft
2163 Exchanger Server called {\bf esebcli2.dll}. Assuming Exchange is installed
2164 correctly the Exchange plugin should find this automatically and run
2165 without any additional installation.
2166
2167 If the DLL can not be found automatically it will need to be copied into
2168 the Bacula installation
2169 directory (eg C:\verb+\+Program Files\verb+\+Bacula\verb+\+bin). The Exchange API DLL is
2170 named esebcli2.dll and is found in C:\verb+\+Program Files\verb+\+Exchsrvr\verb+\+bin on a
2171 default Exchange installation.
2172
2173 \subsection{Backing Up}
2174 To back up an Exchange server the Fileset definition must contain at
2175 least {\bf Plugin = "exchange:/@EXCHANGE/Microsoft Information Store"} for
2176 the backup to work correctly. The 'exchange:' bit tells Bacula to look
2177 for the exchange plugin, the '@EXCHANGE' bit makes sure all the backed
2178 up files are prefixed with something that isn't going to share a name
2179 with something outside the plugin, and the 'Microsoft Information Store'
2180 bit is required also. It is also possible to add the name of a storage
2181 group to the "Plugin =" line, eg \\
2182 {\bf Plugin = "exchange:/@EXCHANGE/Microsoft Information Store/First Storage Group"} \\
2183 if you want only a single storage group backed up.
2184
2185 Additionally, you can suffix the 'Plugin =' directive with
2186 ":notrunconfull" which will tell the plugin not to truncate the Exchange
2187 database at the end of a full backup.
2188
2189 An Incremental or Differential backup will backup only the database logs
2190 for each Storage Group by inspecting the "modified date" on each
2191 physical log file. Because of the way the Exchange API works, the last
2192 logfile backed up on each backup will always be backed up by the next
2193 Incremental or Differential backup too. This adds 5MB to each
2194 Incremental or Differential backup size but otherwise does not cause any
2195 problems.
2196
2197 By default, a normal VSS fileset containing all the drive letters will
2198 also back up the Exchange databases using VSS. This will interfere with
2199 the plugin and Exchange's shared ideas of when the last full backup was
2200 done, and may also truncate log files incorrectly. It is important,
2201 therefore, that the Exchange database files be excluded from the backup,
2202 although the folders the files are in should be included, or they will
2203 have to be recreated manually if a baremetal restore is done.
2204
2205 \begin{verbatim}
2206 FileSet {
2207    Include {
2208       File = C:/Program Files/Exchsrvr/mdbdata
2209       Plugin = "exchange:..."
2210    }
2211    Exclude {
2212       File = C:/Program Files/Exchsrvr/mdbdata/E00.chk
2213       File = C:/Program Files/Exchsrvr/mdbdata/E00.log
2214       File = C:/Program Files/Exchsrvr/mdbdata/E000000F.log
2215       File = C:/Program Files/Exchsrvr/mdbdata/E0000010.log
2216       File = C:/Program Files/Exchsrvr/mdbdata/E0000011.log
2217       File = C:/Program Files/Exchsrvr/mdbdata/E00tmp.log
2218       File = C:/Program Files/Exchsrvr/mdbdata/priv1.edb
2219    }
2220 }
2221 \end{verbatim}
2222
2223 The advantage of excluding the above files is that you can significantly
2224 reduce the size of your backup since all the important Exchange files
2225 will be properly saved by the Plugin.
2226
2227
2228 \subsection{Restoring}
2229 The restore operation is much the same as a normal Bacula restore, with
2230 the following provisos:
2231
2232 \begin{itemize}
2233 \item  The {\bf Where} restore option must not be specified
2234 \item Each Database directory must be marked as a whole. You cannot just
2235      select (say) the .edb file and not the others.
2236 \item If a Storage Group is restored, the directory of the Storage Group
2237      must be marked too.
2238 \item  It is possible to restore only a subset of the available log files,
2239      but they {\bf must} be contiguous. Exchange will fail to restore correctly
2240      if a log file is missing from the sequence of log files
2241 \item Each database to be restored must be dismounted and marked as "Can be
2242     overwritten by restore"
2243 \item If an entire Storage Group is to be restored (eg all databases and
2244    logs in the Storage Group), then it is best to manually delete the
2245    database files from the server (eg C:\verb+\+Program Files\verb+\+Exchsrvr\verb+\+mdbdata\verb+\+*)
2246    as Exchange can get confused by stray log files lying around.
2247 \end{itemize}
2248
2249 \subsection{Restoring to the Recovery Storage Group}
2250 The concept of the Recovery Storage Group is well documented by
2251 Microsoft 
2252 \elink{http://support.microsoft.com/kb/824126}{http://support.microsoft.com/kb/824126}, 
2253 but to briefly summarize...
2254
2255 Microsoft Exchange allows the creation of an additional Storage Group
2256 called the Recovery Storage Group, which is used to restore an older
2257 copy of a database (e.g. before a mailbox was deleted) into without
2258 messing with the current live data. This is required as the Standard and
2259 Small Business Server versions of Exchange can not ordinarily have more
2260 than one Storage Group.
2261
2262 To create the Recovery Storage Group, drill down to the Server in Exchange
2263 System Manager, right click, and select
2264 {\bf "New -> Recovery Storage Group..."}.  Accept or change the file
2265 locations and click OK. On the Recovery Storage Group, right click and
2266 select {\bf "Add Database to Recover..."} and select the database you will
2267 be restoring.
2268
2269 Restore only the single database nominated as the database in the
2270 Recovery Storage Group. Exchange will redirect the restore to the
2271 Recovery Storage Group automatically.
2272 Then run the restore.
2273
2274 \subsection{Restoring on Microsoft Server 2007}
2275 Apparently the {\bf Exmerge} program no longer exists in Microsoft Server
2276 2007, and henc you use a new proceedure for recovering a single mail box.
2277 This procedure is ducomented by Microsoft at:
2278 \elink{http://technet.microsoft.com/en-us/library/aa997694.aspx}{http://technet.microsoft.com/en-us/library/aa997694.aspx},
2279 and involves using the {\bf Restore-Mailbox} and {\bf
2280 Get-MailboxStatistics} shell commands.
2281
2282 \subsection{Caveats}
2283 This plugin is still being developed, so you should consider it
2284 currently in BETA test, and thus use in a production environment
2285 should be done only after very careful testing.
2286
2287 When doing a full backup, the Exchange database logs are truncated by
2288 Exchange as soon as the plugin has completed the backup. If the data
2289 never makes it to the backup medium (eg because of spooling) then the
2290 logs will still be truncated, but they will also not have been backed
2291 up. A solution to this is being worked on. You will have to schedule a
2292 new Full backup to ensure that your next backups will be usable.
2293
2294 The "Enable Circular Logging" option cannot be enabled or the plugin
2295 will fail.
2296
2297 Exchange insists that a successful Full backup must have taken place if
2298 an Incremental or Differential backup is desired, and the plugin will
2299 fail if this is not the case. If a restore is done, Exchange will
2300 require that a Full backup be done before an Incremental or Differential
2301 backup is done.
2302
2303 The plugin will most likely not work well if another backup application
2304 (eg NTBACKUP) is backing up the Exchange database, especially if the
2305 other backup application is truncating the log files.
2306
2307 The Exchange plugin has not been tested with the {\bf Accurate} option, so
2308 we recommend either carefully testing or that you avoid this option for
2309 the current time.
2310
2311 The Exchange plugin is not called during processing the bconsole {\bf
2312 estimate} command, and so anything that would be backed up by the plugin
2313 will not be added to the estimate total that is displayed.
2314
2315
2316 \section{libdbi Framework}
2317 \index[general]{libdbi Framework}
2318 As a general guideline, Bacula has support for a few catalog database drivers
2319 (MySQL, PostgreSQL, SQLite)
2320 coded natively by the Bacula team.  With the libdbi implementation, which is a
2321 Bacula driver that uses libdbi to access the catalog, we have an open field to
2322 use many different kinds database engines following the needs of users.
2323
2324 The according to libdbi (http://libdbi.sourceforge.net/) project: libdbi
2325 implements a database-independent abstraction layer in C, similar to the
2326 DBI/DBD layer in Perl. Writing one generic set of code, programmers can
2327 leverage the power of multiple databases and multiple simultaneous database
2328 connections by using this framework.
2329
2330 Currently the libdbi driver in Bacula project only supports the same drivers
2331 natively coded in Bacula.  However the libdbi project has support for many
2332 others database engines. You can view the list at
2333 http://libdbi-drivers.sourceforge.net/. In the future all those drivers can be
2334 supported by Bacula, however, they must be tested properly by the Bacula team.
2335
2336 Some of benefits of using libdbi are:
2337 \begin{itemize}
2338 \item The possibility to use proprietary databases engines in which your
2339   proprietary licenses prevent the Bacula team from developing the driver.
2340  \item The possibility to use the drivers written for the libdbi project.
2341  \item The possibility to use other database engines without recompiling Bacula
2342    to use them.  Just change one line in bacula-dir.conf
2343  \item Abstract Database access, this is, unique point to code and profiling
2344    catalog database access.
2345  \end{itemize}
2346  
2347  The following drivers have been tested:
2348  \begin{itemize}
2349  \item PostgreSQL, with and without batch insert
2350  \item Mysql, with and without batch insert
2351  \item SQLite
2352  \item SQLite3
2353  \end{itemize}
2354
2355  In the future, we will test and approve to use others databases engines
2356  (proprietary or not) like DB2, Oracle, Microsoft SQL.
2357
2358  To compile Bacula to support libdbi we need to configure the code with the
2359  --with-dbi and --with-dbi-driver=[database] ./configure options, where
2360  [database] is the database engine to be used with Bacula (of course we can
2361  change the driver in file bacula-dir.conf, see below).  We must configure the
2362  access port of the database engine with the option --with-db-port, because the
2363  libdbi framework doesn't know the default access port of each database.
2364
2365 The next phase is checking (or configuring) the bacula-dir.conf, example:
2366 \begin{verbatim}
2367 Catalog {
2368   Name = MyCatalog
2369   dbdriver = dbi:mysql; dbaddress = 127.0.0.1; dbport = 3306
2370   dbname = regress; user = regress; password = ""
2371 }
2372 \end{verbatim}
2373
2374 The parameter {\bf dbdriver} indicates that we will use the driver dbi with a
2375 mysql database.  Currently the drivers supported by Bacula are: postgresql,
2376 mysql, sqlite, sqlite3; these are the names that may be added to string "dbi:".
2377
2378 The following limitations apply when Bacula is set to use the libdbi framework:
2379  - Not tested on the Win32 platform
2380  - A little performance is lost if comparing with native database driver. 
2381    The reason is bound with the database driver provided by libdbi and the 
2382    simple fact that one more layer of code was added.
2383
2384 It is important to remember, when compiling Bacula with libdbi, the
2385 following packages are needed:
2386  \begin{itemize}
2387   \item libdbi version 1.0.0, http://libdbi.sourceforge.net/
2388   \item libdbi-drivers 1.0.0, http://libdbi-drivers.sourceforge.net/
2389  \end{itemize}
2390  
2391  You can download them and compile them on your system or install the packages
2392  from your OS distribution.
2393
2394 \section{Console Command Additions and Enhancements}
2395 \index[general]{Console Additions}                                 
2396
2397 \subsection{Display Autochanger Content}
2398 \index[general]{StatusSlots}
2399
2400 The {\bf status slots storage=\lt{}storage-name\gt{}} command displays
2401 autochanger content.
2402
2403 \footnotesize
2404 \begin{verbatim}
2405  Slot |  Volume Name  |  Status  |  Media Type       |   Pool     |
2406 ------+---------------+----------+-------------------+------------|
2407     1 |         00001 |   Append |  DiskChangerMedia |    Default |
2408     2 |         00002 |   Append |  DiskChangerMedia |    Default |
2409     3*|         00003 |   Append |  DiskChangerMedia |    Scratch |
2410     4 |               |          |                   |            |
2411 \end{verbatim}
2412 \normalsize
2413
2414 If you an asterisk ({\bf *}) appears after the slot number, you must run an
2415 {\bf update slots} command to synchronize autochanger content with your
2416 catalog.
2417
2418 \subsection{list joblog job=xxx or jobid=nnn}
2419 \index[general]{list joblog}
2420 A new list command has been added that allows you to list the contents
2421 of the Job Log stored in the catalog for either a Job Name (fully qualified)
2422 or for a particular JobId.  The {\bf llist} command will include a line with
2423 the time and date of the entry.
2424
2425 Note for the catalog to have Job Log entries, you must have a directive 
2426 such as:
2427
2428 \begin{verbatim}
2429   catalog = all
2430 \end{verbatim}
2431
2432 In your Director's {\bf Messages} resource.
2433
2434 \subsection{Use separator for multiple commands}
2435 \index[general]{Command Separator}
2436   When using bconsole with readline, you can set the command separator with 
2437   \textbf{@separator} command to one
2438   of those characters to write commands who require multiple input in one line.
2439 \begin{verbatim}
2440   !$%&'()*+,-/:;<>?[]^`{|}~
2441 \end{verbatim}
2442
2443 \subsection{Deleting Volumes}
2444 The delete volume bconsole command has been modified to
2445 require an asterisk (*) in front of a MediaId otherwise the
2446 value you enter is a taken to be a Volume name. This is so that
2447 users may delete numeric Volume names. The previous Bacula versions
2448 assumed that all input that started with a number was a MediaId.
2449
2450 This new behavior is indicated in the prompt if you read it
2451 carefully.
2452
2453 \section{Bare Metal Recovery}
2454 The old bare metal recovery project is essentially dead. One
2455 of the main features of it was that it would build a recovery
2456 CD based on the kernel on your system. The problem was that
2457 every distribution has a different boot procedure and different 
2458 scripts, and worse yet, the boot procedures and scripts change
2459 from one distribution to another.  This meant that maintaining
2460 (keeping up with the changes) the rescue CD was too much work.
2461
2462 To replace it, a new bare metal recovery USB boot stick has been developed
2463 by Bacula Systems.  This technology involves remastering a Ubuntu LiveCD to
2464 boot from a USB key.  
2465
2466 Advantages: 
2467 \begin{enumerate} 
2468 \item Recovery can be done from within graphical environment.  
2469 \item Recovery can be done in a shell.  
2470 \item Ubuntu boots on a large number of Linux systems.  
2471 \item The process of updating the system and adding new
2472    packages is not too difficult. 
2473 \item The USB key can easily be upgraded to newer Ubuntu versions.
2474 \item The USB key has writable partitions for modifications to
2475    the OS and for modification to your home directory.
2476 \item You can add new files/directories to the USB key very easily.
2477 \item You can save the environment from multiple machines on
2478    one USB key.
2479 \item Bacula Systems is funding its ongoing development.
2480 \end{enumerate}
2481
2482 The disadvantages are:
2483 \begin{enumerate}
2484 \item The USB key is usable but currently under development.
2485 \item Not everyone may be familiar with Ubuntu (no worse
2486   than using Knoppix)
2487 \item Some older OSes cannot be booted from USB. This can
2488    be resolved by first booting a Ubuntu LiveCD then plugging
2489    in the USB key.
2490 \item Currently the documentation is sketchy and not yet added
2491    to the main manual. See below ...
2492 \end{enumerate}
2493
2494 The documentation and the code can be found in the {\bf rescue} package
2495 in the directory {\bf linux/usb}.
2496
2497 \section{Miscellaneous}
2498 \index[general]{Misc New Features}
2499
2500 \subsection{Allow Mixed Priority = \lt{}yes\vb{}no\gt{}}
2501 \index[general]{Allow Mixed Priority}
2502    This directive is only implemented in version 2.5 and later.  When
2503    set to {\bf yes} (default {\bf no}), this job may run even if lower
2504    priority jobs are already running.  This means a high priority job
2505    will not have to wait for other jobs to finish before starting.
2506    The scheduler will only mix priorities when all running jobs have
2507    this set to true.
2508
2509    Note that only higher priority jobs will start early.  Suppose the
2510    director will allow two concurrent jobs, and that two jobs with
2511    priority 10 are running, with two more in the queue.  If a job with
2512    priority 5 is added to the queue, it will be run as soon as one of
2513    the running jobs finishes.  However, new priority 10 jobs will not
2514    be run until the priority 5 job has finished.
2515
2516 \subsection{Bootstrap File Directive -- FileRegex}
2517 \index[general]{Bootstrap File Directive}
2518   {\bf FileRegex} is a new command that can be added to the bootstrap
2519   (.bsr) file.  The value is a regular expression.  When specified, only
2520   matching filenames will be restored.
2521
2522   During a restore, if all File records are pruned from the catalog
2523   for a Job, normally Bacula can restore only all files saved. That
2524   is there is no way using the catalog to select individual files.
2525   With this new feature, Bacula will ask if you want to specify a Regex
2526   expression for extracting only a part of the full backup.
2527
2528 \begin{verbatim}
2529   Building directory tree for JobId(s) 1,3 ...
2530   There were no files inserted into the tree, so file selection
2531   is not possible.Most likely your retention policy pruned the files
2532   
2533   Do you want to restore all the files? (yes\vb{}no): no
2534   
2535   Regexp matching files to restore? (empty to abort): /tmp/regress/(bin|tests)/
2536   Bootstrap records written to /tmp/regress/working/zog4-dir.restore.1.bsr
2537 \end{verbatim}
2538
2539 \subsection{Bootstrap File Optimization Changes}
2540 In order to permit proper seeking on disk files, we have extended the bootstrap
2541 file format to include a {\bf VolStartAddr} and {\bf VolEndAddr} records. Each
2542 takes a 64 bit unsigned integer range (i.e. nnn-mmm) which defines the start
2543 address range and end address range respectively.  These two directives replace
2544 the {\bf VolStartFile}, {\bf VolEndFile}, {\bf VolStartBlock} and {\bf
2545   VolEndBlock} directives.  Bootstrap files containing the old directives will
2546 still work, but will not properly take advantage of proper disk seeking, and
2547 may read completely to the end of a disk volume during a restore.  With the new
2548 format (automatically generated by the new Director), restores will seek
2549 properly and stop reading the volume when all the files have been restored.
2550
2551 \subsection{Solaris ZFS/NFSv4 ACLs}
2552 This is an upgrade of the previous Solaris ACL backup code
2553 to the new library format, which will backup both the old
2554 POSIX(UFS) ACLs as well as the ZFS ACLs.
2555
2556 The new code can also restore POSIX(UFS) ACLs to a ZFS filesystem
2557 (it will translate the POSIX(UFS)) ACL into a ZFS/NFSv4 one) it can also
2558 be used to transfer from UFS to ZFS filesystems.
2559
2560
2561 \subsection{Virtual Tape Emulation}
2562 \index[general]{Virtual Tape Emulation}
2563 We now have a Virtual Tape emulator that allows us to run though 99.9\% of
2564 the tape code but actually reading and writing to a disk file. Used with the
2565 \textbf{disk-changer} script, you can now emulate an autochanger with 10 drives
2566 and 700 slots. This feature is most useful in testing.  It is enabled
2567 by using {\bf Device Type = vtape} in the Storage daemon's Device
2568 directive. This feature is only implemented on Linux machines and should not be
2569 used for production.
2570
2571 \subsection{Bat Enhancements}
2572 \index[general]{Bat Enhancements}
2573 Bat (the Bacula Administration Tool) GUI program has been significantly
2574 enhanced and stabilized. In particular, there are new table based status 
2575 commands; it can now be easily localized using Qt4 Linguist.
2576
2577 The Bat communications protocol has been significantly enhanced to improve
2578 GUI handling. Note, you {\bf must} use a the bat that is distributed with
2579 the Director you are using otherwise the communications protocol will not
2580 work.
2581
2582 \subsection{RunScript Enhancements}
2583 \index[general]{RunScript Enhancements}
2584 The {\bf RunScript} resource has been enhanced to permit multiple
2585 commands per RunScript.  Simply specify multiple {\bf Command} directives
2586 in your RunScript.
2587
2588 \begin{verbatim}
2589 Job {
2590   Name = aJob
2591   RunScript {
2592     Command = "/bin/echo test"
2593     Command = "/bin/echo an other test"
2594     Command = "/bin/echo 3 commands in the same runscript"
2595     RunsWhen = Before
2596   }
2597  ...
2598 }
2599 \end{verbatim}
2600
2601 A new Client RunScript {\bf RunsWhen} keyword of {\bf AfterVSS} has been
2602 implemented, which runs the command after the Volume Shadow Copy has been made.
2603
2604 Console commands can be specified within a RunScript by using:
2605 {\bf Console = \lt{}command\gt{}}, however, this command has not been 
2606 carefully tested and debugged and is known to easily crash the Director.
2607 We would appreciate feedback.  Due to the recursive nature of this command, we
2608 may remove it before the final release.
2609
2610 \subsection{Status Enhancements}
2611 \index[general]{Status Enhancements}
2612 The bconsole {\bf status dir} output has been enhanced to indicate
2613 Storage daemon job spooling and despooling activity.
2614
2615 \subsection{Connect Timeout}
2616 \index[general]{Connect Timeout}
2617 The default connect timeout to the File
2618 daemon has been set to 3 minutes. Previously it was 30 minutes.
2619
2620 \subsection{ftruncate for NFS Volumes}
2621 \index[general]{ftruncate for NFS Volumes}
2622 If you write to a Volume mounted by NFS (say on a local file server),
2623 in previous Bacula versions, when the Volume was recycled, it was not
2624 properly truncated because NFS does not implement ftruncate (file 
2625 truncate). This is now corrected in the new version because we have
2626 written code (actually a kind user) that deletes and recreates the Volume,
2627 thus accomplishing the same thing as a truncate.
2628
2629 \subsection{Support for Ubuntu}
2630 The new version of Bacula now recognizes the Ubuntu (and Kubuntu)
2631 version of Linux, and thus now provides correct autostart routines.
2632 Since Ubuntu officially supports Bacula, you can also obtain any
2633 recent release of Bacula from the Ubuntu repositories.
2634
2635 \subsection{Recycle Pool = \lt{}pool-name\gt{}}
2636 \index[general]{Recycle Pool}
2637 The new \textbf{RecyclePool} directive defines to which pool the Volume will
2638 be placed (moved) when it is recycled. Without this directive, a Volume will
2639 remain in the same pool when it is recycled. With this directive, it can be
2640 moved automatically to any existing pool during a recycle. This directive is
2641 probably most useful when defined in the Scratch pool, so that volumes will
2642 be recycled back into the Scratch pool.
2643
2644 \subsection{FD Version}
2645 \index[general]{FD Version}
2646 The File daemon to Director protocol now includes a version 
2647 number, which although there is no visible change for users, 
2648 will help us in future versions automatically determine
2649 if a File daemon is not compatible.
2650
2651 \subsection{Max Run Sched Time = \lt{}time-period-in-seconds\gt{}}
2652 \index[general]{Max Run Sched Time}
2653 The time specifies the maximum allowed time that a job may run, counted from
2654 when the job was scheduled. This can be useful to prevent jobs from running
2655 during working hours. We can see it like \texttt{Max Start Delay + Max Run
2656   Time}.
2657
2658 \subsection{Max Wait Time = \lt{}time-period-in-seconds\gt{}}
2659 \index[general]{Max Wait Time}
2660 Previous \textbf{MaxWaitTime} directives aren't working as expected, instead
2661 of checking the maximum allowed time that a job may block for a resource,
2662 those directives worked like \textbf{MaxRunTime}. Some users are reporting to
2663 use \textbf{Incr/Diff/Full Max Wait Time} to control the maximum run time of
2664 their job depending on the level. Now, they have to use
2665 \textbf{Incr/Diff/Full Max Run Time}.  \textbf{Incr/Diff/Full Max Wait Time}
2666 directives are now deprecated.
2667
2668 \subsection{Incremental|Differential Max Wait Time = \lt{}time-period-in-seconds\gt{}} 
2669 \index[general]{Incremental Max Wait Time}
2670 \index[general]{Differential Max Wait Time}
2671
2672 These directives have been deprecated in favor of
2673 \texttt{Incremental|Differential Max Run Time}.
2674
2675 \subsection{Max Run Time directives}
2676 \index[general]{Max Run Time directives}
2677 Using \textbf{Full/Diff/Incr Max Run Time}, it's now possible to specify the
2678 maximum allowed time that a job can run depending on the level.
2679
2680 \addcontentsline{lof}{figure}{Job time control directives}
2681 \includegraphics{\idir different_time.eps}
2682
2683 \subsection{Statistics Enhancements}
2684 \index[general]{Statistics Enhancements}
2685 If you (or probably your boss) want to have statistics on your backups to
2686 provide some \textit{Service Level Agreement} indicators, you could use a few
2687 SQL queries on the Job table to report how many:
2688
2689 \begin{itemize}
2690 \item jobs have run
2691 \item jobs have been successful
2692 \item files have been backed up
2693 \item ...
2694 \end{itemize}
2695
2696 However, these statistics are accurate only if your job retention is greater
2697 than your statistics period. Ie, if jobs are purged from the catalog, you won't
2698 be able to use them. 
2699
2700 Now, you can use the \textbf{update stats [days=num]} console command to fill
2701 the JobHistory table with new Job records. If you want to be sure to take in
2702 account only \textbf{good jobs}, ie if one of your important job has failed but
2703 you have fixed the problem and restarted it on time, you probably want to
2704 delete the first \textit{bad} job record and keep only the successful one. For
2705 that simply let your staff do the job, and update JobHistory table after two or
2706 three days depending on your organization using the \textbf{[days=num]} option.
2707
2708 These statistics records aren't used for restoring, but mainly for
2709 capacity planning, billings, etc.
2710
2711 The Bweb interface provides a statistics module that can use this feature. You
2712 can also use tools like Talend or extract information by yourself.
2713
2714 The \textbf{Statistics Retention = \lt{}time\gt{}} director directive defines
2715 the length of time that Bacula will keep statistics job records in the Catalog
2716 database after the Job End time. (In \texttt{JobHistory} table) When this time
2717 period expires, and if user runs \texttt{prune stats} command, Bacula will
2718 prune (remove) Job records that are older than the specified period.
2719
2720 You can use the following Job resource in your nightly \textbf{BackupCatalog}
2721 job to maintain statistics.
2722 \begin{verbatim}
2723 Job {
2724   Name = BackupCatalog
2725   ...
2726   RunScript {
2727     Console = "update stats days=3"
2728     Console = "prune stats yes"
2729     RunsWhen = After
2730     RunsOnClient = no
2731   }
2732 }
2733 \end{verbatim}
2734
2735 \subsection{ScratchPool = \lt{}pool-resource-name\gt{}}
2736 \index[general]{ScratchPool}
2737 This directive permits to specify a specific \textsl{Scratch} pool for the
2738 current pool. This is useful when using multiple storage sharing the same
2739 mediatype or when you want to dedicate volumes to a particular set of pool.
2740
2741 \subsection{Enhanced Attribute Despooling}
2742 \index[general]{Attribute Despooling}
2743 If the storage daemon and the Director are on the same machine, the spool file
2744 that contains attributes is read directly by the Director instead of being
2745 transmitted across the network. That should reduce load and speedup insertion.
2746
2747 \subsection{SpoolSize = \lt{}size-specification-in-bytes\gt{}}
2748 \index[general]{SpoolSize}
2749 A new Job directive permits to specify the spool size per job. This is used
2750 in advanced job tunning. {\bf SpoolSize={\it bytes}}
2751
2752 \subsection{MaximumConsoleConnections = \lt{}number\gt{}}
2753 \index[general]{MaximumConsoleConnections}
2754 A new director directive permits to specify the maximum number of Console
2755 Connections that could run concurrently. The default is set to 20, but you may
2756 set it to a larger number.
2757
2758 \subsection{VerId = \lt{}string\gt{}}
2759 \index[general]{VerId}
2760 A new director directive permits to specify a personnal identifier that will be
2761 displayed in the \texttt{version} command.
2762
2763 \subsection{dbcheck enhancements}
2764 \index[general]{dbcheck enhancements}
2765 If you are using Mysql, dbcheck will now ask you if you want to create
2766 temporary indexes to speed up orphaned Path and Filename elimination. 
2767
2768 A new \texttt{-B} option allows you to print catalog information in a simple
2769 text based format. This is useful to backup it in a secure way.
2770
2771 \begin{verbatim}
2772  $ dbcheck -B 
2773  catalog=MyCatalog
2774  db_type=SQLite
2775  db_name=regress
2776  db_driver=
2777  db_user=regress
2778  db_password=
2779  db_address=
2780  db_port=0
2781  db_socket=
2782 \end{verbatim} %$
2783
2784 You can now specify the database connection port in the command line.
2785
2786 \subsection{{-}{-}docdir configure option}
2787 \index[general]{{-}{-}docdir configure option}
2788 You can use {-}{-}docdir= on the ./configure command to
2789 specify the directory where you want Bacula to install the
2790 LICENSE, ReleaseNotes, ChangeLog, ... files.   The default is 
2791 {\bf /usr/share/doc/bacula}.
2792       
2793 \subsection{{-}{-}htmldir configure option}
2794 \index[general]{{-}{-}htmldir configure option}
2795 You can use {-}{-}htmldir= on the ./configure command to
2796 specify the directory where you want Bacula to install the bat html help
2797 files. The default is {\bf /usr/share/doc/bacula/html}
2798
2799 \subsection{{-}{-}with-plugindir configure option}
2800 \index[general]{{-}{-}plugindir configure option}
2801 You can use {-}{-}plugindir= on the ./configure command to
2802 specify the directory where you want Bacula to install
2803 the plugins (currently only bpipe-fd). The default is
2804 /usr/lib.