]> git.sur5r.net Git - bacula/docs/blobdiff - docs/manuals/en/concepts/newfeatures.tex
ebl Document MaxConsoleConnections
[bacula/docs] / docs / manuals / en / concepts / newfeatures.tex
index c8535c7117ce08f113bb181dbcb1275a7703f4ad..c752495085ffd0c54c09cc02610423ff24404813 100644 (file)
@@ -8,16 +8,16 @@
 This chapter presents the new features added to the development 2.5.x
 versions to be released as Bacula version 3.0.0 near the end of 2008.
 
-\section{Accurate}
+\section{Accurate Backup}
 \index[general]{Accurate Backup}
 
-As with most other backup programs, Bacula decides what files to backup for
+As with most other backup programs, by default Bacula decides what files to backup for
 Incremental and Differental backup by comparing the change (st\_ctime) and
 modification (st\_mtime) times of the file to the time the last backup
-completed.  If one of those two times is different than from last backup time,
+completed.  If one of those two times is later than the last backup time,
 then the file will be backed up.  This does not, however, permit tracking what
 files have been deleted and will miss any file with an old time that may have
-been restored or moved on the client filesystem.
+been restored to or moved onto the client filesystem.
 
 \subsection{Accurate = \lt{}yes|no\gt{}}
 If the {\bf Accurate = \lt{}yes|no\gt{}} directive is enabled (default no) in
@@ -43,7 +43,244 @@ the Job that is copied is left unchanged.  This essentially creates
 two identical copies of the same backup.  The Copy Job runs without
 using the File daemon by copying the data from the old backup Volume to
 a different Volume in a different Pool. See the Migration documentation
-for additional details.
+for additional details. For copy Jobs there is a new selection criterium
+named PoolUncopiedJobs which copies all jobs from a pool to an other
+pool which were not copied before. Next to that the client, volume, job
+or sql query are possible ways of selecting jobs which should be copied.
+Selection types like smallestvolume, oldestvolume, pooloccupancy and
+pooltime are probably more suited for migration jobs only. But we could
+imagine some people have a valid use for those kind of copy jobs too.
+
+A nice solution which can be build with the new copy jobs is what is
+called the disk-to-disk-to-tape backup (DTDTT). A sample config could
+look somethings like the one below:
+
+\begin{verbatim}
+Pool {
+  Name = FullBackupsVirtualPool
+  Pool Type = Backup
+  Purge Oldest Volume = Yes
+  Storage = vtl
+  NextPool = FullBackupsTapePool
+}
+
+Pool {
+  Name = FullBackupsTapePool
+  Pool Type = Backup
+  Recycle = Yes
+  AutoPrune = Yes
+  Volume Retention = 365 days
+  Storage = superloader
+}
+
+#
+# Fake fileset for copy jobs
+#
+Fileset {
+  Name = None
+  Include {
+    Options {
+      signature = MD5
+    }
+  }
+}
+
+#
+# Fake client for copy jobs
+#
+Client {
+  Name = None
+  Address = localhost
+  Password = "NoNe"
+  Catalog = MyCatalog
+}
+
+#
+# Default template for a CopyDiskToTape Job
+#
+JobDefs {
+  Name = CopyDiskToTape
+  Type = Copy
+  Messages = StandardCopy
+  Client = None
+  FileSet = None
+  Selection Type = PoolUncopiedJobs
+  Maximum Concurrent Jobs = 10
+  SpoolData = No
+  Allow Duplicate Jobs = Yes
+  Allow Higher Duplicates = No
+  Cancel Queued Duplicates = No
+  Cancel Running Duplicates = No
+  Priority = 13
+}
+
+Schedule {
+   Name = DaySchedule7:00
+   Run = Level=Full daily at 7:00
+}
+
+Job {
+  Name = CopyDiskToTapeFullBackups
+  Enabled = Yes
+  Schedule = DaySchedule7:00
+  Pool = FullBackupsVirtualPool
+  JobDefs = CopyDiskToTape
+}
+\end{verbatim}
+
+The example above had 2 pool which are copied using the PoolUncopiedJobs selection
+criteria. Normal Full backups go to the Virtual pool and are copied to the Tape pool
+the next morning.
+
+\section{ACL Updates}
+The whole ACL code had been overhauled and in this version each platforms has different
+streams for each type of acl available on such an platform. As acls between platforms
+tend to be not that portable (most implement POSIX acls but some use an other draft or
+a completely different format) we currently only allow certain platform specific ACL
+streams to be decoded and restored on the same platform that they were created on.
+The old code allowed to restore ACL cross platform but the comments already mention
+that not being to wise. For backward compatability the new code will accept the 2 old
+ACL streams and handle those with the platform specific handler. But for all new backups
+it will save the ACLs using the new streams.
+
+Currently the following platforms support ACLs:
+
+\begin{itemize}
+ \item {\bf AIX}
+ \item {\bf Darwin/OSX}
+ \item {\bf FreeBSD}
+ \item {\bf HPUX}
+ \item {\bf IRIX}
+ \item {\bf Linux}
+ \item {\bf Tru64}
+ \item {\bf Solaris}
+\end{itemize}
+
+Currently we support the following ACL types (these ACL streams use a reserved part
+of the stream numbers):
+
+\begin{itemize}
+ \item {\bf STREAM\_ACL\_AIX\_TEXT} 1000 AIX specific string representation from acl\_get
+ \item {\bf STREAM\_ACL\_DARWIN\_ACCESS\_ACL\_T} 1001 Darwin (OSX) specific acl\_t string
+    representation from acl\_to\_text (POSIX acl)
+ \item {\bf STREAM\_ACL\_FREEBSD\_DEFAULT\_ACL\_T} 1002 FreeBSD specific acl\_t
+    string representation from acl\_to\_text (POSIX acl) for default acls.
+ \item {\bf STREAM\_ACL\_FREEBSD\_ACCESS\_ACL\_T} 1003 FreeBSD specific acl\_t
+    string representation from acl\_to\_text (POSIX acl) for access acls.
+ \item {\bf STREAM\_ACL\_HPUX\_ACL\_ENTRY} 1004 HPUX specific acl\_entry string representation
+    from acltostr (POSIX acl)
+ \item {\bf STREAM\_ACL\_IRIX\_DEFAULT\_ACL\_T} 1005 IRIX specific acl\_t string representation
+    from acl\_to\_text (POSIX acl) for default acls.
+ \item {\bf STREAM\_ACL\_IRIX\_ACCESS\_ACL\_T} 1006 IRIX specific acl\_t string representation
+    from acl\_to\_text (POSIX acl) for access acls.
+ \item {\bf STREAM\_ACL\_LINUX\_DEFAULT\_ACL\_T} 1007 Linux specific acl\_t string representation
+    from acl\_to\_text (POSIX acl) for default acls.
+ \item {\bf STREAM\_ACL\_LINUX\_ACCESS\_ACL\_T} 1008 Linux specific acl\_t string representation
+    from acl\_to\_text (POSIX acl) for access acls.
+ \item {\bf STREAM\_ACL\_TRU64\_DEFAULT\_ACL\_T} 1009 Tru64 specific acl\_t string representation
+    from acl\_to\_text (POSIX acl) for default acls.
+ \item {\bf STREAM\_ACL\_TRU64\_DEFAULT\_DIR\_ACL\_T} 1010 Tru64 specific acl\_t string representation
+    from acl\_to\_text (POSIX acl) for default acls.
+ \item {\bf STREAM\_ACL\_TRU64\_ACCESS\_ACL\_T} 1011 Tru64 specific acl\_t string representation
+    from acl\_to\_text (POSIX acl) for access acls.
+ \item {\bf STREAM\_ACL\_SOLARIS\_ACLENT\_T} 1012 Solaris specific aclent\_t string representation
+    from acltotext or acl\_totext (POSIX acl)
+ \item {\bf STREAM\_ACL\_SOLARIS\_ACE\_T} 1013 Solaris specific ace\_t string representation from
+    from acl\_totext (NFSv4 or ZFS acl)
+\end{itemize}
+
+In future versions we might support conversion functions from one type of acl into an other
+for types that are either the same or easily convertable. For now the streams are seperate
+and restoring them on a platform that doesn't recognize them will give you a warning.
+
+\section{Extended Attributes}
+Something that was on the project list for some time is now implemented for platforms
+that support a similar kind of interface. Its the support for backup and restore of
+so called extended attributes. As extended attributes are so platform specific these
+attributes are saved in seperate streams for each platform. Restores can only be performed
+on the same platform the backup was done. There is support for all types of extended
+attributes, but restoring from one type of filesystem onto an other type of filesystem
+on the same platform may lead to supprises. As extended attributes can contain any
+type of data they are stored as a series of so called value-pairs. This data must be
+seen as mostly binary and is stored as such. As security labels from selinux are
+also extended attributes this option also stores those labels and no specific
+code is enabled for handling selinux security labels.
+
+Currently the following platforms support extended attributes:
+\begin{itemize}
+ \item {\bf Darwin/OSX}
+ \item {\bf FreeBSD}
+ \item {\bf Linux}
+ \item {\bf NetBSD}
+\end{itemize}
+
+On linux acls are also extended attributes, as such when you enable ACLs on a Linux
+platform it will NOT save the same data twice e.g. it will save the ACLs and not
+the same exteneded attribute.
+
+To enable the backup of extended attributes please add the following to your fileset
+definition.
+\begin{verbatim}
+  FileSet {
+    Name = "MyFileSet"
+    Include {
+      Options {
+        signature = MD5
+        xattrsupport = yes
+      }
+      File = ...
+    }
+  }
+\end{verbatim}
+
+\section{Shared objects}
+A default build of Bacula will now create the libraries as shared objects
+(.so) rather than static libraries as was previously the case.  
+The shared libraries are built using {\bf libtool} so it should be quite
+portable.
+
+An important advantage of using shared objects is that on a machine with the
+Directory, File daemon, the Storage daemon, and a console, you will have only one copy
+of the code in memory rather than four copies.  Also the total size of the
+binary release is smaller since the library code appears only once rather than
+once for every program that uses it; this results in significant reduction in
+the size of the binaries particularly for the utility tools.
+In order for the system loader to find the shared objects when loading
+the Bacula binaries, the Bacula shared objects must either be in a shared object
+directory known to the loader (typically /usr/lib) or they must be in the directory
+that may be specified on the {\bf ./configure} line using the
+{\bf {-}{-}libdir} option as:
+
+\begin{verbatim}
+  ./configure --libdir=/full-path/dir
+\end{verbatim}
+
+the default is /usr/lib. If {-}{-}libdir is specified, there should be
+no need to modify your loader configuration provided that
+the shared objects are installed in that directory (Bacula
+does this with the make install command). The shared objects
+that Bacula references are:
+
+\begin{verbatim}
+libbaccfg.so
+libbacfind.so
+libbacpy.so
+libbac.so
+\end{verbatim}
+
+These files are symbolically linked to the real shared object file,
+which has a version number to permit running multiple versions of
+the libraries if desired (not normally the case).
+
+If you have problems with libtool or you wish to use the old
+way of building static libraries, you can do so by disabling
+libtool on the configure command line with:
+
+\begin{verbatim}
+  ./configure --disable-libtool
+\end{verbatim}
+
 
 \section{Virtual Backup (Vbackup)}
 \index[general]{Virtual Backup}
@@ -449,6 +686,12 @@ on the program called.
 
 \subsection{Concepts}
 
+Although it is possible to backup Exchange using Bacula VSS the Exchange 
+plugin adds a good deal of functionality, because while Bacula VSS
+completes a full backup (snapshot) of Exchange, it does
+not support Incremental or Differential backups, restoring is more
+complicated, and a single database restore is not possible.
+
 Microsoft Exchange organises its storage into Storage Groups with
 Databases inside them. A default installation of Exchange will have a
 single Storage Group called 'First Storage Group', with two Databases
@@ -467,7 +710,7 @@ plugin will not function if this option is enabled.
 The plugin allows backing up of entire storage groups, and the restoring
 of entire storage groups or individual databases. Backing up and
 restoring at the individual mailbox or email item is not supported but
-can be simulated by use of the Recovery Storage Group (see below).
+can be simulated by use of the "Recovery" Storage Group (see below).
 
 \subsection{Installing}
 
@@ -507,13 +750,44 @@ Incremental or Differential backup too. This adds 5MB to each
 Incremental or Differential backup size but otherwise does not cause any
 problems.
 
+By default, a normal VSS fileset containing all the drive letters will
+also back up the Exchange databases using VSS. This will interfere with
+the plugin and Exchange's shared ideas of when the last full backup was
+done, and may also truncate log files incorrectly. It is important,
+therefore, that the Exchange database files be excluded from the backup,
+although the folders the files are in should be included, or they will
+have to be recreated manually if a baremetal restore is done.
+
+\begin{verbatim}
+FileSet {
+   Include {
+      File = C:/Program Files/Exchsrvr/mdbdata
+      Plugin = "exchange:..."
+   }
+   Exclude {
+      File = C:/Program Files/Exchsrvr/mdbdata/E00.chk
+      File = C:/Program Files/Exchsrvr/mdbdata/E00.log
+      File = C:/Program Files/Exchsrvr/mdbdata/E000000F.log
+      File = C:/Program Files/Exchsrvr/mdbdata/E0000010.log
+      File = C:/Program Files/Exchsrvr/mdbdata/E0000011.log
+      File = C:/Program Files/Exchsrvr/mdbdata/E00tmp.log
+      File = C:/Program Files/Exchsrvr/mdbdata/priv1.edb
+   }
+}
+\end{verbatim}
+
+The advantage of excluding the above files is that you can significantly
+reduce the size of your backup since all the important Exchange files
+will be properly saved by the Plugin.
+
+
 \subsection{Restoring}
 
 The restore operation is much the same as a normal Bacula restore, with
 the following provisos:
 
 \begin{itemize}
-\item  The 'Where' restore option must not be specified
+\item  The {\bf Where} restore option must not be specified
 \item Each Database directory must be marked as a whole. You cannot just
      select (say) the .edb file and not the others.
 \item If a Storage Group is restored, the directory of the Storage Group
@@ -521,8 +795,8 @@ the following provisos:
 \item  It is possible to restore only a subset of the available log files,
      but they {\bf must} be contiguous. Exchange will fail to restore correctly
      if a log file is missing from the sequence of log files
-\item Each database to be restored must be dismounted and marked as 'Can be
-    overwritten by restore'
+\item Each database to be restored must be dismounted and marked as "Can be
+    overwritten by restore"
 \item If an entire Storage Group is to be restored (eg all databases and
    logs in the Storage Group), then it is best to manually delete the
    database files from the server (eg C:\verb+\+Program Files\verb+\+Exchsrvr\verb+\+mdbdata\verb+\+*)
@@ -534,11 +808,11 @@ the following provisos:
 The concept of the Recovery Storage Group is well documented by
 Microsoft 
 \elink{http://support.microsoft.com/kb/824126}{http://support.microsoft.com/kb/824126}, 
-but to briefly summarise...
+but to briefly summarize...
 
 Microsoft Exchange allows the creation of an additional Storage Group
 called the Recovery Storage Group, which is used to restore an older
-copy of a database (eg before a mailbox was deleted) into without
+copy of a database (e.g. before a mailbox was deleted) into without
 messing with the current live data. This is required as the Standard and
 Small Business Server versions of Exchange can not ordinarily have more
 than one Storage Group.
@@ -665,7 +939,8 @@ following packages are needed:
 \section{Display Autochanger Content}
 \index[general]{StatusSlots}
 
-The {\bf status slots storage=\lt{}storage-name\gt{}} command displays autochanger content.
+The {\bf status slots storage=\lt{}storage-name\gt{}} command displays
+autochanger content.
 
 \footnotesize
 \begin{verbatim}
@@ -711,6 +986,15 @@ catalog.
   With this new command, Bacula will ask if you want to specify a Regex
   expression for extracting only a part of the full backup.
 
+\subsection{Solaris ZFS/NFSv4 ACLs}
+  This is an upgrade of the previous Solaris ACL backup code
+  to the new library format, which will backup both the old
+  POSIX(UFS) ACLs as well as the ZFS ACLs.
+
+  The new code can also restore POSIX(UFS) ACLs to a ZFS filesystem
+  (it will translate the POSIX(UFS)) ACL into a ZFS/NFSv4 one) it can also
+  be used to transfer from UFS to ZFS filesystems.
+
 
 \subsection{Virtual Tape Emulation}
 We now have a Virtual Tape emulator that allows us to run though 99.9\% of
@@ -746,8 +1030,8 @@ Job {
 }
 \end{verbatim}
 
-A new Client RunScript {\bf RunsWhen} keyword of {\bf AfterVSS} has been implemented, which
-runs the command after the Volume Shadow Copy has been made.
+A new Client RunScript {\bf RunsWhen} keyword of {\bf AfterVSS} has been
+implemented, which runs the command after the Volume Shadow Copy has been made.
 
 Console commands can be specified within a RunScript by using:
 {\bf Console = \lt{}command\gt{}}, however, this command has not been 
@@ -835,11 +1119,11 @@ than your statistics period. Ie, if jobs are purged from the catalog, you won't
 be able to use them. 
 
 Now, you can use the \textbf{update stats [days=num]} console command to fill
-the JobStat table with new Job records. If you want to be sure to take in
+the JobHistory table with new Job records. If you want to be sure to take in
 account only \textbf{good jobs}, ie if one of your important job has failed but
 you have fixed the problem and restarted it on time, you probably want to
 delete the first \textit{bad} job record and keep only the successful one. For
-that simply let your staff do the job, and update JobStat table after two or
+that simply let your staff do the job, and update JobHistory table after two or
 three days depending on your organization using the \textbf{[days=num]} option.
 
 These statistics records aren't used for restoring, but mainly for
@@ -850,7 +1134,7 @@ can also use tools like Talend or extract information by yourself.
 
 The {\textbf Statistics Retention = \lt{}time\gt{}} director directive defines
 the length of time that Bacula will keep statistics job records in the Catalog
-database after the Job End time. (In \texttt{JobStat} table) When this time
+database after the Job End time. (In \texttt{JobHistory} table) When this time
 period expires, and if user runs \texttt{prune stats} command, Bacula will
 prune (remove) Job records that are older than the specified period.
 
@@ -873,6 +1157,10 @@ Job {
 A new job directive permits to specify the spool size per job. This is used
 in advanced job tunning. {\bf SpoolSize={\it bytes}}
 
+\subsection{MaxConsoleConnections = \lt{}number\gt{}}
+A new director directive permits to specify the maximum number of Console
+Connections that could run concurrently. The default is set to 20, but you may
+set it to a larger number.
 
 \section{Building Bacula Plugins}
 There is currently one sample program {\bf example-plugin-fd.c} and
@@ -1689,15 +1977,15 @@ Bacula.
 This call permits you to put a message in the Job Report.
 
 
-\subsection{bRC DebugMessage)(bpContext *ctx, const char *file, int line,
+\subsection{bRC DebugMessage(bpContext *ctx, const char *file, int line,
        int level, const char *fmt, ...)}
 This call permits you to print a debug message.
 
 
-\subsection{void bMalloc(bpContext *ctx, const char *file, int line,
+\subsection{void baculaMalloc(bpContext *ctx, const char *file, int line,
        size\_t size)}
 This call permits you to obtain memory from Bacula's memory allocator.
 
 
-\subsection{void bFree(bpContext *ctx, const char *file, int line, void *mem)}
+\subsection{void baculaFree(bpContext *ctx, const char *file, int line, void *mem)}
 This call permits you to free memory obtained from Bacula's memory allocator.