]> git.sur5r.net Git - bacula/bacula/blob - bacula/kernstodo
Fix editing of PostgreSQL port
[bacula/bacula] / bacula / kernstodo
1                  Kern's ToDo List
2                   9 March 2004
3
4 Documentation to do: (any release a little bit at a time)
5 - DB upgrade to version 5 in bacula-1.27b, DB upgrade to
6   version 6 in 1.31; DB upgrade to version 7 in 1.33/4.
7 - Document running a test version.
8 - Document query file format.
9 - Document static linking
10 - Document problems with Verify and pruning.
11 - Document how to use multiple databases.
12 - For FreeBSD typical /dev/nrsa0 and for mtx /dev/pass1
13 - VXA drives have a "cleaning required"
14   indicator, but Exabyte recommends preventive cleaning after every 75
15   hours of operation.
16   From Phil:
17     In this context, it should be noted that Exabyte has a command-line
18     vxatool utility available for free download.  (The current version is
19     vxatool-3.72.) It can get diagnostic info, read, write and erase tapes,
20     test the drive, unload tapes, change drive settings, flash new firmware,
21     etc.
22     Of particular interest in this context is that vxatool <device> -i will
23     report, among other details, the time since last cleaning in tape motion
24     minutes.  This information can be retrieved (and settings changed, for
25     that matter) through the generic-SCSI device even when Bacula has the
26     regular tape device locked.  (Needless to say, I don't recommend
27     changing tape settings while a job is running.)
28 - Lookup HP cleaning recommendations.
29 - Lookup HP tape replacement recommendations (see trouble shooting autochanger)
30 - Create a man page for each binary (Debian package requirement).
31           
32 Testing to do: (painful)
33 - Test drive polling!
34 - that ALL console command line options work and are always implemented
35 - blocksize recognition code.
36 - Test if rewind at end of tape waits for tape to rewind.
37 - Test cancel at EOM.       
38
39 For 1.33 Testing/Documentation:
40 - Document new Include/Exclude ...
41 - Add counter variable test.
42 - Document ln -sf /usr/lib/libncurses.so /usr/lib/libtermcap.so
43   and install the esound-dev  package for compiling Console on SuSE.
44   This should read 'Document LDFLAGS="-L/usr/lib/termcap" ... '
45 - Add an example of using a FIFO in dirdconf.wml 
46 - Add an item to the FAQ about running jobs in different timezones.
47 - Add some examples of job editing codes.
48 - Document Dan's new --with-dir-user, ... options.
49   See userid.txt
50 - Figure out how to use ssh or stunnel to protect Bacula communications.
51   Add Dan's work to manual See ssl.txt
52 - Add db check test to regression. Test each function like delete,
53   purge, ...
54 - Add subsections to the Disaster Recovery index section.
55 - Document Pool keyword for restore.
56 - If you use restore replace=never, the directory attributes for
57   non-existent directories will not be restored properly.
58 - In the Bacula User Guide you write:"Note, one major disadvantage of
59   writing to a NFS mounted volume as I do isthat if the other machine goes
60   down, the OS will wait forever on the fopen()call that Bacula makes.  As
61   a consequence, Bacula will completely stall untilthe machine exporting
62   the NSF mounts comes back up.  If someone knows a wayaround this, please
63   let me know."I haven't tried using NFS in years, but I think that the
64   "soft" and "intr"remount options may well help you.  The only way of
65   being sure would be totry it.See, for example,
66      http://howtos.linux.com/guides/nag2/x-087-2-nfs.mountd.shtml
67 - Add the following devices as working:
68    Adic Scalar 100 DLT
69    Adic Fastor 22 DLT
70    (both HVD)
71    Overland LoaderXpress LTO (LVD)
72    Overland Neo2000 (LVD)
73
74 For 1.33
75 From Chris Hull:
76    it seems to be complaining about 12:00pm which should be a valid 12
77    hour time.  I changed the time to 11:59am and everything works fine.
78    Also 12:00am works fine.  0:00pm also works (which I don't think
79    should).  None of the values 12:00pm - 12:59pm work for that matter.
80 - Use SHA1 on authentication if possible.
81 - Check: Run = Level=Differential feb-dec 1 at 1:05 to see if wday is empty.
82 - Look at installation file permissions with Scott so that make install
83   and the rpms agree.
84 - Restore attributes of directory if replace=never set but directory
85   did not exist.
86 - Allow "delete job jobid=xx jobid=xxx".   
87 - Allow "delete job jobid=xxx,yyy,aaa-bbb" i.e. list + ranges.
88 - Implement multiple Volume in "purge jobs volume=".
89 - Fix option 2 of restore -- list where file is backed up -- require Client,
90   then list last 20 backups.
91 - Allow browsing the catalog to see all versions of a file (with 
92   stat data on each file).
93 - Finish code passing files=nnn to restore start.
94 - Add level to estimate command.
95 - Symbolic link a directory to another one, then backup the symbolic link.
96 - Check and possibly fix problems with hard links.
97 - Fix "llist jobid=xx" where no fileset or client exists.
98 - Add all pools in Dir conf to DB also update them to catch changed
99   LabelFormats and such.
100 - Build console in client-only build.
101 - Write a Qmsg() to be used in bnet.c to prevent recursion.  Queue the
102   message. If dequeueing toss the messages. Lock while dequeuing so that
103   it cannot be called recursively and set dequeuing flag.
104 - Add a .list all files in the restore tree (probably also a list all files)
105   Do both a long and short form.
106 - Finish work on conio.c
107 - See comtest-xxx.zip for Windows code to talk to USB.
108 - Phil says that Windows file sizes mismatch in Verify when they should,
109   and that either the file size or the catalog size was zero.
110 - Check time/dates printed during restore when using Win32 API.
111 - Add ctl-c to console to stop current command and discard buffered
112   output.
113 - Estimate to Tibs never returns.
114
115 - Later:
116 - Add Events and Perl scripting.
117 - Add John's appended files:
118    Appended = {     /files/server/logs/http/*log   }
119    and such files would be treated as follows.On a FULL backup, they would
120    be backed up like any other file.On an INCREMENTAL backup, where a
121    previous INCREMENTAL or FULL was already in thecatalogue and the length
122    of the file wasgreater than the length of the last backup, only thedata
123    added since the last backup will be dumped.On an INCREMENTAL backup, if
124    the length of the file is less than thelength of the file with the same
125    name last backed up, the completefile is dumped.On Windows systems, with
126    creation date of files, we can be evensmarter about this and not count
127    entirely upon the length.On a restore, the full and all incrementals
128    since it will beapplied in sequence to restore the file.  - Add a
129    regression test for dbcheck.  - Add disk seeking on restore.  - Allow
130    for optional cancelling of SD and FD in case DIR
131   gets a fatal error. Requested by Jesse Guardiani <jesse@wingnet.net>
132 - Bizarre message: Error: Could not open WriteBootstrap file:
133 - Build console in client only build.
134 - Add "limit=n" for "list jobs"
135 - Check new HAVE_WIN32 open bits.    
136 - Check if the tape has moved before writing.  
137 - Handling removable disks -- see below:
138 - Multiple drive autochanger support -- see below.
139 - Keep track of tape use time, and report when cleaning is necessary.
140 - Fix FreeBSD mt_count problem.
141 - Add FromClient and ToClient keywords on restore command (or
142   BackupClient RestoreClient).
143 - Automatic "update slots" on user configuration directive when a
144   slot error occurs.
145 - Implement a JobSet, which groups any number of jobs. If the
146   JobSet is started, all the jobs are started together.
147   Allow Pool, Level, and Schedule overrides.
148 - Enhance cancel to timeout BSOCK packets after a specific delay.
149 - When I restore to Windows the Created, Accessed and Modifiedtimes are
150   those of the time of the restore, not those of the originalfile.  
151   The dates you will find in your restore log seem to be the original
152    creation dates
153 - Volume "add"ed to Pool gets recycled in first use. VolBytes=0
154 - Get rid of 0 dates in LastWritten, ...
155 - If a tape is recycled while it is mounted, Stanislav Tvrudy must do an
156   additional mount to deblock the job.
157 - From Johan Decock:
158   bscan: sql_update.c:65 UPDATE File SET MD5='Ij+5kwN6TFIxK+8l8+/I+A' WHERE FileId=0
159   bscan: bscan.c:1074 Could not add MD5/SHA1 to File record. ERR=sql_update.c:65 Update problem: affected_rows=0
160 - Do scheduling by UTC using gmtime_r() in run_conf, scheduler, and   
161   ua_status.!!! Thanks to Alan Brown for this tip.
162 - Look at updating Volume Jobs so that Max Volume Jobs = 1 will work
163   correctly for multiple simultaneous jobs.
164 - Correct code so that FileSet MD5 is calculated for < and | filename   
165   generation.
166 - Mark Volume in error on error from WEOF.
167 - Implement the Media record flag that indicates that the Volume does disk 
168   addressing.
169 - Implement VolAddr, which is used when Volume is addressed like a disk,
170   and form it from VolFile and VolBlock.
171 - Make multiple restore jobs for multiple media types specifying 
172   the proper storage type.
173 - Implement MediaType keyword in bsr?   
174 - Fix fast block rejection (stored/read_record.c:118). It passes a null
175   pointer (rec) to try_repositioning().
176 - Look at extracting Win data from BackupRead.
177 - Having dashes in filenames apparently creates problems for restore
178   by filename??? hard to believe.
179 - Implement RestoreJobRetention? Maybe better "JobRetention" in a Job,
180   which would take precidence over the Catalog "JobRetention".
181 - Implement Label Format in Add and Label console commands.
182 - Possibly up network buffers to 65K. Put on variable.
183 - Put email tape request delays on one or more variables. User wants
184   to cancel the job after a certain time interval.  Maximum Mount Wait?
185 - Job, Client, Device, Pool, or Volume?
186   Is it possible to make this a directive which is *optional* in multiple
187   resources, like Level? If so, I think I'd make it an optional directive
188   in Job, Client, and Pool, with precedence such that Job overrides Client
189   which in turn overrides Pool.
190 - Print a message when a job starts if the conf file is not current.
191 - To pass Include 1 or two letter commands
192   I Name           Include name - first record
193   B Name           Base name - repeat
194   R "xxx"          Regexp
195   W "xxx"          Wild Card
196   E zzz            Exclude expression (wild card)
197   P "plugin"       Plugin
198   D "reader"       Reader program
199   T "writer"       Writer program
200   O Options        In current commpressed format
201     (compression, signature, onefs, recurse, sparse,
202      replace, verify options, ...)
203   N                End option set
204   B BaseName       Start second option set any letter
205   ...
206   E
207   F Number         Number of filenames to follow
208   <file-name>
209   B Name
210   ...
211   N                End option set
212   F Number         Number of filenames to follow
213   <file-name>
214   ...
215
216 - Spooling ideas taken from Volker Sauer's and other's emails:
217    > IMHO job spooling should be turned on
218    > 
219    > 1) by job
220    > 2) by schedule
221    > 3) by sd
222    > 
223    > where and 2) overrides 1) and 3) is independent.
224
225    Yes, this is the minimum that I think is necessary.
226
227    > 
228    > Reason(s):
229    > It should be switched by job, because the job that backs up the machine 
230    > with the bacula-sd on doesn't need spooling.
231    > It should be switched by schedule, because for full-backups I don't need 
232    > spooling, so I can switch it off (because the network faster then the 
233    > tapedrive) 
234
235    True, with the exception that if you have enough disk spool space,
236    and you want to run concurrent jobs, spooling can eliminate the block
237    interleaving restore inefficiencies.
238
239    > And you should be able to turn it of by sd for sd-machines with low disk 
240    > capacity or if you just don't need or want this feature.
241    > 
242    > There should be:
243    > - definitly the possibility for multipe spool direcories
244
245    Having multiple directories is no problem -- having different maximum
246    sizes creates specification problems.  At some point, I will probably
247    have a common SD pool of spool directories as well as a set of
248    private spool directories for each device.  The first implementation
249    will be a set of private spool directories for each device since
250    managing a global pool with a bunch of threads writing into the same
251    directory is *much* more complicated and prone to error.
252
253    > - the ability to spool parts of a backup (not the whole client)
254
255    This may change in the future, but for the moment, it will spool
256    either to a job high water mark, or until the directory is full
257    (reaches max spool size or I/O error).  It will then write to tape,
258    truncate the spool file, and begin spooling again.
259
260    > - spooling while writing to tape
261
262    Not within a job, but yes, if you run concurrent jobs -- each is a
263    different thread.  Within a job could be a feature, but *much* later.
264
265    > - parallel spooling (like parallel jobs/ concurrent jobs) of clients
266
267    Yes, this is one of my main motivations for doing it (aside from
268    eliminating tape "shoe shine" during incremental backups.
269
270    > - flushing a backup that only went to disk (like amflush in amanda)
271
272    This will be a future feature, since spooling is different from backing
273    up to disk. The future feature will be "migration" which will move a job
274    from one backup Volume to another.
275
276 - New Storage specifications:
277   Passed to SD as a sort of BSR record called Storage Specification
278     Record or SSR.
279     SSR                    
280       Next -> Next SSR
281       MediaType -> Next MediaType
282       Pool -> Next Pool
283       Device -> Next Device
284   Write Copy Resource that makes a copy of a resource.
285   Job Resource
286      Allow multiple Storage specifications
287      New flags
288         One Archive = yes
289         One Device = yes
290         One Storage = yes
291         One MediaType = yes
292         One Pool = yes
293   Storage
294      Allow Multiple Pool specifications (note, Pool currently
295        in Job resource).
296      Allow Multiple MediaType specifications
297      Allow Multiple Device specifications
298      Perhaps keep this in a single SSR
299   Tie a Volume to a specific device by using a MediaType that 
300     is contained in only one device.
301   In SD allow Device to have Multiple MediaTypes
302
303 After 1.33:
304 - Look at www.nu2.nu/pebuilder as a helper for full windows
305   bare metal restore.
306 Ideas from Jerry Scharf:
307   First let's point out some big pluses that bacula has for this
308         it's open source
309         more importantly it's active. Thank you so much for that
310         even more important, it's not flaky
311         it has an open access catalog, opening many possibilities
312         it's pushing toward heterogeneous systems capability
313   simple things:
314         I don't remember an include file directive for config files
315                 (not filesets, actual config directives)
316         can you check the configs without starting the daemon?
317         some warnings about possible common mistakes
318   big things:
319    doing the testing and blessing of concurrent backup writes
320         this is absolutely necessary in the enterprise
321    easy user recovery GUI with full access checking
322    Macintosh file client
323         macs are an interesting niche, but I fear a server is a rathole
324    working bare iron recovery for windows
325    much better handling on running config changes
326         thinking through the logic of what happens to jobs in progress
327    the option for  inc/diff backups not reset on fileset revision
328         a) use both change and inode update time against base time
329         b) do the full catalog check (expensive but accurate)
330    sizing guide (how much system is needed to back up N systems/files)
331    consultants on using bacula in building a disaster recovery system
332    an integration guide
333         or how to get at fancy things that one could do with bacula
334    logwatch code for bacula logs (or similar)
335    linux distro inclusion of bacula (brings good and bad, but necessary)
336    win2k/XP server capability (icky but you asked)
337    support for Oracle database ??
338 ===
339 - Look at adding SQL server and Exchange support for Windows. 
340 - Restore: Enter Filename: 'C:/Documents and Settings/Comercial/My
341   Documents/MOP/formulário de registro BELAS ARTES.doc' causes Bacula to
342   crash.
343 - Each DVD-RAM disk would be a volume, just like each tape is 
344   a volume. It's a 4.7GB media with random access, but there's nothing about 
345   it that I can see that makes it so different than a tape from  bacula's 
346   perspective. Why couldn't I back up to a bare floppy as a volume (ignoring 
347   the media capacity?)
348 - Make dev->file and dev->block_num signed integers so that -1 can
349   be an invalid value which happens with BSR.
350 - Create VolAddr for disk files in place of VolFile and VolBlock. This
351   is needed to properly specify ranges.
352 - Print bsmtp output to job report so that problems will be seen.
353 - Pass the number of files to be restored to the FD for reporting 
354 - Add progress of files/bytes to SD and FD.
355 - Don't continue Restore if no files selected.
356 - Print warning message if FileId > 4 billion
357 - do a "messages" before the first prompt in Console
358 - Add a date and time stamp at the beginning of every line in the 
359   Job report (Volker Sauer).
360 - Client does not show busy during Estimate command.
361 - Implement Console mtx commands.
362 - Add a default DB password to MySQL.  
363   GRANT all privileges ON bacula.* TO bacula@localhost IDENTIFIED BY 
364      'bacula_password';
365   FLUSH PRIVILEGES;
366 - Implement a Mount Command and an Unmount Command where
367   the users could specify a system command to be performed
368   to do the mount, after which Bacula could attempt to
369   read the device. This is for Removeable media such as a CDROM.
370   - Most likely, this mount command would be invoked explicitly
371   by the user using the current Console "mount" and "unmount" 
372   commands -- the Storage Daemon would do the right thing 
373   depending on the exact nature of the device.
374   - As with tape drives, when Bacula wanted a new removable
375   disk mounted, it would unmount the old one, and send a message
376   to the user, who would then use "mount" as described above 
377   once he had actually inserted the disk.
378 - Implement dump/print label to UA
379 - Implement disk spooling. Two parts: 1. Spool to disk then
380   immediately to tape to speed up tape operations. 2. Spool to
381   disk only when the tape is full, then when a tape is hung move
382   it to tape.
383 - Scratch Pool where the volumes can be re-assigned to any Pool.
384 - bextract is sending everything to the log file ****FIXME****
385 - Add Progress command that periodically reports the progress of
386   a job or all jobs.
387 - Restrict characters permitted in a Resource name, and don't permit
388   duplicate names.
389 - Allow multiple Storage specifications (or multiple names on
390   a single Storage specification) in the Job record. Thus a job 
391   can be backed up to a number of storage devices.
392 - Implement some way for the File daemon to contact the Director 
393   to start a job or pass its DHCP obtained IP number.
394 - Implement multiple Consoles.
395 - Implement a query tape prompt/replace feature for a console
396 - From Johan?
397     Two jobs ready to go, first one blocked waiting for media
398     Cancel 2nd job ("waiting execution" one)
399     Cancel blocked job
400     boom - segfault*
401 - Copy console @ code to gnome2-console
402 - Make AES the only encryption algorithm see 
403   http://csrc.nist.gov/CryptoToolkit/aes/).  It's
404   an officially adopted standard, has survived peer
405   review, and provides keys up to 256 bits.
406 - Think about how space could be freed up on a tape -- perhaps this
407   is a Merge or Compact feature that is needed.
408 - Modify FileSet, did not upgrade the current Increment job, but
409   waited for the next job to be upgraded.
410 - Take a careful look at SetACL http://setacl.sourceforge.net     
411 - Implement a where command for the tree telling where a file
412   is located.
413 - Take a careful look at Level for the estimate command, maybe make
414   it a command line option.
415 - Add Volume name to "I cannot write on this volume because"
416 - Make tree walk routines like cd, ls, ... more user friendly
417   by handling spaces better.
418 - Write your PID file and chown root:wheel before drop.
419 - Make sure there is no symlink in a file before creating a
420   file (attack).
421 - Look at mktemp or mkstemp(3).
422     mktemp and mkstemp create files with predictable names too.  That's
423     not the vulnerability.  The vulnerability is in creating files without
424     using the O_EXCL flag, which means "only create this file if it doesn't
425     exist, including if the file is a dangling symlink."
426
427     It is *NOT* enough to do the equivalent of
428
429       if doesn't exist $filename
430        then create $filename
431
432     because between the test and the create another process could have
433     gotten the CPU and created the file.  You must use atomic functions
434     (those that don't get interrupted by other processes) and O_EXCL is
435     the only way for this particular example.
436 - Automatically create pools, but instead of looking for what
437   in in Job records, walk through the pool resources.
438 - Check and double check tree code, why does it take so long?
439 - Add device name to "Current Volume not acceptable because ..."
440 - Make sure that Bacula rechecks the tape after the 20 min wait.
441 - Set IO_NOWAIT on Bacula TCP/IP packets.
442 - Try doing a raw partition backup and restore by mounting a
443   Windows partition.
444 - From Lars Kellers:
445     Yes, it would allow to highly automatic the request for new tapes. If a 
446     tape is empty, bacula reads the barcodes (native or simulated), and if 
447     an unused tape is found, it runs the label command with all the 
448     necessary parameters.
449
450     By the way can bacula automatically "move" an empty/purged volume say 
451     in the "short" pool to the "long" pool if this pool runs out of volume 
452     space?
453 - Eliminate orphaned jobs: dbcheck, normal pruning, delete job command.
454   Hm.  Well, there are the remaining orphaned job records:
455
456      |   105 | Llioness Save  | 0000-00-00 00:00:00 | B    | D     |        0 |             0 | f         |
457      |   110 | Llioness Save  | 0000-00-00 00:00:00 | B    | I     |        0 |             0 | f         |
458      |   115 | Llioness Save  | 2003-09-10 02:22:03 | B    | I     |        0 |             0 | A         |
459      |   128 | Catalog Save   | 2003-09-11 03:53:32 | B    | I     |        0 |             0 | C         |
460      |   131 | Catalog Save   | 0000-00-00 00:00:00 | B    | I     |        0 |             0 | f         |
461
462      As you can see, three of the five are failures.  I already deleted the
463      one restore and one other failure using the by-client option.  Deciding
464      what is an orphaned job is a tricky problem though, I agree.  All these
465      records have or had 0 files/ 0 bytes, except for the restore.  With no
466      files, of course, I don't know of the job ever actually becomes
467      associated with a Volume.
468
469      (I'm not sure if this is documented anywhere -- what are the meanings of
470      all the possible JobStatus codes?)
471
472      Looking at my database, it appears to me as though all the "orphaned"
473      jobs fit into one of two categories:
474
475      1)  The Job record has a StartTime but no EndTime, and the job is not
476          currently running;
477      or
478      2)  The Job record has an EndTime, indicating that it completed, but
479          it has no associated JobMedia record.
480
481
482      This does suggest an approach.  If failed jobs (or jobs that, for some
483      other reason, write no files) are associated with a volume via a
484      JobMedia record, then they should be purged when the associated volume
485      is purged.  I see two ways to handle jobs that are NOT associated with a
486      specific volume:
487
488      1)  purge them automatically whenever any volume is manually purged;
489      or
490      2)  add an option to the purge command to manually purge all jobs with
491          no associated volume.
492
493      I think Restore jobs also fall into category 2 above ....  so one might
494      want to make that "The Job record has an EndTime,, but no associated
495      JobMedia record, and is not a Restore job."  
496 - make "btape /tmp" work.
497 - Make sure a rescheduled job is properly reported by status.
498 - Walk through the Pool records rather than the Job records
499   in dird.c to create/update pools.
500 - What to do about "list files job=xxx".
501 - When job rescheduled, status gives is waiting for Client Rufus 
502   to connect to Storage File. Dir needs to inform SD that job
503   is rescheduled.
504 - Make Dmsg look at global before calling subroutine.
505 - Enable trace output at runtime for Win32
506 - Available volumes for autochangers (see patrick@baanboard.com 3 Sep 03 
507   and 4 Sep) scan slots.
508 - Get and test MySQL 4.0
509 - Do a complete audit of all pthreads_mutex, cond, ... to ensure that
510   any that are dynamically initialized are destroyed when no longer used.
511 - Look at how fuser works and /proc/PID/fd that is how Nic found the
512   file descriptor leak in Bacula.
513 - Implement WrapCounters in Counters.
514 - Turn on SIGHUP in dird.c and test.
515 - Use system dependent calls to get more precise info on tape errors.
516 - Add heartbeat from FD to SD if hb interval expires.
517 - Suppress read error on blank tape when doing a label.
518 - Can we dynamically change FileSets?
519 - If pool specified to label command and Label Format is specified,
520   automatically generate the Volume name.
521 - Why can't SQL do the filename sort for restore?
522 - Look at libkse (man kse) for FreeBSD threading.
523 - Look into Microsoft Volume Shadowcopy Service VSS for backing
524   up system state components (Active Directory, System Volume, ...)
525 - Add ExhautiveRestoreSearch
526 - Look at the possibility of loading only the necessary 
527   data into the restore tree (i.e. do it one directory at a
528   time as the user walks through the tree).
529 - Possibly use the hash code if the user selects all for a restore command.
530 - Orphaned Dir buffer at parse_conf.c:373 =>  store_dir
531 - Fix "restore all" to bypass building the tree.
532 - Prohibit backing up archive device (findlib/find_one.c:128)
533 - Implement Release Device in the Job resource to unmount a drive.
534 - Implement Acquire Device in the Job resource to mount a drive,
535   be sure this works with admin jobs so that the user can get
536   prompted to insert the correct tape.  Possibly some way to say to
537   run the job but don't save the files.
538 - Implement FileOptions (see end of this document)
539 - Make things like list where a file is saved case independent for
540   Windows.
541 - Implement migrate
542 - Bacula needs to propagate SD errors.
543   > > cluster-dir: Start Backup JobId 252, Job=REUTERS.2003-08-11_15.04.12
544   > > prod4-sd: REUTERS.2003-08-11_15.04.12 Error: Write error on device 
545        /dev/nst0. ERR=Input/output error.
546   > > prod4-sd: REUTERS.2003-08-11_15.04.12 Error: Re-read of last block failed. 
547        Last block=5162 Current block=5164.
548   > > prod4-sd: End of medium on Volume "REU007" Bytes=16,303,521,933 
549
550 - Use autochanger to handle multiple devices.
551 - Add SuSE install doc to list.
552 - Check and rechedk "Invalid block number"
553 - Make bextract release the drive properly between tapes 
554   so that an autochanger can be made to work.
555 - User wants to NOT backup up certain big files (email files).
556 - Maybe remove multiple simultaneous devices code in SD.
557 - On Windows with very long path names, it may be impossible to create 
558   a file (and thus restore it) because the total length is too long.
559   We must cd into the directory then create the file without the
560   full path name.
561 - lstat() is not going to work on Win32 for testing date.
562 - Implement a Recycle command
563 - Add client name to cram-md5 challenge so Director can immediately
564   verify if it is the correct client.
565 - Add JobLevel in FD status (but make sure it is defined).
566 - Audit all UA commands to ensure that we always prompt where possible.
567 - Check Jmsg in bnet, may not work, must dup bsock.
568 - Suppress Job Name in Jmsg for console
569 - Create Pools that are referenced in a Run statement at startup if possible.
570 - Use runbeforejob to unload, then reload a volume previously used,
571   then the next job run gets an error reading the drive.
572 - Make bootstrap filename unique.
573 - Test a second language e.g. french.
574 - Start working on Base jobs.
575 - Make "make binary-release" work from any directory.
576 - Implement UnsavedFiles DB record.
577 - Implement argc/argv for daemon command line scanning using table driven
578   stuff below.
579 - Implement table driven single argc/argv scanner to pickup all arguments.
580   Much like xxx_conf.c scan table.
581   keyword, handler(store_routine), store_address, code, flags, default.
582 - From Phil Stracchino:
583   It would probably be a per-client option, and would be called
584   something like, say, "Automatically purge obsoleted jobs".  What it
585   would do is, when you successfully complete a Differential backup of a
586   client, it would automatically purge all Incremental backups for that
587   client that are rendered redundant by that Differential.  Likewise,
588   when a Full backup on a client completed, it would automatically purge
589   all Differential and Incremental jobs obsoleted by that Full backup.
590   This would let people minimize the number of tapes they're keeping on
591   hand without having to master the art of retention times.
592 - Implement a M_SECURITY message class.
593 - When doing a Backup send all attributes back to the Director, who
594   would then figure out what files have been deleted.
595 - Currently in mount.c:236 the SD simply creates a Volume. It should have
596   explicit permission to do so.  It should also mark the tape in error
597   if there is an error.
598 - Make sure all restore counters are working correctly in the FD.
599 - SD Bytes Read is wrong.
600 - Look at ALL higher level routines that call block.c to be sure
601   they don't expect something in errmsg.
602 - Investigate doing RAW backup of Win32 partition.
603 - Add thread specific data to hold the jcr -- send error messages from
604   low level routines by accessing it and using Jmsg().
605 - Cancel waiting for Client connect in SD if FD goes away.
606
607 - Examine Bare Metal restore problem (a FD crash exists somewhere ...).
608 - Implement timeout in response() when it should come quickly.
609 - Implement console @echo command.
610 - Implement a Slot priority (loaded/not loaded).
611 - Implement "vacation" Incremental only saves.
612 - Implement single pane restore (much like the Gftp panes).
613 - Implement Automatic Mount even in operator wait.
614 - Implement create "FileSet"?
615 - Fix watchdog pthread crash on Win32 (this is pthread_kill() Cygwin bug)
616 - Implement "scratch pool" where tapes are defined and can be
617   taken by any pool that needs them.
618 - Implement restore "current system", but take all files without
619   doing selection tree -- so that jobs without File records can
620   be restored.
621 - Add prefixlinks to where or not where absolute links to FD.
622 - Issue message to mount a new tape before the rewind.
623 - Simplified client job initiation for portables.
624 - If SD cannot open a drive, make it periodically retry.
625 - Add more of the config info to the tape label.
626
627 - If tape is marked read-only, then try opening it read-only rather than
628   failing, and remember that it cannot be written.
629 - Refine SD waiting output:
630     Device is being positioned
631     >     Device is being positioned for append
632     >     Device is being positioned to file x
633     > 
634 - Figure out some way to estimate output size and to avoid splitting
635   a backup across two Volumes -- this could be useful for writing CDROMs
636   where you really prefer not to have it split -- not serious.
637 - Have SD compute MD5 or SHA1 and compare to what FD computes.
638 - Make VolumeToCatalog calculate an MD5 or SHA1 from the 
639   actual data on the Volume and compare it.                  
640 - Implement Bacula plugins -- design API
641 - Make bcopy read through bad tape records.
642 - Program files (i.e. execute a program to read/write files).
643   Pass read date of last backup, size of file last time.
644 - Add Signature type to File DB record.
645 - CD into subdirectory when open()ing files for backup to
646   speed up things.  Test with testfind().
647 - Priority job to go to top of list.
648 - Why are save/restore of device different sizes (sparse?)   Yup! Fix it.
649 - Implement some way for the Console to dynamically create a job.
650 - Restore to a particular time -- e.g. before date, after date. 
651 - Solaris -I on tar for include list
652 - Need a verbose mode in restore, perhaps to bsr.
653 - bscan without -v is too quiet -- perhaps show jobs.
654 - Add code to reject whole blocks if not wanted on restore.
655 - Check if we can increase Bacula FD priorty in Win2000
656 - Make sure the MaxVolFiles is fully implemented in SD
657 - Check if both CatalogFiles and UseCatalog are set to SD.
658 - Figure out how to do a bare metal Windows restore
659 - Possibly add email to Watchdog if drive is unmounted too
660   long and a job is waiting on the drive.
661 - Restore program that errs in SD due to no tape, reports
662   OK incorrectly in output.
663 - After unmount, if restore job started, ask to mount.
664 - Convert all %x substitution variables, which are hard to remember
665   and read to %(variable-name).  Idea from TMDA.
666 - Remove NextId for SQLite. Optimize.
667 - Move all SQL statements into a single location.
668 - Add UA rc and history files.
669 - put termcap (used by console) in ./configure and
670   allow -with-termcap-dir.
671 - Fix Autoprune for Volumes to respect need for full save.
672 - Fix Win32 config file definition name on /install
673 - Compare tape to Client files (attributes, or attributes and data) 
674 - Make all database Ids 64 bit.
675 - Write an applet for Linux.
676 - Allow console commands to detach or run in background.
677 - Fix status delay on storage daemon during rewind.
678 - Add SD message variables to control operator wait time
679   - Maximum Operator Wait
680   - Minimum Message Interval
681   - Maximum Message Interval
682 - Send Operator message when cannot read tape label.
683 - Verify level=Volume (scan only), level=Data (compare of data to file).
684   Verify level=Catalog, level=InitCatalog
685 - Events file
686 - Add keyword search to show command in Console.
687 - Events : tape has more than xxx bytes.
688 - Complete code in Bacula Resources -- this will permit
689   reading a new config file at any time.
690 - Handle ctl-c in Console
691 - Implement script driven addition of File daemon to config files.
692 - Think about how to make Bacula work better with File (non-tape) archives.
693 - Write Unix emulator for Windows.
694 - Put memory utilization in Status output of each daemon
695   if full status requested or if some level of debug on.
696 - Make database type selectable by .conf files i.e. at runtime
697 - Set flag for uname -a.  Add to Volume label.
698 - Implement throttled work queue.
699 - Restore files modified after date
700 - SET LD_RUN_PATH=$HOME/mysql/lib/mysql
701 - Implement Restore FileSet=
702 - Create a protocol.h and protocol.c where all protocol messages
703   are concentrated.
704 - Remove duplicate fields from jcr (e.g. jcr.level and jcr.jr.Level, ...).
705 - Timout a job or terminate if link goes down, or reopen link and query.
706 - Concept of precious tapes (cannot be reused).
707 - Make bcopy copy with a single tape drive.
708 - Permit changing ownership during restore.
709
710 - From Phil:
711   > My suggestion:  Add a feature on the systray menu-icon menu to request
712   > an immediate backup now.  This would be useful for laptop users who may
713   > not be on the network when the regular scheduled backup is run.
714   > 
715   > My wife's suggestion: Add a setting to the win32 client to allow it to
716   > shut down the machine after backup is complete (after, of course,
717   > displaying a "System will shut down in one minute, click here to cancel"
718   > warning dialog).  This would be useful for sites that want user
719   > woorkstations to be shut down overnight to save power.
720   > 
721
722 - From Terry Manderson <terry@apnic.net>
723    jobdefs { # new structure
724      name = "monthlyUnixBoxen"
725      type = backup
726      level = full
727      schedule = monthly
728      storage = DLT
729      messages = Standard
730      pool = MonthlyPool
731      priority = 10
732    }
733
734    job {
735      name = "wakame"
736      jobdefs = "genericUnixSet"
737      client = wakame-fd
738    }
739
740    job {
741      name = "durian"
742      jobdefs = "genericUnixSet"
743      client = durian-fd
744    }
745
746    job {
747      name = "soy"
748      jobdefs = "UnixDevelBoxSet"
749      client = soy-fd
750    }
751
752
753 - Autolabel should be specified by DIR instead of SD.
754 - Storage daemon    
755   - Add media capacity
756   - AutoScan (check checksum of tape)
757   - Format command = "format /dev/nst0"
758   - MaxRewindTime
759   - MinRewindTime
760   - MaxBufferSize
761   - Seek resolution (usually corresponds to buffer size)
762   - EODErrorCode=ENOSPC or code
763   - Partial Read error code
764   - Partial write error code
765   - Nonformatted read error
766   - Nonformatted write error
767   - WriteProtected error
768   - IOTimeout
769   - OpenRetries
770   - OpenTimeout
771   - IgnoreCloseErrors=yes
772   - Tape=yes
773   - NoRewind=yes
774 - Pool
775   - Maxwrites
776   - Recycle period
777 - Job
778   - MaxWarnings
779   - MaxErrors (job?)
780 =====
781 - FD sends unsaved file list to Director at end of job (see
782   RFC below).
783 - File daemon should build list of files skipped, and then
784   at end of save retry and report any errors.
785 - Write a Storage daemon that uses pipes and
786   standard Unix programs to write to the tape.
787   See afbackup.
788 - Need something that monitors the JCR queue and
789   times out jobs by asking the deamons where they are.
790 - Enhance Jmsg code to permit buffering and saving to disk.
791 - device driver = "xxxx" for drives.
792 - Verify from Volume
793 - Ensure that /dev/null works
794 - Need report class for messages. Perhaps
795   report resource where report=group of messages
796 - enhance scan_attrib and rename scan_jobtype, and
797   fill in code for "since" option 
798 - Director needs a time after which the report status is sent
799   anyway -- or better yet, a retry time for the job.
800 - Don't reschedule a job if previous incarnation is still running.
801 - Some way to automatically backup everything is needed????
802 - Need a structure for pending actions:
803   - buffered messages
804   - termination status (part of buffered msgs?)
805 - Drive management
806   Read, Write, Clean, Delete
807 - Login to Bacula; Bacula users with different permissions:
808    owner, group, user, quotas
809 - Store info on each file system type (probably in the job header on tape.
810   This could be the output of df; or perhaps some sort of /etc/mtab record.
811
812 Longer term to do:
813 - Design at hierarchial storage for Bacula. Migration and Clone. 
814 - Implement FSM (File System Modules).
815 - Audit M_ error codes to ensure they are correct and consistent.
816 - Add variable break characters to lex analyzer.
817   Either a bit mask or a string of chars so that
818   the caller can change the break characters.
819 - Make a single T_BREAK to replace T_COMMA, etc.
820 - Ensure that File daemon and Storage daemon can
821   continue a save if the Director goes down (this
822   is NOT currently the case). Must detect socket error,
823   buffer messages for later. 
824 - Enhance time/duration input to allow multiple qualifiers e.g. 3d2h
825 - Add ability to backup to two Storage devices (two SD sessions) at
826   the same time -- e.g. onsite, offsite.
827 - Add the ability to consolidate old backup sets (basically do a restore
828   to tape and appropriately update the catalog). Compress Volume sets.
829   Might need to spool via file is only one drive is available.
830 - Compress or consolidate Volumes of old possibly deleted files. Perhaps
831   someway to do so with every volume that has less than x% valid 
832   files.
833
834
835 Migration: Move a backup from one Volume to another
836 Clone:     Copy a backup -- two Volumes
837
838 Bacula Migration is based on Jobs (apparently Networker is file by file).
839
840 Migration triggered by:
841   Number of Jobs
842   Number of Volumes
843   Age of Jobs
844   Highwater mark (keep total size)
845   Lowwater mark
846   
847
848
849 ======================================================
850         Base Jobs design
851 It is somewhat like a Full save becomes an incremental since
852 the Base job (or jobs) plus other non-base files.
853 Need:
854 - A Base backup is same as Full backup, just different type.
855 - New BaseFiles table that contains:
856     BaseId - index
857     BaseJobId - Base JobId referenced for this FileId (needed ???)
858     JobId - JobId currently running
859     FileId - File not backed up, exists in Base Job
860     FileIndex - FileIndex from Base Job.
861   i.e. for each base file that exists but is not saved because
862   it has not changed, the File daemon sends the JobId, BaseId,
863   FileId, FileIndex back to the Director who creates the DB entry.
864 - To initiate a Base save, the Director sends the FD 
865   the FileId, and full filename for each file in the Base.
866 - When the FD finds a Base file, he requests the Director to
867   send him the full File entry (stat packet plus MD5), or
868   conversely, the FD sends it to the Director and the Director
869   says yes or no. This can be quite rapid if the FileId is kept
870   by the FD for each Base Filename.          
871 - It is probably better to have the comparison done by the FD
872   despite the fact that the File entry must be sent across the
873   network.
874 - An alternative would be to send the FD the whole File entry
875   from the start. The disadvantage is that it requires a lot of
876   space. The advantage is that it requires less communications
877   during the save.
878 - The Job record must be updated to indicate that one or more
879   Bases were used.
880 - At end of Job, FD returns:   
881    1. Count of base files/bytes not written to tape (i.e. matches)
882    2. Count of base file that were saved i.e. had changed.
883 - No tape record would be written for a Base file that matches, in the
884   same way that no tape record is written for Incremental jobs where
885   the file is not saved because it is unchanged.
886 - On a restore, all the Base file records must explicitly be
887   found from the BaseFile tape. I.e. for each Full save that is marked
888   to have one or more Base Jobs, search the BaseFile for all occurrences
889   of JobId.
890 - An optimization might be to make the BaseFile have:
891      JobId
892      BaseId
893      FileId
894   plus
895      FileIndex
896   This would avoid the need to explicitly fetch each File record for
897   the Base job.  The Base Job record will be fetched to get the
898   VolSessionId and VolSessionTime.
899 =========================================================  
900
901   
902
903 =============================================================
904
905           Request For Comments For File Backup Options
906                    10 November 2002
907
908 Subject: File Backup Options
909
910 Problem: 
911   A few days ago, a Bacula user who is backing up to file volumes and
912   using compression asked if it was possible to suppress compressing
913   all .gz files since it was a waste of CPU time. Although Bacula
914   currently permits using different options (compression, ...) on
915   a directory by directory basis, it cannot do it on a file by 
916   file basis, which is clearly what was desired.   
917
918 Proposed Implementation:
919   To solve this problem, I propose the following:
920
921   - Add a new Director resource type called Options.  
922
923   - The Options resource will have records for all
924     options that can currently be specified on the Include record 
925     (in a FileSet).  Examples below.
926
927   - The Options resource will permit an exclude option as well
928     as a number of additional options.
929
930   - The heart of the Options resource is the ability to
931     supply any number of Match records which specify POSIX
932     regular expressions.  These Match regular expressions are
933     applied to the fully qualified filename (path and all). If
934     one matches, then the Options will be used.
935
936   - When an Match specification matches an included file, the
937     options specified in the Options resource will override
938     the default options specified on the Include record.
939
940   - Include records will be modified to permit referencing one or
941     more Options resources.  The Options will be used
942     in the order listed on the Include record and the first
943     one that matches will be applied.
944
945   - Options (or specifications) currently supplied on the Include
946     record will be deprecated (i.e. removed in a later version a
947     year or so from now).
948
949   - The Exclude record will be deprecated as the same functionality
950     can be obtained by using an Exclude = yes in the Options.
951
952 Options records:
953   The following records can appear in the Options resource. An
954   asterisk preceding the name indicates a feature not currently
955   implemented.
956
957     - Regexp "xxx"            - Match regular expression
958     - Wild "xxx"              - Do a wild card match
959
960   For Backup Jobs:
961     - Compression= (GZIP, ...)
962     - Signature=   (MD5, SHA1, ...)
963     - *Encryption=
964     - OneFs=      (yes/no)    - remain on one filesystem
965     - Recurse=    (yes/no)    - recurse into subdirectories
966     - Sparse=     (yes/no)    - do sparse file backup
967     - *Exclude=   (yes/no)    - exclude file from being saved
968     - *Reader=    (filename)  - external read (backup) program
969     - *Plugin=    (filename)  - read/write plugin module
970
971     - Include=    (yes/no)    - Include the file matched no additional
972                                 patterns are applied.
973
974   For Verify Jobs:
975     - verify=     (ipnougsamc5) - verify options
976
977   For Restore Jobs:
978     - replace= (always/ifnewer/ifolder/never) - replace options currently
979                                                 implemented in 1.31
980     - *Writer= (filename)   - external write (restore) program
981
982
983 Implementation:
984   Currently options specifying compression, MD5 signatures, recursion,
985   ... of a FileSet are supplied on the Include record. These will now
986   all be collected into a Options resource, which will be
987   specified in the Include in place of the options. Multiple Options
988   may be specified.  Since the Options may contain regular expressions
989   that are applied to the full filename, this will give the ability
990   to specify backup options on a file by file basis to whatever level
991   of detail you wish.
992
993 Example:
994
995   Today:
996
997     FileSet {
998       Name = "FullSet"
999       Include = compression=GZIP signature=MD5 {
1000         /
1001       }
1002     }
1003
1004   Proposal:
1005
1006     FileSet {
1007       Name = "FullSet"
1008       Include {
1009         Compression = GZIP;
1010         Signature = MD5
1011         Wild  = /*.?*/                # matches all files.
1012         File = /
1013       }
1014     }
1015
1016   That's a lot more to do the same thing, but it gives the ability to
1017   apply options on a file by file basis.  For example, suppose you
1018   want to compress all files but not any file with extensions .gz or .Z.
1019   In that case, you will need to group two sets of options using
1020   the Options resource. Files may be anywhere except in an
1021   option set???  All OptionSets apply to all files in the order
1022   the OptionSets were specified.  To have files included with
1023   different option sets without using wild-cards, use two or more
1024   Includes -- each one is handled in turn using only the files and
1025   optionsets specified in the include.
1026
1027     FileSet {
1028       Name = "FullSet"
1029       Include {
1030         OptionSet {
1031           Signature = MD5
1032           # Note multiple Matches are ORed
1033           Wild  = "*.gz"   # matches .gz files
1034           Wild  = "*.Z"    # matches .Z files
1035         }
1036         OptionSet {
1037           Compression = GZIP
1038           Signature = MD5
1039           Wild  = "*.?*"   # matches all files
1040         }
1041         File = /
1042       }
1043     }
1044
1045   Now, since the no Compression option is specified in the
1046   first group of Options, *.gz or *.Z file will have an MD5 signature computed,
1047   but will not be compressed. For all other files, the *.gz *.Z will not
1048   match, so the second group of options will be used which will include GZIP
1049   compression.
1050
1051 Questions:
1052   - Is it necessary to provide some means of ANDing regular expressions
1053     and negation?  (not currently planned)
1054
1055     e.g.  Wild  = /*.gz/ && !/big.gz/
1056
1057   - I see that Networker has a "null" module which, if specified, does not 
1058     backup the file, but does make an record of the file in the catalog
1059     so that the catalog will reflect an exact picture of the filesystem.
1060     The result is that the file can be "seen" when "browsing" the save
1061     sets, but it cannot be restored.
1062     
1063     Is this really useful?  Should it be implemented in Bacula?
1064   
1065 Results:
1066   After implementing the above, the user will be able to specify
1067   on a file by file basis (using regular expressions) what options are
1068   applied for the backup.
1069
1070
1071 =============================================
1072
1073 ========================================================== 
1074     Unsaved File design
1075 For each Incremental job that is run, there may be files that
1076 were found but not saved because they were locked (this applies
1077 only to Windows). Such a system could send back to the Director
1078 a list of Unsaved files.
1079 Need:
1080 - New UnSavedFiles table that contains:
1081   JobId
1082   PathId
1083   FilenameId
1084 - Then in the next Incremental job, the list of Unsaved Files will be
1085   feed to the FD, who will ensure that they are explicitly chosen even
1086   if standard date/time check would not have selected them.
1087 =============================================================
1088
1089
1090 Done: (see kernsdone for more)
1091
1092 === after 1.32c
1093 - John's Full save failed with 1.32c FD and 1.31 Dir no FD status,
1094   and no error message.
1095 - Add fd and st as Console keywords.
1096 - Recycling volume with a Slot requires an operator intervention:
1097     rufus-dir: Start Backup JobId 18, Job=kernsave.2003-11-01_21.23.52
1098     rufus-dir: Pruned 1 Job on Volume Vol01 from catalog.
1099     rufus-dir: There are no Jobs associated with Volume Vol01. Marking it purged.
1100     rufus-dir: Recycled volume "Vol01"
1101     rufus-sd: Please mount Volume "Vol01" on Storage Device "DDS-4" for Job kernsave.2003-11-01_21.23.52
1102     Use "mount" command to release Job.
1103 - Implement Dan's bacula script (email of 26 Oct).
1104 - Add JobName= to VerifyToCatalog so that all verifies can be done at the end.
1105 - Edit the Client/Storage name into authentication failure messages.
1106 - Fix packet too big problem. This is most likely a Windows TCP stack 
1107   problem.
1108 - Implement ClientRunBeforeJob and ClientRunAfterJob.
1109 - Implement forward spacing block/file: position_device(bsr) --
1110   just before read_block_from_device();
1111
1112 =====
1113    Multiple drive autochanger data:  see Alan Brown
1114    mtx -f xxx unloadStorage Element 1 is Already Full(drive 0 was empty)
1115    Unloading Data Transfer Element into Storage Element 1...source Element 
1116    Address 480 is Empty
1117
1118    (drive 0 was empty and so was slot 1)
1119    >   mtx -f xxx load 15 0
1120    no response, just returns to the command prompt when complete.
1121    >   mtx -f xxx status  Storage Changer /dev/changer:2 Drives, 60 Slots ( 2 Import/Export )
1122    Data Transfer Element 0:Full (Storage Element 15 Loaded):VolumeTag = HX001
1123    Data Transfer Element 1:Empty
1124          Storage Element 1:Empty
1125          Storage Element 2:Full :VolumeTag=HX002
1126          Storage Element 3:Full :VolumeTag=HX003
1127          Storage Element 4:Full :VolumeTag=HX004
1128          Storage Element 5:Full :VolumeTag=HX005
1129          Storage Element 6:Full :VolumeTag=HX006
1130          Storage Element 7:Full :VolumeTag=HX007
1131          Storage Element 8:Full :VolumeTag=HX008
1132          Storage Element 9:Full :VolumeTag=HX009
1133          Storage Element 10:Full :VolumeTag=HX010
1134          Storage Element 11:Empty
1135          Storage Element 12:Empty
1136          Storage Element 13:Empty
1137          Storage Element 14:Empty
1138          Storage Element 15:Empty
1139          Storage Element 16:Empty....
1140          Storage Element 28:Empty
1141          Storage Element 29:Full :VolumeTag=CLNU01L1
1142          Storage Element 30:Empty....
1143          Storage Element 57:Empty
1144          Storage Element 58:Full :VolumeTag=NEX261L2
1145          Storage Element 59 IMPORT/EXPORT:Empty
1146          Storage Element 60 IMPORT/EXPORT:Empty
1147    $  mtx -f xxx unload
1148    Unloading Data Transfer Element into Storage Element 15...done
1149
1150    (just to verify it remembers where it came from, however it can be
1151     overrriden with mtx unload {slotnumber} to go to any storage slot.)
1152    Configuration wise:
1153    There needs to be a table of drive # to devices somewhere - If there are
1154    multiple changers or drives there may not be a 1:1 correspondance between
1155    changer drive number and system device name - and depending on the way the
1156    drives are hooked up to scsi busses, they may not be linearly numbered
1157    from an offset point either.something like 
1158
1159    Autochanger drives = 2
1160    Autochanger drive 0 = /dev/nst1
1161    Autochanger drive 1 = /dev/nst2
1162    IMHO, it would be _safest_ to use explicit mtx unload commands at all
1163    times, not just for multidrive changers. For a 1 drive changer, that's
1164    just:
1165
1166    mtx load xx 0
1167    mtx unload xx 0
1168
1169    MTX's manpage (1.2.15):
1170          unload [<slotnum>] [ <drivenum> ]
1171                     Unloads media from drive  <drivenum>  into  slot
1172                     <slotnum>. If <drivenum> is omitted, defaults to
1173                     drive 0 (as do all commands).  If  <slotnum>  is
1174                     omitted, defaults to the slot that the drive was
1175                     loaded from. Note that there's currently no  way
1176                     to  say  'unload  drive 1's media to the slot it
1177                     came from', other than to  explicitly  use  that
1178                     slot number as the destination.AB
1179 ====
1180
1181 ====
1182 SCSI info:
1183 FreeBSD
1184 undef# camcontrol devlist
1185 <WANGTEK 51000  SCSI M74H 12B3>    at scbus0 target 2 lun 0 (pass0,sa0)
1186 <ARCHIVE 4586XX 28887-XXX 4BGD>    at scbus0 target 4 lun 0 (pass1,sa1)
1187 <ARCHIVE 4586XX 28887-XXX 4BGD>    at scbus0 target 4 lun 1 (pass2)
1188
1189 tapeinfo -f /dev/sg0 with a bad tape in drive 1:
1190 [kern@rufus mtx-1.2.17kes]$ ./tapeinfo -f /dev/sg0
1191 Product Type: Tape Drive
1192 Vendor ID: 'HP      '
1193 Product ID: 'C5713A          '
1194 Revision: 'H107'
1195 Attached Changer: No
1196 TapeAlert[3]:   Hard Error: Uncorrectable read/write error.
1197 TapeAlert[20]:    Clean Now: The tape drive neads cleaning NOW.
1198 MinBlock:1
1199 MaxBlock:16777215
1200 SCSI ID: 5
1201 SCSI LUN: 0
1202 Ready: yes
1203 BufferedMode: yes
1204 Medium Type: Not Loaded
1205 Density Code: 0x26
1206 BlockSize: 0
1207 DataCompEnabled: yes
1208 DataCompCapable: yes
1209 DataDeCompEnabled: yes
1210 CompType: 0x20
1211 DeCompType: 0x0
1212 Block Position: 0
1213 =====
1214
1215 ====
1216    Handling removable disks
1217
1218    From: Karl Cunningham <karlc@keckec.com>
1219
1220    My backups are only to hard disk these days, in removable bays. This is my
1221    idea of how a backup to hard disk would work more smoothly. Some of these
1222    things Bacula does already, but I mention them for completeness. If others
1223    have better ways to do this, I'd like to hear about it.
1224
1225    1. Accommodate several disks, rotated similar to how tapes are.  Identified
1226    by partition volume ID or perhaps by the name of a subdirectory.
1227    2. Abort & notify the admin if the wrong disk is in the bay.
1228    3. Write backups to different subdirectories for each machine to be backed
1229    up.
1230    4. Volumes (files) get created as needed in the proper subdirectory, one
1231    for each backup.
1232    5. When a disk is recycled, remove or zero all old backup files. This is
1233    important as the disk being recycled may be close to full. This may be
1234    better done manually since the backup files for many machines may be
1235    scattered in many subdirectories.
1236 ====
1237
1238
1239 === Done in 1.33
1240 - Change console to bconsole.
1241 - Change smtp to bsmtp.
1242 - Fix time difference problem between Bacula and Client
1243   so that everything is in GMT.
1244 - Fix TimeZone problem!
1245 - Mount a tape that is not right for the job (wrong # files on tape)
1246   Bacula asks for another tape, fix problems with first tape and
1247   say "mount". All works OK, but status shows:
1248    Device /dev/nst0 open but no Bacula volume is mounted.
1249        Total Bytes=1,153,820,213 Blocks=17,888 Bytes/block=64,502
1250        Positioned at File=9 Block=3,951
1251    Full Backup job Rufus.2003-10-26_16.45.31 using Volume "DLT-24Oct03" on device /dev/nst0
1252        Files=21,003 Bytes=253,954,408 Bytes/sec=2,919,016
1253        FDReadSeqNo=192,134 in_msg=129830 out_msg=5 fd=7
1254 - Upgrade to cygwin 1.5
1255 - Optimize fsf not to read.
1256 - Use ioctl() fsf if it exists. Figure out where we are from
1257   the mt_status command. Use slow fsf only if other does not work.
1258 - Enhance "update slots" to include a "scan" feature
1259   scan 1; scan 1-5; scan 1,2,4 ...  to update the catalog 
1260 - Allow a slot or range of slots on the label barcodes command.
1261 - Finish implementation of Verify=DiskToCatalog
1262 - Make sure that Volumes are recycled based on "Least recently used"
1263   rather than lowest MediaId.
1264 - Add flag to write only one EOF mark on the tape.
1265 - Implement autochanger testing in btape "test" command.
1266 - Implement lmark to list everyfile marked.
1267 - Make mark/unmark report how many files marked/unmarked.
1268 - Keep last 5 or 10 completed jobs and show them in a similar list.
1269 - Make a Running Jobs: output similar to current Scheduled Jobs:
1270 - Change "create_media_record in bscan to use Archive instead of Full.
1271 - Have some way to estimate the restore size or have it printed.
1272 - Volume problems occurs if you have valid volume, written, then it is
1273   truncated. You get 12-Nov-2003 11:48 rufus-sd: kernsave.2003-11-12_11.48.09 Warning: mount.c:228 Volume on /tmp is not a Bacula labeled Volume, because:
1274      block.c:640 Read zero bytes on device /tmp.
1275 - Make sure that 64 bit I/O packets are used on Cygwin.
1276 - Add to supported autochangers 
1277   OS              : FreeBSD-4.9
1278   Auto-Changer    : QUALSTAR TLS-4210
1279     Manufufactur  : Qualstar
1280     Tapes         : 12 (AIT1: 36GB, AIT2: 50GB all uncompressed)
1281     Drives        : 2xAIT2 (installed in the Qualstar: SONY SDX-500C AIT2)
1282 - Document estimate command in tree.
1283 - Document lsmark command in tree.
1284 - Setup a standard job that builds a bootstrap file and saves
1285   it with the catalog database.
1286 - See if a restore job can add a file to the tape (prohibit this).
1287 - Restrict characters permitted in a name.
1288 - In restore, provide option for limiting to a particular Pool.
1289 - In restore, list FileSets that only have different base names --
1290   i.e. any FileSet with the same name should be treated as the same.
1291 - Make Scheduler sort jobs by StartTime, Priority.
1292 - Make sure smtp and any other useful program is executable by the world
1293   in case Bacula is not running as root.
1294 - Look at Dan's field width problems in PostgreSQL.
1295 - Look at effect of removing GROUP BYs.
1296 - In restore take all filesets with same base name.
1297 - From Alan Brown <ajb2@mssl.ucl.ac.uk>
1298     BTW, there's a make install bug in 1.33 - with --enable-gnome,
1299     gnome-console is built, but the binary and .conf are not being installed.
1300 - Permit Bacula and apcupsd donations (not done for apcupsd).
1301 - Fix Ctl-C crashing the Console (readline?).
1302 - Look at code in recycle_oldes_purged_volume() recycle.c. Why not
1303   let SQL do ORDER BY LastWritten ASC?
1304 - Look at find_next_volume() algorithm. Currently, it selects:
1305     +---------+------------+---------------------+-----------+
1306     | MediaId | VolumeName | LastWritten         | VolBytes  |
1307     +---------+------------+---------------------+-----------+
1308     |       3 | Test13     | 0000-00-00 00:00:00 |         1 |
1309     |       4 | Test14     | 0000-00-00 00:00:00 |         1 |
1310     |       1 | test11     | 2003-12-03 18:39:55 | 4,004,926 |
1311     |       2 | test12     | 2004-01-04 15:25:56 | 2,078,691 |
1312     +---------+------------+---------------------+-----------+
1313   but perhaps it should fill already used Volumes first, and use
1314   Append volumes before Purged, or Recycled, ...
1315 - Possibly remove the "|| ap == NULL" on lines 123 and 207 of lib/var.c,
1316   which creates compile problems on alpha systems.
1317   var.c:123: no match for `va_list & == long int'
1318 - Check "restore" 3 (JobId), then it asks for Storage resource. Does
1319   it verify that the correct volume is chosen?
1320 - Make Bacula "poll a drive".
1321 - Notes for final checking of Nic's code:
1322   Could I get you to double check the switch () statements in the
1323   job_check_maxwaittime and job_check_maxruntime functions in
1324   src/dird/job.c?
1325 - Define week of year for scheduler.  W01, W02, ...
1326   Week 01 of a year is per definition the first week that has the
1327   Thursday in this year, which is equivalent to the week that contains the
1328   fourth day of January.  In other words, the first week of a new year is
1329   the week that has the majority of its days in the new year.  Week 01
1330   might also contain days from the previous year and the week before week
1331   01 of a year is the last week (52 or 53) of the previous year even if it
1332   contains days from the new year.  A week starts with Monday (day 1) and
1333   ends with Sunday (day 7).  For example, the first week of the year 1997
1334   lasts from 1996-12-30 to 1997-01-05 and can be written in standard
1335   notation as
1336     1997-W01 or 1997W01
1337   The week notation can also be extended by a number indicating the day
1338   of the week.  For example, the day 1996-12-31, which is the Tuesday (day
1339   2) of the first week of 1997, can also be written as
1340     1997-W01-2 or 1997W012
1341 - Either restrict the characters in a name, or fix the problem 
1342   emailing with names containing / (smtp command line breaks).
1343 - Implement .consolerc for Console
1344 - Implement scan: for every slot it finds, zero the slot of
1345   Volume other volume having that slot.
1346 - Make restore job check if all the files are actually restored.
1347 - Look at 2Gb limit for SQLite.
1348 - Fix get_storage_from_media_type (ua_restore) to use command line     
1349   storage=
1350 - Don't print "Warning: Wrong Volume mounted ..." if mounting second volume.
1351 - Write a mini-readline with history and editing.
1352 - Take a careful look a the Basic recycling algorithm.  When Bacula
1353   chooses, the order should be:
1354    - Look for Append
1355    - Look for Recycle or Purged
1356    - Prune volumes
1357    - Look for purged
1358   Instead of using lowest media Id, find the least recently used
1359   volume.
1360
1361   When the tape is mounted and Bacula requests the status
1362   - Do everything possible to use it.
1363
1364   Define a "available" status, which is the currently mounted 
1365   Volume and all volumes that are currently in the autochanger.
1366 - Is a pool specification really needed for a restore?  Yes, and
1367   you may want to exclude archive Pools.
1368 - Implement a PostgreSQL driver.
1369 - Fix restore to list errors if Invalid block found, and if # files
1370   restored does not match # expected.
1371 - Something is not right in last block of fill command.
1372 - Add FileSet to command line arguments for restore.
1373 - Enhance time and size scanning routines.
1374 - Add Console usr permissions -- do by adding filters for
1375   jobs, clients, storage, ...
1376 - Put max network buffer size on a directive.
1377 - Why does "mark cygwin" take so long!!!!!!!!
1378 - Implement alist processing for ACLs from Console.
1379 - When a file is set for restore, walk back up the chain of 
1380   directories, setting them to be restored.
1381 - Figure out a way to set restore on a directory without recursively
1382   decending.  (recurse off?).
1383 - Fix restore to only pull in last Differential and later Incrementals.
1384 - Implement 3 Pools for a Job:
1385    Job {
1386      Name = ...
1387      Full Backup Pool = xxx
1388      Incremental Backup Pool = yyy
1389      Differential Backup Pool = zzz
1390    }
1391 - Look at ASSERT() at 384 src/lib/bnet.c
1392 - Dates are wrong in restore list from Win32 FD.
1393 - Dates are wrong in catalog from Win32 FD.
1394 - Remove h_errno from bnet.c by including proper header.
1395 - For "list jobs" order by EndTime.
1396 - Make two tape fill test work.
1397 - Add atime preservation.
1398 - Do not err job if could not write bootstrap file.
1399 - Save and restore last_job across executions.
1400 - Have each daemon save the last_jobs structure when exiting and
1401   read it back in when starting up.
1402 - "restore jobid=1 select" calls get_storage_xxx, which prints "JobId 1 is
1403   not running."
1404 - Make column listing for running jobs JobId Level Type Started Name  Status
1405 - Why does Bacula need the drive open to do "autochanger list" ?
1406 - Add data compare on write/read in btape "test". 
1407 - Rescue builds incorrect script files on Rufus.  
1408 - Release SQLite 2.8.9
1409 - During install, copy any console.conf to bconsole.conf.