/[BackupPC]/trunk/bin/BackupPC_burnArchiveCLI
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/bin/BackupPC_burnArchiveCLI

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 188 by dpavlin, Wed Oct 12 16:49:02 2005 UTC revision 287 by dpavlin, Sun Jan 15 14:00:14 2006 UTC
# Line 1  Line 1 
1  #!/usr/local/bin/perl  #!/usr/bin/perl
2    
3  use strict;  use strict;
4  #use lib "__INSTALLDIR__/lib";  use lib "__INSTALLDIR__/lib";
 # FIXME  
 use lib "/data/backuppc/lib";  
5    
6  use DBI;  use DBI;
7  use BackupPC::Lib;  use BackupPC::Lib;
# Line 11  use BackupPC::SearchLib; Line 9  use BackupPC::SearchLib;
9  use Time::HiRes qw/time/;  use Time::HiRes qw/time/;
10  use POSIX qw/strftime/;  use POSIX qw/strftime/;
11  use Term::Menus;  use Term::Menus;
12    use File::Which;
13    use File::Path;
14    
15  use Data::Dumper;  use Data::Dumper;
16    
17  my $debug = 0;  my $debug = 0;
18  $|=1;  $|=1;
19    
 my $start_t = time();  
   
 my $t_fmt = '%Y-%m-%d %H:%M:%S';  
   
20  # don't check for user  # don't check for user
21  my $bpc = BackupPC::Lib->new(undef, undef, 1) || die;  my $bpc = BackupPC::Lib->new(undef, undef, 1) || die;
22  my %Conf = $bpc->Conf();  my %Conf = $bpc->Conf();
23  %BackupPC::SearchLib::Conf = %Conf;  %BackupPC::SearchLib::Conf = %Conf;
24    
25    my $conf_bin;
26    
27    $conf_bin->{'cdrecord'} = $Conf{CDRecordBin} || die "Need CDRecordBin in config.pl\n";
28    my $cdr_opts = $Conf{CDRecordOpts} || die "Need CDRecordOpts in config.pl\n";
29    $conf_bin->{'eject'} = $Conf{ejectBin} || die "Need ejectBin in config.pl\n";
30    my $eject_opts = $Conf{ejectOpts} || die "Need ejectOpts in config.pl\n";
31    $conf_bin->{'mkisofs'} = $Conf{mkisofsBin} || die "Need mkisofsBin in config.pl\n";
32    
33    
34    my $bin;
35    foreach my $c (qw/cdrecord eject mkisofs/) {
36            $bin->{$c} = which($conf_bin->{$c}) || die "$0 needs $c ($conf_bin->{$c}), install it\n";
37    }
38    
39    my $start_t = time();
40    
41    my $t_fmt = '%Y-%m-%d %H:%M:%S';
42    
43    
44  my $dsn = $Conf{SearchDSN} || die "Need SearchDSN in config.pl\n";  my $dsn = $Conf{SearchDSN} || die "Need SearchDSN in config.pl\n";
45  my $user = $Conf{SearchUser} || '';  my $user = $Conf{SearchUser} || '';
46    
# Line 58  sub curr_time { Line 73  sub curr_time {
73  sub dumpArchive2XML($$$)  sub dumpArchive2XML($$$)
74  {  {
75          my ($dbh, $dvd_nr, $filename) = @_;          my ($dbh, $dvd_nr, $filename) = @_;
76          my %archive;              my %archive;
77          my $output = new IO::File(">$filename");  
78            my $output = new IO::File('> '.$filename.'.tmp');
79          my $writer = new XML::Writer(OUTPUT=>$output, NEWLINES => 1);          my $writer = new XML::Writer(OUTPUT=>$output, NEWLINES => 1);
80    
81            print "Dumping file list for DVD $dvd_nr, countdown:";
82    
83            $writer->pi('xml-stylesheet', 'href="archive.css" type="text/css"');
84    
85          my $files_sql = q{          my $files_sql = q{
86                  SELECT                  SELECT
87                          files.path AS path,                          files.path AS path,
# Line 97  sub dumpArchive2XML($$$) Line 117  sub dumpArchive2XML($$$)
117    
118          my $row_h;          my $row_h;
119          foreach my $hide (qw/id note/) {          foreach my $hide (qw/id note/) {
120                  $row_h->{$hide} = $row->{$hide} || die "no $hide";                  $row_h->{$hide} = $row->{$hide} || '';
121                  delete $row->{$hide};                  delete $row->{$hide};
122          }          }
123    
# Line 110  sub dumpArchive2XML($$$) Line 130  sub dumpArchive2XML($$$)
130          my $sth_backups = $dbh->prepare( $backups_sql );          my $sth_backups = $dbh->prepare( $backups_sql );
131          $sth_backups->execute( $row_h->{'id'} );          $sth_backups->execute( $row_h->{'id'} );
132    
133            my $total_backups = $sth_backups->rows;
134            my $curr_backup = 0;
135            my $last_pcnt = 0;
136    
137          while (my $row = $sth_backups->fetchrow_hashref()) {          while (my $row = $sth_backups->fetchrow_hashref()) {
138    
139                    $curr_backup++;
140                    my $pcnt = int(($curr_backup * 10) / $total_backups);
141                    if ($pcnt > $last_pcnt) {
142                            print " ",(10 - $pcnt);
143                            $last_pcnt = $pcnt;
144                    }
145    
146                  my $sth_files = $dbh->prepare( $files_sql);                  my $sth_files = $dbh->prepare( $files_sql);
147                  $sth_files->execute($row->{'backup_id'});                  $sth_files->execute($row->{'backup_id'});
148    
149                  delete($row->{'backup_id'});                  delete($row->{'backup_id'});
150                    $row->{'date'} = strftime($t_fmt,gmtime($row->{'date'}));
151    
152                  $writer->startTag( "backup", %{$row} );                  $writer->startTag( "backup", %{$row} );
153    
154                  while (my $row = $sth_files->fetchrow_hashref()) {                  while (my $row = $sth_files->fetchrow_hashref()) {
155                          # convert filetype to string                          # convert filetype to string
156                          $row->{'type'} = BackupPC::Attrib::fileType2Text(undef, $row->{'type'});                          $row->{'type'} = BackupPC::Attrib::fileType2Text(undef, $row->{'type'});
157                            $row->{'date'} = strftime($t_fmt,gmtime($row->{'date'}));
158                          my $path = $row->{'path'}; delete $row->{'path'};                          my $path = $row->{'path'}; delete $row->{'path'};
159    
160                          $writer->startTag("file", %{$row});                          $writer->startTag("file", %{$row});
# Line 133  sub dumpArchive2XML($$$) Line 166  sub dumpArchive2XML($$$)
166                                                    
167          $writer->endTag("archive");          $writer->endTag("archive");
168          $writer->end();          $writer->end();
169            
170            rename $filename.'.tmp', $filename || die "can't rename $filename: $!";
171    
172            print "\n";
173  }  }
174    
175    
# Line 212  sub skip($) { Line 248  sub skip($) {
248          goto SKIP;          goto SKIP;
249  }  }
250    
251  my $sth_archive_backup = $dbh->prepare( qq{  sub add_symlink($$) {
252            my ($from, $to) = @_;
253            symlink $from, $to || skip("can't symlink $from to $to: $!");
254    }
255    
256    my $sth_archive_backup_parts = $dbh->prepare( qq{
257          select          select
258                  backup_id,                  archive_backup.backup_id,
259                  archive_id,                  archive_id,
260                  hosts.name as host,                  hosts.name as host,
261                  shares.name as share,                  shares.name as share,
262                  backups.num as num                  backups.num as num,
263                    backups.parts as parts,
264                    backup_parts.part_nr as part_nr,
265                    backup_parts.size as part_size,
266                    backup_parts.md5 as md5,
267                    backup_parts.items
268          from archive_backup          from archive_backup
269          join archive on archive_id = archive.id          join archive on archive_id = archive.id
270          join backups on backup_id = backups.id          join backups on archive_backup.backup_id = backups.id
271          join hosts on hostid = hosts.id          join hosts on hostid = hosts.id
272          join shares on shareid = shares.id          join shares on shareid = shares.id
273            join backup_parts on archive_backup.backup_id = backup_parts.backup_id
274          where archive.dvd_nr = ?          where archive.dvd_nr = ?
275            order by archive_backup.backup_id, backup_parts.part_nr
276  });  });
277    
278  my $sth_archive_burned = $dbh->prepare( qq{  my $sth_archive_burned = $dbh->prepare( qq{
279          insert into archive_burned          insert into archive_burned
280                  (archive_id, iso_size)                  (archive_id, iso_size, part, copy)
281          values ( (select id from archive where dvd_nr =?), ?)          values ( (select id from archive where dvd_nr =?), ?, ?, ?)
282  });  });
283    
284  foreach my $arc (@archives_to_burn) {  foreach my $arc (@archives_to_burn) {
# Line 245  foreach my $arc (@archives_to_burn) { Line 293  foreach my $arc (@archives_to_burn) {
293    
294          print "Working on DVD #$dvd_nr in $tmp_dir\n";          print "Working on DVD #$dvd_nr in $tmp_dir\n";
295    
296          my $list_file = my $iso_file = my $xml_file = "${iso_dir}/${dvd_nr}";          $sth_archive_backup_parts->execute($dvd_nr);
297          $list_file .= '.list';  
298          $iso_file .= '.iso';          if ($sth_archive_backup_parts->rows == 0) {
299          $xml_file .= '.xml';                  warn "ERROR: no backup parts found for $dvd_nr. You should re-create that DVD.\n";
300                    print "Do you want to delete invalid DVD #$dvd_nr now? [NO/yes]: ";
301          if (-e $iso_file) {                  my $ok = <STDIN>;
302                  print "ISO $iso_file allready exists\n";                  chomp($ok);
303                  goto BURN;                  if (lc($ok) eq 'yes') {
304                            print "Deleting DVD #$dvd_nr from database...\n";
305    
306                            $dbh->begin_work;
307    
308                            my $sth_delete_dvd = $dbh->prepare( qq{
309                                    delete from archive where dvd_nr = ?
310                            } );
311                            $sth_delete_dvd->execute( $dvd_nr );
312                            $dbh->do( qq{
313                                    select setval('dvd_nr', (select max(dvd_nr) from archive), true)
314                            } );
315    
316                            $dbh->commit;
317                    }
318            }
319    
320            my @volumes;
321            my $v;  # emtpy volume
322            my $v_size = 0;
323    
324            my $max_archive_size = $Conf{MaxArchiveSize} || die "no MaxArchiveSize";
325            while (my $row = $sth_archive_backup_parts->fetchrow_hashref) {
326                    if (($v->{size} || 0) + $row->{part_size} > $max_archive_size) {
327                            push @volumes, $v;
328                            $v = {};
329                    }
330                    $v->{size} += $row->{part_size};
331                    # this part
332                    my $p = {
333                            filename => BackupPC::SearchLib::getGzipName($row->{'host'}, $row->{'share'}, $row->{'num'}),
334                    };
335                    foreach my $fld (qw/part_nr md5/) {
336                            $p->{$fld} = $row->{$fld} || die "missing $fld in row!";
337                    }
338                    push @{ $v->{parts} }, $p;
339          }          }
340            push @volumes, $v if ($v);
341    
342          $sth_archive_backup->execute($dvd_nr);          #warn "# volumes: ",Dumper(\@volumes),"\n";
343    
344          open(my $list, "> $list_file") || skip "can't open $list_file: $!";          my $volumes = $#volumes + 1;
345            my $volume_nr = 1;
346    
347          my $inc = 0;          foreach my $v (@volumes) {
348    
349          while (my $row = $sth_archive_backup->fetchrow_hashref) {                  #print Dumper($v);
                 my $tar_file = BackupPC::SearchLib::getGzipName($row->{'host'}, $row->{'share'}, $row->{'num'});  
                 skip "can't find increment $tar_file: $!" unless (-r "$tar_dir/$tar_file");  
                 print $list "$tar_dir/$tar_file\n";  
                 $inc++;  
350    
351          }                  my $iso_size = 0;
352                    my $disk_name = $dvd_nr;
353                    # suffix added to multi-volume archives
354                    my $volume_suffix = $dvd_nr;
355    
356                    if ($volumes > 1) {
357                            $volume_suffix = '_' . $volume_nr;
358                            $disk_name .= ' ' . $volume_nr . '/' . $volumes;
359                    }
360    
361          # FIXME add file list in xml and txt and note file                  print "Processing DVD #$dvd_nr, volume $volume_nr/$volumes\n";
362    
363          dumpArchive2XML($dbh, $dvd_nr, $xml_file);                  my $iso_file = my $xml_file = my $stage =
364          print $list "$xml_file\n";                          "${iso_dir}/${dvd_nr}";
365    
366          close($list);                  $iso_file .= $volume_suffix . '.iso';
367                    $xml_file .= '.xml';
368    
369          print "Running mkisofs now for $inc increments...\n";                  $stage .= $volume_suffix . '.stage';
370    
371          my $cmd = qq{ mkisofs -A BackupPC -gui -J -r -T --input-charset ISO-8859-2 -V $dvd_nr -o $iso_file -path-list $list_file };                  my $md5_file = "${stage}/${dvd_nr}${volume_suffix}.md5";
372    
373          system($cmd) == 0 or skip "can't run $cmd: $?";                  #
374                    # check if ISO file exists
375                    #
376    
377          my $size = (stat($iso_file))[7];                  if (! -e $iso_file) {
378    
379          print "Created $iso_file [$size bytes] in ", fmt_time(time() - $t), "\n";                          # create stage directory
380                            if (-e $stage) {
381                                    rmtree($stage) || die "can't remove $stage: $!";
382                            }
383                            mkpath($stage);
384    
385  BURN:                          # open file for md5sums
386          # FIXME add call to cdrecord here!                          open(my $md5, "> $md5_file") || skip "can't open $md5_file: $!";
387          $sth_archive_burned->execute($dvd_nr, $size);  
388          print "Media burn for $dvd_nr recorded\n";                          my $parts_on_this_volume = 0;
389    
390                            foreach my $p (@{ $v->{parts} }) {
391                                    my $tar_file = $p->{filename} || die "no filename in part", Dumper($p);
392                                    my $rel_path = $tar_file;
393    
394                                    if (-d "$tar_dir/$rel_path") {
395                                            mkpath("$stage/$rel_path") unless (-d "$stage/$rel_path");
396                                            $rel_path .= '/' . $p->{part_nr};
397                                    }
398                                    $rel_path .= '.tar.gz';
399    
400                                    skip "can't find increment $rel_path: $!" unless (-r "$tar_dir/$rel_path");
401    
402                                    add_symlink("$tar_dir/$rel_path", "$stage/$rel_path");
403    
404                                    my $md5sum = $p->{md5} || die "no md5 in part ", Dumper($p);
405                                    chomp($md5sum);
406                                    print $md5 "$md5sum  $rel_path\n" || die "can't write md5sum: $!";
407    
408                                    $parts_on_this_volume++;
409                            }
410    
411                            # add file list and note in xml
412                            dumpArchive2XML($dbh, $dvd_nr, $xml_file) unless (-f $xml_file);
413    
414                            add_symlink($xml_file, "$stage/${dvd_nr}.xml");
415    
416                            # add css file for archive
417                            my $css_file = $Conf{CgiImageDir} . '/archive.css';
418                            if (-r $css_file) {
419                                    add_symlink($css_file, "$stage/archive.css");
420                            } else {
421                                    print "WARNING: missing $css_file, not added to iso image!\n";
422                            }
423    
424                            print "Running mkisofs now for $parts_on_this_volume increments, disk $disk_name\n";
425    
426                            my $cmd = $bin->{'mkisofs'} . qq{ -A BackupPC -gui -J -r -T --input-charset ISO-8859-2 -V "$disk_name" -o ${iso_file}.tmp -f $stage };
427    
428                            system($cmd) == 0 or skip "can't run $cmd: $?";
429    
430                            rename $iso_file.'.tmp', $iso_file || skip "can't rename $iso_file: $!";
431    
432                            $iso_size = (stat($iso_file))[7];
433    
434                            print "Created $iso_file [$iso_size bytes] in ", fmt_time(time() - $t), "\n";
435    
436                            rmtree($stage) || warn "can't remove stage directory $stage: $!";
437    
438                    } else {
439                            print "ISO $iso_file allready exists\n";
440                    }
441    
442                    my $copies = $Conf{BurnMultipleCopies} || 1;
443    
444                    foreach my $copy_nr ( 1 .. $copies ) {
445    
446                            print "\nREADY TO BURN MEDIA $disk_name copy $copy_nr\n\nPlease insert blank media and press ENTER\n\n";
447    
448                            system($bin->{'eject'}.' '.$eject_opts) == 0 or skip "can't run eject: $?";
449    
450                            my $wait = <STDIN>;
451    
452                            my $cmd = $bin->{'cdrecord'} . ' ' . $cdr_opts . ' ' . $iso_file;
453    
454                            # FIXME
455                            print "## $cmd\n";
456                            system($cmd) == 0 or skip "can't run $cmd: $?";
457    
458                            print "\n\nPLEASE REMOVE DVD MEDIA AND LABEL IT WITH $disk_name\n\n";
459    
460                            $sth_archive_burned->execute($dvd_nr, $iso_size, $volume_nr, $copy_nr);
461    
462                            print "Media burn for $disk_name copy $copy_nr recorded\n";
463                    }
464    
465                    $volume_nr++;
466            }
467    
468  SKIP:  SKIP:
469    
# Line 298  SKIP: Line 472  SKIP:
472  #my $tar_file = BackupPC::SearchLib::getGzipName($row->{'host'}, $row->{'share'}, $row->{'num'});  #my $tar_file = BackupPC::SearchLib::getGzipName($row->{'host'}, $row->{'share'}, $row->{'num'});
473  #print curr_time, sprintf(" %s:%s %-3d ", $row->{'host'}, $row->{'share'}, $row->{'num'}), " -> $tar_file ";  #print curr_time, sprintf(" %s:%s %-3d ", $row->{'host'}, $row->{'share'}, $row->{'num'}), " -> $tar_file ";
474    
475    print "Recoding finished, exiting...\n";
476    
477  $sth->finish;  $sth->finish;
478    $sth_archive_backup_parts->finish;
479    $sth_archive_burned->finish;
480    
481  $dbh->disconnect;  $dbh->disconnect;
482    
Legend:
Removed from v.188  
changed lines
  Added in v.287
  ViewVC Help
Powered by ViewVC 1.1.26