/[webpac]/trunk/all2xml.pl
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/all2xml.pl

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 620 by dpavlin, Sat Jan 1 18:16:21 2005 UTC revision 628 by dpavlin, Sun Jan 2 22:09:01 2005 UTC
# Line 1  Line 1 
1  #!/usr/bin/perl -w  #!/usr/bin/perl -w
2    
3  use strict;  use strict;
4  use OpenIsis;  use IsisDB;
5  use Getopt::Std;  use Getopt::Std;
6  use Data::Dumper;  use Data::Dumper;
7  use XML::Simple;  use XML::Simple;
# Line 687  print STDERR "reading ./import_xml/$type Line 687  print STDERR "reading ./import_xml/$type
687                  my $current = shift;                  my $current = shift;
688                  my $total = shift || 1;                  my $total = shift || 1;
689                  my $p = int($current * 100 / $total);                  my $p = int($current * 100 / $total);
690                  if ($p != $last_p) {                  if ($p < $last_p || $current == 1) {
691                            $start_t = time();
692                            $last_p = 0;
693                    } elsif ($p != $last_p) {
694                          my $rate = ($current / (time() - $start_t || 1));                          my $rate = ($current / (time() - $start_t || 1));
695                          my $eta = ($total-$current) / ($rate || 1);                          my $eta = ($total-$current) / ($rate || 1);
696                          printf STDERR ("%5d [%-38s] %-5d %0.1f/s %s\r",$current,"=" x ($p/3)."$p%>", $total, $rate, fmt_time($eta));                          printf STDERR ("%5d [%-38s] %-5d %0.1f/s %s\r",$current,"=" x ($p/3)."$p%>", $total, $rate, fmt_time($eta));
# Line 696  print STDERR "reading ./import_xml/$type Line 699  print STDERR "reading ./import_xml/$type
699          }          }
700    
701          my $fake_dir = 1;          my $fake_dir = 1;
702            my $fake_pos = 0;
703            my $last_fake_t = time();
704          sub fakeprogress {          sub fakeprogress {
705                  return if (! $show_progress);                  return if (! $show_progress);
706                  my $current = shift @_;                  my $current = shift @_;
707    
708                  my @ind = ('-','\\','|','/','-','\\','|','/', '-');                  my @ind = ('-','\\','|','/','-','\\','|','/');
709    
710                  $last_p += $fake_dir;                  if ($current < $fake_pos) {
711                  $fake_dir = -$fake_dir if ($last_p > 1000 || $last_p < 0);                          $start_t = time();
712                  if ($last_p % 10 == 0) {                          $last_fake_t = 0;
713                          printf STDERR ("%5d / %5s [%-51s]\r",$current,"?"," " x ($last_p/20).$ind[($last_p/20) % $#ind]);                          $fake_dir = 1;
714                            $fake_pos = 0;
715                    }
716    
717                    if (time()-$last_fake_t >= 1) {
718                            $last_fake_t = time();
719                            $fake_pos += $fake_dir;
720                            $fake_dir = -$fake_dir if ($fake_pos > 38);
721                    }
722    
723                    if ($current % 10 == 0) {
724                            my $rate = ($current / (time() - $start_t || 1));
725                            printf STDERR ("%5d [%-38s] %0.1f/s\r",$current, " " x $fake_pos .$ind[($current / 10) % 8], $rate);
726                  }                  }
727          }          }
728    
# Line 720  print STDERR "using: $type...\n"; Line 737  print STDERR "using: $type...\n";
737                  my $isis_db = $cfg -> val($database, 'isis_db') || die "$database doesn't have 'isis_db' defined!";                  my $isis_db = $cfg -> val($database, 'isis_db') || die "$database doesn't have 'isis_db' defined!";
738    
739                  $import2cp = Text::Iconv->new($config->{isis_codepage},$codepage);                  $import2cp = Text::Iconv->new($config->{isis_codepage},$codepage);
740                  my $db = OpenIsis::open( $isis_db );                  my $db = new IsisDB( isisdb => $isis_db );
741    
742                  # check if .txt database for OpenIsis is zero length,                  my $max_rowid = $db->{'maxmfn'} || die "can't find maxmfn";
                 # if so, erase it and re-open database  
                 sub check_txt_db {  
                         my $isis_db = shift || die "need isis database name";  
                         my $reopen = 0;  
   
                         if (-e $isis_db.".TXT") {  
                                 print STDERR "WARNING: removing $isis_db.TXT OpenIsis database...\n";  
                                 unlink $isis_db.".TXT" || warn "FATAL: unlink error on '$isis_db.TXT': $!";  
                                 $reopen++;  
                         }  
                         if (-e $isis_db.".PTR") {  
                                 print STDERR "WARNING: removing $isis_db.PTR OpenIsis database...\n";  
                                 unlink $isis_db.".PTR" || warn "FATAL: unlink error on '$isis_db.PTR': $!";  
                                 $reopen++;  
                         }  
                         return OpenIsis::open( $isis_db ) if ($reopen);  
                 }  
   
                 # EOF error  
                 if ($db == -1) {  
                         $db = check_txt_db($isis_db);  
                         if ($db == -1) {  
                                 print STDERR "FATAL: OpenIsis can't open zero size file $isis_db\n";  
                                 next;  
                         }  
                 }  
   
                 # OpenIsis::ERR_BADF  
                 if ($db == -4) {  
                         print STDERR "FATAL: OpenIsis can't find file $isis_db\n";  
                         next;  
                 # OpenIsis::ERR_IO  
                 } elsif ($db == -5) {  
                         print STDERR "FATAL: OpenIsis can't access file $isis_db\n";  
                         next;  
                 } elsif ($db < 0) {  
                         print STDERR "FATAL: OpenIsis unknown error $db with file $isis_db\n";  
                         next;  
                 }  
   
                 my $max_rowid = OpenIsis::maxRowid( $db );  
   
                 # if 0 records, try to rease isis .txt database  
                 if ($max_rowid == 0) {  
                         # force removal of database  
                         $db = check_txt_db($isis_db);  
                         $max_rowid = OpenIsis::maxRowid( $db );  
                 }  
743    
744                  print STDERR "Reading database: $isis_db [$max_rowid rows]\n";                  print STDERR "Reading database: $isis_db [$max_rowid rows]\n";
745    
746                  my $path = $database;                  my $path = $database;
747    
748                  for (my $row_id = 1; $row_id <= $max_rowid; $row_id++ ) {                  for (my $row_id = 1; $row_id <= $max_rowid; $row_id++ ) {
749                          my $row = OpenIsis::read( $db, $row_id );                          my $row = $db->to_hash( $row_id );
750                          if ($row && $row->{mfn}) {                          if ($row) {
751            
752                                    $row->{mfn} = $row_id;
753                                    $row->{record} = $db->{record};
754    
755                                  progress($row->{mfn}, $max_rowid);                                  progress($row->{mfn}, $max_rowid);
756    
757                                  my $swishpath = $path."#".int($row->{mfn});                                  my $swishpath = $path."#".int($row->{mfn});
# Line 793  print STDERR "using: $type...\n"; Line 765  print STDERR "using: $type...\n";
765                                  }                                  }
766                          }                          }
767                  }                  }
                 # for this to work with current version of OpenIsis (0.9.0)  
                 # you might need my patch from  
                 # http://www.rot13.org/~dpavlin/projects/openisis-0.9.0-perl_close.diff  
                 OpenIsis::close($db);  
768                  print STDERR "\n";                  print STDERR "\n";
769    
770          } elsif ($type_base eq "excel") {          } elsif ($type_base eq "excel") {
# Line 964  all2xml.pl - read various file formats a Line 932  all2xml.pl - read various file formats a
932    
933  =head1 DESCRIPTION  =head1 DESCRIPTION
934    
935  This command will read ISIS data file using OpenIsis perl module, MARC  This command will read ISIS data file using IsisDB perl module, MARC
936  records using MARC module and optionally Micro$oft Excel files to  records using MARC module and optionally Micro$oft Excel files to
937  create one XML file for usage with I<SWISH-E> indexer. Dispite it's name,  create one XML file for usage with I<SWISH-E> indexer. Dispite it's name,
938  this script B<isn't general xml generator> from isis files (isis allready  this script B<isn't general xml generator> from isis files (isis allready
Legend:
Removed from v.620  
changed lines
  Added in v.628
  ViewVC Help
Powered by ViewVC 1.1.26