/[webpac]/trunk/all2xml.pl
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/all2xml.pl

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 618 by dpavlin, Fri Dec 31 03:35:43 2004 UTC revision 626 by dpavlin, Sun Jan 2 00:53:33 2005 UTC
# Line 1  Line 1 
1  #!/usr/bin/perl -w  #!/usr/bin/perl -w
2    
3  use strict;  use strict;
4  use OpenIsis;  use IsisDB;
5  use Getopt::Std;  use Getopt::Std;
6  use Data::Dumper;  use Data::Dumper;
7  use XML::Simple;  use XML::Simple;
# Line 687  print STDERR "reading ./import_xml/$type Line 687  print STDERR "reading ./import_xml/$type
687                  my $current = shift;                  my $current = shift;
688                  my $total = shift || 1;                  my $total = shift || 1;
689                  my $p = int($current * 100 / $total);                  my $p = int($current * 100 / $total);
690                  if ($p != $last_p) {                  if ($p < $last_p) {
691                            $start_t = time();
692                    } elsif ($p != $last_p) {
693                          my $rate = ($current / (time() - $start_t || 1));                          my $rate = ($current / (time() - $start_t || 1));
694                          my $eta = ($total-$current) / ($rate || 1);                          my $eta = ($total-$current) / ($rate || 1);
695                          printf STDERR ("%5d [%-38s] %-5d %0.1f/s %s\r",$current,"=" x ($p/3)."$p%>", $total, $rate, fmt_time($eta));                          printf STDERR ("%5d [%-38s] %-5d %0.1f/s %s\r",$current,"=" x ($p/3)."$p%>", $total, $rate, fmt_time($eta));
# Line 720  print STDERR "using: $type...\n"; Line 722  print STDERR "using: $type...\n";
722                  my $isis_db = $cfg -> val($database, 'isis_db') || die "$database doesn't have 'isis_db' defined!";                  my $isis_db = $cfg -> val($database, 'isis_db') || die "$database doesn't have 'isis_db' defined!";
723    
724                  $import2cp = Text::Iconv->new($config->{isis_codepage},$codepage);                  $import2cp = Text::Iconv->new($config->{isis_codepage},$codepage);
725                  my $db = OpenIsis::open( $isis_db );                  my $db = new IsisDB( isisdb => $isis_db );
726    
727                  # check if .txt database for OpenIsis is zero length,                  my $max_rowid = $db->{'maxmfn'} || die "can't find maxmfn";
                 # if so, erase it and re-open database  
                 sub check_txt_db {  
                         my $isis_db = shift || die "need isis database name";  
                         my $reopen = 0;  
   
                         if (-e $isis_db.".TXT") {  
                                 print STDERR "WARNING: removing $isis_db.TXT OpenIsis database...\n";  
                                 unlink $isis_db.".TXT" || warn "FATAL: unlink error on '$isis_db.TXT': $!";  
                                 $reopen++;  
                         }  
                         if (-e $isis_db.".PTR") {  
                                 print STDERR "WARNING: removing $isis_db.PTR OpenIsis database...\n";  
                                 unlink $isis_db.".PTR" || warn "FATAL: unlink error on '$isis_db.PTR': $!";  
                                 $reopen++;  
                         }  
                         return OpenIsis::open( $isis_db ) if ($reopen);  
                 }  
   
                 # EOF error  
                 if ($db == -1) {  
                         $db = check_txt_db($isis_db);  
                         if ($db == -1) {  
                                 print STDERR "FATAL: OpenIsis can't open zero size file $isis_db\n";  
                                 next;  
                         }  
                 }  
   
                 # OpenIsis::ERR_BADF  
                 if ($db == -4) {  
                         print STDERR "FATAL: OpenIsis can't find file $isis_db\n";  
                         next;  
                 # OpenIsis::ERR_IO  
                 } elsif ($db == -5) {  
                         print STDERR "FATAL: OpenIsis can't access file $isis_db\n";  
                         next;  
                 } elsif ($db < 0) {  
                         print STDERR "FATAL: OpenIsis unknown error $db with file $isis_db\n";  
                         next;  
                 }  
   
                 my $max_rowid = OpenIsis::maxRowid( $db );  
   
                 # if 0 records, try to rease isis .txt database  
                 if ($max_rowid == 0) {  
                         # force removal of database  
                         $db = check_txt_db($isis_db);  
                         $max_rowid = OpenIsis::maxRowid( $db );  
                 }  
728    
729                  print STDERR "Reading database: $isis_db [$max_rowid rows]\n";                  print STDERR "Reading database: $isis_db [$max_rowid rows]\n";
730    
731                  my $path = $database;                  my $path = $database;
732    
733                  for (my $row_id = 1; $row_id <= $max_rowid; $row_id++ ) {                  for (my $row_id = 1; $row_id <= $max_rowid; $row_id++ ) {
734                          my $row = OpenIsis::read( $db, $row_id );                          my $row = $db->to_hash( $row_id );
735                          if ($row && $row->{mfn}) {                          if ($row) {
736            
737                                    $row->{mfn} = $row_id;
738                                    $row->{record} = $db->{record};
739    
740                                  progress($row->{mfn}, $max_rowid);                                  progress($row->{mfn}, $max_rowid);
741    
742                                  my $swishpath = $path."#".int($row->{mfn});                                  my $swishpath = $path."#".int($row->{mfn});
# Line 793  print STDERR "using: $type...\n"; Line 750  print STDERR "using: $type...\n";
750                                  }                                  }
751                          }                          }
752                  }                  }
                 # for this to work with current version of OpenIsis (0.9.0)  
                 # you might need my patch from  
                 # http://www.rot13.org/~dpavlin/projects/openisis-0.9.0-perl_close.diff  
                 OpenIsis::close($db);  
753                  print STDERR "\n";                  print STDERR "\n";
754    
755          } elsif ($type_base eq "excel") {          } elsif ($type_base eq "excel") {
# Line 860  print STDERR "using: $type...\n"; Line 813  print STDERR "using: $type...\n";
813                  }                  }
814          } elsif ($type_base eq "marc") {          } elsif ($type_base eq "marc") {
815    
816                  require MARC;                  require MARC::File::USMARC;
817                                    
818                  $import2cp = Text::Iconv->new($config->{marc_codepage},$codepage);                  $import2cp = Text::Iconv->new($config->{marc_codepage},$codepage);
819                  my $marc_file = $cfg -> val($database, 'marc_file') || die "$database doesn't have 'marc_file' defined!";                  my $marc_file = $cfg -> val($database, 'marc_file') || die "$database doesn't have 'marc_file' defined!";
820    
821                  # optional argument is format                  # optional argument is format
822                  my $format = x($config->{marc_format}) || 'usmarc';                  warn "marc_format is no longer used!" if ($config->{marc_format});
   
823                  print STDERR "Reading MARC file '$marc_file'\n";                  print STDERR "Reading MARC file '$marc_file'\n";
824    
825                  my $marc = new MARC;                  my $marc = MARC::File::USMARC->in( $marc_file )
826                  my $nr = $marc->openmarc({                          || die "Can't open MARC file '$marc_file': ".$MARC::File::ERROR;
                                 file=>$marc_file, format=>$format  
                         }) || die "Can't open MARC file '$marc_file' with format '$format'";  
827    
828                  # read MARC file in memory                  # count records in MARC file
829                  $marc->nextmarc(-1);                  sub marc_count {
830                            my $filename = shift || die;
831                            my $file = MARC::File::USMARC->in($filename) || die $MARC::File::ERROR;
832                            my $count = 0;
833                            while ($file->skip()) {
834                                    $count++;
835                            }
836                            return $count;
837                    }
838    
839                  my $max_rec = $marc->marc_count();                  my $count = marc_count($marc_file) || warn "no records in '$marc_file'?";
840    
841                  for(my $i=1; $i<=$max_rec; $i++) {                  my $i = 0;
842    
843                          progress($i,$max_rec);                  while( my $rec = $marc->next() ) {
844    
845                          # store value for marc_sf.pm                          progress($i++,$count);
                         $main::cache->{marc_record} = $i;  
846    
847                          my $swishpath = $database."#".$i;                          my $swishpath = $database."#".$i;
848    
849                          if (my $xml = data2xml($type_base,$marc,$add_xml,$cfg,$database)) {                          if (my $xml = data2xml($type_base,$rec,$add_xml,$cfg,$database)) {
850                                  $xml = $cp2utf->convert($xml);                                  $xml = $cp2utf->convert($xml);
851                                  use bytes;      # as opposed to chars                                  use bytes;      # as opposed to chars
852                                  print "Path-Name: $swishpath\n";                                  print "Path-Name: $swishpath\n";
# Line 960  all2xml.pl - read various file formats a Line 917  all2xml.pl - read various file formats a
917    
918  =head1 DESCRIPTION  =head1 DESCRIPTION
919    
920  This command will read ISIS data file using OpenIsis perl module, MARC  This command will read ISIS data file using IsisDB perl module, MARC
921  records using MARC module and optionally Micro$oft Excel files to  records using MARC module and optionally Micro$oft Excel files to
922  create one XML file for usage with I<SWISH-E> indexer. Dispite it's name,  create one XML file for usage with I<SWISH-E> indexer. Dispite it's name,
923  this script B<isn't general xml generator> from isis files (isis allready  this script B<isn't general xml generator> from isis files (isis allready
Legend:
Removed from v.618  
changed lines
  Added in v.626
  ViewVC Help
Powered by ViewVC 1.1.26