/[webpac]/trunk/all2xml.pl
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/all2xml.pl

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 379 by dpavlin, Wed Jul 7 09:55:45 2004 UTC revision 623 by dpavlin, Sat Jan 1 19:09:53 2005 UTC
# Line 1  Line 1 
1  #!/usr/bin/perl -w  #!/usr/bin/perl -w
2    
3  use strict;  use strict;
4  use OpenIsis;  use IsisDB;
5  use Getopt::Std;  use Getopt::Std;
6  use Data::Dumper;  use Data::Dumper;
7  use XML::Simple;  use XML::Simple;
# Line 139  sub data2xml { Line 139  sub data2xml {
139                  } else {                  } else {
140                          print STDERR "WARNING: field '$field' doesn't have 'name' attribute!";                          print STDERR "WARNING: field '$field' doesn't have 'name' attribute!";
141                  }                  }
142    
143                  if ($field_name) {                  if ($field_name) {
144                            $field_name = x($field_name);
145                          if (! $last_field_name) {                          if (! $last_field_name) {
146                                  $last_field_name = x($field_name);                                  $last_field_name = $field_name;
147                                  return $last_field_name;                                  return $last_field_name;
148                          } elsif ($field_name ne $last_field_name) {                          } elsif ($field_name ne $last_field_name) {
149                                  $last_field_name = x($field_name);                                  $last_field_name = $field_name;
150                                  return $last_field_name;                                  return $last_field_name;
151                          }                          }
152                  }                  }
# Line 665  print STDERR "reading ./import_xml/$type Line 667  print STDERR "reading ./import_xml/$type
667    
668          $config=XMLin("./import_xml/$type.xml", ForceArray => [ $type2tag{$type_base}, 'config', 'format' ], ForceContent => 1 );          $config=XMLin("./import_xml/$type.xml", ForceArray => [ $type2tag{$type_base}, 'config', 'format' ], ForceContent => 1 );
669    
670            # helper for progress bar
671            sub fmt_time {
672                    my $t = shift || 0;
673                    my $out = "";
674    
675                    my ($ss,$mm,$hh) = gmtime($t);
676                    $out .= "${hh}h" if ($hh);
677                    $out .= sprintf("%02d:%02d", $mm,$ss);
678                    $out .= "  " if ($hh == 0);
679                    return $out;
680            }
681    
682          # output current progress indicator          # output current progress indicator
683          my $last_p = 0;          my $last_p = 0;
684            my $start_t = time();
685          sub progress {          sub progress {
686                  return if (! $show_progress);                  return if (! $show_progress);
687                  my $current = shift;                  my $current = shift;
688                  my $total = shift || 1;                  my $total = shift || 1;
689                  my $p = int($current * 100 / $total);                  my $p = int($current * 100 / $total);
690                  if ($p != $last_p) {                  if ($p != $last_p) {
691                          printf STDERR ("%5d / %5d [%-51s] %-2d %% \r",$current,$total,"=" x ($p/2).">", $p );                          my $rate = ($current / (time() - $start_t || 1));
692                            my $eta = ($total-$current) / ($rate || 1);
693                            printf STDERR ("%5d [%-38s] %-5d %0.1f/s %s\r",$current,"=" x ($p/3)."$p%>", $total, $rate, fmt_time($eta));
694                          $last_p = $p;                          $last_p = $p;
695                  }                  }
696          }          }
# Line 703  print STDERR "using: $type...\n"; Line 720  print STDERR "using: $type...\n";
720                  my $isis_db = $cfg -> val($database, 'isis_db') || die "$database doesn't have 'isis_db' defined!";                  my $isis_db = $cfg -> val($database, 'isis_db') || die "$database doesn't have 'isis_db' defined!";
721    
722                  $import2cp = Text::Iconv->new($config->{isis_codepage},$codepage);                  $import2cp = Text::Iconv->new($config->{isis_codepage},$codepage);
723                  my $db = OpenIsis::open( $isis_db );                  my $db = new IsisDB( isisdb => $isis_db );
   
                 # check if .txt database for OpenIsis is zero length,  
                 # if so, erase it and re-open database  
                 sub check_txt_db {  
                         my $isis_db = shift || die "need isis database name";  
                         my $reopen = 0;  
   
                         if (-e $isis_db.".TXT") {  
                                 print STDERR "WARNING: removing $isis_db.TXT OpenIsis database...\n";  
                                 unlink $isis_db.".TXT" || warn "FATAL: unlink error on '$isis_db.TXT': $!";  
                                 $reopen++;  
                         }  
                         if (-e $isis_db.".PTR") {  
                                 print STDERR "WARNING: removing $isis_db.PTR OpenIsis database...\n";  
                                 unlink $isis_db.".PTR" || warn "FATAL: unlink error on '$isis_db.PTR': $!";  
                                 $reopen++;  
                         }  
                         return OpenIsis::open( $isis_db ) if ($reopen);  
                 }  
   
                 # EOF error  
                 if ($db == -1) {  
                         $db = check_txt_db($isis_db);  
                         if ($db == -1) {  
                                 print STDERR "FATAL: OpenIsis can't open zero size file $isis_db\n";  
                                 next;  
                         }  
                 }  
724    
725                  # OpenIsis::ERR_BADF                  my $max_rowid = $db->{'maxmfn'} || die "can't find maxmfn";
                 if ($db == -4) {  
                         print STDERR "FATAL: OpenIsis can't find file $isis_db\n";  
                         next;  
                 # OpenIsis::ERR_IO  
                 } elsif ($db == -5) {  
                         print STDERR "FATAL: OpenIsis can't access file $isis_db\n";  
                         next;  
                 } elsif ($db < 0) {  
                         print STDERR "FATAL: OpenIsis unknown error $db with file $isis_db\n";  
                         next;  
                 }  
   
                 my $max_rowid = OpenIsis::maxRowid( $db );  
   
                 # if 0 records, try to rease isis .txt database  
                 if ($max_rowid == 0) {  
                         # force removal of database  
                         $db = check_txt_db($isis_db);  
                         $max_rowid = OpenIsis::maxRowid( $db );  
                 }  
726    
727                  print STDERR "Reading database: $isis_db [$max_rowid rows]\n";                  print STDERR "Reading database: $isis_db [$max_rowid rows]\n";
728    
729                  my $path = $database;                  my $path = $database;
730    
731                  for (my $row_id = 1; $row_id <= $max_rowid; $row_id++ ) {                  for (my $row_id = 1; $row_id <= $max_rowid; $row_id++ ) {
732                          my $row = OpenIsis::read( $db, $row_id );                          my $row = $db->to_hash( $row_id );
733                          if ($row && $row->{mfn}) {                          if ($row) {
734            
735                                    $row->{mfn} = $row_id;
736                                    $row->{record} = $db->{record};
737    
738                                  progress($row->{mfn}, $max_rowid);                                  progress($row->{mfn}, $max_rowid);
739    
740                                  my $swishpath = $path."#".int($row->{mfn});                                  my $swishpath = $path."#".int($row->{mfn});
# Line 776  print STDERR "using: $type...\n"; Line 748  print STDERR "using: $type...\n";
748                                  }                                  }
749                          }                          }
750                  }                  }
                 # for this to work with current version of OpenIsis (0.9.0)  
                 # you might need my patch from  
                 # http://www.rot13.org/~dpavlin/projects/openisis-0.9.0-perl_close.diff  
                 OpenIsis::close($db);  
751                  print STDERR "\n";                  print STDERR "\n";
752    
753          } elsif ($type_base eq "excel") {          } elsif ($type_base eq "excel") {
# Line 813  print STDERR "using: $type...\n"; Line 781  print STDERR "using: $type...\n";
781                          for(my $iC = $oWorksheet->{MinCol} ; defined $oWorksheet->{MaxCol} && $iC <= $oWorksheet->{MaxCol} ; $iC++) {                          for(my $iC = $oWorksheet->{MinCol} ; defined $oWorksheet->{MaxCol} && $iC <= $oWorksheet->{MaxCol} ; $iC++) {
782                                  my $cell = $oWorksheet->{Cells}[$iR][$iC];                                  my $cell = $oWorksheet->{Cells}[$iR][$iC];
783                                  if ($cell) {                                  if ($cell) {
784                                          $row->{int2col($iC)} = $cell->Value;                                          # this conversion is a cludge.
785                                            # Files from Excell could have
786                                            # characters which don't fit into
787                                            # destination encoding.
788                                            $row->{int2col($iC)} = $utf2cp->convert($cell->Value) || $cell->Value;
789                                  }                                  }
790                          }                          }
791    
# Line 839  print STDERR "using: $type...\n"; Line 811  print STDERR "using: $type...\n";
811                  }                  }
812          } elsif ($type_base eq "marc") {          } elsif ($type_base eq "marc") {
813    
814                  require MARC;                  require MARC::File::USMARC;
815                                    
816                  $import2cp = Text::Iconv->new($config->{marc_codepage},$codepage);                  $import2cp = Text::Iconv->new($config->{marc_codepage},$codepage);
817                  my $marc_file = $cfg -> val($database, 'marc_file') || die "$database doesn't have 'marc_file' defined!";                  my $marc_file = $cfg -> val($database, 'marc_file') || die "$database doesn't have 'marc_file' defined!";
818    
819                  # optional argument is format                  # optional argument is format
820                  my $format = x($config->{marc_format}) || 'usmarc';                  warn "marc_format is no longer used!" if ($config->{marc_format});
   
821                  print STDERR "Reading MARC file '$marc_file'\n";                  print STDERR "Reading MARC file '$marc_file'\n";
822    
823                  my $marc = new MARC;                  my $marc = MARC::File::USMARC->in( $marc_file )
824                  my $nr = $marc->openmarc({                          || die "Can't open MARC file '$marc_file': ".$MARC::File::ERROR;
                                 file=>$marc_file, format=>$format  
                         }) || die "Can't open MARC file '$marc_file' with format '$format'";  
825    
826                  # read MARC file in memory                  # count records in MARC file
827                  $marc->nextmarc(-1);                  sub marc_count {
828                            my $filename = shift || die;
829                            my $file = MARC::File::USMARC->in($filename) || die $MARC::File::ERROR;
830                            my $count = 0;
831                            while ($file->skip()) {
832                                    $count++;
833                            }
834                            return $count;
835                    }
836    
837                  my $max_rec = $marc->marc_count();                  my $count = marc_count($marc_file) || warn "no records in '$marc_file'?";
838    
839                  for(my $i=1; $i<=$max_rec; $i++) {                  my $i = 0;
840    
841                          progress($i,$max_rec);                  while( my $rec = $marc->next() ) {
842    
843                          # store value for marc_sf.pm                          progress($i++,$count);
                         $main::cache->{marc_record} = $i;  
844    
845                          my $swishpath = $database."#".$i;                          my $swishpath = $database."#".$i;
846    
847                          if (my $xml = data2xml($type_base,$marc,$add_xml,$cfg,$database)) {                          if (my $xml = data2xml($type_base,$rec,$add_xml,$cfg,$database)) {
848                                  $xml = $cp2utf->convert($xml);                                  $xml = $cp2utf->convert($xml);
849                                  use bytes;      # as opposed to chars                                  use bytes;      # as opposed to chars
850                                  print "Path-Name: $swishpath\n";                                  print "Path-Name: $swishpath\n";
# Line 939  all2xml.pl - read various file formats a Line 915  all2xml.pl - read various file formats a
915    
916  =head1 DESCRIPTION  =head1 DESCRIPTION
917    
918  This command will read ISIS data file using OpenIsis perl module, MARC  This command will read ISIS data file using IsisDB perl module, MARC
919  records using MARC module and optionally Micro$oft Excel files to  records using MARC module and optionally Micro$oft Excel files to
920  create one XML file for usage with I<SWISH-E> indexer. Dispite it's name,  create one XML file for usage with I<SWISH-E> indexer. Dispite it's name,
921  this script B<isn't general xml generator> from isis files (isis allready  this script B<isn't general xml generator> from isis files (isis allready

Legend:
Removed from v.379  
changed lines
  Added in v.623

  ViewVC Help
Powered by ViewVC 1.1.26