/[webpac]/trunk2/all2all.pl
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk2/all2all.pl

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 511 by dpavlin, Sun Oct 17 17:35:32 2004 UTC revision 561 by dpavlin, Sat Oct 30 23:24:54 2004 UTC
# Line 11  use locale; Line 11  use locale;
11  use YAML;  use YAML;
12  use Carp;  use Carp;
13  use Getopt::Long;  use Getopt::Long;
14    use Text::Unaccent 1.02;
15    
16  use lib './lib';  use lib './lib';
17  use WebPAC;  use WebPAC;
# Line 35  my $result = GetOptions( Line 36  my $result = GetOptions(
36  my $filter = {  my $filter = {
37          'CROVOC' => sub {          'CROVOC' => sub {
38                  my $tmp = shift || return;                  my $tmp = shift || return;
39                  return undef unless ($tmp =~ s/\s*CROVOC.*$/ */);                  return undef unless ($tmp =~ s/\s*CROVOC.*$/ #C#/);
40                    # remove repeating stars
41                    # FIXME this should be fixed at right place, not here!
42                    $tmp =~ s/(\s*#C#)+/ #C#/g;
43                  return $tmp;                  return $tmp;
44          },          },
45          'CROVOC_tree' => sub {          'CROVOC_tree' => sub {
46                  my $tmp = shift || return;                  my $tmp = shift || return;
47                  $tmp =~ s/\s*CROVOC.*$/ */;                  $tmp =~ s/\s*CROVOC.*$/ <img src="img\/crovoc.png" border="0">/;
48                  $tmp =~ s/\s*EUROVOC.*//;                  $tmp =~ s/\s*EUROVOC.*//;
49                  return $tmp;                  return $tmp;
50          },          },
51            # TT filter
52            'CROVOC_img' => sub {
53                    my $tmp = shift;
54                    $tmp =~ s/\s*#C#\s*/ <img src="..\/img\/crovoc.png" border="0">/gis;
55                    return $tmp;
56            }
57  };  };
58    
59    ## remove accented characters
60    #
61    sub unac {
62            my $string = shift || return;
63            $string = unac_string($code_page,$string);
64            $string =~ tr//dD/;
65            $string = unac_entities($string);
66            return $string;
67    }
68    sub unac_2 {
69            my $string = shift || return;
70            if (length($string) > 2) {
71                    my $pr = substr($string,0,2);
72                    $string = unac_string($code_page,substr($string,2));
73                    $string =~ tr//dD/;
74                    $string = $pr . $string;
75            }
76            $string = unac_entities($string);
77            return lc($string);
78    }
79    
80    sub unac_entities {
81            my $ent = shift || return;
82    
83            $ent =~ s/&(\w)(acute|cedil|circ|grave|ring|slash|tilde|uml);/$1/gi;
84            $ent =~ s/&eth;/d/g;
85            $ent =~ s/&E[tT][hH];/D/g;
86            $ent =~ s/&(\w\w)lig;/$1/gi;
87    
88            return $ent;
89    }
90    
91  # create WebPAC object  # create WebPAC object
92  #  #
93  my $webpac = new WebPAC(  my $webpac = new WebPAC(
# Line 63  $log->debug("creating WebPAC::jsFind obj Line 105  $log->debug("creating WebPAC::jsFind obj
105    
106  my $index = new WebPAC::jsFind(  my $index = new WebPAC::jsFind(
107          index_path => $index_path,          index_path => $index_path,
108          keys => 10,          keys => 62,
109  ) || die;  ) || die;
110    
111  my $thes;  my $thes;
# Line 139  while (my $rec = $webpac->fetch_rec) { Line 181  while (my $rec = $webpac->fetch_rec) {
181                  $words =~ s/\W+$//;                  $words =~ s/\W+$//;
182    
183                  # first try to generate headline for this entry from index                  # first try to generate headline for this entry from index
184                  my $h = shift @{$ds->{'index'}};                  my $h = $ds->{'index'}->[0];
185                  # then, from display                  # then, from display
186                  $h ||= shift @{$ds->{'display'}};                  $h ||= $ds->{'display'}->[0];
187                  # and as last resport, fallback to headline                  # and as last resport, fallback to headline
188                  $h ||= $headline;                  $h ||= $headline;
189    
# Line 150  while (my $rec = $webpac->fetch_rec) { Line 192  while (my $rec = $webpac->fetch_rec) {
192                          #path => $f,                          #path => $f,
193                          path => $webpac->mfn,                          path => $webpac->mfn,
194                          headline => $h,                          headline => $h,
195                          words => $words,                          words => unac($words),
196                  );                  );
197          }          }
198    
# Line 162  while (my $rec = $webpac->fetch_rec) { Line 204  while (my $rec = $webpac->fetch_rec) {
204    
205                  foreach my $h (@{$ds->{'index'}}) {                  foreach my $h (@{$ds->{'index'}}) {
206                          $thes->{$ds->{'tag'}}->insert(                          $thes->{$ds->{'tag'}}->insert(
207                                  headline => $h,                                  sort_by => unac_2($h),
208                                  mfn => $webpac->mfn,                                  mfn => $webpac->mfn,
209                                    headline => $h,
210                          );                          );
211                  }                  }
212          }          }
# Line 201  if (0 && $log->is_debug) { Line 244  if (0 && $log->is_debug) {
244    
245  } # XXX if(0)  } # XXX if(0)
246    
247  $log->debug("lookup hash: ",Dump($webpac->{'lookup'}));  #$log->debug("lookup hash: ",Dump($webpac->{'lookup'}));
248    
249  $log->info("creating tree");  $log->info("creating tree");
250    
# Line 310  my @tree = ({ Line 353  my @tree = ({
353  });  });
354    
355  my $tree = new WebPAC::Tree(  my $tree = new WebPAC::Tree(
356          dir => './out',          tree => \@tree,
357          html => 'browse.html',  );
358    
359    $tree->output(
360            dir => './out',
361            html => 'browse.html',
362          template => './output_template/tree.tt',          template => './output_template/tree.tt',
363          js => 'tree-ids.js',          js => 'tree-ids.js',
         tree => \@tree,  
364  );  );
365    
366    $tree->output(
367            dir => './eurovoc',
368            html => 'hijerarhija.html',
369            template => './output_template/hijerarhija.tt',
370            js => 'tree-ids.js',
371    );
372    
373    
374  $log->info("closing index");  $log->info("closing index");
375  $index->close;  $index->close;
376    

Legend:
Removed from v.511  
changed lines
  Added in v.561

  ViewVC Help
Powered by ViewVC 1.1.26