/[webpac]/trunk/WebPac.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/WebPac.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 11 by dpavlin, Wed Jan 22 20:24:32 2003 UTC revision 147 by dpavlin, Sun Nov 16 16:14:37 2003 UTC
# Line 6  use strict; Line 6  use strict;
6  use HTML::Pager;  use HTML::Pager;
7  use HTML::FillInForm;  use HTML::FillInForm;
8  use SWISH;  use SWISH;
9  use Unicode::MapUTF8 qw(to_utf8 from_utf8 utf8_supported_charset);  use Text::Iconv;
10  use DBI;  use DBI;
11    use Config::IniFiles;
12    use Text::Unaccent;
13    
14  use lib '..';  use lib '..';
15  use index_DBI;  use index_DBI_cache;
16    use back2html;
17    
18  # configuration options  
19  # FIX: they really should go in configuration file!  # read global.conf configuration
20  my $TEMPLATE_PATH = '/data/webpac/template_html';  my $cfg_global = new Config::IniFiles( -file => '../global.conf' ) || die "can't open 'global.conf'";
21  my $CHARSET = 'ISO-8859-2';  
22  my $SWISH = '/usr/local/bin/swish-e';  # configuration options from global.conf
23  my $INDEX = '/data/webpac/index/isis.index';  my $TEMPLATE_PATH = $cfg_global->val('webpac', 'template_html') || die "need template_html in global.conf, section webpac";
24  my $MAX_HITS = 500;  my $CHARSET = $cfg_global->val('webpac', 'charset') || 'ISO-8859-1';
25  my $ON_PAGE = 10;  my $SWISH = $cfg_global->val('webpac', 'swish') || '/usr/bin/swish-e';
26    my $INDEX = $cfg_global->val('webpac', 'index') || die "need index in global.conf, section webpac";
27    my $MAX_HITS = $cfg_global->val('webpac', 'max_hits') || 0;
28    my $ON_PAGE =$cfg_global->val('webpac', 'on_page') || 10;
29    my $MIN_WILDCARD =$cfg_global->val('webpac', 'min_wildcard') || 1;
30    my $TEMPLATE =$cfg_global->val('webpac', 'template');
31    
32    
33    Text::Iconv->raise_error(0);     # Conversion errors raise exceptions
34    
35    my $from_utf8 = Text::Iconv->new('UTF8', $CHARSET);
36    
37    
38  sub setup {  sub setup {
# Line 37  sub setup { Line 50  sub setup {
50          $self->header_props(-charset=>$CHARSET);          $self->header_props(-charset=>$CHARSET);
51  }  }
52    
53    sub in_template {
54            my $html = shift || "This page is left unintentionally blank";
55            return $html if (! defined($TEMPLATE));
56            if (open(T, $TEMPLATE)) {
57                    my $template_html = join("\n",<T>);
58                    close(T);
59                    $template_html =~ s/##webpac##/$html/gsi;
60                    return $template_html;
61            } else {
62                    return "Can't read template '$TEMPLATE'";
63            }
64    }
65    
66  sub show_search_form {  sub show_search_form {
67          my $self = shift;          my $self = shift;
68    
# Line 48  sub show_search_form { Line 74  sub show_search_form {
74    
75          my $fif = new HTML::FillInForm;          my $fif = new HTML::FillInForm;
76    
77          return $fif->fill(scalarref => \$html, fobject => $q,          return in_template($fif->fill(scalarref => \$html, fobject => $q,
78                  target => 'search');                  target => 'search'));
79  }  }
80    
81  sub show_results_list {  sub show_results_list {
# Line 63  sub show_results_list { Line 89  sub show_results_list {
89    
90          my @s_arr;      # all queries are located here          my @s_arr;      # all queries are located here
91    
92          for(my $i = 1; $i <=10; $i++) {          my @path_arr = $q->param('path');
93            my $full = $q->param('full');
94    
95            my @persist_vars = ( 'rm' );
96            my @url_params = ( 'rm=results', 'show_full=1', 'last_PAGER_offset='.$q->param('PAGER_offset') || 0 );
97    
98            for(my $i = 1; $i <=30; $i++) {
99    
100                  return show_index($self, $i) if ($q->param("f".$i."_index"));                  return show_index($self, $i) if ($q->param("f".$i."_index"));
101                  next if (! $q->param("f$i"));  
102                  next if (! $q->param("v$i"));                  next if (! $q->param("v$i"));
103                    next if (! $q->param("f$i"));
104    
105                    push @persist_vars, "f$i";
106                    push @persist_vars, "v$i";
107    
108                    push @url_params,"f$i=".$q->url_param("f$i");
109                    push @url_params,"v$i=".$q->url_param("v$i");
110    
111                  # re-write query from +/- to and/and not                  # re-write query from +/- to and/and not
112                  my $s;                  my @param_vals = $q->param("v$i");
113                  my $search = $q->param("v$i");                  my @swish_q;
114                  while ($search =~ s/\s*("[^"]+")\s*/ /) {                  while (my $search = shift @param_vals) {
115                          $s .= "$1 ";                          my $s;
116                  }                          # remove accents
117                  $search =~ s/^\s+//;                          $search = unac_string($CHARSET,$search);
118                  $search =~ s/\s+$//;                          while ($search =~ s/\s*("[^"]+")\s*/ /) {
119                                    $s .= "$1 ";
120                            }
121                            $search =~ s/^\s+//;
122                            $search =~ s/\s+$//;
123    
124                  foreach (split(/\s+/,$search)) {                          foreach (split(/\s+/,$search)) {
125                          if (m/^([+-])(\S+)/) {                                  if (m/^([+-])(\S+)/) {
126                                  $s.= ($s) ? "and " : "";                                          $s.= ($s) ? "and " : "";
127                                  $s.="not " if ($1 eq "-");                                          $s.="not " if ($1 eq "-");
128                                  $s.="$2* ";                                          $s.="$2* ";
129                          } else {                                  } elsif (m/^\s*(and|or|not)\s*$/i) {
130                                  $s.="$_* ";                                          $s.="$_ ";
131                                    # don't add * to words with less than x chars
132                                    } elsif (length($_) <= $MIN_WILDCARD) {
133                                            $s.="$_ ";
134                                    } else {
135                                            $s.="$_* ";
136                                    }
137                          }                          }
138                            $s =~ s/\*+/*/g;
139                            push @swish_q,$s;
140                  }                  }
141                    # FIXME default operator for multi-value fields is or. There is
142                  push @s_arr,$q->param("f$i")."_swish=($s)";                  # no way to change it, except here for now. Is there need?
143                    push @s_arr, $q->param("f$i")."_swish=(".join(" or ",@swish_q).")";
144          }          }
145    
146          my $tmpl = $self->load_tmpl('results.html');          my $tmpl = $self->load_tmpl('results.html', global_vars => 1);
147    
148            sub esc_html {
149                    my $html = shift;
150                    $html =~ s/</&lt;/g;
151                    $html =~ s/>/&gt;/g;
152                    return $html;
153            }
154    
155          # call swish          # call swish
156          my $sh = SWISH->connect('Fork',          my $sh = SWISH->connect('Fork',
157                  prog     => $SWISH,                  prog     => $SWISH,
158                  indexes  => $INDEX,                  indexes  => $INDEX,
159                  #properties  => [qw/god br nr/],                  properties  => [qw/swishdocpath swishrank swishtitle headline html/],
160                  results  => sub {                  results  => sub {
161                          my ($sh,$hit) = @_;                          my ($sh,$hit) = @_;
162    
163                          push @swish_results, {                          push @swish_results, {
164                                  nr => ($#swish_results + 2),                                  nr => ($#swish_results + 2),
165                                  path => $hit->swishdocpath,                                  path => $hit->swishdocpath,
166                                  title => to_utf8({ -string => $hit->swishtitle, -charset => $CHARSET }),                                  headline => esc_html($from_utf8->convert($hit->headline)),
167                                    html => back2html($from_utf8->convert($hit->html)),
168                                  rank => $hit->swishrank };                                  rank => $hit->swishrank };
169    
 #                       my @fields = $hit->field_names;  
 #                       print "Field '$_' = '", $hit->$_, "'<br>\n" for sort @fields;  
170                  },                  },
171                  #startnum => 0,                  #startnum => 0,
172                  maxhits => $MAX_HITS,                  maxhits => $MAX_HITS
173          );          );
174    
175          die $SWISH::errstr unless $sh;          die $SWISH::errstr unless $sh;
176            # construct swish query
177            my $sw_q = join(" and ",@s_arr);
178            if (@path_arr && $q->param('show_full')) {
179                    $sw_q .= "and (swishdocpath=\"";
180                    $sw_q .= join("\" or swishdocpath=\"",@path_arr);
181                    $sw_q .= "\")";
182                    $tmpl->param('full',1); # show full records
183            } else {
184                    $tmpl->param('full',0);
185            }
186    
187          my $hits = $sh->query(join(" and ",@s_arr)) || 0;       # FIX: and/or          my $hits = $sh->query($sw_q);
188    
189          $tmpl->param('hits',$hits);          $tmpl->param('hits',$hits);
190          $tmpl->param('search',join(" and ",@s_arr));          $tmpl->param('search',$sw_q);
191    
192            $tmpl->param('PAGER_offset',$q->param("PAGER_offset") || 0);
193            $tmpl->param('last_PAGER_offset',$q->param("last_PAGER_offset") || 0);
194    
195            $tmpl->param('url_params',"?".join("&",@url_params));
196    
197          # create a Pager object          # create a Pager object
198          my $pager = HTML::Pager->new(          my $pager = HTML::Pager->new(
# Line 130  sub show_results_list { Line 203  sub show_results_list {
203    
204                          my @result;                          my @result;
205                          for (my $i=0; $i<$rows; $i++) {                          for (my $i=0; $i<$rows; $i++) {
206                                  push @result, $swish_results[$offset+$i] if $swish_results[$offset+$i];                                  my $r = $swish_results[$offset+$i];
207                                    if ($r && $tmpl->param('full')) {
208                                            push @result, $r;
209                                    } elsif ($r) {
210                                            # if not full output, skip html
211                                            delete $r->{html};
212                                            push @result, $r;
213                                    }
214                          }                          }
215                          return \@result;                          return \@result;
216                  },                  },
217                  rows => $hits,                  rows => $hits,
218                  page_size => $ON_PAGE,                  page_size => $ON_PAGE,
219                  # some optional parameters                  # some optional parameters
220                  persist_vars => [                  persist_vars => [ @persist_vars ],
                         'rm',  
                         'f1', 'v1',  
                         'f2', 'v2',  
                         'f3', 'v3',  
                         'f4', 'v4',  
                         'f5', 'v5',  
                         'f6', 'v6',  
                         'f7', 'v7',  
                         'f8', 'v8',  
                         'f9', 'v9',  
                         ],  
221                  #cell_space_color => '#000000',                  #cell_space_color => '#000000',
222                  #cell_background_color => '#ffffff',                  #cell_background_color => '#ffffff',
223                  #nav_background_color => '#dddddd',                  #nav_background_color => '#dddddd',
# Line 159  sub show_results_list { Line 228  sub show_results_list {
228    
229          my $html = $pager->output;          my $html = $pager->output;
230    
231          return $html;          return in_template($html);
232  }  }
233    
234  sub show_index {  sub show_index {
# Line 171  sub show_index { Line 240  sub show_index {
240          my $field = $q->param("f$i");          my $field = $q->param("f$i");
241          my $limit = $q->param("v$i");          my $limit = $q->param("v$i");
242    
   
243          my $html;          my $html;
244    
245          my $index = new index_DBI();          my $index = new index_DBI(
246                    $cfg_global->val('global', 'dbi_dbd'),
247                    $cfg_global->val('global', 'dbi_dsn'),
248                    $cfg_global->val('global', 'dbi_user'),
249                    $cfg_global->val('global', 'dbi_passwd') || ''
250            );
251    
252          if (! $index->check($field)) {          my $total = $index->count($field,$limit);
253            if (! $total) {
254                  my $tmpl = $self->load_tmpl('no_index.html');                  my $tmpl = $self->load_tmpl('no_index.html');
255                  $tmpl->param('field',$field);                  $tmpl->param('field',$field);
256                  $html = $tmpl->output;                  $html = $tmpl->output;
257                  return $html;                  return $html;
258          }          }
259    
260          my @index_arr = $index->fetch($field,'item',$limit);          my $tmpl = $self->load_tmpl('index_res.html', global_vars => 1);
261            $tmpl->param('field',$field);
262            $tmpl->param('limit',$limit);
263            $tmpl->param('total',$total);
264    
265    # FIXME I should set offset and leave out limit from fetch!!
266    #       if (! $q->param("PAGER_offset") {
267    #               $q->param("Pager_offet)
268    #       }
269    
270          $html .= "show index of <i>$field</i>";          my $pager = HTML::Pager->new(
271          $html .= " for <i>$limit</i>" if ($limit);                  query => $q,
272                    get_data_callback => sub {
273                            my ($offset, $rows) = @_;
274    
275          while (my $row = shift @index_arr) {                          my @result = $index->fetch($field,$limit, $offset, $rows);
276                  $html .= "<br>".$row->{item}."\n";                          return \@result;
277          }                  },
278                    rows => $total,
279                    page_size => $ON_PAGE,
280                    persist_vars => [
281                            'rm',
282                            "f$i", "v$i", "f".$i."_index",
283                            'offset',
284                            ],
285                    debug => 1,
286                    template => $tmpl,
287            );
288    
289          return $html;          return in_template($pager->output);
290  }  }
291    
292  1;  1;

Legend:
Removed from v.11  
changed lines
  Added in v.147

  ViewVC Help
Powered by ViewVC 1.1.26