/[webpac]/trunk/WebPac.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/WebPac.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 198 by dpavlin, Sun Dec 21 06:35:43 2003 UTC revision 686 by dpavlin, Tue Mar 1 19:30:55 2005 UTC
# Line 3  package WebPac; Line 3  package WebPac;
3  use base 'CGI::Application';  use base 'CGI::Application';
4  use strict;  use strict;
5    
 use HTML::Pager;  
6  use HTML::FillInForm;  use HTML::FillInForm;
7  use SWISH;  use SWISH::API;
8  use Text::Iconv;  use Text::Iconv;
9  use DBI;  use DBI;
10  use Config::IniFiles;  use Config::IniFiles;
11  use Text::Unaccent;  use Text::Unaccent;
12    use Data::Pageset;
13    
14  use lib '..';  use lib '..';
15  use index_DBI_cache;  use index_DBI_filter;
16  use back2html;  use back2html;
17    
18    
# Line 28  my $MAX_HITS = $cfg_global->val('webpac' Line 28  my $MAX_HITS = $cfg_global->val('webpac'
28  my $ON_PAGE =$cfg_global->val('webpac', 'on_page') || 10;  my $ON_PAGE =$cfg_global->val('webpac', 'on_page') || 10;
29  my $MIN_WILDCARD =$cfg_global->val('webpac', 'min_wildcard') || 1;  my $MIN_WILDCARD =$cfg_global->val('webpac', 'min_wildcard') || 1;
30  my $TEMPLATE =$cfg_global->val('webpac', 'template');  my $TEMPLATE =$cfg_global->val('webpac', 'template');
31  my $UNAC_FILTER =$cfg_global->val('global', 'unac_filter');  my $UNAC_FILTER =$cfg_global->val('global', 'my_unac_filter');
32  my $BASE_PATH =$cfg_global->val('webpac', 'base_path');  my $BASE_PATH =$cfg_global->val('webpac', 'base_path');
33    # for pager
34  if ($UNAC_FILTER) {  my $pages_per_set = $cfg_global->val('webpac', 'pages_per_set') || 10;
         require $UNAC_FILTER;  
 }  
35    
36  Text::Iconv->raise_error(0);     # Conversion errors raise exceptions  Text::Iconv->raise_error(0);     # Conversion errors raise exceptions
37    
38  my $from_utf8 = Text::Iconv->new('UTF8', $CHARSET);  my $from_utf8 = Text::Iconv->new('UTF8', $CHARSET);
39    
40    if ($UNAC_FILTER) {
41            require $UNAC_FILTER;
42    } else {
43            sub WebPac::my_unac_string {
44                    my ($charset, $string) = (@_);
45                    return $string;
46            }
47    }
48    
49  # use path from cgi script to support templates in subdirs  # use path from cgi script to support templates in subdirs
50  sub url_ex {  sub url_ex {
51          my $q = shift || die "suff2file needs CGI object!";          my $q = shift || die "suff2file needs CGI object!";
52          my $tpl = shift || die "url_ex needs template name!";          my $tpl = shift || die "url_ex needs template name!";
53          return suff2file($BASE_PATH, $q->url(-path => 1),$TEMPLATE_PATH,$tpl);          return suff2file($BASE_PATH, $q->url(-absolute => 1,-path => 1),$TEMPLATE_PATH,$tpl);
54  }  }
55    
56  sub suff2file($$$$) {  sub suff2file($$$$) {
# Line 53  sub suff2file($$$$) { Line 60  sub suff2file($$$$) {
60    
61          # strip everything to and including base path, leaving only          # strip everything to and including base path, leaving only
62          # additional (virtual) path          # additional (virtual) path
63          if ($p =~ s,^.*?$base_path,,) {          if ($base_path eq "/") {
64                    $p =~ s,/*,,g;
65                    my ($name,$ext) = split(/\./,$tpl);
66                    $p = $name . "-" . $p . "." . $ext;
67            } elsif ($p =~ s,^.*?$base_path,,) {
68                  $p =~ s,/*,,g;                  $p =~ s,/*,,g;
69                  my ($name,$ext) = split(/\./,$tpl);                  my ($name,$ext) = split(/\./,$tpl);
70                  $p = $name . $p . "." . $ext;                  $p = $name . $p . "." . $ext;
# Line 97  sub in_template { Line 108  sub in_template {
108                  die "can't parse TEMPLATE path";                  die "can't parse TEMPLATE path";
109          }          }
110    
111          my $master_tpl = suff2file($BASE_PATH, $q->url(-path => 1),$dir,$tpl);          my $master_tpl = suff2file($BASE_PATH, $q->url(-absolute => 1, -path => 1),$dir,$tpl);
112          if (open(T, $master_tpl)) {          if (open(T, $master_tpl)) {
113                  my $template_html = join("\n",<T>);                  my $template_html = join("\n",<T>);
114                  close(T);                  close(T);
# Line 108  sub in_template { Line 119  sub in_template {
119          }          }
120  }  }
121    
122    #--------------------------------------------------------------------------
123    
124    #
125    # make pager navigation and fill template variables
126    # compatibile with HTML::Pager
127    #
128    
129    sub make_pager($$$) {
130            my ($q,$tmpl,$pager) = @_;
131    
132            #
133            # pager navigation
134            #
135            my ($pager_prev,$pager_next, $pager_jump) = ('','','');
136    
137            my $nav_fmt=qq{ <a href="%s">%s</a> };
138    
139            if ($pager->current_page() > $pager->first_page) {
140                    $q->param('PAGER_offset', $pager->current_page - 1);
141                    $pager_prev .= sprintf($nav_fmt,$q->url(-relative=>1, -query=>1),'&lt;&lt;');
142            }
143    
144            if ($pager->previous_set) {
145                    $q->param('PAGER_offset', $pager->previous_set);
146                    $pager_prev .= sprintf($nav_fmt,$q->url(-relative=>1, -query=>1),'..');
147            }
148    
149    
150            foreach my $p (@{$pager->pages_in_set()}) {
151                    next if ($p <= 0);
152                    if($p == $pager->current_page()) {
153                            $pager_jump .= "<b>$p</b> ";
154                    } else {
155                            $q->param('PAGER_offset', $p);
156                            $pager_jump .= sprintf($nav_fmt,$q->url(-relative=>1, -query=>1),$p);
157                    }
158            }
159    
160            if ($pager->next_set) {
161                    $q->param('PAGER_offset', $pager->next_set);
162                    $pager_next .= sprintf($nav_fmt,$q->url(-relative=>1, -query=>1),'..');
163            }
164    
165            if ($pager->current_page() < $pager->last_page) {
166                    $q->param('PAGER_offset', $pager->current_page + 1);
167                    $pager_next .= sprintf($nav_fmt,$q->url(-relative=>1, -query=>1),'&gt;&gt;');
168            }
169    
170            $tmpl->param('PAGER_PREV', $pager_prev);
171            $tmpl->param('PAGER_JUMP', $pager_jump);
172            $tmpl->param('PAGER_NEXT', $pager_next);
173    
174    }
175    
176    #
177    # put persisten variables in template
178    #
179    
180    sub make_pager_vars {
181            my $q = shift @_;
182            my $tmpl = shift @_;
183            my @persist_vars = @_;
184            my $hidden_vars = '';
185            my $hidden_search = '';
186            foreach my $v (@persist_vars) {
187                    foreach my $val ($q->param($v)) {
188                            next if (! $val || $val eq '');
189                            $val =~ s/"/&quote;/g;
190                            $hidden_vars .= '<input type="hidden" name="'.$v.'" value="'.$val.'"/>'."\n";
191                            $hidden_search .= '<input type="hidden" name="'.$v.'" value="'.$val.'"/>'."\n" if ($v ne "rm");
192                    }
193            }
194    
195            $tmpl->param('PAGER_HIDDEN', $hidden_vars);
196            $tmpl->param('SEARCH_HIDDEN', $hidden_search);
197            $tmpl->param('PAGER_JAVASCRIPT', qq#
198    <SCRIPT LANGUAGE="Javascript">
199    <!-- Begin
200            // dummy emulator for HTML::Pager templates
201            function PAGER_set_offset_and_submit() {
202                    return true;
203            }
204    // End -->
205    </script>  
206            #);
207    }
208    
209    #--------------------------------------------------------------------------
210    
211  sub show_search_form {  sub show_search_form {
212          my $self = shift;          my $self = shift;
213    
# Line 128  sub show_results_list { Line 228  sub show_results_list {
228    
229          my $q = $self->query();          my $q = $self->query();
230    
231          my @swish_results;      # results from swish          # submit was reset?
232            if ($q->param('reset')) {
233                    $q->delete_all;
234                    return $self->show_search_form();
235            }
236    
237          # load template for this page          # load template for this page
238    
# Line 137  sub show_results_list { Line 241  sub show_results_list {
241          my @path_arr = $q->param('path');          my @path_arr = $q->param('path');
242          my $full = $q->param('full');          my $full = $q->param('full');
243    
244          my @persist_vars = ( 'rm' );          my @persist_vars = ( 'rm', 'persist_search' );
245          my @url_params = ( 'rm=results', 'show_full=1', 'last_PAGER_offset='.$q->param('PAGER_offset') || 0 );          my @url_params = ( 'rm=results', 'show_full=1', 'last_PAGER_offset='.($q->param('PAGER_offset') || 0) );
246    
247            my @persist_search_vars;
248            my @url_params_persist;
249            if ($q->param("persist_search")) {
250                    @persist_search_vars = split(/\s*,\s*/, $q->param("persist_search"));
251                    push @url_params_persist, "persist_search=".$q->url_param("persist_search");
252                    push @url_params,"persist_search=".$q->url_param("persist_search");
253            }
254    
255          # support parametars "f" and "v" for start          # support parametars "f" and "v" for start
256          for(my $i = ""; $i <=30; $i++) {          for(my $i = 0; $i <=30; $i++) {
257    
258                    $i = '' if ($i == 0);
259    
260                  return show_index($self, $i) if ($q->param("f".$i."_index"));                  return show_index($self, $i) if ($q->param("f".$i."_index"));
261    
262                  next if (! $q->param("v$i"));                  next if (! $q->param("v$i") || $q->param("v$i") eq '');
263                  next if (! $q->param("f$i"));                  next if (! $q->param("f$i"));
264    
265                    my $persist = grep(/^$i$/,@persist_search_vars);
266            
267                  push @persist_vars, "f$i";                  push @persist_vars, "f$i";
268                  push @persist_vars, "v$i";                  push @persist_vars, "v$i";
269                  push @persist_vars, "e$i" if ($q->param("e$i"));                  push @persist_vars, "e$i" if ($q->param("e$i"));
270    
271                    # create url parametars (and persistent ones)
272    
273                  push @url_params,"f$i=".$q->url_param("f$i");                  push @url_params,"f$i=".$q->url_param("f$i");
274                    push @url_params_persist,"f$i=".$q->url_param("f$i") if ($persist);
275    
276                  foreach my $v ($q->url_param("v$i")) {                  foreach my $v ($q->url_param("v$i")) {
277                            # escape quotes so that phrase search work
278                            $v =~ s/"/%22/g;
279                          push @url_params,"v$i=$v";                          push @url_params,"v$i=$v";
280                            push @url_params_persist,"v$i=$v" if ($persist);
281                    }
282    
283                    if ($q->param("e$i")) {
284                            push @url_params,"e$i=".$q->url_param("e$i");
285    #                       push @url_params_persist,"e$i=".$q->url_param("e$i");
286                  }                  }
                 push @url_params,"e$i=".$q->url_param("e$i");  
287    
288                  my $wc="*";     # swish wildcard                  my $wc="*";     # swish wildcard
289                  $wc="" if ($i eq "");   # don't apply wildcard on field 0                  $wc="" if ($i eq "");   # don't apply wildcard on field 0
# Line 168  sub show_results_list { Line 295  sub show_results_list {
295                  while (my $search = shift @param_vals) {                  while (my $search = shift @param_vals) {
296                          my $s;                          my $s;
297                          # remove accents                          # remove accents
298                          $search = unac_string($CHARSET,$search);                          $search = my_unac_string($CHARSET,$search);
299                          while ($search =~ s/\s*("[^"]+")\s*/ /) {                          while ($search =~ s/\s*("[^"]+")\s*/ /) {
300                                  $s .= "$1 ";                                  $s .= "$1 ";
301                          }                          }
# Line 177  sub show_results_list { Line 304  sub show_results_list {
304    
305                          # filed e[nr] is exact match bitmask                          # filed e[nr] is exact match bitmask
306                          # 1 = beginning, 2=end, 3=both                          # 1 = beginning, 2=end, 3=both
307                          $pre = '"xxbxx ' if ($q->param("e$i") & 1);                          my $exact_flag = $q->param("e$i") || 0;
308                          $post = ' xxexx"' if ($q->param("e$i") & 2);                          $pre = '"xxbxx ' if ($exact_flag & 1);
309                            $post = ' xxexx"' if ($exact_flag & 2);
310                          # add qotes on other side                          # add qotes on other side
311                          if ($q->param("e$i")) {                          if ($q->param("e$i")) {
312                                  $pre = '"' if (! $pre);                                  $pre = '"' if (! $pre);
# Line 212  sub show_results_list { Line 340  sub show_results_list {
340                  push @s_arr, $q->param("f$i")."_swish".$exact."=(".join(" or ",@swish_q).")";                  push @s_arr, $q->param("f$i")."_swish".$exact."=(".join(" or ",@swish_q).")";
341          }          }
342    
343          my $tmpl = $self->load_tmpl(url_ex($q,'results.html'), global_vars => 1);          my $tmpl = $self->load_tmpl(url_ex($q,'results.html'), global_vars => 1, die_on_bad_params => 0);
344    
345            $tmpl->param('url_params',"?".join("&",@url_params));
346    
347          sub esc_html {          sub esc_html {
348                  my $html = shift;                  my $html = shift;
# Line 221  sub show_results_list { Line 351  sub show_results_list {
351                  return $html;                  return $html;
352          }          }
353    
354          # call swish          my $sort = 'swishrank';
355          my $sh = SWISH->connect('Fork',          if ($q->param("sort")) {
356                  prog     => $SWISH,                  $sort = 'headline';
357                  indexes  => $INDEX,                  push @persist_vars, "sort";
358                  properties  => [qw/swishdocpath swishrank swishtitle headline html/],          }
359                  results  => sub {  
360                          my ($sh,$hit) = @_;          my $sortby = $q->param("sortby");
361            if ($sortby) {
362                          push @swish_results, {                  $sort = $sortby;
363                                  nr => ($#swish_results + 2),                  push @persist_vars, "sortby";
364                                  path => $hit->swishdocpath,          }
365                                  headline => esc_html($from_utf8->convert($hit->headline)),          $tmpl->param('url_params_paths',"?".join("&",@url_params).'&'.join("&",map { my $t = $_; $t =~ s/\#/%23/g; "path=$t"; } @path_arr));
                                 html => back2html($from_utf8->convert($hit->html)),  
                                 rank => $hit->swishrank };  
   
                 },  
                 #startnum => 0,  
                 maxhits => $MAX_HITS  
         );  
366    
         die $SWISH::errstr unless $sh;  
367          # construct swish query          # construct swish query
368          my $sw_q = join(" and ",@s_arr);          my $sw_q = join(" and ",@s_arr);
369          if (@path_arr && $q->param('show_full')) {          if (@path_arr && $q->param('show_full')) {
# Line 256  sub show_results_list { Line 378  sub show_results_list {
378                  $tmpl->param('full',0);                  $tmpl->param('full',0);
379          }          }
380    
381          my $hits = $sh->query($sw_q);          my $swish_msg = ' ';
382    
383            # create new swish instance
384            my $swish = SWISH::API->new($INDEX);
385            $swish_msg .= $swish->ErrorString." ".$swish->LastErrorMsg if $swish->Error;
386    
387            # execute query and get number of results from SWISH-E
388            my $search = $swish->New_Search_Object;
389    
390            $search->SetSort($sort);
391    
392            my $results = $search->Execute($sw_q);
393            $swish_msg .= $swish->ErrorString." ".$swish->LastErrorMsg if $swish->Error;
394    
395            my $hits = $results->Hits;
396    
397          $tmpl->param('hits',$hits);          $tmpl->param('hits',$hits);
398          $tmpl->param('search',$sw_q);          my $search_msg = $sw_q;
399            $search_msg .= '<em>'.$swish_msg.'</em>' if ($swish_msg);
400            $tmpl->param('search', $search_msg);
401    
402          $tmpl->param('PAGER_offset',$q->param("PAGER_offset") || 0);          $tmpl->param('PAGER_offset',$q->param("PAGER_offset") || 0);
403          $tmpl->param('last_PAGER_offset',$q->param("last_PAGER_offset") || 0);          $tmpl->param('last_PAGER_offset',$q->param("last_PAGER_offset") || 0);
404    
405          $tmpl->param('url_params',"?".join("&",@url_params));          #
406            # build pager
407            #
408    
409          # create a Pager object          my $current_page = $q->param('PAGER_offset') || 1;
410          my $pager = HTML::Pager->new(  
411                  # required parameters          my $pager = Data::Pageset->new({
412                  query => $q,                  'total_entries' => $hits,
413                  get_data_callback => sub {                  'entries_per_page' => $ON_PAGE,
414                          my ($offset, $rows) = @_;                  'current_page' => $current_page,
415                    'pages_per_set' => $pages_per_set,
416                          my @result;          });
                         for (my $i=0; $i<$rows; $i++) {  
                                 my $r = $swish_results[$offset+$i];  
                                 if ($r && $tmpl->param('full')) {  
                                         push @result, $r;  
                                 } elsif ($r) {  
                                         # if not full output, skip html  
                                         delete $r->{html};  
                                         push @result, $r;  
                                 }  
                         }  
                         return \@result;  
                 },  
                 rows => $hits,  
                 page_size => $ON_PAGE,  
                 # some optional parameters  
                 persist_vars => [ @persist_vars ],  
                 #cell_space_color => '#000000',  
                 #cell_background_color => '#ffffff',  
                 #nav_background_color => '#dddddd',  
                 #javascript_presubmit => 'last_minute_javascript()',  
                 debug => 1,  
                 template => $tmpl,  
         );  
417    
418          my $html = $pager->output;          $results->SeekResult( $pager->first - 1 );
419    
420            # get number of entries on this page
421            my $i = $pager->entries_on_this_page;
422    
423            # results from swish for template
424            my @pager_data_list;
425    
426            for(my $i=$pager->first; $i<=$pager->last; $i++) {
427    
428                    my $result = $results->NextResult;
429                    last if (! $result);
430    
431                    my $r = {
432                            nr => $i,
433                            path => $result->Property('swishdocpath'),
434                            headline => esc_html($from_utf8->convert($result->Property('headline'))),
435                            rank => $result->Property('swishrank')
436                    };
437    
438                    $r->{html} = back2html($from_utf8->convert($result->Property('html')), join("&",@url_params_persist)) if ($q->param('show_full'));
439    
440                    push @pager_data_list, $r;
441            }
442    
443    
444    
445            # put something in template
446            make_pager($q, $tmpl, $pager);
447            make_pager_vars($q, $tmpl, @persist_vars);
448            $tmpl->param('PAGER_DATA_LIST', \@pager_data_list);
449    
450            my $html = $tmpl->output;
451    
452          return in_template($q,$html);          return in_template($q,$html);
453  }  }
# Line 312  sub show_index { Line 461  sub show_index {
461          my $field = $q->param("f$i");          my $field = $q->param("f$i");
462          my $limit = $q->param("v$i");          my $limit = $q->param("v$i");
463    
464            my $filter = $q->param("filter");
465    
466          my $html;          my $html;
467    
468          my $index = new index_DBI(          my $index = new index_DBI(
# Line 321  sub show_index { Line 472  sub show_index {
472                  $cfg_global->val('global', 'dbi_passwd') || ''                  $cfg_global->val('global', 'dbi_passwd') || ''
473          );          );
474    
475          my $total = $index->count($field,$limit);          my $total = $index->count($field,$limit,$filter);
476          if (! $total) {  
477            if (! defined($total)) {
478                  my $tmpl = $self->load_tmpl(url_ex($q,'no_index.html'));                  my $tmpl = $self->load_tmpl(url_ex($q,'no_index.html'));
479                  $tmpl->param('field',$field);                  $tmpl->param('field',$field);
480                  $html = $tmpl->output;                  $html = $tmpl->output;
481                  return $html;                  return $html;
482          }          }
483    
484          my $tmpl = $self->load_tmpl(url_ex($q,'index_res.html'), global_vars => 1);          my $tmpl = $self->load_tmpl(url_ex($q,'index_res.html'), global_vars => 1, die_on_bad_params => 0);
485          $tmpl->param('field',$field);          $tmpl->param('field',$field);
486          $tmpl->param('limit',$limit);          $tmpl->param('limit',$limit);
487          $tmpl->param('total',$total);          $tmpl->param('total',$total);
488            $tmpl->param('filter',$filter);
489    
490  # FIXME I should set offset and leave out limit from fetch!!  # FIXME I should set offset and leave out limit from fetch!!
491  #       if (! $q->param("PAGER_offset") {  #       if (! $q->param("PAGER_offset") {
492  #               $q->param("Pager_offet)  #               $q->param("Pager_offet)
493  #       }  #       }
494    
         my $pager = HTML::Pager->new(  
                 query => $q,  
                 get_data_callback => sub {  
                         my ($offset, $rows) = @_;  
   
                         my @result = $index->fetch($field,$limit, $offset, $rows);  
                         return \@result;  
                 },  
                 rows => $total,  
                 page_size => $ON_PAGE,  
                 persist_vars => [  
                         'rm',  
                         "f$i", "v$i", "f".$i."_index",  
                         'offset',  
                         ],  
                 debug => 1,  
                 template => $tmpl,  
         );  
495    
496          return in_template($q,$pager->output);          #
497            # build pager
498            #
499            my $pager = Data::Pageset->new({
500                    'total_entries' => $total,
501                    'entries_per_page' => $ON_PAGE,
502                    'current_page' => $q->param('PAGER_offset') || 1,
503                    'pages_per_set' => $pages_per_set
504            });
505    
506            my @persist_vars = qw{rm f$i v$i f$i_index offset};
507    
508            make_pager($q, $tmpl, $pager);
509            make_pager_vars($q, $tmpl, @persist_vars);
510    
511            my @pager_data_list = $index->fetch($field,$limit, $pager->first - 1, $pager->entries_on_this_page, $filter);
512            $tmpl->param('PAGER_DATA_LIST', \@pager_data_list);
513    
514            return in_template($q,$tmpl->output);
515  }  }
516    
517  1;  1;

Legend:
Removed from v.198  
changed lines
  Added in v.686

  ViewVC Help
Powered by ViewVC 1.1.26