/[webpac]/branches/humanistika/WebPac.pm
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /branches/humanistika/WebPac.pm

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 9 by dpavlin, Sat Jan 11 19:55:30 2003 UTC revision 183 by dpavlin, Sat Nov 29 17:51:12 2003 UTC
# Line 6  use strict; Line 6  use strict;
6  use HTML::Pager;  use HTML::Pager;
7  use HTML::FillInForm;  use HTML::FillInForm;
8  use SWISH;  use SWISH;
9  use Unicode::String qw(utf8 utf16);  use Text::Iconv;
 require Unicode::Map8;  
10  use DBI;  use DBI;
11    use Config::IniFiles;
12    use Text::Unaccent;
13    
14  # configuration options  use lib '..';
15  # FIX: they really should go in configuration file!  use index_DBI_cache;
16  my $TEMPLATE_PATH = '/data/webpac/template_html';  use back2html;
17  my $CHARSET = 'ISO-8859-2';  
18  my $SWISH = '/data/swish/swish-e';  
19  my $INDEX = '/data/webpac/index/isis.index';  # read global.conf configuration
20  my $MAX_HITS = 500;  my $cfg_global = new Config::IniFiles( -file => '../global.conf' ) || die "can't open 'global.conf'";
21  my $ON_PAGE = 10;  
22    # configuration options from global.conf
23    my $TEMPLATE_PATH = $cfg_global->val('webpac', 'template_html') || die "need template_html in global.conf, section webpac";
24    my $CHARSET = $cfg_global->val('webpac', 'charset') || 'ISO-8859-1';
25    my $SWISH = $cfg_global->val('webpac', 'swish') || '/usr/bin/swish-e';
26    my $INDEX = $cfg_global->val('webpac', 'index') || die "need index in global.conf, section webpac";
27    my $MAX_HITS = $cfg_global->val('webpac', 'max_hits') || 0;
28    my $ON_PAGE =$cfg_global->val('webpac', 'on_page') || 10;
29    my $MIN_WILDCARD =$cfg_global->val('webpac', 'min_wildcard') || 1;
30    my $TEMPLATE =$cfg_global->val('webpac', 'template');
31    my $UNAC_FILTER =$cfg_global->val('global', 'unac_filter');
32    
33    if ($UNAC_FILTER) {
34            require $UNAC_FILTER;
35    }
36    
37    Text::Iconv->raise_error(0);     # Conversion errors raise exceptions
38    
39    my $from_utf8 = Text::Iconv->new('UTF8', $CHARSET);
40    
41    
42  sub setup {  sub setup {
# Line 35  sub setup { Line 54  sub setup {
54          $self->header_props(-charset=>$CHARSET);          $self->header_props(-charset=>$CHARSET);
55  }  }
56    
57    sub in_template {
58            my $html = shift || "This page is left unintentionally blank";
59            return $html if (! defined($TEMPLATE));
60            if (open(T, $TEMPLATE)) {
61                    my $template_html = join("\n",<T>);
62                    close(T);
63                    $template_html =~ s/##webpac##/$html/gsi;
64                    return $template_html;
65            } else {
66                    return "Can't read template '$TEMPLATE'";
67            }
68    }
69    
70  sub show_search_form {  sub show_search_form {
71          my $self = shift;          my $self = shift;
72    
# Line 46  sub show_search_form { Line 78  sub show_search_form {
78    
79          my $fif = new HTML::FillInForm;          my $fif = new HTML::FillInForm;
80    
81          return $fif->fill(scalarref => \$html, fobject => $q,          return in_template($fif->fill(scalarref => \$html, fobject => $q,
82                  target => 'search');                  target => 'search'));
83  }  }
84    
85  sub show_results_list {  sub show_results_list {
# Line 61  sub show_results_list { Line 93  sub show_results_list {
93    
94          my @s_arr;      # all queries are located here          my @s_arr;      # all queries are located here
95    
96          for(my $i = 1; $i <=10; $i++) {          my @path_arr = $q->param('path');
97            my $full = $q->param('full');
98    
99            my @persist_vars = ( 'rm' );
100            my @url_params = ( 'rm=results', 'show_full=1', 'last_PAGER_offset='.$q->param('PAGER_offset') || 0 );
101    
102            # support parametars "f" and "v" for start
103            for(my $i = ""; $i <=30; $i++) {
104    
105                  return show_index($self, $i) if ($q->param("f".$i."_index"));                  return show_index($self, $i) if ($q->param("f".$i."_index"));
106                  next if (! $q->param("f$i"));  
107                  next if (! $q->param("v$i"));                  next if (! $q->param("v$i"));
108                    next if (! $q->param("f$i"));
109    
110                  # re-write query from +/- to and/and not                  push @persist_vars, "f$i";
111                  my $s;                  push @persist_vars, "v$i";
112                  my $search = $q->param("v$i");  
113                  while ($search =~ s/\s*("[^"]+")\s*/ /) {                  push @url_params,"f$i=".$q->url_param("f$i");
114                          $s .= "$1 ";                  foreach my $v ($q->url_param("v$i")) {
115                            push @url_params,"v$i=$v";
116                  }                  }
117                  $search =~ s/^\s+//;                  push @url_params,"e$i=".$q->url_param("e$i");
118                  $search =~ s/\s+$//;  
119                    my $wc="*";     # swish wildcard
120                    $wc="" if ($i eq "");   # don't apply wildcard on field 0
121    
122                  foreach (split(/\s+/,$search)) {                  # re-write query from +/- to and/and not
123                          if (m/^([+-])(\S+)/) {                  my @param_vals = $q->param("v$i");
124                                  $s.= ($s) ? "and " : "";                  my @swish_q;
125                                  $s.="not " if ($1 eq "-");                  my ($pre,$post,$exact) = ('','','');
126                                  $s.="$2* ";                  while (my $search = shift @param_vals) {
127                          } else {                          my $s;
128                                  $s.="$_* ";                          # remove accents
129                            $search = unac_string($CHARSET,$search);
130                            while ($search =~ s/\s*("[^"]+")\s*/ /) {
131                                    $s .= "$1 ";
132                          }                          }
133                  }                          $search =~ s/^\s+//;
134                            $search =~ s/\s+$//;
135    
136                  push @s_arr,$q->param("f$i")."_swish=($s)";                          # filed e[nr] is exact match bitmask
137                            # 1 = beginning, 2=end, 3=both
138                            $pre = '"xxbxx ' if ($q->param("e$i") & 1);
139                            $post = ' xxexx"' if ($q->param("e$i") & 2);
140                            # add qotes on other side
141                            if ($q->param("e$i")) {
142                                    $pre = '"' if (! $pre);
143                                    $post = '"' if (! $post);
144                                    $wc = '';       # don't use windcard in exact
145                                    $exact = '_exact';
146                            }
147    
148                            foreach (split(/\s+/,$search)) {
149                                    if (m/^([+-])(\S+)/) {
150                                            $s.= ($s) ? "and " : "";
151                                            $s.="not " if ($1 eq "-");
152                                            $s.=$2.$wc." ";
153                                    } elsif (m/^\s*(and|or|not)\s*$/i) {
154                                            $s.=$_." ";
155                                    # don't add * to words with less than x chars
156                                    } elsif (length($_) <= $MIN_WILDCARD) {
157                                            $s.=$_." ";
158                                    } else {
159                                            $s.=$_.$wc." ";
160                                    }
161                            }
162                            $s =~ s/\*+/*/g;
163                            $s = $pre.$s.$post if ($q->param("e$i"));
164                            push @swish_q,$s;
165                    }
166                    # FIXME default operator for multi-value fields is or. There is
167                    # no way to change it, except here for now. Is there need?
168                    push @s_arr, $q->param("f$i")."_swish".$exact."=(".join(" or ",@swish_q).")";
169          }          }
170    
171          my $tmpl = $self->load_tmpl('results.html');          my $tmpl = $self->load_tmpl('results.html', global_vars => 1);
172    
173          my $l2_map = Unicode::Map8->new($CHARSET) || die;          sub esc_html {
174          my $us = Unicode::String->new();                  my $html = shift;
175                    $html =~ s/</&lt;/g;
176                    $html =~ s/>/&gt;/g;
177                    return $html;
178            }
179    
180          # call swish          # call swish
181          my $sh = SWISH->connect('Fork',          my $sh = SWISH->connect('Fork',
182                  prog     => $SWISH,                  prog     => $SWISH,
183                  indexes  => $INDEX,                  indexes  => $INDEX,
184                  #properties  => [qw/god br nr/],                  properties  => [qw/swishdocpath swishrank swishtitle headline html/],
185                  results  => sub {                  results  => sub {
186                          my ($sh,$hit) = @_;                          my ($sh,$hit) = @_;
187    
                         $us->utf8($hit->swishtitle);  
   
188                          push @swish_results, {                          push @swish_results, {
189                                  nr => ($#swish_results + 2),                                  nr => ($#swish_results + 2),
190                                  path => $hit->swishdocpath,                                  path => $hit->swishdocpath,
191                                  title => $l2_map->to8($us->utf16),                                  headline => esc_html($from_utf8->convert($hit->headline)),
192                                    html => back2html($from_utf8->convert($hit->html)),
193                                  rank => $hit->swishrank };                                  rank => $hit->swishrank };
194    
 #                       my @fields = $hit->field_names;  
 #                       print "Field '$_' = '", $hit->$_, "'<br>\n" for sort @fields;  
195                  },                  },
196                  #startnum => 0,                  #startnum => 0,
197                  maxhits => $MAX_HITS,                  maxhits => $MAX_HITS
198          );          );
199    
200          die $SWISH::errstr unless $sh;          die $SWISH::errstr unless $sh;
201            # construct swish query
202            my $sw_q = join(" and ",@s_arr);
203            if (@path_arr && $q->param('show_full')) {
204                    $sw_q .= "and (swishdocpath=\"";
205                    $sw_q .= join("\" or swishdocpath=\"",@path_arr);
206                    $sw_q .= "\")";
207                    $tmpl->param('full',1); # show full records
208            } elsif ($q->param('show_full')) {
209                    # just show full path, no path defined
210                    $tmpl->param('full',1);
211            } else {
212                    $tmpl->param('full',0);
213            }
214    
215          my $hits = $sh->query(join(" and ",@s_arr)) || 0;       # FIX: and/or          my $hits = $sh->query($sw_q);
216    
217          $tmpl->param('hits',$hits);          $tmpl->param('hits',$hits);
218          $tmpl->param('search',join(" and ",@s_arr));          $tmpl->param('search',$sw_q);
219    
220            $tmpl->param('PAGER_offset',$q->param("PAGER_offset") || 0);
221            $tmpl->param('last_PAGER_offset',$q->param("last_PAGER_offset") || 0);
222    
223            $tmpl->param('url_params',"?".join("&",@url_params));
224    
225          # create a Pager object          # create a Pager object
226          my $pager = HTML::Pager->new(          my $pager = HTML::Pager->new(
# Line 133  sub show_results_list { Line 231  sub show_results_list {
231    
232                          my @result;                          my @result;
233                          for (my $i=0; $i<$rows; $i++) {                          for (my $i=0; $i<$rows; $i++) {
234                                  push @result, $swish_results[$offset+$i] if $swish_results[$offset+$i];                                  my $r = $swish_results[$offset+$i];
235                                    if ($r && $tmpl->param('full')) {
236                                            push @result, $r;
237                                    } elsif ($r) {
238                                            # if not full output, skip html
239                                            delete $r->{html};
240                                            push @result, $r;
241                                    }
242                          }                          }
243                          return \@result;                          return \@result;
244                  },                  },
245                  rows => $hits,                  rows => $hits,
246                  page_size => $ON_PAGE,                  page_size => $ON_PAGE,
247                  # some optional parameters                  # some optional parameters
248                  persist_vars => [                  persist_vars => [ @persist_vars ],
                         'rm',  
                         'f1', 'v1',  
                         'f2', 'v2',  
                         'f3', 'v3',  
                         'f4', 'v4',  
                         'f5', 'v5',  
                         'f6', 'v6',  
                         'f7', 'v7',  
                         'f8', 'v8',  
                         'f9', 'v9',  
                         ],  
249                  #cell_space_color => '#000000',                  #cell_space_color => '#000000',
250                  #cell_background_color => '#ffffff',                  #cell_background_color => '#ffffff',
251                  #nav_background_color => '#dddddd',                  #nav_background_color => '#dddddd',
# Line 162  sub show_results_list { Line 256  sub show_results_list {
256    
257          my $html = $pager->output;          my $html = $pager->output;
258    
259          return $html;          return in_template($html);
260  }  }
261    
262  sub show_index {  sub show_index {
# Line 171  sub show_index { Line 265  sub show_index {
265    
266          my $q = $self->query();          my $q = $self->query();
267    
268            my $field = $q->param("f$i");
269            my $limit = $q->param("v$i");
270    
271          my $html;          my $html;
272    
273          $html .= "show index of ".$q->param("f$i")." for ".$q->param("v$i");          my $index = new index_DBI(
274                    $cfg_global->val('global', 'dbi_dbd'),
275                    $cfg_global->val('global', 'dbi_dsn'),
276                    $cfg_global->val('global', 'dbi_user'),
277                    $cfg_global->val('global', 'dbi_passwd') || ''
278            );
279    
280            my $total = $index->count($field,$limit);
281            if (! $total) {
282                    my $tmpl = $self->load_tmpl('no_index.html');
283                    $tmpl->param('field',$field);
284                    $html = $tmpl->output;
285                    return $html;
286            }
287    
288            my $tmpl = $self->load_tmpl('index_res.html', global_vars => 1);
289            $tmpl->param('field',$field);
290            $tmpl->param('limit',$limit);
291            $tmpl->param('total',$total);
292    
293    # FIXME I should set offset and leave out limit from fetch!!
294    #       if (! $q->param("PAGER_offset") {
295    #               $q->param("Pager_offet)
296    #       }
297    
298            my $pager = HTML::Pager->new(
299                    query => $q,
300                    get_data_callback => sub {
301                            my ($offset, $rows) = @_;
302    
303                            my @result = $index->fetch($field,$limit, $offset, $rows);
304                            return \@result;
305                    },
306                    rows => $total,
307                    page_size => $ON_PAGE,
308                    persist_vars => [
309                            'rm',
310                            "f$i", "v$i", "f".$i."_index",
311                            'offset',
312                            ],
313                    debug => 1,
314                    template => $tmpl,
315            );
316    
317          return $html;          return in_template($pager->output);
318  }  }
319    
320  1;  1;

Legend:
Removed from v.9  
changed lines
  Added in v.183

  ViewVC Help
Powered by ViewVC 1.1.26