/[irc-logger]/trunk/bin/irc-logger.pl
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/bin/irc-logger.pl

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 26 by dpavlin, Sat May 20 10:30:45 2006 UTC revision 38 by dpavlin, Sun Jun 25 17:48:33 2006 UTC
# Line 10  irc-logger.pl Line 10  irc-logger.pl
10    
11  ./irc-logger.pl  ./irc-logger.pl
12    
13    =head2 Options
14    
15    =over 4
16    
17    =item --import-dircproxy=filename
18    
19    Import log from C<dircproxy> to C<irc-logger> database
20    
21  =head1 DESCRIPTION  =head1 DESCRIPTION
22    
23  log all conversation on irc channel  log all conversation on irc channel
# Line 18  log all conversation on irc channel Line 26  log all conversation on irc channel
26    
27  ## CONFIG  ## CONFIG
28    
29    my $HOSTNAME = `hostname`;
30    
31  my $NICK = 'irc-logger';  my $NICK = 'irc-logger';
32    $NICK .= '-dev' if ($HOSTNAME =~ m/llin/);
33  my $CONNECT =  my $CONNECT =
34    {Server => 'irc.freenode.net',    {Server => 'irc.freenode.net',
35     Nick => $NICK,     Nick => $NICK,
36     Ircname => "try /msg $NICK help",     Ircname => "try /msg $NICK help",
37    };    };
38  my $CHANNEL = '#razmjenavjestina';  my $CHANNEL = '#razmjenavjestina';
39    $CHANNEL = '#irc-logger' if ($HOSTNAME =~ m/llin/);
40  my $IRC_ALIAS = "log";  my $IRC_ALIAS = "log";
41    
42  my %FOLLOWS =  my %FOLLOWS =
# Line 36  my %FOLLOWS = Line 48  my %FOLLOWS =
48  my $DSN = 'DBI:Pg:dbname=' . $NICK;  my $DSN = 'DBI:Pg:dbname=' . $NICK;
49    
50  my $ENCODING = 'ISO-8859-2';  my $ENCODING = 'ISO-8859-2';
51    my $TIMESTAMP = '%Y-%m-%d %H:%M:%S';
52    
53  ## END CONFIG  ## END CONFIG
54    
# Line 44  my $ENCODING = 'ISO-8859-2'; Line 57  my $ENCODING = 'ISO-8859-2';
57  use POE qw(Component::IRC Wheel::FollowTail Component::Server::HTTP);  use POE qw(Component::IRC Wheel::FollowTail Component::Server::HTTP);
58  use HTTP::Status;  use HTTP::Status;
59  use DBI;  use DBI;
60  use Encode qw/from_to/;  use Encode qw/from_to is_utf8/;
61  use Regexp::Common qw /URI/;  use Regexp::Common qw /URI/;
62  use CGI::Simple;  use CGI::Simple;
63    use HTML::TagCloud;
64    use POSIX qw/strftime/;
65    use HTML::CalendarMonthSimple;
66    use Getopt::Long;
67    use DateTime;
68    
69    my $import_dircproxy;
70    GetOptions(
71            'import-dircproxy:s' => \$import_dircproxy,
72    );
73    
74  my $dbh = DBI->connect($DSN,"","", { RaiseError => 1, AutoCommit => 1 }) || die $DBI::errstr;  my $dbh = DBI->connect($DSN,"","", { RaiseError => 1, AutoCommit => 1 }) || die $DBI::errstr;
75    
# Line 78  _SQL_SCHEMA_ Line 100  _SQL_SCHEMA_
100    
101  my $sth = $dbh->prepare(qq{  my $sth = $dbh->prepare(qq{
102  insert into log  insert into log
103          (channel, me, nick, message)          (channel, me, nick, message, time)
104  values (?,?,?,?)  values (?,?,?,?,?)
105  });  });
106    
107    my $tags;
108    my $tag_regex = '\b([\w-_]+)//';
109    
110  =head2 get_from_log  =head2 get_from_log
111    
112   my @messages = get_from_log(   my @messages = get_from_log(
# Line 113  C<context> defines number of messages ar Line 138  C<context> defines number of messages ar
138  sub get_from_log {  sub get_from_log {
139          my $args = {@_};          my $args = {@_};
140    
         $args->{limit} ||= 10;  
   
141          $args->{fmt} ||= {          $args->{fmt} ||= {
142                  date => '[%s] ',                  date => '[%s] ',
143                  time => '{%s} ',                  time => '{%s} ',
# Line 146  sub get_from_log { Line 169  sub get_from_log {
169          my $sql = $context ? $sql_context : $sql_message;          my $sql = $context ? $sql_context : $sql_message;
170    
171          $sql .= " where message ilike ? or nick ilike ? " if ($args->{search});          $sql .= " where message ilike ? or nick ilike ? " if ($args->{search});
172            $sql .= " where id in (" . join(",", @{ $tags->{ $args->{tag} } }) . ") " if ($args->{tag} && $tags->{ $args->{tag} });
173            $sql .= " where date(time) = ? " if ($args->{date});
174          $sql .= " order by log.time desc";          $sql .= " order by log.time desc";
175          $sql .= " limit " . $args->{limit};          $sql .= " limit " . $args->{limit} if ($args->{limit});
176    
177          my $sth = $dbh->prepare( $sql );          my $sth = $dbh->prepare( $sql );
178          if (my $search = $args->{search}) {          if (my $search = $args->{search}) {
# Line 155  sub get_from_log { Line 180  sub get_from_log {
180                  $search =~ s/\s+$//;                  $search =~ s/\s+$//;
181                  $sth->execute( ( '%' . $search . '%' ) x 2 );                  $sth->execute( ( '%' . $search . '%' ) x 2 );
182                  warn "search for '$search' returned ", $sth->rows, " results ", $context || '', "\n";                  warn "search for '$search' returned ", $sth->rows, " results ", $context || '', "\n";
183            } elsif (my $tag = $args->{tag}) {
184                    $sth->execute();
185                    warn "tag '$tag' returned ", $sth->rows, " results ", $context || '', "\n";
186            } elsif (my $date = $args->{date}) {
187                    $sth->execute($date);
188                    warn "found ", $sth->rows, " messages for date $date ", $context || '', "\n";
189          } else {          } else {
190                  $sth->execute();                  $sth->execute();
191          }          }
# Line 199  sub get_from_log { Line 230  sub get_from_log {
230                  }                  }
231          }          }
232    
233            # sprintf which can take coderef as first parametar
234            sub cr_sprintf {
235                    my $fmt = shift || return;
236                    if (ref($fmt) eq 'CODE') {
237                            $fmt->(@_);
238                    } else {
239                            sprintf($fmt, @_);
240                    }
241            }
242    
243          foreach my $row (@rows) {          foreach my $row (@rows) {
244    
245                  $row->{time} =~ s#\.\d+##;                  $row->{time} =~ s#\.\d+##;
246    
247                  my $msg = '';                  my $msg = '';
248    
249                  $msg = sprintf($args->{fmt}->{date}, $row->{date}) . ' ' if ($last_row->{date} ne $row->{date});                  $msg = cr_sprintf($args->{fmt}->{date}, $row->{date}) . ' ' if ($last_row->{date} ne $row->{date});
250                  my $t = $row->{time};                  my $t = $row->{time};
251    
252                  if ($last_row->{channel} ne $row->{channel}) {                  if ($last_row->{channel} ne $row->{channel}) {
253                          $msg .= sprintf($args->{fmt}->{time_channel}, $t, $row->{channel});                          $msg .= cr_sprintf($args->{fmt}->{time_channel}, $t, $row->{channel});
254                  } else {                  } else {
255                          $msg .= sprintf($args->{fmt}->{time}, $t);                          $msg .= cr_sprintf($args->{fmt}->{time}, $t);
256                  }                  }
257    
258                  my $append = 1;                  my $append = 1;
# Line 228  sub get_from_log { Line 269  sub get_from_log {
269    
270                          $nick = $args->{filter}->{nick}->($nick) if (ref($args->{filter}->{nick}) eq 'CODE');                          $nick = $args->{filter}->{nick}->($nick) if (ref($args->{filter}->{nick}) eq 'CODE');
271    
272                          $msg .= sprintf( $fmt, $nick );                          $msg .= cr_sprintf( $fmt, $nick );
273                          $append = 0;                          $append = 0;
274                  }                  }
275    
276                  $args->{fmt}->{message} ||= '%s';                  $args->{fmt}->{message} ||= '%s';
277                  if (ref($args->{filter}->{message}) eq 'CODE') {                  if (ref($args->{filter}->{message}) eq 'CODE') {
278                          $msg .= sprintf($args->{fmt}->{message},                          $msg .= cr_sprintf($args->{fmt}->{message},
279                                  $args->{filter}->{message}->(                                  $args->{filter}->{message}->(
280                                          $row->{message}                                          $row->{message}
281                                  )                                  )
282                          );                          );
283                  } else {                  } else {
284                          $msg .= sprintf($args->{fmt}->{message}, $row->{message});                          $msg .= cr_sprintf($args->{fmt}->{message}, $row->{message});
285                  }                  }
286    
287                  if ($append && @msgs) {                  if ($append && @msgs) {
# Line 255  sub get_from_log { Line 296  sub get_from_log {
296          return @msgs;          return @msgs;
297  }  }
298    
299    # tags support
300    
301    my $cloud = HTML::TagCloud->new;
302    
303    =head2 add_tag
304    
305     add_tag( id => 42, message => 'irc message' );
306    
307    =cut
308    
309    sub add_tag {
310            my $arg = {@_};
311    
312            return unless ($arg->{id} && $arg->{message});
313    
314            my $m = $arg->{message};
315            from_to('UTF-8', 'iso-8859-2', $m) if (is_utf8($m));
316    
317            while ($m =~ s#$tag_regex##s) {
318                    my $tag = $1;
319                    next if (! $tag || $tag =~ m/https?:/i);
320                    push @{ $tags->{$tag} }, $arg->{id};
321                    #warn "+tag $tag: $arg->{id}\n";
322                    $cloud->add($tag, "?tag=$tag", scalar @{$tags->{$tag}} + 1);
323            }
324    }
325    
326    =head2 seed_tags
327    
328    Read all tags from database and create in-memory cache for tags
329    
330    =cut
331    
332    sub seed_tags {
333            my $sth = $dbh->prepare(qq{ select id,message from log where message like '%//%' });
334            $sth->execute;
335            while (my $row = $sth->fetchrow_hashref) {
336                    add_tag( %$row );
337            }
338    
339            foreach my $tag (keys %$tags) {
340                    $cloud->add($tag, "?tag=$tag", scalar @{$tags->{$tag}} + 1);
341            }
342    }
343    
344    seed_tags;
345    
346    
347    =head2 save_message
348    
349      save_message(
350            channel => '#foobar',
351            me => 0,
352            nick => 'dpavlin',
353            msg => 'test message',
354            time => '2006-06-25 18:57:18',
355      );
356    
357    C<time> is optional, it will use C<< now() >> if it's not available.
358    
359    C<me> if not specified will be C<0> (not C</me> message)
360    
361    =cut
362    
363    sub save_message {
364            my $a = {@_};
365            $a->{me} ||= 0;
366            $a->{time} ||= strftime($TIMESTAMP,localtime());
367    
368            print
369                    $a->{time}, " ",
370                    $a->{channel}, " ",
371                    $a->{me} ? "***" . $a->{nick} : "<" . $a->{nick} . ">",
372                    " " . $a->{msg} . "\n";
373    
374            from_to($a->{msg}, 'UTF-8', $ENCODING);
375    
376            $sth->execute($a->{channel}, $a->{me}, $a->{nick}, $a->{msg}, $a->{time});
377            add_tag( id => $dbh->last_insert_id(undef,undef,"log",undef),
378                    message => $a->{msg});
379    }
380    
381    if ($import_dircproxy) {
382            open(my $l, $import_dircproxy) || die "can't open $import_dircproxy: $!";
383            warn "importing $import_dircproxy...\n";
384            my $tz_offset = 2 * 60 * 60;    # TZ GMT+2
385            while(<$l>) {
386                    chomp;
387                    if (/^@(\d+)\s(\S+)\s(.+)$/) {
388                            my ($time, $nick, $msg) = ($1,$2,$3);
389    
390                            my $dt = DateTime->from_epoch( epoch => $time + $tz_offset );
391    
392                            my $me = 0;
393                            $me = 1 if ($nick =~ m/^\[\S+]/);
394                            $nick =~ s/^[\[<]([^!]+).*$/$1/;
395    
396                            $msg =~ s/^ACTION\s+// if ($me);
397    
398                            save_message(
399                                    channel => $CHANNEL,
400                                    me => $me,
401                                    nick => $nick,
402                                    msg => $msg,
403                                    time => $dt->ymd . " " . $dt->hms,
404                            ) if ($nick !~ m/^-/);
405    
406                    } else {
407                            warn "can't parse: $_\n";
408                    }
409            }
410            close($l);
411            warn "import over\n";
412            exit;
413    }
414    
415    
416    #
417    # POE handing part
418    #
419    
420  my $SKIPPING = 0;               # if skipping, how many we've done  my $SKIPPING = 0;               # if skipping, how many we've done
421  my $SEND_QUEUE;                 # cache  my $SEND_QUEUE;                 # cache
422    
423  POE::Component::IRC->new($IRC_ALIAS);  POE::Component::IRC->new($IRC_ALIAS);
424    
425  POE::Session->create  POE::Session->create( inline_states =>
   (inline_states =>  
426     {_start => sub {           {_start => sub {      
427                  $_[KERNEL]->post($IRC_ALIAS => register => 'all');                  $_[KERNEL]->post($IRC_ALIAS => register => 'all');
428                  $_[KERNEL]->post($IRC_ALIAS => connect => $CONNECT);                  $_[KERNEL]->post($IRC_ALIAS => connect => $CONNECT);
# Line 280  POE::Session->create Line 440  POE::Session->create
440                  my $channel = $_[ARG1]->[0];                  my $channel = $_[ARG1]->[0];
441                  my $msg = $_[ARG2];                  my $msg = $_[ARG2];
442    
443                  from_to($msg, 'UTF-8', $ENCODING);                  save_message( channel => $channel, me => 0, nick => $nick, msg => $msg);
   
                 print "$channel: <$nick> $msg\n";  
                 $sth->execute($channel, 0, $nick, $msg);  
444      },      },
445      irc_ctcp_action => sub {      irc_ctcp_action => sub {
446                  my $kernel = $_[KERNEL];                  my $kernel = $_[KERNEL];
# Line 291  POE::Session->create Line 448  POE::Session->create
448                  my $channel = $_[ARG1]->[0];                  my $channel = $_[ARG1]->[0];
449                  my $msg = $_[ARG2];                  my $msg = $_[ARG2];
450    
451                  from_to($msg, 'UTF-8', $ENCODING);                  save_message( channel => $channel, me => 1, nick => $nick, msg => $msg);
   
                 print "$channel ***$nick $msg\n";  
                 $sth->execute($channel, 1, $nick, $msg);  
452      },      },
453          irc_msg => sub {          irc_msg => sub {
454                  my $kernel = $_[KERNEL];                  my $kernel = $_[KERNEL];
# Line 384  POE::Session->create Line 538  POE::Session->create
538  #               warn "## indetify $NICK\n";  #               warn "## indetify $NICK\n";
539  #               $_[KERNEL]->post( $IRC_ALIAS => privmsg => 'nickserv', "IDENTIFY $NICK" );  #               $_[KERNEL]->post( $IRC_ALIAS => privmsg => 'nickserv', "IDENTIFY $NICK" );
540  #       },  #       },
         irc_372 => sub {  
                 print "MOTD: ", $_[ARG1], "\n";  
         },  
         irc_snotice => sub {  
                 print "(server notice): ", $_[ARG0], "\n";  
         },  
     (map  
      {  
        ;"irc_$_" => sub { }}  
      qw(  
                 )),  
 #       join  
 #       ctcp_version  
 #       connected snotice ctcp_action ping notice mode part quit  
 #       001 002 003 004 005  
 #       250 251 252 253 254 265 266  
 #       332 333 353 366 372 375 376  
 #       477  
541      _child => sub {},      _child => sub {},
542      _default => sub {      _default => sub {
543        printf "%s: session %s caught an unhandled %s event.\n",                  printf "%s #%s %s %s\n",
544          scalar localtime(), $_[SESSION]->ID, $_[ARG0];                          strftime($TIMESTAMP,localtime()), $_[SESSION]->ID, $_[ARG0],
545        print "The $_[ARG0] event was given these parameters: ",                          ref($_[ARG1]) eq "ARRAY"        ?       join(",", map { ref($_) eq "ARRAY" ? join(";", @{$_}) : $_ } @{ $_[ARG1] })     :
546          join(" ", map({"ARRAY" eq ref $_ ? "[@$_]" : "$_"} @{$_[ARG1]})), "\n";                          $_[ARG1]                                        ?       $_[ARG1]                                        :
547                            "";
548        0;                        # false for signals        0;                        # false for signals
549      },      },
550      my_add => sub {      my_add => sub {
# Line 487  my $escape_re  = join '|' => keys %escap Line 624  my $escape_re  = join '|' => keys %escap
624  my $style = <<'_END_OF_STYLE_';  my $style = <<'_END_OF_STYLE_';
625  p { margin: 0; padding: 0.1em; }  p { margin: 0; padding: 0.1em; }
626  .time, .channel { color: #808080; font-size: 60%; }  .time, .channel { color: #808080; font-size: 60%; }
627  .date { float: right; background: #404040; color: #e0e0e0; font-size: 120%; padding: 0.5em; border-top: 1px dashed #e0e0e0; }  .date { float: right; background: #e0e0e0; color: #404040; font-size: 120%; padding: 0.25em; border: 1px dashed #808080; }
628  .nick { color: #000000; font-size: 80%; padding: 2px; font-family: courier, courier new, monospace ; }  .nick { color: #000000; font-size: 80%; padding: 2px; font-family: courier, courier new, monospace ; }
629  .message { color: #000000; font-size: 100%; }  .message { color: #000000; font-size: 100%; }
630  .search { float: right; }  .search { float: right; }
# Line 496  p { margin: 0; padding: 0.1em; } Line 633  p { margin: 0; padding: 0.1em; }
633  .col-2 { background: #99ff99 }  .col-2 { background: #99ff99 }
634  .col-3 { background: #ff9999 }  .col-3 { background: #ff9999 }
635  .col-4 { background: #ff66ff }  .col-4 { background: #ff66ff }
636    a:link.tag, a:visited.tag { border: 1px dashed #ccc; backgound: #ccc; text-decoration: none }
637    a:hover.tag { border: 1px solid #eee }
638    hr { border: 1px dashed #ccc; height: 1px; clear: both; }
639  _END_OF_STYLE_  _END_OF_STYLE_
640    
641  my $max_color = 4;  my $max_color = 4;
# Line 519  sub root_handler { Line 659  sub root_handler {
659    
660          my $search = $q->param('search') || $q->param('grep') || '';          my $search = $q->param('search') || $q->param('grep') || '';
661    
662          $response->content(          my $html =
663                  qq{<html><head><title>$NICK</title><style type="text/css">$style</style></head><body>                  qq{<html><head><title>$NICK</title><style type="text/css">$style} .
664                  <form method="post" class="search">                  $cloud->css .
665                    qq{</style></head><body>} .
666                    qq{
667                    <form method="post" class="search" action="/">
668                  <input type="text" name="search" value="$search" size="10">                  <input type="text" name="search" value="$search" size="10">
669                  <input type="submit" value="search">                  <input type="submit" value="search">
670                  </form>                  </form>
                 <p>  
671                  } .                  } .
672                  join("</p><p>",                  $cloud->html(500) .
673                    qq{<p>};
674            if ($request->url =~ m#/history#) {
675                    my $sth = $dbh->prepare(qq{
676                            select date(time) as date,count(*) as nr
677                                    from log
678                                    group by date(time)
679                                    order by date(time) desc
680                    });
681                    $sth->execute();
682                    my ($l_yyyy,$l_mm) = (0,0);
683                    my $cal;
684                    while (my $row = $sth->fetchrow_hashref) {
685                            # this is probably PostgreSQL specific, expects ISO date
686                            my ($yyyy,$mm,$dd) = split(/-/, $row->{date});
687                            if ($yyyy != $l_yyyy || $mm != $l_mm) {
688                                    $html .= $cal->as_HTML() if ($cal);
689                                    $cal = new HTML::CalendarMonthSimple('month'=>$mm,'year'=>$yyyy);
690                                    $cal->border(2);
691                                    ($l_yyyy,$l_mm) = ($yyyy,$mm);
692                            }
693                            $cal->setcontent($dd, qq{
694                                    <a href="/?date=$row->{date}">$row->{nr}</a>
695                            });
696                    }
697                    $html .= $cal->as_HTML() if ($cal);
698    
699            } else {
700                    $html .= join("</p><p>",
701                          get_from_log(                          get_from_log(
702                                  limit => $q->param('last') || 100,                                  limit => $q->param('last') || $q->param('date') ? undef : 100,
703                                  search => $q->param('search') || $q->param('grep') || undef,                                  search => $search || undef,
704                                    tag => $q->param('tag') || undef,
705                                    date => $q->param('date') || undef,
706                                  fmt => {                                  fmt => {
707                                          date => '<hr size="1"/><div class="date">%s</div> ',                                          date => sub {
708                                                    my $date = shift || return;
709                                                    qq{<hr/><div class="date"><a href="/?date=$date">$date</a></div>};
710                                            },
711                                          time => '<span class="time">%s</span> ',                                          time => '<span class="time">%s</span> ',
712                                          time_channel => '<span class="channel">%s %s</span> ',                                          time_channel => '<span class="channel">%s %s</span> ',
713                                          nick => '%s:&nbsp;',                                          nick => '%s:&nbsp;',
# Line 544  sub root_handler { Line 719  sub root_handler {
719                                                  my $m = shift || return;                                                  my $m = shift || return;
720                                                  $m =~ s/($escape_re)/$escape{$1}/gs;                                                  $m =~ s/($escape_re)/$escape{$1}/gs;
721                                                  $m =~ s#($RE{URI}{HTTP})#<a href="$1">$1</a>#gs;                                                  $m =~ s#($RE{URI}{HTTP})#<a href="$1">$1</a>#gs;
722                                                    $m =~ s#$tag_regex#<a href="?tag=$1" class="tag">$1</a>#g;
723                                                  return $m;                                                  return $m;
724                                          },                                          },
725                                          nick => sub {                                          nick => sub {
# Line 558  sub root_handler { Line 734  sub root_handler {
734                                          },                                          },
735                                  },                                  },
736                          )                          )
737                  ) .                  );
738                  qq{</p></body></html>}          }
739          );  
740            $html .= qq{</p>
741            <hr/>
742            <p>See <a href="/history">history</a> of all messages.</p>
743            </body></html>};
744    
745            $response->content( $html );
746          return RC_OK;          return RC_OK;
747  }  }
748    

Legend:
Removed from v.26  
changed lines
  Added in v.38

  ViewVC Help
Powered by ViewVC 1.1.26