/[irc-logger]/trunk/bin/irc-logger.pl
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/bin/irc-logger.pl

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 69 by dpavlin, Fri Dec 7 12:51:55 2007 UTC revision 83 by dpavlin, Fri Feb 29 22:11:07 2008 UTC
# Line 32  log all conversation on irc channel Line 32  log all conversation on irc channel
32    
33  ## CONFIG  ## CONFIG
34    
35  my $HOSTNAME = `hostname`;  my $HOSTNAME = `hostname -f`;
36    chomp($HOSTNAME);
37    
38  my $NICK = 'irc-logger';  my $NICK = 'irc-logger';
39  $NICK .= '-dev' if ($HOSTNAME =~ m/llin/);  $NICK .= '-dev' if ($HOSTNAME =~ m/llin/);
# Line 58  my $TIMESTAMP = '%Y-%m-%d %H:%M:%S'; Line 59  my $TIMESTAMP = '%Y-%m-%d %H:%M:%S';
59    
60  my $sleep_on_error = 5;  my $sleep_on_error = 5;
61    
62    # number of last tags to keep in circular buffer
63    my $last_x_tags = 50;
64    
65    my $http_port = $NICK =~ m/-dev/ ? 8001 : 8000;
66    
67    my $url = "http://$HOSTNAME:$http_port";
68    
69  ## END CONFIG  ## END CONFIG
70    
71    
# Line 77  use URI::Escape; Line 85  use URI::Escape;
85  use Data::Dump qw/dump/;  use Data::Dump qw/dump/;
86  use DateTime::Format::ISO8601;  use DateTime::Format::ISO8601;
87  use Carp qw/confess/;  use Carp qw/confess/;
88    use XML::Feed;
89    use DateTime::Format::Flexible;
90    
91  my $use_twitter = 1;  my $use_twitter = 1;
92  eval { require Net::Twitter; };  eval { require Net::Twitter; };
# Line 99  sub _log { Line 109  sub _log {
109          print strftime($TIMESTAMP,localtime()), ' ', join(" ",@_), $/;          print strftime($TIMESTAMP,localtime()), ' ', join(" ",@_), $/;
110  }  }
111    
112    # HTML formatters
113    
114    my %escape = ('<'=>'&lt;', '>'=>'&gt;', '&'=>'&amp;', '"'=>'&quot;');
115    my $escape_re  = join '|' => keys %escape;
116    
117    my $tag_regex = '\b([\w-_]+)//';
118    
119    my %nick_enumerator;
120    my $max_color = 0;
121    
122    my $filter = {
123            message => sub {
124                    my $m = shift || return;
125    
126                    # protect HTML from wiki modifications
127                    sub e {
128                            my $t = shift;
129                            return 'uri_unescape{' . uri_escape($t) . '}';
130                    }
131    
132                    $m =~ s/($escape_re)/$escape{$1}/gs;
133                    $m =~ s#($RE{URI}{HTTP})#e(qq{<a href="$1">$1</a>})#egs ||
134                    $m =~ s#\/(\w+)\/#<i>$1</i>#gs;
135                    $m =~ s#$tag_regex#e(qq{<a href="$url?tag=$1" class="tag">$1</a>})#egs;
136                    $m =~ s#\*(\w+)\*#<b>$1</b>#gs;
137                    $m =~ s#_(\w+)_#<u>$1</u>#gs;
138    
139                    $m =~ s#uri_unescape{([^}]+)}#uri_unescape($1)#egs;
140                    return $m;
141            },
142            nick => sub {
143                    my $n = shift || return;
144                    if (! $nick_enumerator{$n})  {
145                            my $max = scalar keys %nick_enumerator;
146                            $nick_enumerator{$n} = $max + 1;
147                    }
148                    return '<span class="nick col-' .
149                            ( $nick_enumerator{$n} % $max_color ) .
150                            '">' . $n . '</span>';
151            },
152    };
153    
154  my $dbh = DBI->connect($DSN,"","", { RaiseError => 1, AutoCommit => 1 }) || die $DBI::errstr;  my $dbh = DBI->connect($DSN,"","", { RaiseError => 1, AutoCommit => 1 }) || die $DBI::errstr;
155    
156  my $sql_schema = {  my $sql_schema = {
# Line 198  values (?,?,?,?,?) Line 250  values (?,?,?,?,?)
250    
251    
252  my $tags;  my $tags;
 my $tag_regex = '\b([\w-_]+)//';  
253    
254  =head2 get_from_log  =head2 get_from_log
255    
# Line 431  my $cloud = HTML::TagCloud->new; Line 482  my $cloud = HTML::TagCloud->new;
482    
483  =head2 add_tag  =head2 add_tag
484    
485   add_tag( id => 42, message => 'irc message' );   add_tag( id => 42, message => 'irc message', nick => 'foobar' [, me => 1 ] );
486    
487  =cut  =cut
488    
489    my @last_tags;
490    
491  sub add_tag {  sub add_tag {
492          my $arg = {@_};          my $arg = {@_};
493    
# Line 443  sub add_tag { Line 496  sub add_tag {
496          my $m = $arg->{message};          my $m = $arg->{message};
497          from_to('UTF-8', 'iso-8859-2', $m) if (is_utf8($m));          from_to('UTF-8', 'iso-8859-2', $m) if (is_utf8($m));
498    
499            my @tags;
500    
501          while ($m =~ s#$tag_regex##s) {          while ($m =~ s#$tag_regex##s) {
502                  my $tag = $1;                  my $tag = $1;
503                  next if (! $tag || $tag =~ m/https?:/i);                  next if (! $tag || $tag =~ m/https?:/i);
504                  push @{ $tags->{$tag} }, $arg->{id};                  push @{ $tags->{$tag} }, $arg->{id};
505                  #warn "+tag $tag: $arg->{id}\n";                  #warn "+tag $tag: $arg->{id}\n";
506                  $cloud->add($tag, "?tag=$tag", scalar @{$tags->{$tag}} + 1);                  $cloud->add($tag, "$url?tag=$tag", scalar @{$tags->{$tag}} + 1);
507                    push @tags, $tag;
508    
509            }
510    
511            if ( @tags ) {
512                    pop @last_tags if $#last_tags == $last_x_tags;
513                    unshift @last_tags, { tags => [ @tags ], %$arg };
514          }          }
515    
516  }  }
517    
518  =head2 seed_tags  =head2 seed_tags
# Line 459  Read all tags from database and create i Line 522  Read all tags from database and create i
522  =cut  =cut
523    
524  sub seed_tags {  sub seed_tags {
525          my $sth = $dbh->prepare(qq{ select id,message from log where message like '%//%' });          my $sth = $dbh->prepare(qq{ select id,message,nick,me,time from log where message like '%//%' order by time asc });
526          $sth->execute;          $sth->execute;
527          while (my $row = $sth->fetchrow_hashref) {          while (my $row = $sth->fetchrow_hashref) {
528                  add_tag( %$row );                  add_tag( %$row );
529          }          }
530    
531          foreach my $tag (keys %$tags) {          foreach my $tag (keys %$tags) {
532                  $cloud->add($tag, "?tag=$tag", scalar @{$tags->{$tag}} + 1);                  $cloud->add($tag, "$url?tag=$tag", scalar @{$tags->{$tag}} + 1);
533          }          }
534  }  }
535    
# Line 479  seed_tags; Line 542  seed_tags;
542          channel => '#foobar',          channel => '#foobar',
543          me => 0,          me => 0,
544          nick => 'dpavlin',          nick => 'dpavlin',
545          msg => 'test message',          message => 'test message',
546          time => '2006-06-25 18:57:18',          time => '2006-06-25 18:57:18',
547    );    );
548    
# Line 491  C<me> if not specified will be C<0> (not Line 554  C<me> if not specified will be C<0> (not
554    
555  sub save_message {  sub save_message {
556          my $a = {@_};          my $a = {@_};
557            confess "have msg" if $a->{msg};
558          $a->{me} ||= 0;          $a->{me} ||= 0;
559          $a->{time} ||= strftime($TIMESTAMP,localtime());          $a->{time} ||= strftime($TIMESTAMP,localtime());
560    
561          _log          _log
562                  $a->{channel}, " ",                  $a->{channel}, " ",
563                  $a->{me} ? "***" . $a->{nick} : "<" . $a->{nick} . ">",                  $a->{me} ? "***" . $a->{nick} : "<" . $a->{nick} . ">",
564                  " " . $a->{msg};                  " " . $a->{message};
565    
566          from_to($a->{msg}, 'UTF-8', $ENCODING);          from_to($a->{message}, 'UTF-8', $ENCODING);
567    
568          $sth->execute($a->{channel}, $a->{me}, $a->{nick}, $a->{msg}, $a->{time});          $sth->execute($a->{channel}, $a->{me}, $a->{nick}, $a->{message}, $a->{time});
569          add_tag( id => $dbh->last_insert_id(undef,undef,"log",undef),          add_tag( id => $dbh->last_insert_id(undef,undef,"log",undef), %$a );
                 message => $a->{msg});  
570  }  }
571    
572    
# Line 528  if ($import_dircproxy) { Line 591  if ($import_dircproxy) {
591                                  channel => $CHANNEL,                                  channel => $CHANNEL,
592                                  me => $me,                                  me => $me,
593                                  nick => $nick,                                  nick => $nick,
594                                  msg => $msg,                                  message => $msg,
595                                  time => $dt->ymd . " " . $dt->hms,                                  time => $dt->ymd . " " . $dt->hms,
596                          ) if ($nick !~ m/^-/);                          ) if ($nick !~ m/^-/);
597    
# Line 570  POE::Session->create( inline_states => Line 633  POE::Session->create( inline_states =>
633                  my $channel = $_[ARG1]->[0];                  my $channel = $_[ARG1]->[0];
634                  my $msg = $_[ARG2];                  my $msg = $_[ARG2];
635    
636                  save_message( channel => $channel, me => 0, nick => $nick, msg => $msg);                  save_message( channel => $channel, me => 0, nick => $nick, message => $msg);
637                  meta( $nick, $channel, 'last-msg', $msg );                  meta( $nick, $channel, 'last-msg', $msg );
638      },      },
639      irc_ctcp_action => sub {      irc_ctcp_action => sub {
# Line 579  POE::Session->create( inline_states => Line 642  POE::Session->create( inline_states =>
642                  my $channel = $_[ARG1]->[0];                  my $channel = $_[ARG1]->[0];
643                  my $msg = $_[ARG2];                  my $msg = $_[ARG2];
644    
645                  save_message( channel => $channel, me => 1, nick => $nick, msg => $msg);                  save_message( channel => $channel, me => 1, nick => $nick, message => $msg);
646    
647                  if ( $use_twitter ) {                  if ( $use_twitter ) {
648                          if ( my $twitter = meta( $nick, $NICK, 'twitter' ) ) {                          if ( my $twitter = meta( $nick, $NICK, 'twitter' ) ) {
# Line 852  POE::Session->create( inline_states => Line 915  POE::Session->create( inline_states =>
915  # http server  # http server
916    
917  my $httpd = POE::Component::Server::HTTP->new(  my $httpd = POE::Component::Server::HTTP->new(
918          Port => $NICK =~ m/-dev/ ? 8001 : 8000,          Port => $http_port,
919            PreHandler => {
920                    '/' => sub {
921                            $_[0]->header(Connection => 'close')
922                    }
923            },
924          ContentHandler => { '/' => \&root_handler },          ContentHandler => { '/' => \&root_handler },
925          Headers        => { Server => 'irc-logger' },          Headers        => { Server => 'irc-logger' },
926  );  );
927    
 my %escape = ('<'=>'&lt;', '>'=>'&gt;', '&'=>'&amp;', '"'=>'&quot;');  
 my $escape_re  = join '|' => keys %escape;  
   
928  my $style = <<'_END_OF_STYLE_';  my $style = <<'_END_OF_STYLE_';
929  p { margin: 0; padding: 0.1em; }  p { margin: 0; padding: 0.1em; }
930  .time, .channel { color: #808080; font-size: 60%; }  .time, .channel { color: #808080; font-size: 60%; }
# Line 881  hr { border: 1px dashed #ccc; height: 1p Line 946  hr { border: 1px dashed #ccc; height: 1p
946  .month { border: 0px; width: 100%; }  .month { border: 0px; width: 100%; }
947  _END_OF_STYLE_  _END_OF_STYLE_
948    
949  my $max_color = 4;  $max_color = 0;
950    
951  my @cols = qw(  my @cols = qw(
952          #ffcccc #ccffe6 #ccccff #e6ccff #ffccff #ffcce6 #ff9999 #ffcc99 #ffff99          #ffcccc #ccffe6 #ccccff #e6ccff #ffccff #ffcce6 #ff9999 #ffcc99 #ffff99
# Line 891  my @cols = qw( Line 956  my @cols = qw(
956          #999900 #009900 #cc0066 #c0c0c0 #ccff99 #99ff33 #808080 #660033 #ffffff          #999900 #009900 #cc0066 #c0c0c0 #ccff99 #99ff33 #808080 #660033 #ffffff
957  );  );
958    
 $max_color = 0;  
959  foreach my $c (@cols) {  foreach my $c (@cols) {
960          $style .= ".col-${max_color} { background: $c }\n";          $style .= ".col-${max_color} { background: $c }\n";
961          $max_color++;          $max_color++;
962  }  }
963  warn "defined $max_color colors for users...\n";  warn "defined $max_color colors for users...\n";
964    
 my %nick_enumerator;  
   
965  sub root_handler {  sub root_handler {
966          my ($request, $response) = @_;          my ($request, $response) = @_;
967          $response->code(RC_OK);          $response->code(RC_OK);
968          $response->content_type("text/html; charset=$ENCODING");  
969            # this doesn't seem to work, so moved to PreHandler
970            #$response->header(Connection => 'close');
971    
972            return RC_OK if $request->uri =~ m/favicon.ico$/;
973    
974          my $q;          my $q;
975    
# Line 917  sub root_handler { Line 983  sub root_handler {
983    
984          my $search = $q->param('search') || $q->param('grep') || '';          my $search = $q->param('search') || $q->param('grep') || '';
985    
986            if ($request->url =~ m#/rss(?:/(tags|last-tag)\w*(?:=(\d+))?)?#i) {
987                    my $show = lc($1);
988                    my $nr = $2;
989    
990                    my $type = 'RSS';       # Atom
991    
992                    $response->content_type( 'application/' . lc($type) . '+xml' );
993    
994                    my $html = '<!-- error -->';
995                    #warn "create $type feed from ",dump( @last_tags );
996    
997                    my $feed = XML::Feed->new( $type );
998    
999                    if ( $show eq 'tags' ) {
1000                            $nr ||= 50;
1001                            $feed->title( "tags from $CHANNEL" );
1002                            $feed->link( "$url/tags" );
1003                            $feed->description( "tag cloud created from messages on channel $CHANNEL which have tags// in them" );
1004                            my $feed_entry = XML::Feed::Entry->new($type);
1005                            $feed_entry->title( "$nr tags from $CHANNEL" );
1006                            $feed_entry->author( $NICK );
1007                            $feed_entry->link( '/#tags'  );
1008    
1009                            $feed_entry->content(
1010                                    qq{<![CDATA[<style type="text/css">}
1011                                    . $cloud->css
1012                                    . qq{</style>}
1013                                    . $cloud->html( $nr )
1014                                    . qq{]]>}
1015                            );
1016                            $feed->add_entry( $feed_entry );
1017    
1018                    } elsif ( $show eq 'last-tag' ) {
1019    
1020                            $nr ||= $last_x_tags;
1021                            $nr = $last_x_tags if $nr > $last_x_tags;
1022    
1023                            $feed->title( "last $nr tagged messages from $CHANNEL" );
1024                            $feed->link( $url );
1025                            $feed->description( "collects messages which have tags// in them" );
1026    
1027                            foreach my $m ( @last_tags ) {
1028    #                               warn dump( $m );
1029                                    #my $tags = join(' ', @{$m->{tags}} );
1030                                    my $feed_entry = XML::Feed::Entry->new($type);
1031                                    $feed_entry->title( $m->{nick} . '@' . $m->{time} );
1032                                    $feed_entry->author( $m->{nick} );
1033                                    $feed_entry->link( '/#' . $m->{id}  );
1034                                    $feed_entry->issued( DateTime::Format::Flexible->build( $m->{time} ) );
1035    
1036                                    my $message = $filter->{message}->( $m->{message} );
1037                                    $message .= "<br/>\n" unless $message =~ m!<(/p|br/?)>!;
1038    #                               warn "## message = $message\n";
1039                                    from_to( $message, $ENCODING, 'UTF-8' );
1040    
1041                                    #$feed_entry->summary(
1042                                    $feed_entry->content(
1043                                            "<![CDATA[$message]]>"
1044                                    );
1045                                    $feed_entry->category( join(', ', @{$m->{tags}}) );
1046                                    $feed->add_entry( $feed_entry );
1047    
1048                                    $nr--;
1049                                    last if $nr <= 0;
1050    
1051                            }
1052    
1053                    } else {
1054                            warn "!! unknown rss request for $show\n";
1055                            return RC_DENY;
1056                    }
1057    
1058                    $response->content( $feed->as_xml );
1059                    return RC_OK;
1060            }
1061    
1062            if ( $@ ) {
1063                    warn "$@";
1064            }
1065    
1066            $response->content_type("text/html; charset=$ENCODING");
1067    
1068          my $html =          my $html =
1069                  qq{<html><head><title>$NICK</title><style type="text/css">$style} .                  qq{<html><head><title>$NICK</title><style type="text/css">$style}
1070                  $cloud->css .                  . $cloud->css
1071                  qq{</style></head><body>} .                  . qq{</style></head><body>}
1072                  qq{                  . qq{
1073                  <form method="post" class="search" action="/">                  <form method="post" class="search" action="/">
1074                  <input type="text" name="search" value="$search" size="10">                  <input type="text" name="search" value="$search" size="10">
1075                  <input type="submit" value="search">                  <input type="submit" value="search">
1076                  </form>                  </form>
1077                  } .                  }
1078                  $cloud->html(500) .                  . $cloud->html(500)
1079                  qq{<p>};                  . qq{<p>};
1080          if ($request->url =~ m#/history#) {  
1081            if ($request->url =~ m#/tags?#) {
1082                    # nop
1083            } elsif ($request->url =~ m#/history#) {
1084                  my $sth = $dbh->prepare(qq{                  my $sth = $dbh->prepare(qq{
1085                          select date(time) as date,count(*) as nr,sum(length(message)) as len                          select date(time) as date,count(*) as nr,sum(length(message)) as len
1086                                  from log                                  from log
# Line 961  sub root_handler { Line 1112  sub root_handler {
1112                                  $cal->weekdays('MON','TUE','WED','THU','FRI');                                  $cal->weekdays('MON','TUE','WED','THU','FRI');
1113                                  ($l_yyyy,$l_mm) = ($yyyy,$mm);                                  ($l_yyyy,$l_mm) = ($yyyy,$mm);
1114                          }                          }
1115                          $cal->setcontent($dd, qq{                          $cal->setcontent($dd, qq[
1116                                  <a href="/?date=$row->{date}">$row->{nr}</a><br/>$row->{len}                                  <a href="$url?date=$row->{date}">$row->{nr}</a><br/>$row->{len}
1117                          });                          ]);
1118                                                    
1119                  }                  }
1120                  $html .= qq{<td valign="top">} . $cal->as_HTML() . qq{</td></tr></table>};                  $html .= qq{<td valign="top">} . $cal->as_HTML() . qq{</td></tr></table>};
# Line 978  sub root_handler { Line 1129  sub root_handler {
1129                                  fmt => {                                  fmt => {
1130                                          date => sub {                                          date => sub {
1131                                                  my $date = shift || return;                                                  my $date = shift || return;
1132                                                  qq{<hr/><div class="date"><a href="/?date=$date">$date</a></div>};                                                  qq{<hr/><div class="date"><a href="$url?date=$date">$date</a></div>};
1133                                          },                                          },
1134                                          time => '<span class="time">%s</span> ',                                          time => '<span class="time">%s</span> ',
1135                                          time_channel => '<span class="channel">%s %s</span> ',                                          time_channel => '<span class="channel">%s %s</span> ',
# Line 986  sub root_handler { Line 1137  sub root_handler {
1137                                          me_nick => '***%s&nbsp;',                                          me_nick => '***%s&nbsp;',
1138                                          message => '<span class="message">%s</span>',                                          message => '<span class="message">%s</span>',
1139                                  },                                  },
1140                                  filter => {                                  filter => $filter,
                                         message => sub {  
                                                 my $m = shift || return;  
   
                                                 # protect HTML from wiki modifications  
                                                 sub e {  
                                                         my $t = shift;  
                                                         return 'uri_unescape{' . uri_escape($t) . '}';  
                                                 }  
   
                                                 $m =~ s/($escape_re)/$escape{$1}/gs;  
                                                 $m =~ s#($RE{URI}{HTTP})#e(qq{<a href="$1">$1</a>})#egs;  
                                                 $m =~ s#$tag_regex#e(qq{<a href="?tag=$1" class="tag">$1</a>})#egs;  
                                                 $m =~ s#\*(\w+)\*#<b>$1</b>#gs;  
                                                 $m =~ s#_(\w+)_#<u>$1</u>#gs;  
                                                 $m =~ s#\/(\w+)\/#<i>$1</i>#gs;  
   
                                                 $m =~ s#uri_unescape{([^}]+)}#uri_unescape($1)#egs;  
                                                 return $m;  
                                         },  
                                         nick => sub {  
                                                 my $n = shift || return;  
                                                 if (! $nick_enumerator{$n})  {  
                                                         my $max = scalar keys %nick_enumerator;  
                                                         $nick_enumerator{$n} = $max + 1;  
                                                 }  
                                                 return '<span class="nick col-' .  
                                                         ( $nick_enumerator{$n} % $max_color ) .  
                                                         '">' . $n . '</span>';  
                                         },  
                                 },  
1141                          )                          )
1142                  );                  );
1143          }          }
# Line 1027  sub root_handler { Line 1148  sub root_handler {
1148          </body></html>};          </body></html>};
1149    
1150          $response->content( $html );          $response->content( $html );
1151            warn "<< ", $request->method, " ", $request->uri, " created ", length($html), " bytes\n";
1152          return RC_OK;          return RC_OK;
1153  }  }
1154    
Legend:
Removed from v.69  
changed lines
  Added in v.83
  ViewVC Help
Powered by ViewVC 1.1.26