/[BackupPC]/trunk/bin/BackupPC_updatedb
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/bin/BackupPC_updatedb

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 90 by dpavlin, Sun Aug 28 17:42:25 2005 UTC revision 313 by dpavlin, Sun Jan 29 17:29:13 2006 UTC
# Line 11  use Getopt::Std; Line 11  use Getopt::Std;
11  use Time::HiRes qw/time/;  use Time::HiRes qw/time/;
12  use File::Pid;  use File::Pid;
13  use POSIX qw/strftime/;  use POSIX qw/strftime/;
14    use BackupPC::SearchLib;
15    use Cwd qw/abs_path/;
16    
17  use constant BPC_FTYPE_DIR => 5;  use constant BPC_FTYPE_DIR => 5;
18    use constant EST_CHUNK => 4096;
19    
20    # daylight saving time change offset for 1h
21    my $dst_offset = 60 * 60;
22    
23  my $debug = 0;  my $debug = 0;
24  $|=1;  $|=1;
25    
26  my $start_t = time();  my $start_t = time();
27    
28  my $pidfile = new File::Pid;  my $pid_path = abs_path($0);
29    $pid_path =~ s/\W+/_/g;
30    
31    my $pidfile = new File::Pid({
32            file => "/tmp/$pid_path",
33    });
34    
35  if (my $pid = $pidfile->running ) {  if (my $pid = $pidfile->running ) {
36          die "$0 already running: $pid\n";          die "$0 already running: $pid\n";
# Line 27  if (my $pid = $pidfile->running ) { Line 38  if (my $pid = $pidfile->running ) {
38          $pidfile->remove;          $pidfile->remove;
39          $pidfile = new File::Pid;          $pidfile = new File::Pid;
40  }  }
 $pidfile->write;  
41  print STDERR "$0 using pid ",$pidfile->pid," file ",$pidfile->file,"\n";  print STDERR "$0 using pid ",$pidfile->pid," file ",$pidfile->file,"\n";
42    $pidfile->write;
43    
44  my $t_fmt = '%Y-%m-%d %H:%M:%S';  my $t_fmt = '%Y-%m-%d %H:%M:%S';
45    
# Line 40  my $beenThere = {}; Line 51  my $beenThere = {};
51    
52  my $dsn = $Conf{SearchDSN} || die "Need SearchDSN in config.pl\n";  my $dsn = $Conf{SearchDSN} || die "Need SearchDSN in config.pl\n";
53  my $user = $Conf{SearchUser} || '';  my $user = $Conf{SearchUser} || '';
 my $index_path = $Conf{HyperEstraierIndex};  
 $index_path = $TopDir . '/' . $index_path;  
 $index_path =~ s#//#/#g;  
54    
55    my $index_node_url = $Conf{HyperEstraierIndex};
56    
57  my $dbh = DBI->connect($dsn, $user, "", { RaiseError => 1, AutoCommit => 0 });  my $dbh = DBI->connect($dsn, $user, "", { RaiseError => 1, AutoCommit => 0 });
58    
59  my %opt;  my %opt;
60    
61  if ( !getopts("cdm:v:i", \%opt ) ) {  if ( !getopts("cdm:v:ijfq", \%opt ) ) {
62          print STDERR <<EOF;          print STDERR <<EOF;
63  usage: $0 [-c|-d] [-m num] [-v|-v level] [-i]  usage: $0 [-c|-d] [-m num] [-v|-v level] [-i|-j|-f]
64    
65  Options:  Options:
66          -c      create database on first use          -c      create database on first use
67          -d      delete database before import          -d      delete database before import
68          -m num  import just num increments for one host          -m num  import just num increments for one host
69          -v num  set verbosity (debug) level (default $debug)          -v num  set verbosity (debug) level (default $debug)
70          -i      update HyperEstraier full text index          -i      update Hyper Estraier full text index
71            -j      update full text, don't check existing files
72            -f      don't do anything with full text index
73            -q      be quiet for hosts without changes
74    
75    Option -j is variation on -i. It will allow faster initial creation
76    of full-text index from existing database.
77    
78    Option -f will create database which is out of sync with full text index. You
79    will have to re-run $0 with -i to fix it.
80    
81  EOF  EOF
82          exit 1;          exit 1;
83  }  }
# Line 66  EOF Line 85  EOF
85  if ($opt{v}) {  if ($opt{v}) {
86          print "Debug level at $opt{v}\n";          print "Debug level at $opt{v}\n";
87          $debug = $opt{v};          $debug = $opt{v};
88    } elsif ($opt{f}) {
89            print "WARNING: disabling full-text index update. You need to re-run $0 -j !\n";
90            $index_node_url = undef;
91  }  }
92    
93  #---- subs ----  #---- subs ----
# Line 83  sub curr_time { Line 105  sub curr_time {
105          return strftime($t_fmt,localtime());          return strftime($t_fmt,localtime());
106  }  }
107    
108  my $hest_db;  my $hest_node;
109    
110  sub hest_update {  sub hest_update {
111    
112          my ($host_id, $share_id, $num) = @_;          my ($host_id, $share_id, $num) = @_;
113    
114          print curr_time," updating HyperEstraier: files";          my $skip_check = $opt{j} && print STDERR "Skipping check for existing files -- this should be used only with initital import\n";
115    
116          my $t = time();          unless (defined($index_node_url)) {
117                    print STDERR "HyperEstraier support not enabled in configuration\n";
118          my $where = '';                  $index_node_url = 0;
         if ($host_id && $share_id && $num) {  
                 $where = qq{  
                 WHERE  
                         hosts.id = ? AND  
                         shares.id = ? AND  
                         files.backupnum = ?  
                 };  
         }  
   
         my $sth = $dbh->prepare(qq{  
                 SELECT  
                         files.id                        AS fid,  
                         hosts.name                      AS hname,  
                         shares.name                     AS sname,  
                         -- shares.share                 AS sharename,  
                         files.backupnum                 AS backupnum,  
                         -- files.name                   AS filename,  
                         files.path                      AS filepath,  
                         files.date                      AS date,  
                         files.type                      AS type,  
                         files.size                      AS size,  
                         files.shareid                   AS shareid,  
                         backups.date                    AS backup_date  
                 FROM files  
                         INNER JOIN shares       ON files.shareID=shares.ID  
                         INNER JOIN hosts        ON hosts.ID = shares.hostID  
                         INNER JOIN backups      ON backups.num = files.backupNum and backups.hostID = hosts.ID AND backups.shareID = shares.ID  
                 $where  
         });  
   
         $sth->execute(@_);  
         my $results = $sth->rows;  
   
         if ($results == 0) {  
                 print " no files\n";  
119                  return;                  return;
120          }          }
121    
122          my $dot = int($results / 15) || 1;          print curr_time," updating Hyper Estraier:";
   
         print " $results ($dot/#)";  
   
         sub fmt_date {  
                 my $t = shift || return;  
                 my $iso = BackupPC::Lib::timeStamp($t);  
                 $iso =~ s/\s/T/;  
                 return $iso;  
         }  
   
         my $max = int($results / $dot);  
   
         print " index $index_path...";  
         use HyperEstraier;  
         my $db = HyperEstraier::Database->new();  
   
 #       unless ($hest_db) {  
 #               print " open reader";  
 #               $hest_db = HyperEstraier::Database->new();  
 #  
 #       }  
123    
124            my $t = time();
125    
126          $db->open($index_path, $HyperEstraier::Database::DBWRITER | $HyperEstraier::Database::DBCREAT);          my $offset = 0;
   
127          my $added = 0;          my $added = 0;
128    
129          while (my $row = $sth->fetchrow_hashref()) {          print " opening index $index_node_url";
130            if ($index_node_url) {
131                    $hest_node ||= Search::Estraier::Node->new(
132                            url => $index_node_url,
133                            user => 'admin',
134                            passwd => 'admin',
135                            croak_on_error => 1,
136                    );
137                    print " via node URL";
138            } else {
139                    die "don't know how to use Hyper Estraier Index $index_node_url";
140            }
141    
142            my $results = 0;
143    
144                  my $fid = $row->{'fid'} || die "no fid?";          do {
                 my $uri = 'file:///' . $fid;  
145    
146                  my $id = $db->uri_to_id($uri);                  my $where = '';
147                  next unless ($id == -1);                  my @data;
148                    if (defined($host_id) && defined($share_id) && defined($num)) {
149                            $where = qq{
150                            WHERE
151                                    hosts.id = ? AND
152                                    shares.id = ? AND
153                                    files.backupnum = ?
154                            };
155                            @data = ( $host_id, $share_id, $num );
156                    }
157    
158                  # create a document object                  my $limit = sprintf('LIMIT '.EST_CHUNK.' OFFSET %d', $offset);
                 my $doc = HyperEstraier::Document->new;  
159    
160                  # add attributes to the document object                  my $sth = $dbh->prepare(qq{
161                  $doc->add_attr('@uri', $uri);                          SELECT
162                                    files.id                        AS fid,
163                                    hosts.name                      AS hname,
164                                    shares.name                     AS sname,
165                                    -- shares.share                 AS sharename,
166                                    files.backupnum                 AS backupnum,
167                                    -- files.name                   AS filename,
168                                    files.path                      AS filepath,
169                                    files.date                      AS date,
170                                    files.type                      AS type,
171                                    files.size                      AS size,
172                                    files.shareid                   AS shareid,
173                                    backups.date                    AS backup_date
174                            FROM files
175                                    INNER JOIN shares       ON files.shareID=shares.ID
176                                    INNER JOIN hosts        ON hosts.ID = shares.hostID
177                                    INNER JOIN backups      ON backups.num = files.backupNum and backups.hostID = hosts.ID AND backups.shareID = shares.ID
178                            $where
179                            $limit
180                    });
181    
182                    $sth->execute(@data);
183                    $results = $sth->rows;
184    
185                    if ($results == 0) {
186                            print " - no new files\n";
187                            return;
188                    } else {
189                            print " - $results files: ";
190                    }
191    
192                  foreach my $c (@{ $sth->{NAME} }) {                  sub fmt_date {
193                          $doc->add_attr($c, $row->{$c}) if ($row->{$c});                          my $t = shift || return;
194                            my $iso = BackupPC::Lib::timeStamp($t);
195                            $iso =~ s/\s/T/;
196                            return $iso;
197                  }                  }
198    
199                  #$doc->add_attr('@cdate', fmt_date($row->{'date'}));                  while (my $row = $sth->fetchrow_hashref()) {
200    
201                  # add the body text to the document object                          my $uri = $row->{hname} . ':' . $row->{sname} . '#' . $row->{backupnum} . ' ' . $row->{filepath};
202                  my $path = $row->{'filepath'};                          unless ($skip_check) {
203                  $doc->add_text($path);                                  my $id = $hest_node->uri_to_id($uri);
204                  $path =~ s/(.)/$1 /g;                                  next if ($id && $id == -1);
205                  $doc->add_hidden_text($path);                          }
206    
207                  print STDERR $doc->dump_draft,"\n" if ($debug > 1);                          # create a document object
208                            my $doc = Search::Estraier::Document->new;
209                  # register the document object to the database  
210                  $db->put_doc($doc, $HyperEstraier::Database::PDCLEAN);                          # add attributes to the document object
211                            $doc->add_attr('@uri', $uri);
212                  $added++;  
213                  if ($added % $dot == 0) {                          foreach my $c (@{ $sth->{NAME} }) {
214                          print "$max ";                                  print STDERR "attr $c = $row->{$c}\n" if ($debug > 2);
215                          $max--;                                  $doc->add_attr($c, $row->{$c}) if (defined($row->{$c}));
216                            }
217    
218                            #$doc->add_attr('@cdate', fmt_date($row->{'date'}));
219    
220                            # add the body text to the document object
221                            my $path = $row->{'filepath'};
222                            $doc->add_text($path);
223                            $path =~ s/(.)/$1 /g;
224                            $doc->add_hidden_text($path);
225    
226                            print STDERR $doc->dump_draft,"\n" if ($debug > 1);
227    
228                            # register the document object to the database
229                            if ($hest_node) {
230                                    $hest_node->put_doc($doc);
231                            } else {
232                                    die "not supported";
233                            }
234                            $added++;
235                  }                  }
236    
237          }                  print " $added";
238    
239          print "sync $added new files";                  $offset += EST_CHUNK;
240          $db->sync();  
241          print " close";          } while ($results == EST_CHUNK);
         $db->close();  
242    
243          my $dur = (time() - $t) || 1;          my $dur = (time() - $t) || 1;
244          printf(" [%.2f/s new %.2f/s dur: %s]\n",          printf(" [%.2f/s dur: %s]\n",
                 ( $results / $dur ),  
245                  ( $added / $dur ),                  ( $added / $dur ),
246                  fmt_time($dur)                  fmt_time($dur)
247          );          );
# Line 216  sub hest_update { Line 251  sub hest_update {
251    
252    
253  ## update index ##  ## update index ##
254  if ($opt{i} || ($index_path && ! -e $index_path)) {  if ( ( $opt{i} || $opt{j} ) && !$opt{c} ) {
255          # update all          # update all
256          print "force update of HyperEstraier index ";          print "force update of Hyper Estraier index ";
         print "importing existing data" unless (-e $index_path);  
257          print "by -i flag" if ($opt{i});          print "by -i flag" if ($opt{i});
258            print "by -j flag" if ($opt{j});
259          print "\n";          print "\n";
260          hest_update();          hest_update();
261  }  }
# Line 229  if ($opt{i} || ($index_path && ! -e $ind Line 264  if ($opt{i} || ($index_path && ! -e $ind
264  if ($opt{c}) {  if ($opt{c}) {
265          sub do_index {          sub do_index {
266                  my $index = shift || return;                  my $index = shift || return;
267                  my ($table,$col,$unique) = split(/_/, $index);                  my ($table,$col,$unique) = split(/:/, $index);
268                  $unique ||= '';                  $unique ||= '';
269                  $index =~ s/,/_/g;                  $index =~ s/\W+/_/g;
270                    print "$index on $table($col)" . ( $unique ? "u" : "" ) . " ";
271                  $dbh->do(qq{ create $unique index $index on $table($col) });                  $dbh->do(qq{ create $unique index $index on $table($col) });
272          }          }
273    
274          print "creating tables...\n";          print "creating tables...\n";
275          
276          $dbh->do(qq{          $dbh->do( qq{
277                  create table hosts (                  create table hosts (
278                          ID      SERIAL          PRIMARY KEY,                          ID      SERIAL          PRIMARY KEY,
279                          name    VARCHAR(30)     NOT NULL,                          name    VARCHAR(30)     NOT NULL,
280                          IP      VARCHAR(15)                          IP      VARCHAR(15)
281                  );                              );            
282          });  
                 
         $dbh->do(qq{  
283                  create table shares (                  create table shares (
284                          ID      SERIAL          PRIMARY KEY,                          ID      SERIAL          PRIMARY KEY,
285                          hostID  INTEGER         NOT NULL references hosts(id),                          hostID  INTEGER         NOT NULL references hosts(id),
286                          name    VARCHAR(30)     NOT NULL,                          name    VARCHAR(30)     NOT NULL,
287                          share   VARCHAR(200)    NOT NULL,                          share   VARCHAR(200)    NOT NULL
                         localpath VARCHAR(200)        
288                  );                              );            
289          });  
290                            create table dvds (
291          $dbh->do(qq{                          ID      SERIAL          PRIMARY KEY,
292                            num     INTEGER         NOT NULL,
293                            name    VARCHAR(255)    NOT NULL,
294                            mjesto  VARCHAR(255)
295                    );
296    
297                  create table backups (                  create table backups (
298                            id      serial,
299                          hostID  INTEGER         NOT NULL references hosts(id),                          hostID  INTEGER         NOT NULL references hosts(id),
300                          num     INTEGER         NOT NULL,                          num     INTEGER         NOT NULL,
301                          date    integer         NOT NULL,                          date    integer         NOT NULL,
302                          type    CHAR(4)         not null,                          type    CHAR(4)         not null,
303                          shareID integer         not null references shares(id),                          shareID integer         not null references shares(id),
304                          size    integer         not null,                          size    bigint          not null,
305                          PRIMARY KEY(hostID, num, shareID)                          inc_size bigint         not null default -1,
306                            inc_deleted boolean     default false,
307                            parts   integer         not null default 1,
308                            PRIMARY KEY(id)
309                  );                              );            
         });  
310    
311          #do_index('backups_hostid,num_unique');                  create table files (
312                            ID              SERIAL,
313                            shareID         INTEGER NOT NULL references shares(id),
314                            backupNum       INTEGER NOT NULL,
315                            name            VARCHAR(255) NOT NULL,
316                            path            VARCHAR(255) NOT NULL,
317                            date            integer NOT NULL,
318                            type            INTEGER NOT NULL,
319                            size            bigint  NOT NULL,
320                            primary key(id)
321                    );
322    
323          $dbh->do(qq{                  create table archive (
324                  create table dvds (                          id              serial,
325                          ID      SERIAL          PRIMARY KEY,                          dvd_nr          int not null,
326                          num     INTEGER         NOT NULL,                          total_size      bigint default -1,
327                          name    VARCHAR(255)    NOT NULL,                          note            text,
328                          mjesto  VARCHAR(255)                          username        varchar(20) not null,
329                            date            timestamp default now(),
330                            primary key(id)
331                    );      
332    
333                    create table archive_backup (
334                            archive_id      int not null references archive(id) on delete cascade,
335                            backup_id       int not null references backups(id),
336                            primary key(archive_id, backup_id)
337                  );                  );
         });  
338    
339          $dbh->do(qq{                      create table archive_burned (
340                  create table files (                          archive_id      int references archive(id),
341                          ID      SERIAL          PRIMARY KEY,                            date            timestamp default now(),
342                          shareID INTEGER         NOT NULL references shares(id),                          part            int not null default 1,
343                          backupNum  INTEGER      NOT NULL,                          copy            int not null default 1,
344                          name       VARCHAR(255) NOT NULL,                          iso_size bigint default -1
345                          path       VARCHAR(255) NOT NULL,                  );
346                          date       integer      NOT NULL,  
347                          type       INTEGER      NOT NULL,                  create table backup_parts (
348                          size       INTEGER      NOT NULL,                          id serial,
349                          dvdid      INTEGER      references dvds(id)                              backup_id int references backups(id),
350                            part_nr int not null check (part_nr > 0),
351                            tar_size bigint not null check (tar_size > 0),
352                            size bigint not null check (size > 0),
353                            md5 text not null,
354                            items int not null check (items > 0),
355                            date timestamp default now(),
356                            primary key(id)
357                  );                  );
358          });          });
359    
360          print "creating indexes:";          print "creating indexes: ";
361    
362          foreach my $index (qw(          foreach my $index (qw(
363                  hosts_name                  hosts:name
364                  backups_hostID                  backups:hostID
365                  backups_num                  backups:num
366                  shares_hostID                  backups:shareID
367                  shares_name                  shares:hostID
368                  files_shareID                  shares:name
369                  files_path                  files:shareID
370                  files_name                  files:path
371                  files_date                  files:name
372                  files_size                  files:date
373                    files:size
374                    archive:dvd_nr
375                    archive_burned:archive_id
376                    backup_parts:backup_id,part_nr
377          )) {          )) {
                 print " $index";  
378                  do_index($index);                  do_index($index);
379          }          }
380    
381            print " creating sequence: ";
382            foreach my $seq (qw/dvd_nr/) {
383                    print "$seq ";
384                    $dbh->do( qq{ CREATE SEQUENCE $seq } );
385            }
386    
387    
388          print "...\n";          print "...\n";
389    
390          $dbh->commit;          $dbh->commit;
# Line 352  WHERE hostID=? AND num=? AND shareid=? Line 428  WHERE hostID=? AND num=? AND shareid=?
428    
429  $sth->{insert_backups} = $dbh->prepare(qq{  $sth->{insert_backups} = $dbh->prepare(qq{
430  INSERT INTO backups (hostID, num, date, type, shareid, size)  INSERT INTO backups (hostID, num, date, type, shareid, size)
431  VALUES (?,?,?,?,?,?)  VALUES (?,?,?,?,?,-1)
432    });
433    
434    $sth->{update_backups_size} = $dbh->prepare(qq{
435    UPDATE backups SET size = ?
436    WHERE hostID = ? and num = ? and date = ? and type =? and shareid = ?
437  });  });
438    
439  $sth->{insert_files} = $dbh->prepare(qq{  $sth->{insert_files} = $dbh->prepare(qq{
# Line 361  INSERT INTO files Line 442  INSERT INTO files
442          VALUES (?,?,?,?,?,?,?)          VALUES (?,?,?,?,?,?,?)
443  });  });
444    
445  foreach my $host_key (keys %{$hosts}) {  my @hosts = keys %{$hosts};
446    my $host_nr = 0;
447    
448    foreach my $host_key (@hosts) {
449    
450          my $hostname = $hosts->{$host_key}->{'host'} || die "can't find host for $host_key";          my $hostname = $hosts->{$host_key}->{'host'} || die "can't find host for $host_key";
451    
# Line 376  foreach my $host_key (keys %{$hosts}) { Line 460  foreach my $host_key (keys %{$hosts}) {
460                  $hostID = $dbh->last_insert_id(undef,undef,'hosts',undef);                  $hostID = $dbh->last_insert_id(undef,undef,'hosts',undef);
461          }          }
462    
463          print "host ".$hosts->{$host_key}->{'host'}.": ";          $host_nr++;
   
464          # get backups for a host          # get backups for a host
465          my @backups = $bpc->BackupInfoRead($hostname);          my @backups = $bpc->BackupInfoRead($hostname);
466          my $incs = scalar @backups;          my $incs = scalar @backups;
         print  "$incs increments\n";  
467    
468            my $host_header = sprintf("host %s [%d/%d]: %d increments\n",
469                    $hosts->{$host_key}->{'host'},
470                    $host_nr,
471                    ($#hosts + 1),
472                    $incs
473            );
474            print $host_header unless ($opt{q});
475    
476          my $inc_nr = 0;          my $inc_nr = 0;
477          $beenThere = {};          $beenThere = {};
478    
# Line 394  foreach my $host_key (keys %{$hosts}) { Line 484  foreach my $host_key (keys %{$hosts}) {
484                  my $backupNum = $backup->{'num'};                  my $backupNum = $backup->{'num'};
485                  my @backupShares = ();                  my @backupShares = ();
486    
487                  printf("%-10s %2d/%-2d #%-2d %s %5s/%5s files (date: %s dur: %s)\n",                  my $share_header = sprintf("%-10s %2d/%-2d #%-2d %s %5s/%5s files (date: %s dur: %s)\n",
488                          $hosts->{$host_key}->{'host'},                          $hosts->{$host_key}->{'host'},
489                          $inc_nr, $incs, $backupNum,                          $inc_nr, $incs, $backupNum,
490                          $backup->{type} || '?',                          $backup->{type} || '?',
# Line 402  foreach my $host_key (keys %{$hosts}) { Line 492  foreach my $host_key (keys %{$hosts}) {
492                          strftime($t_fmt,localtime($backup->{startTime})),                          strftime($t_fmt,localtime($backup->{startTime})),
493                          fmt_time($backup->{endTime} - $backup->{startTime})                          fmt_time($backup->{endTime} - $backup->{startTime})
494                  );                  );
495                    print $share_header unless ($opt{q});
496    
497                  my $files = BackupPC::View->new($bpc, $hostname, \@backups, 1);                  my $files = BackupPC::View->new($bpc, $hostname, \@backups, 1);
498                  foreach my $share ($files->shareList($backupNum)) {                  foreach my $share ($files->shareList($backupNum)) {
# Line 415  foreach my $host_key (keys %{$hosts}) { Line 506  foreach my $host_key (keys %{$hosts}) {
506                          # skip if allready in database!                          # skip if allready in database!
507                          next if ($count > 0);                          next if ($count > 0);
508    
509                            # dump host and share header for -q
510                            if ($opt{q}) {
511                                    if ($host_header) {
512                                            print $host_header;
513                                            $host_header = undef;
514                                    }
515                                    print $share_header;
516                            }
517    
518                          # dump some log                          # dump some log
519                          print curr_time," ", $share;                          print curr_time," ", $share;
520    
                         my ($f, $nf, $d, $nd, $size) = recurseDir($bpc, $hostname, $files, $backupNum, $share, "", $shareID);  
   
521                          $sth->{insert_backups}->execute(                          $sth->{insert_backups}->execute(
522                                  $hostID,                                  $hostID,
523                                  $backupNum,                                  $backupNum,
524                                  $backup->{'endTime'},                                  $backup->{'endTime'},
525                                  $backup->{'type'},                                  substr($backup->{'type'},0,4),
526                                  $shareID,                                  $shareID,
                                 $size,  
527                          );                          );
528    
529                          print " commit";                          my ($f, $nf, $d, $nd, $size) = recurseDir($bpc, $hostname, $files, $backupNum, $share, "", $shareID);
530                          $dbh->commit();  
531                            eval {
532                                    $sth->{update_backups_size}->execute(
533                                            $size,
534                                            $hostID,
535                                            $backupNum,
536                                            $backup->{'endTime'},
537                                            substr($backup->{'type'},0,4),
538                                            $shareID,
539                                    );
540                                    print " commit";
541                                    $dbh->commit();
542                            };
543                            if ($@) {
544                                    print " rollback";
545                                    $dbh->rollback();
546                            }
547    
548                          my $dur = (time() - $t) || 1;                          my $dur = (time() - $t) || 1;
549                          printf(" %d/%d files %d/%d dirs %0.2f MB [%.2f/s dur: %s]\n",                          printf(" %d/%d files %d/%d dirs %0.2f MB [%.2f/s dur: %s]\n",
# Line 440  foreach my $host_key (keys %{$hosts}) { Line 553  foreach my $host_key (keys %{$hosts}) {
553                                  fmt_time($dur)                                  fmt_time($dur)
554                          );                          );
555    
556                          hest_update($hostID, $shareID, $backupNum);                          hest_update($hostID, $shareID, $backupNum) if ($nf + $nd > 0);
557                  }                  }
558    
559          }          }
# Line 469  sub getShareID() { Line 582  sub getShareID() {
582    
583          $sth->{insert_share} ||= $dbh->prepare(qq{          $sth->{insert_share} ||= $dbh->prepare(qq{
584                  INSERT INTO shares                  INSERT INTO shares
585                          (hostID,name,share,localpath)                          (hostID,name,share)
586                  VALUES (?,?,?,?)                  VALUES (?,?,?)
587          });          });
588    
589          my $drop_down = $hostname . '/' . $share;          my $drop_down = $hostname . '/' . $share;
590          $drop_down =~ s#//+#/#g;          $drop_down =~ s#//+#/#g;
591    
592          $sth->{insert_share}->execute($hostID,$share, $drop_down ,undef);          $sth->{insert_share}->execute($hostID,$share, $drop_down);
593          return $dbh->last_insert_id(undef,undef,'shares',undef);          return $dbh->last_insert_id(undef,undef,'shares',undef);
594  }  }
595    
# Line 493  sub found_in_db { Line 606  sub found_in_db {
606                  SELECT 1 FROM files                  SELECT 1 FROM files
607                  WHERE shareID = ? and                  WHERE shareID = ? and
608                          path = ? and                          path = ? and
609                          date = ? and                          size = ? and
610                          size = ?                          ( date = ? or date = ? or date = ? )
611                  LIMIT 1                  LIMIT 1
612          });          });
613    
614          my @param = ($shareID,$path,$date,$size);          my @param = ($shareID,$path,$size,$date, $date-$dst_offset, $date+$dst_offset);
615          $sth->{file_in_db}->execute(@param);          $sth->{file_in_db}->execute(@param);
616          my $rows = $sth->{file_in_db}->rows;          my $rows = $sth->{file_in_db}->rows;
617          print STDERR "## found_in_db($shareID,$path,$date,$size) ",( $rows ? '+' : '-' ), join(" ",@param), "\n" if ($debug >= 3);          print STDERR "## found_in_db($shareID,$path,$date,$size) ",( $rows ? '+' : '-' ), join(" ",@param), "\n" if ($debug >= 3);
# Line 548  sub recurseDir($$$$$$$$) { Line 661  sub recurseDir($$$$$$$$) {
661                                  $filesInBackup->{$path_key}->{'size'}                                  $filesInBackup->{$path_key}->{'size'}
662                          ));                          ));
663    
664                            my $key_dst_prev = join(" ", (
665                                    $shareID,
666                                    $dir,
667                                    $path_key,
668                                    $filesInBackup->{$path_key}->{'mtime'} - $dst_offset,
669                                    $filesInBackup->{$path_key}->{'size'}
670                            ));
671    
672                            my $key_dst_next = join(" ", (
673                                    $shareID,
674                                    $dir,
675                                    $path_key,
676                                    $filesInBackup->{$path_key}->{'mtime'} + $dst_offset,
677                                    $filesInBackup->{$path_key}->{'size'}
678                            ));
679    
680                          my $found;                          my $found;
681                          if (! defined($beenThere->{$key}) && ! ($found = found_in_db($key, @data)) ) {                          if (
682                                    ! defined($beenThere->{$key}) &&
683                                    ! defined($beenThere->{$key_dst_prev}) &&
684                                    ! defined($beenThere->{$key_dst_next}) &&
685                                    ! ($found = found_in_db($key, @data))
686                            ) {
687                                  print STDERR "# key: $key [", $beenThere->{$key},"]" if ($debug >= 2);                                  print STDERR "# key: $key [", $beenThere->{$key},"]" if ($debug >= 2);
688    
689                                  if ($filesInBackup->{$path_key}->{'type'} == BPC_FTYPE_DIR) {                                  if ($filesInBackup->{$path_key}->{'type'} == BPC_FTYPE_DIR) {
Legend:
Removed from v.90  
changed lines
  Added in v.313
  ViewVC Help
Powered by ViewVC 1.1.26