/[BackupPC]/trunk/bin/BackupPC_updatedb
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/bin/BackupPC_updatedb

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 51 by dpavlin, Sat Aug 20 16:40:11 2005 UTC revision 315 by dpavlin, Sun Jan 29 18:08:52 2006 UTC
# Line 11  use Getopt::Std; Line 11  use Getopt::Std;
11  use Time::HiRes qw/time/;  use Time::HiRes qw/time/;
12  use File::Pid;  use File::Pid;
13  use POSIX qw/strftime/;  use POSIX qw/strftime/;
14    use BackupPC::SearchLib;
15    use Cwd qw/abs_path/;
16    
17  use constant BPC_FTYPE_DIR => 5;  use constant BPC_FTYPE_DIR => 5;
18    use constant EST_CHUNK => 4096;
19    
20    # daylight saving time change offset for 1h
21    my $dst_offset = 60 * 60;
22    
23  my $debug = 0;  my $debug = 0;
24  $|=1;  $|=1;
25    
26  my $start_t = time();  my $start_t = time();
27    
28  my $pidfile = new File::Pid;  my $pid_path = abs_path($0);
29    $pid_path =~ s/\W+/_/g;
30    
31    my $pidfile = new File::Pid({
32            file => "/tmp/$pid_path",
33    });
34    
35  if (my $pid = $pidfile->running ) {  if (my $pid = $pidfile->running ) {
36          die "$0 already running: $pid\n";          die "$0 already running: $pid\n";
# Line 27  if (my $pid = $pidfile->running ) { Line 38  if (my $pid = $pidfile->running ) {
38          $pidfile->remove;          $pidfile->remove;
39          $pidfile = new File::Pid;          $pidfile = new File::Pid;
40  }  }
 $pidfile->write;  
41  print STDERR "$0 using pid ",$pidfile->pid," file ",$pidfile->file,"\n";  print STDERR "$0 using pid ",$pidfile->pid," file ",$pidfile->file,"\n";
42    $pidfile->write;
43    
44  my $t_fmt = '%Y-%m-%d %H:%M:%S';  my $t_fmt = '%Y-%m-%d %H:%M:%S';
45    
# Line 41  my $beenThere = {}; Line 52  my $beenThere = {};
52  my $dsn = $Conf{SearchDSN} || die "Need SearchDSN in config.pl\n";  my $dsn = $Conf{SearchDSN} || die "Need SearchDSN in config.pl\n";
53  my $user = $Conf{SearchUser} || '';  my $user = $Conf{SearchUser} || '';
54    
55    my $index_node_url = $Conf{HyperEstraierIndex};
56    
57  my $dbh = DBI->connect($dsn, $user, "", { RaiseError => 1, AutoCommit => 0 });  my $dbh = DBI->connect($dsn, $user, "", { RaiseError => 1, AutoCommit => 0 });
58    
59  my %opt;  my %opt;
60    
61  if ( !getopts("cdm:v:", \%opt ) ) {  if ( !getopts("cdm:v:ijfq", \%opt ) ) {
62          print STDERR <<EOF;          print STDERR <<EOF;
63  usage: $0 [-c|-d] [-m num] [-v|-v level]  usage: $0 [-c|-d] [-m num] [-v|-v level] [-i|-j|-f]
64    
65  Options:  Options:
66          -c      create database on first use          -c      create database on first use
67          -d      delete database before import          -d      delete database before import
68          -m num  import just num increments for one host          -m num  import just num increments for one host
69          -v num  set verbosity (debug) level (default $debug)          -v num  set verbosity (debug) level (default $debug)
70            -i      update Hyper Estraier full text index
71            -j      update full text, don't check existing files
72            -f      don't do anything with full text index
73            -q      be quiet for hosts without changes
74    
75    Option -j is variation on -i. It will allow faster initial creation
76    of full-text index from existing database.
77    
78    Option -f will create database which is out of sync with full text index. You
79    will have to re-run $0 with -i to fix it.
80    
81  EOF  EOF
82          exit 1;          exit 1;
83  }  }
84    
85  ###################################create tables############################3  if ($opt{v}) {
86            print "Debug level at $opt{v}\n";
87            $debug = $opt{v};
88    } elsif ($opt{f}) {
89            print "WARNING: disabling full-text index update. You need to re-run $0 -j !\n";
90            $index_node_url = undef;
91    }
92    
93    #---- subs ----
94    
95    sub fmt_time {
96            my $t = shift || return;
97            my $out = "";
98            my ($ss,$mm,$hh) = gmtime($t);
99            $out .= "${hh}h" if ($hh);
100            $out .= sprintf("%02d:%02d", $mm,$ss);
101            return $out;
102    }
103    
104    sub curr_time {
105            return strftime($t_fmt,localtime());
106    }
107    
108    my $hest_node;
109    
110    sub hest_update {
111    
112            my ($host_id, $share_id, $num) = @_;
113    
114            my $skip_check = $opt{j} && print STDERR "Skipping check for existing files -- this should be used only with initital import\n";
115    
116            unless (defined($index_node_url)) {
117                    print STDERR "HyperEstraier support not enabled in configuration\n";
118                    $index_node_url = 0;
119                    return;
120            }
121    
122            print curr_time," updating Hyper Estraier:";
123    
124            my $t = time();
125    
126            my $offset = 0;
127            my $added = 0;
128    
129            print " opening index $index_node_url";
130            if ($index_node_url) {
131                    $hest_node ||= Search::Estraier::Node->new(
132                            url => $index_node_url,
133                            user => 'admin',
134                            passwd => 'admin',
135                            croak_on_error => 1,
136                    );
137                    print " via node URL";
138            } else {
139                    die "don't know how to use Hyper Estraier Index $index_node_url";
140            }
141    
142            my $results = 0;
143    
144            do {
145    
146                    my $where = '';
147                    my @data;
148                    if (defined($host_id) && defined($share_id) && defined($num)) {
149                            $where = qq{
150                            WHERE
151                                    hosts.id = ? AND
152                                    shares.id = ? AND
153                                    files.backupnum = ?
154                            };
155                            @data = ( $host_id, $share_id, $num );
156                    }
157    
158                    my $limit = sprintf('LIMIT '.EST_CHUNK.' OFFSET %d', $offset);
159    
160                    my $sth = $dbh->prepare(qq{
161                            SELECT
162                                    files.id                        AS fid,
163                                    hosts.name                      AS hname,
164                                    shares.name                     AS sname,
165                                    -- shares.share                 AS sharename,
166                                    files.backupnum                 AS backupnum,
167                                    -- files.name                   AS filename,
168                                    files.path                      AS filepath,
169                                    files.date                      AS date,
170                                    files.type                      AS type,
171                                    files.size                      AS size,
172                                    files.shareid                   AS shareid,
173                                    backups.date                    AS backup_date
174                            FROM files
175                                    INNER JOIN shares       ON files.shareID=shares.ID
176                                    INNER JOIN hosts        ON hosts.ID = shares.hostID
177                                    INNER JOIN backups      ON backups.num = files.backupNum and backups.hostID = hosts.ID AND backups.shareID = shares.ID
178                            $where
179                            $limit
180                    });
181    
182                    $sth->execute(@data);
183                    $results = $sth->rows;
184    
185                    if ($results == 0) {
186                            print " - no new files\n";
187                            return;
188                    } else {
189                            print "...";
190                    }
191    
192                    sub fmt_date {
193                            my $t = shift || return;
194                            my $iso = BackupPC::Lib::timeStamp($t);
195                            $iso =~ s/\s/T/;
196                            return $iso;
197                    }
198    
199                    while (my $row = $sth->fetchrow_hashref()) {
200    
201                            my $uri = $row->{hname} . ':' . $row->{sname} . '#' . $row->{backupnum} . ' ' . $row->{filepath};
202                            unless ($skip_check) {
203                                    my $id = $hest_node->uri_to_id($uri);
204                                    next if ($id && $id == -1);
205                            }
206    
207                            # create a document object
208                            my $doc = Search::Estraier::Document->new;
209    
210                            # add attributes to the document object
211                            $doc->add_attr('@uri', $uri);
212    
213                            foreach my $c (@{ $sth->{NAME} }) {
214                                    print STDERR "attr $c = $row->{$c}\n" if ($debug > 2);
215                                    $doc->add_attr($c, $row->{$c}) if (defined($row->{$c}));
216                            }
217    
218                            #$doc->add_attr('@cdate', fmt_date($row->{'date'}));
219    
220                            # add the body text to the document object
221                            my $path = $row->{'filepath'};
222                            $doc->add_text($path);
223                            $path =~ s/(.)/$1 /g;
224                            $doc->add_hidden_text($path);
225    
226                            print STDERR $doc->dump_draft,"\n" if ($debug > 1);
227    
228                            # register the document object to the database
229                            if ($hest_node) {
230                                    $hest_node->put_doc($doc);
231                            } else {
232                                    die "not supported";
233                            }
234                            $added++;
235                    }
236    
237                    print "$added";
238    
239                    $offset += EST_CHUNK;
240    
241            } while ($results == EST_CHUNK);
242    
243            my $dur = (time() - $t) || 1;
244            printf(" [%.2f/s dur: %s]\n",
245                    ( $added / $dur ),
246                    fmt_time($dur)
247            );
248    }
249    
250    #---- /subs ----
251    
252    
253    ## update index ##
254    if ( ( $opt{i} || $opt{j} ) && !$opt{c} ) {
255            # update all
256            print "force update of Hyper Estraier index ";
257            print "by -i flag" if ($opt{i});
258            print "by -j flag" if ($opt{j});
259            print "\n";
260            hest_update();
261    }
262    
263    ## create tables ##
264  if ($opt{c}) {  if ($opt{c}) {
265          sub do_index {          sub do_index {
266                  my $index = shift || return;                  my $index = shift || return;
267                  my ($table,$col,$unique) = split(/_/, $index);                  my ($table,$col,$unique) = split(/:/, $index);
268                  $unique ||= '';                  $unique ||= '';
269                    $index =~ s/\W+/_/g;
270                    print "$index on $table($col)" . ( $unique ? "u" : "" ) . " ";
271                  $dbh->do(qq{ create $unique index $index on $table($col) });                  $dbh->do(qq{ create $unique index $index on $table($col) });
272          }          }
273    
274          print "creating tables...\n";          print "creating tables...\n";
275          
276          $dbh->do(qq{          $dbh->do( qq{
277                  create table hosts (                  create table hosts (
278                          ID      SERIAL          PRIMARY KEY,                          ID      SERIAL          PRIMARY KEY,
279                          name    VARCHAR(30)     NOT NULL,                          name    VARCHAR(30)     NOT NULL,
280                          IP      VARCHAR(15)                          IP      VARCHAR(15)
281                  );                              );            
282          });  
                 
         $dbh->do(qq{  
283                  create table shares (                  create table shares (
284                          ID      SERIAL          PRIMARY KEY,                          ID      SERIAL          PRIMARY KEY,
285                          hostID  INTEGER         NOT NULL references hosts(id),                          hostID  INTEGER         NOT NULL references hosts(id),
286                          name    VARCHAR(30)     NOT NULL,                          name    VARCHAR(30)     NOT NULL,
287                          share   VARCHAR(200)    NOT NULL,                          share   VARCHAR(200)    NOT NULL
                         localpath VARCHAR(200)        
288                  );                              );            
289          });  
290                            create table dvds (
291          $dbh->do(qq{                          ID      SERIAL          PRIMARY KEY,
292                            num     INTEGER         NOT NULL,
293                            name    VARCHAR(255)    NOT NULL,
294                            mjesto  VARCHAR(255)
295                    );
296    
297                  create table backups (                  create table backups (
298                            id      serial,
299                          hostID  INTEGER         NOT NULL references hosts(id),                          hostID  INTEGER         NOT NULL references hosts(id),
300                          num     INTEGER         NOT NULL,                          num     INTEGER         NOT NULL,
301                          date    integer         NOT NULL,                          date    integer         NOT NULL,
302                          type    CHAR(4)         not null,                          type    CHAR(4)         not null,
303                          PRIMARY KEY(hostID, num)                          shareID integer         not null references shares(id),
304                            size    bigint          not null,
305                            inc_size bigint         not null default -1,
306                            inc_deleted boolean     default false,
307                            parts   integer         not null default 1,
308                            PRIMARY KEY(id)
309                  );                              );            
         });  
310    
311          do_index('backups_num_unique');                  create table files (
312                            ID              SERIAL,
313                            shareID         INTEGER NOT NULL references shares(id),
314                            backupNum       INTEGER NOT NULL,
315                            name            VARCHAR(255) NOT NULL,
316                            path            VARCHAR(255) NOT NULL,
317                            date            integer NOT NULL,
318                            type            INTEGER NOT NULL,
319                            size            bigint  NOT NULL,
320                            primary key(id)
321                    );
322    
323          $dbh->do(qq{                  create table archive (
324                  create table dvds (                          id              serial,
325                          ID      SERIAL          PRIMARY KEY,                          dvd_nr          int not null,
326                          num     INTEGER         NOT NULL,                          total_size      bigint default -1,
327                          name    VARCHAR(255)    NOT NULL,                          note            text,
328                          mjesto  VARCHAR(255)                          username        varchar(20) not null,
329                            date            timestamp default now(),
330                            primary key(id)
331                    );      
332    
333                    create table archive_backup (
334                            archive_id      int not null references archive(id) on delete cascade,
335                            backup_id       int not null references backups(id),
336                            primary key(archive_id, backup_id)
337                  );                  );
         });  
338    
339          $dbh->do(qq{                      create table archive_burned (
340                  create table files (                          archive_id      int references archive(id),
341                          ID      SERIAL          PRIMARY KEY,                            date            timestamp default now(),
342                          shareID INTEGER         NOT NULL references shares(id),                          part            int not null default 1,
343                          backupNum  INTEGER      NOT NULL references backups(num),                          copy            int not null default 1,
344                          name       VARCHAR(255) NOT NULL,                          iso_size bigint default -1
345                          path       VARCHAR(255) NOT NULL,                  );
346                          fullpath   VARCHAR(255) NOT NULL,  
347                          date       integer      NOT NULL,                  create table backup_parts (
348                          type       INTEGER      NOT NULL,                          id serial,
349                          size       INTEGER      NOT NULL,                          backup_id int references backups(id),
350                          dvdid      INTEGER      references dvds(id)                              part_nr int not null check (part_nr > 0),
351                            tar_size bigint not null check (tar_size > 0),
352                            size bigint not null check (size > 0),
353                            md5 text not null,
354                            items int not null check (items > 0),
355                            date timestamp default now(),
356                            primary key(id)
357                  );                  );
358          });          });
359    
360          print "creating indexes:";          print "creating indexes: ";
361    
362          foreach my $index (qw(          foreach my $index (qw(
363                  hosts_name                  hosts:name
364                  backups_hostID                  backups:hostID
365                  backups_num                  backups:num
366                  shares_hostID                  backups:shareID
367                  shares_name                  shares:hostID
368                  files_shareID                  shares:name
369                  files_path                  files:shareID
370                  files_name                  files:path
371                  files_date                  files:name
372                  files_size                  files:date
373                    files:size
374                    archive:dvd_nr
375                    archive_burned:archive_id
376                    backup_parts:backup_id,part_nr
377          )) {          )) {
                 print " $index";  
378                  do_index($index);                  do_index($index);
379          }          }
380    
381            print " creating sequence: ";
382            foreach my $seq (qw/dvd_nr/) {
383                    print "$seq ";
384                    $dbh->do( qq{ CREATE SEQUENCE $seq } );
385            }
386    
387    
388          print "...\n";          print "...\n";
389    
390          $dbh->commit;          $dbh->commit;
391    
392  }  }
393    
394    ## delete data before inseting ##
395  if ($opt{d}) {  if ($opt{d}) {
396          print "deleting ";          print "deleting ";
397          foreach my $table (qw(files dvds backups shares hosts)) {          foreach my $table (qw(files dvds backups shares hosts)) {
# Line 158  if ($opt{d}) { Line 403  if ($opt{d}) {
403          $dbh->commit;          $dbh->commit;
404  }  }
405    
406  if ($opt{v}) {  ## insert new values ##
         print "Debug level at $opt{v}\n";  
         $debug = $opt{v};  
 }  
   
 #################################INSERT VALUES#############################  
407    
408  # get hosts  # get hosts
409  $hosts = $bpc->HostInfoRead();  $hosts = $bpc->HostInfoRead();
# Line 180  $sth->{hosts_by_name} = $dbh->prepare(qq Line 420  $sth->{hosts_by_name} = $dbh->prepare(qq
420  SELECT ID FROM hosts WHERE name=?  SELECT ID FROM hosts WHERE name=?
421  });  });
422    
423  $sth->{backups_broj} = $dbh->prepare(qq{  $sth->{backups_count} = $dbh->prepare(qq{
424  SELECT COUNT(*)  SELECT COUNT(*)
425  FROM backups  FROM backups
426  WHERE hostID=? AND num=?  WHERE hostID=? AND num=? AND shareid=?
427  });  });
428    
429  $sth->{insert_backups} = $dbh->prepare(qq{  $sth->{insert_backups} = $dbh->prepare(qq{
430  INSERT INTO backups (hostID, num, date, type)  INSERT INTO backups (hostID, num, date, type, shareid, size)
431  VALUES (?,?,?,?)  VALUES (?,?,?,?,?,-1)
432    });
433    
434    $sth->{update_backups_size} = $dbh->prepare(qq{
435    UPDATE backups SET size = ?
436    WHERE hostID = ? and num = ? and date = ? and type =? and shareid = ?
437  });  });
438    
439  $sth->{insert_files} = $dbh->prepare(qq{  $sth->{insert_files} = $dbh->prepare(qq{
440  INSERT INTO files  INSERT INTO files
441          (shareID, backupNum, name, path, fullpath, date, type, size)          (shareID, backupNum, name, path, date, type, size)
442          VALUES (?,?,?,?,?,?,?,?)          VALUES (?,?,?,?,?,?,?)
443  });  });
444    
445  sub fmt_time {  my @hosts = keys %{$hosts};
446          my $t = shift || return;  my $host_nr = 0;
         my $out = "";  
         my ($ss,$mm,$hh) = gmtime($t);  
         $out .= "${hh}h" if ($hh);  
         $out .= sprintf("%02d:%02d", $mm,$ss);  
         return $out;  
 }  
447    
448  foreach my $host_key (keys %{$hosts}) {  foreach my $host_key (@hosts) {
449    
450          my $hostname = $hosts->{$host_key}->{'host'} || die "can't find host for $host_key";          my $hostname = $hosts->{$host_key}->{'host'} || die "can't find host for $host_key";
451    
# Line 221  foreach my $host_key (keys %{$hosts}) { Line 460  foreach my $host_key (keys %{$hosts}) {
460                  $hostID = $dbh->last_insert_id(undef,undef,'hosts',undef);                  $hostID = $dbh->last_insert_id(undef,undef,'hosts',undef);
461          }          }
462    
463          print("host ".$hosts->{$host_key}->{'host'}.": ");          $host_nr++;
   
464          # get backups for a host          # get backups for a host
465          my @backups = $bpc->BackupInfoRead($hostname);          my @backups = $bpc->BackupInfoRead($hostname);
466          print scalar @backups, " increments\n";          my $incs = scalar @backups;
467    
468            my $host_header = sprintf("host %s [%d/%d]: %d increments\n",
469                    $hosts->{$host_key}->{'host'},
470                    $host_nr,
471                    ($#hosts + 1),
472                    $incs
473            );
474            print $host_header unless ($opt{q});
475    
476          my $inc_nr = 0;          my $inc_nr = 0;
477            $beenThere = {};
478    
479          foreach my $backup (@backups) {          foreach my $backup (@backups) {
480    
# Line 237  foreach my $host_key (keys %{$hosts}) { Line 484  foreach my $host_key (keys %{$hosts}) {
484                  my $backupNum = $backup->{'num'};                  my $backupNum = $backup->{'num'};
485                  my @backupShares = ();                  my @backupShares = ();
486    
487                  print $hosts->{$host_key}->{'host'},                  my $share_header = sprintf("%-10s %2d/%-2d #%-2d %s %5s/%5s files (date: %s dur: %s)\n",
488                          "\t#$backupNum\t", $backup->{type} || '?', " ",                          $hosts->{$host_key}->{'host'},
489                          $backup->{nFilesNew} || '?', "/", $backup->{nFiles} || '?',                          $inc_nr, $incs, $backupNum,
490                          " files\n";                          $backup->{type} || '?',
491                            $backup->{nFilesNew} || '?', $backup->{nFiles} || '?',
492                  $sth->{backups_broj}->execute($hostID, $backupNum);                          strftime($t_fmt,localtime($backup->{startTime})),
493                  my ($broj) = $sth->{backups_broj}->fetchrow_array();                          fmt_time($backup->{endTime} - $backup->{startTime})
                 next if ($broj > 0);  
   
                 $sth->{insert_backups}->execute(  
                         $hostID,  
                         $backupNum,  
                         $backup->{'endTime'},  
                         $backup->{'type'}  
494                  );                  );
495                  $dbh->commit();                  print $share_header unless ($opt{q});
496    
497                  my $files = BackupPC::View->new($bpc, $hostname, \@backups, 1);                  my $files = BackupPC::View->new($bpc, $hostname, \@backups, 1);
498                  foreach my $share ($files->shareList($backupNum)) {                  foreach my $share ($files->shareList($backupNum)) {
499    
500                          my $t = time();                          my $t = time();
501    
                         print strftime($t_fmt,localtime())," ", $share;  
502                          $shareID = getShareID($share, $hostID, $hostname);                          $shareID = getShareID($share, $hostID, $hostname);
503                                    
504                          my ($f, $nf, $d, $nd) = recurseDir($bpc, $hostname, $files, $backupNum, $share, "", $shareID);                          $sth->{backups_count}->execute($hostID, $backupNum, $shareID);
505                            my ($count) = $sth->{backups_count}->fetchrow_array();
506                            # skip if allready in database!
507                            next if ($count > 0);
508    
509                            # dump host and share header for -q
510                            if ($opt{q}) {
511                                    if ($host_header) {
512                                            print $host_header;
513                                            $host_header = undef;
514                                    }
515                                    print $share_header;
516                            }
517    
518                            # dump some log
519                            print curr_time," ", $share;
520    
521                            $sth->{insert_backups}->execute(
522                                    $hostID,
523                                    $backupNum,
524                                    $backup->{'endTime'},
525                                    substr($backup->{'type'},0,4),
526                                    $shareID,
527                            );
528    
529                            my ($f, $nf, $d, $nd, $size) = recurseDir($bpc, $hostname, $files, $backupNum, $share, "", $shareID);
530    
531                            eval {
532                                    $sth->{update_backups_size}->execute(
533                                            $size,
534                                            $hostID,
535                                            $backupNum,
536                                            $backup->{'endTime'},
537                                            substr($backup->{'type'},0,4),
538                                            $shareID,
539                                    );
540                                    print " commit";
541                                    $dbh->commit();
542                            };
543                            if ($@) {
544                                    print " rollback";
545                                    $dbh->rollback();
546                            }
547    
548                          my $dur = (time() - $t) || 1;                          my $dur = (time() - $t) || 1;
549                          printf(" %d/%d files %d/%d dirs [%.2f/s dur: %s]\n",                          printf(" %d/%d files %d/%d dirs %0.2f MB [%.2f/s dur: %s]\n",
550                                  $nf, $f, $nd, $d,                                  $nf, $f, $nd, $d,
551                                    ($size / 1024 / 1024),
552                                  ( ($f+$d) / $dur ),                                  ( ($f+$d) / $dur ),
553                                  fmt_time($dur)                                  fmt_time($dur)
554                          );                          );
555                          $dbh->commit();  
556                            hest_update($hostID, $shareID, $backupNum) if ($nf + $nd > 0);
557                  }                  }
558    
559          }          }
# Line 298  sub getShareID() { Line 582  sub getShareID() {
582    
583          $sth->{insert_share} ||= $dbh->prepare(qq{          $sth->{insert_share} ||= $dbh->prepare(qq{
584                  INSERT INTO shares                  INSERT INTO shares
585                          (hostID,name,share,localpath)                          (hostID,name,share)
586                  VALUES (?,?,?,?)                  VALUES (?,?,?)
587          });          });
588    
589          my $drop_down = $hostname . '/' . $share;          my $drop_down = $hostname . '/' . $share;
590          $drop_down =~ s#//+#/#g;          $drop_down =~ s#//+#/#g;
591    
592          $sth->{insert_share}->execute($hostID,$share, $drop_down ,undef);          $sth->{insert_share}->execute($hostID,$share, $drop_down);
593          return $dbh->last_insert_id(undef,undef,'shares',undef);          return $dbh->last_insert_id(undef,undef,'shares',undef);
594  }  }
595    
# Line 314  sub found_in_db { Line 598  sub found_in_db {
598          my @data = @_;          my @data = @_;
599          shift @data;          shift @data;
600    
601          my ($key, $shareID,undef,$name,$path,undef,$date,undef,$size) = @_;          my ($key, $shareID,undef,$name,$path,$date,undef,$size) = @_;
602    
603          return $beenThere->{$key} if (defined($beenThere->{$key}));          return $beenThere->{$key} if (defined($beenThere->{$key}));
604    
# Line 322  sub found_in_db { Line 606  sub found_in_db {
606                  SELECT 1 FROM files                  SELECT 1 FROM files
607                  WHERE shareID = ? and                  WHERE shareID = ? and
608                          path = ? and                          path = ? and
609                          name = ? and                          size = ? and
610                          date = ? and                          ( date = ? or date = ? or date = ? )
611                          size = ?                  LIMIT 1
612          });          });
613    
614          my @param = ($shareID,$path,$name,$date,$size);          my @param = ($shareID,$path,$size,$date, $date-$dst_offset, $date+$dst_offset);
615          $sth->{file_in_db}->execute(@param);          $sth->{file_in_db}->execute(@param);
616          my $rows = $sth->{file_in_db}->rows;          my $rows = $sth->{file_in_db}->rows;
617          print STDERR "## found_in_db ",( $rows ? '+' : '-' ), join(" ",@param), "\n" if ($debug >= 3);          print STDERR "## found_in_db($shareID,$path,$date,$size) ",( $rows ? '+' : '-' ), join(" ",@param), "\n" if ($debug >= 3);
618    
619          $beenThere->{$key}++;          $beenThere->{$key}++;
620    
# Line 348  sub recurseDir($$$$$$$$) { Line 632  sub recurseDir($$$$$$$$) {
632    
633          print STDERR "\nrecurse($hostname,$backupNum,$share,$dir,$shareID)\n" if ($debug >= 1);          print STDERR "\nrecurse($hostname,$backupNum,$share,$dir,$shareID)\n" if ($debug >= 1);
634    
635          my ($nr_files, $new_files, $nr_dirs, $new_dirs) = (0,0,0,0);          my ($nr_files, $new_files, $nr_dirs, $new_dirs, $size) = (0,0,0,0,0);
636    
637          { # scope          { # scope
638                  my @stack;                  my @stack;
# Line 358  sub recurseDir($$$$$$$$) { Line 642  sub recurseDir($$$$$$$$) {
642    
643                  # first, add all the entries in current directory                  # first, add all the entries in current directory
644                  foreach my $path_key (keys %{$filesInBackup}) {                  foreach my $path_key (keys %{$filesInBackup}) {
645                            print STDERR "# file ",Dumper($filesInBackup->{$path_key}),"\n" if ($debug >= 3);
646                          my @data = (                          my @data = (
647                                  $shareID,                                  $shareID,
648                                  $backupNum,                                  $backupNum,
649                                  $path_key,                                  $path_key,
650                                  $filesInBackup->{$path_key}->{'relPath'},                                  $filesInBackup->{$path_key}->{'relPath'},
                                 $filesInBackup->{$path_key}->{'fullPath'},  
         #                       $filesInBackup->{$path_key}->{'sharePathM'},  
651                                  $filesInBackup->{$path_key}->{'mtime'},                                  $filesInBackup->{$path_key}->{'mtime'},
652                                  $filesInBackup->{$path_key}->{'type'},                                  $filesInBackup->{$path_key}->{'type'},
653                                  $filesInBackup->{$path_key}->{'size'}                                  $filesInBackup->{$path_key}->{'size'}
# Line 378  sub recurseDir($$$$$$$$) { Line 661  sub recurseDir($$$$$$$$) {
661                                  $filesInBackup->{$path_key}->{'size'}                                  $filesInBackup->{$path_key}->{'size'}
662                          ));                          ));
663    
664                            my $key_dst_prev = join(" ", (
665                                    $shareID,
666                                    $dir,
667                                    $path_key,
668                                    $filesInBackup->{$path_key}->{'mtime'} - $dst_offset,
669                                    $filesInBackup->{$path_key}->{'size'}
670                            ));
671    
672                            my $key_dst_next = join(" ", (
673                                    $shareID,
674                                    $dir,
675                                    $path_key,
676                                    $filesInBackup->{$path_key}->{'mtime'} + $dst_offset,
677                                    $filesInBackup->{$path_key}->{'size'}
678                            ));
679    
680                          if (! defined($beenThere->{$key}) && ! found_in_db($key, @data)) {                          my $found;
681                            if (
682                                    ! defined($beenThere->{$key}) &&
683                                    ! defined($beenThere->{$key_dst_prev}) &&
684                                    ! defined($beenThere->{$key_dst_next}) &&
685                                    ! ($found = found_in_db($key, @data))
686                            ) {
687                                  print STDERR "# key: $key [", $beenThere->{$key},"]" if ($debug >= 2);                                  print STDERR "# key: $key [", $beenThere->{$key},"]" if ($debug >= 2);
688    
689                                  if ($filesInBackup->{$path_key}->{'type'} == BPC_FTYPE_DIR) {                                  if ($filesInBackup->{$path_key}->{'type'} == BPC_FTYPE_DIR) {
690                                          $new_dirs++;                                          $new_dirs++ unless ($found);
691                                          print STDERR " dir\n" if ($debug >= 2);                                          print STDERR " dir\n" if ($debug >= 2);
692                                  } else {                                  } else {
693                                          $new_files++;                                          $new_files++ unless ($found);
694                                          print STDERR " file\n" if ($debug >= 2);                                          print STDERR " file\n" if ($debug >= 2);
695                                  }                                  }
696                                    $size += $filesInBackup->{$path_key}->{'size'} || 0;
697                          }                          }
698    
699                          if ($filesInBackup->{$path_key}->{'type'} == BPC_FTYPE_DIR) {                          if ($filesInBackup->{$path_key}->{'type'} == BPC_FTYPE_DIR) {
# Line 413  sub recurseDir($$$$$$$$) { Line 718  sub recurseDir($$$$$$$$) {
718                  print STDERR "## STACK ",join(", ", @stack),"\n" if ($debug >= 2);                  print STDERR "## STACK ",join(", ", @stack),"\n" if ($debug >= 2);
719    
720                  while ( my $dir = shift @stack ) {                  while ( my $dir = shift @stack ) {
721                          my ($f,$nf,$d,$nd) = recurseDir($bpc, $hostname, $files, $backupNum, $share, $dir, $shareID);                          my ($f,$nf,$d,$nd, $s) = recurseDir($bpc, $hostname, $files, $backupNum, $share, $dir, $shareID);
722                          print STDERR "# $dir f: $f nf: $nf d: $d nd: $nd\n" if ($debug >= 1);                          print STDERR "# $dir f: $f nf: $nf d: $d nd: $nd\n" if ($debug >= 1);
723                          $nr_files += $f;                          $nr_files += $f;
724                          $new_files += $nf;                          $new_files += $nf;
725                          $nr_dirs += $d;                          $nr_dirs += $d;
726                          $new_dirs += $nd;                          $new_dirs += $nd;
727                            $size += $s;
728                  }                  }
729          }          }
730    
731          return ($nr_files, $new_files, $nr_dirs, $new_dirs);          return ($nr_files, $new_files, $nr_dirs, $new_dirs, $size);
732  }  }
733    
Legend:
Removed from v.51  
changed lines
  Added in v.315
  ViewVC Help
Powered by ViewVC 1.1.26