/[BackupPC]/trunk/bin/BackupPC_updatedb
This is repository of my old source code which isn't updated any more. Go to git.rot13.org for current projects!
ViewVC logotype

Diff of /trunk/bin/BackupPC_updatedb

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 8 by dpavlin, Thu Jun 23 12:22:21 2005 UTC revision 104 by dpavlin, Wed Aug 31 11:05:26 2005 UTC
# Line 1  Line 1 
1  #!/usr/local/bin/perl  #!/usr/local/bin/perl -w
 $| = 1;  
2    
3  use strict;  use strict;
 use DBI;  
4  use lib "__INSTALLDIR__/lib";  use lib "__INSTALLDIR__/lib";
5    
6    use DBI;
7  use BackupPC::Lib;  use BackupPC::Lib;
8  use BackupPC::View;  use BackupPC::View;
9  use Data::Dumper;  use Data::Dumper;
10  use Getopt::Std;  use Getopt::Std;
11    use Time::HiRes qw/time/;
12    use File::Pid;
13    use POSIX qw/strftime/;
14    
15  use constant BPC_FTYPE_DIR => 5;  use constant BPC_FTYPE_DIR => 5;
16    use constant EST_CHUNK => 100000;
17    
18    my $debug = 0;
19    $|=1;
20    
21    my $start_t = time();
22    
23    my $pidfile = new File::Pid;
24    
25    if (my $pid = $pidfile->running ) {
26            die "$0 already running: $pid\n";
27    } elsif ($pidfile->pid ne $$) {
28            $pidfile->remove;
29            $pidfile = new File::Pid;
30    }
31    $pidfile->write;
32    print STDERR "$0 using pid ",$pidfile->pid," file ",$pidfile->file,"\n";
33    
34    my $t_fmt = '%Y-%m-%d %H:%M:%S';
35    
36  my $hosts;  my $hosts;
37  my $bpc = BackupPC::Lib->new || die;  my $bpc = BackupPC::Lib->new || die;
38  my %Conf = $bpc->Conf();  my %Conf = $bpc->Conf();
39  my $TopDir = $bpc->TopDir();  my $TopDir = $bpc->TopDir();
40  my @beenThere = ();  my $beenThere = {};
41    
42    my $dsn = $Conf{SearchDSN} || die "Need SearchDSN in config.pl\n";
43    my $user = $Conf{SearchUser} || '';
44    my $index_path = $Conf{HyperEstraierIndex};
45    $index_path = $TopDir . '/' . $index_path;
46    $index_path =~ s#//#/#g;
47    if ($index_path) {
48            use HyperEstraier;
49    }
50    
51  my $dbh = DBI->connect("dbi:SQLite:dbname=$TopDir/$Conf{SearchDB}", "", "", { RaiseError => 1, AutoCommit => 0 });  
52    my $dbh = DBI->connect($dsn, $user, "", { RaiseError => 1, AutoCommit => 0 });
53    
54  my %opt;  my %opt;
55    
56  if ( !getopts("cdu", \%opt ) ) {  if ( !getopts("cdm:v:i", \%opt ) ) {
57          print STDERR <<EOF;          print STDERR <<EOF;
58  usage: $0 (-c|-df|-u)  usage: $0 [-c|-d] [-m num] [-v|-v level] [-i]
59    
60  Options:  Options:
61          -c      Create database on first use          -c      create database on first use
62          -d      Delete database before import          -d      delete database before import
63          -u      Update database (import new revisions)          -m num  import just num increments for one host
64            -v num  set verbosity (debug) level (default $debug)
65            -i      update HyperEstraier full text index
66  EOF  EOF
67          exit 1;          exit 1;
68  }  }
69    
70  ###################################create tables############################3  if ($opt{v}) {
71            print "Debug level at $opt{v}\n";
72            $debug = $opt{v};
73    }
74    
75    #---- subs ----
76    
77    sub fmt_time {
78            my $t = shift || return;
79            my $out = "";
80            my ($ss,$mm,$hh) = gmtime($t);
81            $out .= "${hh}h" if ($hh);
82            $out .= sprintf("%02d:%02d", $mm,$ss);
83            return $out;
84    }
85    
86    sub curr_time {
87            return strftime($t_fmt,localtime());
88    }
89    
90    my $hest_db;
91    
92    sub signal {
93            my($sig) = @_;
94            if ($hest_db) {
95                    print "\nCaught a SIG$sig--syncing database and shutting down\n";
96                    $hest_db->sync();
97                    $hest_db->close();
98            }
99            exit(0);
100    }
101    
102    $SIG{'INT'}  = \&signal;
103    $SIG{'QUIT'} = \&signal;
104    
105    sub hest_update {
106    
107            my ($host_id, $share_id, $num) = @_;
108    
109            print curr_time," updating HyperEstraier:";
110    
111            my $t = time();
112    
113            my $offset = 0;
114            my $added = 0;
115    
116            print " opening index $index_path";
117            $hest_db = HyperEstraier::Database->new();
118            $hest_db->open($index_path, $HyperEstraier::Database::DBWRITER | $HyperEstraier::Database::DBCREAT);
119    
120            print " increment is " . EST_CHUNK . " files";
121    
122            my $results = 0;
123    
124            do {
125    
126                    my $where = '';
127                    my @data;
128                    if ($host_id && $share_id && $num) {
129                            $where = qq{
130                            WHERE
131                                    hosts.id = ? AND
132                                    shares.id = ? AND
133                                    files.backupnum = ?
134                            };
135                            @data = ( $host_id, $share_id, $num );
136                    }
137    
138                    my $limit = sprintf('LIMIT '.EST_CHUNK.' OFFSET %d', $offset);
139    
140                    my $sth = $dbh->prepare(qq{
141                            SELECT
142                                    files.id                        AS fid,
143                                    hosts.name                      AS hname,
144                                    shares.name                     AS sname,
145                                    -- shares.share                 AS sharename,
146                                    files.backupnum                 AS backupnum,
147                                    -- files.name                   AS filename,
148                                    files.path                      AS filepath,
149                                    files.date                      AS date,
150                                    files.type                      AS type,
151                                    files.size                      AS size,
152                                    files.shareid                   AS shareid,
153                                    backups.date                    AS backup_date
154                            FROM files
155                                    INNER JOIN shares       ON files.shareID=shares.ID
156                                    INNER JOIN hosts        ON hosts.ID = shares.hostID
157                                    INNER JOIN backups      ON backups.num = files.backupNum and backups.hostID = hosts.ID AND backups.shareID = shares.ID
158                            $where
159                            $limit
160                    });
161    
162                    $sth->execute(@data);
163                    $results = $sth->rows;
164    
165                    if ($results == 0) {
166                            print " - no more files\n";
167                            last;
168                    }
169    
170                    sub fmt_date {
171                            my $t = shift || return;
172                            my $iso = BackupPC::Lib::timeStamp($t);
173                            $iso =~ s/\s/T/;
174                            return $iso;
175                    }
176    
177                    while (my $row = $sth->fetchrow_hashref()) {
178    
179                            my $fid = $row->{'fid'} || die "no fid?";
180                            my $uri = 'file:///' . $fid;
181    
182                            my $id = $hest_db->uri_to_id($uri);
183                            next unless ($id == -1);
184    
185                            # create a document object
186                            my $doc = HyperEstraier::Document->new;
187    
188                            # add attributes to the document object
189                            $doc->add_attr('@uri', $uri);
190    
191                            foreach my $c (@{ $sth->{NAME} }) {
192                                    $doc->add_attr($c, $row->{$c}) if ($row->{$c});
193                            }
194    
195                            #$doc->add_attr('@cdate', fmt_date($row->{'date'}));
196    
197                            # add the body text to the document object
198                            my $path = $row->{'filepath'};
199                            $doc->add_text($path);
200                            $path =~ s/(.)/$1 /g;
201                            $doc->add_hidden_text($path);
202    
203                            print STDERR $doc->dump_draft,"\n" if ($debug > 1);
204    
205                            # register the document object to the database
206                            $hest_db->put_doc($doc, $HyperEstraier::Database::PDCLEAN);
207                            $added++;
208                    }
209    
210                    print " $added";
211                    $hest_db->sync();
212    
213                    $offset += EST_CHUNK;
214    
215            } while ($results == EST_CHUNK);
216    
217            print ", close";
218            $hest_db->close();
219    
220            my $dur = (time() - $t) || 1;
221            printf(" [%.2f/s dur: %s]\n",
222                    ( $added / $dur ),
223                    fmt_time($dur)
224            );
225    }
226    
227    #---- /subs ----
228    
229    
230    ## update index ##
231    if (($opt{i} || ($index_path && ! -e $index_path)) && !$opt{c}) {
232            # update all
233            print "force update of HyperEstraier index ";
234            print "importing existing data" unless (-e $index_path);
235            print "by -i flag" if ($opt{i});
236            print "\n";
237            hest_update();
238    }
239    
240    ## create tables ##
241    if ($opt{c}) {
242            sub do_index {
243                    my $index = shift || return;
244                    my ($table,$col,$unique) = split(/_/, $index);
245                    $unique ||= '';
246                    $index =~ s/,/_/g;
247                    $dbh->do(qq{ create $unique index $index on $table($col) });
248            }
249    
250  if ($opt{c})          print "creating tables...\n";
     {  
       print "creating database...";  
251                
252        $dbh->do(          $dbh->do(qq{
253            q{                  create table hosts (
254                create table hosts                          ID      SERIAL          PRIMARY KEY,
255                  (   ID             INTEGER              PRIMARY KEY,                          name    VARCHAR(30)     NOT NULL,
256                      name             VARCHAR(30)        NOT NULL,                          IP      VARCHAR(15)
                     IP       VARCHAR(20)        NOT NULL  
257                  );                              );            
258            }          });
       );  
259                                
260        $dbh->do(          $dbh->do(qq{
261            q{                  create table shares (
262                create table shares                          ID      SERIAL          PRIMARY KEY,
263                  (   ID             INTEGER           PRIMARY KEY,                          hostID  INTEGER         NOT NULL references hosts(id),
264                      hostID         INTEGER           NOT NULL,                          name    VARCHAR(30)     NOT NULL,
265                      name           VARCHAR(30)       NOT NULL,                          share   VARCHAR(200)    NOT NULL,
266                      share          VARCHAR(200)      NOT NULL,                          localpath VARCHAR(200)      
                     localpath      VARCHAR(200)        
267                  );                              );            
268            }          });
       );  
269                    
270        $dbh->do(          $dbh->do(qq{
271            q{                  create table backups (
272                create table backups                          hostID  INTEGER         NOT NULL references hosts(id),
273                  ( hostID     INTEGER            NOT NULL,                          num     INTEGER         NOT NULL,
274                      num      INTEGER            NOT NULL,                          date    integer         NOT NULL,
275                      date             DATE,                          type    CHAR(4)         not null,
276                      type             CHAR(1),                          shareID integer         not null references shares(id),
277                      PRIMARY KEY(hostID, num)                          size    integer         not null,
278                            PRIMARY KEY(hostID, num, shareID)
279                  );                              );            
280            }          });
281        );  
282            #do_index('backups_hostid,num_unique');
283    
284        $dbh->do(          $dbh->do(qq{
285            q{                  create table dvds (
286                create table dvds                          ID      SERIAL          PRIMARY KEY,
287                  ( ID         INTEGER            PRIMARY KEY,                          num     INTEGER         NOT NULL,
288                      num      INTEGER            NOT NULL,                          name    VARCHAR(255)    NOT NULL,
289                      name             VARCHAR(255)       NOT NULL,                          mjesto  VARCHAR(255)
                     mjesto     VARCHAR(255)  
290                  );                  );
291            }          });
       );  
292    
293        $dbh->do(          $dbh->do(qq{    
294            q{                      create table files (
295                create table files                          ID      SERIAL          PRIMARY KEY,  
296                  (   ID         INTEGER          NOT NULL PRIMARY KEY,                            shareID INTEGER         NOT NULL references shares(id),
297                      shareID    INTEGER          NOT NULL,                          backupNum  INTEGER      NOT NULL,
298                      backupNum  INTEGER          NOT NULL,                          name       VARCHAR(255) NOT NULL,
299                      name       VARCHAR(255)     NOT NULL,                          path       VARCHAR(255) NOT NULL,
300                      path       VARCHAR(255)     NOT NULL,                          date       integer      NOT NULL,
301                      fullpath   VARCHAR(255)     NOT NULL,                          type       INTEGER      NOT NULL,
302                      date       TIMESTAMP        NOT NULL,                          size       INTEGER      NOT NULL,
303                      type       INTEGER          NOT NULL,                          dvdid      INTEGER      references dvds(id)    
                     size       INTEGER          NOT NULL,  
                     dvdid      INTEGER            
304                  );                  );
305            }          });
306        );  
307        print "done\n";          print "creating indexes:";
308    }  
309            foreach my $index (qw(
310  if ($opt{d})                  hosts_name
311    {                  backups_hostID
312        print("deleting db first...\n");                  backups_num
313                          shares_hostID
314        $dbh->do(                  shares_name
315            q{ DELETE FROM hosts; }                  files_shareID
316            );                  files_path
317        $dbh->do(                  files_name
318            q{ DELETE FROM shares; }                  files_date
319            );                  files_size
320        $dbh->do(          )) {
321            q{ DELETE FROM files;}                  print " $index";
322            );                  do_index($index);
323        $dbh->do(          }
324            q{ DELETE FROM dvds;}          print "...\n";
325            );  
326        $dbh->do(          $dbh->commit;
327            q{ DELETE FROM backups; }  
328            );  }
329    }  
330    ## delete data before inseting ##
331    if ($opt{d}) {
332            print "deleting ";
333            foreach my $table (qw(files dvds backups shares hosts)) {
334                    print "$table ";
335                    $dbh->do(qq{ DELETE FROM $table });
336            }
337            print " done...\n";
338    
339  #################################INSERT VALUES#############################          $dbh->commit;
340    }
341    
342    ## insert new values ##
343    
344  # get hosts  # get hosts
345  $hosts = $bpc->HostInfoRead();  $hosts = $bpc->HostInfoRead();
 print Dumper($hosts);  
346  my $hostID;  my $hostID;
347  my $shareID;  my $shareID;
348  foreach my $host_key (keys %{$hosts})  
349  {  my $sth;
350    my $hostname = $hosts->{$host_key}->{'host'} || die "can't find host for $host_key";  
351    my $backups;  $sth->{insert_hosts} = $dbh->prepare(qq{
352    my $sql;  INSERT INTO hosts (name, IP) VALUES (?,?)
353    });
354    $sql = q{ SELECT ID FROM hosts WHERE name=? };  
355    my $st = $dbh->prepare($sql);  $sth->{hosts_by_name} = $dbh->prepare(qq{
356    $st->bind_param(1,$hosts->{$host_key}->{'host'});  SELECT ID FROM hosts WHERE name=?
357    $st->execute();  });
358    if (my $tmp = $st->fetchrow_hashref())  
359        {  $sth->{backups_count} = $dbh->prepare(qq{
360            $hostID = $tmp->{'ID'};  SELECT COUNT(*)
361        }  FROM backups
362      else  WHERE hostID=? AND num=? AND shareid=?
363        {  });
364            $sql = q{ INSERT INTO hosts ( ID, name, IP) VALUES (NULL,"}.  
365                      $hosts->{$host_key}->{'host'}."\", \"".  $sth->{insert_backups} = $dbh->prepare(qq{
366                     $hosts->{$host_key}->{'ip'}."\");";  INSERT INTO backups (hostID, num, date, type, shareid, size)
367    VALUES (?,?,?,?,?,?)
368            $dbh->do($sql);  });
369            $hostID = $dbh->func('last_insert_rowid');  
370    $sth->{insert_files} = $dbh->prepare(qq{
371        }  INSERT INTO files
372    $st->finish();          (shareID, backupNum, name, path, date, type, size)
373    print("processing host ".$hosts->{$host_key}->{'host'}.":\n");          VALUES (?,?,?,?,?,?,?)
374    });
375    
376    foreach my $host_key (keys %{$hosts}) {
377    
378            my $hostname = $hosts->{$host_key}->{'host'} || die "can't find host for $host_key";
379    
380            $sth->{hosts_by_name}->execute($hosts->{$host_key}->{'host'});
381    
382            unless (($hostID) = $sth->{hosts_by_name}->fetchrow_array()) {
383                    $sth->{insert_hosts}->execute(
384                            $hosts->{$host_key}->{'host'},
385                            $hosts->{$host_key}->{'ip'}
386                    );
387    
388                    $hostID = $dbh->last_insert_id(undef,undef,'hosts',undef);
389            }
390    
391            print "host ".$hosts->{$host_key}->{'host'}.": ";
392    
393    # get backups for a host          # get backups for a host
394    my @backups = $bpc->BackupInfoRead($hostname);          my @backups = $bpc->BackupInfoRead($hostname);
395    foreach my $backup (@backups)          my $incs = scalar @backups;
396    {          print  "$incs increments\n";
397      my $backupNum = $backup->{'num'};  
398      my @backupShares = ();          my $inc_nr = 0;
399            $beenThere = {};
400    
401            foreach my $backup (@backups) {
402    
403                    $inc_nr++;
404                    last if ($opt{m} && $inc_nr > $opt{m});
405    
406                    my $backupNum = $backup->{'num'};
407                    my @backupShares = ();
408    
409                    printf("%-10s %2d/%-2d #%-2d %s %5s/%5s files (date: %s dur: %s)\n",
410                            $hosts->{$host_key}->{'host'},
411                            $inc_nr, $incs, $backupNum,
412                            $backup->{type} || '?',
413                            $backup->{nFilesNew} || '?', $backup->{nFiles} || '?',
414                            strftime($t_fmt,localtime($backup->{startTime})),
415                            fmt_time($backup->{endTime} - $backup->{startTime})
416                    );
417    
418                    my $files = BackupPC::View->new($bpc, $hostname, \@backups, 1);
419                    foreach my $share ($files->shareList($backupNum)) {
420    
421                            my $t = time();
422    
423                            $shareID = getShareID($share, $hostID, $hostname);
424                    
425                            $sth->{backups_count}->execute($hostID, $backupNum, $shareID);
426                            my ($count) = $sth->{backups_count}->fetchrow_array();
427                            # skip if allready in database!
428                            next if ($count > 0);
429    
430                            # dump some log
431                            print curr_time," ", $share;
432    
433                            my ($f, $nf, $d, $nd, $size) = recurseDir($bpc, $hostname, $files, $backupNum, $share, "", $shareID);
434    
435                            $sth->{insert_backups}->execute(
436                                    $hostID,
437                                    $backupNum,
438                                    $backup->{'endTime'},
439                                    $backup->{'type'},
440                                    $shareID,
441                                    $size,
442                            );
443    
444                            print " commit";
445                            $dbh->commit();
446    
447                            my $dur = (time() - $t) || 1;
448                            printf(" %d/%d files %d/%d dirs %0.2f MB [%.2f/s dur: %s]\n",
449                                    $nf, $f, $nd, $d,
450                                    ($size / 1024 / 1024),
451                                    ( ($f+$d) / $dur ),
452                                    fmt_time($dur)
453                            );
454    
455                            hest_update($hostID, $shareID, $backupNum);
456                    }
457    
         
     if ($opt{u})  
         {  
             my $sql = q{  
                   SELECT COUNT(*) AS broj  
                   FROM backups  
                   WHERE hostID=? AND  
                         num=?  
                 };  
               
             my $st  = $dbh->prepare($sql);  
             $st->bind_param(1,$hostID);  
             $st->bind_param(2,$backupNum);  
             $st->execute();  
             my $tmp = $st->fetchrow_hashref();  
             $st->finish();  
             if ($tmp->{'broj'} > 0)  
               {  
                   next;  
               }  
458          }          }
         
     print "\tprocessing backup no. $backupNum...";  
     my $sql =      
         q{  
             INSERT INTO backups (hostID, num, date, type)  
               VALUES  
               (}.$hostID.",". $backupNum.q{, }.$backup->{'endTime'}.",\"". $backup->{'type'}.q{");  
          };  
     $dbh->do($sql);  
   
     my $files = BackupPC::View->new($bpc, $hostname, \@backups);  
     @backupShares = $files->shareList($backupNum);  
     foreach my $share (@backupShares)  
     {        
       my @flattenedFiles = ();  
       clearBeenThereCache();  
       print "\n\t\tprocessing share ".$share."...";  
       $shareID = getShareID($share, $hostID, $hostname);  
           
       @flattenedFiles = recurseDir($bpc, $hostname, \@backups, $backupNum, $share, "");  
       print "done\n";  
       print "\t\tinserting data into db...";  
       foreach my $file (@flattenedFiles)  
           {  
               $dbh->do("INSERT INTO files(ID, shareID, backupNum, name, path, fullpath, date, type, size) VALUES "  
                   ."( NULL, $shareID, "  
                   .$backupNum.", \""  
                   .$file->{'fileName'}."\", \""  
                   .$file->{'relPath'}. "\", \""  
                   .$file->{'fullPath'}."\", "  
                   .$file->{'mtime'}.", "  
                   .$file->{'type'}.", "  
                   .$file->{'size'}.")"  
                   );  
           }  
       print "done\n";  
     }  
   }  
   print "done.\n";  
459  }  }
460    undef $sth;
461  $dbh->commit();  $dbh->commit();
462  $dbh->disconnect();  $dbh->disconnect();
463    
464    print "total duration: ",fmt_time(time() - $start_t),"\n";
465    
466  sub haveBeenThere  $pidfile->remove;
467  {  
468    my ($where) = @_;  sub getShareID() {
469      
470    foreach my $st (@beenThere)          my ($share, $hostID, $hostname) = @_;
471    {  
472      if ($where eq $st)          $sth->{share_id} ||= $dbh->prepare(qq{
473      {                  SELECT ID FROM shares WHERE hostID=? AND name=?
474        return 1;          });
475      }  
476    }          $sth->{share_id}->execute($hostID,$share);
477      
478    push(@beenThere, $where);          my ($id) = $sth->{share_id}->fetchrow_array();
479    return 0;  
480  }          return $id if (defined($id));
481    
482  sub clearBeenThereCache          $sth->{insert_share} ||= $dbh->prepare(qq{
483  {                  INSERT INTO shares
484    @beenThere = ();                          (hostID,name,share,localpath)
485  }                  VALUES (?,?,?,?)
486            });
487  sub getShareID()  
488    {          my $drop_down = $hostname . '/' . $share;
489        my ($share, $hostID, $hostname) = @_;          $drop_down =~ s#//+#/#g;
490        my $tmp;  
491                  $sth->{insert_share}->execute($hostID,$share, $drop_down ,undef);
492        my $st = $dbh -> prepare(" SELECT shares.ID AS ID FROM shares WHERE hostID=? AND name=?");          return $dbh->last_insert_id(undef,undef,'shares',undef);
493        $st -> execute($hostID,$share);  }
494        my $tmp = $st->fetchrow_hashref();  
495        $st->finish();  sub found_in_db {
496        if ($tmp)  
497          {          my @data = @_;
498              return $tmp->{'ID'};          shift @data;
499          }  
500        my $sql =          my ($key, $shareID,undef,$name,$path,$date,undef,$size) = @_;
501            q{  
502                INSERT INTO shares(ID,hostID,name,share,localpath)          return $beenThere->{$key} if (defined($beenThere->{$key}));
503                  VALUES    
504                 (NULL,}.                            $sth->{file_in_db} ||= $dbh->prepare(qq{
505                "$hostID,\"$share\",\"//$hostname$share\",NULL);";                                SELECT 1 FROM files
506        $dbh->do($sql);                  WHERE shareID = ? and
507        return $dbh->func('last_insert_rowid');                                    path = ? and
508    }                          date = ? and
509                            size = ?
510                    LIMIT 1
511            });
512    
513            my @param = ($shareID,$path,$date,$size);
514            $sth->{file_in_db}->execute(@param);
515            my $rows = $sth->{file_in_db}->rows;
516            print STDERR "## found_in_db($shareID,$path,$date,$size) ",( $rows ? '+' : '-' ), join(" ",@param), "\n" if ($debug >= 3);
517    
518            $beenThere->{$key}++;
519    
520            $sth->{'insert_files'}->execute(@data) unless ($rows);
521            return $rows;
522    }
523    
524  ####################################################  ####################################################
525  # recursing through filesystem structure and       #  # recursing through filesystem structure and       #
526  # and returning flattened files list               #  # and returning flattened files list               #
527  ####################################################  ####################################################
528  sub recurseDir  sub recurseDir($$$$$$$$) {
 {  
   my ($bpc, $hostname, $backups, $backupNo, $share, $dir) = @_;  
   my @ret = ();  
   my $files = BackupPC::View->new($bpc, $hostname, $backups);              
   my $filesInBackup = $files->dirAttrib($backupNo, $share, $dir);  
   my $file_key = "";  
529    
530            my ($bpc, $hostname, $files, $backupNum, $share, $dir, $shareID) = @_;
531    # first, add all the entries in current directory  
532    foreach $file_key (keys %{$filesInBackup})          print STDERR "\nrecurse($hostname,$backupNum,$share,$dir,$shareID)\n" if ($debug >= 1);
533    {  
534      push(@ret, {          my ($nr_files, $new_files, $nr_dirs, $new_dirs, $size) = (0,0,0,0,0);
535                   'fileName' => $file_key,  
536                   'relPath'  => $filesInBackup->{$file_key}->{'relPath'},          { # scope
537                   'fullPath' => $filesInBackup->{$file_key}->{'fullPath'},                  my @stack;
538                   'sharePath'=> $filesInBackup->{$file_key}->{'sharePathM'},  
539                   'size'     => $filesInBackup->{$file_key}->{'size'},                  print STDERR "# dirAttrib($backupNum, $share, $dir)\n" if ($debug >= 2);
540                   'mtime'    => $filesInBackup->{$file_key}->{'mtime'},                  my $filesInBackup = $files->dirAttrib($backupNum, $share, $dir);
541                   'type'     => $filesInBackup->{$file_key}->{'type'}  
542                 });                    # first, add all the entries in current directory
543    }                  foreach my $path_key (keys %{$filesInBackup}) {
544                                print STDERR "# file ",Dumper($filesInBackup->{$path_key}),"\n" if ($debug >= 3);
545    # then, recurse thru subfolders                          my @data = (
546    foreach my $fold (@ret)                                  $shareID,
547    {                                  $backupNum,
548     if ($fold->{'type'} == BPC_FTYPE_DIR &&                                  $path_key,
549         haveBeenThere($fold->{'relPath'}) != 1                                  $filesInBackup->{$path_key}->{'relPath'},
550        )                                  $filesInBackup->{$path_key}->{'mtime'},
551      {                                  $filesInBackup->{$path_key}->{'type'},
552                                          $filesInBackup->{$path_key}->{'size'}
553        push(@ret,                          );
554             recurseDir($bpc, $hostname, $backups, $backupNo, $share, $fold->{'relPath'})  
555            );                          my $key = join(" ", (
556      }                                  $shareID,
557    }                                  $dir,
558    return @ret;                                  $path_key,
559                                    $filesInBackup->{$path_key}->{'mtime'},
560                                    $filesInBackup->{$path_key}->{'size'}
561                            ));
562    
563                            my $found;
564                            if (! defined($beenThere->{$key}) && ! ($found = found_in_db($key, @data)) ) {
565                                    print STDERR "# key: $key [", $beenThere->{$key},"]" if ($debug >= 2);
566    
567                                    if ($filesInBackup->{$path_key}->{'type'} == BPC_FTYPE_DIR) {
568                                            $new_dirs++ unless ($found);
569                                            print STDERR " dir\n" if ($debug >= 2);
570                                    } else {
571                                            $new_files++ unless ($found);
572                                            print STDERR " file\n" if ($debug >= 2);
573                                    }
574                                    $size += $filesInBackup->{$path_key}->{'size'} || 0;
575                            }
576    
577                            if ($filesInBackup->{$path_key}->{'type'} == BPC_FTYPE_DIR) {
578                                    $nr_dirs++;
579    
580                                    my $full_path = $dir . '/' . $path_key;
581                                    push @stack, $full_path;
582                                    print STDERR "### store to stack: $full_path\n" if ($debug >= 3);
583    
584    #                               my ($f,$nf,$d,$nd) = recurseDir($bpc, $hostname, $backups, $backupNum, $share, $path_key, $shareID) unless ($beenThere->{$key});
585    #
586    #                               $nr_files += $f;
587    #                               $new_files += $nf;
588    #                               $nr_dirs += $d;
589    #                               $new_dirs += $nd;
590    
591                            } else {
592                                    $nr_files++;
593                            }
594                    }
595    
596                    print STDERR "## STACK ",join(", ", @stack),"\n" if ($debug >= 2);
597    
598                    while ( my $dir = shift @stack ) {
599                            my ($f,$nf,$d,$nd, $s) = recurseDir($bpc, $hostname, $files, $backupNum, $share, $dir, $shareID);
600                            print STDERR "# $dir f: $f nf: $nf d: $d nd: $nd\n" if ($debug >= 1);
601                            $nr_files += $f;
602                            $new_files += $nf;
603                            $nr_dirs += $d;
604                            $new_dirs += $nd;
605                            $size += $s;
606                    }
607            }
608    
609            return ($nr_files, $new_files, $nr_dirs, $new_dirs, $size);
610  }  }
611    
Legend:
Removed from v.8  
changed lines
  Added in v.104
  ViewVC Help
Powered by ViewVC 1.1.26