lib/Packages/Search.pm

   1 #
   2 # Packages::Search
   3 #
   4 # Copyright (C) 2004-2006 Frank Lichtenheld <frank@lichtenheld.de>
   5 #
   6 # The code is based on the old search_packages.pl script that
   7 # was:
   8 #
   9 # Copyright (C) 1998 James Treacy
  10 # Copyright (C) 2000, 2001 Josip Rodin
  11 # Copyright (C) 2001 Adam Heath
  12 # Copyright (C) 2004 Martin Schulze
  13 #
  14 #    This program is free software; you can redistribute it and/or modify
  15 #    it under the terms of the GNU General Public License as published by
  16 #    the Free Software Foundation; either version 1 of the License, or
  17 #    (at your option) any later version.
  18 #
  19 #    This program is distributed in the hope that it will be useful,
  20 #    but WITHOUT ANY WARRANTY; without even the implied warranty of
  21 #    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  22 #    GNU General Public License for more details.
  23 #
  24 #    You should have received a copy of the GNU General Public License
  25 #    along with this program; if not, write to the Free Software
  26 #    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  27 #
  28
  29 =head1 NAME
  30
  31 Packages::Search -
  32
  33 =head1 SYNOPSIS
  34
  35 =head1 DESCRIPTION
  36
  37 =over 4
  38
  39 =cut
  40
  41 package Packages::Search;
  42
  43 use strict;
  44 use warnings;
  45
  46 use POSIX;
  47 use HTML::Entities;
  48 use DB_File;
  49 use Lingua::Stem v0.82;
  50 use Search::Xapian qw(:ops);
  51
  52 use Deb::Versions;
  53 use Packages::CGI;
  54 use Exporter;
  55
  56 our @ISA = qw( Exporter );
  57
  58 our @EXPORT_OK = qw( read_entry read_entry_all read_entry_simple
  59                      read_src_entry read_src_entry_all find_binaries
  60                      do_names_search do_fulltext_search do_xapian_search
  61                      );
  62 our %EXPORT_TAGS = ( all => [ @EXPORT_OK ] );
  63
  64 our $VERSION = 0.01;
  65
  66 our $too_many_hits = 0;
  67
  68 sub read_entry_all {
  69     my ($hash, $key, $results, $non_results, $opts) = @_;
  70     my ($virt, $result) = split /\000/o, $hash->{$key} || "-\01-", 2;
  71
  72     my %virt = split /\01/o, $virt;
  73     while (my ($suite, $provides) = each %virt) {
  74         next if $suite eq '-';
  75         if ($opts->{h_suites}{$suite}) {
  76             push @$results, [ $key, "-", $suite, 'virtual', 'v', 'v', 'v', 'v',
  77                               $provides];
  78         } else {
  79             push @$non_results, [ $key, "-", $suite, 'virtual', 'v', 'v', 'v', 'v',
  80                                   $provides];
  81         }
  82     }
  83
  84     foreach (split /\000/o, $result) {
  85         my @data = split ( /\s/o, $_, 8 );
  86         debug( "Considering entry ".join( ':', @data), 2) if DEBUG;
  87         if ($opts->{h_suites}{$data[1]}
  88             && ($opts->{h_archs}{$data[2]} || $data[2] eq 'all')
  89             && $opts->{h_sections}{$data[3]}) {
  90             debug( "Using entry ".join( ':', @data), 2) if DEBUG;
  91             push @$results, [ $key, @data ];
  92         } else {
  93             push @$non_results, [ $key, @data ];
  94         }
  95     }
  96 }
  97 sub read_entry {
  98     my ($hash, $key, $results, $opts) = @_;
  99     my @non_results;
 100     read_entry_all( $hash, $key, $results, \@non_results, $opts );
 101 }
 102
 103 sub fallback_suite {
 104     my $suite = shift;
 105     if ($suite =~ /^(\S+)-(?:updates|backports)/) {
 106         return $1;
 107     } else {
 108         return undef;
 109     }
 110 }
 111
 112 sub read_entry_simple {
 113     my ($hash, $key, $archives, $suite) = @_;
 114     # FIXME: drop $archives
 115
 116     my ($virt, $result) = split /\000/o, $hash->{$key} || "-\01-\0", 2;
 117     my %virt = split /\01/o, $virt;
 118     debug( "read_entry_simple: key=$key, archives=".
 119            join(" ",(keys %$archives)).", suite=$suite", 1) if DEBUG;
 120     debug( "read_entry_simple: virt=".join(" ",(%virt)), 2) if DEBUG;
 121     # FIXME: not all of the 2^4=16 combinations of empty(results),
 122     # empty(virt{suite}), empty(fb_result), empty(virt{fb_suite}) are dealt
 123     # with correctly, but it's adequate enough for now
 124     return [ $virt{$suite} ] unless defined $result;
 125     foreach (split /\000/o, $result) {
 126         my @data = split ( /\s/o, $_, 8 );
 127         debug( "use entry: @data", 2 ) if DEBUG && $data[1] eq $suite;
 128         return [ $virt{$suite}, @data ] if $data[1] eq $suite;
 129     }
 130     if (my $fb_suite = fallback_suite($suite)) {
 131         my $fb_result = read_entry_simple( $hash, $key, $archives, $fb_suite );
 132         my $fb_virt = shift(@$fb_result);
 133         $virt{$suite} .= $virt{$suite} ? " $fb_virt" : $fb_virt if $fb_virt;
 134         return [ $virt{$suite}, @$fb_result ] if @$fb_result;
 135     }
 136     return [ $virt{$suite} ];
 137 }
 138
 139 sub read_src_entry_all {
 140     my ($hash, $key, $results, $non_results, $opts) = @_;
 141     my $result = $hash->{$key} || '';
 142     debug( "read_src_entry_all: key=$key", 1) if DEBUG;
 143     foreach (split /\000/o, $result) {
 144         my @data = split ( /\s/o, $_, 6 );
 145         debug( "Considering entry ".join( ':', @data), 2) if DEBUG;
 146         if ($opts->{h_archives}{$data[0]}
 147             && $opts->{h_suites}{$data[1]}
 148             && $opts->{h_sections}{$data[2]}) {
 149             debug( "Using entry ".join( ':', @data), 2) if DEBUG;
 150             push @$results, [ $key, @data ];
 151         } else {
 152             push @$non_results, [ $key, @data ];
 153         }
 154     }
 155 }
 156 sub read_src_entry {
 157     my ($hash, $key, $results, $opts) = @_;
 158     my @non_results;
 159     read_src_entry_all( $hash, $key, $results, \@non_results, $opts );
 160 }
 161 sub do_names_search {
 162     my ($keywords, $packages, $postfixes, $read_entry, $opts,
 163         $results, $non_results) = @_;
 164
 165     my $first_keyword = lc shift @$keywords;
 166     @$keywords = map { lc $_ } @$keywords;
 167
 168     my ($key, $prefixes) = ($first_keyword, '');
 169     my %pkgs;
 170     $postfixes->seq( $key, $prefixes, R_CURSOR );
 171     while (index($key, $first_keyword) >= 0) {
 172         if ($prefixes =~ /^\001(\d+)/o) {
 173             debug( "$key has too many hits", 2 ) if DEBUG;
 174             $too_many_hits += $1;
 175         } else {
 176           PREFIX:
 177             foreach (split /\000/o, $prefixes) {
 178                 $_ = '' if $_ eq '^';
 179                 my $word = "$_$key";
 180                 foreach my $k (@$keywords) {
 181                     next PREFIX unless $word =~ /\Q$k\E/;
 182                 }
 183                 debug( "add word $word", 2) if DEBUG;
 184                 $pkgs{$word}++;
 185             }
 186         }
 187         last if $postfixes->seq( $key, $prefixes, R_NEXT ) != 0;
 188         last if $too_many_hits or keys %pkgs >= 100;
 189     }
 190
 191     my $no_results = keys %pkgs;
 192     if ($too_many_hits || ($no_results >= 100)) {
 193         $too_many_hits += $no_results;
 194         %pkgs = ( $first_keyword => 1 ) unless @$keywords;
 195     }
 196     foreach my $pkg (sort keys %pkgs) {
 197         &$read_entry( $packages, $pkg, $results, $non_results, $opts );
 198     }
 199 }
 200 sub do_fulltext_search {
 201     my ($keywords, $file, $did2pkg, $packages, $read_entry, $opts,
 202         $results, $non_results) = @_;
 203
 204 # NOTE: this needs to correspond with parse-packages!
 205     my @tmp;
 206     foreach my $keyword (@$keywords) {
 207         $keyword =~ tr [A-Z] [a-z];
 208         if ($opts->{exact}) {
 209             $keyword = " $keyword ";
 210         }
 211         $keyword =~ s/[(),.-]+//og;
 212         $keyword =~ s;[^a-z0-9_/+]+; ;og;
 213         push @tmp, $keyword;
 214     }
 215     my $first_keyword = shift @tmp;
 216     @$keywords = @tmp;
 217
 218     my $numres = 0;
 219     my %tmp_results;
 220     # fgrep is seriously faster than using perl
 221     open DESC, '-|', 'fgrep', '-n', '--', $first_keyword, $file
 222         or die "couldn't open $file: $!";
 223   LINE:
 224     while (<DESC>) {
 225         foreach my $k (@$keywords) {
 226             next LINE unless /\Q$k\E/;
 227         }
 228         /^(\d+)/;
 229         my $nr = $1;
 230         debug( "Matched line $_", 2) if DEBUG;
 231         my $result = $did2pkg->{$nr};
 232         foreach (split /\000/o, $result) {
 233             my @data = split /\s/, $_, 3;
 234 #           debug ("Considering $data[0], arch = $data[2]", 3) if DEBUG;
 235 #           next unless $data[2] eq 'all' || $opts->{h_archs}{$data[2]};
 236 #           debug ("Ok", 3) if DEBUG;
 237             $numres++ unless $tmp_results{$data[0]}++;
 238         }
 239         last if $numres > 100;
 240     }
 241     close DESC;
 242     $too_many_hits++ if $numres > 100;
 243
 244     my @results;
 245     foreach my $pkg (keys %tmp_results) {
 246         &$read_entry( $packages, $pkg, $results, $non_results, $opts );
 247     }
 248  }
 249
 250 sub do_xapian_search {
 251     my ($keywords, $db, $did2pkg, $packages, $read_entry, $opts,
 252         $results, $non_results) = @_;
 253
 254 # NOTE: this needs to correspond with parse-packages!
 255     my @tmp;
 256     foreach my $keyword (@$keywords) {
 257         $keyword =~ tr [A-Z] [a-z];
 258         if ($opts->{exact}) {
 259             $keyword = " $keyword ";
 260         }
 261         $keyword =~ s/[(),.-]+//og;
 262         $keyword =~ s;[^a-z0-9_/+]+; ;og;
 263         push @tmp, $keyword;
 264     }
 265     my $stemmer = Lingua::Stem->new();
 266     $keywords = $stemmer->stem( @tmp );
 267
 268     my $db = Search::Xapian::Database->new( $db );
 269     my $enq = $db->enquire( OP_AND, @$keywords );
 270     debug( "Xapian Query was: ".$enq->get_query()->get_description(), 1) if DEBUG;
 271     my @matches = $enq->matches(0, 100);
 272
 273     my $numres = 0;
 274     my %tmp_results;
 275     foreach my $match ( @matches ) {
 276         my $id = $match->get_docid();
 277         my $result = $did2pkg->{$id};
 278
 279         foreach (split /\000/o, $result) {
 280             my @data = split /\s/, $_, 3;
 281 #           debug ("Considering $data[0], arch = $data[2]", 3) if DEBUG;
 282 #           next unless $data[2] eq 'all' || $opts->{h_archs}{$data[2]};
 283 #           debug ("Ok", 3) if DEBUG;
 284             $numres++ unless $tmp_results{$data[0]}++;
 285         }
 286         last if $numres > 100;
 287     }
 288     undef $db;
 289     $too_many_hits++ if $numres > 100;
 290
 291     foreach my $pkg (keys %tmp_results) {
 292         &$read_entry( $packages, $pkg, $results, $non_results, $opts );
 293     }
 294 }
 295
 296 sub find_binaries {
 297     my ($pkg, $archive, $suite, $src2bin) = @_;
 298
 299     my $bins = $src2bin->{$pkg} || '';
 300     my %bins;
 301     foreach (split /\000/o, $bins) {
 302         my @data = split /\s/, $_, 5;
 303
 304         debug( "find_binaries: considering @data", 3 ) if DEBUG;
 305         if (($data[0] eq $archive)
 306             && ($data[1] eq $suite)) {
 307             $bins{$data[2]}++;
 308             debug( "find_binaries: using @data", 3 ) if DEBUG;
 309         }
 310     }
 311
 312     return [ keys %bins ];
 313 }
 314
 315
 316 1;