bin/create_index_pages

   1 #!/usr/bin/perl
   2
   3 use strict;
   4 use warnings;
   5
   6 use POSIX;
   7 use File::Path;
   8 use DB_File;
   9 use Storable;
  10 use HTML::Entities;
  11
  12 use lib './lib';
  13
  14 use Packages::Config qw( $TOPDIR $DBDIR @ARCHIVES @SUITES );
  15 use Packages::HTML;
  16 use Packages::Page;
  17 use Packages::Sections;
  18 &Packages::Config::init( './' );
  19 sub gettext { return $_[0]; }
  20 sub dgettext { return $_[1]; }
  21
  22 my $wwwdir = "$TOPDIR/www";
  23
  24 tie my %packages, 'DB_File', "$DBDIR/packages_small.db",
  25     O_RDONLY, 0666, $DB_BTREE
  26     or die "couldn't tie DB $DBDIR/packages_small.db: $!";
  27
  28 my $sections = retrieve "$DBDIR/sections.info";
  29 my $subsections = retrieve "$DBDIR/subsections.info";
  30 # work around problems with non-US security updates
  31 $subsections->{oldstable}{us}{'non-US'}++;
  32 my $priorities = retrieve "$DBDIR/priorities.info";
  33
  34 #use Data::Dumper;
  35 #print STDERR Dumper($sections, $subsections, $priorities);
  36
  37 my (%pages);
  38
  39 print "opening files ...\n";
  40 foreach my $s (@SUITES) {
  41     foreach my $a (@ARCHIVES) {
  42         next if $a eq 'security';
  43         next if $a eq 'non-US';
  44         my $key = ($a eq 'us') ? $s : "$s/$a";
  45         mkpath ( "$wwwdir/$key" );
  46         open $pages{$key}{index}{fh}, '>', "$wwwdir/$key/index.en.html.new"
  47             or die "can't open index file for output: $!";
  48         open $pages{$key}{fh}, '>', "$wwwdir/$key/allpackages.en.html.new"
  49             or die "can't open index file for output: $!";
  50
  51         my $title = sprintf( gettext ( "Software Packages in \"%s\"" ),
  52                              $s );
  53         my $index_title = sprintf( gettext ( "List of sections in \"%s\"" ),
  54                                    $s );
  55         print {$pages{$key}{fh}} header( title => $title,
  56                                          title_keywords => "debian, $s",
  57                                          desc => encode_entities( $title, '"' ),
  58                                          lang => 'en' ),
  59         title( $title ), '<dl>';
  60         print {$pages{$key}{index}{fh}} header( title => $index_title,
  61                                                 title_keywords => "debian, $s",
  62                                                 desc => encode_entities( $index_title, '"' ),
  63                                                 lang => 'en' ),
  64         title( $index_title ), '<div id="lefthalfcol"><dl>';
  65
  66         foreach my $sec (keys %{$sections->{$s}{$a}}) {
  67             mkpath ( "$wwwdir/$key/$sec" );
  68             open $pages{$key}{$sec}{fh}, '>', "$wwwdir/$key/$sec/index.en.html.new"
  69                 or die "can't open index file for output: $!";
  70             $title = sprintf( gettext ( "Software Packages in \"%s\", section %s" ),
  71                               $s, $sec );
  72             print {$pages{$key}{$sec}{fh}} header( title => $title,
  73                                                    title_keywords => "debian, $s, $sec",
  74                                                    desc => encode_entities( $title, '"' ),
  75                                                    lang => 'en' ),
  76             title( $title ), '<dl>';
  77         }
  78         my $i = 0; my $num_sections = keys %{$subsections->{$s}{$a}};
  79         foreach my $ssec ((keys %{$subsections->{$s}{$a}}, 'virtual')) {
  80             next if $ssec eq '-';
  81             mkpath ( "$wwwdir/$key/$ssec" );
  82             open $pages{$key}{$ssec}{fh}, '>', "$wwwdir/$key/$ssec/index.en.html.new"
  83                 or die "can't open index file for output: $!";
  84             $title = sprintf( gettext ( "Software Packages in \"%s\", subsection %s" ),
  85                               $s, $ssec );
  86             print {$pages{$key}{$ssec}{fh}} header( title => $title,
  87                                                     title_keywords => "debian, $s, $ssec",
  88                                                     desc => encode_entities( $title, '"' ),
  89                                                     lang => 'en' ),
  90             title( $title ), '<dl>';
  91
  92             if ($sections_descs{$ssec}) {
  93                 print {$pages{$key}{index}{fh}} "<dt><a href=\"$ssec/\">".dgettext( 'sections', $sections_descs{$ssec}[0] )."</a></dt><dd>".dgettext( 'sections', $sections_descs{$ssec}[1] )."</dd>\n";
  94                 $i++;
  95                 if ($i eq ceil($num_sections/2)) {
  96                     print {$pages{$key}{index}{fh}} "</dl>\n</div> <!-- end lefthalfcol -->\n<div id=\"righthalfcol\">\n<dl>\n";
  97                 }
  98             }
  99         }
 100         foreach my $prio (keys %{$priorities->{$s}{$a}}) {
 101             next if $prio eq '-';
 102             mkpath ( "$wwwdir/$key/$prio" );
 103             open $pages{$key}{$prio}{fh}, '>', "$wwwdir/$key/$prio/index.en.html.new"
 104                 or die "can't open index file for output: $!";
 105             $title = sprintf( gettext ( "Software Packages in \"%s\", priority %s" ),
 106                               $s, $prio );
 107             print {$pages{$key}{$prio}{fh}} header( title => $title,
 108                                                     title_keywords => "debian, $s, $prio",
 109                                                     desc => encode_entities( $title, '"' ),
 110                                                     lang => 'en' ),
 111             title( $title ), '<dl>';
 112         }
 113     }
 114 }
 115
 116 print "writing package info ...\n";
 117 while (my ($pkg, $data) = each %packages) {
 118     my %pkg;
 119     foreach (split /\000/o, $data) {
 120         my @data = split ( /\s/o, $_, 8 );
 121         my $key = $data[1];
 122         if ($data[0] !~ /^(?:us|security|non-US)$/o) {
 123             $key = "$data[1]/$data[0]";
 124         }
 125         $pkg{$key} ||= new Packages::Page( $pkg );
 126         if ($data[2] ne 'virtual') {
 127             $pkg{$key}->merge_package( { package => $pkg,
 128                                          archive => $data[0],
 129                                          suite => $data[1],
 130                                          architecture => $data[2],
 131                                          section => $data[3],
 132                                          subsection => $data[4],
 133                                          priority => $data[5],
 134                                          version => $data[6],
 135                                          description => $data[7] } );
 136         } else {
 137             $pkg{$key}->add_provided_by([split /\s+/, $data[7]]);
 138         }
 139     }
 140     while (my ($key, $entry) = each %pkg) {
 141         if (my $provided_by = $entry->{provided_by}) {
 142             my $str = "<dt><a href=\"$pkg\">$pkg</a> ".
 143                 "</dt>\n     <dd>virtual package provided by ".
 144                 join( ', ',map { "<a href=\"../$_\">$_</a>" } @$provided_by)."</dd>\n";
 145             my $txt_str = "$pkg\tvirtual package provided by ".join(', ', @$provided_by)."\n";
 146             print {$pages{$key}{virtual}{fh}} $str
 147                 or die "couldn't write to output file: $!";
 148         }
 149         next if $entry->is_virtual;
 150         my (undef, $v_str) = $entry->get_version_string;
 151         my $subsection = $entry->get_newest( 'subsection' );
 152         my $section = $entry->get_newest( 'section' );
 153         my $archive = $entry->get_newest( 'archive' );
 154         my $short_desc_txt = $entry->get_newest( 'description' );
 155         my $short_desc = encode_entities( $short_desc_txt, "<>&\"" );
 156         my $priority = $entry->get_newest( 'priority' );
 157
 158         my $str = "<dt><a href=\"$pkg\">$pkg</a> ($v_str) ";
 159         my $txt_str = "$pkg ($v_str)";
 160         if ($section ne 'main') {
 161             $str .= marker( $section );
 162             $txt_str .= " [$section]";
 163         }
 164         if ($archive ne 'us') {
 165             $str .= marker( $archive );
 166             $txt_str .= " [$archive]";
 167         }
 168         $str .= "</dt>\n     <dd>$short_desc</dd>\n";
 169         $txt_str .= " $short_desc_txt\n";
 170         print {$pages{$key}{fh}} $str
 171             or die "couldn't write to output file: $!";
 172         print {$pages{$key}{$section}{fh}} $str
 173             or die "couldn't write to output file: $!";
 174         if ($subsection ne '-') {
 175             print {$pages{$key}{$subsection}{fh}} $str
 176                 or die "couldn't write to output file: $!";
 177         }
 178         if ($priority ne '-') {
 179             print {$pages{$key}{$priority}{fh}} $str
 180                 or die "couldn't write to output file: $!";
 181         }
 182     }
 183 }
 184
 185 print "closing files ...\n";
 186 foreach my $s (@SUITES) {
 187     foreach my $a (@ARCHIVES) {
 188         next if $a eq 'security';
 189         next if $a eq 'non-US';
 190         my $key = ($a eq 'us') ? $s : "$s/$a";
 191         my $root = ($a eq 'us') ? '' : '../';
 192         print {$pages{$key}{index}{fh}} '</dl></div>',
 193         "<p class=\"psmallcenter\"><a href=\"allpackages\" title=\"".gettext( "List of all packages" )."\">".
 194         gettext( "All packages" ) ."</a><br>(<a href=\"allpackages.en.txt.gz\">".
 195         gettext( "compact compressed textlist" )."</a>)</p>\n";
 196         print {$pages{$key}{index}{fh}} trailer( "$root../" );
 197         close $pages{$key}{index}{fh} or
 198             warn "can't open index file for output $wwwdir/$key/index.en.html.new: $!";
 199         rename( "$wwwdir/$key/index.en.html.new",
 200                 "$wwwdir/$key/index.en.html" );
 201         print {$pages{$key}{fh}} '</dl>', trailer( "$root../" );
 202         close $pages{$key}{fh} or
 203             warn "can't close index file $wwwdir/$key/allpackages.en.html.new: $!";
 204         rename( "$wwwdir/$key/allpackages.en.html.new",
 205                 "$wwwdir/$key/allpackages.en.html" );
 206         foreach my $sec (keys %{$sections->{$s}{$a}}) {
 207             print {$pages{$key}{$sec}{fh}} '</dl>', trailer( "$root../../" );
 208             close $pages{$key}{$sec}{fh} or
 209                 warn "can't close index file $wwwdir/$key/$sec/index.en.html.new: $!";
 210             rename( "$wwwdir/$key/$sec/index.en.html.new",
 211                     "$wwwdir/$key/$sec/index.en.html" );
 212         }
 213         foreach my $ssec ((keys %{$subsections->{$s}{$a}}, 'virtual')) {
 214             next if $ssec eq '-';
 215             print {$pages{$key}{$ssec}{fh}} '</dl>', trailer( "$root../../" );
 216             close $pages{$key}{$ssec}{fh} or
 217                 warn "can't close index file $wwwdir/$key/$ssec/index.en.html.new: $!";
 218             rename( "$wwwdir/$key/$ssec/index.en.html.new",
 219                     "$wwwdir/$key/$ssec/index.en.html" );
 220         }
 221         foreach my $prio (keys %{$priorities->{$s}{$a}}) {
 222             next if $prio eq '-';
 223             print {$pages{$key}{$prio}{fh}} '</dl>', trailer( "$root../../" );
 224             close $pages{$key}{$prio}{fh} or
 225                 warn "can't close index file $wwwdir/$key/$prio/index.en.html.new: $!";
 226             rename( "$wwwdir/$key/$prio/index.en.html.new",
 227                     "$wwwdir/$key/$prio/index.en.html" );
 228         }
 229     }
 230 }