# robots.txt zu http://www.mein-name.de/ # dieser Webcrawler darf nichts auf der Webseite indexieren User-agent: EmailCollector Disallow: / # alle webcrawler dürfen nachfolgende Verzeichnisse nicht indexieren User-agent: * Disallow: /autoindex/ Disallow: /bilder/ Disallow: /cgi-bin/ Disallow: /chat/ Disallow: /downloads/ Disallow: /filme/ Disallow: /Fonts/ Disallow: /forum/ Disallow: /fotoalbum/ Disallow: /ftpbesucher/ Disallow: /kartenpaarefinden/ Disallow: /keinbock/ Disallow: /koerdachs/ Disallow: /koerdelneuss/ Disallow: /logs/ Disallow: /papierkorb/ Disallow: /php_BB2/ Disallow: /presse/ Disallow: /template/ Disallow: /temp/ Disallow: /test/ # erlaubt nach 120 sekunden eine weitere seite zu indexieren Crawl-delay: 120 # alle entsprechenden Dateiendungen werden ignoriert # Disallow: /*.pdf$