robots.txt – eine Datei im Webroot, die Suchmaschinen-Crawlern mitteilt, welche Bereiche sie besuchen dürfen.