Robots.txt

Textový súbor prístupný v koreňovom adresári webu, ktorý hovorí botom (crawlerom), ktoré oblasti webu by mal ignorovať, na akom odkaze sa nachádza sitemapa a iné.