Ahoj souhlasim s Vami ze autor vychazi ze spekulaci.
Jinak na vylouceni robota pouzivam bud:
viz http://www.robotstxt.org/wc/meta-user.html
nebo soubor robots.txt v korenovem adrsari:
User-agent: WebCrawler
Disallow:
User-agent: *
Disallow: /
viz http://www.robotstxt.org/wc/norobots.html
Nesmime vsak zapomenout na to, ne vsichni roboti jsou slusni a ridi se robots.txt a meta. Pak pomuze uz jen konfigurace www serveru nebo iptables. Jak to resite vy?
Ktek