Yahoo begynner å komme seg?

Kenneth Dreyer

Well-Known Member
Noen som har merket hard trafikk fra Yahoo sine crawlere i det siste? Jeg har merket et stort trykk på absolutt alle mine nettsider i det siste. En av nettsidene mine hadde faktisk over 60 forskjellige crawlere fra Yahoo inne på en gang.. Nesten så jeg vurderer å sperre dem ute!

Driver kanskje Yahoo og strammer seg sammen?
 

Kenneth Dreyer

Well-Known Member
Fordi på de mindre sidene skapte dem endel fake statestikk, kjøre enkelte tyngre prosesser osv. Crawlerene er jo laget for å snike rundt overalt :) Og når det er 60 stykker som svimmer rundt på weben din kan det fort hende den kjenner det faktisk..
 

webmoney

Søkemotoroptimist
Noen som har merket hard trafikk fra Yahoo sine crawlere i det siste? Jeg har merket et stort trykk på absolutt alle mine nettsider i det siste. En av nettsidene mine hadde faktisk over 60 forskjellige crawlere fra Yahoo inne på en gang.. Nesten så jeg vurderer å sperre dem ute!
robots.txt:
-----------------
User-agent: Slurp
Disallow: /
-----------------
 
Topp