In mijn vorige post had ik het over de vernieuwde interface voor de crawlsnelheid settings in google webmaster tools. Je kan nu zelf deze snelheid verhogen, in sommige gevallen tot 10 per seconde.  De crawlsnelheid verhogen heeft een aantal positieve consequenties : meer pagina’s in de Google, meestal meer traffic uit Google,….  

Uiteraard heeft het ook een aantal negatieve consequenties. De duidelijkste is de zwaardere belasting van je servers, hiervoor waarschuwt Google ook. Een effect dat meestal vergeten wordt ik impact op de bandbreedte en de daarbij horende kosten. Een klein rekenvoorbeeld:

Als Googlebot je site 0.05 keer per seconde crawlt (ik heb er zo enkele) en een gemiddelde pagina is 100KB groot dan verbruikt Googlebot :

BandBreedte:  0.05 page/sec * 100KB/page =  5 KB/sec = 0.04 Mbps
Throughput: 0.05 * 3600 * 24 * 30 * 100KB = 12.36 GB/maand

Dit zijn cijfers die je niet direct aan je facturen zal zien, maar stel dat Googlebot 1 keer per seconde langskomt (zo heb ik er ook eentje) Dan krijg je:

Bandbreedte: 0.8 Mbps
Throughput: 250 GB/maand 

Als je een server hebt met een 10Mbps uplink is 8% van de bandbreedte voor googlebot alleen al niet meer verwaarloosbaar. Stel dat je er meerdere sites op draait en MsnBot en Slurp ongeveer hetzelfde presteren dan raak je al snel in de problemen.

Stel nu dat je de crawlrate op 10 pagina’s per seconde zou zetten ( dat kan! zie vorige post ) dan krijg je:

Bandbreedte: 8 Mbps
Throughput: 2.5 TB/maand

 En dat voor GoogleBot alleen!

Ik had het al hier en daar gelezen, maar nu zie ik het ook inmijn eigen accounts. De crawl speed option in Google webmaster tools is veranderd van een radio box ( 2 of 3 opties afhankelijk van de grootte van de site ) naar een slider bar die ook de effectieve settings van de googlebot weergeeft. Als de balk iets voorbij de helft staat ( zie illustratie ) crawlt googlebot 1.75 pagina’s per seconde. De minimum en maximum waardes op de balk varieren van site tot site. Het hoogste dat ik momenteel al gezien heb is een maximum van 10 pagina’s per seconde!

 Ik heb alvast in een van mijn sites de waarde bij wijze van expirement verdubbeld. Benieuwd of Google de verandering ook zomaar zal doorvoeren…