Bloquear BAIDUSPIDER | Develop Site

Imagen de fumadrid

Baiduspider es un bot del buscador chino BAIDU. Esta generando mucho trafico y ocupando mucho ancho de banda. Hemos intentado bloquearlo usando el archivo robots.txt pero solo funciono durante un tiempo.

Segun especifica Baidu en su pagina, con solo hacer una actualizacion del archivo robots.txt seria suficiente.
Agregando:

User-agent: Baiduspider
Disallow: /

Pero de momento no dio resultados. De todas maneras aclaran que esto puede tardar varios meses

Luego de un tiempo empezamos a ver resultados y el trafico procedente de China disminuyo considerablemente haciendo modificaciones en el archivo ROBOTS.TXT y .HTACCESS

Español
Taxonomy upgrade extras: