Acerca de esta herramienta
Analiza el contenido de un archivo robots.txt para identificar directivas, grupos de agentes, rutas y errores frecuentes. La herramienta no descarga un archivo desde una web ni simula por completo el comportamiento particular de cada buscador. Comprueba siempre la versión publicada y usa Search Console para confirmar cómo interpreta Google una URL importante.
Cómo usarla
- 1Pega el contenido completo de robots.txt.
- 2Revisa grupos, reglas y advertencias detectadas.
- 3Corrige el archivo, publícalo en la raíz y prueba URLs importantes.
Ventajas
- Análisis local sin solicitar el sitio de destino.
- Ayuda a detectar reglas demasiado amplias.
- Explica directivas en lugar de mostrar solo un resultado.
Preguntas frecuentes
¿robots.txt impide que una URL aparezca en Google?+
Bloquea el rastreo, no garantiza la desindexación. Una URL conocida puede aparecer sin fragmento; usa controles de indexación adecuados cuando Google pueda rastrearla.
¿Debo bloquear CSS y JavaScript?+
Normalmente no. Google necesita recursos importantes para renderizar y evaluar la página.
¿Dónde debe publicarse el archivo?+
En la raíz exacta del host, por ejemplo https://example.com/robots.txt.