La etiqueta meta robots es uno de los elementos básicos del SEO y uno de los que más provecho sacan los seos más experimentados en webs de gran tamaño, ya que nos permite marcarle el camino a seguir a los robots de los buscadores en nuestra web.
La etiqueta meta robots es una linea de código que se incluye en el <head> de la web que indica a los buscadores qué páginas de tu sitio debe mirar e indexar y cuáles no.
Otra función de esta etiqueta es decirle a Google qué enlaces debe seguir y cuales no.
Si tienes una página con un montón de enlaces salientes, es posible que quieras que Google no siga todos esos enlaces, usando para ello la etiqueta meta robots.
En este punto tengo que aclarar que en la mayoría de sitios no es necesario el bloquear los enlaces salientes mediante la etiqueta robots, por lo que antes de meterle mano a algo tan importante, asegúrate de qué estas haciendo.
Si te has puesto a revisar tu sitio y te has dado cuenta de que no tienes una etiqueta robots implementada no hay de qué preocuparse.
Cuando una araña accede a tu sitio y no encuentra ninguna indicación de la etiqueta meta robots, por defecto indexará todas las páginas y seguirá todos los enlaces que encuentre en tu sitio.
Funciones de la meta robots
- Follow: el robot seguirá los enlaces de la página.
- Index: los robots pueden indexar la página.
- Nofollow: le estamos diciendo que no siga los enlaces en esa página.
- Noindex: le decimos que no indexe la página en la que encuentre esta etiqueta.
La etiqueta robots tiene algunas opciones más, pero estas son las cuatro principales.
Ahora bien, ¿cuál es la configuración perfecta?
Pues en mi opinión personal no existe, depende de los contenidos de tu web y de qué quieras que los robots encuentren y qué no.
Por experiencia propia, ten cuidado con el noindex, ¡puedes hacer auténticos destrozos!
Un par de ejemplos de la etiqueta meta robots
<meta name=»robots» content=»index»>
Con esta etiqueta le estamos diciendo a los robots que indexen la página en la que se encuentran. De hecho estamos siendo «repetitivos» porque en ausencia de esta etiqueta, los buscadores indexarían igualmente dicha página.
<meta name=»robots» content=»noindex,nofollow»>
Aquí tenemos algo grande. Esta opción se tiene que utilizar en sitios grandes en los que queramos controlar tanto la indexación de algunas páginas (thin content, duplicados) así como el reparto de linkjuice a través de las mismas.
Mucho ojo con implementarla a lo loco: te puedes cargar el tráfico de tu web de un día para otro.
Si quieres seguir ampliando información sobre la etiqueta meta robots, te recomiendo que le eches un vistazo a este artículo de Searchengineland, muy muy completo sobre esta etiqueta.
De paso, te recordamos también la importancia del archivo robots.txt en este artículo.