#
# robots.txt para tu blog en WordPress.
#
# Usar bajo propia responsabilidad, que nos conocemos }:)
# http://sigt.net/archivo/robotstxt-para-wordpress.xhtml
#

# Primero el contenido adjunto.

User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-content/plugins/
Disallow: /wp-content/themes/
Disallow: /wp-includes/
Disallow: /page/
Disallow: /author/
Disallow: /wp-admin/
Disallow: /wordpress/wp-content/plugins/
Disallow: /wordpress/wp-content/themes/
Disallow: /wordpress/wp-includes/
Disallow: /wordpress/wp-admin/
Disallow: /online/
Disallow: /juegos/
Disallow: /informes/
Disallow: /horoscopo/
Disallow: /articulos/
Disallow: /Datos Utiles/
Disallow: /noticias/
Disallow: /archivos/
Disallow: /simplemachinesforum/
disallow: /freedriverdownload/
disallow: /drivers/
Disallow: /vi/
Disallow: /lv/
Disallow: /fr/
Disallow: /ko/
Disallow: /ro/
Disallow: /ca/
Disallow: /sk/
Disallow: /sv/
Disallow: /uk/
Disallow: /ja/
Disallow: /en/
Disallow: /el/
Disallow: /mt/
Disallow: /th/
Disallow: /da/
Disallow: /gl/
Disallow: /pt/
Disallow: /fi/
Disallow: /no/
Disallow: /de/
Disallow: /it/
Disallow: /hr/
Disallow: /iw/
Disallow: /bg/
Disallow: /zh-CN/
Disallow: /nl/
Disallow: /pl/
Disallow: /ru/

# Tambi?n podemos desindexar todo lo que empiece 
# por wp-. Es lo mismo que los Disallow de arriba pero
# incluye cosas como wp-rss.php

Disallow: /wp-

#
# Sitemap permitido, b?squedas no.
#

Sitemap: http://elsigno.com/sitemap.xml

Disallow: /?s=
Disallow: /search
Disallow: /wordpress/?s=
Disallow: /wordpress/search

#
# Permitimos el feed general para Google Blogsearch.
#
# Impedimos que permalink/feed/ sea indexado ya que el
# feed con los comentarios suele posicionarse en lugar de
# la entrada y desorienta a los usuarios.
#
# Lo mismo con URLs terminadas en /trackback/ que s?lo
# sirven como Trackback URI (y son contenido duplicado).
#

Allow: /feed/$
Disallow: /feed
Disallow: /comments/feed
Disallow: /*/feed/$
Disallow: /*/feed/rss/$
Disallow: /*/trackback/$
Disallow: /*/*/feed/$
Disallow: /*/*/feed/rss/$
Disallow: /*/*/trackback/$
Disallow: /*/*/*/feed/$
Disallow: /*/*/*/feed/rss/$
Disallow: /*/*/*/trackback/$

#
# A partir de aqu? es opcional pero recomendado.
#

# Lista de bots que suelen respetar el robots.txt pero rara
# vez hacen un buen uso del sitio y abusan bastante...
# A?adir al gusto del consumidor...

User-agent: MSIECrawler
Disallow: /

User-agent: WebCopier
Disallow: /

User-agent: HTTrack
Disallow: /

User-agent: Microsoft.URL.Control
Disallow: /

User-agent: libwww
Disallow: /

#
# Slurp (Yahoo!), Noxtrum y el bot de MSN a veces tienen
# idas de pinza, toca decirles que reduzcan la marcha.
# El valor es en segundos y pod?is dejarlo bajo e ir 
# subiendo hasta el punto ?ptimo.
#

User-agent: noxtrumbot
Crawl-delay: 50

User-agent: msnbot
Crawl-delay: 30

User-agent: Slurp
Crawl-delay: 10

Disallow: /

User-agent: libwww
Disallow: /

#
# Slurp (Yahoo!), Noxtrum y el bot de MSN a veces tienen
# idas de pinza, toca decirles que reduzcan la marcha.
# El valor es en segundos y pod?is dejarlo bajo e ir 
# subiendo hasta el punto ?ptimo.
#

User-agent: noxtrumbot
Crawl-delay: 50

User-agent: msnbot
Crawl-delay: 30

User-agent: Slurp
Crawl-delay: 10