CrawlCheck
Herramientas gratuitas · para sitios y para agentes

Ocho comprobaciones gratuitas, sin registro.

Escribe un dominio. Sin cuenta, sin instalar nada. Qué se le dice a un agente sobre tu sitio antes de actuar, si una máquina puede leer tus archivos, si ese rastreador de tus registros es real, qué permite realmente tu robots.txt a cada agente de IA, un primer borrador de tu llms.txt a partir de las páginas que ya publicas, cómo te comparas con un competidor, en qué puede anclarse Google en un vídeo, y si una petición de bot firmada viene del bot que nombra. Cada comprobación es también un punto de acceso público que un agente puede llamar.

En una frase

La página de herramientas gratuitas responde ocho preguntas sin cuenta, cada una también invocable como punto de acceso público por un agente: qué se le dice a un agente de IA sobre un dominio mediante la respuesta Resolve firmada (una decisión por acción, qué declara el sitio, qué se le sirvió, qué está ausente); si una máquina puede leer su robots.txt, sitemap y llms.txt con el tipo de contenido correcto o una caché sirve algo obsoleto; si una petición de tus registros de acceso que dice ser GPTBot, ClaudeBot, Googlebot u otro rastreador con nombre vino de los rangos IP publicados por ese operador (verificada, suplantada o no verificable, nunca solo dos resultados); qué permite realmente un robots.txt a cada rastreador de IA en una ruta; un primer borrador de llms.txt a partir de páginas ya publicadas; una comparación lado a lado con un competidor; en qué puede anclarse un resultado de búsqueda en un vídeo; y si una petición firmada con Web Bot Auth viene del bot que nombra.

  1. 01¿Qué se le dice a un agente sobre tu sitio?la respuesta Resolve firmada, presentada
  2. 02¿Puede una máquina leer tus archivos?robots.txt · sitemap · llms.txt · página de inicio
  3. 03¿Es real ese rastreador en tus registros?verificado · suplantado · no verificable
  4. 04¿Qué permite tu robots.txt a cada rastreador de IA?por agente, en la ruta que elijas
  5. 05Redacta un llms.txt a partir de lo que ya publicaspágina de inicio + hasta 25 páginas declaradas
  6. 06¿Cómo te comparas con un competidor?dos páginas de inicio, un escaneo cada una
  7. 07¿Es real esa petición de bot firmada?Web Bot Auth, cada paso a la vista
  8. 08¿A qué puede anclarse Google en tu vídeo?capítulos · subtítulos · descripción · temas
Los hallazgos más comunes en todos los escaneos
Ningún llms.txtNO_LLMS_TXT30.8%La página es casi todo códigoPAGE_IS_MOSTLY_CODE28.9%Los archivos para máquinas pesan más que la páginaMACHINE_CHAIN_HEAVY17.6%Una caché sirve una copia caducadaSTALE_CACHE_SERVED17.4%Los grupos de IA con nombre pierden las reglas *ROBOTS_RULES_SHADOWED13.2%Sin cabecera HSTSHSTS_MISSING9.4%No se encontró sitemap XMLNO_SITEMAP_FOUND8.8%robots.txt no declara ningún sitemapROBOTS_NO_SITEMAP8.8%Proporción de los 3,176 escaneos del conjunto de datos público que tenían el hallazgo. En vivo; las mismas cifras que en /data.

¿Tu sitio es uno de ellos? Compruébalo gratis → Las 52 tasas →

01

¿Qué se le dice a un agente sobre tu sitio?

La respuesta pública y firmada que Resolve da a cualquier agente que pregunta por un dominio antes de leer, citar, conectarse o transaccionar, presentada para una persona: una decisión por acción, qué declara el sitio, qué se le sirvió, qué está ausente.

Los agentes no leen tu página de inicio para formarse una impresión. Consultan un punto de acceso y actúan según los campos. Esto te muestra esos campos para tu propio dominio y, si aún no hay registro, lo dice tal como se le dice al agente: no medido, nada supuesto.

Agentes: GET /api/v1/resolve?domain=

Una llamada pública a Resolve. Firmada, verificable sin conexión, sin clave.

02

¿Puede una máquina leer tus archivos?

Cuatro solicitudes al dominio que indiques: robots.txt, sitemap, llms.txt y la página de inicio, leídos por tipo de contenido y antigüedad de la caché.

Agentes: GET /api/tool/files?domain=

Cuatro solicitudes al sitio que indiques. Resultados en caché diez minutos.

03

¿Es real ese rastreador de tus registros?

Pega líneas sin procesar del registro de acceso. Cada una que nombra un rastreador conocido se comprueba frente a los rangos de direcciones que ese operador publica de verdad.

Esta es la comprobación que casi nadie hace, y da la vuelta a las conclusiones. Un registro lleno de GPTBot con 403 hace pensar que tu hosting está bloqueando a OpenAI, hasta que descubres que todos venían de una sola dirección que usaba siete nombres de rastreador distintos. Lo hemos medido exactamente así en sitios reales. Agrupa por dirección antes de sacar ninguna conclusión.

Agentes: GET /api/v1/visitor?ip=&ua=

No se guarda nada. Las líneas se evalúan en memoria y la respuesta no se registra.

04

¿Qué permite tu robots.txt a cada rastreador de IA?

Una sola descarga del archivo y después cada motor de respuestas, índice de búsqueda y rastreador de entrenamiento con nombre se resuelve como lo haría un rastreador: solo su propio grupo, la coincidencia más larga, allow gana en caso de empate.

La regla que la gente entiende mal: un Disallow bajo User-agent: * nunca se aplica a un agente que tiene su propio grupo. Nombra a GPTBot una sola vez en cualquier parte del archivo y toda regla * deja de aplicarse a él. Esto muestra lo que se aplica de verdad, por agente, en la ruta que elijas.

Agentes: GET /api/tool/robots?domain=&path=

Una solicitud al sitio que indiques. Los rastreadores de entrenamiento se listan, no se juzgan.

05

Redacta un llms.txt a partir de lo que ya publicas

Lee tu página de inicio y hasta 25 páginas declaradas con sus propios títulos y descripciones, y escribe un primer borrador con la forma habitual.

Es un borrador a propósito. Un archivo generado es un volcado de enlaces con los títulos como descripciones; el valor del archivo está en la selección. Recórtalo a las páginas por las que alguien preguntaría a un asistente, escribe tú las descripciones y sírvelo como text/plain y comprueba la URL tal cual: la comprobación de arriba te dirá si llegó.

Hasta 27 solicitudes al sitio que indiques. Resultados en caché diez minutos.

06

¿Cómo te comparas con un competidor?

Dos páginas de inicio, el mismo escaneo en ambas: cada sección que necesita un motor de respuestas, una al lado de la otra, con los hallazgos que solo tiene uno de los dos.

Dos escaneos, unos 20 segundos cada uno si alguno de los sitios es nuevo para nosotros. Cada uno se conserva como cualquier escaneo; la comparación en sí no se guarda. ¿Necesitas todo el panorama? Un sitio frente a hasta cinco competidores.

07

¿Es real esa solicitud de bot firmada?

Web Bot Auth permite que un bot firme cada solicitud con una clave que publica. Escribe el host del bot o pega las cabeceras de una solicitud firmada, y se muestra cada paso de la comprobación: el directorio de claves, las firmas que lleva, la huella de cada clave, los componentes cubiertos y la ventana de tiempo.

Un user-agent lo puede escribir cualquiera; una firma sobre tu propio nombre de host, no. Una clave solo cuenta si firmó el directorio en el que está, así que una lista de claves copiada o editada no prueba nada. Funciona para cualquier agente que firme, no solo para el nuestro.

Agentes: GET /api/tool/wba?agent=

Una solicitud al directorio de claves del agente. Las cabeceras pegadas se comprueban en memoria y no se guardan; un nonce verificado solo se recuerda hasta que caduca, para detectar una repetición.

08

¿A qué puede anclarse Google en tu vídeo?

Pega una URL de YouTube: capítulos, tipo de subtítulos, descripción, idioma y temas, cada fila frente a aquello a lo que puede anclarse un resultado de búsqueda. Los canales completos y la conexión con el sitio están en Watch.

Cómo se juzga la afirmación de un rastreador

Tres resultados, nunca dos

Contar las no verificables como falsas inflaría la tasa; contarlas como genuinas la subestimaría. Por eso la tasa de suplantación solo divide entre verificadas más suplantadas, y la respuesta indica ese denominador en lugar de dejar que lo supongas.

Verificada

La dirección está dentro del rango que publica el operador. La solicitud es lo que dice ser.

Suplantada

El operador publica rangos y esta dirección está fuera de todos. Otro está usando el nombre.

No verificable

El operador no publica ninguna lista, así que la identidad no se puede confirmar ni señalar como falsa. Amazonbot y Meta-ExternalAgent están aquí de forma permanente.

Por qué existen

Qué detectan las dos comprobaciones

Cuándo ejecutarlas: tras cualquier edición de un archivo de máquina, tras cualquier cambio de configuración de caché o CDN, y siempre que una corrección de cara a los rastreadores «debería» estar en vivo. Comprueba la URL desnuda desde fuera de tu propia sesión, porque tu navegador con sesión iniciada es el cliente menos representativo que tiene tu sitio.

La comprobación de archivos de máquina

Pide tu robots.txt, llms.txt y sitemap como lo hace un rastreador, y lee el tipo de contenido y el cuerpo, no solo el estado. El fallo para el que existe: un escudo anti-bots que responde HTTP 200 con HTML donde debería haber un archivo de texto. Todo monitor de disponibilidad lo da por sano; un validador lo lee como todo permitido.

La comprobación de purga

¿La purga que acabas de ejecutar expulsó algo de verdad? Pide la URL antes y después sin evasión de caché, compara los bytes y lee las cabeceras age y cache-status. Un 200 de un endpoint de purga habla de la llamada a la API, no de la caché.

Llévate los scripts

Las mismas dos comprobaciones, para una terminal.

Ninguno es un producto. Son las comprobaciones que atraparon fallos reales en este proyecto, publicadas porque un artículo que describe una herramienta que no puedes tener es publicidad. Úsalos, cámbialos, sin atribución. No hacen ninguna petición de red salvo a la URL que les das.

cachecheck.sh

Comprueba si una caché sirve un documento que tu origen ya no produce. Ignora por completo los códigos de estado: un PURGE que devuelve 200 demuestra que algo respondió, no que se eliminara nada. Obtiene la URL tal cual y otra saltándose la caché, las compara y se niega a juzgar si alguna de las dos lecturas es una página de verificación.

Ver o descargar → · curl -sO https://crawlcheck.io/tools/cachecheck.sh

verify.sh

Comprueba si un cambio que publicaste está de verdad en la página que recibe un desconocido. Cuenta tu marcado fuera de las etiquetas style y script, para que un nombre de clase en una hoja de estilos no pase por un elemento de la página; hace tres consultas para que aparezca todo lo condicional; e indica que mide la vista anónima.

Ver o descargar → · curl -sO https://crawlcheck.io/tools/verify.sh

¿Quieres que estas comprobaciones se ejecuten por ti, dos veces al día?

Estas comprobaciones se ejecutan cuando te acuerdas. Watch vuelve a medir dos veces al día, en tres dominios, qué se le sirve a cada rastreador de IA con nombre, y te escribe solo cuando cambia un resultado: la respuesta que un agente recibe sobre tu sitio, mantenida al día sin que nadie tenga que acordarse de comprobar.

Watch, 29 $ al mes →

Las ocho comprobaciones de arriba siguen siendo gratuitas y no necesitan cuenta.

Preguntas sobre esta página

Q¿Qué ve un agente de IA sobre mi sitio antes de actuar?
Escribe tu dominio en la primera herramienta. Muestra la respuesta Resolve pública y firmada que recibe cualquier agente: una decisión para leer, citar, conectar y transaccionar, qué declara tu sitio (robots.txt por agente, señales de derechos, capacidades), qué se le sirvió a CrawlCheck, qué se buscó y no se encontró, y cuándo se observó. Si aún no hay registro, dice not_measured y no se supone nada, que es exactamente lo que se le dice al agente; un análisis gratuito crea el registro.
Q¿Puede un agente llamar a estas herramientas directamente?
Sí. Cada comprobación es un punto de acceso público nombrado en su fila: Resolve en /api/v1/resolve?domain=, la comprobación de archivos máquina en /api/tool/files, la comprobación de visitantes en /api/v1/visitor, el resolutor de robots.txt en /api/tool/robots, la comprobación Web Bot Auth en /api/tool/wba. Sin clave, y las respuestas de Resolve están firmadas para poder verificarse sin conexión.
P¿Cómo compruebo que una solicitud de bot firmada es real?
Usa el verificador de firmas de esta página. Dale el host de un bot y obtiene el directorio de claves en /.well-known/http-message-signatures-directory sin seguir redirecciones, comprueba el tipo de contenido, calcula la huella RFC 7638 de cada clave y verifica las firmas del propio directorio, de modo que una clave solo cuenta si firmó el directorio en el que está. Pega las cabeceras de una solicitud firmada y después verifica su firma con una clave comprobada de esa forma, mostrando los componentes cubiertos y la ventana de tiempo. Funciona para cualquier agente de Web Bot Auth, no solo para el nuestro.
P¿Cómo decide el verificador de registros si una solicitud es real?
Cada línea que nombra un rastreador conocido se comprueba frente a los rangos de IP que publica ese operador (OpenAI, Anthropic, Perplexity, Google, Bing, Apple). Dentro de un rango publicado es verificada; fuera de todos, suplantada; un operador sin lista publicada (Amazonbot, Meta-ExternalAgent) es no verificable y no se cuenta en ninguno de los dos.
P¿Se guarda algo de lo que pego?
No. Hasta 200 líneas se evalúan en memoria y la respuesta no se registra.
P¿Qué busca la comprobación de dominio?
Cuatro solicitudes: robots.txt, sitemap.xml, llms.txt y la página de inicio. Indica si cada archivo se sirve con el tipo de contenido correcto (un robots.txt que devuelve HTML es ilegible para un rastreador aunque responda 200) y si la copia servida es más antigua que lo que produce el origen.
P¿Por qué una purga que devolvió 200 sigue sirviendo bytes viejos?
Un 200 de un endpoint de purga habla de la llamada a la API, no de la caché. La comprobación lee las cabeceras de antigüedad de la copia servida en lugar de fiarse de la respuesta de la purga.

Empieza por lo que estás comprobando

Sigue leyendo