Como verificar um site para a web agêntica?
Em uma frase
A biblioteca do CrawlCheck são os guias, os achados e o glossário por trás do scanner: cada guia verifica uma coisa em qualquer site e informa com que frequência ela falha em todos os escaneamentos, cada achado é um caso datado de uma medição real, e cada termo do glossário é definido uma vez e vinculado a partir do relatório que o mede.
Nada aqui é conselho tirado de pesquisa de opinião. Um guia diz como verificar uma coisa em qualquer site e o que a verificação costuma encontrar; um achado é um caso de um escaneamento real com os bytes por trás; um termo é definido uma vez e vinculado a partir do relatório que o mede.
Pagar nunca muda uma medição. O livro de regras · Os rastreadores · Como funciona um escaneamento
Guias. Achados. Glossário.
Guias
Como verificar uma coisa.
Cada guia é uma verificação: o que buscar, o que procurar, o que significa e com que frequência falha em todos os escaneamentos. Comece pelos três que explicam como ler um relatório.
Achados
O que escaneamentos reais encontraram.
Estudos de caso datados do conjunto de dados público: um robots.txt que não podia ser lido, um nome de rastreador que o Google diz nunca enviar, uma página que deu uma só identidade a duas empresas.
Glossário
Cada termo, definido uma vez.
751 termos da camada para máquinas, cada um com a página que o mede. As definições são as mesmas que o relatório e a API usam.
Cada número aqui é lido do manifesto que o publica.
Três guias que explicam o relatório.
O que os guias cobrem.
- Segurança e e-mail — Cabeçalhos e registros DNS que um rastreador consegue ler: HSTS, CSP, DMARC, SPF, DKIM. (3)
- Rastreadores de IA e acesso — Quem está buscando, se consegue entrar e se é quem diz ser. (18)
- Visibilidade para IA e mecanismos de respostas — O que realmente pode ser medido sobre um site dentro de uma resposta gerada. (8)
- Entidades, schema e presença local — Declarar quem você é para que um resolvedor não precise adivinhar: JSON-LD, NAP, listagens. (6)
- Arquivos para máquinas e entrega — robots.txt, llms.txt, sitemaps, canônicas, caches, códigos de status. (12)
- Qualidade do site, links e acessibilidade — O que um leitor, um leitor de tela e um verificador de links precisam de uma página. (17)
Medido neste mês.
- Agent conduct, October 2026: 34,676 verified crawler requests, and what they did with robots.txt 2026-10-15
- MCP reliability, October 2026: 6,000 remote MCP servers, 39,484 handshakes 2026-10-15
- Share of preflight, October 2026: 0 of 5,643 verified agent requests carried a receipt 2026-10-15
- Robots.txt says yes, the server says no: 57 top sites refuse AI crawlers their own rules allow 2026-10-15
- Release notes 14 Oct 2026: doors, signed weekly figures, trial 2026-10-14