Comment vérifier un site pour le web agentique ?
En une phrase
La bibliothèque CrawlCheck, ce sont les guides, les constats et le glossaire derrière le scanner : chaque guide vérifie une chose sur n’importe quel site et indique à quelle fréquence elle échoue sur l’ensemble des analyses, chaque constat est un cas daté issu d’une mesure réelle, et chaque terme du glossaire est défini une fois et lié depuis le rapport qui le mesure.
Rien ici n’est un conseil issu d’un sondage. Un guide vous dit comment vérifier une chose sur n’importe quel site et ce que la vérification trouve d’habitude ; un constat est un cas issu d’une analyse réelle avec les octets derrière ; un terme est défini une fois et lié depuis le rapport qui le mesure.
Payer ne change jamais une mesure. Le recueil de règles · Les robots · Comment fonctionne une analyse
Guides. Constats. Glossaire.
Guides
Comment vérifier une chose.
Chaque guide est une vérification : quoi récupérer, quoi chercher, ce que cela signifie, et à quelle fréquence cela échoue sur l’ensemble des analyses. Commencez par les trois qui expliquent comment lire un rapport.
Constats
Ce que de vraies analyses ont trouvé.
Des études de cas datées issues du jeu de données public : un robots.txt illisible, un nom de robot que Google dit ne jamais envoyer, une page qui a donné une seule identité à deux entreprises.
Glossaire
Chaque terme, défini une fois.
751 termes de la couche machine, chacun avec la page qui le mesure. Les définitions sont celles qu’utilisent le rapport et l’API.
Chaque nombre ici est lu depuis le manifeste qui le publie.
Trois guides qui expliquent le rapport.
Ce que couvrent les guides.
- Sécurité et e-mail — En-têtes et enregistrements DNS qu’un robot peut lire : HSTS, CSP, DMARC, SPF, DKIM. (3)
- Robots d’IA et accès — Qui récupère les pages, s’ils peuvent entrer, et s’ils sont bien qui ils disent être. (18)
- Visibilité IA et moteurs de réponse — Ce qui peut réellement être mesuré sur un site dans une réponse générée. (8)
- Entités, schéma et présence locale — Déclarer qui vous êtes pour qu’un résolveur n’ait pas à deviner : JSON-LD, NAP, annuaires. (6)
- Fichiers machine et diffusion — robots.txt, llms.txt, sitemaps, canoniques, caches, codes d’état. (12)
- Qualité du site, liens et accessibilité — Ce dont un lecteur, un lecteur d’écran et un vérificateur de liens ont chacun besoin d’une page. (17)
Mesuré ce mois-ci.
- Agent conduct, October 2026: 34,676 verified crawler requests, and what they did with robots.txt 2026-10-15
- MCP reliability, October 2026: 6,000 remote MCP servers, 39,484 handshakes 2026-10-15
- Share of preflight, October 2026: 0 of 5,643 verified agent requests carried a receipt 2026-10-15
- Robots.txt says yes, the server says no: 57 top sites refuse AI crawlers their own rules allow 2026-10-15
- Release notes 14 Oct 2026: doors, signed weekly figures, trial 2026-10-14