CrawlCheck
La couche de vérification du web agentique

D’autres crawlers récupèrent le web pour les agents. CrawlCheck le vérifie.

Une réponse signée sur n’importe quel site — ce que les crawlers ont vraiment reçu, ce qu’il déclare, ce qu’un agent peut y faire en sécurité — avant qu’un agent lise, cite, se connecte ou agisse.

CrawlCheck est la couche de vérification du web agentique. Il mesure ce qu’un site sert réellement — récupéré en tant que GPTBot, ClaudeBot, PerplexityBot, Googlebot et huit autres identités de crawlers, plus ses fichiers machine, sa politique de crawl, ses droits et capacités déclarés — décide les constats selon des règles publiées, et signe la réponse pour qu’un agent puisse la vérifier hors ligne avant de lire, citer, se connecter ou agir. Les propriétaires de sites reçoivent la même mesure sous forme d’audit A–F gratuit, chaque défaut nommé.

Gratuit. Sans inscription, rien d’installé, rien de modifié sur votre site. Environ 30 requêtes en lecture seule, comme un crawler les fait.

  • Mesuré — 15 identités de crawlers, 5 fichiers machine sur les deux hôtes, chaque octet haché et scellé dans Bitcoin chaque jour.
  • Signé — Ed25519 sur chaque réponse, clés publiées, un seul script vérifie tout hors ligne.
  • Indépendant — 6 réseaux d’observation, un règlement public, un registre des contestations. Payer ne change jamais une mesure.

Vous construisez un agent ? Une décision signée par action · Protocole Resolve · SDK npm et PyPI

200,867

sites mesurés

177

décisions signées, 30 derniers jours

117,586

visites réelles de robots enregistrées

0

chiffres qu’un paiement peut modifier

Construit et exploité par une seule personne à Denver, d’abord sur les sites clients qu’il mesure — la démo est un enregistrement réel, non retouché. Le scan est gratuit, toujours. Corriger une fois pour $749, ou garder un historique dès $29/mois →

Une réponse

Ce qu’un agent reçoit.

Un site est observé et ses déclarations lues ; des règles publiées décident les constats ; la décision pour chaque action est signée dans un reçu. Rien n’est deviné : une section non mesurée le dit.

1Siten’importe quel domaine2Observélivraison · fichiers · octets3Déclarérobots · droits · capacités4Constatsselon des règles publiées5Décisionautoriser · avertir · demander · bloquer6Reçusigné · vérifiable hors lignece qui entrece qui sort

La mesure

Ce que 14 identités de robots ont reçu de denverpost.com

Un vrai site, analysé il y a 4 jours — 1 identité a été refusée, 10 ont reçu d’autres octets que le navigateur, chacune avec les mêmes 2,061 mots. Ouvrir l’enregistrement complet ou analysez votre propre site ci-dessus.

IDENTITYSTATUSMOTS REÇUSCOMPARÉ AU NAVIGATEURClient anonyme2002,061la référenceGPTBot2002,061mêmes mots, octets différentsClaudeBot2002,061mêmes mots, octets différentsOAI-SearchBot2002,061mêmes mots, octets différentsClaude-SearchBot2002,061mêmes mots, octets différentsPerplexityBot2002,061mêmes mots, octets différentsGooglebot2002,061mêmes mots, octets différentsNavigateur mobile2002,061identiqueBingbot2002,061mêmes mots, octets différentsApplebot2002,061mêmes mots, octets différentsAmazonbot2002,061identiqueBytespider4035refuséMeta-ExternalAgent2002,061mêmes mots, octets différentsCCBot2002,061mêmes mots, octets différentsnavigateur témoinidentiquemêmes mots, octets différentsmoins de motsrefusé15 requêtes, 14 affichées. Barre : mots reçus, par rapport à la réponse la plus longue.
Pour qui

Quatre façons de commencer.

Créateur d’agents

Demandez avant que votre agent agisse.

Une décision signée par action : lire, citer, se connecter ou transiger. Construite à partir de ce que le site déclare, de ce qui lui a vraiment été servi, de ses constats et de votre propre politique, qui ne peut que la rendre plus stricte. SDK typés sur npm et PyPI.

Démarrage rapide · Resolve · SDK

Developer

Utiliser les preuves dans le code.

Enregistrements machine avec les octets derrière chaque constat, exports OpenTelemetry et PROV, scans par lot, webhooks et une barrière CI, dès 2,000 scans par mois.

Documentation de l’API →

Agency

Surveillez vos clients et prouvez le travail.

40 domaines sur une clé, des rapports sûrs pour vos clients, des reçus de changement signés qu’un client peut vérifier, et l’API : 5,000 scans par mois.

Offre Agency →

Propriétaire du site

Savoir ce que reçoivent les agents, et le corriger.

Scan gratuit. Nous appliquons la liste de corrections pour $749 et la vérifions par un nouveau scan ; la surveillance la maintient dès $29 par mois, avec un certificat qui expire le jour où une mesure décroche.

Analyser · Corriger · Surveiller

Mesuré, pas sondé

L’état du web agentique, chaque jour.

Les mêmes mille sites, mesurés chaque jour depuis le même point de vue. Les refus se lisent « refusé d’ici », jamais « bloqué » — les adresses des vrais crawlers ne sont pas les nôtres.

Recensement · top 1,000, quotidienpassage 7 · terminé il y a 8 heures · 991 sites
La page d’accueil répond à un navigateur51.6%511 sur 991Refusent au moins une identité IA18.4%94 sur 511robots.txt ferme / à un agent IA23.8%96 sur 404Servent un llms.txt20.7%106 sur 511Portent une ligne Content-Signal3.7%15 sur 404Déclarent une capacité d’agent2.9%15 sur 511

Chaque ligne indique son propre dénominateur. Chaque chiffre, chaque passage, et les enregistrements d’où ils sont comptés →

Construit et publié

Les couches sur lesquelles un agent peut compter.

Chaque tuile est un comptage en direct ou un artefact publié, avec la page qui permet de le vérifier.

Confiance

Ce qu’il mesure, et ce qu’il ne prétend pas.

Méthode

Chaque règle est publiée.

Ce que signifie chaque constat, comment le corriger, et la seule limite : les identités des robots sont testées depuis notre adresse, pas depuis celle d’un opérateur.

Le règlement →

Confidentialité

Ce qu’une analyse envoie et conserve.

About 30 read-only requests. Reports are kept: 90 days in the fast store, then from the sealed archive; any domain can opt out without an account.

Politique de données →

Cœur ouvert

Le lecteur est open source.

Le lecteur de robots.txt est sous licence MIT et testé contre la production.

crawlcheck-core →

Limites

Des preuves, pas une promesse de citation.

Une analyse prouve ce que votre serveur a envoyé. Elle ne prétend jamais qu’un moteur de réponse vous a cité, et payer ne change jamais un score.

Voir un vrai rapport →

Commencez par un scan gratuit, ou demandez avant que votre agent agisse.

Un propriétaire de site obtient la note et chaque constat nommé en une minute, sans rien installer. Un constructeur d’agent obtient une décision signée par action et les preuves derrière, vérifiables hors ligne. Ni l’un ni l’autre ne coûte rien, et les scans ponctuels ne sont jamais publiés nommément.

Certificat CrawlCheck pour crawlcheck.io : certifié lisible par les machines Ce site porte son propre certificat. Le sceau est recalculé à partir de la dernière mesure : il montrerait une défaillance le jour même.

Analyser un domaine — gratuit