CrawlCheck
Die Verifikationsschicht für das agentische Web

Andere Crawler holen das Web für Agenten. CrawlCheck verifiziert es.

Eine signierte Antwort zu jeder Website — was Crawler wirklich erhielten, was sie erklärt, was ein Agent dort sicher tun darf — bevor ein Agent liest, zitiert, sich verbindet oder handelt.

CrawlCheck ist die Verifikationsschicht für das agentische Web. Es misst, was eine Website tatsächlich ausliefert — abgerufen als GPTBot, ClaudeBot, PerplexityBot, Googlebot und acht weitere Crawler-Identitäten, dazu ihre Maschinendateien, Crawl-Richtlinie, erklärte Rechte und Fähigkeiten — entscheidet Befunde nach veröffentlichten Regeln und signiert die Antwort, damit ein Agent sie offline prüfen kann, bevor er liest, zitiert, sich verbindet oder handelt. Website-Betreiber erhalten dieselbe Messung als kostenloses A–F-Audit mit jedem benannten Mangel.

Kostenlos. Keine Anmeldung, nichts installiert, nichts an Ihrer Website verändert. Etwa 30 reine Leseanfragen, so wie ein Crawler sie stellt.

  • Gemessen — 15 Crawler-Identitäten, 5 Maschinendateien auf beiden Hosts, jedes Byte gehasht und täglich in Bitcoin versiegelt.
  • Signiert — Ed25519 über jede Antwort, veröffentlichte Schlüssel, ein Skript prüft alles offline.
  • Unabhängig — 6 Beobachtungsnetze, ein öffentliches Regelwerk, ein Einspruchsregister. Bezahlen ändert nie eine Messung.

Sie bauen einen Agenten? Eine signierte Entscheidung pro Aktion · Resolve-Protokoll · npm- und PyPI-SDKs

200,554

gemessene Websites

177

signierte Entscheidungen, letzte 30 Tage

117,395

echte Crawler-Besuche protokolliert

0

Zahlen, die eine Zahlung ändern kann

Gebaut und betrieben von einer Person in Denver, zuerst auf den Kundenseiten, die es misst — die Demo ist ein echter, unretuschierter Datensatz. Der Scan ist immer kostenlos. Einmal beheben für $749, oder ein Protokoll führen ab $29/Monat →

Eine Antwort

Was ein Agent zurückbekommt.

Eine Website wird beobachtet und ihre Erklärungen gelesen; veröffentlichte Regeln entscheiden die Befunde; die Entscheidung je Aktion wird in eine Quittung signiert. Nichts wird geraten: ein ungemessener Abschnitt sagt es.

1Websitejede Domain2BeobachtetAuslieferung · Dateien · Bytes3Erklärtrobots · Rechte · Fähigkeiten4Befundenach veröffentlichten Regeln5Entscheidungerlauben · warnen · fragen · blockieren6Quittungsigniert · offline prüfbarwas hineingehtwas herauskommt

Die Messung

Was 14 Crawler-Identitäten erhielten von denverpost.com

Eine echte Website, vor 4 Tagen gescannt — 1 Identität wurde abgewiesen, 10 erhielten andere Bytes als der Browser, jede davon mit denselben 2,061 Wörtern. Den vollständigen Datensatz öffnen oder scannen Sie oben Ihre eigene Website.

IDENTITYSTATUSERHALTENE WÖRTERIM VERGLEICH ZUM BROWSERUnbenannter Client2002,061die ReferenzGPTBot2002,061gleiche Wörter, andere BytesClaudeBot2002,061gleiche Wörter, andere BytesOAI-SearchBot2002,061gleiche Wörter, andere BytesClaude-SearchBot2002,061gleiche Wörter, andere BytesPerplexityBot2002,061gleiche Wörter, andere BytesGooglebot2002,061gleiche Wörter, andere BytesMobiler Browser2002,061identischBingbot2002,061gleiche Wörter, andere BytesApplebot2002,061gleiche Wörter, andere BytesAmazonbot2002,061identischBytespider4035abgewiesenMeta-ExternalAgent2002,061gleiche Wörter, andere BytesCCBot2002,061gleiche Wörter, andere BytesBrowser-Kontrolleidentischgleiche Wörter, andere Bytesweniger Wörterabgewiesen15 Anfragen, 14 angezeigt. Balken: empfangene Wörter, gemessen an der längsten Antwort.
Für wen es ist

Vier Wege hinein.

Agenten-Entwickler

Fragen, bevor Ihr Agent handelt.

Eine signierte Entscheidung pro Aktion: lesen, zitieren, verbinden oder abwickeln. Gebildet aus dem, was die Website erklärt, was ihr wirklich ausgeliefert wurde, ihren Befunden und Ihrer eigenen Richtlinie, die sie nur strenger machen kann. Typisierte SDKs auf npm und PyPI.

Schnellstart · Resolve · SDKs

Developer

Die Belege im Code nutzen.

Maschinendatensätze mit den Bytes hinter jedem Befund, OpenTelemetry- und PROV-Exporte, Batch-Scans, Webhooks und ein CI-Gate, ab 2,000 Scans im Monat.

API-Dokumentation →

Agency

Kunden überwachen und die Arbeit belegen.

40 Domains auf einem Schlüssel, kundensichere Berichte, signierte Änderungsquittungen, die ein Kunde prüfen kann, und die API: 5,000 Scans im Monat.

Agency-Tarif →

Website-Inhaber

Wissen, was Agenten bekommen, und es beheben.

Kostenlos scannen. Wir setzen die Fix-Liste für $749 um und prüfen sie mit einem erneuten Scan; die Überwachung hält es ab $29 im Monat behoben, mit einem Zertifikat, das am Tag einer schlechten Messung erlischt.

Prüfen · Beheben · Überwachen

Gemessen, nicht befragt

Der Zustand des agentischen Webs, jeden Tag.

Dieselben tausend Websites, täglich vom selben Standpunkt gemessen. Ablehnungen gelten als „von hier abgelehnt“, nie als „blockiert“ — die Adressen der echten Crawler sind nicht unsere.

Zensus · Top 1,000, täglichLauf 7 · beendet vor 8 Stunden · 991 Websites
Startseite antwortet einem Browser51.6%511 von 991Lehnen mindestens eine KI-Identität ab18.4%94 von 511robots.txt sperrt / für einen KI-Agenten23.8%96 von 404Liefern eine llms.txt20.7%106 von 511Tragen eine Content-Signal-Zeile3.7%15 von 404Erklären eine Agenten-Fähigkeit2.9%15 von 511

Jede Zeile nennt ihren eigenen Nenner. Jede Zahl, jeder Lauf und die Datensätze, aus denen sie gezählt werden →

Gebaut und veröffentlicht

Die Schichten, auf die sich ein Agent verlassen kann.

Jede Kachel ist eine Live-Zählung oder ein veröffentlichtes Artefakt, jeweils mit der Seite, auf der Sie es prüfen können.

Vertrauen

Was es misst, und was es nicht behauptet.

Methode

Jede Regel ist veröffentlicht.

Was jeder Befund bedeutet, wie Sie ihn beheben, und die eine Grenze: Crawler-Identitäten werden von unserer Adresse aus getestet, nicht von der eines Betreibers.

Das Regelwerk →

Datenschutz

Was ein Scan sendet und aufbewahrt.

About 30 read-only requests. Reports are kept: 90 days in the fast store, then from the sealed archive; any domain can opt out without an account.

Datenrichtlinie →

Offener Kern

Der Leser ist Open Source.

Der robots.txt-Leser steht unter MIT-Lizenz und wird gegen die Produktion getestet.

crawlcheck-core →

Grenzen

Belege, keine Zitierbehauptung.

Ein Scan belegt, was Ihr Server gesendet hat. Er behauptet nie, dass eine Antwortmaschine Sie zitiert hat, und Bezahlen ändert nie eine Punktzahl.

Einen echten Bericht ansehen →

Beginnen Sie mit einem kostenlosen Scan, oder fragen Sie, bevor Ihr Agent handelt.

Ein Website-Betreiber bekommt die Note und jeden benannten Befund in einer Minute, ohne Installation. Ein Agenten-Entwickler bekommt eine signierte Entscheidung pro Aktion und die Belege dahinter, offline prüfbar. Beides kostet nichts, und Ad-hoc-Scans werden nie namentlich veröffentlicht.

CrawlCheck-Zertifikat für crawlcheck.io: zertifiziert maschinenlesbar Diese Website trägt ihr eigenes Zertifikat. Das Siegel wird aus der neuesten Messung neu berechnet und würde eine Lücke am Tag ihres Auftretens zeigen.

Domain scannen — kostenlos