Wie prüft man eine Website für das agentische Web?
In einem Satz
Die CrawlCheck-Bibliothek sind die Leitfäden, Befunde und das Glossar hinter dem Scanner: Jeder Leitfaden prüft eine Sache auf jeder Website und berichtet, wie oft sie über alle Scans fehlschlägt, jeder Befund ist ein datierter Fall aus einer echten Messung, und jeder Glossarbegriff ist einmal definiert und vom Bericht verlinkt, der ihn misst.
Nichts hier ist Rat aus einer Umfrage. Ein Leitfaden sagt Ihnen, wie Sie eine Sache auf jeder Website prüfen und was die Prüfung üblicherweise findet; ein Befund ist ein Fall aus einem echten Scan mit den Bytes dahinter; ein Begriff ist einmal definiert und vom Bericht verlinkt, der ihn misst.
Bezahlen ändert nie eine Messung. Das Regelwerk · Die Crawler · So funktioniert ein Scan
Leitfäden. Befunde. Glossar.
Leitfäden
Wie man eine Sache prüft.
Jeder Leitfaden ist eine Prüfung: was abzurufen ist, worauf zu achten ist, was es bedeutet und wie oft es über alle Scans fehlschlägt. Beginnen Sie mit den drei, die erklären, wie man einen Bericht liest.
Befunde
Was echte Scans gefunden haben.
Datierte Fallstudien aus dem öffentlichen Datensatz: eine robots.txt, die sich nicht lesen ließ, ein Crawler-Name, den Google nach eigener Aussage nie sendet, eine Seite, die zwei Unternehmen eine Identität gab.
Glossar
Jeder Begriff, einmal definiert.
751 Begriffe aus der Maschinenebene, jeder mit der Seite, die ihn misst. Die Definitionen sind dieselben, die Bericht und API verwenden.
Jede Zahl hier wird aus dem Manifest gelesen, das sie veröffentlicht.
Drei Leitfäden, die den Bericht erklären.
Was die Leitfäden abdecken.
- Sicherheit und E-Mail — Header und DNS-Einträge, die ein Crawler lesen kann: HSTS, CSP, DMARC, SPF, DKIM. (3)
- KI-Crawler und Zugang — Wer abruft, ob er hineinkommt und ob er ist, wer er vorgibt zu sein. (18)
- KI-Sichtbarkeit und Antwortmaschinen — Was sich über eine Website in einer generierten Antwort tatsächlich messen lässt. (8)
- Entitäten, Schema und lokale Präsenz — Deklarieren, wer Sie sind, damit ein Resolver nicht raten muss: JSON-LD, NAP, Einträge. (6)
- Maschinendateien und Auslieferung — robots.txt, llms.txt, Sitemaps, Canonicals, Caches, Statuscodes. (12)
- Website-Qualität, Links und Barrierefreiheit — Was ein Leser, ein Screenreader und ein Link-Checker jeweils von einer Seite brauchen. (17)
Diesen Monat gemessen.
- Agent conduct, October 2026: 34,676 verified crawler requests, and what they did with robots.txt 2026-10-15
- MCP reliability, October 2026: 6,000 remote MCP servers, 39,484 handshakes 2026-10-15
- Share of preflight, October 2026: 0 of 5,643 verified agent requests carried a receipt 2026-10-15
- Robots.txt says yes, the server says no: 57 top sites refuse AI crawlers their own rules allow 2026-10-15
- Release notes 14 Oct 2026: doors, signed weekly figures, trial 2026-10-14