Kennisbank
SEO & GEO
Robots.txt controleren
Open jouwdomein.nl/robots.txt en controleer dat er geen regel staat die je hele site of belangrijke mappen blokkeert, zoals Disallow: /. Robots.txt bepaalt wat crawlers mogen bekijken, niet wat er in de index komt.
Zo controleer je het
- Open jouwdomein.nl/robots.txt in je browser.
- Zoek naar Disallow: / onder User-agent: *. Die regel blokkeert je hele site voor alle crawlers.
- Controleer of belangrijke mappen, zoals je producten of blog, niet worden geblokkeerd.
- Controleer of je sitemap erin genoemd wordt met een regel Sitemap: gevolgd door de volledige URL.
- Test twijfelgevallen met het robots.txt-rapport in Search Console.
Robots.txt of noindex?
Robots.txt voorkomt dat een crawler een pagina bekijkt. Wil je dat een pagina niet in Google verschijnt, gebruik dan een noindex. Blokkeer je dezelfde pagina ook in robots.txt, dan kan Google de noindex juist niet zien.
Lukt het niet?
Zie je regels die je niet begrijpt, pas dan niets aan op de gok. Neem contact op en we lopen het met je door.
Verder lezen
Gerelateerde kennis
Na een verhuizing van een testomgeving naar live blijft soms een blokkerende robots.txt of noindex achter. Controleer dat altijd op de dag van livegang.
Kennisbank
Verder lezen
