Kennisbank

SEO & GEO

Robots.txt controleren

Open jouwdomein.nl/robots.txt en controleer dat er geen regel staat die je hele site of belangrijke mappen blokkeert, zoals Disallow: /. Robots.txt bepaalt wat crawlers mogen bekijken, niet wat er in de index komt.

Bijgewerkt op September 25, 2026

Zo controleer je het

  1. Open jouwdomein.nl/robots.txt in je browser.
  2. Zoek naar Disallow: / onder User-agent: *. Die regel blokkeert je hele site voor alle crawlers.
  3. Controleer of belangrijke mappen, zoals je producten of blog, niet worden geblokkeerd.
  4. Controleer of je sitemap erin genoemd wordt met een regel Sitemap: gevolgd door de volledige URL.
  5. Test twijfelgevallen met het robots.txt-rapport in Search Console.

Robots.txt of noindex?

Robots.txt voorkomt dat een crawler een pagina bekijkt. Wil je dat een pagina niet in Google verschijnt, gebruik dan een noindex. Blokkeer je dezelfde pagina ook in robots.txt, dan kan Google de noindex juist niet zien.

Lukt het niet?

Zie je regels die je niet begrijpt, pas dan niets aan op de gok. Neem contact op en we lopen het met je door.

Verder lezen

Gerelateerde kennis

Na een verhuizing van een testomgeving naar live blijft soms een blokkerende robots.txt of noindex achter. Controleer dat altijd op de dag van livegang.

Kennisbank

Verder lezen

Gerelateerde artikelen

Kom je er niet uit?

Wij kijken graag met je mee. Stel je vraag over je website, webshop, hosting, e-mail of Google, dan helpen we je verder.

Neem contact op