Granulare Bot- und Pfadkontrolle
Definieren Sie separate Zulassungs- und Verbotsregeln für alle Roboter oder bestimmte Bots wie Googlebot, Bingbot und KI-Scraper (GPTBot, CCBot).
Robots.txt-Generator
Generieren Sie benutzerdefinierte robots.txt-Dateien mit Crawler-Zulassungs-/Nichtzulassungsregeln, mehreren Sitemaps, KI-Bot-Blockierung und Crawling-Verzögerungseinstellungen in Echtzeit.
User-agent: *.Appends a dedicated Disallow block for LLM crawlers without affecting search engines.
Add full URL(s) including https://. You can add multiple sitemaps separated by line breaks.
Used by Bingbot, YandexBot, etc., to control request frequency. (Googlebot ignores Crawl-delay).
# robots.txt generated by Tool 200 (https://tool200.com)
# 100% Client-Side Free Robots.txt Generator
User-agent: *
Disallow: /admin/
Disallow: /api/
Disallow: /private/
Allow: /
# Sitemap location(s)
Sitemap: https://example.com/sitemap.xmlWeisen Sie Websuchcrawler und KI-Bots genau an, schützen Sie sensible Routen und optimieren Sie die SEO-Crawling-Effizienz direkt in Ihrem Browser.
Definieren Sie separate Zulassungs- und Verbotsregeln für alle Roboter oder bestimmte Bots wie Googlebot, Bingbot und KI-Scraper (GPTBot, CCBot).
Betten Sie XML-Sitemap-Standorte ein und konfigurieren Sie Crawl-Raten, um zu verhindern, dass der Bot-Verkehr die Serverressourcen überlastet.
Die gesamte Regelanalyse und Dateierstellung erfolgt direkt in Ihrem lokalen Browserspeicher, ohne Nachverfolgung oder Remote-Uploads.
Brauchen Sie eine zweiminütige geistige Auffrischung? Stürzen Sie sich direkt in Ihrem Browser in ein klassisches Puzzlespiel.