1. Corrigindo regra de Disallow malformada
Especialista em SEOContexto
Um especialista em SEO está preparando um novo arquivo robots.txt para um e-commerce, mas quer garantir que a sintaxe de bloqueio do painel administrativo esteja correta.
Problema
Uma regra de Disallow sem dois-pontos ou mal formatada pode fazer com que os crawlers indexem páginas confidenciais.
Como usar
Insira o texto do robots.txt no campo de texto, defina a origem como https://lojaexemplo.com e adicione /admin nas URLs de teste.
robotsText: "User-agent: *\nDisallow /admin\nAllow: /admin/help"\nsiteOrigin: "https://lojaexemplo.com"\ntestUrls: "/admin\n/admin/help"Resultado
O validador aponta um erro de sintaxe na linha do Disallow (falta de dois-pontos) e mostra que a URL /admin não foi bloqueada corretamente devido ao erro.