Просмотр исходного кода

added some robots to the blocked list

Henry Oswald 11 лет назад
Родитель
Сommit
27c02f5ef5
1 измененных файлов с 13 добавлено и 0 удалено
  1. 13 0
      services/web/public/robots.txt

+ 13 - 0
services/web/public/robots.txt

@@ -3,3 +3,16 @@
 User-agent: *
 Disallow: /project/*
 Disallow: /recurly.com
+Allow: /
+
+User-Agent: AhrefsBot
+Disallow: /
+
+User-Agent: XoviBot
+Disallow: /
+
+User-Agent: RankSonicBot
+Disallow: /
+
+User-Agent: SMTBot
+Disallow: /