소스 검색

added some robots to the blocked list

Henry Oswald 11 년 전
부모
커밋
27c02f5ef5
1개의 변경된 파일과 13개의 추가작업 그리고 0개의 파일을 삭제
  1. 13 0
      services/web/public/robots.txt

+ 13 - 0
services/web/public/robots.txt

@@ -3,3 +3,16 @@
 User-agent: *
 User-agent: *
 Disallow: /project/*
 Disallow: /project/*
 Disallow: /recurly.com
 Disallow: /recurly.com
+Allow: /
+
+User-Agent: AhrefsBot
+Disallow: /
+
+User-Agent: XoviBot
+Disallow: /
+
+User-Agent: RankSonicBot
+Disallow: /
+
+User-Agent: SMTBot
+Disallow: /