Чтобы запретить индексацию сайта всеми поисковыми роботами, создайте в корне сайта файл robots.txt со следующим содержимым: User-agent: * Disallow: / (далее…)
Вы только представьте себе ситуацию: Написали вы пост на своем блоге или сайте, нажали кнопочку опубликовать, тут же взметнулись поисковые роботы и примчались к вам. Они тянут свои жирные, кровожадные…