Василёк, привет!
Я не спорю и ничего не утверждаю. И даже признаюсь, что вышеизложенная мною выше рекомендация про роботс - это совсем не мои умозаключения, а приведённые выдержки из статьи одного известного в узких кругах сеошника, выводы которого я позволил себе здесь озвучить.
По идее да, роботс он на то и роботс, инструмент созданный специально для того, чтобы туда сваливать всякий хлам, дабы не нагружать лишней работой поискового робота.
Про санкции согласен - это я конечно громко сказал, так как конкретно в моём случае с роботсом ПС-мам проще было написать какие страницы разрешены для индексации, а не как сейчас и такой портянки бы не получилось.
Но давайте рассуждать исходя из нынешних реалий. Кто знает как оно должно быть на самом деле, как правильно? Ну может быть в СЕО-конторах, где предлагают продвижение за 160к в месяц. Даже где то письмо на почте валяется с КП от одной такой конторы. Мне стало интересно и я к ним позвонил, узнал расценки. Сказали 100к, но это вообще минимум, так сказать ни о чём, эффекта не ждите, а по хорошему от 160к бюджет и будет норм.
Во первых не стоит сравнивать с Авито и с подобными ему монстрами. Мы же понимаем каким образом эти монстры шли к успеху. Им по факту начхать на поисковую систему Яндекса с его программистами, разрабатывающих всякие алгоритмы, правила. Там взаимовыгодный симбиоз, бизнес... позиции и трафик, которому роботс уже точно никак не навредит.
Хотя можно привести массу примеров успешных сайтов (правда в основном древних, кто успел ухватить халяву), у которых не то чтобы какой то неправильный роботс, у них его вообще нет, отсутствуют и Н1-Н2, сайтмеп, СЕО и дизайн аля из 90-х, а чувствуют они себя превосходно, имея трафик в 100к или 200к в сутки.
Если бы у нас были такие же возможности, ресурсы и инвестиции, как у Авито например или Авто ру (реклама которого задолбала по ТВ), мы бы тут на форуме бы не обсуждали как выпилить буратинку из деревяшки. И не устраивали бы танцы с бубнами вокруг своих ресурсов, лихорадочно изучая всё новые и новые законы зловещего и преславутого СЕО, затем реализуя их на своих сайтах согласно текущим требованиям, пытаясь выжать сотню-другую уников с поиска.
Размышляя тут об актуальности досок объявлений... Если мне надо купить бу авто определённой модели или найти недвижимость, то я не спрашиваю об этом яшу или гулю, а целенаправленно иду на Авто.ру или Циан и там уже вбиваю в поиск то, что я ищу. А уж тем более я не стану даже рассматривать объявления на каких то задрипанных (каких тысячи) и никому неизвестных досках, которые к тому же тупо парсят себе объявы с того же авито. Не в обиду...
Поэтому за поисковый трафик этим гигантам можно особо не беспокоиться (разве что конкурируя между собой), а уж тем более на него уж точно никак не повлияет размер роботса.
Это как сравнить с ВК и Одноклассниками. Кстати читал где то на одном из сео-форумах, где один гуру ссылался на эти ресурсы, говорил, что если хитро всё сделать в точности как у них, то начнётся такой клёв, что только держись, такая рыба, главное, чтобы удочки не пообрывало.
Ну и мы же понимаем, что никакое идеальное СЕО не поможет ресурсу, если нет хороших поведенческих, если сайт не представляет никакого интереса.
Плюс ко всему тенденция в последние годы сложилась такая, что сдвинуть сайт с мёртвой точки одним только СЕО и тяжелым трудом вебмастера уже стало не так просто. Раздули бизнес вокруг продвижения сайтов такой, что ещё лет несколько назад такого и не представить. А как раскрутить нулевую доску, даже если она супер красивая, удобная и востребованная? Все дороги, как говорится, ведут в Директ. Деньги решают если не всё, то многое.
А свой роботс я привёл в пример потому что мусорных страниц в индексе в моём случае оказалось очень много. Залетают в индекс они легко, а вот выкинуть их обратно - проблема.
Гугл например насчитал у меня на сайте 7к страниц, а в действительности их всего 4к. И уже два года лишние страницы не может выкинуть. Яндекс в этом плане пошустрей.