Сообщения без ответов | Активные темы Текущее время: 25 окт 2026, 02:24



Ответить на тему  [ Сообщений: 34 ]  Страница «  1, 2, 3, 4  »
Добавляем слэш в конец URL адреса 
Автор Сообщение
Иллюзионист писал(а):
Но руки пока не доходили, чтобы почистить роботс от такого небоскрёба:


User-agent: *
Disallow: /admin
Disallow: /articles/$
Disallow: /extension
Disallow: /import_shop
Disallow: /email_confirmation
Disallow: /comment_edit
Disallow: /userinfo/$
Disallow: /messages/$
Disallow: /messages_ajax
Disallow: /tags
Disallow: /change_template
Disallow: /services.html
Disallow: /sendmail_shop
Disallow: /imgtext.png
Disallow: /ckuploads.php
Disallow: /ajaxfileupload_2
Disallow: /uploadify
Disallow: /comment_edit_shop
Disallow: /add2
Disallow: /ckeditor
Disallow: /rss_news
Disallow: /notepad
Disallow: /users
Disallow: /parser
Disallow: /yamaps
Disallow: /timing
Disallow: /abuse
Disallow: /phone_pic
Disallow: /sendsms
Disallow: /auth
Disallow: /register_check
Disallow: /register
Disallow: /add_fields
Disallow: /remind
Disallow: /articles_rss
Disallow: /reating
Disallow: /googlemaps
Disallow: /search_ajax_filtr
Disallow: /cat_ajax
Disallow: /search_ajax
Disallow: /zaglushka
Disallow: /download
Disallow: /unsubscribe
Disallow: /edit
Disallow: /prolong_few
Disallow: /prolongation
Disallow: /restore
Disallow: /redirect
Disallow: /sort_ajax
Disallow: /add_reg
Disallow: /ajaxfileupload
Disallow: /rss
Disallow: /rules
Disallow: /cat
Disallow: /news_lenta
Disallow: /sendmail
Disallow: /region_change
Disallow: */?*
Disallow: /index.php
Sitemap: https://do.prodgoroda.ru/sitemap.xml
Host: https://do.prodgoroda.ru





Весьма полезная инфа для разработчиков и пользователей. За годы наблюдения за попаданием тех или иных страниц в индекс ПС, составил свой роботс.
Не проще это всё реализовать посредством скрипта?


А вот как выглядит нормальный роботс, с которым не попадёшь под санкции ПС:


User-agent: *
Disallow: /engine/
Disallow: /*do=download
Disallow: /*do=go
Sitemap: https://prodgoroda.ru/sitemap.xml
Host: https://prodgoroda.ru


Думаю разница на лицо!

Host: авита-та

User-agent: Yandex
Disallow: /*?_openstat
Disallow: /*nomobile=
Disallow: /*utm_source=
Disallow: /*view=
Disallow: /*pmin=
Disallow: /*pmax=
Disallow: /*s=
Disallow: /*user=
Disallow: /*bt=
Disallow: /*i=
Disallow: /*gclid=
Disallow: /*noimg
Disallow: /*swf
Disallow: /*price=
Disallow: /*p=
Disallow: /*/edit
Disallow: /*/delete
Disallow: /*/next
Disallow: /*/do
Disallow: /*/export/*
Disallow: /items/abuse
Disallow: /items/phone
Disallow: /items/send2friend
Disallow: /items/write
Disallow: /items/edit
Disallow: /items/delete
Disallow: /items/next
Disallow: /items/do
Disallow: /items/stat
Disallow: /restore
Disallow: /profile
Disallow: /account/
Disallow: /packages/
Disallow: /s/
Allow: /s/cc/
Disallow: /stat/
Disallow: /api
Disallow: /editemail
Disallow: /js
Sitemap: ...

User-agent: Mediapartners-Google
Disallow:

User-agent: YandexDirect
Allow: /
Sitemap: ...


User-agent: Googlebot
Disallow: /*?_openstat
Disallow: /*nomobile=
Disallow: /*utm_source=
Disallow: /*view=
Disallow: /*pmin=
Disallow: /*pmax=
Disallow: /*s=
Disallow: /*user=
Disallow: /*bt=
Disallow: /*i=
Disallow: /*noimg
Disallow: /*swf
Disallow: /*price=
Disallow: /*p=
Disallow: /*/edit
Disallow: /*/delete
Disallow: /*/next
Disallow: /*/do
Disallow: /*/export/*
Disallow: /items/abuse
Disallow: /items/phone
Disallow: /items/send2friend
Disallow: /items/write
Disallow: /items/edit
Disallow: /items/delete
Disallow: /items/next
Disallow: /items/do
Disallow: /items/stat
Disallow: /restore
Disallow: /profile
Disallow: /account/
Disallow: /packages/
Disallow: /s/
Allow: /s/cc/
Disallow: /stat/
Disallow: /api
Disallow: /editemail
Disallow: /js
Sitemap: ...


User-agent: *
Disallow: /*?_openstat
Disallow: /*nomobile=
Disallow: /*utm_source=
Disallow: /*view=
Disallow: /*pmin=
Disallow: /*pmax=
Disallow: /*s=
Disallow: /*user=
Disallow: /*bt=
Disallow: /*i=
Disallow: /*noimg
Disallow: /*swf
Disallow: /*price=
Disallow: /*p=
Disallow: /*/edit
Disallow: /*/delete
Disallow: /*/next
Disallow: /*/do
Disallow: /*/export/*
Disallow: /items/abuse
Disallow: /items/phone
Disallow: /items/send2friend
Disallow: /items/write
Disallow: /items/edit
Disallow: /items/delete
Disallow: /items/next
Disallow: /items/do
Disallow: /items/stat
Disallow: /restore
Disallow: /profile
Disallow: /account/
Disallow: /packages/
Disallow: /s/
Allow: /s/cc/
Disallow: /stat/
Disallow: /api
Disallow: /editemail
Disallow: /js
Disallow: /reklama/delivery
Sitemap: ...

За корректный роботс псы бан не дают, никогда. И не важно какой длинны наша колбаса, пляшем от своих потребностей и только.
Корректный роботс - это СВОЙ роботс. Ну а штатные, скорее простенький пример для новоиспеченный сайтоводов.


Профиль
Иллюзионист писал(а):
MIHALICH писал(а):
Иллюзионист писал(а):
Лучше запрещать индексацию страниц и разделов при помощи метатега , а не при помощи robots.txt.


Ты через метатеги убрал индексацию page.html?


Да, конечно!

Смотря что нужно пофиксить, некоторый эпизоды корректнее и проще через robots (или только через оный). Файл создан специально для служебных страниц, параметров и тд, для лучшего представления сайта. Удобная и полезная штука, в умелых руках. Псы соблюдают директивы безукоризненно, если файл составлен грамотно.


Профиль
Я в Вашей дискуссии, для себя полезную инфу нашёл - спасибо.
Одного не понимаю, почему многие закрывают категории и регионы.


Профиль
Василёк, привет!

Я не спорю и ничего не утверждаю. И даже признаюсь, что вышеизложенная мною выше рекомендация про роботс - это совсем не мои умозаключения, а приведённые выдержки из статьи одного известного в узких кругах сеошника, выводы которого я позволил себе здесь озвучить.
По идее да, роботс он на то и роботс, инструмент созданный специально для того, чтобы туда сваливать всякий хлам, дабы не нагружать лишней работой поискового робота.
Про санкции согласен - это я конечно громко сказал, так как конкретно в моём случае с роботсом ПС-мам проще было написать какие страницы разрешены для индексации, а не как сейчас и такой портянки бы не получилось. :roll:

Но давайте рассуждать исходя из нынешних реалий. Кто знает как оно должно быть на самом деле, как правильно? Ну может быть в СЕО-конторах, где предлагают продвижение за 160к в месяц. Даже где то письмо на почте валяется с КП от одной такой конторы. Мне стало интересно и я к ним позвонил, узнал расценки. Сказали 100к, но это вообще минимум, так сказать ни о чём, эффекта не ждите, а по хорошему от 160к бюджет и будет норм.

Во первых не стоит сравнивать с Авито и с подобными ему монстрами. Мы же понимаем каким образом эти монстры шли к успеху. Им по факту начхать на поисковую систему Яндекса с его программистами, разрабатывающих всякие алгоритмы, правила. Там взаимовыгодный симбиоз, бизнес... позиции и трафик, которому роботс уже точно никак не навредит.

Хотя можно привести массу примеров успешных сайтов (правда в основном древних, кто успел ухватить халяву), у которых не то чтобы какой то неправильный роботс, у них его вообще нет, отсутствуют и Н1-Н2, сайтмеп, СЕО и дизайн аля из 90-х, а чувствуют они себя превосходно, имея трафик в 100к или 200к в сутки.

Если бы у нас были такие же возможности, ресурсы и инвестиции, как у Авито например или Авто ру (реклама которого задолбала по ТВ), мы бы тут на форуме бы не обсуждали как выпилить буратинку из деревяшки. И не устраивали бы танцы с бубнами вокруг своих ресурсов, лихорадочно изучая всё новые и новые законы зловещего и преславутого СЕО, затем реализуя их на своих сайтах согласно текущим требованиям, пытаясь выжать сотню-другую уников с поиска.

Размышляя тут об актуальности досок объявлений... Если мне надо купить бу авто определённой модели или найти недвижимость, то я не спрашиваю об этом яшу или гулю, а целенаправленно иду на Авто.ру или Циан и там уже вбиваю в поиск то, что я ищу. А уж тем более я не стану даже рассматривать объявления на каких то задрипанных (каких тысячи) и никому неизвестных досках, которые к тому же тупо парсят себе объявы с того же авито. Не в обиду...

Поэтому за поисковый трафик этим гигантам можно особо не беспокоиться (разве что конкурируя между собой), а уж тем более на него уж точно никак не повлияет размер роботса.
Это как сравнить с ВК и Одноклассниками. Кстати читал где то на одном из сео-форумах, где один гуру ссылался на эти ресурсы, говорил, что если хитро всё сделать в точности как у них, то начнётся такой клёв, что только держись, такая рыба, главное, чтобы удочки не пообрывало. :D

Ну и мы же понимаем, что никакое идеальное СЕО не поможет ресурсу, если нет хороших поведенческих, если сайт не представляет никакого интереса.
Плюс ко всему тенденция в последние годы сложилась такая, что сдвинуть сайт с мёртвой точки одним только СЕО и тяжелым трудом вебмастера уже стало не так просто. Раздули бизнес вокруг продвижения сайтов такой, что ещё лет несколько назад такого и не представить. А как раскрутить нулевую доску, даже если она супер красивая, удобная и востребованная? Все дороги, как говорится, ведут в Директ. Деньги решают если не всё, то многое.


А свой роботс я привёл в пример потому что мусорных страниц в индексе в моём случае оказалось очень много. Залетают в индекс они легко, а вот выкинуть их обратно - проблема.
Гугл например насчитал у меня на сайте 7к страниц, а в действительности их всего 4к. И уже два года лишние страницы не может выкинуть. Яндекс в этом плане пошустрей.


Последний раз редактировалось Д митрий 03 фев 2019, 09:48, всего редактировалось 2 раз(а).



Профиль
Равиль, привет!

Про категории не знаю, а вот регионы я был вынужден все закрыть, хотя поначалу это делать не планировал и даже проделал большую работу с метатегами, делая все описания (как внутренние, так и внешние) страниц регионов уникальными. Думал эх, как попрёт народ из городов и сёл нашей необъятной...
Но я столкнулся с рядом обстоятельств в технической части своей сборки, из-за которых решил отказаться показывать регионы ПС вообще.


Профиль
Сейчас на одной яше далеко не ускачешь, это не надежный источник трафика, яша плохо понимает где сайт хороший а где не очень несмотря на все труды. Вообще яндексу настрать на ваши сайты им главное чтобы в директ бабки вкладывали.

Поэтому крупные компании вроде алиэкспресса, авито, циан, триваго, соц сети и прочие гиганты ложили болт на говнояндекс.

Сейчас алгоритмы ранжирования настолько долбанутые, что диву даешься.


Профиль
По поводу Яши.
Пробовал и не один раз, рекомендую как лайфхак.

Кидаешь на рекламную компанию минималку - позиции резко растут и в вверх. Эффект длится ещё как минимум неделю, после того как деньги закончились в директе (обычно это за один день, или даже несколько часов).
Потом опять проседание. Надо ещё подбросить тогда угля в топку...

(Не уверен, так как не проверено: что если настроить рекламную кампанию таким образом, чтобы денег хватило на подольше. Установить например цену клика по минимиму и подобрать непопулярные ключевые фразы. Хотя может и не стоит так делать, так как модераторы яндекса могут прочечь данную фишку и лайфхаку конец.)


Профиль
Иллюзионист писал(а):
По поводу Яши.
Пробовал и не один раз, рекомендую как лайфхак.

Кидаешь на рекламную компанию минималку - позиции резко растут и в вверх. Эффект длится ещё как минимум неделю, после того как деньги закончились в директе (обычно это за один день, или даже несколько часов).
Потом опять проседание. Надо ещё подбросить тогда угля в топку...

(Не уверен, так как не проверено: что если настроить рекламную кампанию таким образом, чтобы денег хватило на подольше. Установить например цену клика по минимиму и подобрать непопулярные ключевые фразы. Хотя может и не стоит так делать, так как модераторы яндекса могут прочечь данную фишку и лайфхаку конец.)


Наличие денег на яше не влияет на позиции. Это у вас чисто совпадение.


Профиль
Всем привет!

Иллюзионист, вспоминаю сео-этап как страшный сон. Другое дело темы о монетизации и наши чаепития!
Равиль, у каждого свои тараканы. У меня города и категории открыты со старта, пустых немного и с них идёт трафик. Наверное зависит от соотношения.
Михалыч, согласен, совпадение. Аналитиков яши на кривой козе не объедешь.

Будет возможность, заходите в кислую тему, погоняем шутки под чаёк в картинках... пофлудим на мирские темы :)


Профиль
Василёк писал(а):
Всем привет!

Иллюзионист, вспоминаю сео-этап как страшный сон. Другое дело темы о монетизации и наши чаепития!


Учитывая что яша постоянно меняет алгоритмы, страшный сон может стать явью :D


Профиль
Показать сообщения за:  Поле сортировки  
Ответить на тему   [ Сообщений: 34 ] 

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 12


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
cron