Сообщения без ответов | Активные темы Текущее время: 09 сен 2026, 04:46



Ответить на тему  [ Сообщений: 34 ]  Страница «  1, 2, 3, 4  »
Добавляем слэш в конец URL адреса 
Автор Сообщение
Аватара пользователя

Зарегистрирован: 22 фев 2017, 15:03
Сообщения: 206
Аватара пользователя

Иллюзионист писал(а):
Но руки пока не доходили, чтобы почистить роботс от такого небоскрёба:


User-agent: *
Disallow: /admin
Disallow: /articles/$
Disallow: /extension
Disallow: /import_shop
Disallow: /email_confirmation
Disallow: /comment_edit
Disallow: /userinfo/$
Disallow: /messages/$
Disallow: /messages_ajax
Disallow: /tags
Disallow: /change_template
Disallow: /services.html
Disallow: /sendmail_shop
Disallow: /imgtext.png
Disallow: /ckuploads.php
Disallow: /ajaxfileupload_2
Disallow: /uploadify
Disallow: /comment_edit_shop
Disallow: /add2
Disallow: /ckeditor
Disallow: /rss_news
Disallow: /notepad
Disallow: /users
Disallow: /parser
Disallow: /yamaps
Disallow: /timing
Disallow: /abuse
Disallow: /phone_pic
Disallow: /sendsms
Disallow: /auth
Disallow: /register_check
Disallow: /register
Disallow: /add_fields
Disallow: /remind
Disallow: /articles_rss
Disallow: /reating
Disallow: /googlemaps
Disallow: /search_ajax_filtr
Disallow: /cat_ajax
Disallow: /search_ajax
Disallow: /zaglushka
Disallow: /download
Disallow: /unsubscribe
Disallow: /edit
Disallow: /prolong_few
Disallow: /prolongation
Disallow: /restore
Disallow: /redirect
Disallow: /sort_ajax
Disallow: /add_reg
Disallow: /ajaxfileupload
Disallow: /rss
Disallow: /rules
Disallow: /cat
Disallow: /news_lenta
Disallow: /sendmail
Disallow: /region_change
Disallow: */?*
Disallow: /index.php
Sitemap: https://do.prodgoroda.ru/sitemap.xml
Host: https://do.prodgoroda.ru





Весьма полезная инфа для разработчиков и пользователей. За годы наблюдения за попаданием тех или иных страниц в индекс ПС, составил свой роботс.
Не проще это всё реализовать посредством скрипта?


А вот как выглядит нормальный роботс, с которым не попадёшь под санкции ПС:


User-agent: *
Disallow: /engine/
Disallow: /*do=download
Disallow: /*do=go
Sitemap: https://prodgoroda.ru/sitemap.xml
Host: https://prodgoroda.ru


Думаю разница на лицо!

Host: авита-та

User-agent: Yandex
Disallow: /*?_openstat
Disallow: /*nomobile=
Disallow: /*utm_source=
Disallow: /*view=
Disallow: /*pmin=
Disallow: /*pmax=
Disallow: /*s=
Disallow: /*user=
Disallow: /*bt=
Disallow: /*i=
Disallow: /*gclid=
Disallow: /*noimg
Disallow: /*swf
Disallow: /*price=
Disallow: /*p=
Disallow: /*/edit
Disallow: /*/delete
Disallow: /*/next
Disallow: /*/do
Disallow: /*/export/*
Disallow: /items/abuse
Disallow: /items/phone
Disallow: /items/send2friend
Disallow: /items/write
Disallow: /items/edit
Disallow: /items/delete
Disallow: /items/next
Disallow: /items/do
Disallow: /items/stat
Disallow: /restore
Disallow: /profile
Disallow: /account/
Disallow: /packages/
Disallow: /s/
Allow: /s/cc/
Disallow: /stat/
Disallow: /api
Disallow: /editemail
Disallow: /js
Sitemap: ...

User-agent: Mediapartners-Google
Disallow:

User-agent: YandexDirect
Allow: /
Sitemap: ...


User-agent: Googlebot
Disallow: /*?_openstat
Disallow: /*nomobile=
Disallow: /*utm_source=
Disallow: /*view=
Disallow: /*pmin=
Disallow: /*pmax=
Disallow: /*s=
Disallow: /*user=
Disallow: /*bt=
Disallow: /*i=
Disallow: /*noimg
Disallow: /*swf
Disallow: /*price=
Disallow: /*p=
Disallow: /*/edit
Disallow: /*/delete
Disallow: /*/next
Disallow: /*/do
Disallow: /*/export/*
Disallow: /items/abuse
Disallow: /items/phone
Disallow: /items/send2friend
Disallow: /items/write
Disallow: /items/edit
Disallow: /items/delete
Disallow: /items/next
Disallow: /items/do
Disallow: /items/stat
Disallow: /restore
Disallow: /profile
Disallow: /account/
Disallow: /packages/
Disallow: /s/
Allow: /s/cc/
Disallow: /stat/
Disallow: /api
Disallow: /editemail
Disallow: /js
Sitemap: ...


User-agent: *
Disallow: /*?_openstat
Disallow: /*nomobile=
Disallow: /*utm_source=
Disallow: /*view=
Disallow: /*pmin=
Disallow: /*pmax=
Disallow: /*s=
Disallow: /*user=
Disallow: /*bt=
Disallow: /*i=
Disallow: /*noimg
Disallow: /*swf
Disallow: /*price=
Disallow: /*p=
Disallow: /*/edit
Disallow: /*/delete
Disallow: /*/next
Disallow: /*/do
Disallow: /*/export/*
Disallow: /items/abuse
Disallow: /items/phone
Disallow: /items/send2friend
Disallow: /items/write
Disallow: /items/edit
Disallow: /items/delete
Disallow: /items/next
Disallow: /items/do
Disallow: /items/stat
Disallow: /restore
Disallow: /profile
Disallow: /account/
Disallow: /packages/
Disallow: /s/
Allow: /s/cc/
Disallow: /stat/
Disallow: /api
Disallow: /editemail
Disallow: /js
Disallow: /reklama/delivery
Sitemap: ...

За корректный роботс псы бан не дают, никогда. И не важно какой длинны наша колбаса, пляшем от своих потребностей и только.
Корректный роботс - это СВОЙ роботс. Ну а штатные, скорее простенький пример для новоиспеченный сайтоводов.


03 фев 2019, 00:44
Профиль
Аватара пользователя

Зарегистрирован: 22 фев 2017, 15:03
Сообщения: 206
Аватара пользователя

Иллюзионист писал(а):
MIHALICH писал(а):
Иллюзионист писал(а):
Лучше запрещать индексацию страниц и разделов при помощи метатега , а не при помощи robots.txt.


Ты через метатеги убрал индексацию page.html?


Да, конечно!

Смотря что нужно пофиксить, некоторый эпизоды корректнее и проще через robots (или только через оный). Файл создан специально для служебных страниц, параметров и тд, для лучшего представления сайта. Удобная и полезная штука, в умелых руках. Псы соблюдают директивы безукоризненно, если файл составлен грамотно.


03 фев 2019, 01:04
Профиль
Аватара пользователя

Зарегистрирован: 19 ноя 2017, 18:54
Сообщения: 347
Аватара пользователя

Я в Вашей дискуссии, для себя полезную инфу нашёл - спасибо.
Одного не понимаю, почему многие закрывают категории и регионы.


03 фев 2019, 05:11
Профиль

Зарегистрирован: 11 апр 2016, 17:13
Сообщения: 247

Василёк, привет!

Я не спорю и ничего не утверждаю. И даже признаюсь, что вышеизложенная мною выше рекомендация про роботс - это совсем не мои умозаключения, а приведённые выдержки из статьи одного известного в узких кругах сеошника, выводы которого я позволил себе здесь озвучить.
По идее да, роботс он на то и роботс, инструмент созданный специально для того, чтобы туда сваливать всякий хлам, дабы не нагружать лишней работой поискового робота.
Про санкции согласен - это я конечно громко сказал, так как конкретно в моём случае с роботсом ПС-мам проще было написать какие страницы разрешены для индексации, а не как сейчас и такой портянки бы не получилось. :roll:

Но давайте рассуждать исходя из нынешних реалий. Кто знает как оно должно быть на самом деле, как правильно? Ну может быть в СЕО-конторах, где предлагают продвижение за 160к в месяц. Даже где то письмо на почте валяется с КП от одной такой конторы. Мне стало интересно и я к ним позвонил, узнал расценки. Сказали 100к, но это вообще минимум, так сказать ни о чём, эффекта не ждите, а по хорошему от 160к бюджет и будет норм.

Во первых не стоит сравнивать с Авито и с подобными ему монстрами. Мы же понимаем каким образом эти монстры шли к успеху. Им по факту начхать на поисковую систему Яндекса с его программистами, разрабатывающих всякие алгоритмы, правила. Там взаимовыгодный симбиоз, бизнес... позиции и трафик, которому роботс уже точно никак не навредит.

Хотя можно привести массу примеров успешных сайтов (правда в основном древних, кто успел ухватить халяву), у которых не то чтобы какой то неправильный роботс, у них его вообще нет, отсутствуют и Н1-Н2, сайтмеп, СЕО и дизайн аля из 90-х, а чувствуют они себя превосходно, имея трафик в 100к или 200к в сутки.

Если бы у нас были такие же возможности, ресурсы и инвестиции, как у Авито например или Авто ру (реклама которого задолбала по ТВ), мы бы тут на форуме бы не обсуждали как выпилить буратинку из деревяшки. И не устраивали бы танцы с бубнами вокруг своих ресурсов, лихорадочно изучая всё новые и новые законы зловещего и преславутого СЕО, затем реализуя их на своих сайтах согласно текущим требованиям, пытаясь выжать сотню-другую уников с поиска.

Размышляя тут об актуальности досок объявлений... Если мне надо купить бу авто определённой модели или найти недвижимость, то я не спрашиваю об этом яшу или гулю, а целенаправленно иду на Авто.ру или Циан и там уже вбиваю в поиск то, что я ищу. А уж тем более я не стану даже рассматривать объявления на каких то задрипанных (каких тысячи) и никому неизвестных досках, которые к тому же тупо парсят себе объявы с того же авито. Не в обиду...

Поэтому за поисковый трафик этим гигантам можно особо не беспокоиться (разве что конкурируя между собой), а уж тем более на него уж точно никак не повлияет размер роботса.
Это как сравнить с ВК и Одноклассниками. Кстати читал где то на одном из сео-форумах, где один гуру ссылался на эти ресурсы, говорил, что если хитро всё сделать в точности как у них, то начнётся такой клёв, что только держись, такая рыба, главное, чтобы удочки не пообрывало. :D

Ну и мы же понимаем, что никакое идеальное СЕО не поможет ресурсу, если нет хороших поведенческих, если сайт не представляет никакого интереса.
Плюс ко всему тенденция в последние годы сложилась такая, что сдвинуть сайт с мёртвой точки одним только СЕО и тяжелым трудом вебмастера уже стало не так просто. Раздули бизнес вокруг продвижения сайтов такой, что ещё лет несколько назад такого и не представить. А как раскрутить нулевую доску, даже если она супер красивая, удобная и востребованная? Все дороги, как говорится, ведут в Директ. Деньги решают если не всё, то многое.


А свой роботс я привёл в пример потому что мусорных страниц в индексе в моём случае оказалось очень много. Залетают в индекс они легко, а вот выкинуть их обратно - проблема.
Гугл например насчитал у меня на сайте 7к страниц, а в действительности их всего 4к. И уже два года лишние страницы не может выкинуть. Яндекс в этом плане пошустрей.


Последний раз редактировалось Д митрий 03 фев 2019, 09:48, всего редактировалось 2 раз(а).



03 фев 2019, 06:16
Профиль

Зарегистрирован: 11 апр 2016, 17:13
Сообщения: 247

Равиль, привет!

Про категории не знаю, а вот регионы я был вынужден все закрыть, хотя поначалу это делать не планировал и даже проделал большую работу с метатегами, делая все описания (как внутренние, так и внешние) страниц регионов уникальными. Думал эх, как попрёт народ из городов и сёл нашей необъятной...
Но я столкнулся с рядом обстоятельств в технической части своей сборки, из-за которых решил отказаться показывать регионы ПС вообще.


03 фев 2019, 08:47
Профиль

Зарегистрирован: 25 фев 2016, 18:46
Сообщения: 453

Сейчас на одной яше далеко не ускачешь, это не надежный источник трафика, яша плохо понимает где сайт хороший а где не очень несмотря на все труды. Вообще яндексу настрать на ваши сайты им главное чтобы в директ бабки вкладывали.

Поэтому крупные компании вроде алиэкспресса, авито, циан, триваго, соц сети и прочие гиганты ложили болт на говнояндекс.

Сейчас алгоритмы ранжирования настолько долбанутые, что диву даешься.


03 фев 2019, 21:27
Профиль

Зарегистрирован: 11 апр 2016, 17:13
Сообщения: 247

По поводу Яши.
Пробовал и не один раз, рекомендую как лайфхак.

Кидаешь на рекламную компанию минималку - позиции резко растут и в вверх. Эффект длится ещё как минимум неделю, после того как деньги закончились в директе (обычно это за один день, или даже несколько часов).
Потом опять проседание. Надо ещё подбросить тогда угля в топку...

(Не уверен, так как не проверено: что если настроить рекламную кампанию таким образом, чтобы денег хватило на подольше. Установить например цену клика по минимиму и подобрать непопулярные ключевые фразы. Хотя может и не стоит так делать, так как модераторы яндекса могут прочечь данную фишку и лайфхаку конец.)


04 фев 2019, 06:00
Профиль

Зарегистрирован: 25 фев 2016, 18:46
Сообщения: 453

Иллюзионист писал(а):
По поводу Яши.
Пробовал и не один раз, рекомендую как лайфхак.

Кидаешь на рекламную компанию минималку - позиции резко растут и в вверх. Эффект длится ещё как минимум неделю, после того как деньги закончились в директе (обычно это за один день, или даже несколько часов).
Потом опять проседание. Надо ещё подбросить тогда угля в топку...

(Не уверен, так как не проверено: что если настроить рекламную кампанию таким образом, чтобы денег хватило на подольше. Установить например цену клика по минимиму и подобрать непопулярные ключевые фразы. Хотя может и не стоит так делать, так как модераторы яндекса могут прочечь данную фишку и лайфхаку конец.)


Наличие денег на яше не влияет на позиции. Это у вас чисто совпадение.


05 фев 2019, 09:58
Профиль
Аватара пользователя

Зарегистрирован: 22 фев 2017, 15:03
Сообщения: 206
Аватара пользователя

Всем привет!

Иллюзионист, вспоминаю сео-этап как страшный сон. Другое дело темы о монетизации и наши чаепития!
Равиль, у каждого свои тараканы. У меня города и категории открыты со старта, пустых немного и с них идёт трафик. Наверное зависит от соотношения.
Михалыч, согласен, совпадение. Аналитиков яши на кривой козе не объедешь.

Будет возможность, заходите в кислую тему, погоняем шутки под чаёк в картинках... пофлудим на мирские темы :)


07 фев 2019, 16:46
Профиль

Зарегистрирован: 25 фев 2016, 18:46
Сообщения: 453

Василёк писал(а):
Всем привет!

Иллюзионист, вспоминаю сео-этап как страшный сон. Другое дело темы о монетизации и наши чаепития!


Учитывая что яша постоянно меняет алгоритмы, страшный сон может стать явью :D


07 фев 2019, 20:12
Профиль
Показать сообщения за:  Поле сортировки  
Ответить на тему   [ Сообщений: 34 ] 

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 0


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
cron