 |
Странные запросы от Яндекса
| Автор |
Сообщение |
|
jucca
Зарегистрирован: 14 окт 2010, 17:52 Сообщения: 122
|
Недавно провайдер написал мне письмо что сайт дает большую нагрузку на сервер, попросили принять меры. Я залез в логи и обнаружил, во-первых ненормально большое количество запросов от bing, но это не проблема, я закрыл ему доступ и все, толку от него все равно никакого. Но еще на моем поддомене, с количеством объявлений чуть больше тысячи, очень большое количество запросов от yandexbot, порядка 15000 в день и выглядят они очень странно, см. пример: 93.158.145.28 - - [01/Apr/2013:08:17:49 +0300] "GET /Intim-uslugi/yuridicheskie-uslugi/finansovye-uslugi/aerobika-tancy/page25.html 93.158.145.28 - - [01/Apr/2013:08:17:50 +0300] "GET /Intim-uslugi/Seks-bez-obyazatelstv/zdorovje/prochie-uslugi/sport-uslugi/page2.html 93.158.145.28 - - [01/Apr/2013:08:17:52 +0300] "GET /Intim-uslugi/Intim-uslugi-dlya-muzhchin/domashnie-uslugi/prochie-uslugi/tehnika-elektronika/page9.html
Почему то все обращения идут через интим-услуги, а это всего лишь одна из категорий на сайте. Причем на основном домене такого глюка нет, все адреса указаны правильно. В чем может быть проблема, есть какие-либо идеи?
|
| 04 апр 2013, 12:45 |
|
 |
|
jucca
Зарегистрирован: 14 окт 2010, 17:52 Сообщения: 122
|
Спасение утопающих дело рук....) дело было в регистре адреса, при замене в адресе строчной на прописную или наоборот идет не 404, а какая то странная страница. Можете сами глянуть. И если поисковый робот до нее доберется быть беде... А я случайно в адресе категории назвал ее с большой буквы, а робот добрался до названия с маленькой.
|
| 09 апр 2013, 13:43 |
|
 |
|
jucca
Зарегистрирован: 14 окт 2010, 17:52 Сообщения: 122
|
Но теперь возникает вопрос как правильно сделать редирект с категории /Intim-uslugi/* на /intim-uslugi/* ? Кто -нибудь может подсказать?
|
| 09 апр 2013, 14:49 |
|
 |
|
jucca
Зарегистрирован: 14 окт 2010, 17:52 Сообщения: 122
|
Редирект сделал, но ситуация не поменялась:( по прежнему очень странные адреса посещаются Яндексом: 3.158.145.28 - - [25/Apr/2013:00:11:40 +0300] "GET /intim-uslugi/transport/avtoservis-uslugi/sport-turizm/turizm-puteshestviya/internet/provaidery-hosting/page29.html 93.158.145.28 - - [25/Apr/2013:00:11:52 +0300] "GET /intim-uslugi/transport/avtoservis-uslugi/dom-sad/uborka-obsluzhivanie/transport/prochie-uslugi/page27. 93.158.145.28 - - [25/Apr/2013:00:12:03 +0300] "GET /intim-uslugi/transport/avtoservis-uslugi/dom-sad/domashnie-uslugi/prazdniki/prazdniki-torzhestva/page16. 93.158.145.28 - - [25/Apr/2013:00:12:09 +0300] "GET /intim-uslugi/justice/yuridicheskie-uslugi/transport/avtoservis-uslugi/page4.html 93.158.145.28 - - [25/Apr/2013:00:12:11 +0300] "GET /intim-uslugi/transport/avtoservis-uslugi/internet/kompyutery-programmy/justice/prochie-uslugi/page27.html 93.158.145.28 - - [25/Apr/2013:00:12:15 +0300] "GET /intim-uslugi/justice/yuridicheskie-uslugi/raznye-uslugi/zoo-uslugi/page16
И самое неприятное, если набрать этот несуществующий адрес, то отображается не ошибка 404, как следовало бы, а страница сайта. Яндекс уже закачал почти 200 000 таких страниц:( Что делать с этим не знаю:((((( Рекомендую всем проверить логи, возможно и у вас такая ситуация.
|
| 30 апр 2013, 16:20 |
|
 |
|
alexsam
Зарегистрирован: 23 сен 2010, 04:13 Сообщения: 717 Откуда: г.Владивосток
|
Да, есть такое, после одного из апов в конце прошлого года, Яндекс проигнорил роботс и съел, все, что я закрывал, в т.ч. и подобные адреса (когда из одной категории можно перейти в дугую, без смены урл и так несколько уровней). Теперь в ЯВМ под сотню тысяч страниц, однако в индексе всего 700, только сами объявления... не знаю даже влияет ли это на траст к ресурсу.
_________________ » Хостинг 98 р\месяц и домен в подарокЗарабатывай на своем сайте! Специально для досок объявлений. » Заработок с AD» Заработок с CityAds» Заработок с AdAds
|
| 30 апр 2013, 18:12 |
|
 |
|
jucca
Зарегистрирован: 14 окт 2010, 17:52 Сообщения: 122
|
Если посмотреть на структуру сайта в ЯВебмастере, то она тоже искаженная, плюс ненужная нагрузка на сервер, так что я не думаю что это хорошо. Да в и роботс подобные страницы не закроешь, как создать правило в данном случае я не представляю, а закрывать каждую из этих сотен тысяч страниц физически нереально.
|
| 02 май 2013, 10:19 |
|
 |
|
alexsam
Зарегистрирован: 23 сен 2010, 04:13 Сообщения: 717 Откуда: г.Владивосток
|
Бле... очередной ап яндекса - и он сожрал всю эту чачу, теперь все это в индексе. Около 10.000 левых страниц несуществующих категорий типа строительство\фото\антиквариат\спрос или бытовая техника\холодильники\бизнес и партнерство\животные\кошки... Юра! Тебе виднее, где копать. Но это беда.
_________________ » Хостинг 98 р\месяц и домен в подарокЗарабатывай на своем сайте! Специально для досок объявлений. » Заработок с AD» Заработок с CityAds» Заработок с AdAds
|
| 12 май 2013, 06:29 |
|
 |
|
SERblY
Зарегистрирован: 17 янв 2012, 12:07 Сообщения: 512 Откуда: Нижний Новгород
|
такая же херня /DomDacha/Pravila/Pravila/Pravila/page4.html чето мне кажется в htaccess надо прописать, знать бы только что... робот херачит и склеивает вообще не имеющие к друг другу отношения страницы!!!
|
| 23 май 2013, 22:02 |
|
 |
|
Geo
Администратор
Зарегистрирован: 20 сен 2010, 21:15 Сообщения: 2966
|
Видимо на каких-то страницах стоят относительные ссылки, без слэша вначале строки. Такое было возможно в некоторых шаблонах 2.0 версии, и по-моему было исправлено в последних сборках. В остальных случаях надо разбираться отдельно. Вот например, судя по uri /DomDacha/Pravila/Pravila/Pravila/page4.html Где-то стоит ссылка на модуль href="Pravila/", а надо href="/Pravila/" Чтобы сказать что-то конкретное, надо посмотреть на сайт
|
| 24 май 2013, 10:05 |
|
 |
|
alexsam
Зарегистрирован: 23 сен 2010, 04:13 Сообщения: 717 Откуда: г.Владивосток
|
Если в 2.1 исправлен баг, то вопрос понятен. Поскольку вот, например http://market-dv.ru/stroitelstvo-i-remo ... od/Kyplyu/ вытащил из проиндексированных яндексом, но это 2.0.
_________________ » Хостинг 98 р\месяц и домен в подарокЗарабатывай на своем сайте! Специально для досок объявлений. » Заработок с AD» Заработок с CityAds» Заработок с AdAds
|
| 24 май 2013, 13:20 |
|
|
|
Страница 1 из 2
|
[ Сообщений: 12 ] |
Кто сейчас на конференции |
Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 0 |
|
Вы не можете начинать темы Вы не можете отвечать на сообщения Вы не можете редактировать свои сообщения Вы не можете удалять свои сообщения Вы не можете добавлять вложения
|
Вы не можете начинать темы Вы не можете отвечать на сообщения Вы не можете редактировать свои сообщения Вы не можете удалять свои сообщения Вы не можете добавлять вложения
|
 |