Сообщения без ответов | Активные темы Текущее время: 08 сен 2026, 15:12



Ответить на тему  [ Сообщений: 12 ]  Страница 1, 2  »
Странные запросы от Яндекса 
Автор Сообщение

Зарегистрирован: 14 окт 2010, 17:52
Сообщения: 122

Недавно провайдер написал мне письмо что сайт дает большую нагрузку на сервер, попросили принять меры. Я залез в логи и обнаружил, во-первых ненормально большое количество запросов от bing, но это не проблема, я закрыл ему доступ и все, толку от него все равно никакого. Но еще на моем поддомене, с количеством объявлений чуть больше тысячи, очень большое количество запросов от yandexbot, порядка 15000 в день и выглядят они очень странно, см. пример:
93.158.145.28 - - [01/Apr/2013:08:17:49 +0300] "GET /Intim-uslugi/yuridicheskie-uslugi/finansovye-uslugi/aerobika-tancy/page25.html
93.158.145.28 - - [01/Apr/2013:08:17:50 +0300] "GET /Intim-uslugi/Seks-bez-obyazatelstv/zdorovje/prochie-uslugi/sport-uslugi/page2.html
93.158.145.28 - - [01/Apr/2013:08:17:52 +0300] "GET /Intim-uslugi/Intim-uslugi-dlya-muzhchin/domashnie-uslugi/prochie-uslugi/tehnika-elektronika/page9.html

Почему то все обращения идут через интим-услуги, а это всего лишь одна из категорий на сайте. Причем на основном домене такого глюка нет, все адреса указаны правильно.
В чем может быть проблема, есть какие-либо идеи?


04 апр 2013, 12:45
Профиль

Зарегистрирован: 14 окт 2010, 17:52
Сообщения: 122

Спасение утопающих дело рук....)
дело было в регистре адреса, при замене в адресе строчной на прописную или наоборот идет не 404, а какая то странная страница. Можете сами глянуть. И если поисковый робот до нее доберется быть беде... А я случайно в адресе категории назвал ее с большой буквы, а робот добрался до названия с маленькой.


09 апр 2013, 13:43
Профиль

Зарегистрирован: 14 окт 2010, 17:52
Сообщения: 122

Но теперь возникает вопрос как правильно сделать редирект с категории /Intim-uslugi/* на /intim-uslugi/* ?
Кто -нибудь может подсказать?


09 апр 2013, 14:49
Профиль

Зарегистрирован: 14 окт 2010, 17:52
Сообщения: 122

Редирект сделал, но ситуация не поменялась:(
по прежнему очень странные адреса посещаются Яндексом:
3.158.145.28 - - [25/Apr/2013:00:11:40 +0300] "GET /intim-uslugi/transport/avtoservis-uslugi/sport-turizm/turizm-puteshestviya/internet/provaidery-hosting/page29.html
93.158.145.28 - - [25/Apr/2013:00:11:52 +0300] "GET /intim-uslugi/transport/avtoservis-uslugi/dom-sad/uborka-obsluzhivanie/transport/prochie-uslugi/page27.
93.158.145.28 - - [25/Apr/2013:00:12:03 +0300] "GET /intim-uslugi/transport/avtoservis-uslugi/dom-sad/domashnie-uslugi/prazdniki/prazdniki-torzhestva/page16.
93.158.145.28 - - [25/Apr/2013:00:12:09 +0300] "GET /intim-uslugi/justice/yuridicheskie-uslugi/transport/avtoservis-uslugi/page4.html
93.158.145.28 - - [25/Apr/2013:00:12:11 +0300] "GET /intim-uslugi/transport/avtoservis-uslugi/internet/kompyutery-programmy/justice/prochie-uslugi/page27.html
93.158.145.28 - - [25/Apr/2013:00:12:15 +0300] "GET /intim-uslugi/justice/yuridicheskie-uslugi/raznye-uslugi/zoo-uslugi/page16

И самое неприятное, если набрать этот несуществующий адрес, то отображается не ошибка 404, как следовало бы, а страница сайта.
Яндекс уже закачал почти 200 000 таких страниц:( Что делать с этим не знаю:(((((
Рекомендую всем проверить логи, возможно и у вас такая ситуация.


30 апр 2013, 16:20
Профиль
Аватара пользователя

Зарегистрирован: 23 сен 2010, 04:13
Сообщения: 717
Откуда: г.Владивосток
Аватара пользователя

Да, есть такое, после одного из апов в конце прошлого года, Яндекс проигнорил роботс и съел, все, что я закрывал, в т.ч. и подобные адреса (когда из одной категории можно перейти в дугую, без смены урл и так несколько уровней). Теперь в ЯВМ под сотню тысяч страниц, однако в индексе всего 700, только сами объявления... не знаю даже влияет ли это на траст к ресурсу.

_________________
» Хостинг 98 р\месяц и домен в подарок

Зарабатывай на своем сайте!
Специально для досок объявлений.

» Заработок с AD
» Заработок с CityAds
» Заработок с AdAds


30 апр 2013, 18:12
Профиль

Зарегистрирован: 14 окт 2010, 17:52
Сообщения: 122

Если посмотреть на структуру сайта в ЯВебмастере, то она тоже искаженная, плюс ненужная нагрузка на сервер, так что я не думаю что это хорошо.
Да в и роботс подобные страницы не закроешь, как создать правило в данном случае я не представляю, а закрывать каждую из этих сотен тысяч страниц физически нереально.


02 май 2013, 10:19
Профиль
Аватара пользователя

Зарегистрирован: 23 сен 2010, 04:13
Сообщения: 717
Откуда: г.Владивосток
Аватара пользователя

Бле... очередной ап яндекса - и он сожрал всю эту чачу, теперь все это в индексе. Около 10.000 левых страниц несуществующих категорий типа строительство\фото\антиквариат\спрос или бытовая техника\холодильники\бизнес и партнерство\животные\кошки... Юра! Тебе виднее, где копать. Но это беда.

_________________
» Хостинг 98 р\месяц и домен в подарок

Зарабатывай на своем сайте!
Специально для досок объявлений.

» Заработок с AD
» Заработок с CityAds
» Заработок с AdAds


12 май 2013, 06:29
Профиль

Зарегистрирован: 17 янв 2012, 12:07
Сообщения: 512
Откуда: Нижний Новгород

такая же херня /DomDacha/Pravila/Pravila/Pravila/page4.html
чето мне кажется в htaccess надо прописать, знать бы только что...
робот херачит и склеивает вообще не имеющие к друг другу отношения страницы!!!

_________________
Рекомендую Всем! Надёжный и качественный хостинг BeGet.ru
Eboardclub.ru - Шаблоны, доработка, ELITE-BOARD 2.3 - СКРИПТ ДОСКИ ОБЪЯВЛЕНИЙ
Доска объявлений Республика Крым


23 май 2013, 22:02
Профиль WWW
Администратор
Аватара пользователя

Зарегистрирован: 20 сен 2010, 21:15
Сообщения: 2966
Аватара пользователя

Видимо на каких-то страницах стоят относительные ссылки, без слэша вначале строки. Такое было возможно в некоторых шаблонах 2.0 версии, и по-моему было исправлено в последних сборках. В остальных случаях надо разбираться отдельно. Вот например, судя по uri
/DomDacha/Pravila/Pravila/Pravila/page4.html
Где-то стоит ссылка на модуль href="Pravila/", а надо href="/Pravila/"
Чтобы сказать что-то конкретное, надо посмотреть на сайт


24 май 2013, 10:05
Профиль
Аватара пользователя

Зарегистрирован: 23 сен 2010, 04:13
Сообщения: 717
Откуда: г.Владивосток
Аватара пользователя

Если в 2.1 исправлен баг, то вопрос понятен. Поскольку вот, например http://market-dv.ru/stroitelstvo-i-remo ... od/Kyplyu/ вытащил из проиндексированных яндексом, но это 2.0.

_________________
» Хостинг 98 р\месяц и домен в подарок

Зарабатывай на своем сайте!
Специально для досок объявлений.

» Заработок с AD
» Заработок с CityAds
» Заработок с AdAds


24 май 2013, 13:20
Профиль
Показать сообщения за:  Поле сортировки  
Ответить на тему   [ Сообщений: 12 ] 

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 1


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
cron