VirtualIreland.ru - Виртуальная Ирландия
Вернуться   VirtualIreland.ru - Виртуальная Ирландия > Живем в Ирландии > IT и Связь

IT и Связь Обсуждение "айтишных" вопросов и средств связи

Ответ
 
Опции темы Опции просмотра
Старый 27.01.2007, 10:35   #1
Заслуженный Участник
 
Аватар для Roslin
 
Откуда: Riga-Swords
Сообщений: 503
Благодарности: 323 в 110 сообщениях Поиск благодарностей Roslin
Вопрос Как закрыть доступ граберу

С недавних пор грабер(Теle Port Pro)чистит сайт.Закачал его себе для пробы.Установили защиту от граберов,а этот падлюка всёравно пролазит.Кто чего посоветует?
__________________
С рожей не повезло - это когда покупаешь круглые темные очки, как у Джона Леннона, но выглядишь в них, как кот Базилио

Последний раз редактировалось Roslin, 27.01.2007 в 10:38.
Roslin вне форума   Ответить с цитированием

Зарегистрируйтесь или войдите под своим именем, чтобы спрятать этот рекламный блок
Старый 27.01.2007, 17:43   #2
Заслуженный Участник
 
Аватар для Ravendark
 
Сообщений: 669
Благодарности: 242 в 121 сообщениях Поиск благодарностей Ravendark
По умолчанию Re: Как закрыть доступ граберу

хорошая прога, кстати...
Ravendark вне форума   Ответить с цитированием
Старый 27.01.2007, 20:03   #3
просто
 
Аватар для abg
 
Сообщений: 7,824
Благодарности: 2,301 в 1,077 сообщениях Поиск благодарностей abg
По умолчанию Re: Как закрыть доступ граберу

падала она, когда проект переваливал за 65тысяч линков... а для большего нужно покупать специальную версию, которую скачивать с сайта не дают так просто...

не то, что wgеt или сurl в несколько потоков - хоть закачайся...

Roslin, а ведется статистика в реальном времени? может, для особо активных юзеров время от времени вместо страницы показывать captcha? и если его не ввести - блокировать последующий доступ на несколько минут?
__________________
все вопросы по форуму VI направляйте администрации.
abg вне форума   Ответить с цитированием
Старый 28.01.2007, 22:28   #4
Заслуженный Участник
 
Аватар для ADM
 
Сообщений: 559
Благодарности: 126 в 85 сообщениях Поиск благодарностей ADM
По умолчанию Re: Как закрыть доступ граберу

если про ето Blocking Bad Bot User Agents ?
http://www.google.ie/search?hl=en&q=...G=Search&meta=
__________________
IDA Ireland
ADM вне форума   Ответить с цитированием
Старый 28.01.2007, 22:36   #5
просто
 
Аватар для abg
 
Сообщений: 7,824
Благодарности: 2,301 в 1,077 сообщениях Поиск благодарностей abg
По умолчанию Re: Как закрыть доступ граберу

Цитата:
Сообщение от ADM Посмотреть сообщение
если про ето Blocking Bad Bot User Agents ?
http://www.google.ie/search?hl=en&q=...G=Search&meta=
это не поможет. граббер просто скажет, что он - интернет эксплорер. причем они хитрые, могут и куки сохранять, и случайный интервал между запросами делать. единственное, что спасет - это периодическая проверка слишком активных пользователей чем-нибудь типа captcha тестом. т.е. если посмотрел больше чем сколько-то страниц за какое-то время - то будь добр, введи буквы на картинке или обломайся с доступом.

это тоже, конечно, не спасет от параноидального выкачивания где-нибудь по странице\файлу в минуту. придется делать мультисистемную проверку. скажем, если больше 20 страниц в минуту или больше 60 страниц за час. посмотри на своем сайте типичные паттерны юзеров, Roslin. и потом сделай проверку, что если они отличаются в более агрессивный браузинг - то проси ввести код.

опять же, таким способом ты можешь обломать большинство поисковых роботов, если они будут шуршать по сайту слишком быстро... потому что они, как правило, кладут болт на указанную рекомендуемую задержку в robots.txt
как способ все-таки поделиться информацией в поисковых системах - сделай sitemap и скорми его гуглу, яху, и мсн. к сожалению, яндекс пока сайтмэпы еще не сделал или можно смотреть ip ranges, откуда приходят запросы. если принадлежат google/yahoo/yandex - то разрешать загрузку без проверок.
__________________
все вопросы по форуму VI направляйте администрации.

Последний раз редактировалось abg, 28.01.2007 в 22:41.
abg вне форума   Ответить с цитированием
Старый 29.01.2007, 12:45   #6
Заслуженный Участник
 
Аватар для vadzen
 
Откуда: SU->LV->EU on bed
Сообщений: 1,581
Благодарности: 1,139 в 457 сообщениях Поиск благодарностей vadzen
По умолчанию Re: Как закрыть доступ граберу

Цитата:
Сообщение от Roslin Посмотреть сообщение
С недавних пор грабер(Теle Port Pro)чистит сайт.
Мой фаворит для таких дел. А собственно что и чем напрягает?Загрузка линка?
vadzen вне форума   Ответить с цитированием
Старый 30.01.2007, 17:34   #7
Заслуженный Участник
 
Аватар для Roslin
 
Откуда: Riga-Swords
Сообщений: 503
Благодарности: 323 в 110 сообщениях Поиск благодарностей Roslin
По умолчанию Re: Как закрыть доступ граберу

Ладно,спсба всем,буду думать
__________________
С рожей не повезло - это когда покупаешь круглые темные очки, как у Джона Леннона, но выглядишь в них, как кот Базилио
Roslin вне форума   Ответить с цитированием
Ответ



Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать на сообщения
Вы не можете добавлять вложения
Вы не можете редактировать свои сообщения

BB код Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.

Быстрый переход

Похожие темы
Тема Автор Раздел Ответов Последнее сообщ.
Россия согласилась закрыть Allofmp3.com abg Общие темы 12 30.11.2006 09:39
Закрыть бизнес нэйм GOOSE Общие темы 5 09.11.2006 16:34
Интернет доступ через модем Arte IT и Связь 25 18.11.2004 14:48


Часовой пояс GMT, времени сейчас: 02:42.


vBulletin®, Copyright ©2000-2025, Jelsoft Enterprises Ltd., Русификация: zCarot, Vovan & Co
©2003-2025 VirtualIreland.ru - Виртуальная Ирландия