Liomans Blog » Regex http://www.lioman.de 42 ist die Antwort - aber wie lautet die Frage? Fri, 11 May 2012 09:45:30 +0000 de hourly 1 http://wordpress.org/?v=3.3.2 pageLogger Boterkennung verbessern http://www.lioman.de/2009/11/pagelogger-boterkennung-verbessern/ http://www.lioman.de/2009/11/pagelogger-boterkennung-verbessern/#comments Tue, 24 Nov 2009 13:04:29 +0000 Lioman http://www.lioman.de/?p=1144 Ich habe schon über die Statistiksoftware pageLogger berichtet und bin auch bisher damit zufrieden. Allerdings stellte ich fest, dass die Bot-Erkennungsliste etwas mager ist. Im Verzeichnis PAGELOGGER/includes/robots liegt die Datei robots.txt. Sie ist gefüllt mit RegEx – also kleinen Textschnipseln … Continue reading →

Zum Blog: www.lioman.de

]]> Ich habe schon über die Statistiksoftware pageLogger berichtet und bin auch bisher damit zufrieden. Allerdings stellte ich fest, dass die Bot-Erkennungsliste etwas mager ist.

Im Verzeichnis PAGELOGGER/includes/robots liegt die Datei robots.txt. Sie ist gefüllt mit RegEx – also kleinen Textschnipseln die in einem User Agent auftauchen können – und einer Erklärung die dann im Frontend auftaucht.

Bsp:

gaisbot/#Gaisbot
 geckobot#GeckoBot
 gencrawler#GenDoor
 gigabaz/#GigaBaz
 gigabot#GigaBot
 googlebot#Googlebot
 griffon#navi.ocn.ne.jp

Doch 271 Bots sind etwas wenig sind doch mehrere Tausende inzwischen bekannt. Es sind zwar nicht alle wichtig und einige kommen sicher sehr selten auf einem kleinen Blog vorbei. trotzdem ist es sinnvoll die Liste ein wenig zu erweitern.

Ich habe mir verschiedene Listen im Netz angeschaut und sie dann mit ein paar Konsolenbefehlen zusammengefügt. Dann noch eine kleine Reinigung der Liste von Hand und nun werden ganze 871 Spider unterstützt.

Wer sie möchte kann sie <a href="/wp-content/uploads/robots.zip">hier</a> herunterladen und in sein pageLoggerinstallation einfügen.

PS: Bei mir ging dies nicht über pageLogger direkt. Ich habe die Datei per FTP hochgeladen.

Zum Blog: www.lioman.de

]]> http://www.lioman.de/2009/11/pagelogger-boterkennung-verbessern/feed/ 0