Hackerboard Wiki HaboBlog
Hackerboard bei Facebook Hackerboard bei Google+ Hackerboard bei Twitter

[HaBo]

 
Internet Allgemein Flatrates, Webspace, Protokolle und alles rund ums Internet hier rein.

Google Bot?

Diskussion: Google Bot? im Forum Internet Allgemein, in der Kategorie Web, Network & Multimedia Palace; Anzeige Hallo!! Ich hab da ne Kleine Frage: Und Zwar habe ich einen Service wie den Schwabulator eingerichtet (also einen ...

Antwort
Alt 12.01.08, 17:04   #1 (permalink)
 
Registriert seit: 12.01.08
Felixh Leistung: Facit NTK
Likes: 0
Standard Google Bot?

Anzeige

Hallo!!

Ich hab da ne Kleine Frage:
Und Zwar habe ich einen Service wie den Schwabulator eingerichtet (also einen Kleinen Proxy, der Webseiten auf Anfrage ins Schwäbische, Säxische, Fränkische und Hessische übersetzt!) um zu verhinder, dass Bots das Ganze Internet nachundnach auf Schwäbisch indizieren, habe ich in die Robots.txt geschrieben:

User-agent: *
Disallow: /

Jetzt meine Frage:
trotz robots.txt bekomme ich innerhalb von 15 min etwa 30 anfragen von der Selben IP (66.249.65.197)...
Whois query zeigte, dass es sich dabei um eine auf Google registrierte IP handelte... genauere suche, dass es sich um einen Google-Bot handelt...

Jetzt wollte ich euch Fragen, ob das ein Bot ist, der für Google die webseiten indiziert (das wär schlecht für mich und für Google!), oder ob dass vieleicht ein Proxy sein könnte, oder ob google jetzt auch ein ISP geworden ist ;D

PS: hier die URL zum Proxy: http://fhirt.dyndns.org/schwob

===EDIT===
es wird auch immer dasselbe abgefragt: eine Suche auf plattentests.de, aber immer mit anderen suchwörtern... meist im abstand von ca. 30 sec.

OK, es IST ein Google Bot, und zwar einer, der die Seiten Indiziert... bloss warum Ignoriert dass ding die robots.txt??? sie scheint garnicht abgefragt zu werden,! ich habe seit heute mittag 4 Uhr 1nen einzigen Request für die Robots.txt erhalten, und der stammte von mir! Die einzige möglichkeit, die ich im mom sehe, ist diese IP auszusperren, aber dann sehe ich meine Config-datei für den Apache überquellen... (vorallendingen wenn ich an den ganzen haufen anderer suchmaschinen Bots denke!)

habe versucht, per Apache-configurationsdatei den Bot aus dem Unterverzeichniss auzusperren. es scheint nur nicht zu gehen.... es werden weiter munter suchergebnisse gespidert... hier das stück config-datei:
<Directory /cgi-bin/openschwob>
AddHandler python-program .py
PythonHandler modpython_schwob

Order deny,allow
Allow from all
Deny from 66.249.65.197
</Directory>

Felixh ist offline   Mit Zitat antworten
Antwort
   
- Anzeige -

Werbung ist gerade online    

[HaBo] » Web, Network & Multimedia Palace » Internet Allgemein » Google Bot?
Themen-Optionen
Ansicht

Forumregeln
Es ist Ihnen nicht erlaubt, neue Themen zu verfassen.
Es ist Ihnen nicht erlaubt, auf Beiträge zu antworten.
Es ist Ihnen nicht erlaubt, Anhänge hochzuladen.
Es ist Ihnen nicht erlaubt, Ihre Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks sind aus
Pingbacks sind aus
Refbacks sind aus


Ähnliche Themen
Thema Autor Forum Antworten Letzter Beitrag
Google Bug Bogi Internet Allgemein 12 31.01.09 22:06
Google down?! Janus News & Ankündigungen 25 07.03.08 12:06
Google Fun junglehell Off topic-Zone 2 21.04.04 16:38
Google startet kostenpflichtigen Dienst namens "Google Answers" Tec News & Ankündigungen 7 23.04.02 13:34


1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61