Seite 1 von 1

wie einzelne foren (threads) per robots.txt ausschließen ?

Verfasst: 22.02.2006 10:55
von yks
hallo,

per robots.txt kann man doch bots sagen, was sie sich durch'lesen' sollen und nicht (sofern sie sich daran halten).
wie könnte man einzelne foren (und evtl auch einzelne threads) mit dabei rausnehmen ?
zum einen nicht sicher bin wie es vom pfad her auflisten müßte, zum anderen aber auch sehe, daß ich nicht ein forum ausschließen kann, weil im pfad ja nicht die forumkategorie enthalten ist.
hätte da jemand eine idee bzw geht das ?

danke + viele grüße, yks

Verfasst: 22.02.2006 11:00
von larsneo
per robots.txt kann man doch bots sagen, was sie sich durch'lesen' sollen und nicht (sofern sie sich daran halten).
nein. du kannst sie nur bitten, die gefundenen inhalte nicht zu indexieren ('lesen' tun bots erst einmal alles, was sie finden bzw. auf was verlinkt wird)
wie könnte man einzelne foren (und evtl auch einzelne threads) mit dabei rausnehmen ?
wenn du normale dynamische urls verwendest fast gar nicht.
hätte da jemand eine idee bzw geht das ?
selbst wenn es gehen würde, wäre es die wesentlich bessere idee, inhalte die bots nicht spidern sollen auch unregistrierten besuchern nicht zu zeigen.

Verfasst: 22.02.2006 20:53
von yks
hi larsneo,
selbst wenn es gehen würde, wäre es die wesentlich bessere idee, inhalte die bots nicht spidern sollen auch unregistrierten besuchern nicht zu zeigen.
naja, die foren, die ich meine, sind auch private/versteckte foren.
das wäre also schon gegeben.

naja, vielleicht gehts ja irgendwann mal.

viele grüße, yks