in OPN habe ich das Modul nicht gefunden, wo liegt das?
Das Modul ist in /system/robotstxt -> siehe
hier
Die Customizer Module findest Du in den Downloads hier auf der Seite. Du musst ganz nach unten crollen.
Beachte, dass diverse Module im Admin Bereich nur sichtbar sind wenn OPN im Profimodus läuft.
(Siehe hier ->
hier
Die htaccess sowie auch die robots.txt kannst du auch lokal bearbeiten und wieder hochladen.
Gibt es eine Liste wo ich die Bot's finde?
Da gibt es eine Menge an Listen, jedoch meist von den SPAM Bots. Generell würde ich nur mal die IP von dem Cuil Spider sperren.
Ob sich dieser allein via robots.txt vertreiben lässt kann ich nicht beurteilen. Jedoch ignorieren immer mehr Bots die robots.txt.
Flash
[addsig]