Vor wenigen Tagen berichteten amerikanische Robotiker davon, wie sie autonome Fahrzeuge in die Irre führten. Die Forscher veränderten Verkehrsschilder in nur wenig sichtbarer Weise, doch die optischen Systeme des Autos interpretierten beispielsweise ein Stoppschild als ein Verkehrszeichen zur Geschwindigkeitsbeschränkung. Das Interessante daran: Die störenden Veränderungen wurden von einem Programm vorgeschlagen, das auf einer Analyse der Bildverarbeitungssoftware des Fahrzeugs beruht. Deshalb waren sie so effektiv.

Das ist jetzt erst einmal kein praktisches Problem, denn mit autonomen Fahrzeugen oder anderen mobilen Robotern lässt sich auch auf unkompliziertere Weise allerhand Unfug anstellen. Doch die zugrunde liegende Idee führt sehr weit, wenn man über sie nachdenkt.

Betrachten wir einmal den Roboter und seine Umgebung als ein Gesamtsystem – in der Tat ist von Robotikern schon der Gedanke geäußert worden, dieses Gesamtsystem selbst als einen einzigen Roboter anzusehen. In einer automatisierten Fabrik liegt der Gedanke sogar nahe. Nun, so ein Individuum-Umwelt-System durchläuft nacheinander verschiedene Zustände. Dieser Entwicklungspfad (man kann ihn sich als das Ablaufen eines Algorithmus denken) lässt sich durch Eingriffe in den Roboter oder seine Umwelt beeinflussen, stören, hacken. Da gibt es viele Angriffspunkte, etwa die Sensoren der Maschine oder eben die Umwelt, in der sie sich bewegt, wie jeder weiß, der schon mal einem Staubsaugerroboter lose Kabel in den Weg gelegt hat: Roboter brauchen, wie alle Lebewesen, eine artgerechte Umgebung – sonst gibt's Probleme.

Was aber, wenn Roboter selbst ihre Umwelt verändern, auf die sie dann wiederum reagieren (ein harmloses Beispiel ist der Roboterfußball)? Dann kann die Entwicklung schnell einen unvorhersehbaren Weg nehmen, auch wenn nur eine kleine Anfangsstörung in das System eingebracht wird – Rückkopplung.

Was ist die Umwelt eines Roboters? Von außen betrachtet alles, was auf ihn einwirkt oder worauf er einwirkt. Doch aus der Sicht des Programms – oder des Programmierers – ist die Umwelt des Roboter das, was ihm in seinen Sinnen, Pardon: Sensoren gegeben ist. Der Roboter scheint, philosophisch gesprochen, radikaler Sensualist zu sein (denn er weiß nicht, dass ihm die Sensorinterpretationen in seinem On-board-Rechner als angeborene Ideen vorgegeben werden). Für ihn zählt das, was er misst. Allerdings ist es seinen Einheiten, die Sensordaten vereinbaren, schnurzegal, woher die Bits kommen, die hereinströmen. Die könnten auch virtuell in dem Sinn sein, dass der Roboter sie selbst erzeugt. Es könnten Pokémon sein, die er fangen will. Oder systematische, durch Software erzeugte Störungen der ankommenden Bilddaten.