Eine beachtliche Anzahl von Geschichten aus verschiedenen historischen Epochen hat ein und dasselbe Motiv: das vom Menschen geschaffene Wesen, das seinem Schöpfer schliesslich ausser Kontrolle gerät. Eine der bekanntesten Versionen ist der «Golem», das Geschöpf, das der Sage nach von Rabbi Löw und zwei Gefährten im Prag von 1580 in einer Lehmgrube nahe der Stadt am Rande der Moldau aus den vier Elementen Erde, Wasser, Feuer und Luft geschaffen wurde. Der Golem erwachte zum Leben, wenn der Rabbi ihm einen Zettel unter die Zunge legte, auf dem der Namen Gottes geschrieben stand. Dann erledigte der Golem sorgsam die ihm aufgetragenen Arbeiten. Doch einmal vergass der Rabbi, dem Golem den Zettel nach getaner Arbeit wieder aus dem Mund zu nehmen, und das Wesen begann, wie rasend durch die Strassen der Stadt zu laufen und alles zu zerschlagen. In einer Version endet die Geschichte damit, dass der Rabbi dem Golem schliesslich den Zettel unter der Zunge wegnimmt und zerreisst, worauf das Geschöpf in Stücke zerfällt.
Wollten wir eine moderne Version des Golem entwerfen, liessen sich einige Parallelen zur Originalgeschichte ziehen. Wir haben nicht die vier Elemente gebraucht, sondern im Wesentlichen eine Reduktion aus Siliziumdioxid und Kohlenstoff, um das Halbmetall herzustellen, das heute Träger unserer Daten und inzwischen auch Trägermedium wesentlicher Teile unseres Lebens ist. Und wir haben uns nicht damit zufriedengegeben, externe Hilfsgeschöpfe zu schaffen, sondern längst begonnen, selbst mit den Hilfsgeschöpfen zu verschmelzen. Wir werden eins mit unseren technischen Hilfsmitteln – vom Golem zum Googlem.
Verengung der Weltsicht
Natürlich ist das nicht im unmittelbaren Sinne zu verstehen. Wir Menschen sind Menschen, und Computer sind immer noch Computer, also Maschinen, die wir als Teil unseres Lebens betrachten, aber als einen Teil, der wesentlich von uns getrennt und nicht physisch mit uns verbunden ist. Die Frage ist: Stimmt diese Annahme noch, oder bewegen wir uns inzwischen auf eine neue Zeit zu, in der die Unterscheidbarkeit von Mensch und Maschine für uns immer schwieriger wird?
In seinem neuen Buch «Turing’s Cathedral» (2012) schreibt George Dyson: «Facebook defines who we are, Amazon defines what we want, and Google defines what we think.» Das ist plakativ formuliert, aber es ist etwas Wahres daran. Nicht weil wir Menschen nicht mehr in der Lage wären, selbständig zu denken und zu entscheiden. Vielmehr weil wir zu einer Gattung gehören, die zwar intelligent, aber auch faul ist. Alles, was uns das Leben leichtermacht, akzeptieren wir gerne.
Das personalisierte Web liefert viele Angebote für mehr Bequemlichkeit. Google, Facebook und Amazon rechnen mit uns. Wir sind nicht nur die Abnehmer von Informationen und Produkten. Wir sind die Produkte selbst, denn wir werden als Datensätze zwischen den grossen Internetkonzernen und anderen Marktteilnehmern gehandelt. Das geht umso besser, je mehr über uns bekannt ist, denn dann können Informationen, Produkte und Erlebnisse genau auf unsere Bedürfnisse zugeschnitten werden.
Für uns ist das äusserst bequem. Aber es führt auch zu einer Verengung der Weltsicht. Zufallsentdeckungen, die für das Lernen, für die Ausbildung von Toleranz und für einen Perspektivwechsel wichtig sind, werden aus unserer internetbasierten Informationswelt herausgerechnet. Das merken wir meistens gar nicht. Und deshalb machen wir es uns in unseren Präferenzgehegen gemütlich und werden immer mehr zu einer Reflexion dessen, was Suchmaschinen und andere Netzakteure als unser Profil errechnet haben. Heute ergänzen die meisten Menschen ihre Online-Erfahrungen mit Informationen und Begegnungen aus dem analogen Leben. Dort herrscht oft der Zufall: Wir treffen durch das Glück der unvorhergesehenen Erfahrung auf eine neue Information, eine neue Perspektive, einen anderen Menschen. Für die Generation, die im Internet erwachsen wird, könnte das anders aussehen. Sie werden sich ein Leben ohne Belieferung mit personalisierten Angeboten kaum mehr vorstellen können. Vor diesem Hintergrund kann das Netz noch immer nicht Gedanken lesen, aber die Datenanalysen können uns immer besser auslesen. Eric Schmidt von Google hat das einmal selbst auf den Punkt gebracht: «Wir wissen immer, wo du bist. Wir wissen, wo du warst. Wir wissen mehr oder weniger, was du denkst.»
Einen Schritt weiter geht die Verschmelzung von Mensch und Maschine zum wahren Googlem, wenn wir uns klarmachen, dass die Technologie immer weiter an den menschlichen Körper heran-, ja zuweilen in ihn hineinwächst. Eines der aktuellen Beispiele ist die kürzlich vorgestellte Google-Brille, die einen unserer menschlichen Sinne direkt mit dem Internet verbindet. Schon beim Zusteuern auf den Eingang zum U-Bahn-Schacht zeigt mir die Brille, das meine gewünschte Linie heute nicht verkehrt, um mir sodann gleich per GPS die Richtungsweisungen ins Blickfeld zu projizieren, wie ich dennoch ans Ziel kommen kann. Selbst der romantische Sonnenuntergang am Meer kann mit dem Partner geteilt werden. Ich muss ihn nur über die Brille zuschalten, dann sehe ich ihn als kleines Live-Bild in einer Ecke der Brille, und er sieht, was ich sehe: den Sonnenuntergang.
Vielleicht wird zukünftig auch gar kein Gerät mehr nötig sein. An der Carnegie Mellon University erforscht eine Gruppe von Wissenschaftern gerade den Einsatz von Infrarotstrahlennetzwerken, deren Technologie auf Ansätzen der Computerspiele-Industrie basiert. Betritt ein Mensch einen mit diesem Infrarotnetzwerk ausgestatteten Raum, so reicht es, wenn er seine Hand ausstreckt, um sie über die Infrarotstrahlen zu einem Display umzufunktionieren. Durch einfaches Tippen auf die Tasten, die auf meine Handfläche projiziert werden, kann ich ein Musikstück auswählen oder im Netz surfen. Wir brauchen kein Smartphone mehr. Der menschliche Körper selbst wird zum Joystick.
Schliesslich gibt es längst auch Implantate, über die unser Gehirn direkt mit externen Netzwerken kommunizieren kann. So werden RFID-Chips in Herzschrittmacher eingebaut, um zu kontrollieren, ob der Träger des Schrittmachers nicht plötzlich in Ohnmacht gefallen ist. Parkinsonpatienten werden Hirnschrittmacher eingesetzt, um das Zittern computergesteuert zu kontrollieren. Patienten mit solchen Implantaten erleben sich zwischen zwei Bewusstseinszuständen, zwischen denen sie hin und her schalten können. Ist der Schrittmacher eingeschaltet, geht das Zittern zurück, aber der Patient leidet unter Sprachstörungen und einer veränderten Stimmlage. Ist er ausgeschaltet, zittert der Patient, aber er hört sich vollkommen normal sprechen. Helmut Dubiel beschreibt dies in seinem Erfahrungsbuch «Tief im Hirn» eindrücklich: Während der Zeit, «in denen wir das Gerät abgeschaltet hatten, war mir, als ob in meinem Kopf ein PC eingeschaltet wurde, dessen Brummen und Klicken mir verhiessen, dass mein Gehirn arbeitete».
Der Mensch fühlt sich wie eine Maschine, wenn der Computer ausgeschaltet ist, und wie ein Mensch, wenn er angeschaltet ist. Das ist eine eindrucksvolle Veranschaulichung des paradoxen Paradigmas der Mensch-Maschine-Integration. Und es zeigt, wie wir unsicher werden darin, die Unterschiede zwischen Mensch und Maschine noch klar zu erkennen und zu benennen. – Warum paradox? Nicht nur deshalb, weil unsere Wahrnehmung von uns selbst durch den Einsatz des Computers verändert, ja offenbar zuweilen sogar radikal verkehrt wird. Eine weitere Paradoxie liegt auch darin, dass wir uns einerseits bemühen, das menschliche Gehirn immer sichtbarer, also zunehmend analysierbar und verstehbar zu machen. Das Blue-Brain-Project in Lausanne versucht etwa, das menschliche Gehirn zu entschlüsseln und es als virtuelles Replikat auf einem Supercomputer nachzubilden. Kürzlich hat eine Forschergruppe der Brown University Schlagzeilen gemacht, weil es ihr gelungen ist, querschnittgelähmte Patienten über Elektroden im Gehirn in die Lage zu versetzen, eine Roboterhand zu steuern. Das alles sind immer noch lediglich rudimentäre Ansätze zur Erforschung des menschlichen Gehirns und zum Zusammenspiel zwischen Gehirn und Körper. Aber die Fortschritte sind erkennbar. Und die Frage ist: Muss der Golem 2.0 wirklich die perfekte Integration von Mensch und Maschine bewerkstelligen, damit er Wirkung entfalten kann? Oder reicht es womöglich, dass wir ihn als Projektionsfläche, als unser aller Googlem, kennenlernen, um ihn als neue Instanz der Weltwahrnehmung zu akzeptieren?
Unsichtbare Schnittstellen
Das menschliche Gehirn wird also immer sichtbarer. Der technologische Fortschritt in der digitalen Vernetzung hingegen scheint den umgekehrten Weg zu nehmen: Die Schnittstellen zwischen dem menschlichen Körper und dem Gehirn auf der einen und dem Computernetzwerk auf der anderen Seite sollen unsichtbar werden. Wenn ich «A» denke, erscheint «A» auf dem Bildschirm. Wenn ich daran denke, einen virtuellen Ball im Computerspiel nach rechts rollen zu lassen, rollt er nach rechts. Ein Gedanke kann die Welt bewegen? Dieser Satz bekommt so eine ganz neue Dimension. Unser Körper muss nicht mehr Joystick sein. Wir müssen nur denken, was geschehen soll, und es geschieht – ermöglicht durch neuronale Implantate als Schnittstellen zwischen Gehirn und Computer.
Das alles sind grossartige Fortschritte in der technologischen Entwicklung, die es Menschen mit körperlichen Behinderungen oder anderen Erkrankungen möglich machen, wieder intensiver am Leben teilzunehmen und ein Stück ihrer Autonomie zurückzugewinnen. Es gibt allerdings auch einen Aspekt, der uns nachdenklich machen sollte. Diese drei Entwicklungen führen nämlich dazu, dass die Unterscheidbarkeit von Mensch und Maschine für uns zunehmend verloren geht. Nur wenige Menschen verstehen die Mechanismen des personalisierten Internets und können daher eine bewusste Entscheidung treffen, ob sie die dadurch generierten Informationen so haben wollen. Wenn sich die Technik direkt in unsere Sinnesbahnen schiebt, wird das Ergebnis unserer Wahrnehmung immer ein Hybrid aus dem Gesehenen und dem Hineinprojizierten sein, ohne dass wir wissen, was was ist. Unsere Gedanken steuern die Maschine, und die Maschine kann uns auslesen, ohne dass wir das beobachten können. Denn die Schnittstelle wird unsichtbar. Wir sind es ja selbst.
Das hat aus einer erkenntnistheoretischen Sicht weitreichende Konsequenzen. Der Mensch ist das einzige vernunft- und verstandbegabte Wesen, das eine selbstbezügliche Sinnreflexion vornehmen kann. Wenn er sich im Verhältnis zum Computer oder zu anderen Technologien befragt, beobachtet er bis jetzt immer auch eine Schnittstelle oder – in der Diktion der Systemtheorie – eine Differenz. Diese Beobachtung nutzt die Unterscheidung «Mensch contra Maschine», um eine der beiden Ausprägungen zu bezeichnen: «das ist der Mensch, das ist die Maschine». So gewinnen wir Information. Diese Beobachtung ist begrenzt durch das, was die Systemtheorie als «blinden Fleck» beschreibt. Der Mensch kann in der Beobachtung nicht sehen, dass er nicht sieht, was er nicht sieht. Die Integration der Mensch-Maschine-Schnittstelle ins menschliche Gehirn ist letztlich die materielle Verwirklichung dieses Beobachterproblems. Es bleibt nicht eine erkenntnistheoretische Prämisse, es wird zu einer materiellen Schranke der Reflexion im Verhältnis von Mensch und Maschine.
Der Gott des vernetzten Zeitalters
Und was bedeutet das schliesslich für unser soziales Zusammenleben? Adam Smith hat in seinem Werk über die «Theorie der ethischen Gefühle» argumentiert, der Mensch als eigennütziges Wesen sei dennoch zur moralischen Urteilsbildung befähigt. Zur Begründung seines Arguments entwirft Smith einen unparteiischen Zuschauer, dessen Position Menschen einnehmen, um das eigene oder fremde Handeln ethisch bewerten zu können. Kann der Mensch auch aus dieser «externen» Position die eigenen Beweggründe und Affekte noch nachvollziehen, so vermag er sie zu billigen. Gelingt dies nicht überzeugend, ist der Nachweis über die Moral im eigenen Verhalten negativ geführt.
Dieser «virtuelle» Prozess der «Objektivierung» eigenen Denkens ist eine stetige Prüfung für unsere Urteilskraft und den Abgleich zwischen individuellen und gemeinschaftlichen Interessen. Und diese Zumutung, innerhalb der eigenen, individuellen Sicht den Versuch der «Objektivierung» zu machen, gehört zum Menschen und ist wesentlicher Bestandteil unserer Sozialisation. In der unmittelbaren Vernetzung unserer selbst mit dem globalen digitalen Datennetz wird diese Anstrengung immer weniger nötig sein. Denn dort haben wir jederzeit eine generalisierte Auswertung der moralischen Lage von Digitalien zur Hand, die aus allen Präferenzen, Wünschen, Einschätzungen und Verhaltensweisen der anderen errechnet wird.
Das Netzwerk wird zum «unparteiischen Zuschauer» und zum Vergleichsmassstab unseres individuellen moralischen Verhaltens. Das führt nicht nur zu «Mainstreaming», sondern womöglich auch zu Intoleranz auf dem kleinsten gemeinsamen Nenner. Und es birgt gar die Chance auf eine ethische Zwischenebene, die uns – gottgleich – signalisiert, was erwünscht und unerwünscht, zu tun oder zu lassen ist. Die Schnittstelle zwischen Entscheiden und Handeln ist ja direkt in unserem Hirn angesiedelt. Und sie ist für uns unbeobachtbar. Freeman Dyson hat diesen Prozess 1988 in seinem Buch «Infinite in all directions» beschrieben: «God is what mind becomes when it has passed beyond the scale of our comprehension.» Der Gott des total vernetzten Zeitalters ist der Mittelwert aus der Summe aller Berechnungen. Es ist der Googlem. Und damit sind wir es selbst.
Vielleicht ist das alles Unsinn. Vielleicht kommt alles anders. Denn eine Idee, die einmal in der Welt ist, ändert immer auch den Verlauf dieser Welt. In seinem Essay aus dem Jahr 1993 «The Coming Technological Singularity» schrieb Vernor Vinge: «Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended.» Diese Prognose galt für das Jahr 2023. Wir dürfen spekulieren, ob die Chancen ihrer Verwirklichung noch gegeben sind oder ob Vinge sich geirrt hat wie so viele mit ihm.
Die Zeitschrift «New Yorker» hat kürzlich ihre Leser gebeten, Vorschläge für den allerletzten Tweet aller Zeiten zu machen. Sozusagen für das Szenario, wenn der neue Golem uns veralteten Menschen den letzten virtuellen Zettel aus dem Mund nimmt. Es sind viele schöne Ideen eingegangen, eine davon lautete: «Don’t worry, all is well. It’s just another new beginning.»
siehe auch: NZZ v. 11. Juni 2012