Computer im Spannungsfeld zwischen Mensch und Menschheit

Termin: 30. April 2013, 15.15 Uhr

Ort: Seminargebäude, SG 1-10

Ankündigung

Im Mittelpunkt der Diskussion des letzten Seminars stand die Frage der "starken KI", ob es denkbar ist, dass Computer dem Menschen ebenbürdige Partner werden (können). Die Debatte blieb unbefriedigend, da einerseits unbestritten ist, dass Computer als Teil technischer Artefakte (etwa Bremssysteme im Auto) zu Leistungen fähig sind, welche in den jeweiligen Anwendungskontexten die menschlichen Fähigkeiten weit übersteigen.

Ein zentrales Problem ließ sich von dem im Seminar bezogenen Ausgangspunkt, dass Menschsein primär durch die individuellen menschlichen Fähigkeiten bestimmt ist, nicht zufriedenstellend angehen: Computersysteme mit Fähigkeiten, die menschliche Fähigkeiten übersteigen, sind ja gerade von Menschen erdacht worden, um die menschlichen Fähigkeiten zu erweitern.

In der aktuellen Diskussion wollen wir untersuchen, ob das Problem aus der Warte des "Menschen als Gattungssubjekt" bzw. des "gesellschaftlichen Menschen" (im Sinne der 10. Feuerbachthese) anders angegangen werden kann. Basis der Diskussion ist der Film "A.I." von Steven Spielberg.

Hans-Gert Gräbe, 26.04.2013

Nachbemerkungen

Wir haben uns leider auch in der zweiten Diskussion kaum von den Fragestellungen der 1960er Jahre entfernt, die bereits in Weizenbaums Buch sehr fundamental kritisiert werden. Wahrscheinlich wäre es hilfreich gewesen, zunächst einmal eine solche Argumentation zu lesen, etwa das einführende Kapitel "Kybernetische Anthropologie" in [1], um zu verstehen, gegen welche Argumentationslinien sich Weizenbaum überhaupt wendet. Heutige Debatten über eine "Nachhaltige Informationsgesellschaft" sind aber ohne diesen Hintergrund wenig verständlich.

Weizenbaum stellt seine zentrale Frage nach der Zulässigkeit des "Übergangs vom vernünftigen Urteil zur schieren Berechnung, ja die Ersetzung des menschlichen Urteils durch die Entscheidung, die an einen Computer delegiert wird" (Zitat aus Kornwachs) auf dem technischen Hintergrund der 1960er Jahre. Dieser ist geprägt durch die Sicht auf die compute power eines Einzelplatzrechners, mit dem theoretischen Bild der von-Neumann-Maschine im Hintergrund und damit einem speziellen Verständnis von "Berechnung", das auch heute noch weite Teile der theoretischen Informatik beherrscht. Die Konzepte "Regelkreis" und "Regelung" sind zentrale Erfindungen und Entdeckungen der Ingenieurwissenschaften jener Zeit.

Kornwachs weiter (Zitate aus Weizenbaum)

Es seien dies Maschinen, die das Selbstverständnis des Menschen bestimmten, wegen seiner Sterblichkeit sei der Mensch hinsichtlich der Funktion und Reichweite zum Lehrer geworden. Er wird durch Machbarkeit zum Architekten der Welt: „Es ist diese selbst geschaffene Welt, der das Individuum als einer scheinbar außer ihm liegenden Macht begegnet. Aber es enthält sie in sich; was ihm gegenübersteht, ist sein eigenes Modell eines Universums und, der er ein Teil darin ist, auch durch sein eigenes Modell, das er von sich erstellt hat“ (S. 35). Bei Weizenbaum symbolisieren Instrumente die Tätigkeiten, die mit ihnen durchgeführt werden können. Entscheidend ist hier: „Ein Werkzeug ist immer zugleich ein Modell für seine eigene Reproduktion und eine Gebrauchsanweisung für die erneute Anwendung der Fähigkeit, die es symbolisiert.“ (S. 36)

Obwohl Bedürfnisse und maschinelle Möglichkeiten eng verkoppelt seien, und vielfach Aufgaben ohne technische Hilfsmittel (z. B. den Computer) als nicht lösbar angesehen würden, seien komplizierte und komplexe Projekte wie der Bau der Atombombe oder das Apollo-Projekt auch ohne die exorbitante Rechenkapazität heutiger Computer zu bewältigen gewesen. „Der Computer wird zum unentbehrlichen Bestandteil der Struktur, sobald er total in die Struktur integriert ist, ..., dass er nicht mehr herausgenommen werden kann, ohne unweigerlich die Gesamtstruktur zu schädigen. Das ist im Grunde eine Tautologie. Ihr Nutzen besteht darin, dass sie uns die Möglichkeit ins Bewusstsein ruft, dass bestimmte menschlichen Handlungen, z.B. die Einführung von Computern in irgendwelche komplexen menschlichen Unternehmungen, eine Abhängigkeit schaffen können, die nicht mehr rückgängig zu machen ist.“ (S. 50)

Die theoretischen Mittel, die Möglichkeiten von Berechnungen in einem solchen System des distributed computing darzustellen, sind mit dem Konzept der Petri-Netze bereits in den 1960er Jahren gelegt worden (so wie der von-Neumann-Rechner und das dazu äquivalente Konzept der Turingmaschine auch nicht erst in den 1960er Jahren erfunden wurden). In der Form von Zustands- und Zustandsübergangsdiagrammen sind diese Konzepte heute im ingenieurtechnischen Alltag angekommen.

Was aber bedeutet es, Berechnungsmöglichkeiten in diesem Sinne zur Verfügung zu haben? Wird damit nicht nur der Mensch obsolet (im Sinne der These der starken KI - der Computer als der bessere Mensch), sondern auch die Menschheit als ein archaisches Zwischenprodukt der Evolution, deren Ding die Perfektion der verteilten Berechnung leider nicht ist, die also in einem wirklich perfekten System eine letztlich zu eliminierende Störgröße ist [3]? Diese Frage bekommt besondere Brisanz in einer Gesellschaft, die selbst das Menschenbild des homo oeconomicus, also des berechnenden Menschen, als zentralen Baustein ihres Selbstverständnisses befestigt hat. Der kategorische Imperativ der 10. Feuerbachthese rückt damit im Zentrum jedes Versuchs, die Menschheit vor der eigenen Selbstvernichtung zu bewahren.

Wie ist Weizenbaums Frage nach der Zulässigkeit des "Übergangs vom vernünftigen Urteil zur schieren Berechnung" heute zu stellen, welche Antworten taugen auch heute, welche sind aus der Sicht eines so erweiterten Berechenbarkeitsbegriffs zu verwerfen. Dies sollten wir im weiteren Verlauf des Seminars als Leitfrage nicht aus dem Auge verlieren.

• [1] Karl Steinbuch: Automat und Mensch. Springer Verlag, Berlin 1971. (4. Auflage)
• [2] Karl Steinbuch: Die informierte Gesellschaft. Deutsche Verlags-Anstalt, Stuttgart 1966.
• [3] 2001 - Odyssee im Weltraum. Stanley Kubricks Klassiker aus dem Jahre 1968.