Computer, die besseren Menschen?

Termin: 11. April 2017 15.15 Uhr

Ort: Seminargebäude, SG 3-10

Thema: "Macht der Computer und Ohnmacht der Vernunft" - Computer, die besseren Menschen?

Diskussion auf der Basis eines Texts von Klaus Kornwachs.

Ankündigung

"Macht der Computer und Ohnmacht der Vernunft" (engl.: Computer Power and Human Reason: From Judgment To Calculation) - unter diesem Titel veröffentlichte Joseph Weizenbaum 1976 ein Buch, das die technischen Visionen der "starken KI" der 1960er Jahre einer grundlegenden Kritik unterzog. Wesentliche Argumente werden in einer Besprechung des Buchs durch den Technikphilosophen Klaus Kornwachs aufgenommen und in einer kurzen Zusammenschau dargestellt.

Im Mittelpunkt der Diskussion soll die Frage stehen, was denn die Menschen von einer solchen Entwicklung zu erwarten haben.

Hans-Gert Gräbe, 27.03.2017

Anmerkungen

Kornwachs zitiert Weizenbaum mit einem ernsten Problem:

Dass unsere Gesellschaft sich zunehmend auf Computersysteme verlässt, die ursprünglich den Menschen beim Erstellen von Analysen und Entscheidungen 'helfen' sollten, die jedoch seit langem das Verständnis derjenigen übersteigen, die mit ihnen arbeiten und ihnen dabei immer unentbehrlicher werden, das ist eine sehr ernste Entwicklung.

Eine wichtige Rolle spielt hierbei der verschieden institutionalisierte Bereich der Technikfolgenabschätzung. Chancen und Risiken von Technikeinsatz sind dort interpersonal zu verhandeln und Handlungsmaxime mit Normen und Werten zu untersetzen. Technikfolgenabschätzung kann dabei nicht allein auf solche Institutionen ausgelagert werden, sondern jeder Ingenieur und jeder Programmierer muss sich hier Verantwortung zurechnen lassen, vor allem als Bürger.

Zentrale Verständigungsmittel einer solchen Technikfolgenabschätzung ist Sprache (in all ihren Schattierungen von Alltagssprache bis Fachsprache). Der Hinweis auf eine "sehr ernste Entwicklung" ist damit zugleich Kritik der Möglichkeiten von Sprache an sich. In der Diskussion wurde deutlich, dass eine solche Sicht auch aus der Gegenüberstellung von Mensch und Technik und einer Sicht auf Technik als relativ autonome Systeme resultiert. Neben einem funktionalen Zugang, der ein technisches System als etwas Externes auffasst, ist auch ein stärker systemischer Zugang der Mensch-Maschine-Interaktion denkbar. Ein solcher Zugang spielt im Design moderner betrieblicher Informationssysteme eine zunehmend wichtige Rolle, indem das Zusammenspiel organisationaler und technischer Prozesse stärker einer Beschreibungsebene zugänglich wird. IT und Informationssysteme sind Geschäftsprozessen zugeordnet und unterstützen diese. Damit werden Interessen und Bedürfnisse in solchen Entwicklungsprozessen (wieder) deutlicher sichtbar. Flankiert wird diese Entwicklung vom engeren Zusammenrücken der vormals separaten Disziplinen des Software Engineering und des Systems Engineering.

Überbetrieblich spielt dagegen im allgemeinen Verständnis vor allem die regulierende Wirkung der "blinden Marktkräfte" eine dominierende Rolle, deren Wirkung man versucht, mit entsprechenden Prognoseinstrumenten wenigstens zum Teil beschreibungsmäßig zu fassen und zu internalisieren.

Weizenbaums Kritik, insbesondere auch das Bild des "zwanghaften Programmierers", welches er mit dem "zwanghaften Spieler" vergleicht, wird damit der Komplexität der heute existierenden gesellschaftlichen Institutionen zur Einbettung von IT-Prozessen in menschliche Lebensprozesse nicht mehr gerecht. Die Probleme sind nicht kleiner geworden, die Kritik aber muss heute komplexer gefasst werden.

Weiterführende Literatur:

• R. Capurro (1992): Informatik: Von der Technokratie zur Lebenskunst.