Macht der Computer und Ohnmacht der Vernunft

Termin: 29. Oktober 2013, 15.15 Uhr

Ort: Seminargebäude, SG 3-10

Ankündigung

"Macht der Computer und Ohnmacht der Vernunft" (engl.: Computer Power and Human Reason: From Judgment To Calculation) - unter diesem Titel veröffentlichte Joseph Weizenbaum 1976 ein Buch, das die technischen Visionen der "starken KI" der 1960er Jahre einer grundlegenden Kritik unterzog. Wesentliche Argumente werden in einer Besprechung des Buchs durch den Technikphilosophen Klaus Kornwachs aufgenommen und in einer kurzen Zusammenschau dargestellt.

Im Mittelpunkt der Diskussion soll vor allem die Frage der "starken KI" stehen, ob es denkbar, wünschenswert oder auch nur absehbar ist, dass Computer dem Menschen ebenbürdige Partner werden (können). Zu bedenken ist dabei vor allem, dass Computersysteme mit Fähigkeiten, die menschliche Fähigkeiten übersteigen, ja gerade von Menschen erdacht worden sind und werden, um die menschlichen Fähigkeiten zu erweitern.

Hans-Gert Gräbe, 05.10.2013

Anmerkungen

Ziel des Seminars war eine "Generaldebatte", um sich der Wege und Zugänge zu versichern, die wir bei der weiteren vertieften Behandlung einzelner Aspekte der von Weizenbaum aufgeworfenen Problematik im Auge behalten müssen. Ziel ist es, auf diesen Wegen fundiert kritische Positionen zu entwickeln, die uns im Alltag nur allzu oft als "Selbstverständlichkeiten" gegenübertreten oder verkauft werden.

Der englische Titel "Computer Power and Human Reason" und vor allem der Untertitel "From Judgement to Calculations" bringt Weizenbaums Problematik wesentlich deutlicher zum Ausdruck als die deutsche Übersetzung des Titels. Und es war auch die Frage, welche Rolle "kalkulierte Wirkungen" als zentrales Mittel wissenschaftlich-industrieller Welt-(Um)-Gestaltung heute haben und welche Sprengkraft ihnen innewohnen kann.

Der Blick von der zweiten auf die dritte Person, vom Du auf Ihn, der Versicherungsangestellten auf den Kunden, dem sie eine Wirkung erläutern muss - "der Computer lässt mich Ihnen eine solche Versicherung nicht ausstellen" -, sollte nicht die Perspektive verstellen, dass in anderen Konstellationen jede(r) selbst ein solches Du oder Er/Sie ist.

Intensiv diskutiert wurde die Frage der "dritten Person", wie weit eine solche "Verobjektivierung" von Tatbeständen als Ausfluss wissenschaftlich-rationalen Argumentierens sich gegen Menschen richten kann und richtet. Dass hierfür nicht erst ein menschenverachtendes politisches System benötigt wird, das mit Auschwitz die Schlachthoftechnologien auf Menschen anwendete, oder Denkspiele, wie sie Edward Teller 1961 entwickelte, mit fortschreitender Militärtechnik und der Herabsetzung von Hemmschwellen gefährlich nahe an die Realität heranrücken, belegen Tschernobyl und Fukushima (wobei letzteres noch nicht zu Ende ist). Die Konsequenzen jener Möglichkeit, dass ER, der bedauerlicherweise kollateral Betroffene ("wo gehobelt wird, da fallen Späne"), nicht nur ICH sein kann, sondern die ganze Menschheit auf dem Spiel jener wissenschaftlich-rationalen Denkweise steht, werden weiter zu diskutieren sein.

Etwas kurz kam die "zweite Person" weg, denn jenseits des mitleidigen Blicks auf jene Versicherungsangestellte oder jene Sekretärin (immerhin wurde in Erwägung gezogen, dass es nicht ausschließlich Frauen beträfe) ob ihres naiven Verhältnisses zur Technik wurde das Phänomen wenig selbstbezüglich personalisiert. Ja, es gibt genug "naive" Menschen auf dieser Welt - aber wie steht es mit mir selbst? Gibt es Grund, die Annahme zurückzuweisen, dass ich selbst in vielen Fällen ähnlich naiv argumentiere, ohne dies auch nur zu bemerken? Und wenn Sie die Frage mit "Nein" beantworten, also eine solche Naivität ins Kalkül ziehen, wie gehen Sie damit um? Hier geht es dann wirklich ans Eingemachte und der (noch) etwas distanzierte Blick einiger Seminarteilnehmer auf die scheinbar abgefahrene Seminar-Debatte weicht einer hoffentlich aktiveren Teilnahme.

• Moral für Ungeheuer. Edward Teller und die Neutronenbombe. Spiegel 13.09.1961.
• offene-akademie.de zu den Gefahren von Fukushima.