Recherche – Detailansicht
Ausgabe: | Juni/2023 |
Spalte: | 610-613 |
Kategorie: | Philosophie, Religionsphilosophie |
Autor/Hrsg.: | Precht, Richard David |
Titel/Untertitel: | Künstliche Intelligenz und der Sinn des Lebens. |
Verlag: | München: Wilhelm-Goldmann-Verlag (Verlagsgruppe Random House) 2020. 251 S. Geb. EUR 18,00. ISBN 9783442315611. |
Rezensent: | Dirk Evers |
Neben dem angegebenen Titel in dieser Rezension besprochen:
Otte, Ralf: Maschinenbewusstsein. Die neue Stufe der KI – wie weit wollen wir gehen? Frankfurt a. M.: Campus Verlag 2021. 248 S. Geb. EUR 27,95. ISBN 9783593514703.
Die beiden hier zusammen zu besprechenden Bücher sind eher das, was man populärwissenschaftliche Literatur nennt. Sie sind keine eigentlich akademischen Beiträge, sondern zielen auf das breite Publikum und wollen profilierte Thesen in einen öffentlichen Diskurs einspeisen. Der Diskurs, auf den sie zielen, ist derjenige um die Möglichkeiten und Folgen der Digitalisierung immer weiterer Bereiche unseres Lebens. Die Ausgangspunkte und Thesen sind durchaus verschieden, doch auch in ihrem Zusammenspiel inter-essant und zudem in der Absicht vergleichbar, den Nachweis einer fundamentalen Differenz zwischen Mensch und Maschine zu führen.
Der Autor des Buches »Maschinenbewusstsein«, Ralf Otte, ist Professor für Industrieautomatisierung und Künstliche Intelligenz (=KI) an der Technischen Hochschule Ulm und ist schon 2011 mit einem Buch zur Systemtheorie des Geistes in Erscheinung getreten, das einen mathematisch-kybernetischen Zugang zum Leib-Seele-Problem vorschlug. In gewisser Weise ist das Buch als eine Fortsetzung dazu zu verstehen, insofern es auf diese früheren Überlegungen zurückkommt und sie nun auf die Debatte um KI bzw. Künstliches Bewusstsein anwendet. O. versteht sich als Ingenieur, der erfahren ist mit der technischen Anwendung von KI und insofern auch mit ihrer mathematischen Beschreibung. Die Grundthesen seines Buches sind schnell beschrieben. Maschinen mit KI simulieren bestimmte Formen von Intelligenz, doch an menschliche Formen von Intelligenz werden sie (vermutlich) nie heranreichen. Spekulationen über eine nahe »Singularität«, das heißt den Kipppunkt, wenn künstliche Systeme sich selbst so optimieren, dass sie Superintelligenz entwickeln und den Menschen dominieren oder gar verdrängen werden, entbehren deshalb nach O. jeder Grundlage. Doch zugleich stehen wir vor einer neuen Schwelle in der Entwicklung intelligenter Maschinen, die eigene Formen von Bewusstsein entwickeln und nicht nur menschliches Bewusstsein imitieren können und sollen, eben »Maschinenbewusstsein«. Angesichts dieser Entwicklung möchte O. eine gesellschaftliche Debatte anregen über die Frage, wieweit wir solche Maschinen überhaupt entwickeln wollen. Er selbst warnt davor, die Entwicklung zu weit zu treiben und sieht hier die Gefahr eines Transhumanismus, für den er bei herkömmlicher KI noch Entwarnung gegeben hat. Insofern möchte er sein Buch als eine Hilfe »für Entscheider und Politiker« (12) verstanden wissen.
Der gut lesbare und verständliche Band beginnt im 1. Kapitel mit der Definition wichtiger Fachbegriffe. Dazu gehört natürlich zunächst und zuerst das Konzept der KI. Als Techniker geht es ihm um intelligentes Verhalten von Systemen, und als Minimalbedingung von KI kann gelten, dass entsprechende Systeme mit Hilfe logischer Folgerungsprozesse »auf Umgebungseinflüsse angemessen […] reagieren« (19) können und dies mit Hilfe selbstständig generierter Regeln tun. Dies hat zur Entwicklung lernender Systeme geführt, bei denen sich die Frage stellt, ob ihnen Bewusstsein zugeschrieben werden kann. Dies ist nach O. anhand empirischer Befunde nicht entscheidbar, sondern erfordert grundsätzliche Überlegungen. Für ihn ist Bewusstsein im Bereich des Immateriellen anzusiedeln, das schon die Gesetze der Physik mitbestimmt, und es ist in seinen höheren Formen nicht an die Intelligenz, sondern an die Komplexität eines Systems gebunden. Der Bereich des Immateriellen aber wird mathematisch beschrieben mit Hilfe imaginärer Zahlen, die etwa für den quantenmechanischen Formalismus unverzichtbar sind.
Das 2. Kapitel stellt dann ausführlicher die Möglichkeiten, Grenzen und Gefahren der gegenwärtigen KI vor. Es ist sehr zu begrüßen, dass O. als KI-Forscher die grundsätzlichen Grenzen so klar benennt und dabei nicht nur auf Kurt Gödel und Berechenbarkeit gemäß der Church-Turing-These, sondern auch auf Searles Gedankenexperiment des Chinesischen Zimmers und Hubert Dreyfus’ Kritik aus den Anfängen der KI eingeht. Schon in Bezug auf die gegenwärtige KI plädiert O. angesichts der Monopolbildung durch Konzerne für Regulierungen. Das 3. Kapitel stellt dann die Entstehung von spezifischem Maschinenbewusstsein als möglich und technisch sinnvoll dar. Nach O. dürfte hier die technische Implementierung von Wahrnehmung eine entscheidende Rolle spielen, die nicht algorithmisch prozessiert wird (Machine Sensing) und nach O.s Schätzung ab 2030 auf den Markt kommen wird. Notwendig wären dazu neuromorphe Computer, die nicht gemäß einer Von-Neumann-Struktur mit zentraler Recheneinheit und separaten Speichern aufgebaut sind, sondern dezentrale »Sinnesorgane« für die klassische KI bereitstellen. Quantencomputer kämen hier als Kandidaten in Frage. Solche »bewusst« wahrnehmenden, aber noch willen- und interesselosen Computer, so das 4. Kapitel, könnten echtes, semantisches Verstehen (Maschinenbewusstsein) und nicht nur implizites Wissen hervorbringen und damit neue, selbstständige Roboter möglich machen, während das allgemeine Datennetz weiter die klassischen Formen von KI benutzt. Die Gefahren solcher Technologie liegen für O. in ihrer Intransparenz, erweiterten Möglichkeiten von Überwachung sowie unkontrollierbaren militärischen Anwendungen.
Die Kapitel 5 und 6 erörtern dann die Möglichkeiten und Gefahren eines Verschmelzens maschineller und biologischer Einheiten (KI-Chimären), die über solche »Verleiblichung« zur Entstehung von Emotionen und Willensakten der Systeme führen und bei direkter Verbindung mit menschlichen Körpern und Gehirnen unsere Lebensform als Menschen fundamental verändern könnten. Das würde auch zu neuen Formen von Wirklichkeitserleben und Weltanschauung führen – O. spricht von neuen Religionen und einem »Kampf der Glaubenssysteme« (223), wenn anerkannt werden muss, dass es immaterielle Zustände in der Natur gibt, die sich durch geschickte Konzentration zu Bewusstsein verdichten und sich mit biologischen Systemen verbinden lassen. Den daraus erwachsenden transhumanistischen Gefahren gelte es nach O. auch zu wehren durch entsprechende gesetzliche Regelungen bezüglich der Entwicklung und des Einsatzes solcher Technologie. Bildung allein dürfte jedenfalls angesichts eines verbreiteten »mathematischen Analphabetismus« (165) kaum gegensteuern können.
Das zweite Buch zum Thema stammt von dem bekannten Publizisten und Philosophen Richard David Precht. Es kommt, was den Sprachduktus angeht, noch einmal essayistischer daher und ist mit seinen Thesen deutlich politischer als O. Es handelt sich durchweg um einen kapitalismuskritischen Essay, der ohne ein Inhaltsverzeichnis oder eine Inhaltsübersicht auskommt. Entsprechend locker ist das Buch strukturiert. P. setzt ein mit der Alternative: entweder Überwindung des Kapitalismus oder Überwindung des Menschen. Damit ist das sich durchhaltende Szenario gesetzt: Die durch den Kapitalismus befeuerte Digitalisierung wird zur Abschaffung des Menschen in seiner »menschlichen« Form führen, wenn sie nicht auf der Grundlage einer Überwindung des Kapitalismus, das heißt dem Ausstieg aus dem sich imponierenden »gnadenlosen Prozess des Wachstums« (9), befriedet wird. Gegen die KI werden dann »Pflanzen, Tiere und Menschen […] als das Andere der künstlichen Intelligenz« (29) in Stellung gebracht, letztere vor allem mit ihren empfindsamen, emotionalen Seiten, mit ihren Interessen und Werten sowie ihrer Frage nach dem Sinn. P. stellt dann ausführlich den Nutzen von KI in Frage und sieht ihre »Entfesselung« (40) vor allem vor dem Hintergrund der Entwicklung des Kapitalismus, der alles dem Imperativ der Vernutzung unterwirft. Deshalb sei auch als eigentlicher »Treiber der technischen Entwicklung« nicht die »unbestimmte Neugier, sondern die kanalisierte Neugier auf zukünftige Technologie, aus der neue Geschäftsmodelle entstehen sollen« (77), anzusehen. Die Versprechen transhumanistischer und posthumanistischer Technologie werden dann von P. anhand populärer Vertreter wie Nick Bostrom, Ray Kurzweil und anderer als »wissenschaftlicher Humbug« (103) vorgeführt, insofern sie sich auf eine Fortsetzung der Evolution mit anderen Mitteln berufen, die als solche aber weder Absichten noch Ziele kennt. Das Konzept einer Superintelligenz und der Singularität wird ebenso als Mythos entlarvt, aber zugleich festgehalten, dass uns die KI auf eine ganz andere Art über den Kopf wachsen wird als durch Unterwerfung unter ihren Willen. Das eigentliche Problem identifiziert P. in der Reduzierung des Lebens auf Problemlösen, dem sich der auf Problemvermeidung ausgerichtete Mensch nur allzu leicht unterwirft. Das wird dann zur Auflösung von Moral und Werten führen, die eng mit unserem Selbstwertgefühl und Selbstbild verbunden sind. Denn Maschinen sind selbst zu Ethik nicht fähig. Sie sind auch nicht »ethisch programmierbar, sondern nur unser Umgang mit ihnen kann und muss ethisch begründet sein. Damit kritisiert P. auch Versuche, Maschinenethik etwa nach dem Vorbild des Benthamschen Utilitarismus zu entwerfen. Die damit verbundene Problematik führt er sehr schön an der Frage einer ethischen Programmierung im Zusammenhang des autonomen Fahrens sowie in der Waffentechnologie vor. Dabei kann er sich eng an die Überlegungen der Informatikerin Katharina Zweig anschließen, die an der TU Kaiserslautern über Algorithm Accountability forscht.
P. schließt mit Überlegungen zu den gesellschaftlichen Folgen einer freigelassenen Dynamik digitalisierter Technik und sieht in deren Fluchtlinie den langfristigen Umbau »von der liberalen Demokratie zur vorausschauenden Sozialtechnik« (226). Als Fazit steht dann die Mahnung, angesichts dieser Dynamik »präventiv zu handeln« (227). Das aber erfordert einen »Mentalitätswechsel« (229), durch den wir Grenzen akzeptieren lernen und der das Bewusstsein vieler Menschen stark verändern muss. Bei den konkreten Forderungen gesteht P. zwar die Nützlichkeit mancher Formen von KI zu, mahnt aber das vorrangige Recht auf informationelle Selbstbestimmung und eine humane Gestaltung künftiger Arbeitsbedingungen und Arbeitsverhältnisse an. Doch angesichts seiner Analyse, dass sich die »Frage nach der technischen Zukunft auf verstörende Weise von der Frage nach dem Sinn des Lebens gelöst« (22) hat, gilt es darüber hinaus die für den Bewusstseinswandel nötigen »Bilder eines gelungenen Menschseins« (241) nicht in den fernen Verheißungen eines kapitalismusgetriebenen Transhumanismus, sondern irgendwie hier auf dem Planeten Erde zu suchen und zu finden – eine doch recht unbestimmt bleibende Ressource.
Beide vorgestellten Bücher sind eher leichte, aber anregende und informative Lektüre, bei denen man, wie in diesem Genre üblich, Zuspitzungen im Interesse der vertretenen These in Rechnung stellen muss.