Nach uns die Roboter? (September 2000)

Hinter harmlosen Formulierungen vom Zeitalter spiritueller Maschinen oder der Evolution postbiologischen Lebens verbirgt sich die Voraussage, die Menschheit sei drauf und dran, sich selbst überflüssig zu machen. Steuern wir auf die unabwendbare Machtergreifung der Maschinen zu?

Nein, wir müssen nicht befürchten, im Kochtopf superintelligenter Roboter zu landen, wie man aufgrund von Berichten über fleischfressende Maschinen (siehe macmagazin 10.2000, Seite 142–145) befürchten könnte, und wir werden auch nicht im ruppigen Borg-Stil – „Widerstand ist zwecklos, Sie werden assimiliert!“ – zu Cyborgs transformiert werden. Die Roboter kommen auf leisen Sohlen, und sie kommen als unsere Freunde, jedenfalls wenn man den Prophezeiungen des Robotik-Spezialisten Hans Moravec („Computer übernehmen die Macht. Vom Siegeszug der künstlichen Intelligenz“, Hoffmann und Campe 1999) oder des Erfinders Ray Kurzweil („Homo S@piens. Leben im 21. Jahrhundert. Was bleibt vom Menschen?“, Kiepenheuer & Witsch 1999) folgt.

Zehnjahrespläne

Moravec (und ganz ähnlich Kurzweil) entwirft einen Zeitplan, der in Zehn-Jahres-Schritten zu einer dem Menschen gleichwertigen und schließlich überlegenen künstlichen Intelligenz (KI) führt, bis die sich in einer künstlichen Evolution immer weiter entwickelnden Roboter das Universum erobern und schließlich ein weltallumspannender Cyberspace die Raumzeit überwuchert.

Universelle Roboter der ersten Generation, die Moravec in der nahen Zukunft von heute bis zum Jahr 2010 kommen sieht, sollen, gesteuert von Computern mit der Leistung eines Reptiliengehirns, in Fabriken, Lagerhallen, Büros und Privathaushalten einfache Hilfsarbeiten eigenständig verrichten. Spezielle Programme sollen sie in die Lage versetzen, Räume zu reinigen, Lager zu verwalten, andere Roboter zusammenzusetzen, Mauern aus Ziegelsteinen zu errichten oder Feinschmeckermahlzeiten zuzubereiten. Der nächste Zehnjahresplan für die Roboter der zweiten Generation (2010–2020) sieht Roboter mit einer künstlichen Intelligenz von Säugetierniveau vor, die über eine gewisse Lernfähigkeit verfügen. Statt starre Programme auszuführen, explorieren sie so lange Alternativen, bis sie zum Erfolg kommen. Auch für gänzlich neue Aufgaben sollen sie sich vom Menschen „abrichten“ lassen. Die Roboter der dritten Generation (2020–2030) mit der Intelligenz eines Primaten können ihre Umwelt modellieren und mit den so gewonnenen Simulationsmodellen Handlungsalternativen durchspielen, bevor sie sie in der vielleicht lebensbedrohlichen Realität erproben. Indem ein Roboter eine Simulation schneller als in Echtzeit ablaufen lässt, kann er nachteilige Folgen seiner Absichten rechtzeitig erkennen und seine Pläne darauf abstimmen. Statt auf neue Aufgaben abgerichtet zu werden, könnte der Roboter ein Verhalten selbständig nachahmen, das ihm ein Mensch oder ein anderer Roboter vormacht. Roboter der vierten Generation (2030–2040) werden über eine dem Menschen ebenbürtige Intelligenz verfügen; sie werden zu nahezu beliebigen Zielvorgaben wie „Verdiene deinen Lebensunterhalt!“ oder „Baue einen klügeren Roboter!“ Pläne entwickeln und ausführen können.

Technologiefolgenabschätzung

An diesem Punkt stellt sich Moravec die naheliegende Frage, welche gesellschaftlichen Auswirkungen die Verfügbarkeit intelligenter Roboter hätte, die alle Arbeiten in der industriellen Produktion und der Landwirtschaft übernehmen und die menschliche Arbeitskraft überflüssig machten. Die sozialen Sicherungssysteme von Staaten wie den USA bieten seiner Einschätzung nach die Mechanismen, um die Konsequenzen einer solchen Entwicklung abzufedern. Der zunehmenden Arbeitslosigkeit könnte der Staat mit einem immer niedrigeren Rentenalter begegnen, bis schließlich alle oder wenigstens die Mehrzahl der Bürger lebenslange Rentenempfänger wären. Zur Finanzierung dieses Rentenmodells diente eine (von Moravec nicht so genannte) Robotersteuer, die alle mit Robotereinsatz erwirtschafteten Gewinne abschöpfte.

Die zwangsweise in den Ruhestand versetzte Menschheit wäre damit am Ende ihrer Entwicklung angelangt. Selbstreplizierende Roboter und aus menschlichen und maschinellen Teilen zusammengesetzte Cyborgs würden hingegen im Weltall neue Abenteuer suchen, und sich Verlauf der Jahrmillionen über das gesamte Universum verbreiten, bis die gesamte Raumzeit mit maschinellem Leben erfüllt wäre.

Spirituelle Maschinen

Ray Kurzweil sieht zudem in der immer leistungsfähigeren Roboterintelligenz „spiritueller Maschinen“, gepaart mit Fortschritten in der Nanotechnologie, eine Chance, unseren eigenen Intellekt besser zu verstehen. Nanoroboter, eingeschleust in unsere Blutbahn, könnten unser Gehirn vollständig scannen und aus Siliziumschaltkreisen nachbauen. Dank der größeren Arbeitsgeschwindigkeit eines solchen Siliziumgehirns würde es das Original übertreffen, vor allem aber könnten wir anhand des Modells viel besser verstehen, wie der menschliche Verstand arbeitet. Es sollte auch möglich sein, Fähigkeiten wie das Beherrschen einer Fremdsprache oder Fachkenntnisse auf einem bestimmten Gebiet aus einem Gehirn mit diesen Fähigkeiten auf einen Chip zu kopieren und diesen in ein anderes Gehirn zu implantieren – jahrelange mühsame Studien könnten dann durch den Einschub eines weiteren Wissensmoduls ersetzt werden.

Reality check

Wie ernst sollen wir solche Spekulationen nehmen? Die Fähigkeit des Menschen, die Zukunft vorherzusagen, ist notorisch schwach entwickelt, und Voraussagen über mehrere Jahrzehnte sind durchweg unseriös. Wer sich in der ersten Hälfte des zwanzigsten Jahrhunderts das Jahr 2000 vorstellte, sah androide Serviceroboter, menschliche Ansiedlungen auf anderen Planeten und Individualverkehr im Luftraum der Städte voraus, wahlweise auch den Dritten Weltkrieg und die atomare Vernichtung der Menschheit. Während sich keine dieser Erwartungen erfüllt hat, haben uns Futurologen wie Science-Fiction-Autoren weder auf PCs in jedem zweiten Haushalt noch auf die weltweite Vernetzung dieser Computer durch das Internet vorbereitet. Erst recht hätte kein Zukunftsforscher vorausgesehen, dass sich eine antiquierte Technologie wie das Fahrrad noch im Jahr 2000 großer Popularität erfreuen und sich gar erwachsene Menschen auf Tretrollern durch die Straßen der Großstädte bewegen würden. Die Erfahrungen mit der Futurologie lehren nur eines – daß die Zukunft auch weiterhin verspricht, spannend zu bleiben.

In der Fortschreibung aktueller Entwicklungen verengt sich Moravecs und Kurzweils Blick auf die westlichen Industrienationen, die allein die wirtschaftliche Kapazität aufbringen, eine Technologie künstlich intelligenter Roboter zu entwickeln, und die allein wenigstens der Mehrzahl ihrer Bürger einen hinreichenden Wohlstand ermöglichen, um diese Technologie nutzen zu können. Aktuelle Technologien wie das Internet helfen nicht, das Gefälle zwischen Erster und Dritter Welt zu verringern, sondern lassen vielmehr einen Kontinent wie Afrika weiter in der technischen Entwicklung zurückfallen. Ebenso werden Moravecs immer intelligentere Robotergenerationen nur den Lebensstandard eines kleinen Teils der Weltbevölkerung mehren; Kurzweils Gedächtnisimplantate werden kaum die Lebenserwartung von Afrikanern heben, die heute nicht einmal einen so interessanten Markt für die pharmazeutische Industrie darstellen, dass sie mit ausreichenden Mengen simpler aber lebensrettender Medikamente versorgt würden.

Das Ende des Kapitalismus

Moravecs Vorstellungen darüber, wie die Gesellschaft auf den Siegeszug der Roboter in der produzierenden Industrie und die sich daraus ergebende Massenarbeitslosigkeit fertig werden könnte, setzen eine weltweit einheitliche Entwicklung voraus, würden aber wohl selbst die sozialstaatlichen Mechanismen der westlichen Industrienationen überfordern. Wenn Roboter das gesamte Bruttosozialprodukt erwirtschaften und die Menschen zu lebenslangen Rentenempfängern degradieren, müssen jegliche Gewinne der Unternehmen durch Steuern abgeschöpft werden – nur so vermag der Staat seinen Bürgern genügend Mittel auszahlen, damit sie wiederum in gleichem Umfang konsumieren und für neue Einnahmen der Unternehmen und folglich neue Steuereinnahmen sorgen können. Sparen würde ebenso wie Steuerhinterziehung die umlaufende Geldmenge verringern und müsste verboten werden. Da die Bürger nicht mehr für ihre geleistete Arbeit entlohnt werden, gäbe es keine Rechtfertigung für unterschiedlich hohe Rentenzahlungen – alle Bürger müssten finanziell gleichgestellt werden. Da die Gewinne der Unternehmen abgeschöpft werden, machte auch der geschäftliche Erfolg oder Misserfolg keinen Unterschied mehr; es spielte keine Rolle, ob die Produkte eines Unternehmens den Wünschen der Konsumenten entsprechen, wenn die Bilanz als plus/minus Null feststeht. So würde die Robotik schließlich Karl Marx’ Voraussage erfüllen, nach der jede Gesellschaftsform Produktivkräfte freisetzt, die sie am Ende sprengt: Das Ergebnis dieser Entwicklung wäre eine sozialistische Gesellschaft, in der es Wohlstand für alle, jedoch keinen Wettbewerb mehr gibt. Ob eine solche Gesellschaft aber den einmal erreichten Wohlstand halten kann, darf nach den bisherigen Erfahrungen bezweifelt werden.

Künstliche Intelligenz

Dabei ist alles andere als klar, ob die technische Entwicklung dem von Moravec vorgezeichneten Weg folgen wird, selbst wenn man davon ausgeht, daß es bei der Vertausendfachung der Rechenleistung alle 20 Jahre bleibt. Solche Entwicklungen verlaufen selten linear, und nicht jeder technisch mögliche Ansatz wird auch tatsächlich weiterverfolgt, der idealistischen Vorstellung einer unbegrenzten wissenschaftlichen Neugier zum Trotz. Die wissenschaftliche Neugier, und zumal die durch öffentliches Interesse und staatliche oder industrielle Fördermittel unterfütterte Neugier, ist sehr viel selektiver.

Gerade die KI-Forschung liefert Fallbeispiele für scheinbar aussichtsreiche Projekte, die letztlich in Sackgassen führten. Ende der 70er bis Mitte der 80er Jahre florierten Projekte privater wie staatlicher Forschungsinstitute, die sich die Entwicklung natürlichsprachlicher Schnittstellen zu verschiedenen Computeranwendungen, insbesondere Datenbanken, zum Ziel gesetzt hatten. Obwohl solche Schnittstellen offensichtliche Vorzüge gegenüber der damals dominierenden Eingabe kryptischer Befehlszeilen boten, konnten sie sich nicht durchsetzen: Mit der Einführung des Macintosh 1984 sowie Windows kurze Zeit später wurden Befehlszeilen durch Menüs und Dialogfenster abgelöst, die die Bedienung eines Computers viel grundlegender vereinfachten, als das natürlichsprachliche Schnittstellen geschafft hätten.

Selbst dort, wo sich Moravec auf seinem Fachgebiet, der Künstlichen Intelligenz, bewegt, können seine Thesen nicht unwidersprochen bleiben. Während er teilweise mit völlig unbegründetem Optimismus über das Ziel hinausschießt, erweisen sich seine Prophezeiungen in anderer Hinsicht als viel zu konservativ und bereits heute überholt. Moravecs Roboter der ersten Generation sind vielfach schon Realität, auch wenn sie, wie seine automatischen Erntemaschinen und Teppichweber, nicht als Roboter wahrgenommen werden. Der Feinschmeckermahlzeiten zubereitende Roboterkoch hingegen ist noch Fiktion und wird es wohl – auch mangels Nachfrage – in absehbarer Zeit bleiben.

Erst die Roboter der zweiten Generation sollen fähig sein, alternative Lösungsansätze auszuprobieren und aus Fehlschlägen zu lernen. Dazu ist allerdings kaum die dreißigfach höhere Rechenleistung vonnöten, von der Moravec ausgeht, denn ein solches Verhalten ist längst Stand der Technik und findet in der Robotik nur deshalb noch keine Anwendung, weil der Einsatz spezialisierter Maschinen derzeit ökonomischer erscheint. Roboter der dritten Generation sollen in der Lage sein, durch Simulation möglicher Handlungsweisen zu lernen, ohne das Risiko echter Experimente einzugehen, und auch diese Vorhersage greift gleichzeitig zu kurz und zu weit. In der Künstlichen Intelligenz, insbesondere im Bereich der Expertensysteme, sind quantitative und qualitative Simulationsmodelle ein alter Hut; schon in den 80er Jahren wurden solche Systeme realisiert. Moravec erwartet sich aber zu viel davon: Die simulierte Umwelt, in der sich Menschen und Tiere bewegen, und in der auch unbelebte Gegenstände, einschließlich anderen Robotern, auf nicht immer vorhersehbare Weise interagieren, wird immer komplexer sein als der Roboter selbst. Die erfolgreiche Ausführung eines Plans in einem vereinfachten Simulationsmodell garantiert keineswegs, dass dieser Plan auch in der Realität funktionieren wird. Könnte der Roboter das Verhalten eines Menschen simulieren und damit zutreffend vorhersagen, dann hätte der Roboter auch dessen Fähigkeiten – aber das nimmt selbst Moravec für die Roboter der dritten Generation nicht generell an. Erst recht ist nicht an eine erfolgreiche Simulation der kompletten Umwelt, gar schneller als in Echtzeit zu denken. Simulationsmodelle sind nützliche Werkzeuge, aber sie werden die Empirie nie ersetzen können. Völlig aus der Luft gegriffen erscheint da Moravecs These, Roboter der vierten Generation könnten komplexe Zielvorgaben wie „Verdiene deinen Lebensunterhalt!“ oder „Baue einen klügeren Roboter!“ in detaillierte Pläne umsetzen. Die KI-Forschung ist von Systemen mit solchen Fähigkeiten so weit entfernt wie eh und je; die auf ein Jahrzehnt genaue Terminierung der Verwirklichung solcher Systeme ist daher rein spekulativ und, von einem Experten mit solcher Chuzpe geäußert, unseriös.

Die Chancen zur Verwirklichung von Kurzweils Träumen von implantierbaren Wissenseinheiten stehen nicht besser. Das menschliche Gehirn ist kein Computer, es ist nicht modular und wartungsfreundlich aufgebaut, und es gibt keine standardisierten Formate für die Kodierung von Wissen. Tatsächlich spricht nichts dafür, dass die implantierten Erinnerungen eines anderen für das Empfängergehirn irgendeinen Sinn ergäben. Denken zwei Menschen beispielsweise an einen Apfel, so mögen ihre Gedanke für alle praktischen Belange identisch sein; die Erregungsmuster in beider Gehirne werden hingegen kaum Gemeinsamkeiten aufweisen.

Zukunftssorgen

Das Interesse der Menschheit an der Zukunft ist auf ein enges Zeitfenster beschränkt. Das absehbare Ende unserer Sonne in etwa fünf Milliarden Jahren kümmert uns wenig, und selbst die Auswirkungen, die die Freisetzung von Treibhausgasen schon in den nächsten Jahrzehnten haben wird, verdrängen wir meist. Der Zeithorizont, in dessen Grenzen uns die Zukunft noch etwas angeht, bemisst sich generell an der Lebenszeit der Jüngsten: Nur wie es unseren Enkeln und vielleicht Urenkeln ergehen wird, berührt uns noch. Dies ist aber auch eine Zeitspanne, in der unser eigenes Handeln, sei es als aktiver Teilnehmer an einer technischen Entwicklung, sei es als Konsument, der immerhin noch durch seine Kaufentscheidungen Einfluss nimmt, etwas bewirken kann. Die Frage, ob nach uns die Roboter kommen, kann uns weder KI noch Futuristik oder Evolutionsbiologie beantworten. Die Antwort bleibt das Ergebnis unseres eigenen, vielleicht unabsichtlichen Tuns. mjh

(Dieser Text erschien zuerst unter dem Titel „Kühne Propheten“ im macmagazin 11.2000.)