RAY KURZWEIL
Die Singularität naht
Aus dem Englischen von
Martin Rötzschke
2., durchgesehene Auflage 2014
Copyright © Lola Books GbR, Berlin 2013
www.lolabooks.eu
Dieses Werk, einschließlich aller seiner Teile, ist urheberrechtlich geschützt und darf in keinerlei Form ohne schriftliche Genehmigung des Verlages reproduziert oder unter Verwendung elektronischer Systeme verarbeitet, vervielfältigt oder verbreitet werden.
Titel der englischen Originalausgabe:
The Singularity is near: when humans transcend biology
Copyright © Ray Kurzweil, 2005
Published by Arrangement with Ray Kurzweil
Dieses Werk wurde vermittelt durch die Literarische Agentur
Thomas Schlück GmbH, 30827 Garbsen.
Alle Rechte vorbehalten
Umschlagdesign: Christine Wenning
ISBN 978-3-944203-08-9
eISBN 978-3-944203-13-3
Mein tiefster Dank gilt meiner Mutter Hannah und meinem Vater Frederic, die schon früh all meine Ideen und Erfindungen rückhaltlos unterstützten und mir stets Freiraum für Experimente ließen; meiner Schwester Enid für ihre Inspiration; meiner Frau Sonya und meinen Kinder Ethan und Amy, die mein Leben mit Sinn, Liebe und Motivation erfüllen.
Außerdem möchte ich den vielen talentierten und engagierten Menschen danken, die mir bei diesem komplexen Projekt zur Seite standen:
Bei Viking: Meinem Redakteur Rick Kot, für seine Anleitung, seinen Enthusiasmus und seine einsichtige Redaktion; meiner Verlegerin Clare Ferraro für ihre Unterstützung; meinem kompetenten Lektor Timothy Mennel; Bruce Giffords und John Jusino, für die Koordination der unzähligen Details einer Buchproduktion; Holly Watson, für ihre effiziente Öffentlichkeitsarbeit; Rick Kots fähiger Assistentin Alessandra Lusardi; Paul Buckley, für seine klaren und eleganten Grafiken; und Herb Thornby, für den Entwurf eines ansprechenden Covers.
Meiner Agentin Loretta Barett, die mir bei diesem Projekt mit enthusiastischer und scharfsinniger Beratung zur Seite stand.
Dr. med. Terry Grossman, meinem Mitstreiter bei medizinischen Themen und Mitautor von Fantastic Voyage: Live Long Enough to Live Forever, für seine Hilfe bei der Entwicklung von Ideen zu Gesundheit und Biotechnik in zehntausend E-Mails hin und zurück, und für eine vielfältige Zusammenarbeit.
Martine Rothblatt für ihren Beitrag zu allen in diesem Buch beschriebenen technischen Errungenschaften und für ihre Zusammenarbeit bei diversen eigenen Entwicklungen in diesen Bereichen.
Aaron Kleiner, meinem langjährigen Geschäftspartner (seit 1973) für seine Hingabe und Mitarbeit in zahlreichen Projekten, einschließlich diesem.
Amara Angelica, deren engagierte und einsichtsvolle Bemühungen unser Recherche-Team anführten. Amara unterstützte mich mit ihren außerordentlichen redaktionellen Fähigkeiten bei der Artikulation komplizierter Sachverhalte. Kathryn Myronuk, die mit ihrer engagierten Recherchearbeit einen großen Beitrag zu den Nachforschungen und den Anmerkungen leistete. Sarah Black trug ebenfalls entscheidend zu Recherche und Redaktion bei. Mein ganzes Recherche-Team hat großartige Arbeit geleistet: Amara Angelica, Kathryn Myronuk, Sarah Black, Daniel Pentlarge, Emily Brown, Celia Black-Brooks, Nanda Barker-Hook, Sarah Brangan, Robert Bradbury, John Tillinghast, Elizabeth Collins, Bruce Damer, Jim Rintoul, Sue Rintoul, Larry Klaes, und Chris Wright. Zusätzlich assistierten Liz Berry, Sarah Brangan, Rosemary Drinka, Linda Katz, Lisa Kirschner, Inna Nirenberg, Christopher Setzer, Joan Walsh, und Beverly Zibrak.
Laksman Frank, der viele der attraktiven Diagramme nach meinen Beschreibungen erstellte und die Schaubilder formatierte.
Celia Black-Brooks, für ihre Führungsarbeit in Projektentwicklung und Kommunikation.
Phil Cohen und Ted Coyle, für die Umsetzung meiner Ideen für die Illustration auf Seite 327, und Helene DeLillo, für das „The Singularity Is Near“-Foto zu Beginn von Kapitel 7.
Nanda Barker-Hook, Emily Brown und Sarah Brangan, die mir halfen, die umfangreiche Logistik des Recherche- und Redaktionsprozesses zu regeln.
Ken Linde und Matt Bridges, die mit ihrer IT-Unterstützung einen störungsfreien Arbeitsablauf ermöglichten.
Denise Scutellaro, Joan Walsh, Maria Ellis und Bob Beal, welche die Buchhaltung für dieses komplizierte Projekt übernahmen.
Das KuzweilAI.net-Team, für erhebliche Unterstützung bei den Recherchen: Aaron Kleiner, Amara Angelica, Bob Beal, Celia Black-Brooks, Daniel Pentlarge, Denise Scutellaro, Emily Brown, Joan Walsh, Ken Linde, Laksman Frank, Maria Ellis, Matt Bridges, Nanda Barker-Hook, Sarah Black und Sarah Brangan.
Mark Bizzell, Deborah Lieberman, Kirsten Clausen und Dea Eldorado, für ihre Hilfe bei der Kommunikation der Message dieses Buches.
Robert A. Freitas Jr., für die eingehende Prüfung des Nanotechnik-Materials.
Paul Linsay, für seine gründliche Prüfung der Mathematik in diesem Buch.
Meinen Kollegen in der Wissenschaft, die mir mit der Überprüfung der wissenschaftlichen Inhalte einen unschätzbaren Dienst erwiesen: Robert A. Freitas Jr. (Nanotechnik, Kosmologie), Ralph Merkle (Nanotechnik), Martine Rothblatt (Biotechnik, technologische Beschleunigung), Terry Grossman (Gesundheit, Medizin, Biotechnik), Tomaso Poggio (Gehirnforschung und Reverse Engineering des Gehirns), John Parmentola (Physik, Militärtechnik), Dean Kamen (technische Entwicklung), Neil Gershenfeld (Rechnertechnik, Physik, Quantenmechanik), Joel Gershenfeld (System Engineering), Hans Moravec (künstliche Intelligenz, Robotik), Max More (technologische Beschleunigung, Philosophie), Jean-Jacques E. Slotine (Neuro- und Kognitionswissenschaft), Sherry Turkle (soziale Auswirkungen der Technik), Seth Shostak (SETI, Kosmologie, Astronomie), Damien Broderick (technologische Beschleunigung, die Singularität) und Harry George (Technik-Unternehmertum).
Meinen fähigen internen Lesern: Amara Angelica, Sarah Black, Kathryn Myronuk, Nanda Barker-Hook, Emily Brown, Celia Black-Brooks, Aaron Kleiner, Ken Linde, John Chalupa und Paul Albrecht.
Meinen externen Lesern, die kühne Vorschläge einbrachten: mein Sohn Ethan Kurzweil und David Dalrymple.
Bill Gates, Eric Drexler und Marvin Minsky, für die Erlaubnis, ihre Dialoge in das Buch aufzunehmen, und für ihre Ideen, die sich aus diesen Dialogen ergaben.
Den vielen Forschern und Denkern, deren Ideen und Bemühung zur exponentiellen Vergrößerung des menschlichen Wissensschatzes beitragen.
Die obengenannten Personen lieferten viele Ideen, und dank ihren Bemühungen konnte ich zahlreiche Korrekturen vornehmen. Für alle verbleibenden Fehler übernehme ich die alleinige Verantwortung.
Menschheit 2.0
Ich glaube kein Menschenherz schlägt je höher als das eines Erfinders, wenn eine seiner geistigen Schöpfungen reale Gestalt annimmt.
Nikola Tesla, 1896, Erfinder des Wechselstroms
Als ich fünf war, beschloss ich, Erfinder zu werden. Ich dachte, Erfindungen können die Welt verändern. Andere Kinder fragten sich, was wohl aus ihnen werden würde; ich aber wusste es schon. Die Mondrakete, die ich baute (lange bevor die NASA sich dieser Herausforderung stellte), funktionierte leider nicht. So etwa im Alter von acht erfand ich aber schon realistischere Dinge, zum Beispiel ein durch Eisenstangen bewegtes „Robotertheater“ und ein virtuelles Baseballspiel.
Meine Eltern, beide Künstler, waren Holocaustflüchtlinge. Meine religiöse Erziehung sollte weltoffen und nicht zu provinziell sein.1 Darum fand meine spirituelle Unterweisung in einer Unitarierkirche statt. Wir beschäftigten uns sechs Monate mit einer bestimmten Religion – besuchten Messen, lasen die Schriften, sprachen mit ihren Führern – und gingen dann zur nächsten Religion über. Das Motto war: „Viele Wege führen zur Wahrheit“. Ich entdeckte natürlich zahlreiche Parallelen zwischen den Religionen der Welt, aber auch ihre Widersprüche waren aufschlussreich. Die Grundgedanken der Religionen, so stellte ich fest, sind stark genug um alle scheinbaren Gegensätze zu versöhnen.
Mit acht entdeckte ich die Tom-Swift-Jr.-Buchreihe. Die dreiunddreißig Bände (von denen erst neun veröffentlicht waren, als ich sie 1956 zu lesen begann) haben alle dasselbe Schema: Tom gerät in eine prekäre Situation, in der sein Schicksal und das seiner Freunde – wenn nicht gar der gesamten Menschheit – auf Messers Schneide steht. Er zieht sich dann in sein Kellerlabor zurück um eine Lösung auszuhecken. Die spannende Frage in jedem dieser Bücher war, mit welchem genialen Einfall Tom und seine Freunde wohl den Tag retten würden.2 Diese Geschichten hatten eine einfache Moral: Jedes scheinbar unüberwindbare Hindernis kann durch die richtige Idee überwunden werden.
Das ist zu meiner persönlichen Philosophie geworden: Egal wie groß der Schlamassel, in dem wir stecken – seien es berufliche, gesundheitliche oder Beziehungsprobleme, seien es die großen wissenschaftlichen, sozialen und kulturellen Herausforderungen unserer Zeit –, es gibt immer eine rettende Idee und wir können darauf kommen. Und dann müssen wir sie umsetzen. Dieser Imperativ hat mein Leben geprägt. Die Macht der Ideen – auch das ist eine Idee.
Ich erinnere mich, wie mein Großvater, ungefähr in der Zeit, als ich die Tom-Swift-Jr.-Reihe las, von einem Besuch in Europa zurückkehrte. Er brachte von dieser Reise zwei Eindrücke mit: zum einen das Wohlwollen, mit dem ihm die Deutschen und Österreicher begegnet waren – dieselben Landsleute, vor denen er 1938 fliehen musste. Zum anderen hatte er das seltene Glück gehabt, Originalmanuskripte Leonardo da Vincis mit eigenen Händen zu befühlen. Diese beiden Berichte haben mich beeinflusst. Insbesondere an den zweiten habe ich oft zurückgedacht. Mein Großvater beschrieb das Erlebnis mit einer Ehrfurcht, als hätte er das Werk Gottes berührt. Letztendlich war das die Religion, in der ich aufwuchs: Verehrung der menschlichen Kreativität und der Macht der Ideen.
In den 1960ern entdeckte ich den Computer und war fasziniert von der Möglichkeit, damit die Welt zu modellieren und neu zu erschaffen. Ich durchstöberte die (bis heute existierenden!) Restposten-Elektroläden auf der Canal Street in Manhattan und suchte nach Teilen für einen eigenen Rechner. Wie alle anderen war ich von der musikalischen, kulturellen und politischen Bewegung der 60er in Bann genommen, aber mindestens genauso begeisterte mich eine sehr viel obskurere Entwicklung, und zwar die von IBM in diesen Jahren vertriebenen Maschinenreihen – von der wuchtigen „7000er“ Serie (7070, 7074, 7090, 7094) bis zum Modell 1620, dem ersten „Minicomputer“. Die Geräte kamen in jährlichen Abständen auf den Markt, eines günstiger und besser als das andere – heute ein bekanntes Phänomen. Ich kam in Besitz eines IBM 1620 und begann damit statistische Analyseprogramme zu schreiben und später auch Musik zu komponieren.
Ich erinnere mich genau, wie ich 1968 die streng gesicherte, höhlenartige Kammer des mächtigsten Computers von New England betrat. Es handelte sich um das IBM Topmodell 360/91 mit einer höchst sensationellen Million Bytes (ein Megabyte) „Kernspeicher“, ebenso vielen Rechenschritten pro Sekunde (ein Megahertz) und einer stündlichen Mietgebühr von eintausend Dollar. Ich hatte ein Programm geschrieben um High-School-Schüler an Colleges zuzuweisen und betrachtete begeistert den Tanz der Lämpchen auf den Verschalungen, während die Maschine die einzelnen Anträge abarbeitete.3 Obwohl ich jede einzelne Programmzeile in- und auswendig kannte, kam es mir vor, als würde sich der Computer über irgendwas den Kopf zerbrechen, wenn sich die Lämpchen nach jedem Rechenzyklus für einige Momente verdunkelten. Wie dem auch sei, er schaffte in zehn Sekunden das, wofür wir zehn Stunden gebraucht hätten – und im Gegensatz zu uns machte er keine Fehler.
Als Erfinder in den 1970ern wurde mir klar, dass meine Erfindungen den technischen Möglichkeiten und Marktverhältnissen zum Zeitpunkt ihrer Einführung entsprechen mussten – und nicht zum Zeitpunkt der Planung. Darum untersuchte ich, wie sich verschiedene Felder – unter anderem Elektro-, Kommunikations-, Prozessor- und Speichertechnik – entwickelten und wie diese Entwicklungen den Markt aufmischten und letztendlich unsere Gesellschaft veränderten. Ich kam zu dem Ergebnis, dass die meisten Erfindungen nicht an technischen Problemen, sondern am Timing scheiterten. Erfinden ist ein bisschen wie Surfen: Man muss das Entstehen der Welle vorhersehen und genau im richtigen Moment aufspringen.
Meine Beschäftigung mit technologischen Entwicklungskurven wurde in den 1980ern zum Selbstläufer. Ich begann anhand meiner Modelle die Technik der Zukunft vorauszusagen, Innovationen bis zum Jahr 2000, 2010, 2020 und so weiter. Dadurch gelang es mir, bei meinen eigenen Erfindungen den zukünftigen Stand der Technik einzuplanen. Mitte bis Ende der 1980er schrieb ich dann mein erstes Buch, The Age of Intelligent Machines.4 Darin fanden sich umfassende (und weitgehend zutreffende) Vorhersagen für die 1990er und 2000er Jahre. Das Buch endete mit dem Schreckgespenst von Maschinen, die von ihren menschlichen Erbauern nicht mehr zu unterscheiden sind. Das hielt ich für einen guten Schluss, und außerdem erschien es mir problematisch, noch weiter vorauszudenken.
Über die letzten zwanzig Jahre wurde ich vertraut mit der wichtigen Metaidee, dass die Macht der Ideen, die Welt zu verändern, immer größer wird. Die meisten Leute würden dieser Beobachtung wohl zustimmen, aber den wenigsten sind ihre tiefgreifenden Konsequenzen bewusst. Denn in den nächsten Jahrzehnten werden wir die Gelegenheit haben, mithilfe der Macht von Ideen einige unserer ältesten Probleme zu lösen – und dabei ein paar neue Probleme zu schaffen.
In den 1990er Jahren sammelte ich empirische Daten über die offensichtliche Beschleunigung aller Informationstechniken und arbeitete an mathematischen Modellen für diese Entwicklungen. Mit dem „Gesetz vom steigenden Ertragszuwachs“ entwickelte ich eine Theorie, die erklärt, warum technische Entwicklungen und (Evolutionsprozesse allgemein) exponentiell verlaufen.5 1998 versuchte ich in einem neuen Buch (The Age of Spiritual Machines) zu beschreiben, wie das menschliche Leben aussieht, wenn die Grenzen zwischen menschlicher und maschineller Kognition verschwimmen. Dabei stellte ich mir diese Epoche als eine Zeit des Zusammenwirkens unserer biologischen Vergangenheit mit einer überbiologischen Zukunft vor.
Seit der Veröffentlichung von The Age of Spiritual Machines habe ich viel über die Zukunft unserer Zivilisation und ihre Rolle im Universum nachgedacht. Es erscheint natürlich schwierig, über die Möglichkeiten einer zukünftigen Zivilisation nachzudenken, die uns intellektuell weit überlegen ist. Aber unser Vermögen in Modellen zu denken befähigt uns durchaus zu sinnvollen Aussagen über die bevorstehende Verschmelzung des biologischen Denkens mit der nichtbiologischen Intelligenz, die wir erschaffen werden. Hiervon handelt dieses Buch. Es gründet auf der Idee, dass wir fähig sind, unser eigenes Denken zu verstehen – sozusagen unseren eigenen Quelltext zu lesen – um es dann zu verbessern und auszubauen.
Manche Kritiker bezweifeln, dass wir imstande sind, unser eigenes Denken mithilfe dieses Denkens zu verstehen. KI-Forscher Douglas Hofstadter sinniert: „Es könnte einfach sein, dass unsere Gehirne zufälligerweise zu schwach sind, um sich selbst zu verstehen. Denken Sie an Giraffen, deren Gehirn weit davon entfernt ist, sich selbst zu verstehen, dem menschlichen Gehirn aber erstaunlich ähnlich ist.“6 Wir haben es jedoch bereits geschafft, Teile des Gehirns nachzumodellieren – einzelne Nervenzellen sowie ganze Neuronenverbände –, und die Modelle werden immer komplexer. Unser Erfolg beim Reverse Engineering unseres Gehirns (ein wichtiger Abschnitt dieses Buches) zeigt, dass wir durchaus fähig sind, unser Denken zu verstehen, zu modellieren und zu erweitern. Darin besteht eines der Merkmale, die unsere Spezies einzigartig machen: Unsere Intelligenz hat eine kritische Schwelle überschritten, wodurch wir in der Lage sind, unsere eigenen kreativen Fähigkeiten grenzenlos zu erweitern – und wir haben Greifwerkzeuge (mit Daumen bestückte Hände) um die Welt nach unserem Willen zu formen.
Noch ein Wort zur Magie: Als ich die Tom-Swift-Jr.-Bücher las, war ich auch ein begeisterter Zauberer. Ich erfreute mich am Vergnügen meiner Zuschauer über meine scheinbar unmöglichen Verbiegungen der Realität. Zu meinen Teenager-Zeiten traten technische Projekte an Stelle des Zauberkastens. Ich entdeckte, dass Technik, im Gegensatz zu Zaubertricks, den übernatürlichen Anschein nicht verliert, wenn man ihr Geheimnis lüftet. Hier muss ich an das dritte Clark‘sche Gesetz denken: „Hinreichend fortschrittliche Technik ist von Magie nicht zu unterscheiden“.
Man kann auch die Geschichten von Harry Potter in diesem Licht betrachten: Sie mögen frei erfunden sein, aber sie sind keine unrealistische Vision der Welt, wie sie in ein paar Jahrzehnten sein wird. Praktisch all die Harry-Potter-Magie wird technisch möglich werden; in diesem Buch werden wir sehen wie. Quidditch Spielen und das Verwandeln von Menschen und Gegenständen wird möglich sein: in perfekten virtuellen Realitäten und – dank Nanotechnik – auch in der realen Wirklichkeit. Etwas heikler ist die Zeitumkehr (wie in Harry Potter und der Gefangene von Azkaban), wobei es selbst hierzu ernsthafte Überlegungen gibt (die kausale Paradoxien vermeiden) – zumindest für einzelne Informationsbits, aus denen wir letzten Endes bestehen. (Siehe die Diskussion in Kapitel 3 über die Grenzen der Berechnung).
Harry entfesselt seine magischen Kräfte durch Anwendung der richtigen Zaubersprüche. Das Finden und Anwenden solcher Beschwörungsformeln ist natürlich keine einfache Angelegenheit. Die Wortfolge, die Betonung und der ganze Ablauf müssen bis ins Detail stimmen. Genau das gleiche gilt auch für moderne Technik: Unsere Zaubersprüche sind die mathematischen Formeln und Algorithmen, welche die Magie des modernen Alltags möglich machen. Nur wenn die Codesequenz genau stimmt, können Computer Bücher vorlesen, menschliche Sprache verstehen, Herzanfälle vorhersehen (und verhindern) oder die Entwicklung von Aktienkursen voraussagen. Wenn das Beschwörungsritual nur ein klein wenig falsch ist, gerät die Magie viel schwächer oder bleibt ganz aus.
Gegen diesen Vergleich könnte man einwenden, dass die Hogwart‘schen Zauberformeln kurz und knapp sind und nicht mit so vielen Informationen beladen, wie etwa ein modernes Software-Programm. Aber die wesentlichen Kernstücke moderner Technik sind ebenso prägnant. Die Hauptfunktionen moderner Computerprogramme, beispielsweise für Spracherkennung, umfassen nur ein paar Seiten Code. Nicht selten besteht ein großer Fortschritt in einer minimalen Anpassung einer einzigen Formel.
Das gilt auch für die „Erfindungen“ der biologischen Evolution. Der genetische Informationsunterschied zwischen Schimpansen und Menschen besteht lediglich in ein paar Hunderttausend Bytes. Obwohl Schimpansen nur über grundlegende intellektuelle Fähigkeiten verfügen, genügte uns eine kleine genetische Veränderung, um die magischen Wunder der Technik zu erschaffen.
Muriel Rukeyser schreibt: „Das Universum besteht aus Geschichten, nicht aus Atomen“. In Kapitel 7 bezeichne ich mich als „Patternist“, als jemanden also, der Muster als die Grundlage der Realität betrachtet. Die Teilchen, aus denen mein Körper und Gehirn bestehen, werden innerhalb von Wochen ausgetauscht, was bleibt ist das Muster, das sie bilden. Dahingehend kann man auch Muriel Rukeyser interpretieren, wenn man Geschichten als bedeutungsvolle Informationsmuster betrachtet. In diesem Sinne ist dieses Buch also die Geschichte vom Schicksal der Mensch-Maschinen-Zivilisation – ein Schicksal, das wir als Singularität bezeichnen.
Jeder hält die Grenzen des eigenen Gesichtsfelds für die Grenzen der Welt.
ARTHUR SCHOPENHAUER
Die Singularität naht – ich kann nicht genau sagen, wann mir das klar wurde. Die Erkenntnis kam schrittweise. Fast ein halbes Jahrhundert habe ich mich eingehend mit Computertechnik* und Ähnlichem beschäftigt, und dabei versucht, Sinn und Zweck all der turbulenten Entwicklungen zu verstehen, die es auf so vielen Ebenen zu bestaunen gab. Allmählich dämmerte mir, dass sich ein großer Umbruch in der ersten Hälfte des 21. Jahrhunderts anbahnt. Die Gestalt von Energie und Materie wird bis zur Unkenntlichkeit verändert, wenn sie sich dem Ereignishorizont eines Schwarzen Lochs annähern. In gleicher Weise wird die bevorstehende Singularität, auf die wir uns zubewegen, alle Bestandteile und Umstände des menschlichen Lebens verändern, von der Sexualität bis hin zum Geistigen.
Worin besteht also diese Singularität? Es handelt sich um einen zukünftigen Zeitabschnitt, in dem der technische Fortschritt so schnell und seine Auswirkungen so tief greifend sein werden, dass das menschliche Leben einen unwiderruflichen Wandel erfährt. Das ist weder utopisch noch dystopisch gemeint, aber diese Epoche wird viele, für unseren Lebensinhalt grundlegende Konzepte und Vorstellungen umkrempeln – von Geschäftsmodellen bis zum menschlichen Lebenskreislauf, einschließlich des Todesbegriffs. Das Begreifen der Singularität wird unsere Anschauung der Vergangenheit und der Zukunft verändern. Wer wirklich verstanden hat, was uns da bevorsteht, sieht das Leben an sich und sein eigenes Leben fortan mit anderen Augen. Ein „Singularitarist“1 ist für mich eine solche Person: Jemand, der die Singularität verstanden und über ihre Auswirkungen auf sein bzw. ihr eigenes Leben nachgedacht hat.
Ich verstehe nur zu gut, warum viele Leute die offensichtlichen Folgen dessen, was ich als Gesetz der Selbstbeschleunigung (inhärente Beschleunigung der Evolutionsrate, wobei die technische Evolution Fortsetzung der biologischen ist) bezeichnet habe, nicht wahrhaben wollen. Schließlich habe ich selbst vierzig Jahre gebraucht, um zu begreifen, was sich direkt vor meiner Nase abspielt – und ich kann mich immer noch nicht so recht damit anfreunden.
Der baldige Eintritt der Singularität folgt aus der Tatsache, dass sich der Fortschritt menschengemachter Technik beschleunigt, wobei ihre Leistungsfähigkeit exponentiell zunimmt – und exponentielles Wachstum ist ein Wolf im Schafspelz! Es beginnt kaum wahrnehmbar und explodiert dann mit unerwarteter Heftigkeit – unerwartet, falls man nicht genau hinsieht. (Siehe das Diagramm „Lineares vs. exponentielles Wachstum“ auf Seite 11).
Dazu eine kleine Geschichte: Der Besitzer eines Teiches sorgt sich um seine Fische und möchte sichergehen, dass der Teich nicht mit Seerosenblättern zuwächst, deren Anzahl sich angeblich alle paar Tage verdoppelt. Monat für Monat harrt er geduldig aus, doch auf dem Wasser sind stets nur kleine Seerosenflecken zu sehen, die nicht merklich zu wachsen scheinen. Da die Blätter weniger als ein Prozent der Wasseroberfläche bedecken, macht sich der Mann keine weiteren Sorgen und fährt mit seiner Familie in die Ferien. Als er nach wenigen Wochen wiederkehrt, muss er bestürzt feststellen, dass die Seerosen den Teich vollständig überwuchert haben und all seine Fische dahin sind. Alle paar Tage fand eine Verdopplung statt, und die letzten sieben Verdopplungen reichten aus, um die Abdeckung von einem Prozent auf den ganzen See auszudehnen (sieben Verdopplungen entsprechen einer 128-fachen Vergrößerung). Das ist die verhängnisvolle Natur exponentiellen Wachstums.
Denken Sie an Gary Kasparov, der noch 1992 das jämmerliche Niveau damaliger Schachcomputer verhöhnte. Doch infolge der erbarmungslosen jährlichen Verdopplung der Rechenleistung2 gelang es bereits fünf Jahre später einem Computer, den Großmeister zu schlagen. Die Liste von Disziplinen, in denen Computer die menschlichen Fähigkeiten übertreffen, wächst schnell. Insbesondere das ehemals kleine Anwendungsgebiet von Computerintelligenz erweitert sich um eine Tätigkeit nach der anderen. Computer diagnostizieren beispielsweise Elektrokardiogramme und medizinische Aufnahmen. Sie steuern und landen Flugzeuge, treffen taktische Entscheidungen für automatische Waffensysteme, nehmen Kredite auf, treffen finanzielle Entscheidungen, und sind für viele andere Aufgaben verantwortlich, für die ehemals menschliche Intelligenz unentbehrlich war. Die Leistungsfähigkeit solcher Systeme basiert zunehmend auf der Kombination verschiedener Arten künstlicher Intelligenz (KI). Aber solange es noch Bereiche gibt, in denen die KI versagt, werden Skeptiker diese Bereiche zur unüberwindlichen Bastion der menschlichen Überlegenheit über die Fähigkeiten ihrer eigenen Schöpfungen erklären.
In diesem Buch will ich jedoch zeigen, dass innerhalb weniger Jahrzehnte die Informationstechnik alles menschliche Wissen und Können erfasst, und letztendlich die Mustererkennungs- und Problemlösungsfähigkeiten sowie die emotionale und moralische Intelligenz des menschlichen Gehirns selbst erlangt haben wird.
Dem Gehirn, obschon in vielerlei Hinsicht beeindruckend, sind klare Grenzen gesetzt. Wir nutzen seine enorme Parallelität (einhundert Milliarden neuronale Verbindungen, die gleichzeitig arbeiten) um filigrane Muster schnell zu erkennen. Dennoch denken wir extrem langsam: Die elementaren neuronalen Operationen sind mehrere Millionen Mal langsamer als aktuelle elektrische Schaltkreise. Damit ist unsere physiologische Bandbreite zur Verarbeitung neuer Informationen äußerst beschränkt, zumindest angesichts des exponentiellen Wachstums des gesamten menschlichen Wissens.
Ebenso ist auch unser biologischer Körper in seiner derzeitigen Version gebrechlich und fehleranfällig, ganz zu schweigen von den mühsamen Instandhaltungsroutinen, die er erfordert. Und obwohl sich die menschliche Intelligenz gelegentlich zu kreativen Höhenflügen aufschwingt, so ist doch das meiste menschliche Denken wenig originell, sondern belanglos und begrenzt.
Mit der Singularität werden wir die Grenzen unserer biologischen Körper und Gehirne überschreiten. Wir werden die Gewalt über unser Schicksal erlangen. Unsere Sterblichkeit wird in unseren Händen liegen. Wir werden so lange leben können wie wir wollen (was nicht unbedingt heißt, dass wir ewig leben werden). Wir werden das menschliche Denken vollständig verstehen, erweitern und an neue Ufer führen. Bis zum Ende des Jahrhunderts wird die nichtbiologische Komponente unserer Intelligenz Trillionen Mal mächtiger sein als bloße menschliche Intelligenz.
Wir befinden uns in der frühen Übergangsphase. Der Paradigmenwechsel (die Geschwindigkeit, in der wir grundlegende technische Herangehensweisen verändern) und der exponentielle Kapazitätszuwachs der Informationstechnik erreichen allmählich den „Knick der Kurve“, das heißt, der Exponentialtrend beginnt sich abzuzeichnen. Kurz nach diesem Stadium kommt es zur Explosion. Noch vor der Mitte des Jahrhunderts wird sich unsere, vom Menschen selbst nicht mehr unterscheidbare Technik so rasant weiterentwickeln, dass die Wachstumskurve praktisch senkrecht ansteigt. Die – rein mathematisch zwar immer noch endliche – Wachstumsrate wird so extrem ansteigen, dass die Menschheitsgeschichte aus allen Fugen bricht. So wird es zumindest der nicht unterstützten*, biologischen Menschheit erscheinen.
In der Singularität werden unser biologisches Denken und Dasein mit unserer Technik verschmelzen. Das Ergebnis ist eine nach wie vor menschliche Welt, allerdings jenseits unserer biologischen Wurzeln. Danach wird kein Unterschied mehr sein zwischen Mensch und Maschine, oder zwischen physikalischer und virtueller Realität. Falls Sie sich fragen, was dann überhaupt noch einen Menschen ausmacht – nun, es ist einfach folgende Qualität: Unsere Spezies strebt von Natur aus danach, ihre physischen und geistigen Fähigkeiten über alle gegebenen Grenzen hinweg zu erweitern.
Die meisten Kommentare zu diesen Veränderungen beziehen sich auf den vermeintlichen Verlust wesentlicher Aspekte unserer Menschlichkeit. Diese Sichtweise beruht jedoch auf einer falschen Vorstellung von der Zukunft der Technik. Noch keine der bisherigen Maschinen besaß dieselben raffinierten Fähigkeiten, die der biologische Mensch an den Tag legt. Die Singularität hat vielerlei Konsequenzen, doch die wichtigste ist, dass unsere Technik die Feinheit und Eleganz der höchsten menschlichen Fähigkeiten erreichen und schließlich in den Schatten stellen wird.
Wenn die erste übermenschliche Intelligenz, die sich selbst rekursiv zu verbessern beginnt, erschaffen sein wird, dann ist mit einem fundamentalen, nicht annähernd überschaubaren Umbruch zu rechnen.
MICHAEL ANISSIMOV
John von Neumann, der legendäre Pionier der Informatik, sagte in den 1950er Jahren: „Der immerzu beschleunigende technische Fortschritt […] erregt den Anschein, dass sich die Geschichte unserer Rasse einer entscheidenden Singularität annähert, nach welcher das menschliche Leben, wie wir es kennen, nicht weitergehen kann“.3 Von Neumann macht zwei wichtige Beobachtungen: Beschleunigung und Singularität. Dahinter steckt erstens der Gedanke, dass der menschliche Fortschritt nicht linear (Wachstum durch wiederholte Addition einer Konstante), sondern exponentiell verläuft (Wachstum durch wiederholtes Multiplizieren mit einer Konstante).
Linear versus exponentiell: Lineares Wachstum verläuft stetig; exponentielles Wachstum verläuft (ab einem gewissen Zeitpunkt) explosionsartig
Zweitens ist exponentielles Wachstum trügerisch: Es beginnt langsam und unscheinbar, nimmt aber nach der Biegung der Kurve explosionsartig an Fahrt auf. Die Zukunft wird weitgehend falsch gedeutet. In der Vorstellung unserer Vorfahren glich die Zukunft ungefähr der Gegenwart und diese ungefähr der Vergangenheit. Exponentialtrends gab es zwar auch schon vor tausend Jahren, aber in einem dermaßen langsamen, flachen Stadium, dass eigentlich gar nichts zu passieren schien – was die Annahme einer veränderungslosen Zukunft bestätigte. Heute sind wir uns des kontinuierlichen technischen Fortschritts und seiner sozialen Folgen durchaus bewusst. Trotzdem wird die Zukunft die meisten Leute gewaltig verblüffen, denn die wenigsten sind sich wirklich im Klaren darüber, dass auch die Geschwindigkeit des Fortschritts selbst zusehends zunimmt.
Die meisten Langzeitprognosen für das, was in der kommenden Zeit technisch möglich sein wird, unterschätzen die bevorstehenden Entwicklungen drastisch, weil sie auf einer Geschichtsanschauung beruhen, die ich als „intuitiv-linear“ bezeichne, im Gegensatz zu einer „historisch-exponentiellen“ Betrachtungsweise. Nach meinen Modellen verdoppelt sich die Häufigkeit von Paradigmenwechseln mit jedem Jahrzehnt (mehr dazu im nächsten Kapitel). Der Fortschritt hat sich demnach über das 20. Jahrhundert hinweg bis zum heutigen Tempo gesteigert. Die Errungenschaften dieser Zeit entsprechen also ungefähr denen von zwanzig Jahren Entwicklungszeit im Tempo des Jahres 2000. Bis 2014 entwickeln wir uns um weitere zwanzig Jahre weiter, und dann noch mal innerhalb von nur sieben Jahren. Anders ausgedrückt: Gemessen an der heutigen Fortschrittsrate bringt uns das 21. Jahrhundert nicht hundert Jahre Weiterentwicklung, sondern ungefähr zwanzigtausend – etwa tausend Mal mehr, als im 20. Jahrhundert erreicht wurde.4
Trugschlüsse über die Zukunft sind häufig und allgegenwärtig. Eines von vielen Bespielen entstammt einer Machbarkeitsdebatte um molekulare Nanotechnik, an der ich teilnahm. Ein beteiligter Nobelpreisträger tat geäußerte Sicherheitsbedenken mit der Behauptung ab, dass „wir in den nächsten hundert Jahren nicht mit selbstreplizierenden Nanorobotern (winzigen, auf molekularer Ebene gefertigten Maschinen) zu rechnen haben“. Ich entgegnete, hundert Jahre seien eine vernünftige Schätzung, und dass ich dieselbe Entwicklungsdauer veranschlagen würde, wenn man die heutige Fortschrittsrate zugrunde legt (welche der fünffachen Durchschnittsgeschwindigkeit des 20. Jahrhunderts entspricht). Da sich aber das Tempo jedes Jahrzehnt verdoppelt, erreichen wir das, was einem Jahrhundert Entwicklung im heutigen Tempo entspricht, in nur fünfundzwanzig Kalenderjahren.
Ein anderes Beispiel stammt von der Future-of-Life-Konferenz der Zeitschrift Time, die im Jahre 2003 zum fünfzigjährigen Jubiläum der Entdeckung der DNS-Struktur stattfand. Alle Redner wurden befragt, wie sie sich die nächsten fünfzig Jahre vorstellen.5
Praktisch jeder der Referenten nahm die Entwicklungen der letzten fünfzig Jahre als Richtwert für die nächsten fünfzig. James Watson etwa, Mitentdecker der DNS, meinte, in fünfzig Jahren hätten wir Medikamente, mithilfe derer man so viel essen kann, wie man will, ohne zuzunehmen.
„Fünfzig Jahre?“, entgegnete ich. Bei Mäusen haben wir das doch durch Ausschalten des Insulin-Rezeptor-Gens, das die Fetteinlagerung in Fettzellen kontrolliert, bereits geschafft. Wirkstoffe für Menschen (vermittels RNA-Interferenz und anderen Techniken, siehe Kapitel 5) sind in Entwicklung und werden in einigen Jahren in klinischen Studien erprobt. Solche Medikamente sind in fünf bis zehn Jahren verfügbar, nicht in fünfzig. Andere Prognosen waren ähnlich kurzsichtig und spiegelten eher gegenwärtige Forschungsschwerpunkte, als die tief greifenden Neuerungen des nächsten halben Jahrhunderts. Unter allen Denkern dieser Konferenz waren es hauptsächlich Bill Joy und ich, die die exponentielle Tendenz unserer Zukunft berücksichtigten. Allerdings wurden wir uns nicht einig über die Tragweite der kommenden Veränderungen (siehe Kapitel 8).
Die meisten Leute nehmen an, dass die Entwicklung im derzeitigen Tempo weiterläuft. Selbst wenn sie über längere Zeit miterleben, wie der Fortschritt immer schneller vonstatten geht, bleibt ihre intuitive Einsicht, dass auch künftig alles sich nur so schnell verändern wird, wie in der jüngsten Vergangenheit. Der Grund dafür ist, mathematisch gesehen, dass Exponentialkurven wie Geraden aussehen, wenn man nur kleine Ausschnitte betrachtet. Darum extrapolieren selbst kluge Köpfe, wenn sie über die Zukunft sprechen, häufig den momentanen Fortschritt auf die nächsten zehn oder hundert Jahre. Und darum nenne ich diese Betrachtungsweise die „intuitiv-lineare“.
Eine ernsthafte Untersuchung der Technikgeschichte ergibt jedoch, dass der technische Fortschritt exponentiell verläuft. Exponentielles Wachstum liegt in der Natur evolutionärer Prozesse
– Technik ist das beste Beispiel. Man kann die Tatsachen drehen und wenden, verschiedene Technologien betrachten, von elektronischen bis hin zu biologischen, und unter verschiedenen Zeitmaßstäben verschiedene Indikatoren heranziehen – sei es die Menge menschlichen Wissens oder das Wirtschaftsvolumen –, in jedem Fall kann man eine Beschleunigung von Fortschritt und Wachstum beobachten. Tatsächlich stößt man häufig sogar auf „doppelt exponentielles“ Wachstum, das heißt die exponentielle Wachstumsrate (der Exponent) selbst wächst wiederum exponentiell. (Siehe zum Beispiel die Untersuchung von Rechner-Preis-Leistung im nächsten Kapitel).
Viele Wissenschaftler und Ingenieure leiden unter – wie ich es nenne – „Wissenschaftlerpessimismus“. Häufig sind sie so vertieft in die Schwierigkeiten und komplizierten Details eines aktuellen Problems, dass sie den Blick für die langfristige Tragweite ihrer Arbeit und ihres Fachgebiets verlieren. Ebenso wenig bedenken sie die sehr viel mächtigeren Werkzeuge, die ihnen mit jeder neuen Generation von Technik zur Verfügung stehen.
Wissenschaftler sind darauf geeicht, skeptisch zu sein, sich zurückhaltend über Forschungsziele zu äußern und Spekulationen über den wissenschaftlichen Tagesbetrieb hinaus zu vermeiden. Als technologische Generationen länger andauerten als menschliche, mag das angebracht gewesen sein. Es ist aber heute, da eine Technikgeneration wenige Jahre dauert, nicht mehr im Interesse der Gesellschaft.
Erinnern Sie sich nur an die Biochemiker, die 1990 den Plan anzweifelten, das menschliche Genom innerhalb von fünfzehn Jahren zu sequenzieren. Diese Forscher hatten bereits ein volles Jahr gebraucht, um auch nur ein Zehntausendstel des Genoms auszulesen. Es schien ihnen also einleuchtend, dass es, trotz des vernünftigerweise zu erwartenden Fortschritts, ein Jahrhundert oder länger dauern würde, das komplette Genom zu erfassen.
Oder denken Sie daran, dass Mitte der 1980er bezweifelt wurde, dass das Internet, das damals nur aus einigen Zehntausend Knoten (Servern) bestand, ein bedeutsames Phänomen werden würde. Die Anzahl verdoppelte sich damals jedes Jahr, es war also innerhalb von zehn Jahren mit Abermillionen Knotenpunkten zu rechnen. Aber diese Entwicklung blieb unbeachtet von denjenigen, die sich mit der Spitzentechnologie des Jahres 1985 herumschlugen, welche ja zunächst nur einige Tausend Knoten pro Jahr hervorbrachte.6
Der umgekehrte Denkfehler tritt auf, wenn bestimmte Exponentialentwicklungen erkannt und jenseits vernünftiger Wachstumsabschätzungen wild überinterpretiert werden. Exponentielles Wachstum setzt nicht unverzüglich ein*, es beschleunigt mit der Zeit. Die Vermögenswertsteigerung (das Steigen der Aktienpreise) während der „Dotcom-Blase“ (1997–2000) überstieg, trotz des realen exponentiellen Wertzuwachses, jede vernünftige Prognose. Wie ich im nächsten Kapitel zeigen werde, verlief der Ausbau von Internet und Onlinehandel gleichmäßig während aller Börsenturbulenzen; die maßlosen Übererwartungen schadeten ausschließlich dem Kapitalmarkt. Wir kennen solche Fehler schon von früheren Paradigmenwechseln, etwa aus der Eisenbahnära, als das Pendant der Dotcom-Blase zu einem ekstatischen Schienenlegen führte.
Ein weiterer typischer Prognosefehler besteht darin, die Auswirkungen einer bestimmten Entwicklung isoliert zu betrachten, als ob sich die restliche Welt nicht verändern würde. Ein gutes Beispiel sind die Befürchtungen, dass eine radikale Steigerung der Lebenserwartung zu Überbevölkerung und Aufbrauch begrenzter, lebenswichtiger Ressourcen führt. Dabei bleibt jedoch die ebenso radikale Neuerschließung von Ressourcen durch Nanofertigung und starke KI außer Acht. So wird es etwa 2020 möglich sein, per Nanotechnik aus günstigen Rohstoffen und Informationen fast jedes physische Produkt herzustellen.
Ich betone hier den Gegensatz von linearer und exponentieller Betrachtung, weil diese Kontroverse das Hauptproblem von Prognosen künftiger Entwicklungen darstellt. Die meisten Technologiepropheten ignorieren die historisch-exponentielle Perspektive völlig. Tatsächlich betrachtet fast jeder, der mir begegnet, die Zukunft linear. Das ist der Grund, warum die Leute überschätzen, was kurzfristig erreicht werden kann (weil sie fehlende Voraussetzungen übersehen), aber unterschätzen, was langfristig möglich ist (weil sie exponentielles Wachstum ignorieren).
Erst formen wir unsere Werkzeuge, dann formen die Werkzeuge uns.
MARSHALL MCLUHAN
Die Zukunft ist auch nicht mehr das, was sie mal war.
YOGI BERRA
Evolution ist ein Prozess, bei dem Muster von immer höherer Ordnung entstehen. Den Begriff „Ordnung“ werde ich im nächsten Kapitel besprechen; in diesem Abschnitt geht es um Muster. Ich glaube, die Geschichte der Welt ist eine Geschichte der Evolution von Mustern. Evolution funktioniert mittelbar*: jedes Stadium (oder jede Epoche) benutzt die Methoden zur Informationsverarbeitung, die aus dem vorherigen Stadium hervorgehen, um das nächste zu erreichen. Wie wir sehen werden, beginnt die Singularität in Epoche fünf und dehnt sich in Epoche sechs von der Erde auf den Rest des Weltalls aus.
Epoche eins: Physik und Chemie. Wir können unseren Ursprung zurückverfolgen bis auf eine Ebene von Information in Reinform: Muster in Materie und Energie. Jüngste Theorien der Quantengravitation besagen, dass Raum und Zeit aus diskreten Quanten bestehen, aus Informationsbruchstücken. Ob Materie und Energie letztendlich digitaler oder analoger Natur sind, ist unklar, aber unabhängig davon wissen wir, dass atomare Strukturen diskrete Informationen tragen beziehungsweise solche sind.
Ein paar Hunderttausend Jahre nach dem Urknall begannen Atome zu entstehen, Kerne aus Protonen und Neutronen fingen Elektronen in ihren Orbits ein. Aufgrund ihrer elektrischen Eigenschaften wurden die Atome „klebrig“, und einige Millionen Jahre später war die Chemie geboren, als sich Atome zusammenfanden, um relativ stabile Strukturen zu bilden, namentlich Moleküle. Von allen Elementen erwies sich das Kohlenstoffatom am vielseitigsten; es knüpft Verbindungen in vier Richtungen (die meisten Elemente bilden ein bis drei Verbindungen) und ermöglicht komplizierte, informationsreiche, dreidimensionale Strukturen.
Die Gesetze unseres Universums und die Balance der Naturkonstanten, die das Zusammenwirken der Grundkräfte bestimmen, sind so exquisit, feinsinnig und genau zugeschnitten auf die Kodierung und Evolution von Information (was zu Komplexitätszunahme führt), dass man sich wundert, wie eine so außerordentlich unwahrscheinliche Situation zustande kam. Wo manche eine göttliche Hand im Spiel sehen, sehen andere unsere eigenen Hände – genauer gesagt das sogenannte anthropische Prinzip, welches besagt, dass wir nur in einem Universum, das die Evolution ermöglicht, überhaupt existieren und solche Fragen stellen können.7 Neuere physikalische Theorien vermuten, dass regelmäßig neue Universen mit jeweils eigenen, einzigartigen Gesetzen entstehen, meist jedoch schnell wieder verschwinden oder aber fortbestehen, ohne interessante Muster (wie die irdische Biologie) hervorzubringen, weil ihre Gesetze nicht die Evolution von immer komplexeren Erscheinungen ermöglichen.8 Es ist schwer vorstellbar, wie solche Theorien über den frühen Kosmos zu überprüfen sind, aber es steht fest, dass die physikalischen Gesetze unseres Universums genau die richtigen Voraussetzungen darstellen, um eine Evolution, hin zu immer höherer Ordnung und Komplexität, zu ermöglichen.9
Epoche zwei: Biologie und DNS. Während der zweiten Epoche, vor einigen Milliarden Jahren, bildeten sich immer komplexere Kohlenstoffverbindungen, bis schließlich ein Molekülklumpen entstand, der über einen Mechanismus verfügte, um sich selbst zu kopieren – der Ursprung des Lebens. Schließlich entwickelten biologische Systeme ein präzises Speichermedium (die DNS) für Baupläne großer Molekülkonstrukte. Diese Konstrukte, mit ihrer Maschinerie von Kodons und Ribosomen, ermöglichten eine exakte Buchführung über die evolutionären Experimente der zweiten Epoche.
Epoche drei: Gehirne. Jede Epoche hebt die Informationsevolution auf eine höhere Vermittlungsstufe. (Das heißt, die Evolution benutzt die Ergebnisse der vergangenen Epoche um die nächste zu eröffnen). So brachte beispielsweise in der dritten Epoche eine DNS-basierte Evolution Organismen hervor, die über Sinnesorgane Informationen erfassten, um diese in ihren Gehirnen und Nervensystemen zu verarbeiten und zu speichern. Die Mechanismen der zweiten Epoche (DNS-Protein-Baupläne, epigenetische Informationen und RNS-Fragmente zur Kontrolle der Genexpression) dienten als Mittel (daher „Vermittlungsstufe“) zur Entwicklung der Datenverarbeitungsmechanismen der dritten Epoche (Gehirne und Nervensysteme). Die dritte Epoche begann mit der Fähigkeit der ersten Tiere, Muster zu erkennen, was bis heute die Hauptbeschäftigung unseres Gehirns ist.10 Zu guter Letzt entwickelte unsere Spezies die Fähigkeit, abstrakte geistige Modelle der Erfahrungswelt zu konzipieren und rational darüber nachzudenken. Wir besitzen die Fähigkeit, die Welt in Gedanken neu zu entwerfen und diese Ideen in die Tat umzusetzen.