Mustafa Suleyman: The Coming Wave

Die Bestenliste von BuchMarkt/Die Welt/WDR 5/N.Z.Z./ORF-Radio Ö 1: März 2024 Platz 5

Wir nähern uns einem kritischen Punkt in der Menschheitsgeschichte. Die Künstliche Intelligenz steht noch am Anfang, doch die Welle baut sich auf, und wir sind darauf nicht vorbereitet. Mustafa Suleyman ist Mitbegründer von DeepMind, dem KI-Pionier, der nun Teil von Alphabet ist, dem Google-Mutterkonzern. Er ist der ultimative KI-Insider. Sein Buch zeigt, was auf dem Spiel steht, und fragt, wie wir von den neuen Technologien profitieren können, ohne die Kontrolle zu verlieren.

Künstliche Intelligenz ist die Coming Wave, der nächste technologische Sprung, der sich nicht aufhalten lässt, so wie sich die Eisenbahn nicht von denen aufhalten ließ, die meinten, Geschwindigkeiten über 30 km/h seien für das menschliche Gehirn nicht verkraftbar. Bald werden wir in unserem täglichen Leben von KI umgeben sein. Sie wird unseren Alltag organisieren, unsere Geschäftswelt und sogar Kernaufgaben der Staatsverwaltung übernehmen. Wir brauchen die KI, um die Herausforderungen zu meistern, vor denen wir stehen, etwa den Klimawandel. Gleichzeitig birgt die Technologie Gefahren, die von keiner vorherigen Fortschrittswelle ausgingen, bis hin zur Auflösung von Staaten und einer Verdrängung des Menschen. Was macht man mit einer Welle, die auf den Strand zurast und sich nicht aufhalten lässt? Man versucht sie zu kanalisieren. Genau das ist das Anliegen dieses Buches: Den schmalen Grat zu finden, auf dem wir die Früchte der Technologie ernten ohne ihr zum Opfer zu fallen. Das ist die zentrale Aufgabe unserer Zeit. 

CONTAINMENT / EINDÄMMUNG: Die Fähigkeit, Technologien zu überwachen, einzuhegen, zu kontrollieren und möglicherweise sogar abzuschalten.

DAS CONTAINMENT-PROBLEM: Die Tendenz der Technologie, sich in Wellen weit zu verbreiten und Auswirkungen zu haben, die unmöglich vorherzusagen oder zu kontrollieren sind, einschließlich negativer und unvorhergesehener Folgen.

DAS DILEMMA: Die wachsende Wahrscheinlichkeit, dass sowohl neue Technologien als auch ihr Fehlen zu katastrophalen und / oder dystopischen Ergebnissen führen können.

FRAGILITÄTSVERSTÄRKER: Anwendungen und Auswirkungen der kommenden Technologien, die die ohnehin bereits brüchigen Fundamente des Nationalstaats erschüttern werden.

DIE GROSSE ÜBEREINKUNFT: Als Gegenleistung für das staatliche Gewaltmonopol erwarten die Bürger von den Nationalstaaten, dass sie die Ordnung aufrechterhalten und öffentliche Dienstleistungen erbringen, unter anderem durch die Nutzung neuer Technologien bei gleichzeitiger Minimierung ihrer schädlichen Nebenwirkungen.

KI, AGI UND ACI: Künstliche Intelligenz (KI) ist die Wissenschaft, die Maschinen beibringt, menschenähnliche Fähigkeiten zu erlernen. Künstliche allgemeine Intelligenz (AGI, artificial general intelligence) ist der Punkt, an dem eine KI alle kognitiven Fähigkeiten des Menschen besser anwenden kann als die intelligentesten Menschen. ACI (artificial capable intelligence), oder leistungsfähige künstliche Intelligenz, ist ein sich schnell nähernder Punkt zwischen KI und AGI: ACI kann ein breites Spektrum komplexer Aufgaben bewältigen, ist aber noch weit davon entfernt, vollständig allgemein zu sein.

DIE KOMMENDE WELLE: Eine im Entstehen begriffene Gruppe verwandter Technologien, die sich auf KI und synthetische Biologie konzentrieren und deren transformative Anwendungen die Menschheit sowohl befähigen als auch beispiellose Risiken mit sich bringen werden.

PESSIMISMUS-AVERSION: Die Neigung der Menschen, insbesondere der Eliten, Narrative zu ignorieren, kleinzureden oder abzulehnen, die sie als zu negativ ansehen. Sie stellt eine Variante der Optimismusverzerrung dar und prägt einen Großteil der Debatte über die Zukunft, insbesondere in Technologiekreisen.

DER SCHMALE PFAD: Das Potenzial der Menschheit, eine Balance zwischen Offenheit und Abschottung zu finden, wenn es darum geht, die Technologien der kommenden Welle einzudämmen, um katastrophale oder dystopische Ergebnisse zu vermeiden.

SYNTHETISCHE BIOLOGIE: Die Fähigkeit, künstlich neue Organismen zu entwerfen und zu entwickeln oder bestehende biologische Systeme  umzugestalten.

TECHNOLOGIE: Die Anwendung wissenschaftlicher Erkenntnisse (im  weitesten Sinne) zur Herstellung von Werkzeugen oder praktischen Ergebnissen.

VIER MERKMALE: Die einzigartigen Merkmale der kommenden Welle, die die Herausforderung der Eindämmung noch verschärfen. Es handelt sich um Asymmetrie, Hyper-Evolution, Allzweckgebrauch und Autonomie.

WELLEN: Die globale Verbreitung oder Ausbreitung einer Technologiegeneration, die in einer neuen Allzwecktechnologie verankert ist.