Nachdem mit der Veröffentlichung von ChatGPT und weiteren generativen KI-Modellen die Diskussion um künstliche Intelligenz ganz neue Dimensionen annahm, häufig begleitet von einer Euphorie zum schieren Potenzial dieser, wird mit einem immer tiefergehenden Verständnis zur und der Implikationen der KI-Revolution auch das Risikoverständnis klarer. Dass KI Bestandteil unserer Zukunft sein wird und einen ausgesprochen positiven Einfluss nehmen könnte, ist bekannt, doch bedarf es eines konkreten Austauschs zur korrekten Implementation, in Anbetracht eventueller, nahezu dystopischer Szenarien, die plötzlich greifbar nahe rücken.

Mustafa Suleyman beschreibt in „The Coming Wave“ das große Dilemma der Menschheit sich heute in diesem Kontext bewegen und aktiv die Regeln der Zukunft schreiben zu müssen. Als KI-Forscher und Entrepreneur der ersten Stunde, hat er prägende  Arbeit zum Fortschritt künstlicher Intelligenz geleistet. Schließlich ist der Unternehmer nicht nur Co-Gründer von „Deep Mind“ – einem KI-Unternehmen, welches später von Google aufgekauft wurde – sondern auch von „Inflection AI“. Ein weiteres KI-Unternehmen, welches sich mit den Technologien befasst, welche die Welt das letzte Jahr in Furore setzte: Machine Learning und Generative AI. Seinen Status als Experten kann man Suleyman nicht absprechen – und wenn man lernen möchte, wie es geht, dann bekanntlich von Profis. 😉

Besonders gefällt uns an diesem Buch, dass es von jemanden kommt, der im Zentrum des KI-Taifuns steht – kein Autor, der sich belesen hat oder Investor, der überzeugen will. Sondern jemand, der ganz nah dran ist und versucht einen halben Schritt zurückzugehen, um einen ganzheitlichen und abwägenden Blick auf die Situation zu werfen.

Künstliche Intelligenz ist seit jeher eine unserer grundlegenden Faszinationen bei 55BirchStreet – und insbesondere seit ChatGPT und Co. sind wir aktiv, unsere Kunden bei der Adaption der neuen Technologie zu unterstützen und eigene Lösungen zu entwickeln. Der katapultartige Zugang zu GenAI und die Nutzungsmöglichkeiten stets effizienter, günstiger und machtvoller werdenden Technologien, betrachten wir meist aus der Brille der Digitalisierungsenthusiast:innen.

Suleymans Buch ist somit ein offensichtlicher Kandidat für unseren Book Circle gewesen, dem wir gespannt entgegensahen. Also: Weitere Bekräftigung in puncto KI oder doch vorsichtiges Mahnmal?

Worum geht es eigentlich?

The Coming Wave richtet seinen Blick klar nach vorne, hinein in eine Welt, welche fundamental durch künstliche Intelligenz und synthetische Biologie verändert wird. Das ist keine Spekulation, sondern bereits Tatsache. Der Wechsel spielt sich vor unseren eigenen Augen ab. Vorbereitet mag niemand sein, doch ist jetzt die Chance, nötige Regularien zu treffen, um das Beste aus der Technologie herauszuholen, während diese sich im rapiden Tempo weiterentwickelt. Suleyman sagt dazu: „The current discourse around technology ethics and safety is inadequate.” (S .11).

Suleyman selbst ist im Zentrum dieser KI-Revolution, hat seinen eigenen Teil hierzu beigetragen, und weiß dementsprechend, dass das Potenzial künstlicher Intelligenz so positiv wie negativ ist, je nachdem, ob es in die richtigen Hände gerät oder nicht. Letzteres Szenario darf hierbei keine Option sein. Suleyman diskutiert in seinem Buch allem voran das ethische Dilemma künstlicher Intelligenz, irgendwo zwischen Kontrollverlust und unbegreiflichem Potenzial.

Dieses Potenzial, diese Macht und diese Geschwindigkeit bringt uns Suleyman anhand praktischer Beispiele aus unserer heutigen Realität näher und zeigt: Das ist kein Science Fiction!

“Since the early 1970s the number of transistors per chip has increased ten-million-fold. Their power has increased by ten orders of magnitude – a seventeen-billion-fold improvement.” (S. 33)

“Eighteen million gigabytes of data are added to the global sum every single minute of every day.” (S. 33)

“No previous wave has mushroomed as quickly, but the historical pattern nonetheless repeats. At first it seems impossible and unimaginable. Then it appears inevitable. And each wave grows bigger and stronger still.” (S. 34)

Man hört es schon heraus: Erfrischend ist, dass Suleyman nicht blindlings auf den Hype Train aufspringt und in irgendeiner skurrilen Silicon-Valley-Logik in den Äther schreit, wie unfassbar krass und geil das eigentlich wird, sondern auch die konkrete Warnung ausspricht, dass man hierdurch ins bloße Desaster schlafwandeln würde. Ein Faktor ist, dass die Entwickler:innen und Erfinder:innen schnell die Kontrolle über das verlieren, was sie geschaffen haben und es an einem gewissen Punkt kein Weg zurück, kein Aufhalten und nur ein erschwertes Eindämmen gibt.

Im Laufe des Buches gibt Suleyman explizite Beispiele, wie künstliche Intelligenz unsere Lebensqualität steigern könnte, aber zeigt sich gleichermaßen vorsichtig, wo Gefahr besteht, falsch abzubiegen. Und vor allem, was aus seiner Sicht getan werden müsste, um dieser Vorsicht nachzukommen.

Vorsicht ist vielleicht sogar das tongebende Motiv in The Coming Wave. Das grundlegende Problem ist nämlich nicht, soweit es Suleyman betrifft, dass boshafte Menschen mit schlechten Absichten künstliche Intelligenz für ihre Zwecke missbrauchen (wenn das selbstverständlich auch zu erwarten ist). Kritischer wird es vielmehr, wenn gute Absichten beträchtliche Schäden verursachen. Ein so klares Motiv, dass diese Warnung nicht oft genug genannt werden kann.

“As we stand at this turning point, we are faced with a choice – a choice between a future of unparalleled possibility and a future of unimaginable peril.” (Prolog)

“This is not about bad actors weaponizing technology; this is about unintended consequences from good people who want to improve health outcomes.” (S. 176)

“AI is both valuable and dangerous precisely because it’s an extension of our best and worst self.” (S. 210)

Dass es diesbezüglich viel zu diskutieren gibt, versteht sich von selbst.

Das sagt das Team

The Coming Wave ist leider extrem repetitiv. So sehr, dass einige die Hände vors Gesicht schlugen und klagten: „Ich hab’s verstanden.“ Eine unserer häufigsten Feststellung in Book Reviews: Das Buch hätte prägnanter und einfach kürzer sein können.

Ein Fazit, dass wir bedauern, denn inhaltlich hat Suleyman gute Arbeit geleistet! Die Beispiele sind einsichtig und spannend, aufgeführt in einer Methodik, die nicht weniger wissenschaftlich als praktisch ist und mit gelungenem Storytelling lebendig werden. Suleyman zögert hierbei auch nicht davor seine eigene Arbeit kritisch zu behandeln und bietet somit einen authentischen Einblick in die Eventualitäten künstlicher Intelligenz, ohne übermäßige Panik oder Euphorie zu kultivieren (wobei es hier und da mal angrenzt).

Nicht zu missachten ist, dass gewisse Ängste hierbei durchaus verstärkt werden. Suleyman fordert ganz klar ein „weltweit gemeinschaftliches Wir“ auf, aktiv zu werden und an einem Strang zu ziehen. Aber ganz ehrlich gesagt: Wann ist uns das jemals gelungen? In der aktuellen politischen Lage kann dieser Handlungsbedarf, dem wir eigentlich ausgesetzt sind, jedoch stattdessen größtenteils mit Vogelstrauß-Taktik beantwortet werden: „Spend time in tech or policy circles, and it quickly becomes obvious that head-in-the-sand is the default ideology.“ (S.15).

Manche Birchies fanden The Coming Wave herausragend, einige zu negativ, andere waren einfach nicht wirklich mitgerissen, doch insgesamt können wir sagen: Wir haben definitiv etwas gelernt.

Die Takeaways

Unser neu erworbenes Wissen und Perspektiven, möchten wir natürlich zur Diskussion stellen. Steigt man erstmal vom Hypetrain ab und taucht aus diesem Buch wieder auf, kann man einen   differenzierten Blick auf die Implikationen einer KI geleiteten Zukunft, mit all ihren Gefahren und Potenzialen beiderlei werfen. Das Ergebnis: Ein gesteigertes Verantwortungsbewusstsein bei uns im Team. Dass nicht nur KI, sondern auch die Diskussion darum gefördert werden muss, scheint der zentrale Konsens unserer Debatte zu sein.

Das sind unsere wichtigsten Learnings und Feststellungen:

• Anwendbarkeit: Der Nutzen von KI ist in Abhängigkeit zu dem, was wir mit ihr machen möchten – und das ist ein kollektives Unterfangen. Entsprechend sollte KI auch nicht ersetzen, sondern unter menschlicher Führung erfolgen.
• KI schafft immer mehr mit immer weniger: Die rapide wachsenden Fähigkeiten und Effizienzsteigerungen, die wir erwarten, werden Einfluss auf unser gesamtes „Menschsein“ haben. Wie wir denken, arbeiten, miteinander agieren, worauf wir unsere Zeit verwenden und letztlich unser Leben gestalten.
• Zwischen Utopie und Dystopie: Der Einsatz von KI ist entscheidend dafür, ob sie uns mehr Nutzen und Mehrwert schafft als Schaden zu verursachen. Möglich ist beides: Die Welt von Hunger befreien, die Meere von Plastik und die Menschheit von Krankheiten. Aber auch das absolute Gegenteil, Großteilen der Menschheit mit einem Schlag zu schaden.
• Anführer des Fortschritts?: Change Consultants werden AI Leader sein, da ein Großteil des kommenden Wandels durch KI erfolgen wird.
• Zukunftsfrage der Abhängigkeit: Im hypothetischen Szenario eines Universalvirus, wie würde die Welt reagieren? Wie abhängig dürfen wir uns von KI machen? Auch das muss diskutiert werden.

Insgesamt haben wir The Coming Wave schon zahlreich weiterempfohlen – denn es betrifft uns alle: Das kann ein südafrikanischer Farmer oder eine deutsche Rentnerin sein. Und ja, beiden haben wir das Buch schon nahegelegt. 😉 Hiermit empfehlen wir es auch Euch!

Was denkt ihr über The Coming Wave? Wir freuen uns über den Austausch! 🤖

‍