Nick Bostrom

Das Sachbuch - Superintelligenz - geht von Entwicklungen der Vergangenheit und den derzeitigen Stand der Künstlichen-Intelligenz-Forschung aus und umreißt mögliche Szenarien. Dabei zeigt der Philosoph auch die fehlenden Kontrollmechanismen zukünftiger KIs auf. Meiner Meinung nach ist dieses Buch sehr wichtig, einfach weil es zu einer Diskussion anregt, die man nicht früh genug starten kann. Denn bei einer Umfrage, die Nick Bostrom unter weltweit führenden KI-Experten gemacht hat, war die mediane Antwort auf die Frage, in welchen Jahr der Mensch die KI entwickelt hat, 2040 oder 2050. So sieht unter anderem auch der britische Physiker Stephen Hawking in künstlicher Intelligenzen eine Bedrohung für die Menschheit an und das durch deren Aufkommen unser Ende eingeleitet werden könnte.

Abgesehen von den Gedankenspielen und Diskussionen rund um die KIs, hat Nick Bostrom ein sehr anspruchsvolles Sachbuch geschrieben, dass durch eine gute Struktur und Aufbau glänzt. Einigen Kapiteln kann man gut folgen und sind auch für den durchschnittlichen Leser von Sachbüchern verständlich. An deren Ende gibt es meist eine Zusammenfassung, Verweise und Anmerkungen, um den umfangreichen Inhalt besser zu verstehen. Der Text ist sehr wissenschaftlich gehalten - wichtige Informationen sind in langen Sätzen, die manchmal ein wenig zu verschachtelt sind, versteckt. Grundsätzlich bin ich anspruchsvolle Bücher gewohnt - Nick Bostroms Sachbuch beschreitet darin aber noch einmal eine gänzlich neue Stufe. Liest man das eine oder andere Interview mit dem Philosophen und Sachbuchautor, merkt man, dass er fundierte wissenschaftliche Forschung, auch sehr einfach beschreiben kann.

Fulminante Überlegungen zur künftigen Rolle der KI

Die Evolution ist ein fortschreitender Prozess und dies neuerdings anscheinend nicht nur, was das biologische Leben auf diesem Planeten betrifft (inklusive des Menschen natürlich), sondern auch, was die künstliche Intelligenz, die „evolutionäre Entwicklung“ der digitalen Technik angeht.

Sicher (noch!) mit dem Unterschied, dass diese Entwicklung von „anderen Kräften“ (nämlich dem menschlichen Erfindergeist) angetrieben wird, doch, folgt man Nick Bostrom in seiner sehr sachlichen, sehr klaren, sehr objektiven Darstellung, könnte eine „Revolution der KI“ über kurz oder lang bevorstehen.

Ohne es wie Science Fiction klingen zu lassen (was eine große Kunst bei den Inhalten dieses Buches allein schon ist) und ohne epische Düsternis im Tonfall (dem die hohe sachliche Kompetenz und ebenso sachliche Ausdrucksform des Autors widersteht) beschreibt Bostrom das (nach der Lektüre auf jeden Fall für den Leser) hoch realistische Szenario einer kommenden technischen Entwicklungsstufe.

Bei der der Leser sich entscheiden muss, ob er diese stark bedrängend und furchteinflößend bewertet oder als mögliche Chance (oder einfach „natürliche“ Weiterentwicklung) bewertet.

„Das wird unser Verderben sein. Sollten wir nicht erst bedenken, wie eine Eule sich zähmen und bändigen lässt, bevor wir sie in unsere Mitte bringen?“.

Diese Parabel als Illustration zu Beginn bringt auf den Punkt, was Bostrom nüchtern beschreibt. Die immer weitere Öffnung der „Büchse der Pandora“, die immer weiter fortschreitende digitale Entwicklung, die Vernetzung von immenser Rechenleistung kühler Prozessoren (gegenüber dem analogen Gehirn des einzelnen Menschen), das birgt nicht nur ein wenig Sprengstoff, das birgt die Möglichkeit einer völligen Veränderung der Realitäten (die zur Zeit den Menschen noch als Spitze der Nahrungskette vorfinden).

Aber wer beherrscht wen? Aktuell stellt sich diese Frage schon in vielfacher Hinsicht (von der „Selbstvermessung“ über das „Leben im Net“ bis zur „Granularen Gesellschaft“ erhöht sich immens die öffentliche Diskussion um dieses Thema). Überzeugend und immer wieder objektiv, ohne Polemik oder Untergangsprophetie, zeigt Bostrom Seite für Seite auf, wie das Verhältnis aus der Balance gerät, wie der Gedanke des Menschen, die Technik zu beherrschen, schon aktuell nicht mehr stimmt (sieht man sich den Algorithmus basierten Börsenhandel an).

Und alles forscht mit hoher Kraft und hoher Geschwindigkeit unermüdlich weiter an der KI mit dem Ziel selbstlernender digitaler Intelligenz. Ohne sich über die Kontrolle im Vorfeld überaus gründlich Gedanken gemacht zu haben, das konstatiert Bostrom ebenso kühl, wie er die Szenarien einer solchen Superintelligenz und die objektiv möglichen Reaktionsweisen in Bezug auf eine solche Schritt für Schritt durchgeht.

„Und genau, wie das Schicksal der )körperlich stärkeren) Gorillas heute stärker von uns Menschen abhängt, als von den Gorillas selbst, so hinge das Schicksal unserer Spezies von den Handlungen der maschinellen Superintelligenz ab“.

Wird eine solche „Menschenfreundlich“ oder „Menschenfeindlich“ sein und welche Parameter müssten vorher intensiv bedacht und entwickelt werden? Denn, auch hier hat Bostrom recht, „im Prinzip haben wir nur einen Schuss frei“.

Ist jene Superintelligenz „Menschenfeindlich“, dann wir sie den Menschen umgehend (und erfolgreich!) davon abhalten, sie zu ersetzen oder Präferenzen zu ändern.

Eine „Herkulesaufgabe“, die, egal wie sie ausgeht, in den Augen Bostroms wohl auch die „letzte Aufgabe der Menschheit“ sein wird, denn danach agiert und handelt jene „Superintelligenz“ weitaus schneller und effizienter, als es Menschen könnten.

Der Kern seiner Überlegungen richtet sich somit (neben vielen anderen beschreibenden Überlegungen) letztendlich auf den (intensiv zu planenden) „Erwerb von Werten“ einer solchen kommenden Superintelligenz.

Ein bahnbrechendes Buch, anders kann man es kaum bezeichnen, in dem Bostrom trotz natürlich erkennbar eigener Haltung, Bewertung und Sorgen ein sehr sachliches Bild und sehr sachliche Prognosen und damit verbundene existenzielle Aufgaben bietet. Einsperren zumindest wird sich eine solche geballte KI später nicht lassen und „klein halten“ ebenso wenig.