Die Gefahr durch Büroklammern

Zentral für ein selbstlernendes System ist die Definition der Zielsetzung. Dieses wird üblicherweise durch einen Maßstab (mathematisch / technisch: eine „Zielfunktion“) erreicht.

Die selbstlernenden Systeme werden so programmiert, dass sie vornehmlich gelernte, offensichtlich gut passende Aktionen auf eine gegebene Situation anwenden und dann schauen, ob sich, gemessen in dem vorgegebenen Maßstab, die Situation verbessert hat. Wenn ja, wird diese Aktion in Zukunft häufiger bei ähnlichen Situationen gewählt. Wenn nein, dann nicht so häufig. Damit das System auch nicht immer das gleiche tut, werden zufällig andere Aktionen eingestreut und diese werden dann ins Repertoire und in die Bewertung aufgenommen.

Eine Zielfunktion ist also zentral für ein selbstlernendes System und bestimmt ganz wesentlich seine zukünftige Entwicklung. In der (fiktionalen) Literatur findet man bei Schätzing („Die Tyrannei des Schmetterlings“) und bei Olsberg („Mirror“) die Zielfunktion als wesentlichen Aspekt.

Der KI- und Zukunftsforscher Nick Bostrom hat die Bedeutung der Zielfunktion einmal so beschrieben: Wenn man einer (selbstlernenden) KI die Aufgabe stellt, die Büroklammer zu optimieren, würde sie (ohne andere Zielfunktion) alle ihr zugänglichen Ressourcen dieser Zielsetzung unterordnen. Am Ende würden dann alle irdischen (Energie-)ressourcen oder auch die Ressourcen anderer Planeten, sobald diese zugänglich werden, genutzt werden, um noch bessere Büroklammern zu erstellen. Falls erforderlich würde die KI, sofern sie es erlernt hat, andere, „störende“ (in Bezug auf die Zielfunktion) Einflüsse, wie bspw. „Energieverschwendung“ für private Haushalte oder den ÖPNV, abschalten um Ihrer Zielfunktion zu genügen.

Bücher visualisieren

Einer der Reize eines fiktionalen Buches ist ja, dass die beschriebenen Bilder und Landschaften der visuellen Phantasie des Lesers überlassen bleiben. Bei Romanen, in denen real existierende Objekte oder Schauplätze eine wichtige Rolle spielen, ist man dann wieder darauf angewiesen, die Landschaften besucht zu haben und sich daran zu erinnern. Bei prominenten Schauplätzen kann man auch online Bilder suchen.

Ein äußerst interessantes Projekt in diesem Zusammnhang habe ich leider erst jetzt gefunden – nachdem ich das Buch gelesen habe, nämlich das visuelle Begleitbuch zu Robert Langdons Origin, mit Bildern der im Buch beschriebenen Kirchen, Museen, Klöster usw. Man kann zwar auf der Website freiwillig einen Geldbetrag spenden, aber es war mir nicht möglich den Autor namentlich zu identifizieren.

Lesestoff (4. Türchen)

Nachdem das Wetter ja jetzt wirklich wieder zum jahreszeitlich üblichen Niveau gefunden hat, lässt sich gut etwas Lesen.

Hier eine kleine Auswahl an Büchern, die moderne Technologie in Romanform näher bringen. Ein bisschen Technologieverständnis macht das zwar einfacher, aber das meiste ist auch so ganz verständlich geschrieben (und man muß auch nicht immer alles verstanden haben um der Handlung zu folgen).

Dan Brown hat ja immer kultur-historisch interessante Handlungsorte und mit Origin geht es nach Spanien und in die Welt der künstlichen Intelligenz.

Sein Inferno ist nicht ganz so modern was die Technologie betrifft aber hier kommen die Transhumanisten als eine Art philosophische Fundierung dazu.

Marc Elsberg hat mit den drei Büchern Black Out, Helix und Zero jeweils eines der Themen Energieversorgung, Biotechnologie und Big Data / künstliche Intelligenz ganz gut beschrieben. Die technischen Grundlagen sind gut recherchiert und das meiste kann heute auch technisch / wissenschaftlich so umgesetzt werden. Insofern liefern diese Romane recht gute Anhalte dafür, in welchen Bereichen wir uns als Gesellschaft Spielregeln geben müssen, die dann auch erfolgreich etabliert werden müssen.

Mein persönlicher Favorit ist Frank Schätzings Tyrannei des Schmetterlings, weil in dem Roman in einem Zukunftsszenario einfach alle Technologien zusammenkommen (Biotechnologie, KI, Arbeitsweise der großen IT Unternehmen) und sich hier zum erstenmal jemand bemüht hat, Quantentechnik als Handlungsstrang in einem Roman darzustellen. Das Ergebnis ist ein langer, recht utopischer Roman, der aber anhand von Alltagssituationen ganz gut zeigt, wie sich die neuen Technologien im Kleinen (Beziehungen) und auch im Großen (Kriegsführung) auf lange Sicht auswirken können. Die zu Grunde gelegten wissenschaftlichen Theorien sind allesamt real existent, einige aber noch nicht bewiesen…

Das sollte bis Weihnachten reichen, und was dann noch originalverpackt ist kann ja auch verschenkt werden. Aber bevor jetzt bestellt oder gekauft wird, erstmal raus aus den Betten und macht das vierte Türchen auf!