Die Mangroven-Gesellschaft

Die Infosphäre mit künstlichen Akteuren teilen

Luciano Floridi

Die Autoindustrie war von Anfang an Vorreiter bei der digitalen Revolution – erst mit Industrierobotern und mittlerweile mit KI-gestützten fahrerlosen Autos. Beide Phänomene sind miteinander verknüpft und bieten wichtige Erkenntnisse hinsichtlich der Koexistenz menschlicher und künstlicher Akteure in unserer neuen Welt.

Schauen wir uns zuerst Industrieroboter an, etwa einen Roboter, der Fahrzeugbauteile in einer Fabrik lackiert. Der dreidimensionale Raum, der die Grenzen definiert, innerhalb derer ein solcher Roboter erfolgreich arbeiten kann, wird als Freiheitsgrad bezeichnet. Im Englischen spricht man von einer envelope, einer Umhüllung. Einige unserer technischen Geräte, etwa Spül- oder Waschmaschinen, erfüllen ihre Aufgaben, weil ihre Umgebungen um die grundlegenden Fähigkeiten des Roboters in ihrem Inneren herum aufgebaut sind. Man baut keine Droiden wie C-3PO aus Star Wars, damit sie das Geschirr auf genau die gleiche Weise spülen, wie wir dies tun würden. Stattdessen umhüllen wir einfache Roboter mit Mikro-Umgebungen, um ihren begrenzten Fähigkeiten gerecht zu werden, diese auszuschöpfen und trotzdem das gewünschte Ergebnis zu erzielen.

Die Umhüllung war früher entweder ein eigenständiges Phänomen (man kaufte den Roboter mit der erforderlichen Umhüllung, etwa eine Spül- oder Waschmaschine) oder sie wurde innerhalb von Werkshallen der Industrie angewandt, wobei die Umhüllung sorgfältig auf ihre künstlichen Bewohner zugeschnitten wurde. Heute – und damit kommen wir zum zweiten Punkt, der durch fahrerlose Autos thematisiert wurde – umhüllen wir gesamte Umgebungen zur einer technikfreundlichen Infosphäre. Wenn die Rede von smarten Städten ist, meint man eigentlich, dass gesellschaftliche Lebensräume in Orte verwandelt werden, in denen Roboter erfolgreich tätig werden können.

Die Umhüllung hat begonnen, die Realität in all ihren Facetten zu durchdringen, und tritt täglich überall zutage. Ohne es richtig zu merken, haben wir die Welt seit Jahrzehnten um Informations- und Kommunikationstechnik (IKT) herum gebaut. In den 1940ern und 1950ern war der Computer ein Raum, den Alice betrat, um damit zu arbeiten. Programmiert wurde mit dem Schraubenzieher. Bei der Mensch-Maschine-Interaktion handelte es sich um eine somatische (körperliche) Beziehung. In den 1970ern trat Alices Tochter aus dem Computer heraus und stellte sich vor ihn. Die Interaktion zwischen Mensch und Computer wurde zu einer semantischen (bedeutungshaften) Beziehung, die später durch das DOS-Betriebssystem (Disk Operating System) und Textzeilen, eine graphische Benutzeroberfläche (Graphic User Interface – GUI) und Symbole noch verstärkt wurde. Heute hat Alices Enkeltochter wieder das Innere des Computers betreten, und zwar in Gestalt einer umfassenden Infosphäre, die sie – oft nicht wahrnehmbar – umgibt. Wir entwickeln die ultimative Umhüllung, in der die Interaktion zwischen Mensch und Computer wieder eine somatische wird, mit Touchscreens, Sprachsteuerung, Aufnahmegeräten, gestengesteuerten Anwendungen, Lokalisierungsrastern und so weiter. Wie gewohnt treiben Unterhaltungs- und Militäranwendungen den Fortschritt voran, doch der Rest der Welt hinkt nur geringfügig hinterher. Wenn fahrerlose Fahrzeuge sich immer müheloser fortbewegen können und die Warenauslieferung bei Amazon in Kürze durch eine Flotte unbemannter Drohnen ausgeführt wird, dann liegt das nicht daran, dass endlich echte Künstliche-Intelligenz-Anwendungen mit Robotern auf den Markt gekommen sind, die denken, verstehen oder fühlen wie Sie und ich, wenn nicht sogar besser. Der Grund ist vielmehr, dass sich die Umgebung, in der sie sich bewegen müssen, für künstliche Intelligenzen (KI) und ihre äußerst begrenzten Möglichkeiten zunehmend besser eignet.

Wenn man die Welt umhüllt, indem man eine feindliche Umgebung in eine digitalisierungsfreundliche Infosphäre verwandelt, dann teilt man damit seinen Lebensraum nicht nur mit Naturkräften und Tieren, sondern auch – und teilweise sogar vornehmlich – mit künstlichen Akteuren. Das soll nicht heißen, dass bereits die Aussicht auf echte künstliche Akteure besteht. Wir verfügen nicht über Technologien mit semantischer Kompetenz – Akteure, die Dinge verstehen oder sich über etwas Sorgen machen oder einer Sache Leidenschaft entgegenbringen. Deshalb sind die falsche Maria aus „Metropolis“ (1927), Hal 9000 aus „Odyssey im Weltraum“ (1968), C-3PO aus „Star Wars“ (1977), Rachael aus „Blade Runner“ (1982), Data aus „Raumschiff Enterprise“: „Das nächste Jahrhundert“ (1987), Agent Smith aus „Matrix“ (1999) oder die körperlose Samantha aus „Her“ (2013) reine Science Fiction, und dabei wird es auch bleiben. Viel wichtiger ist, dass der fehlgeschlagene Anbruch des KI-Zeitalters keine Rolle spielt. Es gibt so viele Daten, so viele dezentrale, miteinander kommunizierende IKT-Systeme, so viele damit verbundene Menschen, so gute statistische und algorithmische Werkzeuge, dass rein syntaktisch arbeitende Technologien die Herausforderung, die das sinnhafte Erfassen und das Verstehen darstellen, umgehen und trotzdem das Benötigte bereitstellen können: eine Übersetzung, das richtige Bild eines Orts, das bevorzugte Restaurant, das interessante Buch, einen guten Song, der unseren musikalischen Vorlieben entspricht, ein Ticket zu einem besseren Preis, ein besonders günstiges Schnäppchen, den unerwarteten Artikel, von dem wir selbst nicht wussten, dass wir ihn brauchen, die richtige Deutung einer Röntgenaufnahme und so weiter. Sie sind nicht schlauer als ein alter Kühlschrank und dennoch können unsere smarten Technologien besser Schach spielen, besser einparken und Störungen bei einer Maschine besser voraussagen als wir. Künstliche Speicher (in Form von Daten und Algorithmen) erzielen bei einer wachsenden und grenzenlosen Zahl an Aufgaben bessere Ergebnisse als die menschliche Intelligenz. Uns – vielmehr unserer Fantasie – sind bei der Entwicklung und beim Einsatz unserer smarten Technologien keine Grenzen gesetzt.

Deshalb zeigt sich nun, dass einige unserer heutigen Probleme – insbesondere im Bereich E-Health, auf den Finanzmärkten, in Sicherheitsfragen und bei Konflikten – bereits innerhalb stark umhüllter Umgebungen auftreten.

In den 1990ern wurde man noch gefragt, ob man online beziehungsweise „im Netz“ war. Heute ist diese Frage in vielen hochentwickelten Informationsgesellschaften bedeutungslos geworden. Stellen Sie sich vor, Sie werden von jemandem gefragt, ob Sie online sind, und zwar während Sie mit dieser Person über Ihr Smartphone sprechen, das mittels Bluetooth mit dem Soundsystem Ihres Wagens verbunden ist, während Sie am Steuer sitzen und den Anweisungen eines GPS-Geräts folgen, das außerdem in Echtzeit Verkehrsinformationen herunterlädt. In Wahrheit sind wir weder on- noch offline, sondern onlife: Wir leben zunehmend in diesem besonderen Raum, der sowohl analog als auch digital, sowohl online auch auch offline ist. Deutlicher wird dies vielleicht mit einer Analogie. Stellen Sie sich vor, jemand fragt, ob an der Stelle, an der ein Fluss ins Meer mündet, Süß- oder Salzwasser fließt. Dieser Mensch hat den besonderen Charakter dieses Ortes nicht begriffen. Unsere Informationsgesellschaft befindet sich an diesem Ort. Und unsere Technologien sind im perfekten Entwicklungsstadium, um sich diesen Ort zunutze zu machen, vergleichbar mit Mangroven in brackigem Wasser.

In einer umhüllten Welt, in der Mangroven-Gesellschaft, sind alle relevanten (und teilweise die einzig verfügbaren) Daten maschinenlesbar. Entscheidungen und Maßnahmen können automatisch getroffen beziehungsweise durchgeführt werden, über Sensoren, Aktoren und Anwendungen, die Befehle ausführen und die entsprechenden Prozesse vollziehen – von der Benachrichtigung oder dem Scannen eines Patienten bis hin zum An- und Verkauf von Aktien. Es ließen sich problemlos noch zahlreiche weitere Beispiele finden.

Die Umhüllung der Welt mit dem Ziel, diese in einen IKT-freundlichen Ort zu verwandeln, hat zahlreiche Konsequenzen. Eine davon ist jedoch besonders bedeutsam und folgenreich. Der Mensch könnte unbeabsichtigt Teil des Mechanismus werden. Genau davor hat Kant immer gewarnt: Menschen als Mittel und nicht als Zweck zu behandeln. Doch dies geschieht bereits, und zwar hauptsächlich auf zweierlei Weise.

Erstens wird der Mensch zu einem neuen Mittel digitaler Produktion. Es ist ganz einfach: Manchmal muss unsere IKT Vorgänge verstehen und interpretieren. Dafür benötigen sie semantische Maschinen, wie wir es sind. Dieser noch recht junge Trend ist unter dem Begriff human-based computation (menschengestützte Datenverarbeitung) bekannt. Ein klassisches Beispiel ist der Dienst Mechanical Turk von Amazon. Der Name stammt von dem berühmten Schachautomaten, der von Wolfgang von Kempelen (1734 – 1804) Ende des 18. Jahrhunderts gebaut wurde. Der Automat erlangte Berühmtheit, weil er unter anderem Napoleon Bonaparte und Benjamin Franklin im Schach schlug und sich auch gegen einen Meister wie François-André Danican Philidor (1726 – 95) gut behauptete. Doch es war ein abgekartetes Spiel, denn in einem Spezialfach im Inneren des Automaten war ein menschlicher Spieler verborgen, der dessen mechanischen Betrieb steuerte. Der mechanische Türke wendet einen ähnlichen Trick an. Amazon beschreibt ihn als eine „künstliche künstliche Intelligenz“. Es handelt sich um einen...