Zur Kritik an Richard David Precht - Wie politisch ist Künstliche Intelligenz?

Es ist nicht einfach, neutral und nüchtern über Künstliche Intelligenz (KI) zu sprechen, ist sie doch Gegenstand wirkmächtiger Projektionen. Für einige birgt KI die Möglichkeit, den Traum einer egalitären Gesellschaft herbeizuführen oder zumindest die Lebensqualität der Menschen mit einem Quantensprung zu verbessern. Andere hingegen verbinden mit KI zuvorderst Ängste, die bis zur Vision des völligen Kontrollverlusts und der Versklavung durch Maschinen reichen. Dabei hilft es nicht gerade, dass die öffentliche Wahrnehmung von KI stark von populärkulturellen Bildern á la „Terminator“ oder „2001: Odyssee im Weltraum“ geprägt ist.

Wie aufgeladen die Debatte über KI ist, zeigt sich auch in Kuno Kirschfelds zuletzt in Cicero erschienenem Kommentar, in dem er sich am jüngsten Buch des Populär-Philosophen Richard David Precht abarbeitet. Grundsätzlich ist es nachvollziehbar, dass KI-Forscher irritiert sind, wenn Precht als gelernter Germanist plötzlich in deren Territorium wildert und ihnen zudem ein bestimmtes Menschenbild unterstellt – zumal Precht mit seinen Äußerungen an einigen Stellen durchaus über das Ziel hinaus schießt und seiner Argumentation mehr Schattierungen und ein solideres Fundament gut getan hätten. Kirschfeld beschließt sein Fazit damit, dass Precht gerade wegen seiner unzutreffenden Beschreibung zu einer negativen Einschätzung von KI komme. Doch ist das nicht ebenfalls vereinfachend: Hieße das nicht im Umkehrschluss, dass eine zutreffende Bewertung des gesellschaftlichen Nutzens von KI zwangsläufig positiv ausfallen muss?

Wer bekommt was, wann und wie?

Ein zentraler Kritikpunkt Kirschfelds an Precht ist, dass er die Profitgier und das wirtschaftliche Interesse bei der Entwicklung von KI-Technologien überbetont – eine Fehleinschätzung, die vor allem aus Prechts Fokus auf die USA und deren Technologieförderlandschaft resultiere. Mit der Situation in Deutschland sei diese nicht vergleichbar. In der Tat bestehen erhebliche Unterschiede in den Wirtschaftsmodellen, doch spielen ökonomische Interessen bei der Technologieentwicklung auf beiden Seiten des Atlantiks eine bedeutende Rolle.

Für den Wirtschaftsstandort Deutschland und Europa ist die Bedeutung von KI-Technologien kaum zu überschätzen. KI ist Kernelement von Wertschöpfung, die auf Daten als zentralem Rohstoff fußt – und eben diese Wertschöpfung wird zunehmend wichtig. Die EU spricht schon seit einigen Jahren von Daten nicht nur als neuem Öl, sondern als Schlüsselressource für den künftigen Wohlstand der Gesellschaften.

So verzeichnet die Datenökonomie, wie die EU sie nennt, beachtliche Wachstumsraten von bis zu 12 Prozent im Jahr 2017. In Zeiten beinahe stagnierenden Wachstums im OECD-Raum lassen solche Zahlen aufhorchen. Im Wettbewerb um Wohlstand können es sich Regierungen kaum leisten, einem wachsenden Technologiesektor, allen voran der KI, Knüppel zwischen die Beine zu werfen. Man muss nicht Wladimir Putin zustimmen, wonach derjenige die Weltherrschaft erlangt, der zuerst den Durchbruch im Bereich der KI vollbringt. Aber es ist klar: Es geht um sehr viel, auch darum, als Industrienation nicht abgehängt zu werden.

Cyber Valley und die Wirtschaft

Insofern ist das deutsche Cyber Valley nicht einfach nur eine beachtliche Einrichtung deutscher Spitzenforschung im Bereich KI, sondern auch eine Antwort auf das Silicon Valley im Standortwettbewerb. Selbstverständlich wird im Cyber Valley Grundlagenforschung betrieben, die nicht primär wirtschaftlichen Interessen dient. Doch am Ende dürfte es selbst bei Anwendungen wie dem von Kirschfeld angeführten Tischtennis spielenden Roboter darum gehen, welche Geschäftsmodelle damit möglich werden.

Wie der Präsident der Fraunhofer-Gesellschaft, Reimund Neugebauer, es ausdrückt: „Für die internationale Wirtschaft und die industriellen Wertschöpfungsketten bedeutet [KI] einen grundlegenden Strukturwandel. Mit unserem Beitritt zum Cyber Valley werden wir gemeinsam mit unseren Partnern die Forschung und den Transfer von der Wissenschaft in den Markt vorantreiben, um gemeinsam das Potenzial dieser Schlüsseltechnologie voll auszuschöpfen und den Standort Deutschland auch im internationalen Wettbewerb zu stärken.“

Künstliche Intelligenz als Wirtschaftsfaktor 

Klar ist in jedem Fall, dass wirtschaftliche Interessen mit KI-Forschung eng verflochten sind – enger als es sicherlich an einem germanistischen oder philosophischen Institut Praxis ist. Allgemein gehaltene Missionsstatements zu guten Vorsätzen der KI-Entwicklung sind daher im Kontext harter Interessen zu sehen, welche auch die Politik prägen.

So verkündete etwa der CDU-Bundestagsabgeordnete Thomas Jarzombek mit Blick auf die KI-Entwicklung in USA und China, „dass in Deutschland aus ethischen Bedenken nicht abermals eine Zukunftstechnologie verhindert werden dürfe“. Man sollte damit nicht unterstellen, dass Jarzombek gegen Ethik ist. Vielmehr dürfte seine Aussage von der Aussicht geleitet sein, dass es der Wirtschaftsnation Deutschland insgesamt schlechter gehen wird, wenn sie in puncto KI abgeschlagen ist.

Zielgerichtete Werbung

Ähnliches Denken findet man auch andernorts. Der Manager Jan Oetjen etwa betonte in einer Sitzung des Digitalausschusses im Bundestag die Wichtigkeit, mit der US-Konkurrenz mithalten zu können. Er verwies auf die Bedeutung der personalisierten Online-Werbung – die eine schwache Form von KI nutzt: „Wenn Sie nicht zielgerichtete Werbung ausspielen, verdienen Sie gerade mal ein Zehntel von dem, was ein Anbieter verdienen wird, der diese Werbefläche mit Profildaten anreichern kann“.

Damit liefert er zumindest indirekt eine Rechtfertigung, dass bestimmte Geschäftsmodelle möglich sein sollten, sodass Unternehmen rentabel arbeiten können. Das liegt nahe an einer Mentalität, wie zuletzt von Facebook gegenüber Apple geäußert, wonach bestimmte Geschäftsmodelle schon deshalb erlaubt sein sollten, weil sonst kein Profit mehr damit zu machen ist. Wer meint, ein solches Denken finde sich ausschließlich in den USA, irrt also.

Wie man Menschen mit KI manipuliert 

Kurzum: Das Szenario, dass bestehende Anreizlagen dazu führen, gesellschaftliche Werte und ethische Prinzipien zugunsten wirtschaftlicher Interessen mindestens sukzessive aufzuweichen, ist nicht so weit hergeholt, wie es laut Kirschfeld den Anschein hat. Zwar dürften die allermeisten KI-Anwendungen wohl unbedenklich sein, etwa wenn sie dazu beitragen, Produktionsprozesse zu verbessern.

Problematisch wird es aber potenziell dort, wo KI direkte Konsequenzen für Individuen oder gesellschaftliches Zusammenleben hat. Gerade bei solchen Anwendungen ist zu beobachten gewesen, dass sie nur allzu schnell dazu dienen, den Menschen berechenbar zu machen, um ihn steuern zu können. Shoshana Zuboff dokumentiert etwa ausführlich, mit welchem Elan Unternehmen lernende Systeme dazu eingesetzt haben, um Verhalten von Menschen vorherzusagen und so ihr Konsumverhalten zu beeinflussen.

Google und Apple beeinflussen die Gesetzgebung 

Zu meinen, dass KI-Entwicklungen schon deshalb zum Wohle der Gesellschaft geschehen werden, weil neben der Wirtschaft und Politik auch die Wissenschaft in Ethikräten oder anderen Gremien involviert ist, mutet naiv an. Eine solche Auffassung ist sogar gefährlich, insofern sie gegenüber den strukturellen Zusammenhängen, Interessenlagen und Verflechtungen blind ist.

Wir wissen, dass Interessensverbände der Wirtschaft über weitaus größere Mittel verfügen als andere Interessen. Tech-Giganten wie Apple oder Google beschäftigen ein Heer von Lobbyisten, um die Gesetzgebung zu beeinflussen. Wenn dann beispielsweise ein Philipp Amthor mit der KI-Firma Augustus Intelligence zusammenarbeitet, und sich hier sicherlich der ein oder andere auch die Klinke in die Hand gibt, geschieht dies nicht automatisch schon zum Wohle der Gesellschaft.

Ballistische Raketen im Hinterhof 

Mit Blick auf Forschung selbst muss man zwar nicht gleich die Gefahren prometheischen Strebens dramatisieren, doch kommt dieses Motiv auch nicht von ungefähr. So wissen wir etwa von KI-Pionier Marvin Minsky und seinen Jüngern, wie sie in ihrem Erfindergeist immer wieder Grenzen überschritten, bis hin zum Test ballistischer Raketen im Hinterhof von Freunden. Freie Forschung heißt zwar Grenzen des Machbaren zu verschieben, doch wie bei anderen Technologien wie der Atomkraft oder Biogenetik, ist auch bei KI zu hinterfragen, ob alles technisch Mögliche auch gesellschaftlich unproblematisch ist.

Jener Geist à la Minsky mag dabei nicht nur auf dem Boden des Silicon Valleys gedeihen. Dies gilt ebenso für eine verengte Sicht, welche verschiedenste Probleme rein technologisch lösen will und dabei gesellschaftspolitische Perspektiven ausblendet. Wenn etwa KI-Systeme zur Überwachung und Steuerung von Lernverhalten in der Schule genutzt werden, dann ist eine Seite davon eine rein technische und lässt sich als Optimierungsproblem begreifen. Ist das Problem erst so definiert, geht es nur noch darum, wer die besten Mittel zu seiner Lösung findet. Ob dieser Ansatz überhaupt sinnvoll ist und was die leitenden Ziele sind, kann die Wissenschaft aber nicht beantworten, sondern nur Gesellschaft und Politik.

Der Fokus der Wissenschaft liegt auf der Ethik   

Daher sollte die Frage erlaubt sein, ob der Wissenschaft allein eine verantwortliche Entwicklung von KI anvertraut werden kann, ohne gleich als Wissenschaftsgegnern gebrandmarkt zu werden. Es ist schon diskutabel, inwieweit Wissenschaft fähig ist, eine völlig interessenlose Sicht einzunehmen. So geht etwa Stuart Russell, eine Koryphäe auf dem Gebiet der KI-Forschung, hart mit seiner Disziplin ins Gericht und stellt ihr ein schlechtes Zeugnis für die Qualität ihrer eigenen Debatten aus. Diese zeige eine Reihe bedenklicher Tendenzen, von Formen der Verleugnung über Ablenkung und Beschwichtigung bis hin zu purem Wunschdenken.

Zudem überwiegen in der Wissenschaft Stimmen, die möglichst wenige Schranken setzen wollen, um Innovationen zu fördern und gegenüber anderen Staaten nicht ins Hintertreffen zu geraten. Auffällig ist auch eine Fokussierung auf ethische Anforderungen an KI, während Positionen für eine stärkere Regulierung weniger prominent vertreten sind. Ethik ist nicht verkehrt, aber gerade weil sie so offenkundig positiv besetzt ist, sprechen Wissenschaftlern wie Karen Yeung bereits von ethics washing. Ähnlich sieht Paul F. Nemitz, Berater der EU-Kommission und Mitglied der deutschen Datenethikkommission in der Betonung auf Ethik einen cleveren Schachzug der Industrie, um von Fragen verbindlicher Regulierung abzulenken. Dies sollte Bürger:innen wie Wissenschaftler:innen aufhorchen lassen.

Mögliche Antworten auf bestehende Herausforderungen

Man mag Precht dafür kritisieren, nur oberflächlich an Fachdebatten etwa zu Ethik und Regulierung von KI anzuknüpfen. Doch muss man anerkennen, dass er das Thema öffentlich sichtbarer macht. Dies betrifft zugleich das Argument Kirschfelds, dass die KI-Forschung an Orten wie dem Cyber Valley auf die „Akzeptanz durch die Öffentlichkeit angewiesen“ sei. Damit dieser Mechanismus greift, bedarf es aber eines öffentlichen Bewusstseins für die negativen und positiven Potenziale von KI und dafür, was auf dem Spiel steht.

An diesem Bewusstsein, mit dem sich eine Gesellschaft das Thema KI eher zu eigen machen könnte, mangelt es jedoch. Digitalpolitik und KI sind bislang kaum politisiert – obwohl sie als Megatrends mit massiven Folgen für künftiges gesellschaftliches Zusammenleben gelten. Dies ist bedeutsam, weil bei wenig politisierten Themen der Anreiz für die Politik gering ist, sich an der öffentlichen Meinung zu orientieren. Unter solchen Bedingungen findet Politikgestaltung hintergründig statt, und es können sich Partikularinteressen mit engen Verbindungen zur Politik eher durchsetzen, während diffuse Interessen, wie jene der Konsumenten, weit weniger schlafkräftig sind. Umso wichtiger ist ein realistischer Blick auf die Verflechtung von wirtschaftlichen und politischen Interessen, um zu begreifen, wie sich unsere Gesellschaft verändern wird und wie dieser Prozess aktiv gestaltet werden kann.

EU ist fast eine tragische Gestalt

Hierbei geht in der öffentlichen Debatte etwas unter, dass für viele Herausforderungen eine Palette von Lösungsangeboten schon auf dem Tisch liegt. Die Anzahl der Beiträge zu ethischen Prinzipien sowie regulatorischen Anforderungen an KI ist geradezu explodiert. Neben wissenschaftlichen Beiträgen finden sich darunter auch Vorschläge von zivilgesellschaftlichen Organisationen und Stiftungen sowie Berichte und Empfehlungen, die auf EU- wie auf nationaler Ebene formuliert wurden. Die EU ist dabei eine fast tragische Gestalt. Die EU-Kommission und das Europäische Parlament haben intensiv an Initiativen und Berichten gearbeitet, wie der Umgang mit KI und Daten im Interesse der Bürgern zu regeln ist – doch wer bekommt davon schon etwas mit? Schaut man sich an, wie das Europäische Parlament Daten und KI behandelt, so geht es dort keineswegs nur um wirtschaftliches Interesse. Und die Expertise, auf der die Arbeit des Parlaments beruht, ist fundiert und transparent nachlesbar.

Spannend bleibt, inwieweit die vorhandenen politischen Ideen tatsächlich umgesetzt werden. Margarete Vestager, EU-Kommissarin für Wettbewerb und Digitales, betont, dass wir uns an einer Weichenstellung befinden: „What we want to create is a society where technology serves humans, where humans are empowered, where humans are in control. […] We have one generation to do this. This is now.” Das öffentliche Interesse am Thema KI ist derzeit vergleichsweise günstig, um mehr Aufmerksamkeit zu generieren und breitere Debatten zu führen. Aber dieses Fenster wird sich wieder schließen.

Der Sinn des Lebens

Sicher ist: Unabhängig von öffentlichen Aufmerksamkeitszyklen zu KI, die es seit den 1950er Jahren gibt, werden Entwicklung und Einsatz von KI voranschreiten. Wie der bereits erwähnte Stuart Russell schreibt, sind die erwarteten Umsätze mit KI-Innovationen so exorbitant groß, dass es für Firmen rational ist, viel Geld in die Forschung und Entwicklung zu stecken – auch ohne hieraus kurz- oder mittelfristig Profit zu ziehen.

Das ist im Übrigen keineswegs per se schlecht; im Gegenteil, so soll es auch sein. Wirtschaftlicher Wettbewerb und die Aussicht auf Gewinne sollen Anreize schaffen, Innnovationen zu entwickeln, welche einen Nutzen für Menschen und Gesellschaft produzieren. Letztlich darf man sich aber auch fragen, inwieweit KI-basierte Anwendungen und Technologien tatsächlich zur Lebenszufriedenheit beitragen werden.

Die empirische Glücksforschung zumindest lehrt uns, dass wirtschaftliches Wachstum (allein) in den offenbar weitgehend saturierten Industrienationen kaum noch zu mehr Glücksempfinden führt. Das ist aber eine andere Frage, eine, die tatsächlich an „den Sinn des Lebens“ rührt und deren Beantwortung wir gerne anderen überlassen.