- Neue Waffen werden die Atombombe in den Schatten stellen
Ob Autonome Waffensysteme entstehen, steht außer Frage. Wichtiger wäre zu betrachten, wer sie bauen wird und zu welchem Zweck. Das schreiben Palantir-CEO Alexander C. Karp und sein Mitarbeiter Nicholas W. Zamiska in ihrem Gastbeitrag.
Autoreninfo
Alexander C. Karp ist Mitbegründer und CEO von Palantir Technologies / Foto: dpa
So erreichen Sie Alexander C. Karp:
Autoreninfo
Nicholas W. Zamiska ist Head of Corporate Affairs und Legal Counsel im Büro des CEO.
So erreichen Sie Nicholas W. Zamiska:
Am 16. Juli 1945, kurz nach Sonnenaufgang, versammelte sich eine Gruppe von Wissenschaftlern und Regierungsbeamten in einem trostlosen Teil der Wüste von New Mexico, um den ersten Kernwaffentest der Menschheit zu beobachten. Ein Schaulustiger beschrieb die Explosion als „leuchtend lila“. Der auf die Detonation der Bombe folgende Donner schien auf dem Boden der Wüste abzuprallen und gleichsam zu verweilen.
J. Robert Oppenheimer, der jenes Projekt leitete, das in diesem Test gipfelte, dachte an diesem Morgen über die Möglichkeit nach, mit der zerstörerischen Kraft dieses Vorhabens zu einem dauerhaften Frieden beitragen zu können. Er erinnerte sich an die Hoffnung des schwedischen Industriellen und Philanthropen Alfred Nobel, der annahm, dass das von ihm erfundene Dynamit Kriege beenden würde.
Nachdem Nobel gesehen hatte, wie Dynamit zur Herstellung von Bomben verwendet wurde, vertraute er einem Freund an, dass nicht weniger, sondern leistungsfähigere Waffen die besten Garanten für den Frieden seien. Er schrieb: „Das Einzige, was Nationen jemals davon abhalten wird, einen Krieg zu beginnen, ist der Terror.“
Ein Kalkül unter den Großmächten
Es wäre einfach, vor dieser Art von düsterem Kalkül zurückzuschrecken und uns in die Hoffnung zu flüchten, dass sich der friedfertige Instinkt unserer Spezies durchsetzen würde, wenn nur diejenigen, die Waffen besitzen, diese niederlegen würden. Doch seit dem ersten Atomtest in New Mexico sind fast 80 Jahre vergangen. Atomwaffen wurden nur zweimal im Krieg eingesetzt, in Hiroshima und Nagasaki. Für viele sind die Macht und der Schrecken der Bombe in weite Ferne gerückt. Sie sind fast abstrakt.
Stellten wir eine Bilanz auf zum Umgang der Menschheit mit Waffen – unvollkommen sicher und in der Tat Dutzende Male fast katastrophal – wäre das Ergebnis doch bemerkenswert. Nahezu ein Jahrhundert ließe sich eine Ära des Friedens konstatieren, in der es nicht einen militärischen Konflikt zwischen den Großmächten gegeben hat. Mindestens drei Generationen – Milliarden von Menschen und deren Kinder und Enkelkinder – haben keinen Weltkrieg erlebt. John Lewis Gaddis, Professor für Militär- und Marinegeschichte in Yale, hat das Ausbleiben größerer Konflikte in der Nachkriegszeit als den „langen Frieden“ bezeichnet.
Das Atomzeitalter und der Kalte Krieg haben jahrzehntelang ein Kalkül unter den Großmächten zementiert, dass eine echte Eskalation – nicht aber Scharmützel und Kräftemessen am Rande regionaler Konflikte – für sie äußerst unattraktiv und potenziell kostspielig seien. Der Psychologe Steven Pinker greift in seiner These weiter: „Der Rückgang der Gewalt ist vielleicht die bedeutendste und am wenigsten beachtete Entwicklung in der Geschichte unserer Spezies.“
Ein bemanntes Flugzeug im Jahr 2088?
Es wäre unvernünftig, den gesamten oder auch nur den größten Teil des Verdienstes an dieser Entwicklung einer einzigen Waffe zuzuschreiben. Eine ganze Reihe anderer Entwicklungen seit Ende des Zweiten Weltkriegs, einschließlich der Verbreitung demokratischer Regierungsformen auf der ganzen Welt und die zunehmende Verflechtung wirtschaftlicher Aktivitäten, die einst undenkbar war, sind Teil dieser Geschichte.
Das Kalkül der Großmächte, das dazu beigetragen hat, einen weiteren Weltkrieg zu verhindern – darunter vor allem das der USA –, könnte sich wiewohl schnell ändern. Sich zur Notwendigkeit einer Vormachtstellung zu bekennen, verliert im Westen zunehmend an Popularität. Und die Abschreckung als Doktrin läuft Gefahr, ihren moralischen Reiz zu verlieren. Das atomare Zeitalter könnte gleichsam bald zu Ende gehen. Wir befinden uns im Software-Jahrhundert; die Kriege der Zukunft werden von Künstlicher Intelligenz geführt, deren Entwicklung weitaus schneller voranschreitet als die der konventionellen Waffen.
Der F-35- Kampfjet wurde Mitte der 1990er Jahre konzipiert. Als Flaggschiff der amerikanischen und verbündeten Streitkräfte soll er noch 64 Jahre lang im Einsatz bleiben. Die US-Regierung kalkuliert, dass sie mehr als 2 Billionen Dollar für das Programm ausgeben wird. Aber wie General a.D. Mark A. Milley, ehemaliger Vorsitzender der Joint Chiefs of Staff – ein u.a. den US-Präsidenten und seinen Verteidigungsminister beratendes Gremium zu Rüstungsfragen – kürzlich fragte: „Glauben wir wirklich, dass ein bemanntes Flugzeug im Jahr 2088 den Himmel erobern wird?“
Die moralische Komplexität geopolitischer Szenarien
Im 20. Jahrhundert wurde Software entwickelt, um die Anforderungen der Hardware zu erfüllen, von der Flugsteuerung bis zum Raketenstart. Doch mit dem Aufkommen der Künstlichen Intelligenz und dem Einsatz von Large Language Modellen zur Erstellung von Zielempfehlungen auf dem Schlachtfeld hat sich das Verhältnis verschoben. Jetzt steht die Software im Fokus, während die Hardware – die Drohnen in der Ukraine und anderswo –zunehmend als Mittel zur Umsetzung der KI-Empfehlungen dient.
Für eine Nation, die sich in der Anwendung von Gewalt zu einem höheren moralischen Standard verpflichtet hat als ihre Gegner, ist nicht ausreichend, mit dem Feind technologisch aufzuschließen. Ein Waffensystem in der Hand einer ethischen Gesellschaft, die zu Recht vor seinem Einsatz zurückschreckt, wird nur dann als wirksame Abschreckung wirken, wenn es weitaus leistungsfähiger ist als die Fähigkeit eines Gegners, der nicht zögern würde, Unschuldige zu töten.
Das Problem ist, dass die jungen Amerikaner, die am besten in der Lage sind, KI-Systeme zu entwickeln, oft auch am ambivalentesten sind, wenn es darum geht, für militärische Zwecke zu arbeiten. Im Silicon Valley etwa haben sich viele Entwickler von diesem Themenfeld abgewandt, weil sie nicht dazu bereit sind, sich mit dem Chaos und der moralischen Komplexität geopolitischer Szenarien auseinanderzusetzen. Zwar gibt es vereinzelt Unterstützung für die Arbeit im Verteidigungsbereich, doch die meisten Mittel und Talente fließen weiterhin in Richtung Verbraucher.
Zusammenarbeit mit dem Militär
Die technische Elite der USA forciert vielmehr, Kapital für Video-Sharing-Apps und Social- Media-Plattformen, Werbealgorithmen und Shopping-Websites zu beschaffen. Sie zögern nicht, jede Bewegung eines Menschen online zu verfolgen und zu monetarisieren. Sie graben sich regelrecht in unser Leben ein. Vor einer Zusammenarbeit mit dem Militär schrecken sie aber zurück.
Im Jahr 2018 schrieben etwa 4.000 Mitarbeiter von Google einen Brief an dessen Vorstandsvorsitzenden Sundar Pichai. Darin forderten sie ihn auf, eine als „Project Maven“ bekannte Software für die US-Spezialeinheiten einzustellen, die zur Überwachung und Einsatzplanung in Afghanistan und anderswo verwendet wurde. Die Mitarbeiter verlangten, dass Google niemals „Technologie für die Kriegsführung entwickelt“ und argumentierten, dass die Unterstützung von Soldaten bei der Planung von zielgerichteten Operationen und „potenziell tödlichen Ergebnissen“ nicht akzeptabel sei.
Google versuchte daraufhin, seine Beteiligung am „Project Maven“ mit dem Argument zu verteidigen, die Arbeit des Unternehmens diene lediglich „nicht-offensiven Zwecken“. Dies war eine subtile und juristische Unterscheidung, insbesondere aus der Sicht von Soldaten und Geheimdienstanalysten an der Front, die bessere Softwaresysteme brauchten, um am Leben zu bleiben.
Diane Greene, die damalige Leiterin von Google Cloud, hielt schließlich ein Treffen mit den Mitarbeitern ab, um bekannt zu geben, dass das Unternehmen beschlossen hatte, seine Arbeit an dem Verteidigungsprojekt zu beenden. Ein Artikel in der Zeitschrift Jacobin (eine sozialistische Publikation; Anm. d. Red.) erklärte dies zu einem „beeindruckenden Sieg gegen den US-Militarismus“ und stellte fest, dass sich die Google- Mitarbeiter erfolgreich gegen das gewehrt hatten, was sie für eine Fehlleitung ihrer Talente hielten.
Software zur Verfügung stellen
Doch der Frieden, den diejenigen im Silicon Valley genießen, die gegen eine Zusammenarbeit mit dem Militär sind, wird durch die glaubwürdige Androhung von Gewalt durch eben dieses Militär ermöglicht. Bei Palantir entwickeln wir eine Softwarearchitektur für die Verteidigungs- und Nachrichtendienste der USA und ihrer Verbündeten, die den Einsatz der KI-Waffen dieses Jahrhunderts ermöglichen wird. Wir sollten als Gesellschaft in der Lage sein, eine Debatte zu führen über die Vorzüge des Einsatzes militärischer Gewalt im Ausland, ohne zu zögern, denjenigen, die in Gefahrenzonen geschickt werden, die Software zur Verfügung zu stellen, die sie für ihre Arbeit benötigen.
Am besorgniserregendsten ist, dass die Enttäuschung und das Desinteresse einer Generation an der kollektiven Verteidigung unseres Landes zu einer massiven Umleitung von Ressourcen – intellektueller und finanzieller Art – zur reinen Befriedigung der Bedürfnisse unserer Konsumkultur geführt hat. Die schwindenden Anforderungen, die wir an den Technologiesektor stellen, um Produkte von dauerhaftem und kollektivem Wert zu produzieren, geben zu viel Macht an die Launen des Marktes ab.
Wie David Graeber, der Anthropologie in Yale und an der London School of Economics lehrte, 2012 in einem Essay im The Baffler (Zeitschrift für Kulturkritik; Anm. d. Red.) festhielt: „Das Internet ist eine bemerkenswerte Innovation, aber alles, worüber wir sprechen, ist eine superschnelle und weltweit zugängliche Kombination aus Bibliothek, Postamt und Versandhauskatalog.“
Dass die Technologiewelt Richtung Konsumwelten abgedriftet ist, hat dazu beigetragen, einen gewissen Eskapismus zu verstärken – den Instinkt des Silicon Valley, die wichtigen Probleme, mit denen wir als Gesellschaft konfrontiert sind, zugunsten des Trivialen und Kurzlebigen zu ignorieren. Herausforderungen, die von der Landesverteidigung über Gewaltverbrechen bis hin zu Bildungsreformen und medizinischer Forschung reichen, erschienen vielen in der Technologiebranche als zu unlösbar, zu heikel und zu politisch belastet, als dass sie es wert wären, angegangen zu werden.
Eine Generation aufstrebender Gründer
Ein Jahr nach der Revolte bei Google drohte ein Aufstand von Microsoft-Mitarbeitern die Arbeit an einem 480-Millionen-Dollar-Projekt zur Entwicklung einer Augmented-Reality-Plattform für Soldaten der US-Armee zu stoppen. Die Mitarbeiter des Konzerns schrieben einen Brief an dessen Vorstandsvorsitzenden, Satya Nadella, sowie an Brad Smith, den Präsidenten des Unternehmens, in dem sie argumentierten, dass sie „nicht unterschrieben haben, um Waffen zu entwickeln“, und forderten, dass das Unternehmen den Vertrag kündigt.
Als OpenAI im November 2022 seine KI-Schnittstelle ChatGPT der Öffentlichkeit vorstellte, verbot es deren Einsatz für „militärische und kriegerische“ Zwecke. Nachdem das Unternehmen das pauschale Verbot für militärische Anwendungen in diesem Jahr aufgehoben hatte, versammelten sich Demonstranten vor dem Büro von Sam Altman, dem CEO von OpenAI, in San Francisco, um zu fordern, dass das Unternehmen „seine Beziehung zum Pentagon beendet und keine militärischen Kunden annimmt“.
Die Empörung in der Öffentlichkeit hat dazu geführt, dass Führungskräfte und Investoren in der gesamten Technologiebranche versuchen, jede Andeutung von Kontroverse oder Missbilligung zu vermeiden. Ihre Zurückhaltung ist mit erheblichen Kosten verbunden. Viele Investoren im Silicon Valley und Legionen außerordentlich talentierter Entwickler schieben die wesentlichen Probleme unserer Zeit einfach beiseite.
Eine Generation aufstrebender Gründer sagt, dass sie aktiv nach Risiken sucht, aber wenn es um tiefergehende Investitionen in gesellschaftliche Herausforderungen geht, überwiegt oft die Vorsicht. Warum sich in die Geopolitik einmischen, wenn man eine andere App bauen kann? Und sie haben Apps gebaut. Eine Vielzahl von Social-Media-Imperien monetarisiert und kanalisiert systematisch den menschlichen Wunsch nach Status und Anerkennung.
Wir wären gut beraten, das Gleiche zu tun
Das außenpolitische Establishment hat sich im Umgang mit China, Russland und anderen wiederholt verkalkuliert, weil es glaubte, dass wirtschaftliche Integration ausreicht, um die Unterstützung ihrer Führer im Inland zu untergraben und ihr Interesse an einer militärischen Eskalation im Ausland zu verringern. Der Konsens von Davos ist daran gescheitert, dass die Peitsche zugunsten des Zuckerbrots aufgegeben wurde. In der Zwischenzeit haben der chinesische Präsident Xi Jinping und andere autoritäre Führer ihre Macht auf eine Weise ausgeübt, die die politischen Führer im Westen vielleicht nie verstehen werden.
Bei einem Besuch in den Vereinigten Staaten im Jahr 2015, als er vor einer Gruppe von führenden Vertretern aus Wirtschaft und Politik in der Handelskammer von Seattle sprach, schwelgte Xi in Erinnerung an die Lektüre von „Der alte Mann und das Meer“. Als er Kuba besuchte, sei er nach Cojimar an der Nordküste gereist, die Ernest Hemingway zu seiner Geschichte über einen Fischer und seinen 18-Fuß-Marlin inspiriert hatte. Xi sagte, er habe „einen Mojito“ bestellt, das Lieblingsgetränk des Autors, „mit Minzblättern und Eis“, und erklärte, dass er „einfach selbst spüren wollte“, was Hemingway gedacht hatte, als er seine Geschichte schrieb.
Das Staatsoberhaupt einer Nation, in der fast ein Fünftel der Weltbevölkerung lebt, fügte hinzu, dass es „wichtig ist, sich um ein tiefes Verständnis der Kulturen und Zivilisationen zu bemühen, die sich von unserer eigenen unterscheiden“. Wir wären gut beraten, das Gleiche zu tun.
Kein halbherziger, oberflächlicher Patriotismus
Unsere allgemeine Zurückhaltung bei der Entwicklung wirksamer Autonomer Waffensysteme für den militärischen Einsatz könnte auf eine berechtigte Skepsis gegenüber der Macht selbst zurückzuführen sein. Pazifismus befriedigt unser instinktives Mitgefühl für die Machtlosen. Er entlastet uns auch von der Notwendigkeit, zwischen den schwierigen Kompromissen, die unsere Welt bestimmen, zu navigieren.
Chloé Morin, französische Autorin und ehemalige Beraterin des französischen Premierministers, schlug kürzlich in einem Interview vor, wir sollten dem oberflächlichen Drang widerstehen, „die Welt in Beherrscher und Beherrschte, Unterdrücker und Unterdrückte zu unterteilen“. Es wäre ein Fehler und in der Tat eine Form der moralischen Herablassung, Machtlosigkeit systematisch mit Frömmigkeit gleichzusetzen. Die Unterworfenen und die Unterdrücker sind gleichermaßen zu schweren Sünden fähig.
Wir treten nicht für einen halbherzigen und oberflächlichen Patriotismus ein, der das Nachdenken und die echte Reflexion über die Vorzüge unserer westlichen Demokratien, aber auch über ihre Schwächen ersetzt. Wir wollen nur, dass die Technologieindustrie eine wichtige Frage im Auge behält – die nicht lautet, ob eine neue Generation Autonomer Waffen mit KI gebaut wird. Es geht darum, wer sie bauen wird und zu welchem Zweck.
Alexander C. Karp ist Mitbegründer und CEO von Palantir Technologies. Nicholas W. Zamiska ist Head of Corporate Affairs und Legal Counsel im Büro des CEO. Ihr Buch „The Technological Republic: Hard Power, Soft Belief, and the Future of the West“ wird im Februar 2025 veröffentlicht.
