Die lukrative Panik hinter den Weltuntergangswarnungen rund um die KI

Der Beginn des Jahres 2000 ging mit Vorhersagen einher, dass ein Computerfehler das moderne Leben zum Erliegen bringen könnte. Flugzeuge könnten vom Himmel fallen, Banken könnten ihre Daten verlieren und wichtige Infrastrukturen könnten ausfallen, wenn die Computeruhren von 1999 auf 2000 umspringen würden.

Das Jahr-2000-Problem (Y2K) war real, und dank der Vorbereitungen konnten schwerwiegende Störungen verhindert werden. Es bot zudem eine geschäftliche Chance. Unternehmen und Regierungen gaben große Summen aus, um Computer auszutauschen, Software zu aktualisieren und Berater zu engagieren – als Reaktion auf eine Bedrohung, deren volle Auswirkungen niemand zuverlässig abschätzen konnte.

Microsoft gehörte zu den Hauptnutznießern. Im Quartal, das am 31. Dezember 1998 endete, meldete das Unternehmen einen Nettogewinn von 1,98 Milliarden Dollar – 75 % mehr als ein Jahr zuvor –, während der Umsatz um 38 % auf 4,94 Milliarden Dollar stieg. Der damalige Finanzvorstand von Microsoft, Greg Maffei, erklärte, der Umsatz sei „teilweise aufgrund der durch die Jahr-2000-Sorgen ausgelösten Nachfrage in die Höhe geschnellt“, da Kunden ältere Computer ersetzten.

Microsoft hat das Jahr-2000-Problem (Y2K) nicht selbst verursacht. Es handelte sich um ein echtes Risiko bei der Datumsverarbeitung, das umfangreiche Korrekturen erforderte. Die Zahlen verdeutlichen einen spezifischeren Punkt: Die Vorbereitung auf eine ungewisse technologische Bedrohung kann für die Unternehmen, die die Lösung anbieten, äußerst profitabel sein.

Ein Vierteljahrhundert später könnte die künstliche Intelligenz demselben Muster in weitaus größerem Maßstab folgen.

Führungskräfte und Forscher der größten KI-Unternehmen beschreiben ihre eigenen Produkte zunehmend mit apokalyptischen Worten. Sam Altman, Geschäftsführer von OpenAI, hat vor schwerwiegenden Risiken gewarnt und gefordert, dass die leistungsstärksten KI-Systeme lizenziert werden müssen. Anthropic, ein weiterer führender KI-Entwickler, hat den Schutz vor katastrophalen KI-Risiken zum zentralen Bestandteil seines öffentlichen Profils gemacht.

Der ehemalige OpenAI- und Anthropic-Forscher Jacob Coxon trieb dieses Argument kürzlich noch weiter voran. Als er seinen Rücktritt bei Anthropic bekanntgab, behauptete er, dass diejenigen, die fortschrittliche KI entwickeln, glauben, diese „könnte uns alle bis zum Ende des Jahrzehnts töten.“ Er warf OpenAI und Anthropic vor, „mit unseren Leben zu spielen“. Seine Warnung verbreitete sich in den sozialen Medien und wurde von einer Reihe von Interviews begleitet.

Es ist eine fesselnde Geschichte: Ein Insider verlässt eine lukrative Branche, um die Menschheit zu warnen. Es gibt nur ein großes Problem. Weder Coxon noch die Unternehmen, die ähnliche Warnungen verbreiten, haben nachprüfbare Beweise dafür vorgelegt, dass die heutigen KI-Systeme auf dem Weg zur Auslöschung der Menschheit sind.

KI ist nicht harmlos. Bestehende Systeme können Betrug, Cyberangriffe, Überwachung und Propaganda begünstigen. Diese beobachtbaren Risiken rechtfertigen Schutzmaßnahmen.

Es besteht jedoch ein gewaltiger Unterschied zwischen der Aussage, dass KI Schaden anrichten kann, und der Behauptung, sie könnte die Menschheit auslöschen. Letzteres erfordert Beweise dafür, dass KI den Menschen in nahezu jedem Bereich übertreffen, sich ohne wirksame Kontrolle weiterentwickeln, Zugang zu kritischen Ressourcen erlangen und unaufhaltsam sein wird.

In keinem Experiment wurde beobachtet, dass sich ein KI-System in eine unkontrollierbare Superintelligenz verwandelt hat. Kein derzeit verfügbarer Datensatz ermöglicht es Forschern, eine verlässliche Wahrscheinlichkeit für ein Aussterben bis 2030, 2035 oder ein anderes Datum zu berechnen. Weit verbreitete Behauptungen über ein 10-prozentiges Risiko sind bestenfalls subjektive Schätzungen – keine gemessenen Wahrscheinlichkeiten. Spekulationen eine Zahl zuzuordnen, macht sie noch lange nicht zu Wissenschaft.

Der International AI Safety Report, der unter Mitwirkung von mehr als 100 Experten erstellt wurde, stellt das Aussterben nicht als gesicherte Prognose dar. Stattdessen hebt er die tiefgreifenden Meinungsverschiedenheiten unter den Forschern und erhebliche Lücken in der Evidenz hinsichtlich eines möglichen Kontrollverlusts hervor. Weit davon entfernt, einen wissenschaftlichen Konsens widerzuspiegeln, bleibt das Weltuntergangsszenario eine umstrittene Hypothese, die derzeit weder verifiziert noch mit einer verlässlichen Wahrscheinlichkeit belegt werden kann.

Warum stellen die größten KI-Unternehmen ihre Technologie dann als potenziell unkontrollierbar dar, während sie sie weiterhin verkaufen und sich Berichten zufolge auf eventuelle Börsengänge vorbereiten? Eine mögliche Antwort ist, dass Weltuntergangswarnungen ihren kommerziellen Interessen dienen könnten.

Die Sprache der existenziellen Gefahr hebt KI-Unternehmen über gewöhnliche Softwareunternehmen hinaus. Ihre Führungskräfte erhalten Zugang zu politischen Kreisen, ihre Forschung wird zu einer Angelegenheit der nationalen Sicherheit, und Investoren werden dazu ermutigt zu glauben, dass sie die wichtigste Technologie kontrollieren, die je geschaffen wurde.

Angst liefert zudem ein schlagkräftiges Argument für eine Regulierung, die etablierte Akteure begünstigt und neue Marktteilnehmer am Markteintritt hindert.

Im Jahr 2023 erklärte Altman vor dem US-Senat, dass Regierungen erwägen sollten, die leistungsstärksten KI-Systeme zu lizenzieren und eine Behörde zu ihrer Überwachung einzurichten. Ein solches System könnte die Sicherheit verbessern. Es würde jedoch auch Kosten verursachen, die nur die größten Unternehmen problemlos tragen könnten.

Anthropic unterstützte den kalifornischen Gesetzentwurf SB 53, der leistungsstarke KI-Systeme regelt und von großen „Frontier“-Entwicklern verlangt, Sicherheitsrahmenwerke zu veröffentlichen und schwerwiegende Vorfälle zu melden. Diese vernünftigen Bestimmungen tragen auch dazu bei, den Markt zwischen offiziell anerkannten „Frontier“-Unternehmen und allen anderen aufzuteilen.

Lizenzierung, Tests und Berichterstattung erfordern Anwälte, Sicherheitsspezialisten und Compliance-Abteilungen. OpenAI, Anthropic, Google und Microsoft können sich das leisten. Kleinere Unternehmen und Open-Source-Entwickler hingegen möglicherweise nicht. Eine Regulierung, die auf die heute führenden Unternehmen zugeschnitten ist, könnte diese daher noch weiter stärken.

Die Botschaft ist bemerkenswert bequem: KI ist zu gefährlich, um sie kleineren Wettbewerbern oder der Öffentlichkeit zu überlassen, aber offenbar nicht gefährlich genug, damit ihre größten Entwickler aufhören, neue Modelle zu veröffentlichen, Kapital zu beschaffen und sich gegenseitig im Wettlauf um den Bau leistungsfähigerer Systeme zu übertrumpfen.

Forscher mögen aufrichtig glauben, dass eine Katastrophe möglich ist. Doch Aufrichtigkeit und Eigeninteresse können nebeneinander bestehen. Ähnlich wie Unternehmen, die vom Y2K-Upgrade-Zyklus profitierten, können die heutigen KI-Marktführer von Ängsten profitieren, die sie selbst ernsthaft hegen.

KI-Unternehmen fordern Regierungen zudem auf, ihre Definition der Bedrohung zu akzeptieren und darauf aufbauende Regeln zu erlassen. Die Unternehmen, die vor unkontrollierbarer Technologie warnen, könnten dadurch mehr Kontrolle darüber erlangen, wem die Entwicklung dieser Technologie gestattet wird.

Im Fall von Coxon scheinen seine Bedenken zwar aufrichtig zu sein, doch seine Warnung untermauert genau jene Erzählung, die von den führenden Unternehmen der Branche verbreitet wird – nämlich dass fortschrittliche KI eine außerordentliche Gefahr darstellt, die vor allem von den Menschen verstanden wird, die sie entwickeln. Ob beabsichtigt oder nicht: Diese Erzählung stärkt das Argument, diese Unternehmen als unverzichtbare Hüter der Technologie zu behandeln, was ihnen einen Wettbewerbsvorteil verschafft.

Zudem scheint Coxons Sorge um ein existenzielles Risiko bereits vor seiner Anstellung bei den führenden KI-Unternehmen bestanden zu haben. Er war in der Londoner Rationalistengemeinschaft aktiv und Fellow am Newspeak House, das sich selbst als „College für politische Technologie“ bezeichnet. Medienberichte bringen ihn zudem mit einem Stipendium zum Thema „langfristige Zukunft“ in Verbindung, das von Good Ventures finanziert wird – einer Stiftung, die von Facebook-Mitbegründer Dustin Moskovitz und Cari Tuna ins Leben gerufen wurde. Moskovitz ist ein prominenter Unterstützer demokratischer Kandidaten und progressiver politischer Anliegen, die staatliche Eingriffe befürworten.

Dies beweist keine böswillige Absicht. Es zeigt jedoch, dass das Bild eines neutralen Ingenieurs, der plötzlich durch geheime Erkenntnisse bei Anthropic bekehrt wurde, unvollständig ist. Coxon hatte bereits zuvor ein Interesse an existenziellen Risiken.

Ihn als Whistleblower zu bezeichnen, ist zudem eine weit hergeholte Auslegung des Begriffs. Ein Whistleblower deckt normalerweise geheime Dokumente, Fehlverhalten oder Beweise auf. Coxon hat im Wesentlichen offenbart, was seiner Meinung nach und der einiger Kollegen passieren könnte. Die Tatsache, dass diese Ansicht in Teilen der Branche geteilt wird, bestätigt sie noch lange nicht.

Nichts davon bedeutet, dass KI unreguliert bleiben sollte. Vorschriften sollten sich auf nachgewiesene Fähigkeiten und klar definierte Risiken beziehen, insbesondere in kritischen Infrastrukturen, militärischen Systemen und der biologischen Forschung.

Was Regierungen nicht tun sollten, ist zuzulassen, dass sich die größten KI-Akteure als die einzigen Institutionen definieren, die in der Lage sind, eine Gefahr zu kontrollieren, deren Existenz sie nicht bewiesen haben.

Die Lehre aus dem Y2K-Problem ist nicht, dass technologische Bedrohungen imaginär sind. Sie lautet vielmehr, dass echte Unsicherheit auch wirtschaftliche Chancen schaffen kann. Microsoft hat das zugrunde liegende Problem nicht verursacht, profitierte jedoch von den Ausgaben, die zu seiner Behebung erforderlich waren. Die heute führenden KI-Unternehmen könnten in ähnlicher Weise von der Angst vor ihrer Technologie profitieren – durch höhere Investitionen, politischen Einfluss und Vorschriften, die ihre Marktposition sichern.

Die Frage bleibt daher offen: Schützen diese Unternehmen die Menschheit – oder bauen sie ihre Vorherrschaft auf der Grundlage eines Szenarios auf, das niemand überprüfen kann? Vielleicht stürzt eines Tages der Himmel ein. Vorerst jedoch schreiben diejenigen, die die Regenschirme verkaufen, auch die Wettervorhersage.