In immer kürzeren Abständen warnen Medien vor dem Untergang der Welt. Er stehe kurz bevor. Nicht durch Atomkriege oder die nächste Hitzewelle, sondern durch Künstliche Intelligenz.

Der UN-Hochkommissar für Menschenrechte, Volker Türk, warnt vor einer existenziellen Gefahr für die Menschheit durch künstliche Intelligenz (KI). Bill Gates ist beunruhigt wegen der Fähigkeiten dieser Technologie, die unsere Welt grundlegend verändern wird. KI ist nicht nur wirtschaftlich ein Game Changer. Zu denken sollte einem aber geben, wenn die lautesten Warnungen vor den Folgen von KI aus der KI-Industrie selbst kommen.

Haltet den KI-Dieb

Firmen wie Anthropic oder OpenAI warnen vor sich selbst. Sie verlangen eine Verlangsamung der Entwicklung und Sicherheitsmaßnahmen. Wenn das ausbleibt, sehen sie die Welt vor dem Untergang – ganz so, als ob sie nichts machen könnten, als ob nicht sie an den Hebeln säßen. Nun fühlen sie sich unschuldig, andere sollen es richten. Der Dieb schreit: Haltet den Dieb!

Betrachtet man den aktuellen „Ausbruch von Agenten“ bei OpenAI genauer, stellt man schnell fest, dass in den KI-Unternehmen selbst einiges falsch lief. Im Rahmen interner Cybersicherheits-Evaluationen überschritten KI-Agenten die vorgesehenen Grenzen ihrer Sandbox, ihre isolierte, abgeschottete Testumgebung, kombinierten Schwachstellen und konnten danach beliebige Befehle ausführen.

Verantwortliche übersahen vorhandene Warnzeichen und stoppten – trotz eines Alarms – die außer Kontrolle geratene Evaluation nicht. Wenn dieser Vorfall ein Einzelfall wäre, könnte man ihn als organisatorisches Verschulden und eskaliertes Kontrollversagen abtun. Inzwischen wissen wir, dass es sich um ein großes, branchenweites Problem mit Agenten-Kontrollmechanismen handelt.

Die unmittelbaren Ursachen – übersehene Alarme, zu späte Eingriffe, verwundbare Infrastruktur – sind klassische Management- und IT-Sicherheitsfehler, wie sie auch ohne KI vorkommen. Was die Fehler viel folgenreicher als andere macht, ist der Komplexität und auch der Fähigkeit der Technologie geschuldet. Insofern haben wir ein wirkliches Problem.

Für und gegen Sicherheit

Jetzt rufen die verantwortlichen Herren (und es sind nur Herren) nach Sicherheit und lobbyieren aber gleichzeitig massiv gegen den EU-KI Act, der durch seine Vorgaben für Dokumentation, Risikoanalyse und Kontrollmechanismen genau die Sicherheitslücken, die sichtbar wurden, schließen will.

Die KI-Unternehmen – im Wesentlichen aus den USA und China – stehen in einem globalen Wettlauf um die leistungsfähigsten Modelle. Dabei werden Milliarden und Billionen investiert.

Künstliche Intelligenz ist zum zentralen Ort einer wirtschaftlichen und geopolitischen Auseinandersetzung geworden, mit immensen Auswirkungen auf Politik und Militär. Es geht um Vorherrschaft in einer multipolaren Welt. KI ist dabei als Mittel zentral.

Gerade in dem Moment, in dem sich Unzulänglichkeiten zeigen und Gefahren drohen, will man vom eigenen Verschulden und Versagen ablenken, und dabei wohl auch, wie sich abzeichnet, von ersten finanziellen Problemen.

Bremsen und beschleunigen

Wer Technologie als wichtigsten Treiber für Fortschritt und Wachstum sieht und alles darauf gesetzt hat, kann es sich nicht leisten, in diesem globalen Wettlauf zurückzufallen. Sicherheit wird damit zu einem Paradoxon: Man weiß, dass man bremsen muss, will aber einen Schritt vor der Konkurrenz bleiben – und muss dazu beschleunigen.

Dazu spielt eine Firma wie Anthropic auch das Good Guy-Spiel. Anthropic weigert sich, alles für Trumps Kriegsministerium zu tun. Die Konkurrenz sieht, dass Anthropic auch den Wettlauf um das gute Image und damit einen Startvorteil für den geplanten Börsengang gewinnt. Da ziehen OpenAI und andere nach und reden über die Risiken leistungsfähiger Modelle. Und auch wichtig: Innerhalb der Firmen selbst regt sich Widerstand seitens der MitarbeiterInnen, auch dies bringt die Firmen unter Druck.

Die Väter der KI beginnen zu lamentieren und geben ihrem Kind die Schuld. Immer mehr scheint es, dass die Warnungen vor Risiken und der Wettlauf in der Modellentwicklung inzwischen Teil desselben politischen und ökonomischen Prozesses sind. Keiner der KI-Konzerne wird aussteigen, alle machen weiter, wie OpenAI mit seinem kommenden Modell Astra zeigt, das neue bedenkliche Eigenschaften aufweist.

China und Europa

Dazu kommt China. Lange Zeit schien die Entwicklung künstlicher Intelligenz eine weitgehend amerikanische Angelegenheit. Das ist vorbei. Chinesische Unternehmen haben insbesondere bei den Open-Weight-Modellen und mit ihren billigeren Systemen bemerkenswerte Fortschritte erzielt. Der Abstand zu den USA schrumpft von Monat zu Monat.

Als digitale Kolonie der USA spielt Europa auch hier keine Rolle, mit einer wichtigen Ausnahme: seinen fortschrittlichen KI-Regeln wie dem EU KI-Act für eine verantwortungsvolle Entwicklung und Nutzung von KI.

Genau die nun nach Sicherheitsregeln schreienden US-KI-Konzerne lobbyieren gegen die europäischen Regeln. Sie haben teilweise Erfolg. Immer öfter wird nun auch in Europa mit dem falschen Argument, dass Regeln Innovation behindern, die Rücknahme europäischer Regulierungen diskutiert. Statt ihre Ressourcen in interne Sicherheit zu investieren, stecken die Konzerne sie in Lobbying gegen das, was sie selbst lautstark fordern.

Letztendlich lenken die Warnungen vor dem drohenden Weltuntergang von den „wirklichen“ Problemen ab: der enormen wirtschaftlichen Konzentration mit wenigen Firmen und einer Entwicklung ohne öffentliche Kontrolle und Transparenz und ohne Rücksicht auf die Auswirkungen auf Umwelt, Arbeitsplätze, Rechtsstaat und Politik. Und sie lenken auch davon ab, wer in diesem Machtkampf die kommende digitale Gesellschaft kontrolliert.

Und Österreich

An Österreich scheint auch diese Entwicklung weitgehend vorbeizugehen. Auf zahlreichen Veranstaltungen wird diskutiert. An Bekenntnissen zum humanen Umgang – zum Digitalen Humanismus mangelt es nicht.

Doch am Tag nach den Sonntagsreden zeigt sich ein anderes Gesicht: Die öffentlichen Investitionen bleiben, freundlich gesagt, „überschaubar“, wenn man sie mit den Milliardenbeträgen in anderen Ländern (nicht nur USA und China) vergleicht. Gleichzeitig beginnt KI aber auch hier, konkrete politische Realität zu werden, allerdings im negativen Sinn.

Zwei Beispiele verdeutlichen das: Wenn rund 2.000 Stellen im öffentlichen Dienst nicht nachbesetzt werden sollen und deren Arbeit durch KI erledigt werden soll (laut dem für den Bereich zuständigen Staatssekretär), dann geht es nicht mehr um eine abstrakte Zukunft. Und: Die geplante Novelle des Allgemeinen Verwaltungsverfahrensgesetzes, die KI-automatisierte Verfahren ermöglichen soll, berührt einen Kernbereich des Rechtsstaates. Hier sollen Bescheide (Texte) automatisch durch Sprachmodelle erstellt und die Ergebnisse nur stichprobenartig kontrolliert werden. Und dies obwohl wir wissen, dass diese Sprachmodelle überzeugend formulieren und gleichzeitig falsche Informationen erzeugen können – in bis zu 30 Prozent der Fälle. Was geschieht mit den einzelnen Menschen, bei denen das System falsch entscheidet?

Kontrolle behalten

Für Österreich gilt wie für China und die USA: KI ist kein „Deus ex machina“ und keine Wundertüte, sie ist ein von Menschen geschaffenes Werkzeug. Damit lautet die Kernfrage nicht „Wird KI die Welt zerstören?“, sondern „In welcher Gesellschaft, die zunehmend digitalisiert wird, wollen wir leben?“ und „Wie können wir als Gesellschaft in einem demokratischen und informierten Prozess die Kontrolle behalten?“

Weil künstliche Intelligenz eine Schlüsseltechnologie des 21. Jahrhunderts ist, sollte ihre Entwicklung nicht von jenen bestimmt werden, die über das meiste Kapital, die größten Rechenzentren oder die schnellsten Modelle verfügen. Technologiepolitik ist immer Gesellschaftspolitik. Und weil so viel von fehlenden großen Erzählungen die Rede ist: Wir brauchen eine positive Erzählung, welche Rolle der Mensch in einer zunehmend von Maschinen geprägten Gesellschaft spielen soll. Und falls diese fehlt, dann könnten wir tatsächlich die KI fragen.

Titelbild: Canva/ZackZack