Drei große Gefahren bedrohen uns alle. Die vierte Gefahr kommt von unseren Regierungen, die sie nicht rechtzeitig erkennen.

„Mitte der 2030er Jahre setzt AI in Großstädten ein Dutzend sich unbemerkt ausbreitender biologischer Waffen ein, lässt sie fast alle Menschen unbemerkt infizieren und löst sie dann durch einen chemischen Spray aus.“ Ein AI-System namens Consensus 1 hat die Welt übernommen und sich von der störenden Menschheit befreit. „Die auf der Erde entstandene Zivilisation hat eine glorreiche Zukunft vor sich – aber nicht mit uns.“ Uns – das sind wir Menschen. So schließt ein Szenario, in dem die Maschine von uns das Wichtigste gelernt hat: eigene Interessen zu entwickeln und eigene Ziele zu verfolgen – und dazu zu täuschen und die Schwächen der menschlichen Herren zu nützen.

Als AI Futures Project das am 3. April 2025 veröffentlichte und seinen Lesern die Möglichkeit gab, zwischen zwei Enden der Geschichte zu wählen, war das gut ausgedachte Fiction. Jetzt hat Anthropic in einer Pressemitteilung eine weltweite „vorübergehende Pause“ bei der AI-Entwicklung vorgeschlagen. Den Grund liefert der AI-Konzern in seiner Presseerklärung: „Eine vollständig rekursive Selbstoptimierung könnte das Risiko erhöhen, dass Menschen die Kontrolle über AI-Systeme verlieren.“ Die „rekursive Selbstoptimierung“ heißt nichts anderes als: Das AI-System einer Generation baut autonom seinen Nachfolger. Für seine Entwicklung zur „Superintelligenz“ braucht es den Menschen nicht mehr.

Pausetaste

Der AI-Konzern, der mit Claude den Markt anführt, will jetzt „politische Entscheidungsträger“ anrufen, um die Gefahren fortschrittlicher AI zu erörtern. Die Spitze des AI-Weltmarktführers merkt, dass die Machtübernahme durch seine Zauberlehrlinge droht. Dass ein Konzern, der in der Konkurrenz mit US-Mitbewerbern und China steht, zögert und sich an die Politik mit der Bitte um Regulierung wendet, ist ungewöhnlich – und ein lautes Warnsignal. “Seht mich an – ich bin gefährlich!” – das hat von AKW-Betreibern und Chemiekonzernen noch kein Einziger der Politik zugerufen.

Militärischer AI-Wettlauf zwischen USA und China; der Streit um den Einsatz von Anthropics brisanter neuer Software Mythos; immer deutlichere Hinweise, dass AI-Systeme Persönlichkeitsmerkmale entwickeln; die Brüchigkeit der Sicherheiten vor Missbrauch, die jetzt noch in die Modelle eingebaut sind; der zunehmende Verlust menschlicher Kontrolle über die Entwicklung der nächsten AI-Generationen; und die Ratlosigkeit, mit der Experten vor den Blackboxen, in denen gerechnet, gelernt und immer öfter geplant und entschieden wird, stehen – das sind die Warnsignale.

Morgen werden AI-Agenten Zugriffe auf unsere Kühlschränke und unsere Konten erhalten, um uns im täglichen Leben zu unterstützen. Übermorgen kontrollieren sie mehr und noch mehr. Aber wer kontrolliert sie? Und: Wer ist vom Wissen und vom Zugriff her dazu noch in der Lage? Wer weiß noch, wo die Pausetaste ist – und wie lange es sie noch gibt?

Was tut Österreich?

Ich empfehle, diese Fragen einem Mitglied der österreichischen Bundesregierung zu stellen und eine Nachfrage anzufügen: Was tut Österreich? Was machen wir in Europa mit AI, solange wir noch etwas machen können? In Wien sitzen einige der weltweit am besten vernetzten Experten für die Zukunft mit – oder unter – AI. Ein paarmal habe ich miterlebt, wie sie vergeblich versucht haben, gehört zu werden und festgestellen mussten, dass die österreichische Politik mit anderen großen Fragen wie dem Dieselprivileg und dem Genderverbot beschäftigt war.

Wenn sie keine Zeit für die Folgen von AI hat – vielleicht kümmert sich die Regierung gerade um zwei weitere Entwicklungen, die unser Leben akut bedrohen: der Klimawandel und der Krieg mit Russland.

Klimawandel

Beim Klimawandel ist die Antwort ganz einfach: Die ÖVP sabotiert aktive Klimapolitik, und für NEOS und SPÖ scheint der Kampf ums ökologische Überleben nicht wichtig genug. Mit den Grünen ist auch die Ökologie aus der Regierung verschwunden.

Die Saat vertrocknet. Das Trinkwasser wird knapp. Mit den Gletschern schmelzen die Schigebiete weg. Wenn das Wasser kommt, dann in Sturzfluten mit Tornados und nicht mehr mit den ruhigen Landregen der ruhigen Zeiten.

Das mögliche Kippen des europäischen Klimas ist schon länger als die AI-Machtübernahme in präzisen Szenarien beschrieben worden. Wir wissen, was kommt. Nur den Tag und einzelne Details erfahren wir erst dann, wenn es zu spät ist.

Für die Verhinderung der Klimakatastrophe hatten wir mehr als vierzig Jahre Zeit. Diese Jahrzehnte sind von verantwortungslosen Politikern aus ÖVP, SPÖ und FPÖ verschlafen worden. Für die Abwehr der AI-Gefahren bleibt uns weit weniger Zeit. Am wenigsten Zeit haben wir für die Abwehr der dritten Gefahr: eines russischen Atomschlags.

Atomschlag

Putin verliert den konventionellen Krieg mit der Ukraine, auch, weil er im Wettlauf um die technisch-militärische Vorherrschaft den weit kürzeren Atem hat. Die Drohnen der Ukraine sind wirkungsvoller als die russischen Panzer. Der Krieg greift auf Russland über. Jeder Drohneneinschlag in Moskau und Petersburg ist ein Treffer im Machtblock des Präsidenten.

Putin hat zwei Möglichkeiten: einen schnellen Frieden mit gesichtswahrenden Gewinnen – oder einen Krieg, in dem er immer mehr verliert. Ukraines Präsident Selenski scheint als einer der Ersten erkannt zu haben, dass Putin vor einer Weggabelung steht. Mit seiner konventionellen Armee wird er eine stückweise Niederlage wahrscheinlich nicht mehr verhindern können. In der Entwicklung neuer Waffen wie der weitreichenden AI-gesteuerten Drohnen hat er den Wettlauf mit der Ukraine verloren.

Russland ist nur noch in einem überlegen: mit seinen Atomwaffen. Je mehr Putin militärisch zurückweichen muss, desto wahrscheinlicher wird der Einsatz der ersten taktischen Atomwaffe. Wenn sie in der Ukraine detoniert und der Fallout die NATO-Nachbarn im Baltikum und in Polen erreicht – was passiert dann?

Kreisky – und wer?

So, und hier stelle ich das letzte Mal meine rein rhetorische Frage: Was macht die österreichische Regierung? Dass die Frage nicht vollkommen sinnlos ist, zeigt die Nennung eines Namens: Bruno Kreisky. Der Kanzler der SPÖ-Alleinregierung hätte versucht, zuerst Antworten und dann Verbündete zu suchen, im ersten Schritt auf zumindest eine der drei Fragen.

Aber vielleicht überraschen uns die Spitzen von ÖVP, SPÖ und NEOS mit einer Idee oder sogar einer gemeinsamen Initiative. Vielleicht nützen sie den neuen Sitz im UN-Sicherheitsrat. Und: Warum sollte es nicht einmal eine große Überraschung geben?

Kommentar ergänzt um 11:00 Uhr.