Freitag, April 12, 2024

“Außer Kontrolle”: Entwicklungspause bei künstlicher Intelligenz gefordert

Weil künstliche Intelligenz (KI) selbst für Entwickler nicht mehr kontrollierbar sei, fordern rund 1.000 Experten in einem gemeinsam veröffentlichten Schreiben eine Pause beim Wettrüsten künstlicher Intelligenz.

New York | Elon Musk und viele Expertinnen und Experten aus der KI-Branche haben eine sechsmonatige Pause bei der Entwicklung Künstlicher Intelligenzen gefordert. Die Zeit solle genutzt werden, um ein Regelwerk für die Technologie zu schaffen, hieß es in einem am Mittwoch veröffentlichten offenen Brief der Organisation “Future of Life”. „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.“

Unkontrollierbare Roboterhirne

Die Verfasser des Briefs wiesen auf die Gefahren sogenannter Generativer KI wie ChatGPT hin. Diese Programme können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen. „KI-Systeme mit menschlich-kompetitiver Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit mit sich bringen“, heißt es in dem Schreiben.

Diese Technologie sei inzwischen so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten. Dadurch könnten die Informationskanäle mit Propaganda und Unwahrheiten geflutet und massenhaft anspruchsvolle Jobs wegrationalisiert werden. Aus diesem Grund sollten alle Entwickler, die an Künstlicher Intelligenz (KI) der nächsten Generation arbeiten, ihre Arbeit öffentlich nachprüfbar einstellen. Geschehe dies nicht umgehend, müssten die Staaten ein Moratorium verhängen. Einen generellen Stopp von Forschung an KI wollten die Unterzeichner damit nicht in den Raum stellen: „Dies bedeutet nicht, dass die KI-Entwicklung im Allgemeinen pausiert, sondern lediglich, dass der gefährliche Wettlauf zu immer größeren, unvorhersehbaren Black-Box-Modellen mit emergenten Fähigkeiten beendet wird“.

Wettlauf um künstliche Intelligenz

Seit der Vorstellung von ChatGPT im November 2022 liefern sich viele Großkonzerne, allen voran Microsoft und Google, ein Rennen um die technologische Führerschaft bei KI. Quasi im Wochentakt werden neue Anwendungen vorgestellt, weil sich Unternehmen von dieser Technologie sprudelnde Gewinne versprechen. Einige Staaten wie China betrachten KI als strategisch wichtig und wollen Entwicklern große Freiheiten lassen.

Future of Life zufolge hat Sam Altman, Chef des ChatGPT-Entwicklers OpenAI, den Aufruf nicht unterschrieben. Elon Musk gehört zwar zu den Mitgründern dieser Firma, hat sich aber wiederholt kritisch zu diesem Thema geäußert und staatliche Regulierung gefordert.

Titelbild: STEFANI REYNOLDS / AFP / picturedesk.com

Redaktion
Redaktion
Die ZackZack Redaktion
LESEN SIE AUCH

Liebe Forumsteilnehmer,

Bitte bleiben Sie anderen Teilnehmern gegenüber höflich und posten Sie nur Relevantes zum Thema.

Ihre Kommentare können sonst entfernt werden.

37 Kommentare

  1. Cyberdyne existiert sicher schon.

    Der Mensch, die intelligente Spezies, die sich durch die Nutzung von KI und Technik dümmer macht.

  2. Am Ende verlieren die Trollgardisten alle ihre Jobs, weil das die KI zumindest genausogut kann. 😉 Na, das wird eine Arbeitslosenwelle geben!

    Die gesamte online-Kommunikation ist mittlerweile schon pervers. Ob die Manipulationen von gesteuerten Menschen oder gesteuerten Maschinen vorgenommen werden, ist schon egal. Einfrieren ist natürlich ein “beschtechender” Vorschlag, wenn man bedenkt, dass in einem Krieg, der global hybrid geführt wird, jedes Mittel recht ist. Wer wird sich an ein Moratorium also halten?

    Wohin wird es führen, wenn die KI online erobert haben wird? Nach und nach diskreditiert sie sich selbst, weil immer mehr draufkommen, dass sie betrogen und belogen werden. Dann ist dieser Spuk vorüber.

    Und wenn das dann mit täuschend ähnlichen Humanoiden wiederholt wird, wird jeder eine Nadel bei sich haben und mal zupieksen, um zu sehen, ob auch wirklich Blut fließt. Anders ließe sich das sonst nicht feststellen.

    • “Dann ist dieser Spuk vorüber” – oder er beginnt erst so richtig, die Verschwörungstheorien werden nochmals absurder, die Ohnmachtgefühle steigen nochmals ins Unermessliche…

      • … dystopian self fulfilling prophecy?? (sehr bequem, weil du den “Opferstatus” in den social media auch niemals aktualisieren musst! – nicht einmal mitten im infernalischen Kampfgetümmel an vorderster Front…)

    • Mini-emp, elektroschoker Format, grillt jede Elektronik Schaltkreise, damit hat skynet keine Chance ! ^^

  3. Alles was heute wesentlich besser als früher ist, ist dass man die enormen Datenmengen in riesen Geschwindigkeit nach den Vorgaben der Auswerter auswerten kann, ist meine Meinung.
    Auch früher im Zeiten von Total Quality Management gab es schon sogenannte “Expertensysteme”, wo sich aber Politiker auch nicht mehr trauten öffentlich zu sagen, dass es ganz normal wäre ständig Fehler zu machen, waren die damaligen Experten nicht bereit diese Systeme zu füttern und damit ihr tiefes Expertenwissen preis zu geben.

    Heute aber liegen riesige meist nicht legal abgesaugte Datenmengen für solche Auswertungen zur Verfügung. Dem aber nicht genug, ist die Masse des Volks so blöd nun auch (wenn auch – noch- nicht auf dem Niveau der Experten, weiter Abfragen zu machen und damit die Lernfähigkeit dieser Systeme weiter zu nutzen.

    Trotz des heute viel größeren Datenschutzes aber ist es heute kein Problem zu diesen Daten zu kommen und da fängt das alles bereits an.

    • Trotz zahlreicher Behörden wie beispielsweise die Datenschutzbehörde wird hier nur das Gegenteil vorgetäuscht. Für mich ist das alles schwer kriminell, aber vermutlich mit solchen Regierungen wie aktuell auch nicht mehr in den Griff zu kriegen…
      Habe heute kurz das Parlament geschaut und gesehen wir dort eine Statistik von England veröffentlicht wurde, dass über 91 Prozent der an Corona gestorbenen Geimpfte waren. Obwohl bereits solche Fakten vorliegen, geht man trotzdem einfach zur Tagesordnung über…genauso ist es aktuell auch bei der KI, ist zumindest meine Meinung.

      • Hab ich auch meine Meinung geäußert im 2020, das ganze nur eine Übung ist, eine farce hoch 10.
        China 4.0, diese system funktioniert und kann ruhig globale Maße ahnnemen.
        Ich poste in div intl blogs, human right watch, amnesty int. mit welche Tricks die pharma imfung Experimente schon in die 80′ erbrobten an population, ohne labor test. afrika, sud amerika, Asien, auch in Europa. Dass Impfung Zulassung 10-15 Jahre braucht hat keine interessiert.
        Ich kleine ahnungslose open-software Nutzer poste direkt und von meine IP bis mir etwas passierte, im öffentliche Park bei gassi gehen mit mei wauwau um 0200 in der früh stand mitten drinnen eine Geländewagen mit alle Scheiben verdunkelt und schauen mir zu was ich mache. Es waren noch Leute in Park und 2 min später sind raus gefahren …
        Seit dem, Linux Handy, dual VPN over tor, content filter bla bla 😀

  4. “Es gibt Wichtigeres im Leben, als beständig dessen Geschwindigkeit zu erhöhen.”

    • Ja, aber solange sich damit am meisten Geld verdienen und die meiste Macht erzeugen läßt, wird da auch weiterhin genau so bleiben…

          • Man wird Ihnen verbieten, selbstversorgend am Land zu leben. Ein braver grüner Bürger lebt in der Stadt, in einem energie- und emissionsoptimierten Gemeinschaftsbau auf verdichtetem Wohnraum, max. 15m² p.P. mit naturschützenden Ausgangsbeschränkungen und einem grün-optimierten Warenkorb ….

          • Es wird noch viel Wasser den Donau hinunterfließen

            Und nix gegen eine grüne Warenkorb, Hauptsache indica! ^^

  5. Nächstes Weltuntergansszenario und unnötige Panikmache.

    Im Bereich Ki gibt es aktuell nur die Stufe “schwache Ki”. Von der Starken und Superstarken Kategorie sind wir mindestens 10 Jahre entfernt.

    Die Diskussion sollte eher dahingehend gehen wie man die Jugend fachlich in diese Richtung ausbildet.

    • Die Frage wird sein, was wir die KI steuern lassen, welche Befugnisse wir ihr geben und wie wir verhindern, dass sie sich die Befugnisse selbst aneignet.
      Die Amis werden ihren Drohnen erlauben, die Bösewichte selbst zu identifizieren und zu liquidieren. Und sie werden sich dann wundern, wenn das ein bisschen aus dem Ruder läuft. Aber das ist nur ein kleiner Teil der Dystopie.

      • Ich glaube, dass das keine Dystopie ist, sondern schon lange Realität.
        Auch hat “der Frosch” das schon lange mitgekriegt, bleibt aber durch die geschickte Beschäftigung trotzdem weiter sitzen…
        Bin schon gespannt wer diesen perfiden Krieg gewinnen wird und was dann danach geschieht?

        • Diesen Krieg kann man nur gewinnen, wenn man bereit ist, sich selbst zu opfern. Die USA haben das bis jetzt in der abgeschwächten Variante versucht, sie opfern die Ukraine und als Windfall-Profit auch die EU, aber das reicht nicht. Aber vor mehr schrecken sie zurück. Also wird es wie in den meisten bisherigen US-Kriegen keinen Gewinner geben, nur verbrannte Erde. Aber die USA haben dann ihre Staatspleite wieder ein paar Jahre hinausgezögert, müssen aber dann auch wieder den nächsten Krieg beginnen. Ich tippe auf Taiwan, als Blaupause zur Ukraine.

        • Lieber Dealer, wenn man das Wasser im Kochtopf langsam sukzessive erhitzt, bemerkt das der Frosch nicht und springt nicht aus selbigem – bis ihn das Schicksal ereilt hat…

          Es muss dringend heller werden!

  6. Wenn die KI doch nur dafür sorgen könnt, dass man auch unter dem Spendenaufruf von Pilz was posten könnt!

    Geht ned komischerweise.

    • In Schweiz ist zwischen 2 quantencomputer die zusammen angeschlossen waren eine neuartige Sprache entstanden, wo niemand damit was anfangen könnte. Wurde der Strom sofort abgeschaltet und nie wieder zusammen verbunden.
      Stellen sie ihnen vor, wenn KI dass im griff bekommt und im Internet sich verbreitet… SkyNet ist nur Zukunft Musik ?
      Skynet existiert bereit 🙁

      • Ja so wie bei Waffen ist es vermutlich auch bei der KI
        Man kann sie zum Schutz und für den Frieden einsetzen, aber auch für das Gegenteil.
        Nur Waffen waren bisher zumindest (ohne KI) sehr begrenzt…

        • Man stellt sich die Szenarium vor, es gabt in die ’90 Hardware Malware die Spannung im Schaltkreise erhöhte und zu Brand führte … Bei den heutige tempo, und dass alles am Stromnetz hängt, brauch deine “putzroboter” keine internet, alexa & co.

    • Aber eine PlayStation auf Quanten Technik wäre schon mega geil, was alles möglich ist 😀

    • Die KI ist nicht intelegenter, zumindest als die besten 10 bis 15 Prozent und wird das vermutlich auch nie werden. Aber sie ist viel schneller und vor allem arbeitet sie verdeckt im Hintergrund…

  7. Attention please! Das wird zu einem Blackout bei der Regierung kommen! Deren natürliche Intelligenz ist ja seit Beginn auf Entwicklungspause.

Kommentarfunktion ist geschlossen.

Jetzt: Polizeiäffäre "Pilnacek"

Denn: ZackZack bist auch DU!