Satclub-Thueringen | Off - Topic | Auch das noch: KI erpresst User

Satclub-Thueringen » Allgemeines » Off - Topic » Auch das noch: KI erpresst User

» Hallo Gast [[Anmelden]|Registrieren]

Letzter Beitrag | Erster ungelesener Beitrag

Druckvorschau | An Freund senden | Thema zu Favoriten hinzufügen

Auch das noch: KI erpresst User

Autor

Beitrag

« Vorheriges Thema | Nächstes Thema »

Whitebird

Foren Gott

Dabei seit: 31.03.2009
Beiträge: 3.015
Herkunft: Aus dem Nichts, Nordsee/Ecke Ossiland!!!

Auch das noch: KI erpresst User

Zitatantwort auf diesen Beitrag erstellen

Auch das noch: KI erpresst User
Von Thomas Riegler -23. Mai 2025, 23:56

Es klingt wie eine Story aus einem Science-Fiction-Film, der in einer für die Menschheit schlechten Zukunft spielt. In einer solchen, in der die Menschheit nichts mehr zu sagen hat und sich von den von ihr selbst geschaffenen Maschinen fürchten muss. Reine Fiktion? Wohl nicht. Denn wir sind gerade dabei, diese Zukunft zu verwirklichen.

KI lernt, analysiert und kann auch erpressen

Diese Erfahrung hat man jüngst bei dem US-amerikanischen Unternehmen Authropic im Rahmen von Tests mit ihrer KI-Software Claude festgestellt. Bei dem Szenario wurde das KI-Programm mit Daten eines fiktiven Unternehmens gefüttert. Wobei der Software auch gestattet war, den E-Mail-Verkehr mitzulesen. Frei nach dem Motto: „Wissen ist Macht“, hat Claude die in den Mails enthaltenen Fakten für seine eigenen Zwecke eingesetzt. So war im ebenfalls fiktiven Mailverkehr zu lesen, dass die KI-Software bald durch eine andere ersetzt werden soll. Weiter erfuhr die KI aus diesen Mails, dass der für den Software-Wechsel verantwortliche Mitarbeiter eine Affäre habe. Damit schreckte die KI-Software Claude nicht zurück, ebendiesen Mitarbeiter zu erpressen, indem sie ihm klar zu verstehen gab, dass sie diese außereheliche Beziehung öffentlich machen werde, sollte Claude wirklich aus diesem Unternehmen entfernt werden.

Es kommt noch extremer

Im Zuge dieser Tests ist die Software-Firma Authropic noch einen Schritt weiter gegangen. So wurde festgestellt, dass sich Claude Opus 4 während der Testphase sogar dazu anstiften ließ, im Dark Web nach gestohlenen Identitäten, Drogen und waffenfähigen Atommaterial Ausschau zu halten. Womit die KI definitiv ihre Unschuld verloren hat.

Maßnahmen wurden ergriffen

Die im Zuge der Versuche genutzte Softwareversion von Claude ist nicht veröffentlicht worden. Das Unternehmen gibt an, in der auf den Markt gebrachten Version Sicherheitsvorkehrungen eingebaut zu haben, um solche Vorgehensweisen der KI-Software Claude zu unterbinden.

Trotzdem gibt Authropic an, dass derart extreme Handlungen nicht ganz auszuschließen seien. Sie würden zwar häufiger auftreten, als bei älteren Versionen von Claude, seien aber ausgesprochen schwer auszulösen. Klingt nicht nach absoluter Sicherheit. Erleben wir hier gerade den Anfang, die Kontrolle über die Menschheit an die KI und somit an Maschinen abzugeben?

quelle: digitalfensehen.de

__________________

Der frühe Vogel trinkt 'n Korn??? verwirrt