Whitebird
Moderator
Dabei seit: 31.03.2009
Beiträge: 4.324
Herkunft: Aus dem Nichts, Nordsee/Ecke Ossiland!!!
 |
|
 Prompt-Injection-Problem wahrscheinlich nie lösbar |
     |
Prompt-Injection-Problem wahrscheinlich nie lösbar
Gerade bei den neuen KI-Browsern gelten Prompt Injections als extrem gefährlicher Angriffsvektor. OpenAI sieht keine vollständige Lösung dafür.
23. Dezember 2025 um 10:50 Uhr / Marc Stöckel
Immer wieder finden Sicherheitsforscher neue Wege, KI-Agenten mittels Prompt Injection zur Ausführung bösartiger Anweisungen zu verleiten. Wie OpenAI nun im Hinblick auf den hauseigenen KI-Browser ChatGPT Atlas bestätigt, wird sich an dieser Situation wahrscheinlich auch nichts ändern. Immerhin will das KI-Unternehmen aber künftig schneller reagieren können, um Anwender zu schützen.
Prompt Injections gelten gerade bei den neuen KI-Browsern von Unternehmen wie OpenAI, Microsoft, Google und Perplexity als besonders gefährlich. Angreifer können der jeweiligen KI damit bösartige Anweisungen unterschieben, um etwa Nutzerdaten abzugreifen, Malware einzuschleusen oder gefährliche Falschinformationen zu verbreiten.
Die dafür nötigen Anweisungen lassen sich zum Beispiel auf Webseiten oder in E-Mails einbetten – oft sogar für Nutzer unsichtbar, weil etwa die Schrift extrem klein ist oder die gleiche Farbe wie der Hintergrund hat. Sobald die KI den Prompt des Angreifers beim Surfen im Web verarbeitet, besteht das Risiko, dass die Anweisungen ausgeführt werden. Sowohl Analysten von Gartner als auch Sicherheitsforscher von Cato hatten erst kürzlich vor entsprechenden Attacken gewarnt.
Prompt Injections bleiben ein Thema
OpenAI sieht bisher keine Möglichkeit, diesen Angriffsvektor jemals vollständig zu eliminieren. "Wir gehen davon aus, dass sich Angreifer weiter anpassen werden. Prompt Injections werden, ähnlich wie Betrug und Social Engineering im Internet, wahrscheinlich nie vollständig 'gelöst' werden können", schreibt das Unternehmen in seiner jüngsten Ankündigung.
Dennoch will OpenAI die Nutzer von ChatGPT Atlas nicht vollständig den Angreifern überlassen. Man sei "optimistisch, dass ein proaktiver, hochreaktiver Schnellreaktionskreislauf das reale Risiko im Laufe der Zeit erheblich reduzieren kann", so das Unternehmen weiter. Helfen soll dabei eine KI, die permanent nach neuen Möglichkeiten sucht, Prompt Injections auszuführen, so dass OpenAI diese zügig mit neuen Sicherheitsbarrieren unterbinden kann.
Auf diesem Wege will das KI-Unternehmen mögliche Prompt Injections künftig erkennen und vereiteln können, bevor reale Angriffe damit stattfinden. Wie gut das auf Dauer funktioniert, bleibt abzuwarten. So oder so bleibt es damit aber bei einem Wettrüsten zwischen KI-Anbietern und Angreifern, wenn auch mit höherer Frequenz.
quelle: golem.de
__________________
Der frühe Vogel trinkt 'n Korn??? 
 Grüße von Whitebird
|
|
Heute, 13:08 |
|
|
