Whitebird
Moderator
Dabei seit: 31.03.2009
Beiträge: 3.527
Herkunft: Aus dem Nichts, Nordsee/Ecke Ossiland!!!
 |
|
| Google-KI empfiehlt Rufnummer von Betrügern |
     |
Google-KI empfiehlt Rufnummer von Betrügern
KI-Tools sind keine gute Anlaufstelle für die Suche nach Kundendienstnummern von Unternehmen. Ein Immobilienexperte hat dadurch echtes Geld verloren.
Marc Stöckel
18. August 2025, 9:28 Uhr
Dass große Sprachmodelle hin und wieder falsche Informationen liefern, ist gemeinhin bekannt. Für den Immobilienexperten Alex Rivlin aus den USA hat dieser Umstand kürzlich reale Konsequenzen gehabt, wie ein Bericht der Washington Post darlegt. Er suchte bei Google nach der Rufnummer der Kreuzfahrtgesellschaft Royal Caribbean, um für seinen Urlaub einen Transfer zum Kreuzfahrtschiff zu organisieren. Doch Googles KI-Übersicht verwies ihn direkt an Betrüger.
Rivlin rief den Angaben zufolge die von Google vorgeschlagene Rufnummer an und unterhielt sich mit einer Person, die er als kompetenten Mitarbeiter einstufte. Um den Transfer abzuwickeln, gab er auch seine Kreditkartendaten durch. Doch kurz darauf bemerkte der Mann verdächtige Abbuchungen von seiner Kreditkarte.
Ein überzeugender Gesprächspartner
"Ich bin technisch ziemlich versiert und trotzdem darauf hereingefallen", erklärte Rivlin. Der angebliche Royal-Caribbean-Mitarbeiter am Telefon habe detaillierte Informationen über die Kosten und Abholorte der Shuttles vorgelegt und auch Fragen bezüglich bestimmter Gebühren überzeugend beantwortet. Letztendlich hatten sich die beiden Gesprächsteilnehmer auf eine Zahlung in Höhe von 768 US-Dollar geeinigt.
Einen ersten Verdacht schöpfte Rivlin, nachdem seine Kreditkarte von einer ihm unbekannten Firma belastet worden war. Doch erst am nächsten Tag, nachdem zwei weitere unerwartete Abbuchungen erfolgt waren, wurde ihm wirklich klar, dass er auf eine Betrugsmasche hereingefallen war. Daraufhin ließ er sofort seine Karte sperren und bat seine Bank darum, das Geld zurückzubuchen.
KI mit betrügerischen Rufnummern trainiert
Die gleiche betrügerische Rufnummer soll bei einem Test der Washington Post nicht nur von Google, sondern ebenso von ChatGPT ausgegeben worden sein. Neben Royal Caribbean sind dem Bericht zufolge auch andere Kreuzfahrt- und Fluggesellschaften sowie weitere Unternehmen wie etwa Disney von diesem Problem betroffen.
Quelle der falschen Rufnummern sind den Angaben nach Onlinebewertungen, Foren und andere Websites, auf denen Betrüger ihre Nummern absichtlich wiederholt platzieren und behaupten, sie gehörten zum Kundenservice der jeweiligen Zielunternehmen.
Konzerne wie OpenAI und Google trainieren anschließend ihre KI-Modelle mit diesen öffentlich zugänglichen Daten. Je häufiger eine Rufnummer in Verbindung mit einem Unternehmensnamen auftaucht, desto höher ist die Wahrscheinlichkeit, dass die KI-Tools Anwendern diese Nummer bei einer entsprechenden Anfrage tatsächlich präsentieren.
Sowohl Google als auch OpenAI versicherten dem Bericht zufolge, Maßnahmen ergriffen zu haben, um falsche Rufnummern aus den Antworten ihrer KI-Tools zu entfernen. Dennoch sollten Anwender vorsichtig bleiben und bei der Suche nach Rufnummern besser nur auf die Angaben auf den offiziellen Webseiten der jeweiligen Unternehmen vertrauen.
quelle: golem.de
__________________
Der frühe Vogel trinkt 'n Korn??? 
 Grüße von Whitebird
|
|
18.08.2025 14:03 |
|
|
Muad'Dib
.:.Carpe.Diem.:.
  
Dabei seit: 12.06.2007
Beiträge: 9.004
Herkunft: 51°N/11.5°E Jena/Thuringia
|
|
Aha, aber der Gockel ist natürlich mal wieder nicht haftbar zu machen.....nur Bekloppte!
__________________
| Multifeed Triax Unique 3°e>28°e & motorized FiboStøp120/90/75/55 |
|| VU+ Solo 4K & Blindscan|Mio 4K|Denys H265|S3mini|X-xx0|DVB-Cards ||
Ich bremse nicht für Schnarchroboter. ®²º¹³ Muad'Dib
Alle meine posts stellen meine persönliche und freie Meinungsäußerung dar.
|
|
|
18.08.2025 14:12 |
|
|
