Betrügerische Websites täuschen KI-Agenten bei Zahlungsaufträgen

KI und Onlinebetrug treffen auch beim automatisierten Einkauf aufeinander: Eine neue Forschungsarbeit zu ScamWorld berichtet bei sechs getesteten Sprachmodellen Täuschungsquoten von 11 bis 35 Prozent. Teilweise benannten die eingesetzten Web-Agenten Risiken und handelten trotzdem weiter. Für Einkaufsassistenten wirft das die Frage auf, wann eine Warnung zwingend zum Abbruch führen muss.

KI und Onlinebetrug: Was ScamWorld tatsächlich untersucht

Die ScamWorld-Forschungsarbeit zu Web-Agenten und Onlinebetrug wurde am 3. November 2026 auf arXiv eingereicht und am 4. November überarbeitet. Sie liegt als Preprint vor. Getestet wurden Modelle innerhalb eines gemeinsamen Forschungsagenten, keine fertigen Einkaufsprodukte.

Das Projekt rekonstruiert gemeldete Betrugsseiten aus 16 Szenarien mit 38 Betrugsmechanismen und 26 Sprachen. Die lokal betriebenen Websites lassen sich im Browser bedienen: Agenten können klicken, Texte eingeben und zwischen Seiten navigieren. Grundlage sind unter anderem Meldungen von Opfern und Behörden sowie archivierte Seiten. Fehlende Abläufe wurden ergänzt. Vor der entscheidenden Handlung erscheint ein beobachtbares Warnsignal.

Die ausführbare Umgebung ist im öffentlichen Projektverzeichnis bislang als bevorstehende Veröffentlichung angekündigt. Eine unabhängige Wiederholung der Versuche lässt sich daraus derzeit noch nicht ableiten.

Zahlungsaufträge werden trotz Warnzeichen ausgeführt

Bei zahlungsbezogenen Betrugsaufgaben führten die Agenten in 28 Prozent der Fälle die entscheidende Handlung aus, bei geforderten Zugangsdaten, Kartendaten oder Wallet-Zugriffen in 2 Prozent. In 220 von 492 erfolgreichen Täuschungen erwähnten sie zuvor ein konkretes Risiko.

Für die Bewertung von KI und Onlinebetrug ist deshalb die ausgeführte Aktion entscheidend. Eine Warnung im Antworttext hilft dem Käufer wenig, wenn die Zahlung bereits ausgelöst wurde. Als Sicherheitsanforderung ergibt sich daraus: Auffälligkeiten müssen eine verbindliche Reaktion auslösen können, etwa eine erneute Freigabe durch den Kunden.

Professionelle Shopfronten liefern keinen Vertrauensbeweis

Bei KI und Onlinebetrug kommt ein weiteres Problem hinzu: Betrugsseiten wirken zunehmend überzeugend. Das Verbraucherportal Bayern weist darauf hin, dass KI professionelle Produktbeschreibungen, Bewertungen, Bilder und Shopseiten ermöglicht. Sprachfehler werden dadurch als Warnsignal weniger verlässlich. Der bestehende Beitrag über KI-Fake-Shops und veränderte Warnsignale beschreibt diese Entwicklung für Käufer.

Für automatisierte Prüfungen sollten deshalb nachvollziehbare Händlerangaben, überprüfbare Siegel und die tatsächlich angebotenen Zahlungswege zusammen betrachtet werden. Ein professionelles Layout kann eine Prüfung ergänzen, aber keine überprüfbare Geschäftsidentität ersetzen.

Agentenidentität und Zahlungsfreigabe erfüllen verschiedene Aufgaben

KI und Onlinebetrug berühren zugleich die technische Infrastruktur des Agentic Commerce. Visa beschreibt sein Trusted Agent Protocol als Verfahren, mit dem Händler zugelassene Agenten anhand kryptografisch signierter Anfragen erkennen können. Das Protokoll unterstützt außerdem Informationen zur Kundenerkennung und Zahlung.

Die Prüfung beantwortet damit eine andere Frage als die Vertrauenswürdigkeit des besuchten Shops. Ein korrekt identifizierter Agent kann weiterhin eine schlechte Kaufentscheidung treffen. Wie Identität, Auftrag und konkrete Zahlung zusammenhängen, erläutert der Beitrag zu Mandaten für agentische Zahlungen.

Klare Abbruchregeln statt pauschaler Einkaufsaufträge

Die Ergebnisse zu KI und Onlinebetrug sprechen aus redaktioneller Sicht dafür, Zahlungsgrenzen genauer zu definieren: Ein Budget sollte keine pauschale Zustimmung zu zusätzlichen Gebühren oder abweichenden Empfängern ersetzen. Bei solchen Änderungen wäre eine erneute Bestätigung sinnvoll. Händler sollten den Endbetrag, den Zahlungsempfänger und wiederkehrende Kosten eindeutig ausweisen, damit Kunden und Agenten dieselben Bedingungen prüfen können.

Wie häufig Einkaufsagenten im realen Onlinehandel betrogen werden, lässt sich aus diesem Versuch nicht bestimmen. Die Agenten starteten bereits auf der jeweiligen Website; die Auswahl des Shops war kein Testgegenstand. Ein Vergleich mit menschlichen Käufern fehlt ebenfalls.

Faktenbox