KI gegen KI: Rettet uns künstliche Intelligenz vor Betrug?

Für viele sind “Buy-Now-Pay-Later”-Lösungen (BNPL) ein wichtiger Prozess, um digitale Zahlungen so nahtlos und reibungslos wie möglich zu gestalten. Dabei wird übersehen, dass diese Lösungen auch einen wichtigen Sicherheitsaspekt bieten. Denn der klassische Rechnungskauf, den digitale BNPL-Lösungen zunehmend ersetzen, ist ein Angriffsvektor, den Betrüger oft und gerne – insbesondere im B2B-Umfeld – nutzen. Durch den Einsatz von Künstlicher Intelligenz (KI) und maschinellem Lernen unterstützen BNPL-Lösungen dabei, Betrugsmaschen frühzeitig zu enttarnen. Gleichzeitig nutzen Kriminelle ebenfalls KI, um diese Maßnahmen zu umgehen. Es entwickelt sich ein Wettstreit: Maschine gegen Maschine im Payment-Sektor.

von Natalia Lyarskaya, VP Data Science and Risk bei Billie

Betrug, insbesondere Identitätsbetrug, ist ein wachsendes Problem im B2B-Umfeld. Die Masche ist schnell beschrieben:

Kriminelle geben sich mit gefälschten Daten als Unternehmen aus und kaufen teure Ware auf Rechnung – die dann nie gezahlt wird.”

Insbesondere der Elektrofachhandel ist betroffen (Smartphones oder Elektrogeräte eignen sich gut als Hehlerware), aber auch andere Branchen wie der Baufachhandel. Beim Rechnungskauf obliegt es dem Verkäufer, die Identität und die Bonität des Käufers zu prüfen – ein zeitaufwändiges Unterfangen, was zudem einfach zu täuschen ist.

Schon jetzt geben 46 Prozent der Onlinehändler an, dass sie schon einmal Opfer von Betrug waren; die gängigsten Betrugsarten stehen dabei alle im Kontext von falschen Identitätsangaben und Rechnungskauf unter Vorgabe falscher Tatsachen.”

Die Reichweite des Problems ist also nicht zu unterschätzen – und es könnte durch den Einsatz von KI noch weiter wachsen.

KI im Untergrund – neue Methoden für Betrug

Kriminellen spielen die neuen Möglichkeiten der KI in die Karten. Ein fiktives Beispiel: Ein KI-System kann aktuelle Trends am Markt analysieren und anhand dieser Daten nahezu perfekte Profile von Fake-Unternehmen erstellen. Mit diesen Profilen können Betrüger dann umfangreiche Bestellungen tätigen, die sie auf Rechnung bezahlen – und noch vor dem Fälligkeitsdatum der Rechnung wieder verschwinden.

Mit der Unterstützung von KI können sie synthetische Identitäten oder gefälschte digitale Fußabdrücke erstellen.”

Eine synthetische Identität entsteht, wenn persönliche Informationen aus verschiedenen Quellen kombiniert werden, um eine neue, nicht existierende Identität zu schaffen.

Künstliche Intelligenz kann riesige Datenmengen aus verschiedenen Quellen durchsuchen und Muster identifizieren, die Menschen möglicherweise übersehen würden.”

So kann eine KI beispielsweise Namen, Geburtsdaten und andere persönliche Daten von echten Menschen kombinieren, um eine völlig neue, glaubhafte „Person” oder in diesem Kontext ein „Unternehmen” zu erschaffen. Die Herausforderung hierbei ist, dass diese Identität zwar gefälscht ist, aber dennoch echte, valide Datenpunkte enthält, wodurch sie schwieriger zu erkennen und zu bekämpfen ist.

Der digitale Fußabdruck eines Unternehmens ist seine Online-Präsenz, die durch Websites, Social Media, Online-Rezensionen und andere digitale Aufzeichnungen dargestellt wird.”

Mit der KI können Betrüger nun komplexe Algorithmen nutzen, um diese digitalen Fußspuren in kohärenter und überzeugender Weise zu fälschen. Zum Beispiel kann ein KI-gesteuertes Script automatisch Social-Media-Beiträge, Kundenbewertungen und sogar Interaktionen mit anderen fiktiven Kunden oder Unternehmen generieren, wodurch der Eindruck eines aktiven, legitimen Geschäftsbetriebs entsteht. Ebenso können sie mithilfe von KI historische Kauftransaktionen und finanzielle Aktivitäten simulieren, die einem realen Geschäftsverlauf ähneln, um bei Kreditprüfungen oder BNPL-Überprüfungen keine Verdachtsmomente aufkommen zu lassen.

KI gegen KI: Wie KI-Modelle vor Betrug schützen

Es gibt verschiedene Möglichkeiten, wie diese Art des Betrugs im Rahmen von BNPL verhindert werden kann. Schon jetzt setzen Unternehmen KI-Modelle ein, um Muster in den enormen Datenmengen zu finden und kriminelles Verhalten aufzudecken. Einige Maßnahmen, die zum Einsatz kommen können, sind:

• Behavioral Analysis (Verhaltensanalyse): KI im BNPL-Kontext prüft nicht nur die Kreditwürdigkeit von Käufern. Sie wertet das Kaufverhalten im Laufe der Zeit aus und stellt Anomalien fest. Wenn ein neues Unternehmen plötzlich eine Großbestellung aufgibt, wird es gemeldet. Dazu werden nicht nur Rohdaten geprüft, sondern auch auf Methoden des Deep Learning gesetzt. Mithilfe einer Kombination aus „convolutional neural networks” (CNNs) und „recurrent neural networks” (RNNs) werten sie Sequenzen des Kaufverhaltens im Zeitverlauf aus und stellen Abweichungen von etablierten Normen fest. Diese zeitliche Datenverarbeitung stellt sicher, dass selbst wenn eine synthetische Identität anfangs typische Verhaltensweisen nachahmt, ungewöhnliche Spitzen oder Muster auffallen.
• Digital Footprint Verification (Verifizierung des digitalen Fußabdrucks): Ein Unternehmen, das eine umfangreiche Website, aber keine wirkliche Aktivität in den sozialen Medien hat oder umgekehrt, kann ein rotes Tuch sein. Die KI vergleicht dazu digitale Datenpunkte mit einem Web-Scraping- und Crawling-Mechanismus, der Bibliotheken wie Scrapy und BeautifulSoup in Python verwendet. Wenn ein Unternehmen eine umfangreiche Website, aber nur spärliche oder zu gleichmäßige Aktivitäten auf seinen Social-Media-Kanälen hat, werden diese Ungereimtheiten erkannt. Für das Rendering dynamischer Inhalte helfen Tools wie Selenium und Puppeteer beim Zugriff auf und der Analyse von Daten, die traditionellen Scrapern möglicherweise entgehen.
• Predictive Analysis (Prognostische Analyse): Indem sie aus vergangenen betrügerischen Aktivitäten lernt, kann die KI zukünftige Bedrohungen vorhersagen. Wenn beispielsweise in bestimmten Branchen plötzlich ein Anstieg der BNPL-Nutzung zu verzeichnen ist, kann sich die KI darauf vorbereiten, indem sie die Überprüfungsverfahren für diese Branchen verschärft. Techniken des verstärkenden Lernens, wie Q-Learning und Deep Q Networks (DQN), ermöglichen es Systemen, potenzielle Bedrohungen auf der Grundlage historischer Betrugsmuster vorherzusagen. Diese Methode des „Lernens aus Erfahrung” stellt sicher, dass jede Interaktion und jede markierte Transaktion in das System zurückfließt und seine Vorhersagen kontinuierlich verfeinert.
• Natural Language Processing (NLP, Verarbeitung natürlicher Sprache): KI durchsucht die Kommunikation nach Ungereimtheiten. E-Mails von Betrügern können mit KI-generierten Inhalten erstellt werden, die subtile sprachliche Muster aufweisen, die von einem hochentwickelten NLP-System erkannt werden können. Um die Kommunikation auf Ungereimtheiten zu untersuchen, verwenden KI-Modelle fortschrittliche NLP-Techniken wie Transformer-Architekturen und BERT (Bidirectional Encoder Representations from Transformers). Diese helfen, Anomalien im Text zu erkennen, sei es in der E-Mail-Kommunikation oder in Kundenrezensionen. KI-generierte Inhalte können z. B. bestimmte sprachliche Wiederholungen aufweisen oder kontextuelle Nuancen vermissen lassen, die diese Modelle erkennen können.

Natürlich kann kein Algorithmus und keine Methode eine absolute Sicherheit vor Betrug herstellen. Der Schlüssel liegt in der ständigen Anpassung und Kombination mehrerer Modelle.

In der Kombination mit klassischen Regeln und einer akkuraten Kategorisierung von Daten ist es möglich, ein System zu schaffen, dass sowohl robust als auch skalierbar ist.”

Ausblick: Das KI-Schachspiel im Payments-Umfeld

Wie bei jedem technologischen Fortschritt entwickelt sich auch hier die Landschaft weiter. Während KI den Betrügern potente Werkzeuge an die Hand gibt, bietet sie den Unternehmen gleichzeitig verbesserte Schutzmaßnahmen.

Der eigentliche Wendepunkt werden die kontinuierlich lernenden Systeme sein, die sich schneller anpassen, als die Betrüger innovativ sein können.”

B2B-Organisationen können schon heute einen Teil zur Betrugsprävention beitragen, indem sie in KI-basierte Lösungen investieren.

Kollaborative Intelligenz, bei der die menschliche Intuition und die KI-Verarbeitungsfähigkeiten verschmelzen, wird von entscheidender Bedeutung sein.”

Eine KI kann eine Anomalie erkennen, aber ein Mensch kann den Kontext verstehen, insbesondere bei komplexen Geschäftsbeziehungen. Letztendlich steht die Technologie an einem interessanten Scheideweg. Zwar gibt es viele Herausforderungen, doch mit der Verschmelzung von menschlichem Fachwissen und KI scheint die Zukunft vielversprechend und widerstandsfähig gegen die drohenden Risiken des Betrugs.

Natalia Lyarskaya, Billie