Mit künstlicher Intelligenz Fake-Shops aufspüren

Dem ÖIAT ist es in einem gemeinsamen Forschungsprojekt mit dem AIT gelungen, Fake Shops im Internet mittels künstlicher Intelligenz (KI) zu erkennen.

Prävention ist der Schlüssel, um Konsumentinnen und Konsumenten wirksam vor Betrug durch Fakeshops im Internet zu schützen und auch das Vertrauen in den seriösen Onlinehandel zu erhalten. Oft genug wird Betrug erst durch den entstandenen Schaden erkennbar – wenn etwa die gekaufte Ware nicht geliefert wird und sich herausstellt, dass es die gebuchte Reise gar nicht gibt. In diesem Sinne gilt es, den Fakeshops zuvorzukommen.

Für das Österreichische Institut für angewandte Telekommunikation – ÖIAT ist die automatisierte Detektion von Betrug im Internet ein bereits länger verfolgtes Anliegen, verspricht sie doch, schneller und präziser betrügerische Muster zu erkennen als ein Mensch dies vermag. KI-gestützte Detektion kann also die Arbeit der ExpertInnen unterstützen und teils automatisieren.

Institut
ÖIAT – Österreichisches Institut für Angewandte Telekommunikation

Projektpartner
AIT – Center for Digital Safety and Security

Förderung

Dauer

Wir nutzen die Möglichkeiten der Künstlichen Intelligenz, um die bisher händische Überprüfung von Online-Shops zu automatisieren und Fake-Shops schneller aufzuspüren.

Louise Beltzung - Projektleiterin am ÖIAT
a ACR-Präsidentin übergibt Projektleiterin des ÖIAT den Innovationspreis, ein rotes Schild

Die Watchlist Internet des ÖIAT wurde 2013 gegründet und listet inzwischen über 7700 betrügerische Online-Shops. Die Eintragungen werden händisch geprüft und basieren auf Meldungen von Konsumenten und Konsumentinnen sowie Recherchen des ÖIAT. „Wir haben festgestellt, dass viele Fake-Shops sehr ähnlich sind“, berichtet Louise Beltzung, Projektleiterin am ÖIAT. „Wir dachten, das müsste automatisiert doch aufspürbar sein. Der Austausch mit den ForscherInnen des AIT führte zur ersten Idee für eine Reihe von Projekten, wo dies mit Machine Learning umgesetzt wurde.“

Eines dieser Projekte ist MAL2, das Ende 2020 das Fake-Shop Plugin veröffentlicht. Es ist eine Teilautomatisierung der Watchlist und kann andere Merkmale bei Fake-Shops als ein Mensch erkennen. MAL2 steht dabei für MAchine Learning detection of MALicious content.

Der Erfolg von MAL2 hängt unmittelbar mit der Qualität der Daten zusammen, auf denen die Modelle entwickelt werden. Eine künstliche Intelligenz ist nur so gut, wie die Daten, auf denen sie beruht. Die Watchlist Internet hat sich dabei als ein Segen im Sinne der Qualitätssicherung erwiesen. „Die Qualitätssicherung ist bei KI-Lösungen eine der größten Herausforderungen. Das betrifft die Datenbasis – das haben wir gelöst über die Nutzung der langjährigen Archivierung der Watchlist Internet von Fake-Shops sowie durch Implementierung eines ExpertInnen-basierten Detektionsprozesses. Die Black-Lists der KI enthalten nur durch ExpertInnen bestätigte Warnmeldungen zu Online-Betrug im E-Commerce. Die KI liefert sehr gute Ergebnisse, allerdings ist eine händische Stichprobenüberprüfung immer notwendig“, so Beltzung.

a Louise Beltzung nimmt als Projektleiterin den ACR-Innovationspreis für das ÖIAT von ACR-Präsidentin Iris Filzwieser entgegen. Foto: ACR/Alice Schnür-Wala

Die Forschung geht weiter

Die Detektionsraten von MAL2 im Trainingsdatensatz liegen derzeit bei 97 Prozent und halten in der Praxis stand. Eine Rate, die optimistisch macht und das ÖIAT dazu bewegt, den Weg der teilautomatisierten Detektion fortzusetzen. SINBAD heißt das Nachfolgeprojekt, bei dem die KI-Modelle noch weiter verbessert werden sollen und unter anderem versucht wird, durch proaktives Screening bereits bei den Domainreservierungen Muster zu erkennen.

Die Corona-Krise hat den Internetbetrug im Übrigen weder eingebremst noch ihm Auftrieb gegeben, wie Louise Beltzung berichtet. Die Aktivitäten wurden vielmehr verlagert. „Fake-Shops haben sich zum Beispiel auf Masken und Desinfektionsmittel spezialisiert. Während die Reise-Fakes abgenommen haben, sind Streaming-Fakes mehr geworden.“

Weiterführende Links

Share on Social Media