ePrivacy and GPDR Cookie Consent by Cookie Consent Der Fake Shop-Detektor – Mit KI sicher vor Betrug (ÖIAT) - ACR

Der Fake Shop-Detektor – Mit KI sicher vor Betrug (ÖIAT)

Dem ÖIAT ist es in einem gemeinsamen Forschungsprojekt unter der Leitung des AIT (Center for Digital Safety and Security) gelungen, Fake Shops im Internet mittels künstlicher Intelligenz (KI) zu erkennen. Der Fake Shop-Detektor funktioniert als Plug-In, analysiert den Quellcode eines Shops und meldet unverzüglich, ob dieser vertrauenswürdig ist oder nicht. Unabhängige Einzelhändler haben damit einen einfachen Vertrauensbeweis für ihre Kunden, die Kunden die Gewissheit, dass sie sicher einkaufen.

VIDEO

Prävention ist der Schlüssel, um Konsumentinnen und Konsumenten wirksam vor Betrug durch Fakeshops im Internet zu schützen und auch das Vertrauen in den seriösen Onlinehandel zu erhalten. Oft genug wird Betrug erst durch den entstandenen Schaden erkennbar – wenn etwa die gekaufte Ware nicht geliefert wird und sich herausstellt, dass es die gebuchte Reise gar nicht gibt. In diesem Sinne gilt es, den Fakeshops zuvorzukommen.

Für das Österreichische Institut für angewandte Telekommunikation – ÖIAT ist die automatisierte Detektion von Betrug im Internet ein bereits länger verfolgtes Anliegen, verspricht sie doch, schneller und präziser betrügerische Muster zu erkennen als ein Mensch dies vermag. KI-gestützte Detektion kann also die Arbeit der ExpertInnen zu unterstützen und teils zu automatisieren

Die Watchlist Internet des ÖIAT wurde 2013 gegründet und listet inzwischen über 7700 betrügerische Online-Shops. Die Eintragungen werden händisch geprüft und basieren auf Meldungen von Konsumenten und Konsumentinnen sowie Recherchen des ÖIAT. „Wir haben festgestellt, dass viele Fake-Shops sehr ähnlich sind“, berichtet Louise Beltzung, Projektleiterin am ÖIAT. „Wir dachten, das müsste automatisiert doch aufspürbar sein. Der Austausch mit den ForscherInnen des AIT führte zur ersten Idee für eine Reihe von Projekten, wo dies mit Machine Learning umgesetzt wurde.“

Eines dieser Projekte ist MAL2, das Ende 2020 das Fake-Shop Plugin veröffentlicht. Es ist eine Teilautomatisierung der Watchlist und kann andere Merkmale bei Fake-Shops als ein Mensch erkennen. MAL2 steht dabei für MAchine Learning detection of MALicious content.

Der Erfolg von MAL2 hängt unmittelbar mit der Qualität der Daten zusammen, auf denen die Modelle entwickelt werden. Eine künstliche Intelligenz ist nur so gut, wie die Daten, auf denen sie beruht. Die Watchlist Internet hat sich dabei als ein Segen im Sinne der Qualitätssicherung erwiesen. „Die Qualitätssicherung ist bei KI-Lösungen eine der größten Herausforderungen. Das betrifft die Datenbasis – das haben wir gelöst über die Nutzung der langjährigen Archivierung der Watchlist Internet von Fake-Shops sowie durch Implementierung eines ExpertInnen-basierten Detektionsprozesses. Die Black-Lists der KI enthalten nur durch ExpertInnen bestätigte Warnmeldungen zu Online-Betrug im E-Commerce. Die KI liefert sehr gute Ergebnisse, allerdings ist eine händische Stichprobenüberprüfung immer notwendig“, so Beltzung.

Die Detektionsraten von MAL2 im Trainingsdatensatz liegen derzeit bei 97 Prozent und halten in der Praxis stand. Eine Rate, die optimistisch macht und das ÖIAT dazu bewegt, den Weg der teilautomatisierten Detektion fortzusetzen. SINBAD heißt das Nachfolgeprojekt, bei dem die KI-Modelle noch weiter verbessert werden sollen und unter anderem versucht wird, durch proaktives Screening bereits bei den Domainreservierungen Muster zu erkennen.

Die Corona-Krise hat den Internetbetrug im Übrigen weder eingebremst noch ihm Auftrieb gegeben, wie Louise Beltzung berichtet. Die Aktivitäten wurden vielmehr verlagert. „Fake-Shops haben sich zum Beispiel auf Masken und Desinfektionsmittel spezialisiert. Während die Reise-Fakes abgenommen haben, sind Streaming-Fakes mehr geworden.“

Fotos