DETECT

Als Team haben wir nach zwei Jahren erfolgreich ein Browser-Plugin zur Fake-Shop Detektion mittels AI zum Echtzeitschutz für Konsument:innen entwickelt. Ziel von DETECT war es, das Tool mittels Gamification zu einem Community Tool werden zu lassen, das beim Aufdecken von Internetbetrug unterstützt.

Konsument:innen werden durch das Browser-Plugin aktiv vor betrügerischen eCommerce Seiten geschützt. Interessierte User:innen werden über ihr Engagement und über die Nutzung des Tools zu wertvollen Agenten in der Prävention und Aufdeckung von Kriminalität im Online-Handel. Relevante Behörden und Interessensvertreter:innen erhalten frühzeitig Warnmeldungen und können Aufgaben an die Community delegieren.

Unschlagbar günstige Angebote, professioneller Web-Auftritt – aber keine Ware. Fake-Shops versuchen Verbraucher:innen zu täuschen und schaden dem Image seriöser Online-Händler. Internetbestellbetrug hat 2019 einen historischen Höchststand erreicht (+32,3%). Bei der österr. Meldestelle gingen über 10.500 Meldungen ein. Oftmals fehlen jedoch wichtige Details über den Bestellprozess (zB Kontodaten) und Ablauf des Betrugs die im Nachhinein nicht mehr erhoben werden können. Dies hemmt die Aufklärung. 

Durch Gamification werden User:innen zu Aufgaben angeleitet. Sie werden gebeten den Überprüfungsprozess durch Beantwortung von simplen Fragen und Dokumentation von Informationen zu begleiten. Die daraus entstehende, solide Datenbasis trägt zu einem verbesserten UX Erlebnis für alle User:innen bei, unterstützt die Arbeit der Expert:innen und verstärkt die Robustheit der darauf aufbauenden AI Modelle.

Im Laufe des Projekt wurde erfolgreich ein Spiel zur Detektion von Fake-Shops entwickelt. Zur Unterstützung der Künstlichen Intelligenz im Fake-Shop Detector (www.fakeshop.at) werden User:innen aufgefordert die automatisierten Einschätzungen der KI zu überprüfen. Spielerisch gehen sie dafür auf eine Reise im Weltall und werden langsam in die Welt der Betrugspräventions-Expert:innen eingeführt, indem sie lernen betrügerische Piratenlager (Fake-Shops) von legitimen Handelsposten (seriöse Onlineshops) zu unterscheiden. Die Spieler:innen werden in “Homebase-Trainings” auf die jeweiligen Herausforderungen vorbereitet, sie lernen über Gütezeichen, sichere Bezahlmethoden, unseriöse Schnäppchen, Onlinebewertungen und die Funktionsweise der KI, die hinter dem Fake-Shop Detector steht. Die aufgeklärte Einbindung der User:innen in den Prozess der Qualitätssicherung geht einher mit der Einführung in sicheres Onlineshopping und Erläuterungen zu der Funktionsweise von Künstlicher Intelligenz. Neben der Unterstützung in der Qualitätssicherung der Datenbasis durch die Einbindung der Community, werden Kernkompetenzen im Verständnis von KI vermittelt.