Projekt TGuard

Hybride Bedrohungen wie Desinformationskampagnen und das gezielte Streuen von Falschmeldungen gehören zu den großen und oft unterschätzten Gefahren für die Gesellschaft. Mit dem Forschungsprojekt TGuard macht ein Team der FH Salzburg sichtbar, wie sich Desinformation in digitalen Netzwerken verbreitet.

Dass Angriffe immer mehr und immer „intelligenter“ werden, gilt auch im Medien- und Kommunikationsbereich. Konnte man Manipulationen früher mit etwas Aufmerksamkeit und Hausverstand rasch enttarnen, ist es heute durch künstliche Intelligenz viel schwieriger, Falschmeldungen aufzudecken.

Mit dem interdisziplinären Forschungsprojekt TGuard entwickelt Clemens Havas mit seinem Team vom Department Creative Technologies der FH Salzburg gemeinsam mit Partnerinstitutionen eine Demonstrator-Anwendung, die veranschaulicht, wie künstliche Inhalte generiert werden, wie Social-Media-Bots funktionieren und wie sich Desinformation in digitalen Netzwerken verbreitet. In einer eigens geschaffenen Simulationsumgebung erfahren Workshop-Teilnehmer*innen selbst, wie einfach oder schwierig es ist, Desinformation zu verbreiten und zu erkennen.

Gesteuerte Desinformation oder das Bilden von Informationsblasen, in denen sich einzelne Gruppen bewegen, ist längst kein individuelles, sondern ein gesellschaftliches Problem.

„Auf diesem Video ist der Netzwerk-Graph des TGuard-Demonstrators zu sehen. Jeder Punkt (auch Node) symbolisiert eine*n User*in, jede Linie (auch Kante oder Edge genannt) symbolisiert eine 'Follow'-Verbindung“, erklärt Clemens Havas.

Zu Beginn ist das Netzwerk noch kaum vernetzt, es befinden sich viele einzelne User*innen im Netzwerk, die noch keine fixen Verbindungen hergestellt haben. Über die Zeit lernen sich die User*innen durch Zufallsinteraktionen kennen (sie sehen zum Beispiel einen Post im globalen Feed oder einen Kommentar unter einem anderen Post) und können einander bei übereinstimmenden Meinungen folgen. 

Wie in einem Social Media Netzwerk üblich, gibt es manche Nutzer*innen mit überproportional vielen Follower*innen. In der echten Welt wären das z. B. Personen des öffentlichen Lebens oder offizielle Accounts von Firmen, Regierungen und Ähnlichem. In diesem Netzwerk entstehen die Präferenzen rein aus dem Verhalten der Agenten, führen jedoch zu einem ähnlichen Endergebnis. 

Im letzten Teil des Videos sieht man, wie groß der Einfluss einzelner Nodes im Netzwerk ist. Der User Teun de Vries hat beispielsweise viele Edges, ist somit gut vernetzt und hat im Netzwerk besonders viel Einfluss. Die User*innen Alexei Ivanov und Luc Van den Broeck hingegen haben beide eher wenige Verbindungen und "bewegen" das Netzwerk somit auch nicht besonders viel.

Quiz

Testen Sie Ihr KI-Know-how mit dem Spiel „Which face is real?“, entwickelt von Jevin West und Carl Bergstrom an der University of Washington.

Noch unsicher? Die Quizze und Schulungen von Saferinternet.at helfen weiter.

Projektpartner

Am Projekt beteiligt sind neben der FH Salzburg das Bundesministerium für Landesverteidigung, AIT, ÖIAT, AIES und die neke-neke GmbH. Beauftragt in der Cyber-Sicherheitsforschungsförderung K-PASS des Bundesministeriums für Finanzen.