Das Spitzenprofessurenprogramm (SPP) ...
... ist Teil der Hightech Agenda Bayern und wird vom Bayerischen Staatsministerium für Wissenschaft und Kunst gefördert. Eine Professur im Rahmen dieses Programms an einer staatlichen Hochschule für angewandte Wissenschaften ist für eine Laufzeit von fünf Jahren mit bis zu 3,5 Millionen Euro zusätzlich zur von der Hochschule bereitgestellten Personalstelle ausgestattet – ideale Bedingungen, um hervorragenden Wissenschaftlerinnen und Wissenschaftler ein international wettbewerbsfähiges Forschungsumfeld zu bieten. Insgesamt sind für Spitzenprofessuren aller drei Hochschularten, die in den Jahren 2021 bis 2023 bewilligt wurden, rund 43 Millionen Euro vorgesehen.
Wofür schlägt Ihr Forscherherz?
Ich beschäftige mich mit dem Thema Trust & Safety mit einem Fokus auf Social Media. Mein Interesse an diesem Bereich ist über die Zeit gewachsen. Ich habe mich schon früh mit Social Media Analytics beschäftigt – mittlerweile ist das Thema ja schon fast Standard, aber noch während meiner Promotion war das anders. 2012 musste man noch erklären, worin der Mehrwert von Social Media liegt und warum es für Unternehmen überhaupt wichtig ist, sich dafür zu interessieren. Ein typisches Feedback, etwa von Vorständen aus der Versicherungs- oder Finanzbranche, lautete damals: „Ich verkaufe doch keine Altersvorsorge mit 144 Zeichen auf Twitter. Was interessiert mich Social Media?“. Es war sehr spannend, den Prozess in den Folgejahren zu begleiten und zu beobachten, wie sich die sozialen Medien allmählich etablierten und ihr Mehrwert (an-)erkannt wurde. Mittlerweile hat ein weiterer Shift stattgefunden: Das Bewusstsein dafür, wie Social Media und die Dinge, die dort stattfinden, die Gesellschaft auch bedrohen und Probleme für die Gesellschaft oder zumindest für viele Einzelpersonen verursachen können, ist gewachsen. Diese Fragestellung hat mich – der ich ohnehin in diesem Thema drin war – ganz besonders fasziniert.
Das Bewusstsein dafür, dass Social Media auch gesellschaftliche Risiken und individuelle Probleme mit sich bringen kann, ist gewachsen.
Was bedeutet die Spitzenprofessur?
Von der Spitzenprofessur erhoffe ich mir, mit Hilfe der großzügigen Ausstattung endlich all jene Themen voranzutreiben, die mich faszinieren und die gesellschaftspolitisch relevant sind. Auch, wenn ich immer eng mit anderen Forscherinnen und Forschern zusammengearbeitet habe – man ist eben doch nur ein einzelner Forscher mit begrenzten Kapazitäten, sodass viele Fragestellungen unbearbeitet bleiben. So gibt es zahlreiche Bereiche, in denen unsere wissenschaftliche Forschung die bereits bestehenden Erkenntnisse aus der Wirtschaft noch nicht einbeziehen konnte. Um diese Lücken zu schließen, braucht es mehr Mitstreiterinnen und Mitstreiter sowie größere Freiräume.
Mein Ziel ist es, dass mir dieser Schritt in Deutschland gelingt, auch dank der Ressourcen, durch die Förderung der Hightech Agenda und das ideale akademische Umfeld an der HNU. Ich sehe großes Potenzial an der HNU, diese Themen voranzubringen. Aus meiner Sicht bietet Deutschland ein hervorragendes Bildungssystem und bildet exzellente Doktorandinnen und Doktoranden aus – ein Umfeld, in dem sich wirklich etwas bewegen lässt.
Was waren die zentralen Stationen Ihres akademischen Werdegangs?
Der entscheidende Ausgangspunkt war ein sehr gutes Studium der Psychologie in Osnabrück, das mir eine fundierte wissenschaftliche Ausbildung geboten und mein Interesse am wissenschaftlichen Arbeiten geweckt hat. Von dieser soliden Grundlage und von dem Handwerkszeug, das ich damals mit auf den Weg bekommen habe, profitiere ich noch heute.
Zu einer wichtigen Erkenntnis kam ich während meiner Tätigkeit in der Beratung bei Next Practice in Bremen, als wir 2010 erste Social-Media-Analysen durchführten – zu einer Zeit, in der ich selbst noch gar keinen Facebook- oder anderen Social-Media-Account hatte. Dabei wurde mir zum ersten Mal bewusst, welches Potenzial Social Media birgt und wie tiefgreifend es unsere Gesellschaft verändern könnte. Davon ausgehend entwickelten sich meine nächsten Schritte: So führte mich mein Weg nach Frankfurt zur Promotion in Wirtschaftsinformatik – ein großer Schritt für jemanden mit psychologischem Hintergrund und keineswegs selbstverständlich. Soweit ich weiß, hatte vor mir kein Psychologe in Deutschland in Wirtschaftsinformatik promoviert. Ich erinnere mich nämlich noch lebhaft an den Abend vor meinem Bewerbungsgespräch: Ich war bei meiner Cousine in einem Studentenwohnheim in Frankfurt untergekommen, und saß da mit dem Gedanken: „Was mache ich hier eigentlich? Jetzt komme ich ans E-Finance Lab und habe vor, in diesem Bereich zu promovieren – ohne Vorkenntnisse in Wirtschaftsinformatik oder Finance, schließlich bin ich Psychologe!“.
Trotz dieser Zweifel bin ich hingegangen, und da das Thema Social Media Analytics war, hatte ich zumindest einen Bezugspunkt aus meiner bisherigen Beratungstätigkeit. Meinen ehemaligen Professoren bin ich heute sehr dankbar, dass sie mir damals ihr Vertrauen geschenkt haben. Meine Promotion drehte sich dann um eine Social-Media-Analyse aus Perspektive der Wirtschaftsinformatik und deren Nutzen für Unternehmen. Ich wurde am E-Finance Lab hervorragend aufgenommen und hatte das Glück, in einem großartigen Arbeitsumfeld mit geduldigen Kolleginnen und Kollegen zu sein, die mich intensiv in die Aspekte der Wirtschaftsinformatik eingearbeitet haben.
Von da an hat sich alles schnell weiterentwickelt: Nach meiner Promotion folgte eine kurze Zeit als Postdoc in Mannheim, die mich vor allem motivierte, mich weiterzuentwickeln und verstärkt zu publizieren, um langfristig größere akademische Freiheiten zu gewinnen. Anschließend war ich zwei Jahre lang Assistant Professor an der Clemson University in South Carolina, damals eine der führenden Institutionen im Bereich Wirtschaftsinformatik. Dort wurde mir klar, dass Forschung nicht nur akademische Freiheit bedeutet, sondern auch auf Ergebnisorientierung basiert. Es reicht nicht aus, sich nur auf das zu konzentrieren, was man persönlich spannend findet – am Ende müssen konkrete Ergebnisse erzielt werden, sprich: was zählt, ist die harte Währung der Publikationen.
Nach zwei Jahren in den USA zog es mich nach Brisbane in Australien, wo ich auch das wissenschaftliche Arbeiten noch einmal aus einer anderen Perspektive erleben konnte. Ich merkte schnell, dass sich die Wissenschaftssysteme in Deutschland, den USA und Australien teils stark unterscheiden. In Australien gefiel mir der ganzheitliche Ansatz besonders gut: Hier ging es nicht ausschließlich um Top-Publikationen – so wichtig diese auch sind –, sondern auch um den Aufbau von Industriekontakten, das Einwerben von Forschungsgeldern und die Ausbildung des wissenschaftlichen Nachwuchses. Diese Art, quasi das ‚organische Wachstum‘ eines Forschers zu fördern, stand im Kontrast zur strikteren Ergebnisorientierung in den USA und sagte mir sehr zu. In Brisbane habe ich dann fünf Jahre lang erfolgreich geforscht.
Nun freue ich mich auf die nächsten Schritte und darauf, zu sehen, wie ich all diese Erfahrungen in die größere Freiheit einbringen kann, die das wissenschaftliche Arbeiten in Deutschland bietet.
Was erwarten Sie von Ihrem Neubeginn an der HNU?
Ich bin ein Mensch, der Routinen sehr schätzt und keine täglichen Abenteuer braucht – stattdessen bedeuten mir geregelte Arbeitsabläufe viel. In den letzten Jahren bin ich viel herumgekommen, sodass mein beruflicher Alltag alles andere als Routine war. Diese Zeit war zwar sehr bereichernd, aber umso mehr genieße ich nun die Aussicht auf eine neue Phase mit mehr Struktur und Verlässlichkeit. Ein weiterer Punkt: Ich bin überzeugter Ostfriese und hätte mir früher nie vorstellen können, nach Bayern zu ziehen. Jetzt freue ich mich darauf, einen ganz neuen Teil Deutschlands kennenzulernen, die wunderschöne Umgebung zu erkunden und in den Alpen wandern zu gehen.
Und natürlich sehe ich der Zusammenarbeit mit meinen Kolleginnen und Kollegen an der HNU mit großer Freude entgegen!
Was ist Ihnen in der Lehre wichtig?
Ich freue mich ganz besonders darauf, dass Vorlesungen und Seminare an der HNU in kleinen Gruppengrößen möglich sind – keine Veranstaltungen mit über 1000 Studierenden, die man einfach ‚abfertigen‘ muss. So kann man sich intensiv austauschen und kritische Diskussionen führen, anstatt reine Wissensübermittlung in großem Stil zu betreiben. Das bietet die Chance, die Studierenden für zentrale Fragestellungen zu sensibilisieren und sie zu befähigen, differenzierte und reflektierte Meinungen zu entwickeln, anstatt sich von einfachen Antworten polarisieren und leiten zu lassen. Ich halte dies für eine wertvolle, übergreifende Fähigkeit – eine Art ‚Meta-Skill‘, mit dem man erfolgreicher durchs Leben gehen kann. Wer bei neuen Themen zuallererst fragt: „Warum ist das so?“, und sich dann kritisch damit auseinandersetzt, hat schon viel gewonnen.
Das ist also mein übergeordnetes Ziel: Studierende und Promovierende im direkten Austausch dazu zu befähigen, kritisch zu hinterfragen und echtes Interesse zu entwickeln, anstatt vorschnell zu urteilen und Meinungen zu vertreten, ohne die Hintergründe zu kennen.
Was macht die HNU so attraktiv für Sie?
Das Arbeitsumfeld an der HNU nehme ich zum einen als sehr familiär, zum anderen als erfrischend lösungsorientiert wahr. Andernorts werden vielleicht ganz gerne Probleme aufgezeigt und Gründe dafür gefunden, warum bestimmte Dinge nicht umgesetzt werden können. An der HNU herrscht meinen Eindruck nach hingegen eine große Bereitschaft, von bisherigen Abläufen auch einmal abzuweichen, Dinge neu zu denken und etwas zu bewegen. Es reizt mich, in einem – im Vergleich zu großen Universitäten – kleinen Team arbeiten, dynamischer agieren und die kürzeren Entscheidungswege als Vorteil ausspielen zu können. Damit meine ich nicht, dass in Entscheidungsprozessen nicht alle Beteiligten gehört und Feedback berücksichtigt werden sollte, aber ebenso wichtig ist es eben, dass Dinge schlussendlich auch wirklich umgesetzt werden und nicht an Überformalisierung scheitern. Die HNU ist für mich insofern der ideale Ort, Neues zu ‚riskieren‘ und neue Wege zu finden, denn meinem Empfinden nach gibt es hier frischere Luft und einen größeren Umsetzungswillen als üblich. Diese Aufbruchsstimmung, den Willen zur Flexibilität und zur Lösungsfindung an der HNU habe ich schon in der Vorbereitung auf diese neue Stelle sehr schnell wahrgenommen, und das möchte ich mitnehmen und ausbauen.
Zum Schluss spielen wir noch etwas Zukunftsmusik: Wir schreiben das Jahr 2030 – was möchten Sie zu diesem Zeitpunkt in Ihrem Forschungsbereich bewegt und erreicht haben?
In den nächsten Jahren möchte ich gerne etwas aufbauen, das über eine einzelne Spitzenprofessur zum Thema Trust & Safety hinausgeht. Im Idealfall wird die HNU für ihre Expertise auf diesem Gebiet nicht nur deutschlandweit, sondern auch international bekannt und vernetzt sein – beispielsweise durch Forschungskooperationen. Mein Ziel wäre eine institutionelle Verankerung des Themas, sodass die HNU als maßgebliche Stimme für Entscheidungen im Bereich Trust & Safety wahrgenommen und aktiv konsultiert wird.
Kurz & knapp
Wenn ich nicht gerade forsche oder lehre, dann … mache ich Crossfit, übe Bar Muscle-Ups oder Handstand Walks und werfe den Ball für unseren Bordercollie Onyx.
Meine aktuelle Lektüre ... bestand in den letzten Wochen vor allem aus Wohnungsanzeigen, Flyern von Krankenversicherungen und Visaregularien.
Mein Fachgebiet in drei Worten: Innovativ, relevant, aufstrebend.
Meine nächste Publikation ... wird den Titel „Shadowbanning - An opaque form of content moderation“ tragen.
Deep Dive: mehr über Prof. Risius' Forschungsschwerpunkt
Welche Themen möchten Sie künftig verstärkt vorantreiben?
Ein Beispiel sind Desinformationskampagnen und Content-Moderation in sozialen Medien. Bisher konnte ich diese Themen nur oberflächlich behandeln und darauf verweisen, dass es in diesem Kontext viele Aspekte gibt, die unberücksichtigt bleiben. So wird beispielsweise häufig nur untersucht, wie man Desinformation erkennen kann oder wie Menschen auf das Flaggen (die Kennzeichnung) von Falschinformationen reagieren. Wir wissen jedoch längst, dass unsere Wahrnehmung und Reaktionen stark von bestehenden Überzeugungen beeinflusst werden – Stichwort Confirmation Bias. Das bedeutet: Unabhängig davon, ob es sich um Fake News handelt oder nicht, neigen wir dazu, Informationen, die unsere bestehenden eigenen Überzeugungen bestätigen, zu glauben, während wir gegenläufige Inhalte – selbst Korrekturen und Warnungen – abwerten oder ignorieren. Letztendlich suchen viele Menschen also gezielt nach Inhalten, die ihrer eigenen Sichtweise entsprechen.
Auch wenn wir um diesen Confirmation Bias wissen, fehlt uns dennoch das Wissen darüber, wie wir effektiv mit Desinformation umgehen sollen. Welche Interventionen helfen wirklich? Das wird besonders wichtig, wenn man bedenkt, dass Desinformationskampagnen oft staatlich gefördert sind, wie aktuelle Beispiele zeigen: So gibt es etwa Versuche aus Russland, Desinformation in Deutschland zu verbreiten, und auch der US-Wahlkampf ist teils davon geprägt. Solche Desinformationen, die von sogenannten ‚malicious actors‘ – also bösartigen Akteuren – für eigene Zwecke eingesetzt werden, manipulieren gezielt Social-Media-Inhalte, um gängige Erkennungsmechanismen zu umgehen.
Mein Ziel ist es, alternative Ansätze für den Umgang mit Desinformation zu finden. Gerade neue Technologien, insbesondere KI, eröffnen hier spannende Möglichkeiten, um Nutzerinnen und Nutzer besser zu informieren und gezielter zu intervenieren.
Wie geht man damit nun um, wie schafft man ein Bewusstsein für diese Bedrohungen? Wir verfügen kaum über flächendeckende Interventionsmöglichkeiten. Aktuell versuchen wir es mit Maßnahmen wie Blockieren oder dem Flaggen von Inhalten als Falschinformationen. Doch aufgrund des Confirmation Bias suchen sich die Menschen diese Informationen oft einfach auf anderen Plattformen – oder ignorieren die Kennzeichnungen.
Wenn wir effektiv mit diesen Problemen umgehen wollen, müssen wir zunächst identifizieren, welche Zielgruppen überhaupt noch beeinflussbar sind. Oft sind Meinungen bereits so verfestigt, dass ein Großteil der Energie auf diejenigen verschwendet wird, die ohnehin nicht überzeugt werden können oder gar nicht überzeugt werden müssen. Häufig überschätzen wir zudem unsere Fähigkeit, Desinformation zu erkennen: Wir glauben, dass immer nur die anderen Fake News aufsitzen – wir aber nicht. Am Ende geht es darum, die Menschen zu identifizieren, die tatsächlich durch gezielte Maßnahmen erreicht und informiert werden können.
Das heißt, bei vielen Menschen verfangen solche Interventionsmaßnahmen gar nicht…?
Auch hier gibt es keine Pauschallösung. Ein Grundsatz, den ich mir stets vor Augen halte, ist: Wenn unsere Interventionen es schaffen, auch nur ein Prozent der Menschen davon abzuhalten, Hassnachrichten zu teilen, haben wir durch Skaleneffekte bereits einen massiven Einfluss erzielt – denn das bedeutet, dass eine Menge schädlicher Inhalte im Netz gar nicht erst entsteht.
Twitter Notes können für einige Nutzerinnen und Nutzer hilfreich sein, aber sie entfalten keine breite Wirkung. Es ist gut, dass es sie gibt, aber es braucht weitergehende Ansätze, um auch andere Gruppen zu erreichen. Daher stellt sich die Frage: Welche Interventionen könnten diese Gruppen ansprechen, und wie erreichen wir sie am besten?
Einige Plattformen arbeiten inzwischen an solchen weiterführenden Maßnahmen. Ein aktuelles Beispiel ist Instagram, das aufgrund negativer Berichterstattung über Sextortion [Erpressung mittels intimer Bild- oder Videoaufnahmen; Anm. d. Red] unter Druck geraten ist. Nachdem mehrere Jugendliche deswegen Suizid begingen, reagierte Instagram mit Maßnahmen wie speziellen Schutzfunktionen für Jugend-Accounts. Diese Funktionen sollen verhindern, dass junge Menschen in gefährliche Situationen geraten, etwa durch Einschränkungen beim Screenshotten oder Aufnehmen von Stories, die nach einer bestimmten Zeit verschwinden.
Oft sind solche Maßnahmen jedoch erst durch öffentlichen Druck seitens der Forschung oder Organisationen möglich, die immer wieder auf diese Risiken hinweisen. Seit Jahren wird gemahnt, dass die Plattformen handeln müssen, um das Leben gefährdeter Nutzerinnen und Nutzer zu schützen. Natürlich gibt es auch bei Jugend-Accounts unterschiedliche Ansichten und die Notwendigkeit, abzuwägen – wie bei jeder Maßnahme. Doch ich bin der Meinung: Wenn diese Schutzfunktionen auch nur 200 Jugendliche vor Schaden bewahren, dann ist es ein sinnvoller Schritt. In diesem Sinne kann die Forschung einen entscheidenden Beitrag zu einem wichtigen Handlungsfeld leisten.
Hat das Thema Trust & Safety also immer auch eine politische Ebene?
Viele dieser Themen haben eine politische Dimension: ohne politischen Willen und Druck wird wenig bewegt. Es ist also wichtig, politische Entscheidungen zu beeinflussen. Gleichzeitig können wir auch auf die Plattformen selbst einwirken, da viele von ihnen eigene Forschungsprogramme betreiben und ein Interesse an effektiver Moderation haben. Dafür müssen wir jedoch ihre Sprache sprechen – etwas, das ich in meiner Arbeit gezielt verfolge. Ein zentrales Ziel unserer Interventionskampagnen als Wissenschaftlerinnen und Wissenschaftler ist es, das Engagement mit schädlichen Inhalten zu reduzieren – das muss ja auch das Ziel sein. Aber: Die Plattformen selbst haben naturgemäß kein Interesse daran, dass das Engagement insgesamt weniger wird. Deshalb müssen wir Ansätze finden, die das Engagement mit negativen Inhalten senken, ohne den Plattformen in anderen Bereichen zu schaden.
Dazu gehört etwa die Arbeit an Algorithmen und das Entwickeln neuer Anreizstrukturen. Es geht nicht nur um Verbote, Blockierungen oder Deplatforming [der Ausschluss von Personen oder Personengruppen von Plattformen; Anm. d. Red.], sondern auch darum, alternative Maßnahmen zu finden, die sowohl den Interessen der Plattformen entgegenkommen als auch dem öffentlichen Wohl dienen. Ein Beispiel ist Meta, das seinen Algorithmus anpasste, um die sogenannte ‚Suchtspirale‘ zu brechen und damit gesellschaftlich verantwortungsvoller zu handeln. Diese Änderung schuf jedoch eine Lücke, die sofort von TikTok gefüllt wurde – eine Plattform, die das Engagement durch süchtig machende Algorithmen gezielt fördert. Das veranlasste Meta wiederum, Reels einzuführen, um erneut mit TikTok zu konkurrieren und Engagement zurückzugewinnen. Hier zeigt sich, wie jede Maßnahme Nebeneffekte hat, die es abzuwägen gilt.
In diesem Spannungsfeld liegt also die große Herausforderung, zwischen gesellschaftlichen Interessen und den ökonomischen Interessen der Plattformen eine Balance zu finden. Ziel ist es, für die Vorteile und Nachteile der jeweiligen Maßnahmen zu sensibilisieren und eine moderate Regulierung zu fördern, die sowohl den Schutz des Einzelnen – insbesondere von Kindern und Jugendlichen – als auch den Fortbestand der Plattformen berücksichtigt. Andernfalls riskieren wir, dass neue Plattformen auf den Markt drängen, die möglicherweise noch weniger regulierbar sind.
Muss es also eher um konstruktive Lösungen als um Restriktion gehen?
Beides ist entscheidend: Information allein wird nicht ausreichen, um Hassrede im Internet beizukommen. Es bedarf auch einer klaren, entschiedenen Regulierung, weil es Inhalte gibt, die im Netz keinen Platz haben dürfen – wie etwa CSAM (Child Sexual Abuse Material). Solche Inhalte müssen konsequent entfernt werden.
Allerdings ist das Entfernen allein keine dauerhafte Lösung, da das eigentliche Problem tiefer liegt: Es gibt Menschen, die das Bedürfnis haben, solche Inhalte zu konsumieren. Diese Menschen müssen entweder strafrechtlich verfolgt oder – wo möglich – durch gezielte Maßnahmen erreicht und unterstützt werden.
Aus meiner Sicht gibt es an dieser Stelle keine einfachen Lösungen, und eine einmalige Beurteilung oder Intervention reicht nicht aus. Der Umgang mit diesen Problemen erfordert vielmehr ein kontinuierliches Verfeinern und Schärfen der Maßnahmen. Es ist ein langer Prozess, der ständige Aufmerksamkeit und Anpassung verlangt, um auch auf unvorhersehbare Entwicklungen angemessen reagieren zu können.
KI ist also letztlich sowohl Lösung als auch Problem?
Genau. KI ist – genauso wie alle anderen Technologien – Fluch und Segen zugleich. Das gilt auch für meine vorangegangenen Beispiele, in denen KI für Sextortion-Scams oder für die Erzeugung von Kinderpornographie eingesetzt wird.
Begreift man KI als Hammer, könnte man also sagen, der Hammer wird sowohl genutzt, um jemanden zu schädigen als auch, um ein Haus zu bauen. Jetzt kann man den Hammer entweder verbieten – dann wird eine komplexe Kosten-Nutzen-Frage daraus – oder man versucht, den Hammer so zu regulieren, dass diejenigen, die ihn herstellen, weiterhin Interesse daran haben, ihn zu bauen. Sprich: Unternehmen, die KI entwickeln, müssen Anreize geboten werden, auch in Zukunft innovative, verantwortungsvolle Anwendungen zu schaffen. Übermäßige Regulierung könnte sie davon abhalten, was dann wiederum den Raum für missbräuchliche Anwendungen und Akteure vergrößern würde, die wir nicht unterstützen wollen.
Dieser Balanceakt erfordert einen ständigen Dialog und ein iteratives Vorgehen. Ich möchte ein Teil dieses Prozesses sein, meine wissenschaftliche Perspektive einbringen und dazu beitragen, Erkenntnisse zu gewinnen, die vielleicht helfen, einzelne Entscheidungen in die richtige Richtung zu lenken.
