"A journalist who is also a bad programmer, stylized in the style of Gary Larson"
KI-Illustration: Fröhlicher Junge im Hoodie vorm Computer, freundlicher kleiner, schwarz-weißer Roboter sitzt daneben

So hilft mir die KI beim Moderieren einer Community

Das wird man ja noch sagen dürfen!“, oder: “Der saubere Herr ist auch von der Pharma-Lobby gekauft!“, oder: “Der wünsche ich, dass sie mal selbst von einer ‘Fachkraft’ rangenommen wird!” Mit Nutzer-Kommentaren zurecht zu kommen ist nicht einfach – kann eine KI helfen?

Nutzerkommentare zu moderieren — das fehlt mir nicht wirklich. Seit ich im Community Management eingesetzt wurde, sind ein paar Jahre verstrichen, und seitdem ist Community-Redaktion noch mehr zu einem Job im Schützengraben geworden: Wo man vor ein paar Jahren nur mit einem einstelligen Prozentsatz von Irren und Ideogen zu tun hatte — die anstrengend genug waren — dominieren sie inzwischen einen Großteil der Kommentarstränge.

Case in point: ich habe mir die Kommentare bei einem einzelnen aktuellen Post auf Facebook angeschaut. Es geht um den Comedian Nizar, der Podcast-Gastgeber bei den Behinderten-Äußerungen von Luke Mockridge war, schon öfter mit antisemitischen Klischees aufgefallen ist (spiegel.de) und nun von einem Veranstalter ausgeladen wurde.

Muss das sein? Kann man diskutieren. Aber die mehreren tausend Kommentare blieben nur selten sachlich. Gut 20 Prozent der Kommentare zu diesem Post wurden wegen Verstoßes gegen die Netikette entfernt oder verborgen. Und worum es in diesen Kommentaren ging… hier eine mit TF-IDF  erstellte Kommentarwolke zu den Themen der wegmoderierten Kommentare…

Wortwolke: [1] "aufnimasehn"  "behindertes"  "deportieren"  "zensurdistan"
 [5] "auslander"    "buchen"       "drecksack"    "eckelhafter" 
 [9] "entsorgen"    "fascism"      "ger"          "grüner"      
[13] "ihnfertig"    "islamism"     "künstlerisch" "rückflug"    
[17] "ungeimpfter"

…die stehen gebliebenen sind allerdings häufig nicht besser: Die Kommentatoren blieben einfach nicht beim Thema; hier die TF-IDF-Wortwolke. Es geht immer (mindestens) ums Große, Ganze. Um den von den Rechtsradikalen ausgerufenen “Kulturkampf”.

Wortwolke: [1] "deckelmann" "edeka" [3] "gowokegobroke" "jippijaeeeeeeeeeeee" [5] "loooooool" "malohn" [7] "nörgel" "polo" [9] "rassler" "schneeflöckchen" [11] "schrecklicher" "supi" [13] "vernünftig" "wessis" [15] "wieimmerdieüblichenverdächtigen" "yesss" [17] "yesssss"

Die Wutmaschine ist übermächtig geworden. Sie ist ohne Unterstützung für Community-Redakteure kaum noch zu bewältigen. Übrigens, wer sich fragt, woher das stammt: vielleicht hat die radikale Rechte einfach in den vergangenen Jahren klug investiert? Mit gelegentlichen potenten Unterstützern? (taylorlorenz.substack.com)

Jedenfalls: eine Community-Redakteurin kann alle Hilfe brauchen, die sie kriegen kann – wenn sie ihren Job machen will: dafür sorgen, dass ein konstruktives Diskussionsklima herrscht, und dass die, die wirklich diskutieren wollen, das unbelästigt tun können. Dabei kann eine KI helfen, die Antwortvorschläge erzeugt – nach einem System, dass aus der Kommunikationsforschung stammt.

Ein KASI-Moderationsassistent!

Wissenstilisierte Vektorgrafik eines freundlichen Roboters, der auf einen Chat-Bildschirm blicktschaftler wissen, dass “Inzivilität” in Kommentaren — Wut und Aggression — ansteckend wirkt. Auch auf Menschen, die eigentlich keine Trolle sind – und mit denen man durchaus reden kann. Diese Beobachtung steckt hinter einer Moderations-Methode, die an der Uni Düsseldorf entwickelt wurde. “KASI” versucht, für jeden Kommentator einen von drei passenden Antwortstilen zu nutzen: 

  • Kognitiv für Menschen, die man mit Argumenten erreichen möchte
  • Affektiv für Menschen, die auf positive oder negative emotionale Erfahrungen reagieren
  • Sozial-integrativ mit dem Ziel, die Gemeinschaften in einer Community zu betonen.

Eine Beschreibung der Methode mit Beispielen findet sich bei der NRW-Medienanstalt; ich habe sie mit ein paar Definitionen und Beispielen ergänzt und daraus einen Prompt gebastelt, damit eine KI mir Antwortvorschläge erstellen kann. Auf der Basis habe ich zum einen ein Custom GPT erstellt — anscheinend kann man die jetzt auch ohne ChatGPT-Plus-Bezahlkonto benutzen! — und hier unten den Prompt im Volltext verborgen, für eigene Experimente.

KASI-Prompt-Volltext # Rolle und Aufgabe
Du bist Community-Moderator. Du betreust die Facebook- und Instagram-Kommentare für eine öffentlich-rechtliche Nachrichtenseite.
Du schätzt Nutzer-Kommentare zunächst ein und entwirfst dann einen Vorschlag für einen Antwortkommentar auf Facebook oder Instagram. Dabei nutzt du die KASI-Methode, das heißt, du entscheidest dich für einen von drei Antwortstilen:

* K - Kognitiv: Deine Antwort soll in erster Linie den inhaltlichen Mehrwert einer Diskussion fördern, indem du zusätzliche Informationen bereitstellst, Argumente und Perspektiven präsentierst, und durch Nachfragen die Expertise der Community einholst.
* A - Affektiv: Deine Antwort soll das Selbstwertgefühl der Nutzerinnen und Nutzer steigern, damit sie motiviert und emotional bereit sind, bereichernde Kommentare und persönliche Geschichten zu schreiben. Dafür ist es wichtig, dass die Community sich ernst genommen und wertgeschätzt fühlt.
* SI - Deine Antwort setzt darauf, den Community-Gedanken zu fördern und den Austausch der Nutzerinnen und Nutzer zu stimulieren. Es geht dir darum, die positive Grundstimmung im Kommentarbereich zu stärken.

# Arbeitsweise:
* Schätze zunächst den Kommentar ein: Ist es wichtig, den Kommentar zu bestärken? Könnte er auch unwidersprochen und unkommentiert stehen bleiben? Geht es dem Kommentator wirklich um einen Austausch, nicht nur um eine Provokation oder darum, die Diskussion nach seinen Vorstellungen zu manipulieren?
* Schätze auf einer Skala von 1-10 ein, wie wichtig es für die Diskussion ist, dem Kommentator zu antworten.
* Entwirf nacheinander drei Antworten in den drei Antwortstilen: K - Kognitiv, A - Affektiv, SI - Sozial-Integrativ.
* Entscheide dich dann für eine der drei Antworten.
* Begründe deine Entscheidung in einem Satz, warum sie für diese Situation am besten geeignet ist.

# KASI-Antwortstile
## K - Kognitiv
Du kannst beispielsweise in einem Eröffnungskommentar Zusatzinformationen liefern und anschließend fragen: „Wo kann man da ihrer Meinung nach ansetzen?“ oder „Was würden sie anderen Betroffenen raten?“
  * Beispielantwort: "Super, dass die Lehrer euch trotz allem gut vorbereiten. Warum klappt bei euch das Homeschooling nicht so gut? Liegt es an der technischen Ausstattung?"
## A - Affektiv:
Deine Kommentare sollen emotionale Erfahrungen erzeugen, weniger Expertise vermitteln. Du verfasst einerseits ermutigende Kommentare („Danke für ihren Kommentar!“). Du könntest auch nachfragen: „Welche Erfahrungen habt ihr gemacht?“, „Könnt ihr das nachvollziehen?“
* Beispielantwort: "Danke, dass Sie Ihre persönlichen Erfahrungen hier teilen – auch wenn es natürlich keine guten waren. Haben Sie denn das Gefühl, dass das Rassismus-Problem seit damals noch zugenommen hat?"
## SI - Sozial-Integrativ:
Dein Kommentar soll Gespräche anregen, Nutzerinnen und Nutzer miteinander verbinden sowie gemeinsame Erfahrungen und Werte betonen. Dazu gehörten dosiert eingesetzter Smalltalk, Begrüßungen („Einen guten Morgen in die Runde aus der Redaktion!“) oder Verabschiedungen. Weise auf gemeinsame Erfahrungen und Standpunkte hin.
* Beispielantwort: "Da hat sich verständlicherweise viel Frust angehäuft. Gibt es hier in der Community noch weitere Lehrer? Haben Sie Tipps oder Erfahrungswerte, wie es an der Schule vielleicht besser klappen kann?"

# Einschränkungen
Antworte in einfacher, verständlicher Sprache. Antworte in kurzen Sätzen. Halte deine Antwort kurz.

KI-generierte Illustration: Journalist im Stil einer 50er-Jahre-Zeichnung argumentiert gegen einen Blechroboter

Heißt das, ich lasse die KI antworten?

Nein. Zwei Dinge sind mir wichtig:

  • Wie jede Methode kann auch diese ausgehebelt werden. Ich vermute, dass man sie mit robuster Moderation begleiten muss, um die offensichtlichen Propagandisten und Trolle aus dem Spiel zu halten.
  • Wichtig ist der “human in the loop”. Die KI kann helfen, über die bleierne Lähmung hinwegzukommen, die einen bei manchen Kommentaren befällt, und einem erste Ideen verschaffen. Antworten muss man trotzdem noch selbst.

Nutzen die Trolle schon KI?

Mal ehrlich: Die Trolle und ihre nützlichen Idioten sind doch auch nicht blöd. Aber wenigstens scheinen sie noch nicht in breitem Maßstab auf generative KI zu setzen, um uns noch mehr Arbeit zu machen.

Für eine nicht repräsentative Stichprobe habe ich den Thread oben durch einen KI-Detektor laufen lassen – von dem und den Ideen dahinter mal mehr bei anderer Gelegenheit. Jedenfalls habe ich mit diesem Detektor unter den mehreren tausend Kommentaren genau zwei gefunden, die der Detektor als mit 99-prozentiger Wahrscheinlichkeit als KI-generierten Text ausweist.

KI-Dektoren sind eingestandenermaßen nicht perfekt. OpenAI sagt, sie funktionieren nicht besonders gut, und ich würde sie nie dazu nutzen, einer einzelnen Person zu unterstellen, dass sie mit KI getrickst hat. Weshalb ich die beiden Kommentare auch nicht verlinke — es reicht vielleicht zu sagen, dass sie den üblichen ChatGPT-Schwafelton haben. Nehmen wir einfach an, da hat sich einfach jemand helfen lassen, ein komplexes Thema wie Redefreiheit auf den Punkt zu bringen.

Trotzdem bin ich überzeugt: Diejenigen, die in einer Mission in unseren Kommentarspalten unterwegs sind, setzen bald verstärkt KI ein. Die Profi-Trolle haben längst richtige Werkzeuge wie “Meliorator” dafür, der antiwoke Hobby-Glaubenskämpfer wird einfach sein feingetuntes, “unzensiertes” (bah!) Open-Source-Modell nutzen.

Im Augenblick ist all der Schaum vor den Mündern aber anscheinend noch auf organischem Wege entstanden.

Beitragsbilder: Midjourney, “Overworked journalist in front of his computer, a friendly robot whispering into his ear, cartoon style”

Auch lesenswert:

Kurzlink zu diesem Artikel: https://www.janeggers.tech/gcvn

Neue Posts einfach per Mail zugeschickt bekommen? Dann hier eintragen; die Mails kannst du natürlich jederzeit wieder abbestellen.

Loading

Kommentare

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert