Was sind Social Bots? Wirkung, Risiken, Maßnahmen

Von: Andrea Estermeier, VerbraucherService Bayern im KDFB e. V.

Der Begriff "Social Bots" ist spätestens seit dem US-Präsidentschaftswahlkampf 2016 zwischen Hillary Clinton und Donald Trump durch die Medien bekannt geworden. Wie funktionieren Social Bots und wie kann man sie erkennen? Darum geht es im folgenden Artikel.

Was bedeutet Social Bot?

Der Name “Bot” ist eine Kurzform des englischen Begriffs “robot” (Roboter). Dahinter verbirgt sich ein Computerprogramm, das ähnlich wie eine automatisierte Maschine darauf programmiert ist, bestimmte Aufgaben zu bearbeiten, ohne dass ein Mensch eingreifen muss.

Ein “Social Bot” ist speziell darauf programmiert, sich kommunikativ in sozialen Netzwerken zu beteiligen und auf bestimmte Eingaben automatisch zu reagieren.

Wie funktioniert ein Social Bot?

Wie genau diese automatisierte Kommunikation funktioniert, hängt mit dem jeweiligen Netzwerk oder Anbieter zusammen. Auf Facebook können z.B. sogenannte Chatbots eingesetzt werden. Diese interagieren und kommunizieren direkt mit den Nutzer/-innen in einem Chat. Dabei geben sie zum Beispiel Auskunft über Wetter und Börsendaten oder informieren zu Bestellvorgängen und dem aktuellen Lieferstatus einer Sendung.

Beim Microblogging-Dienst X agieren Social Bots aus eigenen Profilen heraus, bei denen oftmals nicht ersichtlich ist, ob es sich um reale Nutzer/-innen oder um programmierte Roboter handelt. Diese Bots sind in der Regel auf bestimmte Schlüsselwörter oder sogenannte Hashtags programmiert, auf die sie dann wiederum mit vorgefertigten Informationen reagieren.

Je nach Programm können die Bots in unterschiedlichen Komplexitätsstufen agieren: Die einfachsten retweeten oder favorisieren Nachrichten mit bestimmten Hashtags. Das sorgt für eine größere Verbreitung und erhöht die Aufmerksamkeit auf einen Beitrag. Bei komplexeren Bots erstellt ein Algorithmus selbst eigene Beiträge, teilweise gezielt mit geplanten Pausen und Tippfehlern, um menschlich zu wirken.

Trolle 2.0: Eine Gefahr für die Demokratie?

Viele Expert/-innen sehen den Einsatz von Social Bots insbesondere bei der öffentlichen Meinungsbildung sehr kritisch. Immer mehr Menschen informieren sich online über Nachrichten und das politische Geschehen. Soziale Netzwerke spielen dabei sowohl als Informationsquelle als auch als Ort der Meinungsbildung eine immer bedeutendere Rolle. Deshalb stellt sich die Frage, inwieweit Social Bots dazu beitragen können, Nutzer/-innen durch gezielte Desinformation zu manipulieren und so die öffentliche Meinung zu beeinflussen.

In sozialen Netzwerken wie X und Facebook, aber auch Instagram oder den Leserkommentarbereichen von Onlinemedien sind die automatisierten Beiträge kaum von solchen, die von Menschen verfasst wurden, zu unterscheiden. Bei entsprechender Anzahl von Social Bots kann beispielsweise bei einer politischen Diskussion im Netz der Eindruck erweckt werden, dass eine bestimmte Haltung oder Position weit verbreitet oder sogar vorherrschend ist. Für die Initiator/-innen der Bots geht es dabei in erster Linie darum, Präsenz zu zeigen, Debatten an sich zu reißen und manchmal sogar einzuschüchtern. Diskussionen im Netz könnten so entscheidend beeinflusst werden.

Einige Politiker/-innen äußern daher auch die Befürchtung, dass Social Bots im Wahlkampf sogar Wahlentscheidungen maßgeblich beeinflussen könnten. Im Vorfeld der Brexit-Entscheidung und im US-Präsidentschaftswahlkampf 2016 haben Experten mehrfach auf den massenweisen Einsatz von Bots hingewiesen. Laut einer Analyse zum Wahlkampf wurden zeitweise 19% der Pro-Trump- oder Pro-Clinton-Botschaften von Social Bots verbreitet. Für den Bundestagswahlkampf 2017 hatten sich daher die im Bundestag vertretenen Parteien dafür ausgesprochen, auf den Einsatz von verdeckten Social Bots zu verzichten.

KI und Deepfakes

Zusätzlich befindet sich die KI (Künstliche Intelligenz) auf dem Vormarsch. Mittels KI können Stimmen, Fotos oder Videos generiert werden, die denen von echten Menschen zum Verwechseln ähnlich sind. Auch kann die KI genutzt werden, um Personen des öffentlichen Interesses oder normale Bürger/-innen nachzuahmen und damit z. B. Videos mit Äußerungen zu generieren, die nicht von der Person selbst kommen, sondern zur Manipulation der öffentlichen Meinung eingesetzt werden können. Diese Videos werden als Deepfake bezeichnet.

Mensch oder Maschine: Wie erkennt man den Unterschied?

Einem Beitrag sieht man auf den ersten Blick nicht unbedingt an, ob er aus der Feder eines Menschen, dem Algorithmus eines Bots oder der KI entspringt. Es gibt allerdings eine Reihe von möglichen Indizien, die helfen können, einen Social Bot oder Deepfakes zu entlarven:

Es etablieren sich zudem immer mehr Akteur/-innen im Netz, die sich bemühen, Social Bots zu entlarven und darüber zu informieren. Das Projekt Botswatch, seit Mai 2021 unter dem Namen Twincler agierend, will zum Beispiel für den Umgang mit Social Bots sensibilisieren und so für mehr Transparenz im Netz sorgen. Twincler definiert dabei einen Account als Bot, wenn mindestens 50 Tweets pro Tag veröffentlicht werden. Wenn darüber hinaus

Der Freistaat Bayern stellt Ihnen auf dieser Website unabhängige, wissenschaftsbasierte Informationen zum Verbraucherschutz zur Verfügung.
Einzelfallbezogene Rechtsauskünfte und persönliche Beratung können wir leider nicht anbieten. Auch dürfen wir Firmen, die sich wettbewerbswidrig verhalten, nicht selbst abmahnen.
Sollten noch Fragen zu Ihrem konkreten Sachverhalt verbleiben, wenden Sie sich bitte an die unter Service genannten Anlaufstellen.