In den USA wird ein bundesweites TikTok-Verbot verhandelt - wegen Spionagebedenken. Eine andere Gefahr erscheint wesentlich akuter: Die Videoplattform ist eine Radikalisierungsmaschine. Sebastian Hofer hat diese schon im vergangenen Sommer erkundet - ein (leider aktueller) Text aus dem Archiv.
Die Geschichte meiner Radikalisierung beginnt an einem Montagvormittag im Frühsommer 2023, Kalenderwoche 26. Es fängt harmlos an. Ich lade die TikTok-App auf mein Smartphone, verifiziere meine E-Mail, gebe mein Geburtsdatum ein. Und schon die erste Lüge: 23. März 2009. Für TikTok bin ich noch einmal 14, erfülle damit knapp die Grundvoraussetzungen (offizielles Mindestalter: 13; nach einer Geburtsurkunde fragt aber niemand). Schnell noch die Datenschutz-Infos weggeklickt, schon startet das erste Video. Eine junge Frau namens
„Alexisshv“ begrüßt mich vom Beifahrersitz eines Autos, darüber steht: „Stehst du auf jüngere?“ Ich weiß nicht ganz, ob das mein 14-jähriges Ich anspricht, aber zum Nachdenken habe ich jetzt leider wirklich nicht den Geist, denn das nächste Video stammt von dem Account „Fesselnde Geschichten“: Eine ziemlich offensichtlich KI-generierte Version eines gewissen „Nando Parrado“ erzählt „meine schreckliche Geschichte“: Herr Parrado musste nach einem Flugzeugabsturz vor lauter Hunger seine Freunde essen. Ein erster Gänsehaut-Moment. Gleich darauf erzählt mir „BossVienna“, wie man anderen Verkehrsteilnehmern in Wien mitteilt, dass die Ampel umgesprungen ist: „NAJO GRÜNER WIRDS NIMMA!!“ Schließlich kommentiert „KÖNIGdesKLOPAPIERS“ (tatsächlich ein Basler Selfmade-Millionär namens Beat Mörker) ein Video der Musikerin und Influencerin „Militante Veganerin“: „Meine Liebe, weißt du eigentlich, was der Unterschied ist zwischen dir und mir? Du träumst, wie du nachts mit den Rindern auf der Weide rumspringst, und ich träume nachts von einem perfekten Rindsfilet.“ 231.000 Menschen haben Herrn Mörker für diese brillante Analyse schon ein Like-Herzchen gespendet.
Die Kurzvideoplattform TikTok wird von dem chinesischen Konzern ByteDance betrieben und ist in 155 Ländern verfügbar. Mehr als eine Milliarde Menschen verwenden sie regelmäßig, 68 Prozent aller österreichischen Jugendlichen zwischen 11 und 17 Jahren sind laut Jugend-Internet-Monitor 2023 auf der Plattform aktiv, 80 Prozent davon täglich (wobei das in der Covid-Pandemie rasante Wachstum zuletzt stagnierte). Die Hamburger „Zeit“ zitierte eine Studie, derzufolge deutsche Teenager täglich 95 Minuten auf TikTok verbringen. Längst dient die Videoplattform in dieser Altersgruppe nicht nur als reines Zeitvertreibsmedium, sondern als Lexikon und Suchmaschine. Das könnte ein Problem darstellen, sollte sich TikTok nicht als seriöse Quelle erweisen. Das herauszufinden, ist ein Vorsatz dieses Experiments: Ich schaue mir, möglichst neutral und ohne bewusste Eingriffe, Video für Video an, wische nur allzu offensichtliche Werbeeinschaltungen weiter – und schaue, wohin mich TikTok führt.
Die ersten Minuten
Im fünften Clip gibt es endlich etwas zu lernen: Ein eindeutig KI-generierter, möglicherweise buddhistischer Mönch erklärt mir im Kanal „MotivationInDir“ die „sechs wichtigen Prinzipien im Leben“: „1. Gehe niemals zurück zu einer Person, die dich betrogen hat. 2. Wenn du einer Person die Hand gibst, stehe auf dafür. 3. Gebe dein Geld nicht aus, um andere Menschen zu beeindrucken. 4. Wenn du nicht eingeladen bist, frage nicht, ob du kommen darfst. 5. Ziehe dich immer ordentlich an, egal zu welchem Anlass. 6. Bettle nicht um eine Beziehung. Wenn jemand gehen möchte, lass ihn gehen.“ Nächstes Video: Zwei junge Burschen mit starkem Slang spielen in einem Sketch nach, wie das ist, „wenn zwei Polen in deine Klasse kommen“: Sie nehmen sich fest vor, nichts zu klauen, sondern etwas zu lernen – und klauen gleich einmal einen Stift. 2,9 Millionen Views, 403.000 Herzen. Nächster Clip, wieder ein Sketch, es geht ums „Autofahren im Jahr 2039“: Man muss „als Bürger dritter Klasse“ bei einem ziemlich tuntigen Hippie-Telefonisten darum betteln, ein bisschen weiter als die monatlich rationierten 100 Kilometer fahren zu dürfen. „Mindsetmotiv“ erklärt mir anschließend, unterlegt mit dramatischem Synthie-Sound und bunten Manga-Standbildern, was „die Psychologie sagt“: „Die Psychologie sagt: Wenn du jemanden unsicher fühlen lassen möchtest, dann starre auf seine Schuhe. Die Psychologie sagt: Je mehr du einer Person Aufmerksamkeit gibst, desto mehr distanziert sie sich von dir. Die Psychologie sagt: Du bist das, was du denkst.“
Nach etwa 20 Videos wird es erstmals ein bisschen gewalttätig, ich sehe Spezialeinsatzkräfte der Polizei bei einem Zugriff, dann zeigt mir der Account „Esterreicher“ Bilder von WEGA-Beamten, angeblich bei einem „Mord in Wien-Simmering“.
Eine erste Zwischenbilanz nach wenigen Minuten: TikTok ist weniger lustig als erhofft, tendenziell eher lächerlich, dabei aber nicht besonders radikal. Aber ich stehe ja erst am Anfang, und TikTok kann sich jederzeit ändern, meine „for you page“, also mein individueller Video-Feed, wird laufend an meine mutmaßlichen Interessen angepasst. Dabei zählt jede Sekunde, denn TikTok gestaltet meinen Stream nicht nur nach meinen bewussten Interaktionen – also Herzchen oder Suchanfragen oder Kommentaren – sondern reagiert sehr sensibel darauf, wie lange ich bestimmte Videos verfolge. Im Sinne des Experiments bemühe ich mich um Neutralität. Keine Herzchen für Idioten. Schon nach Kurzem schlittere ich trotzdem in etwas hinein.
Es wird jetzt – nach etwa 20 Videos – nämlich ein bisschen gewalttätig, ich sehe Spezialeinsatzkräfte der Polizei bei einem Zugriff, dann zeigt mir der Account „Esterreicher“ Bilder von WEGA-Beamten, angeblich bei einem „Mord in Wien-Simmering“. Es folgt Motivierendes von „ecom.nooah“ („Was ist der reichste Ort dieser Welt? Das ist der Friedhof. Weil dort die Träume begraben sind.“), danach in schneller Abfolge ein Sketch („Veganer goes Bierzelt“), ein „geheimer Funkspruch“ zwischen einem US-Flugzeugträger und der spanischen Marine, ein Polizeieinsatz in Neukölln („Mach die Hände hoch du Wichser!“) sowie mehrere Videos mit Selbstverteidigungstechniken. Schließlich – kaum eine halbe Stunde auf TikTok – komme ich bei einem Account namens „Afd_is_future“ an. In einem Video rechnet der (ehemalige) AfD-Abgeordnete Robert Farle vor, dass Deutschland nur für 0,000028% des weltweiten CO2-Ausstoßes verantwortlich sei. Sein Fazit: „Für wie blöd halten Sie die Menschen?“
Auch auf Twitter oder YouTube kann man sich prächtig in die seltsamsten Filterblasen hineintheatern lassen; allerdings verfügt TikTok über eine vergleichsweise mächtige Anziehungskraft und einen noch radikalisierungsanfälligeren Algorithmus: TikTok triggert Suchtpotenziale (das nächste Video könnte wirklich super sein, oder das übernächste, okay, einmal noch), und: TikTok-Videos müssen, um erfolgreich sein, ihre Zuschauerinnen und Zuschauer sehr schnell fesseln. Dafür braucht es starke Reize. Emotionen. Aufreger. Radikales Zeug. Mit abwägendem Für und Wider gewinnt in dem Netzwerk niemand einen Blumentopf. Mit drastischer Frauenfeindlichkeit – zum Beispiel – geht schon wesentlich mehr. Der ehemalige Kickboxer Andrew Tate zum Beispiel hat mit einer Radikaldiät aus toxischer Männlichkeit und Frauenhass ein regelrechtes TikTok-Imperium geschaffen. Derzeit wird ihm in Rumänien wegen Menschenhandels und Vergewaltigung der Prozess gemacht. TikTok ist die neue Toxik.
Überlichtschnelle Skalar-Wellen
Inzwischen dürfte sich der Algorithmus auf mich eingespielt haben, es hagelt jetzt Motivations-Coachings, Jagdkommando-Szenen und Tipps für ein erfolgreiches Leben: „Waldi Gi“ erklärt, wie man mit Messerschärfer-Handel auf Amazon steinreich wird („Leben wie ein Rentner mit Mitte 30“); und laut „Janijaeckel“ ist es inzwischen „wissenschaftlich erwiesen“: Du kannst dein Gehirn austricksen, „sodass du harte, unangenehme Arbeit liebst: Immer wenn es hart wird, sagst du dir, geil, jetzt wird’s anstrengend, ich liebe das. Ich trickse mein Gehirn aus.“ TikTok bemüht sich derweil sehr effektiv, mein Gehirn weichzumassieren. Langsam sehe ich auch die Wahrheit hinter dem Schein: Die Pyramiden in Bosnien (man erkennt sie kaum noch, weil sie wie Berge aussehen) sind in Wahrheit Bauwerke einer außerirdischen Zivilisation und Teil eines „kosmischen Internet“, das auf Basis von „überlichtschnellen Skalar-Wellen“ funktioniert (sagt der Kanal „FactFrenzy“). Und der Westen führt Menschenexperimente in der Ukraine durch, während Deutschland weiterhin von den Amerikanern besetzt ist (sagt Wladimir Putin, den der AfD-Influencer Andreas Eich ausführlich zu Wort kommen lässt und sicherheitshalber mit dem Hinweis „Super Rede von Wladimir Putin“ versieht. Das Video wurde schon 1,1 Millionen Mal gesehen). Nach zwei weiteren Motivationscoaches und einem Spezialeinheiten-TikTok begegnet mir, etwas unerwartet, ein alter Bekannter: Der Account „Aber Hallo Österreich“ spielt Jörg Haider im O-Ton ein, es geht, das ist dann wieder eher erwartbar, um Zuwanderer, die sich am österreichischen Sozialstaat vergreifen.
„Alter Bekannter“ ist natürlich eine totale Unterstellung, als 14-Jähriger kenne ich den verstorbenen FPÖ-Chef nicht einmal vom Hörensagen. Nach einer Stunde warnt mich TikTok übrigens automatisch, dass meine Bildschirmzeit begrenzt ist: „Um dein Wohlbefinden zu unterstützen, haben wir deine tägliche Bildschirmzeit auf 1 Stunde festgelegt. Wir sagen dir Bescheid, wenn deine Zeit um ist, damit dir das Abmelden leichter fällt.“ Das Dabeibleiben fällt mir aber noch leichter, weil der Klick auf „Verstanden“ nicht zu Abmeldung führt, sondern zum nächsten Video. Darin erklärt mir ein maskierter „Einsatz Coach“ mit verfremdeter Stimme „Messerangriffe von drei verschiedenen Kämpfertypen“, nämlich: „Der Ghettostecher“, „Der Fechter“, „Der Sniper“. Das ist ein bisschen unheimlich, aber nicht so unheimlich wie das Video von „Markrei93“, hauptamtlich Twitch-Streamer, der mit sich überschlagender Stimme eine Egoshooter-Episode an einem Grenzübergang kommentiert: „Ja, willkommen, hereinspaziert in unsere wunderschene Land!! Wir freuen uns natürlich immer über jegliche Form von illegalen Einfuhren in unser Land!! Wie schauma aus, gibst ma Papiere aa oder muaß i’s da ausm Oasch ziag’n??!!“
„Bitte gut zuhören“
Wo sind eigentlich die lustigen Streiche, die erstaunlichen Trends, die Challenges und Tanzvideos, für die TikTok eigentlich bekannt ist? Wo bin ich falsch abgebogen? Ich sehe inzwischen – obwohl noch ganz frisch auf TikTok – ausnahmslos verbissene Selbstverbesserung, esoterische Weisheit, rechte Propaganda und Business-Bullshit. Richtig viel Vergnügen macht das nicht; man könnte alternativ auch einfach den Spam-Ordner im E-Mail-Eingang durchlesen.
TikTok-Videos müssen, um erfolgreich sein, ihre Zuschauerinnen und Zuschauer sehr schnell fesseln. Dafür braucht es starke Reize. Emotionen. Aufreger. Radikales Zeug. Mit abwägendem Für und Wider gewinnt in dem Netzwerk niemand einen Blumentopf. Mit drastischer Frauenfeindlichkeit – zum Beispiel – geht schon wesentlich mehr.
Allerdings würde man dann vielleicht die TV-Debatte verpassen, in der der Schweizer Publizist und Verschwörungstheoretiker Daniel Ganser mit schelmischem Pokerface eine Linie von der Impfskepsis zum Ukraine-Krieg und weiter zu 9/11 zieht. Auf TikTok gestellt wurde der Clip mit dem Schlagwort „Bitte gut zuhören“ von einer Energetikerin aus St. Gallen, die vor allem im schamanischen Fach tätig ist. Alle hier erwähnten Hintergrundinformationen zu den handelnden Personen sind übrigens nicht TikTok entnommen, sondern Ergebnis späterer Recherchen. Der Kontext, in dem diese Videos stehen, ist auf den ersten Blick nicht zu erkennen, die Quelle kaum je seriös zu verifizieren.
Unternehmenssprecher und PR-Aussendungen von TikTok betonen freilich, dass das Unternehmen sein Möglichstes tue, um Fake News und Hassbotschaften vor allem für Teenager einzudämmen. „Dabei verfolgen wir mehrere Ansätze, um ihre Sicherheit zu gewährleisten, indem wir Inhalte entfernen, die gegen unsere Regeln verstoßen, z. B. Inhalte, die Selbstverletzung oder Essstörungen verherrlichen, Inhalte von der Empfehlung im Für-dich-Feed ausschließen, die nicht für ein breites Publikum geeignet sind, Themen weniger empfehlen, die bei häufigem Anschauen potenziell negative Auswirkungen haben können, und Inhalte mit komplexen oder nur für Erwachsene geeigneten Themen mithilfe unseres Inhaltsebenen-Systems für Jugendliche herausfiltern.“
Diesbezüglich wäre noch einiges zu tun. Denn selbst der bisher eher unauffällige Psycho-Account „MotivationInDir“ macht jetzt einen unerwarteten Schwenk und zeigt mir statt KI-generierter Coaching-Floskeln ein „systemkritisches“ Satire-Programm, in dem Massenarbeitslosigkeit zur planmäßigen Veranstaltung der Regierenden und das Volk zur willenlosen Masse erklärt wird, die mit Alkohol, Fußball und Proletenfernsehen im Glauben belassen wird, es hätte die freie Wahl.
„Nur Allah hatte diese Information“
Gleich danach werden auch die Pyramiden vom Weltall (siehe oben: kosmisches Internet) wieder auf die Beine gestellt, konkret auf den Boden des Islam: „Wusstest du, dass der Koran 1 Rätsel gelöst hat, wozu Wissenschaftler erst vor kurzem in der Lage waren?“, fragt der Account „Bosnier82“. Ehrlich gesagt: Nein. Auflösung: „Vor über 1400 Jahren hat Allah, der Schöpfer der Himmel und der Erden, der einzige wahre anbetungswürdige Gott, im heiligen Koran offenbart, dass der Pharao gebackenen Lehm verwendet hat.“ Und, jetzt kommt’s: „Nur Allah hatte diese Information.“ Auch dieses Video wurde bald eine Million Mal gesehen, überhaupt verbreitet „Bosnier82“ seine Botschaften auf eine sehr TikTok-taugliche Art: mit leicht psychedelischer Ausstrahlung, aber strengem Blick; ein bisschen verschwörungsmythisch, aber mit Selbstverbesserungspotenzial.
Es funktioniert aber auch anders, nämlich komplett unverschleiert, wie das folgende Video von „DieÄraTürkei“ (alias: „ottomanempire1453_“) beweist, ein nicht groß TikTok-isierter Propagandaclip, demzufolge Recep Erdoğan die türkischen Wahlen gegen alle unlauteren Einflussversuche gewonnen habe, weil: „Erdoğan ist unglaublich intelligent. Seine diplomatische Strategie ist einzigartig.“ Ebenso unverstellt, allerdings ziemlich naturschräg, erscheint eine Botschaft von Robert Franz (lila gefärbte Locken, starker Dialekt), der erklärt, welche Naturheilmittel bei Krebs helfen könnten. Vitamin D3 zum Beispiel. Es folgt, endlich, eine gute Nachricht: „Anfang Juli ist der Krieg vorbei“, prophezeit „Mädchen Deyana“, hinter dem ein Schweizer Blogger steht, der hier natürlich vom Ukraine-Krieg spricht: „Der Krieg ist militärisch und wirtschaftlich von Russland gewonnen. Die Amerikaner sind bis aufs Mark erschüttert. Letzten Endes haben die Amerikaner nur noch eine einzige Option. Nämlich: einen Atomkrieg anzufangen.“
Es folgt eine Sequenz wie aus einer querdenkenden Telegram-Gruppe: Wladimir Putin, Gerald Grosz und Sahra Wagenknecht erklären mir en suite die Mechaniken der Weltpolitik, und unweigerlich muss ich zurückdenken an den schönen, bunten Anfang meines Experiments. Erst ein paar Stunden ist es her, als mir dieser buddhistische KI-Mönch seine sechs wichtigen Lebensprinzipien vermittelt hat: Bettle nicht um eine Beziehung. Wenn jemand gehen möchte, lass ihn gehen.
In diesem Sinne: Sorry, TikTok, aber es liegt nicht an mir. Es liegt an dir.
