Akutes Kommentar-Dilemma: Plötzlich Nacktbilder bei TikTok

TikTok ist im Wandel. Die Kurzvideoplattform wurde zur Suchmaschine, führte längere Videoformate ein und will nun auch im linearen Wettbewerb mitmischen. So viel Veränderung sorgt auch für Wachstumsschmerzen. Dass dabei nicht alle Applikationsfunktionen die Entwicklung reibungslos mitmachen, ist vorprogrammiert. Fraglich bleibt, wie groß der Spielraum für potenziellen Schaden sein darf. Denn: TikTok hat sich in der Vergangenheit schon einiges geleistet. 

Glaubt man den Suchvorschlägen auf der Plattform, sind bekannte Persönlichkeiten wie Paluten, Checker Can oder Lionel Messi entgegen der Wahrheit bereits verstorben. Vor allem die Schlagersängerin Kerstin Ott trifft es in regelmäßigen Zeiträumen immer wieder. Es ist keine Seltenheit, dass Prominenten über die integrierte Suche eine neue sexuelle Orientierung oder Schwangerschaft angedichtet wird. Besonders Vermisstenfälle sind prekär: Durch Überschriften mit Verweise auf "gefunden" oder "aufgetaucht" werden in zahlreichen Beispielen Falschinformationen gestreut. 

Fragwürdige Aktivitäten beschränken sich jedoch nicht nur auf die Suche, auch die Livestream-Funktion bescherte der Kurzvideoplattform Bauchschmerzen. Mit der Einführung der Vollbildanzeige häufte sich die Ausspielung bekannter Kinofilme und Serien – ohne dass dafür die entsprechenden Rechte vorlagen. Einen kompletten Teil von "Harry Potter" oder eine kurze Folge "Modern Family" anschauen? Kein Problem. Bildabgleich sowie Copyrightcheck der Applikation konnten durch die schnelle Veränderung der Oberfläche umgangen werden, der Algorithmus spielte anschließend das zugrundeliegende Videomaterial ohne Restriktion an alle Konten aus. 

© TikTok "Deadpool" oder "Mufasa" anschauen? Bei TikTok offenbar kein Problem.

Vor allem das Kommentarfeld ist von dem Moderationsproblem betroffen: In der Vergangenheit haben User verschiedene Strategien entwickelt, wie sie bestehende Wortfilter auf der Plattform umgehen. Klassischerweise wird für die Verfremdung Leetspeak eingesetzt, sprich der Austausch von Buchstaben mit ähnlichen Zahlen, um konkrete Blockaden zu ignorieren. Auf TikTok reichte hingegen der Zusatz "Brücke" aus, um Beiträge ohne Einschränkungen zu veröffentlichen. Denn: Das Wort war augenscheinlich Teil einer sogenannten Whitelist, die Kommentare mit diesem Inhalt ohne Prüfung veröffentlichte. Der Trick wurde schamlos ausgenutzt, um so Beleidigungen ungehindert und zielgerichtet zu platzieren. 

Zum Monatswechsel erweiterte TikTok den Kommentarbereich um eine neue Funktion: Fotos. (DWDL.de berichtete) Dadurch wurde die Möglichkeit geschaffen, mit internettypischen Reaktionsbildern oder eigenen Schnappschüssen zu kommunizieren. 

Letzteres sorgt, wie die Recherche von DWDL.de zeigt, stattdessen nun für einen neuen Eklat: Binnen weniger Tage haben User einen Weg gefunden, pornografische Inhalte innerhalb der Kommentarspalte zu veröffentlichen oder dort auf die eigene Story mit expliziten Inhalten hinzuweisen. Teil des Problems ist ebenfalls der daraus entstehende Trend "I’m a visual learner", welche die grenzüberschreitenden Inhalte mittels einer einfachen Suche gesammelt wiedergibt. 

(Nach einer Presseanfrage von DWDL.de war das Video zwischenzeitlich nicht abrufbar.)

TikTok reagiert. Innerhalb kurzer Zeit wird der Suchvorschlag deaktiviert und mit einer Warnung versehen. Allerdings hat die Community bereits aus den vorangehenden Fehltritten gelernt und Alternativen wie die zuvor angesprochene Leetspeak gefunden, mit denen Nacktbilder weiterhin distribuiert werden können. Entsprechend liefert eine leichte Modifikation der Suche die gleichen Ergebnisse. 

© TikTok Grenzüberschreitende Inhalte sind mit einer einfachen Suche zu finden.

Wer stellt die problematischen Ausschnitte online? Wirft man einen Blick auf die Art der Accounts, wird schnell ein Muster sichtbar: Es handelt sich fast ausschließlich um Konten ohne Profilbild und wenig bis keine Follower. Die niedrigschwellige Hürde, um auf dem Social-Media-Dienst einen neuen Kanal zu erstellen, wird dem Medium zum Verhängnis und begünstigt die einfache Reproduktion der Trendlawine. 

Und was sagt TikTok? Wenig. Auf konkrete Anfrage zu den jüngsten Beobachtungen reagiert die Plattform mit allgemeinen Antworten. "TikTok verfügt über strenge Richtlinien gegen Nacktheit, sexuell eindeutige Inhalte und das Anbieten oder Fordern sexueller Handlungen", erklärte eine Sprecherin gegenüber DWDL.de und verwies unter anderem darauf, 98 Prozent der Inhalte zu entfernen, "die gegen unsere Richtlinien zu sensiblen und nicht jugendfreien Themen verstoßen, bevor diese uns gemeldet werden".

Allerdings handelt es sich hier um Beiträge, die sehr wohl ihren Weg auf die Bildschirme gefunden haben. Augenscheinlich wird ein reproduzierbarer Mechanismus genutzt, bei dem kleinere Bildbereiche der verwendeten Fotos nicht von der automatischen Sicherung aussortiert werden, ähnlich wie die vorherige Verbreitung der illegalen Livestreams. Es bleibt eine Frage der Zeit, bis TikTok aus alten Fehlern lernt, um neue Probleme verhindern zu können und sichere Inhalte für die Community bereitzustellen.