Warum künstliche Intelligenz Social Media nicht klüger macht

Wirft man einen Blick auf die Trends der Kurzvideoplattformen scheint aktuell die Renaissance der Wikinger stattzufinden: User besingen in einer der Plattformnischen mit voller Inbrunst die Geschichte von “Draugr” und “Brunhilda”, die innerhalb eines viralen Liedes auch als “Viking Hiphop Queens and Kings” bezeichnet werden. Die veröffentlichte Audio ist ein medialer Hit, 67.000 Videos wurden mit einem Schnipsel des Songs “North Wind Calls” bereits auf TikTok veröffentlicht. Was jedoch vielen Accounts nicht bewusst ist: hier handelt es sich vollumfänglich um Künstliche Intelligenz.

Sowohl der Song als auch das Video zu dem Sound sind komplett digital generiert, auch das Konto des Interpreten zeigt trotz Portraitfoto keine natürliche Person. Das hält den Hype rund um die Audio allerdings nicht auf! Die Beliebtheit zeigt sich auch auf anderen Plattformen, so verzeichnet der gleichnamige Künstler “Draugr” auf der Musikstreamingplattform Spotify mittlerweile 350.000 monatliche Fans, ohne selbst jemals gesungen zu haben. Auch auf TikTok ist der Andrang groß, hier folgen dem KI-Kanal mehr als 177.000 Accounts.

Das überrascht, denn sowohl TikTok als auch Spotify stellen sich grundsätzlich gegen den ungekennzeichneten Einsatz und die massenhafte Distribution von KI-Inhalten auf den eigenen Diensten. Mit der allgemein-verfügbaren Nutzung von Anwendungen wie ChatGPT, Claude oder Gemini wird dies jedoch zur Sisyphusarbeit, 1,3 Milliarden Videos wurden bis 2025 auf TikTok als künstliche Werke identifiziert und gelabelt. Innerhalb eines Jahres werden auf Spotify rund 75 Millionen KI-Tracks von der Plattform gelöscht.

Was anfänglich als Stilmittel in Einzelumsetzungen begann, hat sich mittlerweile zu einer breiten Kommunikationsform entwickelt. Digital generierte Inhalte können durch ein automatisiertes Setup im Sekundentakt für Zielplattformen konfektioniert und veröffentlicht werden. In der Konsequenz dominieren immer mehr künstliche Einflüsse das Trendgeschehen der Kurzvideoplattformen maßgeblich. Einen kontinuierlichen Überblick über inhaltliche Plattformbewegungen gibt der Trendticker von DWDL:

© DWDL

Die Gründe für die Beliebtheit sind vielfältig: Die Verfügbarkeit und Individualisierung sind ein großer Vorteil für den eigenen Content. Aber auch die rechtliche Lage spielt aktuell zugunsten der User. Denn während kommerzielle Sounds für die meisten öffentlichen Profile eigentlich tabu sind und immer wieder zu heiklen Abmahnwellen führen, stellen die KI-Songs für private Konten bisher keine rechtliche Gefahr dar – obwohl sie zu Teilen aus geschützten Daten bestehen.

Aufgrund des hohen Anklangs wird die Ausspielung durch Verantwortliche reguliert: TikTok nutzt beispielsweise die “C2PA Content Credentials”, um den Einsatz in Metadaten automatisiert zu erkennen. Die Analyse der Ausspielung und Erfahrungen in der Praxis zeigen aber: Nicht nur die Markierung von vielzähligen KI-Inhalten ist fehlerhaft, auch User schwächeln mit der Materie. Unter dem Sound von “North Wind Calls” befinden sich tausende Veröffentlichungen, die nichtsahnend den KI-Clip verwenden, imitieren und verbreiten – ohne, dass diese Zweitdistribution akkurat gekennzeichnet wird.

© TikTok

“Ich liebe deine Stimme” schreibt @MichelleTretreault unter das Video eines Users, der zu dem viralen Wikinger-Sound die Lippen bewegt. Auch Nutzerin @arlyeixa kommentierte den Beitrag mit “nice voice”. Reaktionen wie diese häufen sich. Dagegen stellen sich vielfach Accounts, die auf die Verwendung von Künstlicher Intelligenz hinweisen wollen. So auch TikTokerin Fiona, sie schreibt: “Das ist KI, also nicht mal echt”. Auf Basis des Nutzungsverhaltens wird jedoch klar: Nicht nur die Social-Media-Plattformen, auch ein Großteil der User tut sich schwer, KI-Inhalte richtig zu erkennen.

© TikTok

Parallel steht dem ein breites Publikum entgegen, das die Nutzung kaum zu tolerieren scheint. Die Abneigung gegen KI-Videos und -Sounds auf den Kurzvideoplattformen (basierend auf der Kommentarflut) ist immens, die rechtliche Lage fragil. Viele User plädieren für einen stärker reflektierten Umgang mit generativen Kreationen. Die Erfahrung auf den Kurzvideoplattformen zeigt allerdings, dass die Grundhaltung bei Fans der Technologie eher zur Gleichgültigkeit tendiert.

Die fortschreitende Professionalisierung und Popularisierung von KI-Inhalten erschwert die Identifizierung auf Seiten des Publikums (und erfordert ein fortgeschrittenes Maß an Medienkompetenz). So können Anzeichen für künstlich generierte Sounds auf Social Media erkannt werden: 

• Den Urheber und die Kennzeichnung checken

  (Woher kommt der Sound und wer kann logisch gesehen die originale Stimme sein?)

• Stimme des Sounds prüfen

  (Stimmt die Betonung? Passt die Atmung zum Text? Bestehen sogenannte “Artefakte”, das sind hörbare oder messbare Fehler, Unsauberkeiten oder künstliche Nebeneffekte, die durch das Verwenden von KI-Modellen entstehen.)

• Verwendete Texte und Melodien checken

  (Gibt es inhaltliche Unstimmigkeiten? So ergibt beispielsweise die Songzeile des aktuellen Trendsounds “Viking Hiphop Queens and Kings” im Zusammenhang wenig Sinn. Oftmals werden auch bekannte Harmonien zweitverwendet und nur minimal abgewandelt.)

• Weiterführende technische Untersuchungen

  (Bei genauer Betrachtung kann die Tonkomposition mit zu glatten Frequenzräumen identifiziert werden oder es sind fehlende Mikrovariationen festzustellen.)

Die Folgen der Verwendung und des Konsums von KI-Inhalten wird seit der Einführung und Distribution als Gefahr für die Künste diskutiert und für den hohen Ressourcenverbrauch getadelt. Mit der Beobachtung der Nutzung auf sozialen Netzwerken wird klar: die Verwendung von Künstlicher Intelligenz als technischer Katalysator von sozialen Plattformen entfesselt eine verstärkte Fragmentierung des medialen Raums – nun auch auf inhaltlicher Ebene.  

Die resultierenden Lager - für und gegen die generative Technologie - befeuern medial den Diskurs kontinuierlich. Die einen durch eine gleichgültige Verwendung, die anderen durch konstante Kommentare unter entsprechenden Videos. Damit gehen die (für Plattformen relevanten) Interaktionen allerdings immer auf das Konto der produktiven Technik-Sympathisanten.