RTL experimentiert mit KI – und lässt den Hinweis darauf weg

Der Einsatz von Künstlicher Intelligenz (KI) in der Produktion von TV-Formaten ist längst Alltag. Das, was RTL in dieser Woche auf dem Sendeplatz zwischen 15:55 und 17 Uhr testet, geht aber weit darüber hinaus. Hier wird KI nicht nur für einfache Aufgaben in der Postproduktion genutzt oder um on Air Hintergründe auszutauschen. Fünf alte Folgen von "Ulrich Wetzel - Das Strafgericht" hat RTL zusammen mit Constantin Entertainment so mit einer KI bearbeitet, dass daraus völlig neue Geschichten werden. 

Aus technologischer Sicht ist das interessant. Sowohl im Original als auch in der KI-Fassung liest Staatsanwältin Funda Bıçakoğlu die Anklage vor, sagt dabei aber völlig unterschiedliche Dinge. Wenn RTL also ankündigt, dass bei der Überarbeitung unter anderem Verfahren für Bildbearbeitung, Sprachsynthese und Lipsync-Anpassungen zur Anwendung kamen, ist damit auch diese Szene gemeint. 

Aber es geht noch weiter: Mithilfe der KI sind Figuren, Handlungsverläufe und auch Urteile auf Basis der produzierten Folgen neu entwickelt worden. So entstehen völlig neue Folgen, in denen am Ende teils auch ganz andere Urteile gesprochen werden. Und mehr noch: Aus einem Mutter-Sohn-Verhältnis wird in einem Fall ein Geschwisterverhältnis, in einer anderen Folge wird zudem das Geschlecht der Hauptfigur verändert. 

Es ist ein Paradigmenwechsel im deutschen Fernsehen, wobei längst nicht alle Fragen beantwortet sind. So bleibt etwa unklar, wie groß der menschliche kreative Anteil an den neuen Geschichten war. Wer hat beispielsweise entschieden, dass aus Mutter und Sohn plötzlich Geschwister werden? Und wer, dass die Urteile teils gänzlich anders ausfallen? Aber nicht alles ist KI: Ein völlig neuer Angeklagter ist kein fiktiver Avatar, sondern ein Schauspieler, der mithilfe von KI in das bestehende Setting integriert wurde. 

© RTL/Constantin Entertainment Der Schauspieler in der KI-Fassung ist echt, wurde aber mithilfe von Künstlicher Intelligenz in das bestehende Setting gebracht.

Blickt man auf die einzelnen Folgen, ist das Ergebnis ziemlich durchwachsen. Einige Wörter wirken durch die KI wie genuschelt, an anderen Stellen sind die Lippenbewegungen mit dem Gesagten der Figuren nicht synchron und die Interaktion zwischen den Figuren wirkt hölzern. Das ist eigentlich überraschend: Beim Experiment ist das Anwendungsfeld überschaubar, es geht um lediglich fünf Folgen des "Strafgerichts" - und in Köln weiß man, dass die gesamte Branche auf den Test schaut. Dass das Ergebnis qualitativ trotzdem noch an der ein oder anderen Stelle zu wünschen übrig lässt, lässt den Schluss zu, dass es mit der vorhandenen bzw. genutzten Technik nicht besser ging.

Neben der tatsächlichen inhaltlichen Umsetzung war auch spannend, wie RTL die Kennzeichnungspflicht lösen wird. Hier ist vor allem die relativ neue KI-Verordnung der EU interessant, die eine Kennzeichnung von KI-Inhalten verpflichtend macht. Für kreative und fiktionale Werke sieht die Verordnung zwar explizit Ausnahmen vor, diese gelten aber nicht grundsätzlich. So muss bei entsprechenden Produktionen keine durchgängige Offenlegung erfolgen, damit will man unter anderem verhindern, dass in Kinofilmen oder TV-Serien durchgängig ein Hinweis wie zum Beispiel "KI-unterstützt" eingeblendet werden muss. Stattdessen ist festgehalten, dass der KI-Einsatz "in geeigneter Weise" offenzulegen sei. 

Fehlende Kennzeichnung im Programm

Hier hat man bei RTL eine interessante und durchaus diskussionswürdige Strategie gewählt. Während es bei RTL+ am Ende der Folgen einen kurzen Hinweis im Abspann ("Teile der Inhalte wurden unter Einsatz von Künstlicher Intelligenz erstellt.") gibt, verzichtet man im linearen Programm völlig auf eine Kenntlichmachung. Auch das ist überraschend. Die EU-Verordnung ist an dieser Stelle eigentlich ziemlich klar und wieso sollte für die Folgen im TV-Programm etwas anderes gelten als online bei RTL+? 

Darüber hinaus geht RTL bislang selbst sehr offen mit dem Thema und dem Experiment um. Schon im Frühjahr hatte man eine KI-Offensive angekündigt und dabei auch eine Überarbeitung der "Strafgericht"-Folgen angekündigt. Jetzt hat man die Veröffentlichung mit einer Pressemitteilung und weiterem Anschauungs- und Vergleichsmaterial für Journalistinnen und Journalisten begleitet. Es wäre für den Sender einfach gewesen, im linearen Programm einen kurzen KI-Hinweis einzufügen. Schon jetzt ist im Abspann unter anderem zu lesen, dass alle Figuren frei erfunden sind. 

Ein RTL-Sprecher betont gegenüber DWDL.de zunächst die grundsätzliche Wichtigkeit von einem "verantwortungsvollen und transparenten Einsatz von KI". Weil die KI-Verordnung der EU jedoch ausdrücklich dem besonderen Charakter von fiktionalen Werken Rechnung trage, verzichte man hier auf eine Kennzeichnung unmittelbar im laufenden Programm und setze auf eine "formatgerechte Transparenz über den Einsatz von KI". Entscheidend sei auch, so der RTL-Sprecher weiter, ob beim Publikum überhaupt der Eindruck entstehen könne, "KI-generierte oder -bearbeitete Inhalte seien authentische oder wahrheitsgetreue Aufnahmen".  

Kennzeichnung wäre für NLM "folgerichtig"

Inwieweit man von einer "formatgerechten Transparenz" sprechen kann, wenn im linearen Programm überhaupt keine Kenntlichmachung erfolgt, erschließt sich nicht. Weder dem Publikum, noch außenstehenden Beobachtern, noch der Medienaufsicht. Die für das lineare RTL-Programm zuständige Niedersächsische Landesmedienanstalt (NLM) verweist gegenüber DWDL.de konkret auf Artikel 50 Absatz 4 der KI-Verordnung der EU. 

Auf Basis dieser Beschreibung teilt die NLM mit: "Aus Sicht der NLM wäre nach dieser Definition eine Kennzeichnung im TV-Programm folgerichtig". Generell sei eine Kennzeichnung "in geeigneter Weise" auch schon jetzt erforderlich, da die Verpflichtung gilt, die Verordnung einzuhalten. Unklar bleibt zunächst, was aus der Einschätzung der NLM folgt. Wieso RTL bei einem so wichtigen Experiment, auf das die gesamte Branche blickt, völlig ohne Not eine derart offene Flanke lässt, wissen sie nur in Köln. Der eigenen Glaubwürdigkeit tut man damit jedenfalls keinen Gefallen. 

Beginn einer neuen Epoche?

DWDL.de hat RTL über die Kennzeichnung der KI-Nutzung hinaus mehrere Fragen zum Experiment zukommen lassen, wobei ein Sendersprecher nur in einigen Fällen konkret geantwortet hat. Stattdessen gibt es ein allgemeines Statement, in dem sich der Sender betont zurückhaltend äußert. "Wir sind überzeugt, dass Künstliche Intelligenz für die Unterhaltungsbranche eine neue Epoche kreativer Möglichkeiten eröffnen kann, wenn sie verantwortungsvoll eingesetzt wird. Gerade deshalb sind frühe und mutige Praxistests wie dieser für uns wichtig, um echte Erfahrungen zu sammeln und die Technologie in einem klar definierten, redaktionell verantworteten Rahmen zu erproben", erklärt der RTL-Sprecher, der von einer bewussten "Pilot- und Lernphase" spricht.  

Ziel des Projekt sei es, unter realen Produktionsbedingungen Erfahrungen mit generativer KI zu sammeln und besser zu verstehen, "welche kreativen Möglichkeiten und welche Grenzen und Herausforderungen die Technologie heute mit sich bringt". Man könne sich "sehr gut vorstellen, weitere Innovationsprojekte dieser Art zu testen". In einer Pressemitteilung zum KI-Experiment hatte RTL zuvor erklärt, die ersten Ergebnisse seien vielversprechend und würden sichtbar machen, "an welchen Stellen Prozesse und Technologie weiter verbessert werden müssen". Auf Nachfrage will man aktuell nicht näher darauf eingehen, die bereits beschriebenen KI-Slops sind aber offensichtlich.

RTL äußert sich zu den KI-Folgen von "Ulrich Wetzel - Das Strafgericht" bewusst zurückhaltend und will den Eindruck vermeiden, dass man hier bereits ein neues Produktionsmodell für die Zukunft gefunden hat. "Der aktuelle Case ist daher in erster Linie ein Praxistest und kein Vorgriff auf ein fest definiertes zukünftiges Produktionsmodell", erklärt ein Sendersprecher gegenüber DWDL.de. Das ist durchaus verständlich: Zum einen sind die Erfahrungswerte bei dem Thema in der Tiefe bislang tatsächlich überschaubar - und dann will man keine Meuterei verursachen. 

Bemerkenswerte Zurückhaltung bei RTL

Wie heikel der Einsatz von KI ist, wissen alle in der Branche. Netflix streitet mit Synchronsprecherinnen und Synchronsprecher schon seit Monaten darüber, ob diese ihre Stimmen der KI zu Trainingszwecken zur Verfügung stellen sollten (DWDL.de berichtete). RTL geht jetzt sogar noch mehrere Schritte darüber hinaus, betont allerdings, zumindest in diesem Fall alle Rechte mit den betroffenen Personen abgeklärt zu haben. Was das genau bedeutet, ob beispielsweise Personen wie Staatsanwältin Funda Bıçakoğlu zusätzlich vergütet wurden, will RTL nicht sagen. 

"Unser Fokus liegt darauf, transparent und verantwortungsvoll Erfahrungen mit der Technologie zu sammeln und gemeinsam mit unseren Produktionspartnern aus diesem ersten Praxiseinsatz zu lernen. Welche konkreten Anwendungsfelder sich dabei langfristig etablieren, werden die Erkenntnisse aus genau solchen Pilotprojekten zeigen", erklärt ein Sendersprecher. Fragen zu künftigen Rollenbildern, möglichen Auswirkungen auf Produktionsprozesse oder langfristigen Geschäfts- und Vergütungsmodellen würden sich erst "auf Grundlage konkreter Erfahrungen aus solchen Pilotprojekten belastbar beantworten lassen", heißt es aus Köln.

Aus finanzieller Sicht dürften die KI-Folgen des "Strafgerichts" jetzt noch kein großer Erfolg gewesen sein. Das dürfte einerseits mit der geringen Anzahl zusammenhängen, aber auch damit, dass der Aufwand noch ziemlich hoch gewesen sein dürfte. Nicht umsonst betont man, dass sämtliche Inhalte "redaktionell verantwortet, geprüft und qualitätsgesichert" worden seien. 

Die Vorteile der KI-Folgen liegen auf der Hand: Wenn RTL sämtliche Folgen seiner Scripted-Formate aus dem Archiv kramt und mithilfe von KI so bearbeitet, dass daraus "neue Folgen" entstehen, wäre das langfristig wohl günstiger, als komplett neue Folgen zu produzieren. Das ist im Sinne des Senders, aber ist es auch im Sinne von Produktionsfirma, Schauspielerinnen und Schauspielern und allen anderen an der Produktion Beteiligten? 

Sind es wirklich "neue" Folgen? 

Und was sagt eigentlich das Publikum dazu? Es kommt nicht von ungefähr, dass RTL den KI-Test ausgerechnet mit "Das Strafgericht" durchführt. Hier kann mit relativ wenigen Handgriffen eine große Veränderung in der Geschichte herbeigeführt werden. Es entsteht eine Folge, angesiedelt irgendwo zwischen neu und Wiederholung. Wenn diese KI-Folgen dann möglicherweise mehr Publikum haben als klassische Wiederholungen, könnte sich das auf lange Sicht lohnen. Aktuell bewirbt RTL die Folgen im Programm bereits als "neu", obwohl das ja nur teilweise stimmt.

Perspektivisch ergeben sich durch die KI völlig neue Möglichkeiten, die RTL im Rahmen des laufenden Experiments austesten will. Für den Moment sind die Themen, mit denen man sich in Köln beschäftigen muss, profaner: Es geht um die korrekte Kennzeichnung, Synchronität und darum, wie authentisch tatsächlich mit KI produziert werden kann. Noch ist das Ergebnis nicht überzeugend. Das kann sich ändern - und genau dafür soll das Experiment ja auch da sein. 

Für die Zukunft muss man klären, wo Grenzen liegen - technologische, aber auch redaktionelle und ethische. Wären zum Beispiel komplett KI-generierte Figuren und durch KI umgesetzte sensible Handlungen denkbar? Möglicherweise auch mit den Gesichtern realer Schauspielerinnen und Schauspieler? Welche Rechte wären dafür zu klären? Und was macht das mit der Branche - und dem Publikum?