Ulrich Wetzel - Das Strafgericht © RTL / Stefan Gregorowius
Vor zwei Wochen hat RTL fünf besondere Folgen der Richtershow "Ulrich Wetzel - Das Strafgericht" im Nachmittagsprogramm gezeigt. Constantin Entertainment und RTL hatten bestehende Folgen mithilfe von Künstlicher Intelligenz (KI) so verändert, dass dadurch völlig neue Geschichten entstanden (mehr dazu lesen Sie hier). Das Experiment beschäftigt die Branche noch immer - aber nicht wegen des durchwachsenen Ergebnisses, sondern wegen der fehlenden KI-Kennzeichnung. 

Dazu muss man Folgendes wissen: Seit August gilt eine KI-Verordnung der EU. Diese sieht weitgehende Kennzeichnungspflichten bei Inhalten vor, die mithilfe von KI erstellt wurden. Für fiktionale und kreative Programme gibt es Ausnahmen, die Offenlegung muss aber auch hier "in geeigneter Weise" erfolgen. Nun hat RTL den KI-Einsatz im "Strafgericht" bei RTL+ im Abspann kurz erwähnt, im linearen Programm jedoch nicht. Wie passt das zusammen? Zunächst hatte man sich in Köln noch um eine konkrete Antwort gedrückt und lediglich auf die erwähnten Ausnahmen in Sachen Kennzeichnungspflicht für fiktionale Werke verwiesen. 

Auf nochmalige Nachfrage von DWDL.de betont ein Sendersprecher jetzt: "Der sorgsame Umgang mit den Transparenzpflichten des AI Act ist uns sehr wichtig. Dabei macht es für uns einen wesentlichen Unterschied, ob wir uns im Nachrichten- und Informationsbereich bewegen oder im fiktionalen Unterhaltungsbereich." Im Journalismus würden die höchsten Ansprüche an Transparenz und Kennzeichnung gelten, im fiktionalen und Scripted-Bereich sei die Ausgangslage jedoch eine andere. "Neue Technologien wurden hier schon immer eingesetzt, ihr Einsatz ist gelernt. In diesem Kontext ist auch zu bewerten, was der AI Act mit einer Kennzeichnung ‘in geeigneter Weise’ meint."

Zur weiteren Umsetzung der KI-Kennzeichnung sei man "mit Branche und Aufsicht im Austausch, um für dieses neue, weltweit relevante Themenfeld praktikable und einheitliche Lösungen zu finden", heißt es aus Köln. Bei RTL scheint man also der Ansicht zu sein, dass der Kennzeichnungspflicht ("in geeigneter Weise") durch den Hinweis im Abspann bei RTL+ Genüge getan wurde. Das sieht die für das lineare RTL-Programm zuständige Landesmedienanstalt jedoch anders. 

Medienanstalten formal noch nicht zuständig?

Schon vor eineinhalb Wochen hatte DWDL.de berichtet, dass die Niedersächsische Landesmedienanstalt (NLM) in der Sache eine andere Haltung einnimmt. "Aus Sicht der NLM wäre nach dieser Definition eine Kennzeichnung im TV-Programm folgerichtig", teilte die Medienanstalt unter Verweis auf die KI-Verordnung der EU damals mit. Unklar blieb jedoch, was aus dieser Einschätzung folgt - und nun ist auch klar, wieso. In der Runde der Medienanstalten gibt es offenbar unterschiedliche Auffassungen darüber, ob sie aktuell bereits tatsächlich formaljuristisch zuständig sind für die Überwachung der Kennzeichnungspflichten der EU-Verordnung. 

Zwar gelten die KI-Verordnung der EU und damit auch die entsprechenden Kennzeichnungspflichten bereits. Das deutsche KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz hält für den Medienbereich jedoch fest, dass die Marktüberwachung den "nach Landesrecht zuständigen Behörden" obliegt. Gemeint sind damit grundsätzlich die für die Medienaufsicht zuständigen Stellen der Länder – bei privaten Rundfunkveranstaltern also die Landesmedienanstalten. Ihre Funktion als Marktüberwachungsbehörden nach der KI-Verordnung ist im Landesrecht bislang allerdings noch nicht ausdrücklich festgeschrieben.

Gelöst werden soll dieses sehr spezifische Problem durch Teil eins des Digitale Medien-Staatsvertrags, der bereits vor einiger Zeit beschlossen wurde, aber noch kein gültiges Recht ist. Inkrafttreten soll der Staatsvertrag erst zum 1. August 2027 - wenn er bis dahin von allen Landesparlamenten abgesegnet wurde, was angesichts der Situation in Sachsen-Anhalt nochmal einer gesonderten Betrachtung bedarf. 

Konkret übersetzt heißt das: Im Kreis der Medienanstalten gibt es Stimmen, die sagen, dass RTL mit der Nicht-Kennzeichnung der KI beim "Strafgericht" zwar gegen die KI-Verordnung der EU verstößt, die NLM dagegen aber nichts machen kann. Ein Verfahren, das die Medienbehörde anstrengen könnte, würde RTL in einem solchen Fall möglicherweise gewinnen. 

Unterschiedliche Rechtsauffassungen

Es gibt im Kreis der Medienanstalten aber auch andere Stimmen. Diese verweisen unter anderem auf § 51 des Medienstaatsvertrags. Darin ist unter anderem für Rundfunkanbieter festgeschrieben, dass diese die "Vorschriften der allgemeinen Gesetze" einzuhalten haben. Gegenüber DWDL.de artikulieren Vertreter der Medienaufsicht ihren Standpunkt so: Die Kennzeichnungspflichten der KI-Verordnung sind bereits heute geltendes EU-Recht und müssen demnach eingehalten werden. Man könne deshalb auch auf Basis von § 51 Medienstaatsvertrag gegen den Sender vorgehen. 

Aus der Presseabteilung der Gemeinsamen Geschäftsstelle der Medienanstalten heißt es dazu auf DWDL.de-Anfrage: "Die Landesmedienanstalten sind für die Aufsicht über Rundfunk und Telemedien zuständig. Diese Zuständigkeit umfasst KI-gestützte Angebote vollumfänglich. Dadurch ist KI schon heute Gegenstand der Regulierung durch die Landesmedienanstalten. Auch ohne die sogenannte Marktüberwachungszuständigkeit nach der KI-Verordnung gelten die medienrechtlichen Anforderungen des Medienstaatsvertrags auch unabhängig davon, mit welcher Technologie ein Inhalt entsteht." Gleichzeitig räumt man ein, dass die Zuständigkeit der Landesmedienanstalten als Marktüberwachungsbehörden nach der KI-Verordnung erst durch den Digitale Medien-Staatsvertrag formal klargestellt werde. Die für RTL zuständige NLM will sich über dieses gemeinsame Statement hinaus nicht zusätzlich äußern. 

Die unterschiedlichen Rechtsauffassungen wird man im Rahmen der Medienanstalten in den kommenden zwei Tagen ausgiebig diskutieren. Am Dienstag und Mittwoch findet die Herbstklausur der Direktorenkonferenz der Landesmedienanstalten (DLM) statt. Vielleicht kann man sich in dieser Zeit bereits auf eine gemeinsame Sprachregelung und Vorgehensweise in der Sache einigen, ansonsten dauert es wohl bis zum August 2027, bis tatsächlich Rechtssicherheit herrscht - sofern der Digitale Medien-Staatsvertrag dann wirklich in Kraft tritt. 

"Auch ohne die sogenannte Marktüberwachungszuständigkeit nach der KI-Verordnung gelten die medienrechtlichen Anforderungen des Medienstaatsvertrags auch unabhängig davon, mit welcher Technologie ein Inhalt entsteht."
Statement der Gemeinsamen Geschäftsstelle der Medienanstalten


Die DLM hat aber auch über die konkrete Bewertung der aktuellen Rechtslage hinaus noch einige Dinge in diesem Zusammenhang zu besprechen. So treibt gerade alle Beteiligten in den Landesmedienanstalten um, was es eigentlich bedeutet, wenn die EU sagt, dass die KI-Kennzeichnung im Falle von fiktionalen Werken "in geeigneter Weise" erfolgen müsse. Und die Debatte geht noch darüber hinaus, denn die Kennzeichnungspflicht betrifft ja auch das Radio sowie die Werbung. 

Tschentscher sorgt beim Radiopreis für Verwirrung 

Wie schnell mitunter Verwirrung beim Thema entsteht, stellte Hamburgs Erster Bürgermeister Peter Tschentscher zuletzt unter Beweis. Auf der Bühne des Deutschen Radiopreises, der in Hamburg verliehen wurde, sprach der SPD-Politiker das Grußwort - und ging dabei auch auf die KI-Verordnung der EU ein. Er nannte die Umsetzung "pragmatisch" und erklärte: "Da hat man sich überlegt: Die Kennzeichnungspflicht entfällt, wenn eine redaktionelle Kontrolle stattfindet und eine echte Person die redaktionelle Verantwortung übernimmt." Damit würden dann auch die Radiomacherinnen und Radiomacher ins Spiel kommen. Im Publikum hat er mit diesen Aussagen für maximale Verwirrung gesorgt. 

Es gibt in Artikel 50, Absatz 4, des AI-Acts der EU zwar durchaus Ausnahmen zur Kennzeichnungspflicht, wenn Menschen die redaktionelle Verantwortung übernehmen - diese konkrete Ausnahme gilt aber ausschließlich für KI-generierte oder manipulierte Texte. Das heißt fürs Radio: Lässt eine Redaktion einen Moderationstext von der KI schreiben, von einem Menschen überprüfen und übernimmt sie dafür die redaktionelle Verantwortung, muss das nicht gekennzeichnet werden. Wenn man aber mithilfe von KI eine Stimme (zum Beispiel eines Moderators) erzeugt, wäre das sehr wahrscheinlich kennzeichnungspflichtig. 

Tschentscher hat diese Unterscheidung auf der Bühne des Radiopreises nicht vorgenommen. Gegenüber dem Medienmagazin DWDL.de stellt ein Sprecher der Hamburger Senatskanzlei nun klar, dass sich die Aussage des Ersten Bürgermeisters auf die Regelung zur Kennzeichnung von KI-generierten Textinhalten bezogen habe, sofern dafür eine echte Person die redaktionelle Verantwortung übernehme. Das kleine Beispiel zeigt sehr anschaulich: Im Alltag der Menschen - in diesem Fall: der höchsten politischen Ebene - ist die EU-Verordnung noch längst nicht angekommen.