Collien Ulmen-Fernandes: "Wir erleben das Ende der Kunst, wie wir sie aktuell kennen"

Bei VIVA erklärte Collien Ulmen-Fernandes Anfang der 2000er-Jahre die Welt der Musik. Heute ist die Moderatorin, Schauspielerin und Autorin in einem ganz anderen Kosmos unterwegs: Beim ZDF steht sie als "Traumschiff"-Bordärztin zwar einerseits für leichte Unterhaltung, andererseits taucht sie für außergewöhnliche Dokumentationen immer wieder in gesellschaftlich relevante Themen ein. In ihrem neuesten Projekt "Das KI-Manifest" (Montag, 27. Mai, 0.10 Uhr, ZDF und in der ZDFmediathek) beleuchtet die 42-Jährige, wie die Künstliche Intelligenz die Filmwelt revolutioniert. Das Ausmaß und die Folgen werden unterschätzt, macht Collien Ulmen-Fernandes im Interview deutlich.

teleschau: Die generative KI erobert gerade die Filmwelt. Inwiefern betrifft das auch das Publikum?

Collien Ulmen-Fernandes: Jeder und jede schaut Filme und Serien. Insofern geht es uns alle etwas an. Das, was sich in unserer Branche tut, lässt sich aber auch auf andere Branchen übertragen. Auch da werden Menschen künftig von KI ersetzt werden. Wir erleben das Ende der Kunst, wie wir sie aktuell kennen.

teleschau: Wieso braucht es ein Manifest?

Ulmen-Fernandes: Das was gerade passiert, ist groß und es ist nah. Sehr nah. Viele sind sich dessen noch nicht bewusst. Wenn man sieht, welche immensen Fortschritte die KI-Branche alleine in den letzten zwei Jahren gemacht hat, dann muss man sich eben jetzt damit auseinandersetzen. Und genau das tun die Protagonisten und Protagonistinnen in unserem Film. Es geht um wichtige Fragen: Wie sollen sie aussehen, die Spielregeln für den Umgang mit generativer KI? Wie dämmen wir die Gefahr ein, die von ihr ausgeht? Experten und Expertinnen stehen beratend zur Seite, und dann am Ende der Sendung soll es stehen: das KI - Manifest.

Ein Irrtum: Jeder meint, es betreffe ihn nicht

teleschau: Welche Berufe betrifft die Veränderung durch KI in der Filmwelt am meisten?

Ulmen-Fernandes: Genau das ist die interessante Frage dabei. Weil auch hier jeder meint, es betreffe ihn nicht. Das ist es, was beim "KI Manifest" zu sehen ist und was ich an Filmsets erlebe - die Haltung: "Das, was ich mache, kann die KI nicht." Aber schon jetzt kann die KI komplette Drehbücher schreiben und filmische Sequenzen erstellen, die von echten nicht mehr zu unterscheiden sind.

teleschau: In der Doku gibt es dazu ein erstaunliches Experiment: Die Filmschaffenden sollen herausfinden, welche Drehbuchseiten von der KI und welche von Menschen geschrieben wurden. Es war praktisch unmöglich.

Ulmen-Fernandes: Genau. Und je mehr man die KI füttert, desto besser wird sie. Am Ende ist es doch - wie so oft - auch ein Kostenfaktor. Wenn die KI günstiger ist, warum sollten Produzentinnen und Produzenten noch echte Menschen beschäftigen für etwas, das die KI genauso kann?

Der Mensch - nur ein Kostenfaktor?

teleschau: Etwas, das Professor Dr. Sarah Spiekermann, die als Expertin für digitale Ethik beim "KI Manifest" zu Wort kommt, sogar ganz klar ausspricht. "Die Frage: 'Brauchen wir KI?' wird mit dem Geld beantwortet. 'Ja, wenn man Geld machen will, braucht man KI.'"

Ulmen-Fernandes: Nachdem Open AI das Programm SORA vorgestellt hatte, stoppte ein Hollywood-Produzent einen 800 Millionen Dollar teuren Studiobau. Wenn man die Kamerafahrt über ein historisches Dorf sieht, zu der SORA in der Lage ist, ist das nicht verwunderlich ... Kulissenbau ist ein riesiger Kostenfaktor. Sven Bliedung von der Heide, ein weiterer Experte in unserer Doku, sagt zudem, dass man damit, durch den Einsatz von KI, auch wahnsinnig viel CO2 einspart. Das ist natürlich auch ein Argument, das nicht von der Hand zu weisen ist.

teleschau: Ein Experte in der Doku sagt dazu: "Was am meisten Leute ins Kino lockt und Popcorn verkauft, ist das, was am einfachsten automatisiert werden kann." Wie ist das gemeint?

Ulmen-Fernandes: Nun, die KI ist ja etwas, das der Mensch gefüttert hat. Und je mehr wir die KI mit unseren Emotionen füttern, desto mehr kann sie etwas kreieren, was wiederum in uns Menschen Emotionen hervorruft. Am Ende wird das funktionieren. Bei aller Skepsis, mit der wir der KI gegenüberstehen - durch uns kann sie am Ende etwas generieren, das uns anrührt. Sie weiß, welche Musik was in uns auslöst, welche Blicke, welche Handlungen.

"Es gibt massive gesetzliche Schutzlücken"

teleschau: Sam Altman, der Chef des Unternehmens, das ChatGPT entwickelt hat, warnt sogar selbst vor dem Risiko, dass die Menschheit durch KI vernichtet werden könnte ...

Ulmen-Fernandes: Nicht nur er, viele KI-Experten sagen genau das. Man geht von drei Gefahren für die Menschheit aus: Pandemie, Atomkrieg und KI. Das ist nicht meine Einschätzung, das ist das offizielle Statement der KI-Experten und exakt der Punkt, weswegen wir die Spielregeln festlegen müssen. Und zwar jetzt! Genau dazu möchte der Film aufrufen.

teleschau: Wo ist hier die Politik gefordert?

Ulmen-Fernandes: Das, was für uns gilt, gilt erst recht für die Politik. Wir müssen jetzt die Regeln festlegen. Die Künstliche Intelligenz generiert Filmmaterial, das aussieht, wie eine 1:1-Kopie urheberrechtlich geschützter Werke, und sie darf das. Aber warum? Darüber sprechen wir mit einem Anwalt. Auch im Bereich KI-generierter Deepfakes gibt es massive gesetzliche Schutzlücken. Die betreffen vor allem Frauen, die größtenteils Opfer gefälschter, KI-generierter Nacktbilder sind. Dadurch, dass sich viel verändert, muss sich auch die Gesetzeslage verändern, das ist klar.

Sind Schauspieler am Set bald überflüssig?

teleschau: In welchem Bereich der Filmbranche gibt es jetzt schon viel Konfliktpotenzial?

Ulmen-Fernandes: Für Animationsfilme bräuchte man keine Sprecherinnen und Sprecher mehr. Man kann die Stimmen der Figuren komplett über KI generieren. Es ist jetzt schon möglich, dass Schauspielende gar nicht mehr in Synchronstudios gehen müssen. Viele Produzenten, die ich kenne, arbeiten schon jetzt mit KI-generierten Stimmen. Was ich daran schwierig finde: Man hat als Schauspielender das eigene Schauspiel nicht mehr in der Hand. Wenn sie es theatralischer wollen, können sie sich die Takes einfach so bauen, während ich als Schauspielerin vielleicht gesagt hätte: "Das spiele ich so nicht."

teleschau: Nicht nur im Synchronstudio, auch am Set könnten sie bald überflüssig sein. Schauspielerinnen und Schauspieler können sich im Volumetric Studio von Sven Bliedung von der Heide einscannen lassen, wodurch ihre digitalen Avatare in Filmen eingesetzt werden können.

Ulmen-Fernandes: Aktuell können die von der KI generierten Schauspielenden zum Glück noch nicht so gut laufen. Die haben einen Gang, als müssten sie mal dringend aufs WC. (lacht) Klar, mit ein bisschen Kameragewackel fällt das nicht mehr so auf. Aber ich denke, das ist eine Frage der Zeit, bis man auch das in den Griff bekommt. Und dann ist eine ganz wichtige Frage, die sich daraus ergibt: Welche Auswirkungen hat das auf das Thema Jugendwahn?

Was macht die KI mit unserem Schönheitsideal?

teleschau: Wie meinen Sie das?

Ulmen-Fernandes: Aktuell ist es doch schon so, dass Schauspielerinnen ab einem gewissen Alter sozusagen unsichtbar werden. Ab 50 wird man als Frau signifikant seltener besetzt, haben Auswertungen ergeben. Wird also eine 50-jährige Schauspielerin irgendwann gefragt, ob man ihr KI-generiertes 40-jähriges Ich buchen kann? Arbeitet mein 30-jähriges Ich vielleicht noch, während mein 50-jähriges Ich niemand mehr sehen will? Wir haben gerade bei Harrison Ford gesehen, dass es schon jetzt möglich ist, Schauspielende künstlich zu verjüngen. Was macht das mit unserem Schönheitsideal?

teleschau: Eine Gefahr, vor der ebenfalls viele Experten warnen: Wenn KI-generierte Bilder und Audios künftig ganz leicht zu erstellen sind, welchen können wir überhaupt noch trauen? Teilen Sie diese Sorge?

Ulmen-Fernandes: Aber natürlich. Damit wären wir auch schon wieder bei dem Statement der KI-Experten, das die Gefahr durch KI auf eine Stufe mit Kriegen und Pandemien setzt. Schon jetzt geht eine große Gefahr von Desinformations-Kampagnen aus. Fake-News bestimmen schon jetzt die politischen Wahlkämpfe. Und desto besser die technischen Möglichkeiten werden, desto leichter ist es, die politische Konkurrenz mit gefälschten Fotos, Videos und Audios in Misskredit zu bringen. Davon geht eine sehr große Gefahr für uns als Gesellschaft aus.