Täglich machen Deepfake-Pornos Frauen zu sexualisierten Opfern im Netz – auch viele Promis. Eine von ihnen: Schauspielerin Collien Ulmen-Fernandes. In der zweiteiligen ZDF-Doku „Die Spur“ erzählt die 43-Jährige ihre Geschichte – und folgt der Spur ihrer Täter.
Im Gespräch mit unserer Redaktion blickt
Frau Ulmen-Fernandes, Sie waren in der Vergangenheit selbst betroffen von pornografischen Deepfakes im Internet – wie gehen Sie damit um?
Collien Ulmen-Fernandes: Leider können wir hier nicht ausschließlich von der Vergangenheit sprechen. Ich habe viel Geld für juristischen Beistand ausgegeben, damit besagtes Material aus dem Netz entfernt wird, doch anscheinend gibt es immer noch sehr viele Deepfakes von mir im Internet. Erst kürzlich wurde ich von einigen Männern darüber informiert, dass offenbar Fake-Profile von mir weiterhin dieses Material verbreiten.
So erfuhr Collien Ulmen-Fernandes von Fake-Collien
Können Sie hier ein konkretes Beispiel nennen?
Ich durfte für die Doku „Die Spur“ einen Mann interviewen, der juristische Beratungen anbietet. Über die Job-Portale LinkedIn und Xing war er unwissentlich mit einem Fake-Profil von mir in Kontakt. Diese falsche „Collien“ hatte zunächst einen Beratungstermin bei ihm angefragt, ehe ihre Nachrichten dann immer anzüglicher wurden. Im weiteren Verlauf kam es dann sogar zu einer Videobotschaft, in der „Collien“ ihr Oberteil auszog. Der Berater kontaktierte daraufhin mein Management und ich erfuhr von dem besagten Fake-Profil.
Ich habe mich daraufhin bei LinkedIn angemeldet. Meine Kontaktliste besteht jedoch aktuell aus lediglich drei Personen und genau das macht es so krass: Während die Nutzerinnen und Nutzer mein echtes Profil für Fake halten, weil es lediglich drei Kontakte hat, wird das Fake-Profil als real eingestuft, weil es rund 160 Kontakte hat. Menschen, mit denen ich also im beruflichen Kontext zu tun habe, sind mit Fake-Collien vernetzt, ohne es zu wissen. Denn der Fake-Account war vor dem echten Profil da – und konnte ungestört Kontakte sammeln.
Das klingt wie ein Kampf gegen Windmühlen …
So ist es. Mich hat Social Media lange Zeit nicht interessiert und ich war auf vielen Plattformen gar nicht angemeldet. Gibt es auf einer Plattform nur ein Profil von mir, wird es natürlich schneller für echt gehalten. Erst im Lauf der vergangenen Jahre habe ich erfahren, was diese Fake-Accounts in meinem Namen alles betrieben haben.
Man schämt sich.
In „Die Spur“ erzählen Sie nicht nur Ihre persönliche Geschichte, sondern testen mit der Investigativ-Journalistin Marie Bröckling verschiedene technische Schutz-Möglichkeiten – wie darf man sich diese Möglichkeiten vorstellen?
Zum einen gibt es die Möglichkeit, sich mithilfe von Wasserzeichen zu schützen. Nach Einschätzung von Expertinnen und Experten können diese aber relativ einfach umgangen beziehungsweise entfernt werden. Zum anderen gibt es Apps, die Deepfake-Bearbeitungen an einem Original-Foto verhindern sollen. Einige dieser Apps haben wir im Rahmen der Dreharbeiten getestet und mussten leider feststellen, dass sie nicht das halten, was sie versprechen. Denn mithilfe von KI konnte ich meine Bilder noch immer bearbeiten. Aktuell testen wir aber noch weitere Apps dieser Art – in der Hoffnung, ein Programm zu finden, das vor nachträglicher Deepfake-Bearbeitung schützen kann.
© ZDF/Tower Productions
Im Rahmen der Drehvorbereitung haben Sie auf Instagram einen Aufruf gestartet und Frauen gesucht, die von Deepfake-Pornos betroffen sind. Wie hoch war die Resonanz auf diesen Aufruf?
Die Produktionsfirma war mit einigen Frauen in Kontakt, die sich auf den Aufruf gemeldet haben. Leider haben viele der Frauen wieder einen Rückzieher gemacht und sich schlussendlich doch nicht getraut, über diese Erfahrungen zu sprechen. Diese Reaktion kann ich total nachvollziehen, denn wir sprechen hier von einem sehr intimen Thema. Man schämt sich. Im Rahmen der Dreharbeiten habe ich zum ersten Mal das Deepfake-Material von mir gesehen. Natürlich wusste ich immer, dass es diese Bilder und Videos von mir gibt, doch als ich sie zum ersten Mal gesehen habe, fühlte es sich so an, als würden mir gerade echte Nacktbilder von mir gezeigt werden. Auch wenn man weiß, dass die Bilder Fake sind, ist die Scham da.
Lesen Sie auch
Ein Gefühl, das vermutlich die meisten Opfer von sexualisierter Gewalt im Netz empfinden …
Leider ja. Josephine Ballon, Geschäftsführerin von HateAid (gemeinnützige GmbH zur Beratung und Unterstützung von Betroffenen von Online-Hassrede und Hasskommentaren; Anm. d. Red.), schilderte in unseren Gesprächen, dass die meisten Opfer Scham empfinden. Sie schämen sich dafür, von anderen nackt gesehen zu werden, obwohl die Nacktheit unreal und virtuell entstanden ist. Doch die Deep-Fakes sehen inzwischen so echt aus, dass sich die Opfer wortwörtlich ausgezogen fühlen.
In der Folge scheuen sich die Opfer, über ein so ein intimes Thema öffentlich zu sprechen. Dennoch konnte ich einige Interviewpartnerinnen treffen, die mir wirklich ernüchternde Geschichten erzählt haben.
Gesetzeslage in Deutschland „noch nicht scharf genug“
Inwiefern ernüchternd?
Deepfakes sind nur ein Aspekt, der oft mit weiterem Digitalen Missbrauch einhergeht, zum Beispiel mit Doxing, der Veröffentlichung personenbezogener Daten, wie etwa der Adresse. Im Rahmen der Doku habe ich mit einer Frau gesprochen, die mittlerweile zum fünften Mal umgezogen ist, weil ihre Adressdaten im Zusammenhang mit pornografischem Fake-Material veröffentlicht wurden, teilweise mit Aufrufen zur Vergewaltigung. Ihre Besuche bei der Polizei schilderte sie als sehr ernüchternd. Aus diesem Grund beleuchten wir in „Die Spur“ auch sehr stark die juristische Komponente.
Wie sieht die Gesetzeslage in Deutschland bezüglich sexualisierter Gewalt im Netz aus?
Josephine Ballon sagt, dass es im Rahmen der Opferbetreuung durch HateAid nicht einmal zu einer Verurteilung eines Täters kam. Die Gesetzeslage in Deutschland scheint noch nicht scharf genug zu sein.
Eine Konsequenz, die für die Opfer sehr frustrierend sein muss.
Absolut. Erst vor wenigen Wochen war ich bei der Polizei. Ich habe im Netz zu einer Fake-Collien Kontakt aufgenommen, die Tickets für ein angebliches Meet and Greet mit mir verkauft. Den Kontaktverlauf habe ich dokumentiert und wollte anhand entsprechender Screenshots Anzeige wegen Identitätsdiebstahls erstatten. Laut der Beamten konnte ich jedoch nicht als Geschädigte aufgeführt werden, weil ich juristisch erst dann als geschädigt gelte, wenn mir ein monetärer Schaden entstanden ist. Da ich jedoch weiß, dass es dieses angebliche Meet and Greet nicht gibt, habe ich an den Fake-Account natürlich nie die geforderte Summe überwiesen. Per Definitionem gelte ich also nicht als geschädigt, obwohl ich meiner Auffassung nach ganz klar geschädigt bin. Fans beschweren sich, dass ich sie um Geld betrogen habe. Ich erleide also einen Imageschaden.
Was braucht es Ihrer Meinung nach, um Kinder und Jugendliche, aber auch Eltern, rund um potenzielle Gefahren im Netz zu sensibilisieren?
Grundsätzlich denke ich, dass Eltern darauf achten sollten, wie und wo ihre Kinder im Internet aktiv sind. Meiner Meinung nach sollten vor allem jüngere Kinder nicht unbeaufsichtigt in den sozialen Medien unterwegs sein.
So geht es für Dr. Delgado auf dem „Traumschiff“ weiter
In den kommenden Wochen werden Sie noch zweimal auf dem „Traumschiff“ in See stechen – am 26.12. geht’s nach Hudson Valley und am 01.01. nach Curaçao. Wie geht es für Dr. Delgado in diesen Episoden weiter?
In der Hudson-Valley-Episode habe ich einen gemeinsamen Plot mit Harald (Schmidt; Anm. d. Red.) und in der Curacao-Folge habe ich zum ersten Mal eine Geschichte mit unserem Staffkapitän. Aber am meisten freue ich mich auf die Episode, die an Ostern 2025 ausgestrahlt wird. Denn in dieser Folge passiert eine ganze Menge im Privatleben von Dr. Delgado.
Wie blicken Sie nach nunmehr drei Jahren auf dem „Traumschiff“ auf die Zusammenarbeit mit dem Kern-Cast rund um Florian Silbereisen, Barbara Wussow und Daniel Morgenroth?
Wir sind in den vergangenen Jahren zusammengewachsen und der Cast kennt sich untereinander mittlerweile richtig gut. Ich finde es schön, auf dem Schiff Menschen zu haben, mit denen man wirklich gerne Zeit verbringt. Man darf nicht vergessen, dass auf so einem Schiff alles etwas enger ist. Würde man sich also untereinander nicht so gut verstehen, wäre eine solche Zusammenarbeit vermutlich entsprechend herausfordernder. Umso schöner ist es, dass wir uns alle so gut verstehen. Dazu kommt das rührende Gefühl, dass alle aufeinander aufpassen. Auf dem Schiff herrscht eine ganz warme und herzliche Atmosphäre.
Sie und Ihre Familie sind 2023 nach Mallorca ausgewandert. Wie lautet Ihr Fazit nach knapp zwei Jahren auf der Insel?
Meistens drehe ich ja in Deutschland und ich sage, wie es ist: Ich friere so dermaßen, dass ich mich wahnsinnig auf meine Rückkehr nach Mallorca freue (lacht). In Sachen Winterbekleidung bin ich nicht gut ausgestattet nach Deutschland gereist und musste erst einmal mit beheizten Sohlen und dicker Kleidung nachrüsten. Ich genieße die Temperaturen auf Mallorca wirklich sehr. Vor meiner Abreise nach Deutschland waren es dort 23 Grad, im direkten Vergleich tut die Winterkälte in Deutschland dann doch weh.
Die zweiteiligen ZDF-Doku „Die Spur“ läuft am 11. Dezember um 22:15 Uhr und um 1:00 Uhr.
Über die Gesprächspartnerin
- Collien Ulmen-Fernandes ist eine deutsche Fernsehmoderatorin, Schauspielerin und Autorin. In den Nullerjahren wurde die gebürtige Hamburgerin als Moderatorin bei dem Musiksender VIVA bekannt. Seitdem war sie in verschiedenen TV-Formaten zu sehen. Seit 2021 verkörpert sie die Schiffsärztin Dr. Jessica Delgado auf dem „Traumschiff“.
„So arbeitet die Redaktion“ informiert Sie, wann und worüber wir berichten, wie wir mit Fehlern umgehen und woher unsere Inhalte stammen. Bei der Berichterstattung halten wir uns an die Richtlinien der Journalism Trust Initiative.
Täglich machen Deepfake-Pornos Frauen zu sexualisierten Opfern im Netz – auch viele Promis. Eine von ihnen: Schauspielerin Collien Ulmen-Fernandes. In der zweiteiligen ZDF-Doku „Die Spur“ erzählt die 43-Jährige ihre Geschichte – und folgt der Spur ihrer Täter.
Im Gespräch mit unserer Redaktion blickt
Frau Ulmen-Fernandes, Sie waren in der Vergangenheit selbst betroffen von pornografischen Deepfakes im Internet – wie gehen Sie damit um?
Collien Ulmen-Fernandes: Leider können wir hier nicht ausschließlich von der Vergangenheit sprechen. Ich habe viel Geld für juristischen Beistand ausgegeben, damit besagtes Material aus dem Netz entfernt wird, doch anscheinend gibt es immer noch sehr viele Deepfakes von mir im Internet. Erst kürzlich wurde ich von einigen Männern darüber informiert, dass offenbar Fake-Profile von mir weiterhin dieses Material verbreiten.
So erfuhr Collien Ulmen-Fernandes von Fake-Collien
Können Sie hier ein konkretes Beispiel nennen?
Ich durfte für die Doku „Die Spur“ einen Mann interviewen, der juristische Beratungen anbietet. Über die Job-Portale LinkedIn und Xing war er unwissentlich mit einem Fake-Profil von mir in Kontakt. Diese falsche „Collien“ hatte zunächst einen Beratungstermin bei ihm angefragt, ehe ihre Nachrichten dann immer anzüglicher wurden. Im weiteren Verlauf kam es dann sogar zu einer Videobotschaft, in der „Collien“ ihr Oberteil auszog. Der Berater kontaktierte daraufhin mein Management und ich erfuhr von dem besagten Fake-Profil.
Ich habe mich daraufhin bei LinkedIn angemeldet. Meine Kontaktliste besteht jedoch aktuell aus lediglich drei Personen und genau das macht es so krass: Während die Nutzerinnen und Nutzer mein echtes Profil für Fake halten, weil es lediglich drei Kontakte hat, wird das Fake-Profil als real eingestuft, weil es rund 160 Kontakte hat. Menschen, mit denen ich also im beruflichen Kontext zu tun habe, sind mit Fake-Collien vernetzt, ohne es zu wissen. Denn der Fake-Account war vor dem echten Profil da – und konnte ungestört Kontakte sammeln.
Das klingt wie ein Kampf gegen Windmühlen …
So ist es. Mich hat Social Media lange Zeit nicht interessiert und ich war auf vielen Plattformen gar nicht angemeldet. Gibt es auf einer Plattform nur ein Profil von mir, wird es natürlich schneller für echt gehalten. Erst im Lauf der vergangenen Jahre habe ich erfahren, was diese Fake-Accounts in meinem Namen alles betrieben haben.
Man schämt sich.
In „Die Spur“ erzählen Sie nicht nur Ihre persönliche Geschichte, sondern testen mit der Investigativ-Journalistin Marie Bröckling verschiedene technische Schutz-Möglichkeiten – wie darf man sich diese Möglichkeiten vorstellen?
Zum einen gibt es die Möglichkeit, sich mithilfe von Wasserzeichen zu schützen. Nach Einschätzung von Expertinnen und Experten können diese aber relativ einfach umgangen beziehungsweise entfernt werden. Zum anderen gibt es Apps, die Deepfake-Bearbeitungen an einem Original-Foto verhindern sollen. Einige dieser Apps haben wir im Rahmen der Dreharbeiten getestet und mussten leider feststellen, dass sie nicht das halten, was sie versprechen. Denn mithilfe von KI konnte ich meine Bilder noch immer bearbeiten. Aktuell testen wir aber noch weitere Apps dieser Art – in der Hoffnung, ein Programm zu finden, das vor nachträglicher Deepfake-Bearbeitung schützen kann.
© ZDF/Tower Productions
Im Rahmen der Drehvorbereitung haben Sie auf Instagram einen Aufruf gestartet und Frauen gesucht, die von Deepfake-Pornos betroffen sind. Wie hoch war die Resonanz auf diesen Aufruf?
Die Produktionsfirma war mit einigen Frauen in Kontakt, die sich auf den Aufruf gemeldet haben. Leider haben viele der Frauen wieder einen Rückzieher gemacht und sich schlussendlich doch nicht getraut, über diese Erfahrungen zu sprechen. Diese Reaktion kann ich total nachvollziehen, denn wir sprechen hier von einem sehr intimen Thema. Man schämt sich. Im Rahmen der Dreharbeiten habe ich zum ersten Mal das Deepfake-Material von mir gesehen. Natürlich wusste ich immer, dass es diese Bilder und Videos von mir gibt, doch als ich sie zum ersten Mal gesehen habe, fühlte es sich so an, als würden mir gerade echte Nacktbilder von mir gezeigt werden. Auch wenn man weiß, dass die Bilder Fake sind, ist die Scham da.
Lesen Sie auch
Ein Gefühl, das vermutlich die meisten Opfer von sexualisierter Gewalt im Netz empfinden …
Leider ja. Josephine Ballon, Geschäftsführerin von HateAid (gemeinnützige GmbH zur Beratung und Unterstützung von Betroffenen von Online-Hassrede und Hasskommentaren; Anm. d. Red.), schilderte in unseren Gesprächen, dass die meisten Opfer Scham empfinden. Sie schämen sich dafür, von anderen nackt gesehen zu werden, obwohl die Nacktheit unreal und virtuell entstanden ist. Doch die Deep-Fakes sehen inzwischen so echt aus, dass sich die Opfer wortwörtlich ausgezogen fühlen.
In der Folge scheuen sich die Opfer, über ein so ein intimes Thema öffentlich zu sprechen. Dennoch konnte ich einige Interviewpartnerinnen treffen, die mir wirklich ernüchternde Geschichten erzählt haben.
Gesetzeslage in Deutschland „noch nicht scharf genug“
Inwiefern ernüchternd?
Deepfakes sind nur ein Aspekt, der oft mit weiterem Digitalen Missbrauch einhergeht, zum Beispiel mit Doxing, der Veröffentlichung personenbezogener Daten, wie etwa der Adresse. Im Rahmen der Doku habe ich mit einer Frau gesprochen, die mittlerweile zum fünften Mal umgezogen ist, weil ihre Adressdaten im Zusammenhang mit pornografischem Fake-Material veröffentlicht wurden, teilweise mit Aufrufen zur Vergewaltigung. Ihre Besuche bei der Polizei schilderte sie als sehr ernüchternd. Aus diesem Grund beleuchten wir in „Die Spur“ auch sehr stark die juristische Komponente.
Wie sieht die Gesetzeslage in Deutschland bezüglich sexualisierter Gewalt im Netz aus?
Josephine Ballon sagt, dass es im Rahmen der Opferbetreuung durch HateAid nicht einmal zu einer Verurteilung eines Täters kam. Die Gesetzeslage in Deutschland scheint noch nicht scharf genug zu sein.
Eine Konsequenz, die für die Opfer sehr frustrierend sein muss.
Absolut. Erst vor wenigen Wochen war ich bei der Polizei. Ich habe im Netz zu einer Fake-Collien Kontakt aufgenommen, die Tickets für ein angebliches Meet and Greet mit mir verkauft. Den Kontaktverlauf habe ich dokumentiert und wollte anhand entsprechender Screenshots Anzeige wegen Identitätsdiebstahls erstatten. Laut der Beamten konnte ich jedoch nicht als Geschädigte aufgeführt werden, weil ich juristisch erst dann als geschädigt gelte, wenn mir ein monetärer Schaden entstanden ist. Da ich jedoch weiß, dass es dieses angebliche Meet and Greet nicht gibt, habe ich an den Fake-Account natürlich nie die geforderte Summe überwiesen. Per Definitionem gelte ich also nicht als geschädigt, obwohl ich meiner Auffassung nach ganz klar geschädigt bin. Fans beschweren sich, dass ich sie um Geld betrogen habe. Ich erleide also einen Imageschaden.
Was braucht es Ihrer Meinung nach, um Kinder und Jugendliche, aber auch Eltern, rund um potenzielle Gefahren im Netz zu sensibilisieren?
Grundsätzlich denke ich, dass Eltern darauf achten sollten, wie und wo ihre Kinder im Internet aktiv sind. Meiner Meinung nach sollten vor allem jüngere Kinder nicht unbeaufsichtigt in den sozialen Medien unterwegs sein.
So geht es für Dr. Delgado auf dem „Traumschiff“ weiter
In den kommenden Wochen werden Sie noch zweimal auf dem „Traumschiff“ in See stechen – am 26.12. geht’s nach Hudson Valley und am 01.01. nach Curaçao. Wie geht es für Dr. Delgado in diesen Episoden weiter?
In der Hudson-Valley-Episode habe ich einen gemeinsamen Plot mit Harald (Schmidt; Anm. d. Red.) und in der Curacao-Folge habe ich zum ersten Mal eine Geschichte mit unserem Staffkapitän. Aber am meisten freue ich mich auf die Episode, die an Ostern 2025 ausgestrahlt wird. Denn in dieser Folge passiert eine ganze Menge im Privatleben von Dr. Delgado.
Wie blicken Sie nach nunmehr drei Jahren auf dem „Traumschiff“ auf die Zusammenarbeit mit dem Kern-Cast rund um Florian Silbereisen, Barbara Wussow und Daniel Morgenroth?
Wir sind in den vergangenen Jahren zusammengewachsen und der Cast kennt sich untereinander mittlerweile richtig gut. Ich finde es schön, auf dem Schiff Menschen zu haben, mit denen man wirklich gerne Zeit verbringt. Man darf nicht vergessen, dass auf so einem Schiff alles etwas enger ist. Würde man sich also untereinander nicht so gut verstehen, wäre eine solche Zusammenarbeit vermutlich entsprechend herausfordernder. Umso schöner ist es, dass wir uns alle so gut verstehen. Dazu kommt das rührende Gefühl, dass alle aufeinander aufpassen. Auf dem Schiff herrscht eine ganz warme und herzliche Atmosphäre.
Sie und Ihre Familie sind 2023 nach Mallorca ausgewandert. Wie lautet Ihr Fazit nach knapp zwei Jahren auf der Insel?
Meistens drehe ich ja in Deutschland und ich sage, wie es ist: Ich friere so dermaßen, dass ich mich wahnsinnig auf meine Rückkehr nach Mallorca freue (lacht). In Sachen Winterbekleidung bin ich nicht gut ausgestattet nach Deutschland gereist und musste erst einmal mit beheizten Sohlen und dicker Kleidung nachrüsten. Ich genieße die Temperaturen auf Mallorca wirklich sehr. Vor meiner Abreise nach Deutschland waren es dort 23 Grad, im direkten Vergleich tut die Winterkälte in Deutschland dann doch weh.
Die zweiteiligen ZDF-Doku „Die Spur“ läuft am 11. Dezember um 22:15 Uhr und um 1:00 Uhr.
Über die Gesprächspartnerin
- Collien Ulmen-Fernandes ist eine deutsche Fernsehmoderatorin, Schauspielerin und Autorin. In den Nullerjahren wurde die gebürtige Hamburgerin als Moderatorin bei dem Musiksender VIVA bekannt. Seitdem war sie in verschiedenen TV-Formaten zu sehen. Seit 2021 verkörpert sie die Schiffsärztin Dr. Jessica Delgado auf dem „Traumschiff“.
„So arbeitet die Redaktion“ informiert Sie, wann und worüber wir berichten, wie wir mit Fehlern umgehen und woher unsere Inhalte stammen. Bei der Berichterstattung halten wir uns an die Richtlinien der Journalism Trust Initiative.
