Der Fall um Christian Ulmen, bei dem er über ein Jahrzehnt pornografische Deepfakes seiner Ex-Frau Collien Fernandes angefertigt haben soll, wirft Fragen zur Effektivität des schweizerischen Rechtsschutzes gegen solche Fälschungen auf. Laut Nau.ch hat Martin Wyss, ein wissenschaftlicher Mitarbeiter an der Universität Zürich und Experte für pornografische Deepfakes, darauf hingewiesen, dass sowohl das Strafrecht als auch das Zivilrecht Grenzen setzen.
Strafrechtlich könnten Ehrverletzungen, Verbreitung von pornografischen Inhalten oder der Umgang mit nicht-tatsächlicher Kinderpornografie relevant sein. Auch Identitätsmissbrauch und Rachepornografie sind strafbare Handlungen. Die unerlaubte Verwendung einer Person auf Deepfakes kann als üble Nachrede oder Verleumdung gelten, wobei der Fokus auf sexuell explizite Darstellungen fällt.
Bezüglich Zivilrecht könnten Ansprüche auf Entfernung sowie Schadenersatz und Genugtuung geltend gemacht werden. Das Recht auf sexuelle Selbstbestimmung wird ebenfalls verletzt, wenn die Person ohne Einwilligung erkennbar ist. Im internationalen Vergleich zeigt sich jedoch ein lückenhafter Schutz in der Schweiz.
Italien hat bereits nicht-einvernehmliche Deepfakes unter Strafe gestellt, und auch Deutschland sowie Dänemark arbeiten an neuen Regelungen zur digitalen Persönlichkeitsverletzung. In Australien ist seit 2024 die Erstellung und Verbreitung solcher Inhalte mit Freiheitsstrafen belegt.
Ein Fall aus dem Jahr 2021 verdeutlichte, wie wenig Hilfe die Polizei bieten kann: Eine 20-jährige Frau war Opfer von Fake-Nacktbildern im Internet. Der Täter nutzte Fotos von ihrem privaten Instagram-Konto.
Dennoch gibt es wichtige Entscheidungen in der Schweiz, etwa vom Bundesgericht in einem Fall aus Zürich. Dort wurde ein Video als nicht-tatsächliche Kinderpornografie eingestuft, da eine erwachsene Darstellerin mithilfe von Verjüngungstechnologie kindlich dargestellt wurde.
Trotz des Potenzials künstlicher Intelligenz für kriminelle Zwecke scheint politischer Wille zur Verschärfung der Gesetze begrenzt. Eine Motion von Raphael Mahaim (Die Grünen) im Mai 2025, die eine gesetzliche Änderung forderte, wurde vom Bundesrat abgelehnt. Albert Rösti argumentierte, dass keine zusätzlichen spezifischen Regulierungen notwendig seien und stattdessen eine ganzheitliche KI-Regulierung in Betracht gezogen werden sollte.
Die Motion fand im Nationalrat mit 70:111 Stimmen keine Mehrheit.