Zürcher Studierendenzeitung

Papst Franziskus in der riesigen Daunenjacke. Tom Cruise in Alltagsclips. Was durch  KI zu einem Internetwitz wird, kann rasch reale Folgen haben – für Einzelpersonen ebenso wie für die Gesellschaft. In besonders drastischer Form zeigt sich das bei nicht konsensueller Deepfake-Pornografie und anderen Formen digitaler Gewalt. 

Deepfakes betreffen nicht nur einzelne Fälschungen, sondern haben auch Folgen für das Vertrauen in digitale Belege. Wenn täuschend echte Inhalte mit geringem Aufwand künstlich erzeugt oder manipuliert werden können, gerät die Annahme, dass Bilder, Videos oder Audiodateien einen belastbaren Bezug zur Wirklichkeit haben, ins Wanken. 

Wie funktioniert die Technologie? 

An diesem Vertrauensverlust setzt die ETH-Forschung an: Fernando Cardes García und sein Team haben  eine neue  Sensortechnologie entwickelt, mit der sich nachweisen lassen soll, dass eine Aufnahme  tatsächlich von einem bestimmten Aufnahmegerät stammt und nicht im Nachhinein verändert wurde. 

Cardes García erklärt das am Beispiel eines Smartphones. Der Sensorchip einerKamera erfasst einfallendes Licht und wandelt sie in digitale Daten um. Daraus entsteht das Bild. «Die Idee ist, dem Sensor eine zusätzliche Funktion hinzuzufügen, nämlich die Bilddaten blockweise zu verarbeiten.Dafür erzeugt man direkt im Chip kryptografische Signaturen.» Diese Signaturen liessen sich später mit einem öffentlichen Signaturenregister abgleichen und daraufhin überprüfen, ob das Bild tatsächlich von diesem Sensor, also genau dieser Kamera, stamme.

Von einem Einsatz in Smartphone-Kameras ist die Technologie noch mehrere Schritte entfernt. Bislang wurde der Ansatz erst als sogenanntes «Proof of Concept» demonstriert. Laut Publikation sollte sich das Prinzip jedoch grundsätzlich gut vom getesteten Sensor auf andere Sensortypen übertragen lassen. 

Was ist daran neu? 

Gegen Deepfakes gibt es bereits verschiedene Ansätze, wie forensischen Detektionssysteme, Wasserzeichen oder die Anzeige von «Content  Credentials», also klickbare Hinweise zur Herkunft und Bearbeitung eines Inhalts auf  Plattformen.

Bei diesen herkömmlichen System werden Daten aber zunächst über interne Verbindungen im Gerät weitergeleitet und greifen erst, wenn die Datei bereits erstellt wurde. Dies sei eine Schwachstelle.. «Indem die Absicherung direkt im Sensor erfolgt, sollen Manipulationen oder das Einspeisen künstlicher Daten an diesen Übergängen erschwert und sehr teuer werden», so Cardes García.

Relevanz und Einsatzgebiete 

Ein solcher Echtheitsnachweis könnte etwa nach einem Blechschaden mit dem Mietauto relevant werden, bei einem viralen TikTok, das einer Politikerin eine angebliche Aussage zuschreibt oder bei Handyvideos aus Kriegsgebieten, die als journalistischer oder rechtlicher Beleg dienen sollen. 

Cardes García unterscheidet zwischen zwei Nutzergruppen: Einerseits professionelle Anwenderinnen wie beispielsweise Journalist*innen oder Forensiker*innen und  andererseits die breite Öffentlichkeit. Für Letztere brauche es keine andere Technologie, sondern vor allem eine einfachere Form der Darstellung, sagt er. Cardes García verweist dabei auf «Content Credentials»: Der Echtheitsnachweis könnte dort als zusätzlicher Herkunftsnachweis eingebunden werden. 

Praktische Hürden und technische Grenzen 

In der Simulation verläuft die neue Technologie bisher reibungslos; bei der praktischen Umsetzung sind jedoch noch viele Fragen offen. Mangelnd ist vor allem die Infrastruktur. Das System braucht ein vertrauenswürdiges öffentliches Register, wo die Signaturen oder Verweise darauf dauerhaft gespeichert werden. Unklar bleibt, wer ein solches Register betreiben würde. Cardes García nennt die Möglichkeit einer öffentlichen Blockchain oder Datenbanken von grossen Smartphone-Herstellern. Letztere könnte jedoch ein kritisches Machtmonopol weniger privater Akteure begünstigen. 

Eine weitere Herausforderung sieht Cardes García in der praktischen Einbindung der  Technologie in verbreitete Plattformen sowie in ihrer Nutzung im Journalismus und  staatlichen Behörden. «Entscheidend ist, die Verifikationsmechanismen verständlich und benutzerfreundlich zu gestalten», so Cardes García. Darüber hinaus sei mit Skepsis zu rechnen, da viele Menschen digitalen Inhalten inzwischen grundsätzlich misstrauen würden. 

Was die Technologie nicht kann 

Eine technische Grenze ist das «picture of a picture»: Wird ein manipuliertes Bild einfach vom Bildschirm abfotografiert, entsteht erneut eine echte sensorische Aufnahme eines bereits verfälschten Inhalts. Dazu räumt Cardes García ein: «Ganz gelöst ist dieses Problem bislang noch nicht. Es gibt jedoch verschiedene technische Ansätze, die grundsätzlich weiterentwickelt werden könnten.» 

So weitreichend der Anspruch klingt: Die ETH-Technologie verhindert keine Deepfakes und ist nicht dafür gedacht, Fälschungen zu erkennen oder zu entlarven.  Sie ist bloss darauf ausgelegt, die Echtheit der Aufnahme zu beweisen, vorausgesetzt, sie wurden mit entsprechend ausgestatteter Hardware aufgenommen. 

Daraus könnte eine neue Asymmetrie entstehen: Wer eine signierte Aufnahme vorweisen kann, verfügt über einen technischen Beweisvorteil. Unsignierte aber dennoch echte Inhalte könnten dadurch an Glaubwürdigkeit verlieren, etwa weil sie mit älteren oder einfacheren Geräten  aufgenommen wurden oder weil die nötige Technik vor Ort gar nicht verfügbar ist. Besonders betroffen wären beispielsweise ressourcenschwächere Regionen, der Bürgerjournalismus sowie spontane Aufnahmen in Krisengebieten und akuten Gefahrensituationen. So besteht das Risiko, dass sich bestehende strukturelle Ungleichheiten zulasten jener Menschen und Kontexte verschärfen. 

Nach Cardes García lässt sich diesem potenziellen Effekt begegnen, «indem die  Sensortechnologie so optimiert wird, dass sie sich mit praktisch keinen zusätzlichen  Kosten in Kameras integrieren lässt.» Auf diese Weise könnte eine breite Einführung über verschiedene Geräteklassen hinweg ermöglicht werden.

Eine andere Ebene 

Gerade darin zeigt sich auch die Grenze rein technischer Lösungen. Und selbst wenn sich die Echtheit einer Aufnahme künftig besser belegen liesse, wäre das Deepfake-Problem damit nicht gelöst. Denn ob ein Inhalt echt ist, ist nur ein Teil der Frage. Eine andere lautet: Welche rechtlichen und gesellschaftlichen Konsequenzen folgen daraus? Deepfakes unterliegen bislang keinem einheitlichen Rechtsrahmen; je nach Konstellation greifen vielmehr unterschiedliche Bereiche wie Zivil- und Strafrecht, Datenschutz, Urheberrecht oder plattformbezogene Regulierung. 

Verifikation allein schafft noch keine klaren Zuständigkeiten, keine  durchsetzbaren Rechte und keine Verantwortung. 

Auch wenn der ETH-Ansatz technisch vielversprechend ist, wirft er nicht nur praktische, sondern auch gesellschaftliche und machtpolitische Fragen auf. Die Hoffnung ist, echte Aufnahmen wieder verlässlich als authentisch nachzuweisen. Ob das tatsächlich ein Fortschritt ist, hängt jedoch nicht allein von der Funktionsfähigkeit des Sensors ab, sondern ebenso von der Infrastruktur, den Standards, der rechtlichen Regulierung und den Akteuren, die künftig über digitale Glaubwürdigkeit mitentscheiden. 

Der Erfolg würde sich daher daran messen, ob sich Vertrauen in digitale Aufnahmen  tatsächlich zurückgewinnen lässt.