Hallo Admins,
im Zeitalter der deep - fakes wollte ich mal drüber nachdenken, ob man die auf der Homepage veröffentlichten Bilder (alle natürlich mit Zustimmung) irgendwie so markieren kann, dass man erkennt, wenn diese in deep-fakes verwendet werden.
Also so eine Art Wasserzeichen, welches dann nicht mehr für den Rest des deep-fakes da ist.
Hat von euch schon mal einer sowas gemacht?
Oder hat jemand ein anderes Konzept an der Stelle?
Viele Grüße
Frank Knoben
Hallo,
ich bin nicht tief in der Materie drin, bin aber zufälligerweise letztens über eine Artikel bei heise gestolpert zu dem Thema. Am MIT wurde ein Tool (PhotoGuard) entwickelt, dass verhindern soll, dass Bilder überhaupt erst nutzbar sind für Fakes. Effektiv ist es auf Stable Diffusion ausgelegt, aber vielleicht hilft das dem Zweck (oder dient als Ansatzpunkt für eigene Entwicklungen auf längere Sicht).
Heise: https://www.heise.de/news/Dieses-neue-Tool-koennte-Ihre-Bilder-vor-KI-Manipu... Github: https://github.com/MadryLab/photoguard
Herzliche Grüße -- André Amft
-----Ursprüngliche Nachricht----- Von: admin (Frank Knoben) admin@igpm.rwth-aachen.de Gesendet: Dienstag, 22. August 2023 15:40 An: rwth-security@lists.rwth-aachen.de Betreff: [rwth-security] Frage zu digitalen Wasserzeichen
Hallo Admins,
im Zeitalter der deep - fakes wollte ich mal drüber nachdenken, ob man die auf der Homepage veröffentlichten Bilder (alle natürlich mit Zustimmung) irgendwie so markieren kann, dass man erkennt, wenn diese in deep-fakes verwendet werden.
Also so eine Art Wasserzeichen, welches dann nicht mehr für den Rest des deep-fakes da ist.
Hat von euch schon mal einer sowas gemacht?
Oder hat jemand ein anderes Konzept an der Stelle?
Viele Grüße
Frank Knoben
Hallo Frank,
soll dieses Wasserzeichen sichtbar sein oder aber "nur" durch entsprechende Programme kenntlich gemacht werden?
Zu letzterem fällt mit z.B. steghide ein
Willst du auch Ausdrucke etc. mit einbeziehen.
Etwas markieren ist eine Sache, auch in X Jahren wiedererkennen die andere
Eine erste Suche führt u.a. zu
[0] IEEE: Image steganography and visible watermarking using LSB extraction technique [1] KIT: Introduction to watermarking and steganography [2] arXiv: Data Hiding with Deep Learning: A Survey Unifying Digital Watermarking and Steganography [3] Digital watermarking techniques for printed images (allerdings von 2012) [4] Reading watermakrs with a camera phone from printed images (schon von 2018) [5] arXiv: FastStamp: Accelerating Neural Steganography and Digital Watermarking of Images on FPGAs [6] Deepfake attack prevention using steganography GANs [7] Countermeasure against Deepfake Using Steganography and Facial Detection [8] A System for Mitigating the Problem of Deepfake News Videos Using Watermarking [9] From Disinformation to Deepfake [10] BSI: Deep Fakes – Threats and Countermeasures
Bei einer schnellen Durchsicht habe ich allerdings nichts über tools gelesen, daher mein Vorschlag, ich frage beim BSI (siehe [10]) mal nach.
VG
Bernd
[0] https://ieeexplore.ieee.org/document/7282315
[1] https://ies.anthropomatik.kit.edu/ies/download/lehre/idc/IDC-11-Watermarking...
[2] https://arxiv.org/abs/2107.09287
[3] http://jultika.oulu.fi/files/isbn9789526200583.pdf
[4] http://jultika.oulu.fi/files/isbn9789526218052.pdf
[5] https://arxiv.org/abs/2209.12391
[6] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC9680891/
[7] https://www.scirp.org/journal/paperinformation.aspx?paperid=112520
[8] https://library.imaging.org/admin/apis/public/api/ist/website/downloadArticl...
[9] https://catonetworks.easywebinar.live/registration-81
[10] https://www.bsi.bund.de/EN/Themen/Unternehmen-und-Organisationen/Information...
Hallo zusammen,
hier ein kurzes Update zu
On 23.08.23 09:03, Bernd Kohler wrote: ... ich frage beim
BSI (siehe [10]) mal nach.
...
[10] https://www.bsi.bund.de/EN/Themen/Unternehmen-und-Organisationen/Information...
Ich bekam die Tage schon die Antwort, dass dem BSI "keine Programme bekannt sind, die nicht auch leicht umgangen werden können, beziehungsweise welche zuverlässig Deepfakes im Audio oder Videobereich detektieren können auf generellen Daten jenseits des Trainingsmaterials.
Ich frage aber mal bzgl. "photoguard" nach.
VG
Bernd
Hallo zusammen,
zu diesem Thema bin ich gerade auf den Artikel [0] gestoſen
"Googles Wasserzeichen können nur Maschinen lesen"
FYI und VG
Bernd
[0] https://www.golem.de/news/synthid-googles-wasserzeichen-koennen-nur-maschine...
Hallo zusammen,
zu diesem Thema hier noch [0] als weitere Ergänzung
"Contextualizing Deepfake Threats to Organizations"
FYI und VG
Bernd
[0] https://media.defense.gov/2023/Sep/12/2003298925/-1/-1/0/CSI-DEEPFAKE-THREAT...
Hallo zusammen,
hier als kurzer FolloUp zu dem Thema, das Frank Knoben angestoßen hat, folgender Linkz zwecks Doku des status quo bei Deepfakes
https://twitter.com/BrivaelLp/status/1772023234512175290
Verwendet wurde hier [0] - etwas ähnlich einfach gibt es mit [1] für Fotos.
FYI und VG
Bernd
[1] https://huggingface.co/spaces/Tzktz/Swap-Face-Model
rwth-security@lists.rwth-aachen.de
-
admin (Frank Knoben) -
Amft, André -
Bernd Kohler