Frage zu digitalen Wasserzeichen
Hallo Admins, im Zeitalter der deep - fakes wollte ich mal drüber nachdenken, ob man die auf der Homepage veröffentlichten Bilder (alle natürlich mit Zustimmung) irgendwie so markieren kann, dass man erkennt, wenn diese in deep-fakes verwendet werden. Also so eine Art Wasserzeichen, welches dann nicht mehr für den Rest des deep-fakes da ist. Hat von euch schon mal einer sowas gemacht? Oder hat jemand ein anderes Konzept an der Stelle? Viele Grüße Frank Knoben
Hallo, ich bin nicht tief in der Materie drin, bin aber zufälligerweise letztens über eine Artikel bei heise gestolpert zu dem Thema. Am MIT wurde ein Tool (PhotoGuard) entwickelt, dass verhindern soll, dass Bilder überhaupt erst nutzbar sind für Fakes. Effektiv ist es auf Stable Diffusion ausgelegt, aber vielleicht hilft das dem Zweck (oder dient als Ansatzpunkt für eigene Entwicklungen auf längere Sicht). Heise: https://www.heise.de/news/Dieses-neue-Tool-koennte-Ihre-Bilder-vor-KI-Manipu... Github: https://github.com/MadryLab/photoguard Herzliche Grüße -- André Amft -----Ursprüngliche Nachricht----- Von: admin (Frank Knoben) <admin@igpm.rwth-aachen.de> Gesendet: Dienstag, 22. August 2023 15:40 An: rwth-security@lists.rwth-aachen.de Betreff: [rwth-security] Frage zu digitalen Wasserzeichen Hallo Admins, im Zeitalter der deep - fakes wollte ich mal drüber nachdenken, ob man die auf der Homepage veröffentlichten Bilder (alle natürlich mit Zustimmung) irgendwie so markieren kann, dass man erkennt, wenn diese in deep-fakes verwendet werden. Also so eine Art Wasserzeichen, welches dann nicht mehr für den Rest des deep-fakes da ist. Hat von euch schon mal einer sowas gemacht? Oder hat jemand ein anderes Konzept an der Stelle? Viele Grüße Frank Knoben
Hallo Frank, soll dieses Wasserzeichen sichtbar sein oder aber "nur" durch entsprechende Programme kenntlich gemacht werden? Zu letzterem fällt mit z.B. steghide ein Willst du auch Ausdrucke etc. mit einbeziehen. Etwas markieren ist eine Sache, auch in X Jahren wiedererkennen die andere Eine erste Suche führt u.a. zu [0] IEEE: Image steganography and visible watermarking using LSB extraction technique [1] KIT: Introduction to watermarking and steganography [2] arXiv: Data Hiding with Deep Learning: A Survey Unifying Digital Watermarking and Steganography [3] Digital watermarking techniques for printed images (allerdings von 2012) [4] Reading watermakrs with a camera phone from printed images (schon von 2018) [5] arXiv: FastStamp: Accelerating Neural Steganography and Digital Watermarking of Images on FPGAs [6] Deepfake attack prevention using steganography GANs [7] Countermeasure against Deepfake Using Steganography and Facial Detection [8] A System for Mitigating the Problem of Deepfake News Videos Using Watermarking [9] From Disinformation to Deepfake [10] BSI: Deep Fakes – Threats and Countermeasures Bei einer schnellen Durchsicht habe ich allerdings nichts über tools gelesen, daher mein Vorschlag, ich frage beim BSI (siehe [10]) mal nach. VG Bernd [0] https://ieeexplore.ieee.org/document/7282315 [1] https://ies.anthropomatik.kit.edu/ies/download/lehre/idc/IDC-11-Watermarking... [2] https://arxiv.org/abs/2107.09287 [3] http://jultika.oulu.fi/files/isbn9789526200583.pdf [4] http://jultika.oulu.fi/files/isbn9789526218052.pdf [5] https://arxiv.org/abs/2209.12391 [6] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC9680891/ [7] https://www.scirp.org/journal/paperinformation.aspx?paperid=112520 [8] https://library.imaging.org/admin/apis/public/api/ist/website/downloadArticl... [9] https://catonetworks.easywebinar.live/registration-81 [10] https://www.bsi.bund.de/EN/Themen/Unternehmen-und-Organisationen/Information... -- Bernd Kohler IT Center Abteilung: Netze RWTH Aachen University Wendlingweg 10 52074 Aachen Tel: +49 241 80-29793 Fax: +49 241 80-22666 kohler@itc.rwth-aachen.de https://www.itc.rwth-aachen.de Social Media Kanäle des IT Centers: https://blog.rwth-aachen.de/itc/ https://www.facebook.com/itcenterrwth https://www.linkedin.com/company/itcenterrwth https://twitter.com/ITCenterRWTH https://www.youtube.com/c/ITCenterRWTHAachen
Hallo zusammen, hier ein kurzes Update zu On 23.08.23 09:03, Bernd Kohler wrote: ... ich frage beim
BSI (siehe [10]) mal nach. ... [10] https://www.bsi.bund.de/EN/Themen/Unternehmen-und-Organisationen/Information...
Ich bekam die Tage schon die Antwort, dass dem BSI "keine Programme bekannt sind, die nicht auch leicht umgangen werden können, beziehungsweise welche zuverlässig Deepfakes im Audio oder Videobereich detektieren können auf generellen Daten jenseits des Trainingsmaterials. Ich frage aber mal bzgl. "photoguard" nach. VG Bernd -- Bernd Kohler IT Center Abteilung: Netze RWTH Aachen University Wendlingweg 10 52074 Aachen Tel: +49 241 80-29793 Fax: +49 241 80-22666 kohler@itc.rwth-aachen.de https://www.itc.rwth-aachen.de Social Media Kanäle des IT Centers: https://blog.rwth-aachen.de/itc/ https://www.facebook.com/itcenterrwth https://www.linkedin.com/company/itcenterrwth https://twitter.com/ITCenterRWTH https://www.youtube.com/channel/UCKKDJJukeRwO0LP-ac8x8rQ
Hallo zusammen, zu diesem Thema bin ich gerade auf den Artikel [0] gestoſen "Googles Wasserzeichen können nur Maschinen lesen" FYI und VG Bernd [0] https://www.golem.de/news/synthid-googles-wasserzeichen-koennen-nur-maschine... -- Bernd Kohler IT Center Abteilung: Netze RWTH Aachen University Wendlingweg 10 52074 Aachen Tel: +49 241 80-29793 Fax: +49 241 80-22666 kohler@itc.rwth-aachen.de https://www.itc.rwth-aachen.de Social Media Kanäle des IT Centers: https://blog.rwth-aachen.de/itc/ https://www.facebook.com/itcenterrwth https://www.linkedin.com/company/itcenterrwth https://twitter.com/ITCenterRWTH https://www.youtube.com/channel/UCKKDJJukeRwO0LP-ac8x8rQ
Hallo zusammen, zu diesem Thema hier noch [0] als weitere Ergänzung "Contextualizing Deepfake Threats to Organizations" FYI und VG Bernd [0] https://media.defense.gov/2023/Sep/12/2003298925/-1/-1/0/CSI-DEEPFAKE-THREAT... -- Bernd Kohler IT Center Abteilung: Netze RWTH Aachen University Wendlingweg 10 52074 Aachen Tel: +49 241 80-29793 Fax: +49 241 80-22666 kohler@itc.rwth-aachen.de www.itc.rwth-aachen.de Social Media Kanäle des IT Centers: https://blog.rwth-aachen.de/itc/ https://www.facebook.com/itcenterrwth https://www.linkedin.com/company/itcenterrwth https://twitter.com/ITCenterRWTH https://www.youtube.com/channel/UCKKDJJukeRwO0LP-ac8x8rQ
Hallo zusammen, hier als kurzer FolloUp zu dem Thema, das Frank Knoben angestoßen hat, folgender Linkz zwecks Doku des status quo bei Deepfakes https://twitter.com/BrivaelLp/status/1772023234512175290 Verwendet wurde hier [0] - etwas ähnlich einfach gibt es mit [1] für Fotos. FYI und VG Bernd [0] https://www.argil.ai/ [1] https://huggingface.co/spaces/Tzktz/Swap-Face-Model -- Bernd Kohler IT Center Abteilung: Netze RWTH Aachen University Wendlingweg 10 52074 Aachen Tel: +49 241 80-29793 Fax: +49 241 80-22666 kohler@itc.rwth-aachen.de www.itc.rwth-aachen.de Social Media Kanäle des IT Centers: https://blog.rwth-aachen.de/itc/ https://www.facebook.com/itcenterrwth https://www.linkedin.com/company/itcenterrwth https://twitter.com/ITCenterRWTH https://www.youtube.com/channel/UCKKDJJukeRwO0LP-ac8x8rQ
participants (3)
-
admin (Frank Knoben) -
Amft, André -
Bernd Kohler