Die Magie von Style Transfer

Und das können Sie auch

Vladimir Alexeev
InterMERZ
3 min readJan 3, 2022

--

English Version (published on 21st of December 2018)

Popularisierung der Künstlichen Intelligenz

WWie bereits erwähnt, ist das Jahr 2018 ein Meilenstein für die Popularität und Zugänglichkeit von Open-Source-Anwendungen der Künstlichen Intelligenz. Früher konnte man bereits die TensorFlow-basierte Lösungen auf Ihrem PC installieren, mit entsprechendem Know-how und Programmierkenntnissen.

Google Colaboratory hilft hier mit Online-”Nootbooks”, interaktiven Installationen von KI-Anwendungen: KI-Forscher stellen den Anwendungscode mit eigenen Kommentaren, Erklärungen und der Möglichkeit, den Code auszuführen und zu verändern, zur Verfügung.

So zeigt zum Beispiel Alex Mordvintsev, Entwickler von Google Deep Dream, zusammen mit anderen KI-Forschern verschiedene faszinierende Notebooks zum Thema “Differentiable Image Parameterization”.

Die Stilübertragung

In diesem Experiment untersuchen die Deep Learned Systeme zwei Quellbilder — und übertragen deren Stil. Nicht nur Farben, sondern auch die Formen und Muster. Sie können dieses Experiment hier finden und ausprobieren.

Allein schon die Standard-Bilddemonstration ist sehr überzeugend.

Als anfängliche Stilquelle wird ein Gemälde von Van Gogh verwendet:

Van Gogh, De sterrennacht, 1889

Als Zielbild wird ein Foto von Big Ben verwendet:

Big Ben

Beide Bilder werden vom System in Ebenen analysiert (Stilebene, Inhaltsebene usw.) — dann werden, einfach gesagt, die Ebenenoptionen und Parameter übertragen, zusammengeführt und ein neues Bild erzeugt.

Ziemlich überzeugende Stilübertragung!

Sehen Sie sich den Himmel mit den neu generierten Sternen an, sehen Sie sich die perfekten Farben und Brückenformen an! (Kleine Anmerkung: Interessanterweise wurde die Uhrzeit am Big Ben geändert).

Lasst uns experimentieren

Wenn wir also unsere eigenen Quell- und Zielbilder wählen, können wir ausprobieren, wie genau der künstlerische Stil übertragen wird. Natürlich ist es eher eine KI-basierte Neuinterpretation des Stils. Der künstlerische Wert des Ergebnisses liegt im Auge des Betrachters.

Ich verwende für Testzwecke immer mein Userpic — ein Selfie, das ich einmal in einer polierten Eisenmurmel im Experimentiermuseum Schloss Freudenberg aufgenommen habe.

Merzmensch Userpic, © Merzmensch

So würde mein “Selfie” ”also aussehen, wenn Van Gogh es malen würde:

Die geschwungenen Pinselstriche, die Farben, die Dynamik des Himmels und die versteinerten Bewegungen der Bäume — alles sieht hier perfekt aus. Das System hat sogar einen Stern in das Endergebnis eingebaut — wo im Original nur eine Straße zu sehen ist.

Versuchen wir es mit meinem anderen Favoriten — René Magritte mit seinem “La chateau des Pyrenees” (1959).

In diesem Fall kann das System wahrscheinlich die surrealen Motive der beiden Bilder nicht richtig erkennen. Das Ergebnis jedoch lässt sich sehen. Die Steinstruktur ist überall.

Und hier kommt der MERZ-Künstler Kurt Schwitters mit seiner Merz-Art (Mz 601, 1923).

Interessanterweise werden die Muster der Collage perfekt wiedergegeben — man kann fast typografische Artefakte erkennen. Das Bild ist sogar in collageähnliche Muster unterteilt.

Probieren Sie das System selbst aus — lassen Sie die Zellen laufen, ändern Sie die Bildquellen im Code und sehen Sie, was Sie bekommen. Posten Sie in den Kommentaren Ihre interessanten Stiltransfer-Experimente!

--

--

Vladimir Alexeev
InterMERZ

Hello friends! I'm a Digital Experience Manager at DB Schenker. Welcome to my non-private account. I'm @merzmensch as well btw. Speaking 🇯🇵 🇩🇪 🇬🇧 🇷🇺