Lensa: Aussehen wie ein Superheld – mit Folgen

Mithilfe der “Lensa”-App verwandeln Menschen sich selbst in heldenhafte KI Avatare und posten die Resultate in den sozialen Medien. Allerdings steht die App in der Kritik. Was sagt eine angehende Juristin und KI-Forscherin dazu? 

Titelbild: Laura Reichhart

Die App “Lensa” der Firma Prisma Labs Inc. begeistert seit Monaten Millionen von Nutzer*innen. Die Foto-App an sich existiert schon seit 2018, erfreut sich aber erst jetzt großer Beliebtheit. “Lensa” kann mithilfe von künstlicher Intelligenz aus normalen Selfies künstlerische Avatare erstellen. Diese KI-Avatare werden dann auf sozialen Netzwerken wie Instagram gepostet. Der Trend scheint aber langsam wieder abzuebben, denn “Lensa” steht stark in der Kritik. Warum und was die kunstvollen Bilder für Artists auf der ganzen Welt bedeuten, darüber hat FINK.HAMBURG mit der angehenden Juristin und KI-Forscherin Dalia Moniat gesprochen.

KI bedeutet “Künstliche Intelligenz” und wird oft mit der Abkürzung AI synonym verwendet, die für “Artifizielle Intelligenz” steht. Grundsätzlich geht es bei KI darum, menschenähnliche Intelligenzleistungen beziehungsweise Fähigkeiten auf Maschinen zu übertragen, etwa logisches Denken, Lernen und Kreativität.

Dalia Moniat hat 2020 beim Artificial Intelligence Center Hamburg e.V (KI Kompetenzzentrum) als wissenschaftliche Mitarbeiterin gearbeitet und sich dort hauptsächlich mit den Bereichen KI und Kunst beschäftigt. Freiberuflich arbeitet die 27-Jährige als Illustratorin. Mit der KI-Bildgenerierung beschäftigt sie sich auch im Rahmen ihrer Forschungsarbeit.

FINK.HAMBURG: Frau Moniat, wie kann eine App wie “Lensa” künstlerische KI Avatare aus normalen Handybildern erstellen?

Dalia Moniat: Eine Bildbearbeitungsapp wie “Lensa” arbeitet auf Grundlage des KI-Modells Stable Diffusion. Das ist eine Open-Source Software, ein maschinelles Lernmodell zur künstlichen Bilderzeugung. Eine KI muss erstmal trainiert werden. Die Lernprozesse bei einer KI sind menschenähnlich, es funktioniert viel nach einem Zuordnungsverfahren und Mustererkennung. Das KI-Modell lernt, Muster und Symbole in Daten zu erkennen, sie herauszuziehen und basierend auf die Nutzungsart des Tools in eigener Regie einzusetzen. Bei der “Lensa”-App handelt es sich primär um ein Bildbearbeitungstool, das individuelle Profilbilder um weitere künstlerisch und künstlich erzeugte Bildvariationen ergänzt.

Die KI kann basierend auf der Analyse eines großen Datensatzes neue Bilder aus bereits vorhandenen Bildern – oft urheberrechtlich geschütztes Bildmaterial – produzieren. Wenn zum Beispiel ein bereits existierendes Foto eingebettet wird in  einer App wie “Lensa” und daraus entstehen neue Stil-Funktionen, dann hat diese App natürlich diese Stil-Funktion erstmal zuvor von einem anderen Bild genommen und als Trainingsmaterial genutzt. Das heißt, alles was danach entsteht, ist eine neue künstlich generierte „Erschaffung“ der KI und letzten Endes ein neuer Output, der basierend auf diesem Trainingsmaterial generiert wird. In diesem Fall arbeitet “Lensa” im Hintergrund mit einem Diffusionsmodell, das durch eine Art Rauschen und Entrauschen die wichtigsten Bildelemente dekonstruiert und wieder neue Bilddaten rekonstruiert. Durch diese Art des maschinellen Lernens, gelingt es Tools wie “Lensa”, eine stechend scharfe Bildqualitäten zu erzeugen.

FINK.HAMBURG: Die App “Lensa” wird sehr gehyped. Haben Sie die Funktion der App selbst auch ausprobiert? 

Dalia Moniat: Eigentlich bin ich ein Freund oder Fan davon, KI-Tools zu nutzen und ich probiere sie selbst gerne aus. Bei der “Lensa”-App war ich aber vorsichtig, weil es eben um personalisierte Daten ging. Man willigt durch die Nutzung ein, Teil des Trainingsprozesses der KI zu sein und über diese Datenbank reinzukommen. Man ist dann sozusagen Teil dieser KI. Zudem müssen User*innen, die Selfies in der App hochladen, ihre Rechte daran abtreten. Ich wollte mich davor schützen, dass ich Teil eines Trainingsprozesses für eine kommerzielle App werde, von der ich nicht weiß, wie sie mit meinen persönlichen Daten umgeht. Deswegen habe ich das bisher nicht gemacht.

FINK.HAMBURG: “Lensa” steht nicht nur wegen des Datenschutzes in der Kritik, sondern auch wegen Sexualisierung von Frauenkörpern. Userinnen wurden durch die App als halbnackter Avatar präsentiert, auch wenn sie auf dem Originalbild bekleidet waren. 

Dalia Moniat: Diese Kritik kann ich total nachvollziehen und diese Reproduktion von weiblichen Körpern in der sexualisierten Form finde ich auch verwerflich. Das Problem ist einerseits, dass wir es generell noch mit vielen KI-Tools zu tun haben, die bestimmte Stereotype und Klischees – auch bildbezogen – reproduzieren. Aber es hat auch viel mit dem Ausgangsmaterial zu tun. Die heldenartigen Stilistiken, welche die App “Lensa” nutzt, beruhen auf einem stereotypischen Bild einer Superheldin, das in unserer Gesellschaft leider noch immer sexualisiert wird.

FINK.HAMBURG: Wenn das Ausgangsmaterial der KI sexualisierte Frauenbilder darstellt, an wen richtet sich dann eigentlich die Kritik? An die Macher*innen der App “Lensa” ?

Dalia Moniat: Die App-Entwickler*innen sind nicht unschuldig, denn die Entscheidung dafür, welche Trainingsmaterialien genutzt werden, liegt bei den Macher*innen der App. Bevor eine App überhaupt in die Gesellschaft gegeben wird, muss sie, wie gesagt, erst einmal trainiert werden mit Inhalten und auch mit Stilistiken. Letztlich kommt das Ausgangsmaterial aber aus unserer Umwelt. Diese sexualisierten Frauenbilder von “Lensa” sind nicht rein KI-generiert, das ist alles von der menschlichen Vorstellungskraft in eine KI übertragen worden. Und ja, die KI generiert Neues, aber auch basierend darauf, was wir eigentlich schon erschaffen haben. Daher finde ich das schwierig zu beantworten, weil ich glaube, der Vorwurf geht nicht nur an die KI oder die Macher*innen, sondern eigentlich auch an unsere Art und Weise, wie wir Dinge sehen und wie wir sie bebildert haben, also wie wir Frauen immer noch visualisieren.

FINK.HAMBURG: Trotz großer Kritik nutzen viele User*innen weiterhin die App und laden ihre KI-Avatare auf ihren Social-Kanälen hoch: Wieso?

Dalia Moniat:  Ich würde behaupten, dass es auch einen gewissen Nerv unserer Zeit trifft. Was immer gut ankommt in der Masse, ist das, was wir uns wünschen, aber nicht einfach kriegen können: die Selbstdarstellung in ganz kurzer Zeit, ohne dass wir was dafür tun müssen. Und zwar so, dass wir im guten Licht dastehen. Und während es uns manchmal schwerfällt, Schönheitskriterien zu entsprechen und immer topfit vor der Kamera zu stehen, kann uns diese App innerhalb von wenigen Sekunden in Held*innen verwandeln. Das ist ja erstmal was Schönes. Das trifft emotionale Bedürfnisse, die niedrigschwellig im Unterbewusstsein sind. Und wenn dann auch Stars und Influencer*innen mitmachen, dann löst das, glaube ich, auf so einer emotionalen Ebene ganz schnell den Druck aus, dazugehören zu wollen und eben auf diesen Trend aufzuspringen.

FINK.HAMBURG: Ein weiterer Kritikpunkt an der App ist, dass “Lensa” künstlerische Stilformen anderer Bilder klaut und durch die KI in neue Kunstwerke produziert. Die Angst vieler Künstler*innen wächst, bald ganz von der KI ersetzt zu werden. Wie stehen Sie dazu?

Dalia Moniat: Die Angst vor neuen Technologien ist schon immer da. Es kann sein, dass viele Berufe große Einschneidungen haben werden durch die Weiterentwicklung von KI. Aber das betrifft dann auch flächendeckend viele Berufe und nicht nur einen bestimmten Berufszweig wie den Künstler*innenbereich. Wir haben da eher noch ein anderes Problem: ein massenhaftes Anwachsen von zu vielen Künstler*innen, die durch neue Tools und auch eine neue Plattformen die Möglichkeit haben, sich Künstler*in zu nennen und eben als Künstler*in sich auch auf dem Markt zu behaupten. Die Frage ist auch: Welchen Vermögenswert hat die generierte Kunst und welchen Vermögenswert hat Kunst durch den Menschen? Und wer bestimmt diese ganzen Parameter? Die KI kann in der Kunst aber auch von Vorteil sein und Künstler*innen können lernen, sie für sich zu nutzen.

FINK.HAMBURG: Inwiefern kann die KI Künstler*innen von Vorteil sein?

Dalia Moniat: Dafür gibt es schon sehr gute Beispiele. Die ganzen Bildgenerierungstools wie DALL-E, Midjourney oder Stable Diffusion helfen auch in dem eigenen kreativen Findungsprozess oder bei der Ideenentwicklung visuell zu unterstützen. Man kann diese Tools nutzen, um einige Beispiele erstmal zu generieren, dann weiterzuentwickeln oder eben anderweitig vielleicht als Entscheidungsgrundlage, also für den künstlerischen Prozess zu nutzen. Eine KI nur als Unterstützungsapparat für eigene Projekte zu verwenden, finde ich sehr positiv. Und ich glaube, dass damit eigentlich die künstlerische Arbeit fruchtbarer wird, weil man dadurch noch mehr Optionen hat. Dass es die Kreativität einschränkt, sehe ich nicht. Es sind einfach weitere Optionen, wie man kreativ arbeiten kann.

FINK.HAMBURG: Sie haben jetzt schon positive Eigenschaften der KI in der Kunst aufgezählt. Inwiefern kann sich denn KI in der Kunst negativ auswirken? 

Dalia Moniat: Ich finde die Begriffe “negativ” und “positiv” ziemlich schwer als Fokuspunkt einer Debatte. Und ich störe mich ein bisschen daran, weil ich glaube, die Nutzung von künstlicher Intelligenz ist immer mit Vorsicht zu genießen. Es kommt weniger auf das Werkzeug selbst an, sondern mehr auf den Menschen und seine Intention und Motivation. Ich würde die Verantwortung nicht auf die KI abwälzen.

FINK.HAMBURG: Sind KI-generierte “Kunstwerke” denn auch kunstrechtlich geschützt wie von Menschen gemachte Kunstwerke?

Dalia Moniat: KI-generierte Inhalte haben derzeit noch keinen eigenen kunstrechtlichen Schutz, also zumindest nicht global und schon gar nicht im deutschen Raum. Rechtlich bekommt das generierte Kunstwerk also keinen Urheberrechtsschutz. Auch die Bilder von “Lensa” sind nicht urheberrechtlich geschützt, sie können also legal weiterverwendet werden. Das hat mit einer ganz einfachen Erklärung zu tun: Das Urheberrecht, beziehungsweise der Schutz des Kunstwerks, hat den Menschen zum Mittelpunkt aller Kunst erklärt. Und eine Maschine hat keinen schöpferischen Anteil. Und dieser schöpferische Anteil an einem Werk setzt von vornherein voraus, dass das ein Mensch gemacht hat. Insofern es eine Maschine ist, ist es nach derzeitiger Rechtslage eben nicht schöpferisch gewesen – ganz egal wie schöpferisch oder kreativ der Prozess gewesen sein mag.