# taz.de -- Regulierung von KI-generierten Inhalten: Der Mensch hinkt hinterher
       
       > Das Geschäft mit computergenerierten Influencer*innen boomt. Das
       > ruft rechtliche und ethische Probleme hervor.
       
 (IMG) Bild: Bald werden Bilder wie dieses mit künstlicher Intelligenz produziert
       
       Künstlich geschaffene Persönlichkeiten gibt es seit einigen Jahren. Sie
       haben im Netz Tausende Fans und verdienen für ihre Erschaffer:innen
       viel Geld. Da wären zum Beispiel Sika Moon und [1][Aitana Lopez],
       Influencerinnen im sexy Outfit mit pinken Haaren, ins virtuelle Leben
       gerufen vom spanischen Designer Rubén Cruz. Oder [2][Shudu], ein Schwarzes
       Model, die ein Konstrukt des Modefotografs Cameron-James Wilson ist. Oder
       auch [3][Lil Miquela], Instagram-Star und Musikerin, die einem Start-up aus
       Los Angeles entstammt.
       
       [4][Besonders in der Schönheitsindustrie revolutioniert künstliche
       Intelligenz das Geschäft]. Das liegt daran, dass die KI inzwischen auch
       Bildbearbeitung kann. Sie hübscht vorhandene Fotos mit Filtern und Montagen
       zu Beautyshots auf oder generiert gänzlich neue Optiken, ohne dass es je
       ein Original gegeben hätte.
       
       KI ist überall dort im Einsatz, wo zahlende Kund*innen vor ihren
       Bildschirmen von neuen Inhalten überflutet werden wollen – und sich oft
       insgeheim nach Idealen sehnen, denen kein echter Mensch gerecht werden
       kann. Dort, wo Influencer*innen ihr Publikum und ihre Sponsor*innen
       mit außergewöhnlichen Bildern und Videos bei Laune halten; immer gut
       gelaunt, immer gut aussehend, immer aktiv und unterwegs, auf Reisen, beim
       Sport, beim Kochen, beim Tanzen, auf dem Sofa mit der Katze.
       
       Je mehr Follower*innen, also je größer das Publikum, desto mehr zahlen die
       Werbekund*innen. Sie machen das Influencerleben überhaupt erst möglich.
       Micro-Influencer mit ein paar Tausend Follower*innen verdienen um die
       50 Euro pro Post, Mega-Influencer mit Millionen Fans bekommen dafür 15.000
       Euro.
       
       ## Authentizität und Illusion
       
       Das Modelmachen mit dem Einsatz künstlicher Intelligenz funktioniert so:
       Ein gutes Bild braucht einen guten Prompt, also eine gute Anweisung. Dann
       ist die KI dran. Je genauer sie das Verhältnis zwischen Wort und Bild
       definieren kann, desto besser wird das Ergebnis. Etliche Firmen trainieren
       ihre Programme genau darauf. Unmengen an Bilddaten brauchen sie dafür. Sie
       nutzen vor allem die, die öffentlich zugänglich sind. Also die Fotos und
       Clips, die wir täglich auf Instagram und Tiktok zeigen. Die KI lernt
       schnell, die Grenzen zwischen menschen- und computergenerierten Inhalten
       verschwimmen.
       
       Während die einen Influencer*innen Produkte, Orte und Events bewerben,
       bewerben andere sich selbst. Jugendfreie Inhalte landen auf gängigen
       sozialen Netzwerken wie Instagram und Tiktok, Expliziteres auf Onlyfans
       oder Fanvue. Dort sind auch pornografische Inhalte erlaubt. Kund*innen
       legen sich einen Account an und bezahlen für die Abos der Anbieter*innen.
       Knapp zehn Euro im Monat kostet es, zum Beispiel mit Sika Moon zu chatten
       oder ihre Bilder und Videos sehen zu dürfen.
       
       Wie authentisch menschlich oder illusorisch künstlich die Inhalte sein
       sollen, kann jede*r für sich entscheiden. Noch lässt sich halbwegs
       erkennen, wo und wie viel KI dahintersteckt. Wo das nicht mehr möglich ist,
       könnten verpflichtende Kennzeichnungen helfen. Kamerahersteller wie Canon
       und Nikon werden künftig die von ihren Kameras geschossenen Bilder mit
       digitalen Wasserzeichen versehen. Doch es wird auch nötig sein, dass
       KI-gestützte Programme im Nachhinein erkennen, welche Inhalte von KI
       erstellt sind.
       
       Denn die nächste Revolution des Pornoangebots steht schon bevor: Bald
       werden KI-generierte Videos gut genug sein, um mit „echten“ Pornoclips
       konkurrieren zu können. KI-generierte Bewegtbilder gibt es zwar längst. Es
       sieht aber noch etwas gruselig aus, wenn ein KI-Will-Smith KI-Pasta
       verschlingt oder fünfbeinige Hundewelpen aus anderen Hunden heraussprudeln.
       
       Damit eine KI Videos erschafft, die aussehen wie von einer Filmkamera
       aufgenommen, muss sie etliche Faktoren berücksichtigen: Physikalische
       Eigenschaften müssen ebenso stimmen wie Licht und Farbe, ein Bild muss
       logisch dem vorherigen folgen. Das erfordert größere Datenmengen, als die
       KI für Texte braucht. Open AI, die Firma, die uns mit ChatGPT ins Staunen
       versetzt hat, ist schon dran: Ihre Video-KI Sora soll in den nächsten
       Monaten für alle nutzbar sein. Die ersten Promovideos sehen erschreckend
       echt aus.
       
       ## Angst vor Deepfakes
       
       Auch wenn die KI noch keine perfekten Videos erstellen kann, gibt es
       bereits Probleme: hinreichend echt wirkende Deepfakes. Dabei werden etwa
       Gesichter von realen Personen in bestehende Bilder hineinmontiert.
       Technisch gesehen ist das für alle Videos möglich. Nach Angaben der
       Cybersecurity-Firma [5][Deeptrace] jedoch sind 96 Prozent aller Deepfakes
       im Netz Porno.
       
       Erst wurden reihenweise Schauspielerinnen und Sängerinnen Opfer der
       rufschädigenden Manipulation. Nach Scarlett Johansson und Taylor Swift
       traf es dann Privatpersonen, Exfreundinnen, Kollegen. Bei den ersten
       Deepfakes von 2017 etwa konnte man die Täuschung noch leicht erkennen.
       Sieben Jahre später ist das schon schwerer.
       
       Der Schutz der Persönlichkeit gilt im Netz de jure, aber nicht de facto.
       Verantwortliche sitzen im Ausland oder es stehen technische Hürden im Weg,
       um Gesetze und Strafen geltend zu machen. Vor Kurzem hat das EU-Parlament
       den [6][„AI-Act“] beschlossen. Die darin enthaltenen Richtlinien sollen vor
       Gefahren schützen, auch vor täuschend echt gefälschten Bildern. Europa
       reagiert damit schneller als andere Kontinente der Welt. Schneller als die
       künstliche Intelligenz kann der Apparat der Bürokratie aber nicht sein. Sie
       muss den Nebenwirkungen ihrer Evolution folgen.
       
       Der große Unterschied zwischen menschengemachter und KI-generierter
       Pornografie werde der sein, dass die beteiligten Menschen den entstehenden
       Bildern im besten Fall zustimmen müssen, sagt Lori Watson von der
       Washington University. Bei einer KI ohne Bewusstsein sei das nicht nötig.
       In ihrem Text über Ethik in Pornografie und Sexarbeit schreibt die
       Philosophieprofessorin, dass die KI eine Dynamik schaffen werde, in der wir
       genau den Sex bekommen, nach dem wir fragen – und zwar schneller, als wir
       ein ethisches Verständnis dafür entwickeln würden.
       
       25 Mar 2024
       
       ## LINKS
       
 (DIR) [1] https://www.instagram.com/fit_aitana/?hl=de
 (DIR) [2] https://www.instagram.com/shudu.gram/?hl=de
 (DIR) [3] https://www.instagram.com/lilmiquela/?hl=de
 (DIR) [4] /Die-KI-App-und-das-Aussehen/!5947912
 (DIR) [5] https://regmedia.co.uk/2019/10/08/deepfake_report.pdf
 (DIR) [6] /Neue-Regeln-fuer-KI/!5994919
       
       ## AUTOREN
       
 (DIR) Philipp Brandstädter
       
       ## TAGS
       
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Kolumne Intelligenzbestie
 (DIR) Porno
 (DIR) Influencer
 (DIR) Sex
 (DIR) Schönheit
 (DIR) Ethik
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Blockchain
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Schwerpunkt Überwachung
 (DIR) Schwerpunkt Feministischer Kampftag
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Künstliche Intelligenz im Wahlkampf: Wenn Robo-Scholz anruft
       
       Pünktlich zum Super-Wahljahr 2024 ist das Zeitalter der KI angebrochen. Die
       taz hat sich umgehört, was das für die Wahlen bedeutet.
       
 (DIR) Künstliche Intelligenz und Vermüllung: KI killt das Web
       
       Jetzt, wo nahezu alle KI benutzen können, gilt vor allem eins: Das Netz
       quillt vor KI-generiertem Müll über. Ist das Internet noch zu retten?
       
 (DIR) Umgang mit künstlicher Intelligenz: Akzeptanz braucht Transparenz
       
       KI bietet Chancen. Um einen guten Umgang mit ihr zu finden, muss es noch
       viel mehr Transparenz über ihren Einsatz und ihre Risiken geben.
       
 (DIR) Gesetz zur künstlichen Intelligenz: Neue Technologie, neue Überwachung
       
       Der AI Act ist beschlossen. Das überwachungs- und wirtschaftsfreundliche
       Ergebnis ist kein Zufall. Doch es ist gut, dass das Regelwerk jetzt
       durchkam.
       
 (DIR) Werben mit virtuellen Influencern: Sind die bitte echt?
       
       Erste digitale Models und Influencer*innen sind bereits erfolgreich.
       Aber wie nahbar können KI-generierte und virtuelle Schönheiten sein?