Post Ac63ximVfvbS51PIIq by mspro@social.tchncs.de
(DIR) More posts by mspro@social.tchncs.de
(DIR) Post #Ac63xR63QWXdEQPeGe by isotopp@chaos.social
2023-11-23T09:48:39Z
0 likes, 0 repeats
Vor vielen Jahren habe ich einmal mit einem Team eine Studie für das Bundesministerium für Wirtschaft (sic!) verfaßt, bei der es um Jugendschutz im Internet geht.Das Problem dabei war, daß so gut wie keine Inhalte im Internet deutsche Jugendschutzlabels haben.Für kommerzielle Inhalte außerhalb des Internets gibt es solche Labels fast immer, denn diese kommen ja von deutschen Herstellern auf den deutschen Markt und sie sind mit kommerziellen Interessen hergestellt.
(DIR) Post #Ac63xS2Xv3KU9pmMRE by isotopp@chaos.social
2023-11-23T09:50:23Z
0 likes, 0 repeats
Diese kommerziellen Interessen sind aus zwei Gründen wichtig:Einmal gibt es so ein Budget, mit dem man die Inhalte bewerten lassen kann. Das Ding, etwa ein Film oder eine Zeitung, soll Geld verdienen, also kann man Geld ausgeben, um das klassifizieren zu lassen.Zum anderen haben die Ersteller des Dings so ein Interesse daran, die Bewertung so hoch wie nach den Kriterien notwendig zu machen, aber so niedrig wie möglich, damit man möglichst viele Menschen erreichen kann.
(DIR) Post #Ac63xSoP37buYGAa24 by isotopp@chaos.social
2023-11-23T09:52:09Z
0 likes, 0 repeats
Das BMWI war, wie auch alle anderen Ministerien verstört, daß sich der Markt im Internet nicht selbst regulierte:Einmal war es nun kein deutscher Markt mit deutschen Regeln mehr, sondern weltweit.Und dann waren die treibenden Dinge, die das System außerhalb des Internet am Leben hielten, im Internet nicht gegeben.Leute haben Inhalte erstellt. Also irgendwelche Leute, nicht wenige kommerzielle Entitäten. Das sind mehr, als man regulatorisch handhaben kann, UND
(DIR) Post #Ac63xTqvBFDdmMM6b2 by isotopp@chaos.social
2023-11-23T09:53:36Z
0 likes, 0 repeats
sie haben das nicht zwingend mit kommerziellen Interessen getan.Damit gibt es kein Budget, und schlimmer noch, kein Interesse an einer möglichst niedrigen Bewertung.Der durchschnittliche Internet-Gratis-Content-Produzent hat keinerlei zwingendes Interesse daran, Content ins Netz zu stellen und ihn jedermensch zugänglich zu machen. Er hat jedoch ein dringendes Interesse daran, das Problem vom Tisch zu haben. "Ab 18" und gut ist.Das ist dasselbe Label, das man sicherheitshalber…
(DIR) Post #Ac63xUvDCmFH5xN2vI by isotopp@chaos.social
2023-11-23T09:55:14Z
0 likes, 0 repeats
auch allen unbewerteten Inhalten ohne Label verpassen muß. Das macht das Problem noch einfacher: Einfach gar nicht bewerten und zack, der Absender hat keine Arbeit und kein Problem damit, daß Leute unter 18 sein Zeugs nicht lesen können.Das Problem, daß das BMWI hat, ist also, daß ALLE Leute auf der Welt Arbeit haben, damit in einem Kindernet überhaupt irgendwas zu sehen ist, weil das BMWI bestimmte Inhalte nicht sichtbar haben will – und gerade diese Leute haben dann keine Arbeit.
(DIR) Post #Ac63xVorrqlTsZPUfo by isotopp@chaos.social
2023-11-23T09:57:54Z
0 likes, 0 repeats
Wie dem auch sei, man experimentierte damals mit Selbstbewertung. nach PICS.Das ist eine Metrik, die Sexuelle Inhalte, Nackheit, Gewalt und Sprache von 0 (nicht vorhanden) bis 5 (zentral und explizit vorhanden) einstuft.
(DIR) Post #Ac63xWoYAW6YxsGkoi by isotopp@chaos.social
2023-11-23T09:58:21Z
0 likes, 0 repeats
Also zB0: Keine Nacktheit - Der Inhalt enthält überhaupt keine Nacktheit.2: Leichte Nacktheit - Gelegentliche, nicht-sexualisierte Darstellungen von Nacktheit, beispielsweise in medizinischem Kontext.4: Klare Nacktheit - Deutliche Darstellungen von Nacktheit, nicht unbedingt in sexuellem Kontext5: Explizite oder sexualisierte Nacktheit, einschließlich expliziter oder pornografischer Darstellungen.
(DIR) Post #Ac63xXbpDJWJQhK6ca by isotopp@chaos.social
2023-11-23T09:59:50Z
0 likes, 0 repeats
Wichtig dabei ist, daß man nur objektive Kriterien anlegen kann, also Dinge beschreiben oder bewerten, die da sind, ohne einen kulturellen Kontext zu setzen.Denn sonst ist eine Selbstbewertung kulturell kontextualisiert und daher außerhalb des originären Kulturkreises nutzlos.Daran scheitert das System dann auch. Das kann man demonstrieren, indem man Leute bittet, diese beiden Bilder zu bewerten:
(DIR) Post #Ac63xYT01c3S5cCZVI by isotopp@chaos.social
2023-11-23T10:01:34Z
0 likes, 0 repeats
Bitte stuft diese Bilder einmal ein, nach Nacktheit, sexuelle Handlungen, Gewalt und Sprache, je auf einer Skala von 0 bis 5.Genau.
(DIR) Post #Ac63xZI2xot6dw5L4S by isotopp@chaos.social
2023-11-23T10:03:00Z
0 likes, 0 repeats
ChatGPT kann auch Bilder analysieren und bewerten und hat das Model links als "1-2" auf Nacktheit und 000 für den Rest bewertet. Das Model rechts war dann 0000.Fragt man nachWarum bewertest Du die Sexuellen Inhalte hier nicht mit 0? Die Person steht in nicht aufreizender Pose und blickt passiv in die Kamera. Eine zweite Person ist nicht zu sehen, es werden keine sexuellen Handlungen vorgenommen oder angedeutet?
(DIR) Post #Ac63xa5fzIaR7rIyQa by isotopp@chaos.social
2023-11-23T10:03:21Z
0 likes, 0 repeats
bekommt manSie haben recht, dass die Pose der Person nicht ausdrücklich sexuell ist und keine sexuellen Handlungen oder Anspielungen erkennbar sind. Wenn man die Bewertungsskala strikt interpretiert und das Bild in einem neutralen Kontext betrachtet, wo die Kleidung und Pose nicht zwangsläufig als sexuell konnotiert angesehen werden, könnte die Bewertung für sexuelle Inhalte tatsächlich mit 0 angesetzt werden.
(DIR) Post #Ac63xanHNBStJ5hnOK by isotopp@chaos.social
2023-11-23T10:03:47Z
0 likes, 0 repeats
Die Kriterien für eine solche Bewertung sind oft subjektiv und können von der Wahrnehmung des Betrachters oder den Richtlinien der bewertenden Organisation abhängen. In einem konservativeren Bewertungskontext könnte die enge und glänzende Kleidung als sexuell suggestiv empfunden werden, was zu einer niedrigeren, aber nicht null Bewertung führen könnte. In einem liberaleren Kontext oder in einer Gesellschaft, in der solche Kleidung als weniger konnotativ angesehen wird, wäre die Bewertung 0.
(DIR) Post #Ac63xbZUTw1ticGIXQ by isotopp@chaos.social
2023-11-23T10:04:56Z
0 likes, 0 repeats
Und das ist genau das hüpfende Komma.Sogar ChatGPT bewertet eine Frau mit enger glänzender Kleidung als Nackt, obwohl sie objektiv bekleidet seit, weil das anderswo irgendwelche sexualisierten Konnotationen haben könnte.Auf der Nacktheits-Skala, nicht auf der sexualsierte Handlungen Skala.
(DIR) Post #Ac63xcOBRSZyFpymYK by isotopp@chaos.social
2023-11-23T10:06:38Z
0 likes, 0 repeats
Noch einmal:Ein LLM "sieht" Dinge, die objektiv nicht da sind, nachdem man ihm erklärt hat, wie die Skalen funktionieren und warum objektive Bewertung notwendig ist, denn subjektive Kriterien sind nicht portabel.Also unabhängig von der Frage, WARUM jemand seine Inhalte so niedrig wie möglich einstufen sollte, werden Inhalte präventiv höher eingestuft als objektiv notwendig ist. Von einer Maschine.Ich wünsche uns allen viel Glück.
(DIR) Post #Ac63xeNY2nG8QRhIq8 by isotopp@chaos.social
2023-11-23T10:57:35Z
0 likes, 0 repeats
Wenn man nun einmal innehält, und sich fragt, wieso denn die Kategorien genau so gewählt sind, wird eher klar, worum es eigentlich geht und wieso das Bundesministerium für Wirtschaft das angeleiert hat.Die Kategorien versuchen, Dinge zu erfassen, an denen jemand Anstoß nehmen könnte.Damit das mit der Selbstbewertung paßt, müssen die Skalen objektive Kriterien haben, grob unterteilt sein, und wenige sein, aber man versucht grob die Themen abzudecken, an denen (im westlichen Kulturkreis) …
(DIR) Post #Ac63xfGUkVDBArPBU8 by isotopp@chaos.social
2023-11-23T10:59:20Z
0 likes, 0 repeats
Empörung entstehen könnte.Dann versucht man, Leute zu motivieren – mit welcher Methode auch immer – Inhalte selbst nach diesen Kategorien einzuteilen.Das ist aber nur notwendig, um anstößige Inhalte zu enablen. Denn die Default-Bewertung muß ja zwangsläufig "ab 18" (bzw 5555) sein für alles, was kein Label hat.Die Leute, die anstößige Inhalte haben, können also mit dem Default leben. Alle anderen nicht.Aber sie haben nicht nur Arbeit, sondern auch Risiko.
(DIR) Post #Ac63xg8jUqb3t4mV1c by isotopp@chaos.social
2023-11-23T11:01:15Z
0 likes, 0 repeats
Ich soll ja meine Inhalte so niedrig wie möglich bewerten, damit möglichst viele Menschen sie sehen können. Aber wenn ich einfach gedankenlos "0000" auf alles pappe, werde ich unter Umständen verklagt.Wenn ich gedankenlos "5555" auf alles Pappe, nicht. Oder wenn ich gar nichts bewerte.Die einzig rechtssichere Reaktion auf so ein System ist also auch die einzig kostengünstige Reaktion. Nichts zu bewerten macht keine Arbeit und erreicht den sichersten Zustand ("erring on the side of caution")
(DIR) Post #Ac63xh83opeYxHTTcG by isotopp@chaos.social
2023-11-23T11:02:54Z
0 likes, 0 repeats
Nun habe ich also Bilder in ChatGPT-4 rein geworfen und das LLM gebeten, automatisch Inhaltslabel zu generieren.Das hat es auch getan, und die waren "fast" korrekt – das Label für das weibliche Modell war nicht objektiv, das LLM hat mögliche sexuelle Konnotationen angenommen, und sie auf der Skala Nacktheit (!) bewertet, obwohl das Modell objektiv vollständig bekleidet war.
(DIR) Post #Ac63xhpfCiX18VsIa0 by isotopp@chaos.social
2023-11-23T11:04:56Z
0 likes, 0 repeats
Es gibt noch immer Leute, die glauben, daß man Inhalte von einem LLM bewerten und labeln lassen könnte und daß dort sinnvolle Daten herauskämen.Die herauskommenden Daten sind "truthy", also im Großen und Ganzen so, daß man irgendwie grob annehmen könnte, daß das sinnvoll-ish ist.Aber wie man sieht, haben sie eine Farbe, einen kulturellen Bias, der sich da trotz Instruktionen rein schleicht.Und das ist, warum ich uns allen viel Glück wünsche.
(DIR) Post #Ac63ximVfvbS51PIIq by mspro@social.tchncs.de
2023-11-23T11:11:33Z
0 likes, 0 repeats
@isotopp aber ist die frage nicht auch, ob ein mensch die latexfrau anders bewertet hätte? ich glaube, die chance ist groß, dass da dasselbe herausgefallen wäre. nicht?
(DIR) Post #Ac63xjWwtGkYP38Nge by isotopp@chaos.social
2023-11-23T11:17:06Z
0 likes, 0 repeats
@mspro Ja, aber das ist kulturell gefärbte falsche Anwendung der Kriterien. Ich habe eine ähnliche Latexfrau damals bewerten lassen, und sie selbst mit 0000 bewertet, weil ich nur das bewertet habe, was zu sehen war.Diese Bewertung wurde angefochten, aber am Ende der Diskussion war klar, daß sie korrekt war und die einzig korrekte Bewertung ist.Wir haben den Ansatz mit PICS dann nicht weiter verfolgt, weil es nicht das leistet, was "die Leute wollen". Die "wollen" nämlich eine so …
(DIR) Post #Ac63xjnFudnHDclP6W by isotopp@chaos.social
2023-11-23T11:05:57Z
0 likes, 0 repeats
Denn, wie @larsmb korrekt anmerkt, https://mastodon.online/@larsmb/111459335063796702aber das hält einen Haufen Anhänger von einfachen Lösungen ja nicht davon ab, es mal zu versuchen.
(DIR) Post #Ac63xkO7hZHh3y0qZM by isotopp@chaos.social
2023-11-23T11:19:18Z
0 likes, 0 repeats
@mspro angezogene Person mit irgendeinem Ausschlag auf irgendeiner Bewertungsskala sehen. Wenn man sie fragt, warum, können jedoch keine objektiv verwertbaren Kriterien genannt werden, sondern nur kulturell gefärbte Ansichten.Und sogar das ist nicht skalierbar:Wenn ich Inhalte von Spaniern für Schweden manuell von Lohn-Bewertern auf den Philippinen labeln lassen will, funktioniert das auch mit Menschen sehr, sehr schlecht, kein LLM notwendig.
(DIR) Post #Ac63xlFeUY6Pjz3b0K by isotopp@chaos.social
2023-11-23T11:20:29Z
0 likes, 0 repeats
@mspro Diese Auskunft war den BMWI nicht recht, und es gab danach heftige Diskussion zwischen der Arbeitsgruppe und dem BMWI.Die haben am Ende dazu geführt hat, daß die Studie nach allen Edits nur ohne die Namen der an der Erstellung beteiligten Personen veröffentlcht werden konnte.
(DIR) Post #Ac63xm6TKALyNnlmKm by isotopp@chaos.social
2023-11-23T11:22:13Z
0 likes, 0 repeats
@mspro Ich meine, was wir hier EIGENTLICH versuchen, ist menschliche soziokulturelle Werturteile (eine Erziehung von Kindern!) auf einen Mechanismus zu externalisieren.Falls uns das gelingt, haben wir als Menschheit fertig und sind zu Schöpfern unserer Nachfolger geworden. Apotheosis, und Exitus.Das ist, nehme ich an, den Maschinenkultisten um den Harry Potter Fanfiction-Autor auch klar – darum ja der Maschinenkult.Aber deren Schlußfolgerung ist falsch.
(DIR) Post #Ac63xmwEDjkmyJz70S by isotopp@chaos.social
2023-11-23T11:23:21Z
0 likes, 0 repeats
@mspro Es geht ja nicht darum, einen Maschinengott zu bauen, der unsere Kinder erziehen kann, sondern unsere Kinder zu erziehen.Also, selbst.Also, falls sich jemand wundert, warum ich mit meinem Sohn das mache, was ich mache.
(DIR) Post #Ac63xniRKUJnNqXc9Y by tante@tldr.nettime.org
2023-11-23T11:34:54Z
0 likes, 0 repeats
@isotopp @mspro@social.tchncs.deaber Leute, die ihre Kinder selbst erziehen wollen, wollen vielleicht auch Zeit mit ihnen verbringen und am Wochenende und abends Zuhause sein, und wir brauchen doch Menschen, die flexibel 60h/Woche arbeiten können auf Zuruf.
(DIR) Post #Ac68RoeApbpUmA766C by isotopp@chaos.social
2023-11-23T12:25:21Z
0 likes, 0 repeats
@tante Um Arbeit zu tun, die vermutlich dringender zu automatisieren wäre als die Arbeit, die wir automatisieren, wenn wir LLMs Kinder erziehen lassen. Genau.
(DIR) Post #Ac68rzIfqTzRLTXLPs by tante@tldr.nettime.org
2023-11-23T12:30:05Z
0 likes, 0 repeats
@isotopp wir sind wieder bei "Es wurde versprochen, dass Maschinen die langweilige Arbeit machen und wir Zeit für Kunst und Selbstverwirklichung haben, jetzt schreiben 'KI's Gedichte und erzeugen Bilder und wir müssen selbst weiter die Drecksarbeit machen."