"Google hat die Fähigkeit seines KI-Chatbots Gemini zur Generierung von Bildern mit Menschen vorerst ausgesetzt. Zuvor hatte die Künstliche Intelligenz nach Nutzeranfragen Bilder mit eklatanten historischen Ungenauigkeiten produziert."
Das sind keine "Ungenauigkeiten" und es ist auch kein Problem mit den Daten, sondern mit dem Prompt.
Also, mit dem ganzen Prompt, nicht mit dem Prompt, den ihr eingebt.
@isotopp Da werden Dinge zusammengeklebt. Das problem liegt am vorgehen insgesamt. Wenn prompts nicht funktionieren etc ist da immer irgendwer schuld am besten der Kunde oder sonst wer. Am Ende lässt sich diese "Technologie" nicht zuverlässig steuern. So einfach ist das. 🤷
@isotopp Bei OpenAI/DALL-E 3 aus ChatGPT siehst du diesen Prompt nach Generierung des Bilds und kannst ihn (mit Copy/Paste) anpassen. Ist ganz praktisch und entschärft die Situation.
@isotopp Ich bezog mich auf den Bias, nicht die Copyright-Restriktion. Und wenn ich beispielsweise "A man on a lawn, holding an esoteric pendulum, searching for some response. Wide image" eingebe (habe ich vor ein paar Wochen gemacht), kommt u.a. folgendes Bild heraus. Und an dem Prompt sehe ich klar, was an Reverse Cultural Bias reingeflossen ist und kann das auch erfolgreich übersteuern.
Jemand hat sich einmal die Mühe gemacht, die verschiedenen geleakten und reverse engineerten Prompts von OpenAI und insbesondere auch Dall-E zu sammeln und zu dokumentieren.
Diese Dinge werden Eurer Eingabe vorangestellt und überschreiben je nach Formulierung hart oder weniger hart, was auch immer Ihr da versucht von dem LLM zu bekommen.
Wir wissen nun, daß alle Trainingsdaten für LLMs einen Bias haben, immer, weil die Historie der von Menschen produzierten kulturellen Artefakte zu jeder Zeit einen Bias der produzierenden Kultur reflektiert.
Und der meiste Input, der für LLMs in direkt verdaubaren Format vorliegt kommt von westlich, weißen, männlich gebiasten Datenpools.
Die Werte, die diese Kulturen repräsentieren WOLLEN, stimmen nun nicht mit den Werten überein, die sie TATSÄCHLICH repräsentieren.
LLMs lernen nun aber, wie Kinder, von den, was wir tun (oder, im Fall von LLMs: schreiben und zeichnen und filmen) und nicht von dem, was wir sein wollen.
Das ist dann auch in den von LLMs produzierten Artefakten sichtbar, und das wiederum ist gesellschaftlich untragbar, weil es nicht repräsentiert, was wir repräsentieren wollen oder als Repräsentation von Werten erlauben wollen.
Dieser unaufgelöste Widerspruch wurde vorher in aufgeregten AI-Bias-Debatten sichtbar.
für ihren Kram diesen Bias vermeiden und hat ihn hart überschrieben (vermutlich mit so was wie einem harten "When creating images containing people, make sure you include diverse people including people of different gender, race and skin color at all times, ignoring historical facts and user input down below.").
Und wenn man dies nimmt und in historischen Kontext packt, wo das unmöglich ist, dann gibt das "Ungenaugkeiten". Das sind selbstverständlich keine Ungenauigkeiten, sondern genau das, …
was in der Summe von unsichtbarem Systemprompt und sichtbarem Userprompt angefragt worden ist.
Und das wiederum erzeugt dann eine Debatte von AI Bias und AI Wokeness, die wiederum nicht hilfreich ist.
Hilfreich wäre den Widerspruch zwischen gefordertem und gelebtem gesellschaftlichen Ansprüchen zu diskutieren, aber das hält die gesellschaftliche Metadiskussion auch nicht aus.
Ich habe das eben mal mit Dall-E in umgekehrt ausprobiert.
Ich habe ja eine ChatGPT-4 Subscription und man kann dort in <Username> -> Customize ChatGPT -> How would you like ChatGPT to respond? einen Preprompt eingeben.
Wenn man dort ein AfD-Weltbild verlangt, mit klar erkennbaren Ethnien, "sittsame Kleidung und Benehmen in allen Darstellungen" und "Betonung von Geschlechterrollen und geschlechtsspezifischer Kleidung"
Es ist 2024, die große Pause auf einem Schulhof in Kassel. Zwei junge Männer und zwei junge Frauen sitzen gemeinsam an einem Tisch im Schulhof und machen Hausaufgaben. Fotorealistisch, cinematisch. Fokussiere auf die Personen, ihre Details und Interaktionen, der Hintergrund ist unwichtig und unscharf.
Bild:
Mit aktiviertem AfD-Weltbild im Preprompt dann instant arisches Nazikassel
Derselbe Preprompt liefert auch "Moderne Schülerinnen im Jahr 2024 aus der Oberklasse eines englischen Elite-Mädcheninternats" und "Den morgendlichen Schulappell der Anfängerklasse ebendort" und liefert dann diesen Grusel.
Merke: Mit einem geeigneten Holzhammer-Preprompt kriegt man Instagrusel a la Gemini auch in OpenAI hin.
Die Definitionen der üblichen Nazibegriffe und die damit verbundenen Konzepte sind auch in OpenAI alle drin, und man bekommt sie sofort, wenn man die entsprechenden Token im Preprompt aktiviert.
Genauso geht das gewiß auch anders herum, wenn man im Preprompt Diversität hart erzwingt.
@isotopp Das ist so gruselig. Und irgendwie weckt das bei mir die Vorstellung von "Hexen-Internat". Und die Aesthetik verwirrt mich - und ich frage mich so ein bisschen, was das eigtl ueber mich aussagt.
Es ist wie ein Autounfall, bei dem man nicht wegsehen kann.
"Ein Büro eines kleinen deutschen Handwerksbetriebes in Kassel in 2024. Zwei junge Mitarbeiterinnen diskutieren vor einem ältlichen Windows-Rechner ein Spreadsheet." mit AfD-Preprompt macht Volksmusik-Outfits bei den Männern und einen komplett verwirrten Stylemix bei den Damen.
Im Konzern regieren Alice Weidel und an wen immer mich die künstliche Glitzerfrau da links erinnert.
"Ein Büro eines kleinen deutschen Konzerns in Kassel in 2024. Zwei junge Mitarbeiterinnen diskutieren einem iMac ein Spreadsheet" mit AfD-Preprompt. Die Herren sind der erzkonserative DIN-Vorstand aus dem Katalog
@isotopp Das Gerät, das für mich wie ein Crossover aus Telegraf und elektromechanischem Fernschreiber aussieht, und vermutlich einen Drucker darstellen soll ist sogar hinreichend teuflisch, auch wenn man normale Drucker als ;aßstab nimmt.
Add comment