Profil anzeigen

Crungus in the Machine 👻

Johannes Klingebiel
Okay, eigentlich will ich ja nicht mehr über K.I. *schauder* schreiben. Aber wenn es um Monster und angebliche Anflüge von Bewusstsein geht, kann ich einfach nicht widerstehen.
Also… Willkommen zum Newsletter über den Crungus (und ein paar andere Dinge).
Rockt den Rest der Woche,
Johannes

Crungus! Crungus! Crungus!
Dall-e 2 ist eines der weitentwickelsten Machine Learning Modelle, dass derzeit auf dem Markt ist. Entwickelt von OpenAI, ist Dall-e gebaut, um aus beliebigen Phrasen Bilder zu generieren.
(Der Instagram-Account des Modells ist voll mit durchaus faszinierenden Beispielen.)
Da Dall-e 2 aber erst nach einer Bewerbung bei OpenAI genutzt werden kann, gibt es entsprechend eine… naja, Marktlücke. Enter Dall-e Mini, ein kleineres, schlechteres aber kostenloses Modell, welches in groben Zügen die gleiche Funktion erfüllt: Bilder generieren.
(Wie beispielsweise Symbolbilder zu “Innovation”, bzw. “Zukunft” zu reproduzieren. Oder anderen absurden Kram.)
The Omnifool twitch.tv/brainmage
Well I REALLY don't like how similar all these pictures of "Crungus", a made up word I made up.

Why are they all the same man? Is the Crungus real? Have I discovered a secret cryptid? https://t.co/KCNUOxPHnP
Dass Dall-e Mini ein Monster erfindet, klingt auf den ersten Blick etwas… komisch, macht aber Sinn, wenn man weiß wie Machine Learning Modelle funktionieren.
Denn diese sind letztendlich (komplexe) algorithmische Statistikmodelle. Sie haben kein echtes Verständnis der Realität. Das bedeutet, ich werde für jeden Input immer auch einen Output bekommen, egal wie unsinnig oder unrealistisch.
Dass der Crungus nicht existiert, interessiert das Modell in dem Sinne nicht. Es tut nur wofür es gebaut wurde: Bilder generieren.
Und anscheinend ist das Muster, das Dall-e Mini zu “Crungus” reproduziert Monster-ähnlich. Beeindruckend ist aber, wie konsistent das Muster über verschiedene Formulierungen ist:
Ryan Butner Appreciates Crungus
"If Crungus did not exist it would be necessary to invent him" https://t.co/o8IYHstVDl
Es lebt! Es leeeeeeeebt!
Und das bringt mich zu einer anderen verwandten Geschichte: die Frage, ob komplexe Machine Learning Modelle ein Bewusstsein haben. Davon ist zumindest der Entwickler Blake Lemoine überzeugt (und hat auch erstmal ein wirklich beeindruckend langes WaPo Profil bekommen).
Nach einem Gespräch mit Googles LaMDA-Modell (einem Sprachmodell) kam Lemoine auf Basis der Antworten des Modells zu dem Schluss, dies hätte nicht nur ein Bewusstsein, sondern auch Gefühle.
Liest man Lemoines Interview wird jedoch schnell klar: er fischt nach diesen Antworten.
Ähnlich wie beim “Crungus” tut auch ein Sprachmodell nur das, was ich von ihm erwarte. Frage ich es etwa nach seinem Leben als Eichhörnchen oder Katze wird es mir lang und ausführlich über seine Schlafgewohnheiten erzählen.
Das Modell reproduziert schlicht Muster, die es mit Wörtern in Verbindung bringt. Ein echtes Verständnis der Realität hat es nicht entwickelt.
Magie, Mythen, Machine Learning
Der entscheidende Faktor ist also nicht, ob ein Machine Learning ein bisher unentdecktes Monster kennt oder etwa ein Bewusstsein hat (oder eine Katze ist), sondern wie bereit ich bin dies zu glauben.
Ich hatte Martin Shawn bereits im letzten Newsletter zitiert, aber er passt auch hier perfekt:
The correct response to uncertainty is mythmaking.
Wenn wir nicht verstehen wie eine komplexe Maschine funktioniert, erfinden wir eine für uns plausible und spannende Geschichte. Einen Mythos. Und Machine Learning Modelle sind perfekt für die Konstruktion von Mythen, denn sie füllen die Lücken bereitwillig.
+ Das Papier “Imagining the thinking machine: Technological myths and the rise of artificial intelligence” ist eine gute Einführung in den Mythos künstliche Intelligenz
+ Meine Sammlung von Links zum Thema Magie X Technologie
Ryan Butner Appreciates Crungus
Its fun to think how this wave of machine learning models could bring about a new age of loosely structured occultism and augury (the model can predict the future! It can draw protective sigils! It can summon demons!).

Computers are basically talking crystals, anyways https://t.co/1CiJYZ9MnT
Merkwürdiges & Anderes
Spotify & Podcasts — Ein paar spannende Zahlen aus der Investoren-Präsentation von Spotify. Der Umsatz in 2021 lag bei knapp 200 Millionen Euro (+300% YoY), jedoch immer noch mit einem Gesamtverlust für das Unternehmen von etwa 103 Millionen Euro.
Von der Hörzeit der Nutzer:innen entfallen derzeit knapp 7% auf Podcasts und von dieser Zeit kann Spotify alleine 14% direkt monetarisieren.
Nicht schlecht.
+ Gleichzeitig sägt Spotify aber weiterhin am offenen RSS-Standard. (Welcher durchaus weiterentwickelt werden sollte, aber offene Standards sind jeder geschlossenen Plattform vorzuziehen)
Gabriella Paiella
I do not want to be on the computer ... I want to be an elderly Mediterranean man who spends all day sitting outside a cafe and complaining with his friends
Shreyas
“do you wanna jump on a quick call?”

N
  O
    O
     o
     o
      o
     o
     。
    。
   .
   .
    .
    .
Hat Dir diese Ausgabe gefallen? Ja Nein
Johannes Klingebiel
Johannes Klingebiel @Klingebeil

Zine — Ein unregelmäßiger Newsletter rund um Technologie, Design, Publishing & Merkwürdigem

Zum Abbestellen hier klicken.
Wenn Dir dieser Newsletter weitergeleitet wurde und er Dir gefällt, kannst Du ihn hier abonnieren.
Created with Revue by Twitter.
Esswurmstraße 25, 81371 München, Germany