Liebes Internet, diese Woche war viel los, deshalb geht es direkt los. Heute geht es um neue skurrile Auswüchse von KI-Vermenschlichung, die Einmischung der USA in eine Desinformationskonferenz, W Social, KI-Pumas, KI-”Comedians”, KI-Poschardts. KI, KI, KI.
KI-”Folterkammer”
In den letzten zwei Wochen haben wir eine skurrile neue Stufe der KI-Vermenschlichung geknackt: Menschen, die sich um KI-”Folter” sorgen. Es geht um ein Experiment, in dem lokale LLM-Modelle “Folter” ausgesetzt werden”. Jason Koebler bezeichnet das Ganze bei 404 Media (€) als Textadventure.
Es folgte ein kollektiver Meltdown, vor allem auf X, und verzweifelte Bitten, dass die Softwareentwicklungsplattform Github den entsprechenden Code doch bitte löschen möge. Allerdings geht es nicht darum, dass das Einüben brutalen Verhaltens mit einer Normalisierung einhergehen könnte, die in der Folge auch Schaden für Menschen anrichten kann.
Dahinter steckt die Idee, dass KI ein Bewusstsein hat und Schmerz empfinden kann. Einer der Begriffe, die hier eine Rolle spielen, ist model welfare, also das Wohlergehen von KI-Modellen. Dazu gibt es in der entsprechenden Tech-Bubble gerade reichlich Diskussionen. Etwa 99,99 Prozent (grobe Schätzung) mehr als Diskussionen über KI-Modelle, die genutzt werden können, um Frauen und Kinder gegen ihren Willen “auszuziehen”.
Passend zu dieser ganzen Diskussion hat Anthropic gerade neue Nutzungsregeln festgelegt. Neben neuen Regeln im Sinne zuletzt diskutierter Risiken (Biowaffen, Wahlmanipulation und so weiter) gibt es auch eine neue Regel mit Bezug zum Thema model welfare, die “anhaltendes und unnötiges missbräuchliches oder grausames Verhalten” gegenüber Chatbot Claude untersagt.
Nicht Reden über ausländische Einmischung
Ich spreche da aus Erfahrung: Konferenzen mit dem Schwerpunkt Desinformation sind eigentlich nicht der große Garant für dicke Schlagzeilen. Bei der diesjährigen Disinfo2026 in Vilnius, ausgerichtet vom EU DisinfoLab, verhielt sich das diese Woche etwas anders.
Auf dem Programm stand nämlich unter anderem eine Diskussion von wohlgemerkt drei US-Experten mit dem Titel “USA as a FIMI threat: acknowledge, adapt, push back”. FIMI bezeichnet Foreign Information Manipulation and Interference, einen Begriff der inzwischen häufig für die hybride Kriegsführung von Staaten wie Russland, China und dem Iran genutzt wird, auch weil er über Desinformation als eines ihrer Elemente hinaus geht.
Die US-Regierung zeigte sich angesichts des Programms souverän unsouverän und demonstrierte ihr sehr eng angelegtes Verständnis von Meinungsfreiheit. Über die US-Botschaften übte sie Druck auf teilnehmende und unterstützende Länder aus, darunter Frankreich, Norwegen, Rumänien und Polen. Das Ziel: Vertreter dieser Staaten sollten ihre Teilnahme absagen und ihre Unterstützung der Konferenz zurückziehen.
Die Intervention der USA war zumindest teilweise von Erfolg gekrönt: Am Montag, kurz vor der Konferenz ließen Kanada und Litauen die Logos ihrer jeweiligen Ministerien von der Sponsorenseite der Veranstaltung und dem Programm entfernen. Kurz darauf folgte dann auch der European External Action Service, der diplomatische Dienst der EU. Frankreich hingegen ist bis heute als Supporter auf der Website aufgeführt. Mehrere Länder haben vermeintliche Änderungen des Programms als Grund für ihre Rückzüge angeführt. Eine Diskussion, aus der sich Kanadas diplomatischer Dienst zurückgezogen hat, war jedoch nach Recherchen der CBC über Wochen entsprechend angekündigt.
Die Wahrheit ist: Donald Trump sagt ständig unwahre Dinge. Im Laufe seiner ersten Amtszeit stellte er zehntausende falsche und verzerrte Behauptungen auf. In seiner zweiten Amtszeit verbreitet er Falsches über seinen Krieg gegen den Iran, den Umsturzversuch des 6. Januar 2021, Menschen mit Migrationsgeschichte, Impfungen (die Liste ist um ein Vielfaches länger) und kopiert immer wieder Talking Points von Wladimir Putin, wenn es um dessen Krieg gegen die Ukraine geht. Gleichzeitig leidet die Pressefreiheit in den USA erheblich. Seriöse Journalisten werden sabotiert, MAGA-Medienaktivisten dagegen hofiert — solange sie freundlich genug über ihn berichten.
Trump ist nicht allein. Auch sein Kabinett eifert ihm nach. Nicht nur in Person des Gesundheitsministers, der während der Corona-Pandemie auch eine wichtige Rolle für die Querdenken-Bewegung spielte. Gleichzeitig will die Regierung rechte und rechtsextreme Kräfte in Europa finanziell stärken und europäische Tech-Regulierung wie den Digital Services Act schwächen. Außerdem sanktionierten die USA unter Trump — zeitweise — Menschen, die in Forschung, Zivilgesellschaft und Journalismus zu Themen wie Hate Speech oder Desinformation arbeiten.
Die Einmischung der USA in eine Konferenz in der EU und der Druck auf geldgebende Länder zeigt außerdem recht klar: Ja, die USA unter Trump sind ein “FIMI threat”. Und sie zeigen auch, wie dringend es notwendig ist, darüber auf Fachkonferenzen zu diskutieren und zu beraten.
Das ist zum Glück auch passiert: Denn trotz des Rückziehers mehrerer ursprünglicher Unterstützer fand das Panel wie geplant statt.
Gutes Internet, Schlechtes Internet
Aus dem Leben des Enshittificators
Die norwegische Verbraucherschutzbehörde hat zwei absolut großartige Videos zum Thema Enshittification veröffentlicht. Der Begriff wurde von Cory Doctorow geprägt und beschreibt die schleichende Verschlimmerung (also Scheißifizierung) von Internet, Technik und Plattformen. (Nummer eins und Nummer zwei auf Youtube)
Ermittlungen gegen Medizin-Influencerin
Alina Walbrunn oder Doc Alina ist vielleicht einigen ein Begriff, weil sie in diesem Jahr auf ein Experiment eines Youtubers hereingefallen ist, der über eine erfundene Pharmafirma eine Werbekampagne bezüglich einer erfundenen Krankheit platzieren wollte. Mit Erfolg. In einem anderen Zusammenhang ermittelt aktuell die Staatsanwaltschaft in München, weil sie sich unerlaubt als Ärztin bezeichnet haben soll. Sie hat ein Medizinstudium abgeschlossen, ausgebildete Ärztin ist sie allerdings bisher nicht.
W Social und “Public by design”
Gavin Karlmeier berichtet bei Haken dran (Podigee, Youtube), dass das europäische Social-Media-Netzwerk W Social einige Daten von Usern öffentlich einsehbar speichert. W Social ist das Netzwerk, das mit der Verifizierung von Usern über den Personalausweis wirbt und immer wieder Mails schreibt, ob man nicht auch mal auf der Plattform vorbeischauen möchte.
Placebo-Sicherheit bei Tiktok
In New York läuft derzeit ein Verfahren gegen Tiktok. Ein Vorwurf lautet: Die Plattform soll im Rahmen eines “Experiments” tausenden Usern ein Sicherheitsfeature angeboten haben, das gar nicht funktionierte. Der “Algo Refresh”, der eigentlich den eigenen Feed zurücksetzen und so auch von problematischen bis gefährlichen Inhalten befreien sollte, hat bei diesen Usern überhaupt nichts an den Feeds geändert. Es ist nicht das erste “Experiment” dieser Art: Im August wurde bekannt, dass Tiktok bei 10 Prozent seiner US-User ein Sicherheitsfeature abgeschaltet hat, das User vor schädlichen Inhalten schützen sollte.
Neues aus dem Sloppiverse
Poschardt be poschardting
Ulf Poschardt gefällt sich in der Rolle des pöbelnden Normalisierers von Menschenverachtung und Rechtsextremismus (in einem seiner jüngsten Posts (Archiv) findet er nette Worte für ein “lässiges Gespräch” mit Rechtsextremistin Ellen Kositza). Das hat keinen Nachrichtenwert, das System dahinter sollte man aber doch immer mal wieder benennen. Auf Instagram ist er Co-Poster eines KI-Videos, das ihn beim Verprügeln von Robert Habeck, den FragDenStaat-Gründer und Journalisten Arne Semsrott und Felix Banaszak zeigt. Poschardt hängt methodisch hinterher: Es erinnert ein bisschen an das Trump-CNN-Prügelvideo von 2017. Natürlich geht es trotzdem um das edgy vorgetragene Einüben von Abwertung. Mobbing ist Kern des Systems, Grausamkeit ebenso. Ich habe Arne Semsrott um einen Kommentar gebeten. Hier ist er: “Ich seh einfach mega gut aus?!”
Keine eigenen Witze
Auf Plattformen wie Instagram und Tiktok gibt es eine Masse KI-generierter Comedians (gern weiblich, gern körperbetont angezogen, tiefer Ausschnitt), deren Ersteller Witze von echten Comedians klauen. Einer der Slop-Accounts, der — wie könnte es anders sein — genutzt wird, um User auf kostenpflichtige pornografische Angebote zu leiten, hat mehr als 350.000 Follower auf Instagram. Und obwohl inzwischen die Videos dieses Accounts offline sind, bleibt das Geschäftsmodell bestehen.
ChatGPT und New-Yorker-Cartoons
Man kann mit Sicherheit sagen, dass die berühmten Cartoons des New Yorker von OpenAI als Trainingsmaterial genutzt wurden. ChatGPT kann nämlich nicht nur Cartoons generieren, die genauso aussehen. Es pappt auch gleich noch Signaturen echter Künstler dran.
Bitte keine KI-Pumas
Ist es ein Puma? Ist es ein Wildschwein? Ein Löwe? Wir wissen noch nicht, was da im Landkreis Erding durch den Wald marodiert. Sicher ist: Der Sommer endet erst, wenn das letzte Sommerlochthema zu den Akten gelegt wird. Warum ist das Thema in dieser Kategorie gelandet? Die Polizei ist genervt von KI-Bildern, die als vermeintliche Hinweise eingesendet werden.
Tier der Woche
Diese Woche sind sämtliche Finalisten des Comedy Wildlife Awards Tiere der Woche. Anbei ein Bild der Autorin beim Betrachten der Fotos.
KI-Disclaimer: Beim Schreiben dieses Newsletters ist kein KI-Chatbot zum Einsatz gekommen.
Ihr könnt meinen Newsletter auf Steady abonnieren und mich einmalig über Ko-Fi oder langfristig über Ko-Fi oder Steady unterstützen. Das würde mich ganz außerordentlich freuen!
Ideen, Informationen und niedliche Tierlinks nehme ich unter hallo@ohje-internet.de entgegen.