Moin. Wir haben wieder eine Woche Internet hinter uns gebracht. Oder, wenn man den KI-Crashpropheten glaubt: überlebt. Es sind genau 0 Tage seit dem letzten gemeldeten KI-bezogenen Sicherheitsvorfall. Das Wall Street Journal (€) berichtet heute, dass Sicherheitsforschende Claude im Juli für einen Angriff auf OpenAI nutzen konnten.
In dieser Ausgabe geht es um KI-generierte “Künstler”, ein KI-verändertes Polizeifoto bei Bild und RTL, eine Katze und anderen Kladderadatsch.
Ausnahmsweise fällt der Newsletter aus Gründen diese Woche kürzer aus. Dafür gibt es einen Witz:
Was macht ein Clown im Büro?
Faxen.
Thema der Woche: Angriff der KI-Klonkrieger
Diese Woche gab es gleich mehrere Neuigkeiten aus der Welt KI-generierter “Schauspieler” und “Sängerinnen”. Tilly Norwood ist der Name einer KI-generierten “Schauspielerin”, die seit einigen Monaten Schlagzeilen macht. Dazu gehört beispielsweise ein Musikvideo, das deutlich weniger Unterhaltungspotenzial hat als das Gesamtkonvolut an Timmy/Hope-KI-Musik. Auszug: “I’m not a puppet”. Nicht als Treppenwitz gemeint.
Trend der Woche waren “Interviews” mit einer Version Norwoods, die auf selbige trainiert ist. Eine andere ist fürs “schauspielern” zuständig. Erschreckend viele Medien haben die Show auch als “Interview” vorgestellt. Dazu gehören Today, Good Morning Britain, CBS und viele weitere. Die Antworten wiederholen sich. Ich kann nicht mehr ganz genau sagen, wie oft ich gelesen habe, dass Norwood eher ein “neuartiger Farbpinsel” sein soll als eine Bedrohung für echte Schauspieler. Oder dass Norwood nie einen Vermieter hatte oder im Regen stand und den Bus verpasst hat. Allein in einem Protokoll taucht der letzte Satz nervtötende vier mal auf.
Die Berichte sind ein Lehrstück in der Vermenschlichung von KI. NBC berichtet etwa von Norwoods “Persönlichkeit”, Good-Morning-Britain-Moderator Ed Balls fragt, ob Norwood bei der Produktion eines Films Spaß gehabt habe und die CBS-Journalistin freut sich, dass sie beide Leonardo DiCaprio mögen und fragt, ob Norwood besorgt darüber ist, dass KI die Menschheit zerstören könnte (Antwort: “Global Desctruction is a bit above my paygrade.”).
Spannender ist es etwa bei Times Radio. In der Sendung versuchen die Moderatoren, die Frage von KI und Consent zu klären: Kann eine KI “zustimmen”, wenn es um Nacktaufnahmen geht? Der Beitrag bei Variety zeigt auf, dass der Tilly-Bot trainiert wurde, sehr seltsame Fragen an die “Interviewer” zu stellen: “You look rather pensive, Corbin. Are you often lost in thought, even during interviews?” Aufschlussreich und noch kritischer ist auch der Beitrag von Wired, der die Grenzen der Regeln für Norwood deutlich austestet. Da wird der CO2-Fußabdruck von KI-generierten Filmen im Vergleich zu echten Filmproduktionen gepriesen,
Das alles ist Teil einer Promo-Aktion, weil demnächst ein Tilly-Norwood-Film erscheint. Wer bereit ist, eine Altersverifizierung zu durchlaufen und einen zeitlich gestaffelten Betrag zwischen 14 und 25 US-Dollar zu zahlen (ich nicht, auch nicht for science), kann das alles bis Sonntag auch auf der Tilly-Norwood-Website nachspielen.
KI-”Schauspielerei” hat auch im RTL-Nachmittagsprogramm Einzug gehalten. In der Gerichtssendung “Ulrich Wetzel – das Strafgericht” werden alle Folgen umgearbeitet und durch KI verändert. Einen Hinweis auf den KI-Einsatz gibt es im linearen Fernsehen laut dem Medienmagazin Zapp nicht, in der Mediathek-Version ist der Disclaimer im Abspann untergebracht. Der Sender bezeichnet das Ganze in einer Pressemitteilung als “KI-Meilenstein für das deutsche Free-TV”.
Gutes Internet, Schlechtes Internet
KI-Sicherheit bei Anthropic und OpenAI
Der Transparenzreport von Anthropic ist zwar schon vergangene Woche erschienen, die Lektüre lohnt sich aber immer noch. OpenAI hat diese Woche einige Fälle veröffentlicht, in denen Modelle problematische Dinge gemacht haben: eigene Fehler verdecken, Informationen fabrizieren oder Inhalte fabrizieren, hochladen und dann zitieren.
Trump-Krypto-Spiel
Familie Trump hat absurde Gewinne durch Krypto-Gedöns erzielt. Ein Teil dieser Saga ist in diesem kurzweiligen Browsergame ‘Thin Air’, Real Money von Zach Everson aufgearbeitet.
KI-JLo
Bild (archive.is) und RTL haben ein KI-verändertes Polizeifoto verbreitet, das eine Frau zeigt, die wie Jennifer Lopez aussieht. Ihr echtes Foto hat durchaus Ähnlichkeit mit JLo, aber das KI-Bild, das durch die New York Post gestreut wurde, hat das Gesicht der Festgenommenen noch einmal deutlich verändert. Sowohl Bild als auch RTL geben fälschlicherweise das Wright County Sheriff’s Office als Bildquelle an. Die haben das Bild aber gar nicht verbreitet. Bei Lead Stories gibt es einen Faktencheck mit dem Originalbild, der kurioserweise aber auch einen Fehler enthält. Dort steht, die New York Post habe das KI-Bild nicht verwendet. Hat sie aber durchaus, wie eine ältere Archivversion zeigt. Bild hat das Foto inzwischen ausgetauscht und weist auf die frühere Version hin. Bei RTL ist das Video mit dem falschen Bild weiterhin online.
Die Beiden Bilder zum Vergleich nebeneinander:
KI-Übersetzungsdisclaimer bei Meduza
Das mag jetzt etwas weniger newsworthy sein als der Rest, aber ich habe diese Woche den Disclaimer für KI-übersetzte Inhalte beim russischen Exilmedium Meduza entdeckt und fand ihn gut gemacht:
Matrjoschka und die Midterms
Gerade haben sie noch schlechte Propaganda im Sachsen-Anhalt-Wahlkampf verbreitet, jetzt liegt der Fokus der Desinformationsoperation Matrjoschka auf den US-Kongresswahlen. In der aktuellen Kampagne werden Deepfakes bekannter Schauspielerinnen verbreitet, die die Kandidaten der Demokraten attackieren.
Neues aus dem Sloppiverse
KI-Musikslop auf Plattformen mogeln
404 Media (mit Anmeldung) hat untersucht, wie einfach sich Künstlerprofile auf Musikstreamingplattformen übernehmen und KI-Musikslop befüllen lassen. Das traurige Ergebnis: Es geht ziemlich einfach.
Nadel im Heuhaufen²
Erfolgreiche Spiele produzieren oder Bücher schreiben kann in diesen Tagen neue, sehr nervige Probleme mit sich bringen. Das Spiel “Needle in a Haystack Simulator” ist so ein Fall: Im August gab es nach der Vorstellung des Spiels und seitdem sind auf Steam mindestens zehn Klon-Spiele aufgetaucht, von denen einige, im Gegensatz zum Original, auch schon spielbar sind.
Tier der Woche
Es gibt eine “neue” Katze. Also neu ist die natürlich nicht. Aber sie hat etwas gewartet, um sich einen lateinischen Namen zuzulegen: Leopardus tilcayo. Das Kätzchen trägt Leo-Look, ist kleiner und leichter als der Durchschnittshaushaltskater und wirkt eher genervt vom ganzen Rummel.
“I took a hundred pictures of it,” sagt die Biologin Paola Nogales Ascarrunz über den Kater, der 2016 gefunden wurde und Gegenstand der nun erschienenen Studie ist. Das ist nicht überraschend. Es ist Naturgesetz, hunderte Fotos von sämtlichen Katzen zu schießen, mit denen man zu tun hat. Meine eigene Fotobibliothek ist der Beweis.
KI-Disclaimer: Beim Schreiben dieses Newsletters ist kein KI-Chatbot zum Einsatz gekommen.
Ihr könnt meinen Newsletter auf Steady abonnieren und mich einmalig über Ko-Fi oder langfristig über Ko-Fi oder Steady unterstützen. Das würde mich ganz außerordentlich freuen!
Ideen, Informationen und niedliche Tierlinks nehme ich unter hallo@ohje-internet.de entgegen.