Was KI-Detektor-Software kann (und was nicht) | c’t uplink

00:00:00: Heute im CT-Ablink, wie erkennt man eigentlich KI Content wenn es nicht dran steht?

00:00:09: Moin und hallo zum CT-Ablink.

00:00:11: Wie funktionieren denn eigentlich diese Tools die KI generierte Inhalte erkennen sollen also Texte Bilder Videos oder auch Musik?

00:00:21: Und was taugen diese Tools überhaupt?

00:00:24: Für?

00:00:24: dieses Thema hab ich heute zwei meiner Kollegen im Studio, nämlich Robin Ahrens.

00:00:28: Der das Text-Analyse-Tool-Pangram getestet hat.

00:00:31: Hallo, Robin!

00:00:32: Hi!

00:00:33: Und Hartmut Gieselmann, Moin Hartmut!

00:00:35: Moin grüß dich!

00:00:36: Ja du kennst dich ja nicht nur in Sachen KI recht gut aus sondern auch im Thema Musikproduktion.

00:00:42: Da können wir vielleicht noch mal so ein bisschen darüber reden was wie läuft das mit der KI-Musik-Slopindustrie eigentlich?

00:00:48: Genau, das haben wir uns auch angeguckt.

00:00:51: Aber... mal ganz allgemein gesprochen, wie versuchen KI-ErkennungsKIs eigentlich KI-Content von Menschen gemachtem Content zu unterscheiden.

00:01:02: Soll ich mal anfangen?

00:01:04: Ich glaube, man kann da immer erstmal versuchen letztendlich Erkennungsmuster.

00:01:07: Also irgendwelche Muster drin zu erkennen in den MKI-Content Ja und ansonsten gibt es natürlich noch sowas wie Wasserzeichen.

00:01:14: die gibt's für Bilder als auch eben für Audio.

00:01:17: Das sind dann quasi Marker, die da ganz bewusst gesetzt werden um eben KI Content von Menschen gemachtem Content zu unterscheiden.

00:01:24: Und ja ich glaub das sind so die zwei wesentlichen Möglichkeiten KI Content zu erkennen.

00:01:30: Die Marker bringen natürlich nichts, wenn jemand sehr gezielt verschleiern will.

00:01:34: Genau!

00:01:34: Die sind trafisch manipulierbar

00:01:36: und das ist aber... Das neue ist jetzt ja.

00:01:39: seit August, seit Zeiten August sagt die EU, nee KI-Content muss erkennbar sein und deswegen soll es jetzt einfacher werden den KI Content erkennen zu können weil die ganzen Marke und Wasserzeichen die Robin erzählt hat, die lassen sich leicht entfernen oder eben halt auch gar nicht erst anbringen

00:02:03: gilt natürlich nur für seriös arbeitende ja medien redaktionen etc.

00:02:10: pp und nicht für leute die gezielt.

00:02:14: Ich glaube, es gibt noch eine Ausnahme für Privat.

00:02:16: Also privat kannst du im Prinzip machen was du willst?

00:02:18: Generell gilt es für jeden der Content veröffentlicht und das kommerziell macht.

00:02:24: Private Anwender sind nicht mit drin und die EU unterscheidet hier einmal zwischen denen Anbietern dieser Generatoren, die also Texte Bilder und Musik produzieren.

00:02:38: Die müssen spätestens dann ab Dezember wenn sie jetzt schon ihren Generator laufen haben, müssen sie Wasserzeichen oder Kennzeichnungen in diese generierten Bildertexte-Audiostücke einarbeiten und müssen auch die zugehörigen Detektoren zur Verfügung stellen.

00:02:57: Wenn Sie das nicht machen, Verstoßen sie gegen das EU-Recht, was auch in allen Ländern gesetzt ist und können mit saftigen Strafen dann rechnen.

00:03:07: Das sind die Anbieter und da gibt es die Betreiber, das sind die Nutzer, die diese Generatoren dann einsetzen.

00:03:12: also wenn ich jetzt mit Suno einen Song produziere oder mit irgendeinem Bildgenerator ein Bild generiere Dann muss ich das Kennzeichnen.

00:03:23: Wenn es für den normal informierten Anwender sonst, wenn der getäuscht werden könnte.

00:03:30: Also wenn der denken könnte oh das ist ja nicht von KI generiert sondern das ist jetzt echt dann muss sich das dementsprechend kennzeichnen.

00:03:37: und wenn ich das nicht tue, dann ja verstoße ich auch gegen das Gesetz und riskiere auch hohe Strafen.

00:03:44: Ja da gibt's ja so dieses, ich glaube ich hatte im Artikel dazu Schöne Beispiel gesehen mit dem Fotorealistischen und der Skyline von, ich weiß nicht, Köln.

00:03:51: Und da fliegt man drüber wo man... Genau!

00:03:53: Das ist jetzt vielleicht nicht ganz massiv.

00:03:55: Das macht sementisch keinen Sinn.

00:03:56: deswegen ist es dann auch eben kein Diebfeld.

00:04:00: Aber wenn ich nur mit KI ein Bild von der Stadt Kölner berechnet hätte das also auch Tatsächlich Köln darstellen würde, dann muss es als KI generiert gekennzeichnet sein.

00:04:14: Weil es ja nicht vom Bild heraus klar ist das es nicht eine reale Aufnahme der Stadt ist.

00:04:19: also es muss jetzt nicht von irgendeiner bekannten Person oder so ein Bild sein, sondern Landschaftsaufnahmen die realistisch wirken Reichen bereits aus und müssen gekennzeichnet werden.

00:04:29: Das Gleiche gilt für KI-generierte Musik.

00:04:32: also die muss nicht vorgeben dass sie von Madonna Taylor Swift oder sonst wem kommt, sondern allein das sie vorgibt.

00:04:37: hier hat eine Band irgendwo gespielt und es wurde real aufgenommen.

00:04:41: Es kommt aber aus dem Generator, das reicht aus!

00:04:43: Es muss als KI generiert gekennzeichnet sein.

00:04:47: Wenn das beispielsweise bei dem Stadt Stadtfoto, der bei dem vermeintlichen nicht dran steht würde eine KI-Detektor ein Detektorsystem im Prinzip versuchen.

00:05:00: Ja nach Rauschen zu suchen so stelle ich mir das vor im Bildmaterial also nach Resten der Art und Weise wie Bilder entstehen in einer KI eigentlich.

00:05:10: Das Ding ist nicht alle sind ja nicht heutzutage alles nur Diffusionsmodelle.

00:05:13: das sind ja die frühen Bildgeneratoren da gibt es auch Diffusionstransformer.

00:05:17: dass noch ein bisschen Modernere Vorgehensweisen, ursprünglich sind die früher eher so aus Rauschen heraus entstanden.

00:05:23: Dann wurde quasi aus dem Rauschendes das Bild auf der Basis eines Proms generiert.

00:05:27: Da kann man wahrscheinlich Restbausteine finden.

00:05:30: Ansonsten nehmen auch viel die Wasserzeichen Das sind eben dann ja auch Muster, die da in verschiedenen Arten drüber gelegt werden können oder also richtig in das Bild reingeimpft schon während des Rauschentstehungsprozesses zum Beispiel.

00:05:42: Und die kann man aber wiederum eben auch mit KI analysieren und dementsprechend dann eben auch ausziehen, mit den entsprechenden Tools.

00:05:48: Also quasi komplett zerstören, löschen manipulieren ja weswegen diese Wasserzeichen eben auch einfach nicht hieb-und stichfest sind.

00:05:56: Ja also wer will kann ein Bild erstellen mit KI das einen KI Detektoren nicht mehr als günstlich erkennt?

00:06:04: Aber...

00:06:05: ab September, spätestens ab zweiten Dezember müssen alle Generatoranbieter die ihr Produkt auch in Europa vertreiben.

00:06:14: Müssen eben halt solche Wasserzeichen mit einweben in die Bilder das Audio Material und auch die Detektoren dass man diese Wasserzeiche wieder auslesen kann.

00:06:30: zur Verfügung stellen muss aber nicht die Plattform, die das Ganze dann verbreitet.

00:06:36: Also wenn ich das ein Song auf Spotify hochlade oder ein Bild auf Instagram und so weiter, da muss die Platformen nicht prüfen.

00:06:44: Oh!

00:06:45: Hat der da nicht vielleicht doch einen KI-Generator dann verwendet?

00:06:48: Also diese Pflicht ist in der EU-Gesetzgebung gerade nicht drin.

00:06:52: Und da die Betreiber also die Nutzer, die es hochladen... dafür verantwortlich sind, dass es richtig gekennzeichnet ist.

00:06:59: Die aber teilweise bei Musik und bei Bildern wird das wahrscheinlich auch so sein dann demunitarisiert werden also alles was als KI gekennzeichnet ist kriegt dann keine Tantie mehr haben die überhaupt gar kein finanzielles Interesse außer eben halt die angedrohte Strafe ihren Content als KI-Content zu kennzeichnen.

00:07:17: Das ist die große Gruks bei dem neuen Gesetz, daßes keine Prüfpflicht der Plattform gibt.

00:07:24: Das ist ja auch ein bisschen das, was bei Bildern irgendwie ähnlich ist.

00:07:26: Also wer jetzt ganz bewusst Fake News spreaden möchte, der macht dann... ...der kennt seinen Bild natürlich trotzdem nicht mit einem KI-Label und dann könnte man erst recht den Eindruck bekommen dass dieses Bild eben nicht von KI erstellt wurde weswegen das auch so ein bisschen problematisch eben

00:07:39: irgendwo ist.

00:07:39: Ja es sei schneidig irgendwie ne?

00:07:40: Genau!

00:07:42: Ja verstehe wie läuft das.

00:07:47: du hast dir ja dieses Tool Pangramm bisschen anguckt.

00:07:53: Text an der oder Systeme, die Text klassifizieren als KI oder Menschen gemacht.

00:07:59: Wie generell wie funktionieren sie?

00:08:03: Also da muss man ein bisschen ausholen!

00:08:04: Die Systeme gibt es ja schon länger.

00:08:05: Die sind ja quasi schon.

00:08:06: mit der Veröffentlichung von großen Sprachmodellen sind ja fast zeitgleich auch die Detektoren entstanden also so was wie GPT-Zero.

00:08:18: Und das Problemat schon dabei ist immer, dass die relativ viele falsch positive produzieren.

00:08:23: Also es heißt letztendlich menschlich gemachte Texte fälschlicherweise als KI generiert Flägen.

00:08:30: und die Metriken mit denen die arbeiten ist eben häufig Perplexity und Burstiness.

00:08:35: Das sind so zwei Dinge, die man bei der Texterkennung immer wieder hört.

00:08:38: Perplexity ist im Grunde genommen ein Master für die Wortvariante oder für die Wahrscheinlichkeit an Wörtern.

00:08:45: Und menschliche Texte haben eine hohe Perplexität, KI generierte meist eine Niedrige.

00:08:50: also das heißt letztendlich KI benutzt statistisch wahrscheinlichere Wörter als Menschen.

00:08:56: Und die Burstion ist dann quasi eine Angabe für einen Maß, für die Varianz eines Textes im gesamten, also quasi Satzlängenunterschiede, Wortuntersiede und auch... Also man muss ja so ein bisschen vorstellen dass Menschen in den sogenannten Burst schreiben, also in Schüben, man wechselt immer mal lange und kurze Sätze wahrscheinlicher und unwahrscheinlichen Wörtern und das ist eben bei einer KI insgesamt ein bisschen Uniformer und das können eben die frühen Detektoren auf der Grundlage dieser Metriken analysieren.

00:09:25: Pangram sagt jetzt eben, dass sie das alles ein bisschen anders machen?

00:09:29: Das Problem ist aber eben ganz genau sagen Sie gar nicht wie Sie es anders machen und unseren Tests kam dann auch so ein bisschen heraus, dass man eigentlich letztendlich gar nicht ganz weiß ob sich die Sprachoberfläche angucken oder wirklich tiefer da in die Struktur des Textes irgendwie gehen und das analysieren können.

00:09:44: also so ganz offen gelegt ist das alles nicht Hat jetzt PENGRAM auch nicht so super performt, wie man sich das vielleicht vorstellt oder wie das ganz gerne in den Medien rübergebracht wurde?

00:09:55: Das muss man vielleicht noch ergänzen.

00:09:57: Also kurz bevor die EU-Gesetzgebung in Kraft getreten ist hat PEN GRAM auch eine neue Version vier Punkt Null herausgebracht – das war jetzt gerade letzte Woche!

00:10:06: Und da geben Sie vor, dass sie nicht nur unterscheiden können zwischen KI-generierten und menschengeschriebenen Texten sondern auch wenn eine KI einen menschengeschriebenen text überarbeitet hat.

00:10:17: Und zeigen dann ja auch immer dann eine Prozentzahl an wie viel Prozent KI in diesem Text rein sein soll.

00:10:25: die ersten Stichproben die wir mit dem neuen Tool gemacht haben zeigen, aber dass das überhaupt gar nicht haltbar ist.

00:10:32: diese Werte die PENGRAM da angibt und dieser Detektor geht nach dem was ich bisher von den Stichproben sehen kann zeigte irgendwas an nur eben halt nicht den KI Anteil des Textes.

00:10:44: Das hängt vielleicht auch damit zusammen, dass PEN GRAM keinen normalen Algorithmus jetzt verwendet der jetzt die Burstiness oder Perplexität tatsächlich misst und dann reproduzierbare deterministische Ergebnisse dann liefert, sondern das Ganze auch mit einem Sprachmodell was trainiert wurde.

00:11:02: Mit KI-Texten überarbeiteten Texten menschlichen Texten hauptsächlich wahrscheinlich englischen Texten trainiert wurden.

00:11:10: Und Sprachmodelle wie wir alle wissen liefern keine deterministisch wiederholbaren Ergebnisse.

00:11:15: Das heißt wenn man mehrfach den gleichen Text hoch lädt dann kommen unterschiedliche Ergebnisse raus.

00:11:23: Dativormate hoch lädt, können teilweise Unterschiede von fünfzig Prozent rauskommen.

00:11:28: Und das heißt also dieser Detektor was wir bisher sehen können die Analyse wird diese Woche noch bei Heise irgendwie erscheinen ist völlig unbrauchbar.

00:11:38: Also ich würde sagen bei unserem test ist es nicht völlig unbrauchbar.

00:11:40: So wir haben die version drei punkt drei zwei getestet glaube Ich muss da auch ein bisschen differenzieren.

00:11:45: pangram wirkt natürlich damit dass sie letztendlich kei tekste erkennen können aber auch menschliche also quasi.

00:11:51: Da gibt's immer den unterscheiden zwischen falsch positiv rate, also quasi menschlicher Texte Die fälschlicherweise als kei gepflegt werden und andersrum falsch negativ raid Ist dann quasi ja kei texten die fälsicherweise als menschlich ausgegeben werden.

00:12:04: Und ja also letztendlig was ganz interessant ist, dass PENGRAM bei unseren Tests die menschlichen Texte auch wirklich als menschlich erkannt hat.

00:12:12: Und da hat es eben auch eine relativ hohe Performance.

00:12:14: damit wirbt das eben auch, dass irgendwie neun und neunzig, neun acht Prozent menschlicher Text auch wirklich also menschliche erkennt.

00:12:20: Das heißt aber im Umkehrschluss nicht, dass auch KI-Texte genauso gut erkannt werden.

00:12:24: Und das ist eben glaube ich ganz wichtig.

00:12:26: Also es kann ein Tool sein um... menschliche Texte besser erkennen zu können, aber auch da ist natürlich nicht deterministisch.

00:12:33: Das ist kein valides Urteil und am Ende sind es halt auch nur Wahrscheinlichkeiten die dabei rauskommen.

00:12:39: Ja letztlich war es der Ersteller dann im armesten Wies.

00:12:42: Sie beobachten nicht den ganzen Entstehungsprozess sondern eigentlich nur letztendlich.

00:12:45: irgendwie suchen sie nach Mustern und versuchen das auf deren Grundlage wahrscheinlichkeitsbasiert zu erkennen

00:12:51: Und das führt ja dazu.

00:12:52: PENGRAM ist ein wirtschaftliches Unternehmen, die wollen auch Abos für zwanzig Euro im Monat ungefähr dann verkaufen und sagen jetzt wenn ihr mit KI arbeitet Redaktionen auch irgendwelche Universitäten, dann braucht ihr einen zuverlässigen Detektor und wir zeigen euch genau auf das Prozentzahl an wie viel Kain in diesem Text drin ist.

00:13:12: Aber diese Anzeige ist also nach meinem Dafürhalten jetzt bei der neuen Version die alte war da vielleicht ein bisschen vorsichtiger ist einfach im Bullshit Generator.

00:13:23: Also man muss es ganz klar so sagen.

00:13:26: Und vor allen Dingen sagt dieser eine Zahl nicht aus.

00:13:29: welche Merkmale eines Textes deuten denn jetzt darauf hin dass sie von KI generiert wurden.

00:13:35: Da gibt mir ein normales Sprachmodell wie Chess GPT oder Claude eine viel differenzierter Analyse und sagt, naja diese Punkte, diese Begriffe die könnten darauf hindeuten das es von einer Maschine kommt dieser anderen ... Bearbeitungsschritte könnten eher von einem Menschen stehen.

00:13:51: Also ich kann viel genauer in den Text dann reingehen, was bei großen Arbeiten oder wenn es um die berufliche Reputation von Menschen geht... ...dann tatsächlich auch notwendig

00:14:00: wäre.".

00:14:01: Die spannende Frage ist ja ob Pangram das gar nicht so genau sagen möchte wie's funktioniert?

00:14:06: Weil es dann leichter wäre diese Erkennungsmechanismen zu hacken.

00:14:13: Wenn ich jetzt einen Text schreiben will mit Claude und will aber nicht rauskommen, dass ich den gar nicht selber geschrieben habe.

00:14:18: Dann sag' ich schreib' den so das Pendram ihn nicht eher als KI generiert

00:14:21: erkennt.".

00:14:22: Ganz ehrlich!

00:14:23: Ich glaube sie wissen es selber nicht.

00:14:24: Sie haben einfach ein Sprachmodell gefüttert mit menschlichen Texten, mit KI-Texten... ...und dann hat der Algorithmus irgendwie, äh, hat dann gelernt.

00:14:33: Aber was ist der Algoritmus jetzt?

00:14:35: ... menschlich oder maschinenhaft identifiziert.

00:14:39: Das verrät der natürlich nicht, wenn man in die Gewichte irgendwie dann reinkommt.

00:14:42: genauso weiß auch ChatGPT nicht wie... Oder OpenAI nicht wie chatgpt auf gewisse Proms reagiert.

00:14:49: ja und genau so weiss pangram nicht worauf jetzt ihr Modell da anspringt und mal den Daumen nach oben oder nach unten irgendwie dreht.

00:14:58: Das ist auch ganz interessant auf der Website von denen.

00:15:00: Da steht ganz viel zum Training und wie anders die das eben machen als andere Detektoren, wie toll sie ihr Sprachmodell trainiert haben, Hard Negative Mining also so Grenzfalltraining, sowas ganz aufwendig angeblich... Und dann steht da nur was zu allgemein Erkennungsmerkmalen von K.I.

00:15:16: Text und wie man selbst dazukommt, dass man besser K. I. Text erkennen kann aber nichts explizit dazu wie Pangram arbeitet.

00:15:23: das ist wahrscheinlich auch.

00:15:24: entweder wissen sie es selbst nicht oder das soll so der USP sein, dass wir irgendwie versuchen mit sich...

00:15:30: Das sind doch die... War das nicht auch die Software, die den Text von Wildberger?

00:15:34: Ja genau.

00:15:35: Das wurde dadurch bekannt und auch von Thürings Ministerpräsident Mario Volk.

00:15:41: In der gesamten Diskussion, die jetzt in den letzten Monaten hochgekommen ist, wurde immer mit Pengram dann untersucht und dieses Tool gibt eine Sicherheit vor, die man bei genauem Hinsehen einfach nicht belasten kann.

00:15:53: Es ist da nicht belastbar!

00:15:55: Und das ist das Gefährliche.

00:15:56: also es gibt ähnlich wie ein ChatGPT-Text erstmal ganz toll klingt Sagt dieses Tool auf den ersten Blick, naja das sieht ja nach einem validen Ergebnis aus.

00:16:06: Aber wenn man dann genauer reinschaut und auch mal Grenztexte auf Deutsch prüft, dann merkt man oh nee da sind jetzt massive Fehlurteile drin

00:16:16: Und man merkt vor allem auch, wie leicht das Ganze manipulierbar ist.

00:16:18: Also ich hab mir vor allen Dingen die falsch positiv angeguckt.

00:16:20: Ich habe zum Beispiel eine ganze CT damals reingehauen und analysiert und auch Uni arbeiten von mir, die alle nicht mit KI geschrieben waren.

00:16:27: Aber Carolin, die Kollegin von uns hat ihr sich eben die falsch-negativ vor allem angeschaut also tatsächlich Nachrichtentexte mit verschiedenen Sprachmodellen generieren lassen Und da ist auch auffällig dass PENGRAM sehr unterschiedlich gut detektiert je nach Sprachmutter.

00:16:39: Also ChatGBT wurde anscheinend relativ häufig als KI erkannt Auch teilweise zu hundert Prozent dann weniger, Gemini auch weniger.

00:16:48: Und am Ende zeigt sich man kann das relativ leicht manipulieren.

00:16:51: Wenn man zum Beispiel einen Satz rausnimmt der irgendwie logisch da nicht ganz Sinn macht so ein bisschen zusammenhanglos eingebaut den rausnimmt und das kombiniert noch mit so schwillstige Wörter zu entfernen Dann hast du ganz schnell nen Text der zumindest in Teilen menschlich sein soll oder teilweise sogar hundert Prozent menschliche.

00:17:05: also wenn man weiß oder zumindest ja versucht sich daran zu tasten wie dieses wie dieses Tool arbeitet dann kann man das schon richtig vielleicht ausdricksen.

00:17:15: Und was mich an der gesamten Diskussion stört ist, dass jetzt nur noch drauf geguckt wird.

00:17:19: Oh dieser Text kommt ja aus einer Maschine oder kommt er von einem Menschen?

00:17:22: Aber es wird gar nicht mehr über die Inhalte gesprochen.

00:17:24: Was steht denn drin im Text?

00:17:26: Ist das irgendwie super schlau formuliert und ein cooler Gedanke oder ist das einfach Bullshit?

00:17:31: Wir sind von diesen inhaltlichen Diskussionen zu einer formalen Produktionsdiskussion gekommen.

00:17:37: Keiner achtet mehr darauf.

00:17:38: Was steht denn in den Texten eigentlich

00:17:39: drinnen?

00:17:43: Ja naheliegend... Auch Menschen können hoffen, Schrotz schreiben.

00:17:48: Genau.

00:17:50: Ja also diese Trainingsmethode.

00:17:52: was die bei Pangram halt sagen, dass sie so da im Prinzip ich sag mal so flapp sich eine Million KI Text und einen Millionen menschengemachte Text reingeschmissen haben.

00:18:01: Mehr achtundzwanzig Millionen und wieso?

00:18:03: Und gesagt haben so das ist übrigens menschlich, das ist KI guckst du dir mal genau an und erinnert... Also ich muss ein bisschen an diese Bildkais denken.

00:18:12: ... aus dem medizinischen Bereich.

00:18:14: So hört man doch, glaube ich auch... ... so diese Erkennungsalgorithmen für Hautkrebs... ... wie ihn immer so entwickelt und dass man da Millionen also unfassbar viele Bilder reingeschmissen hat gesagt er das war letztlich positiv diagnostiziert und ist nicht

00:18:28: Genau, da wurden synthetische Daten letztendlich auch KI generiert.

00:18:30: In dem was du meinst das hatte ich auch mal einen Interview zu befürchten genau zu den Erkennungsmodellen für Hautgräbs und das ist tatsächlich bei PENGRAM ein bisschen ähnlich.

00:18:39: die haben auch... ...undzwanzig Millionen.

00:18:41: also beim Zweitraining haben sie wohl achtundzwzig Millionen Texte dem erst trainierten Modell gegeben und dabei wurden dann eben falsch positive produziert.

00:18:51: Und zu diesen falsch positiven haben Sie dann immer synthetischen Daten quasi generiert Also quasi einen Text der dem anderen ... mehr oder weniger sehr ähnliches, aber eben KI-generiert ist.

00:19:00: Und dann wurden beide dieser Texte wieder in das Training aufgenommen.

00:19:03: Das heißt man hat genau an diesen Grenzfällen versucht... ...das Modell zu trainieren und besonders schwer zu klassifizierenden Texten.

00:19:09: Es ist ja eigentlich schlau zu sagen naja wir nehmen die Grenz Fälle, manipulieren die ein bisschen so... ...dass der eine dann wirklich

00:19:15: reingenerriert

00:19:16: hat, den anderen aber eben nicht,... ...aber es scheint ja nichts gebracht zu haben!

00:19:20: Und der Punkt ist dass heute wenn man mit Clote oder mit Chatchy Pity arbeitet... ...dan funktioniert ja ist der Output immer auf den jeweiligen Nutzer dann angepasst.

00:19:30: Es gibt ja einen Kontext, der mitgeliefert wird weil so wie ich mit Chatchi Pity arbeite oder Robin oder du oder meine Tochter und so weiter die haben ja unterschiedliche Ansprüche und diesen Kontext sammelt das Modell und passt sich darüber auch dem Nutzer an.

00:19:49: Das heißt wenn ich als Forschungsprojekt einfach nur mit den Standard-Einstellungen von solchen Modellen arbeite ... noch mal per Hand drüber gier, dann habe ich ja gar nicht den Vergleichsoutput der in der Praxis... ... im tagtäglichen Gebrauch mit dem Modell dann auftritt.

00:20:08: Ja spannend okay du hast ja auch noch was geschrieben in der NCT zum Thema Musikslop.

00:20:21: und ja auch wie ... wie KI Musik oder wie Detektoren das letztlich erkennen können.

00:20:29: Und aber auch, wie diese Produktionspipeline eigentlich funktioniert?

00:20:35: Das ist ja quasi schon eine Industrie...

00:20:38: Auf jeden Fall im industriellen Maßstab werden sämtliche Musikplattformen derzeit überschwemmt.

00:20:45: Bei dieser haben da die meisten Zahlen veröffentlicht, sind es inzwischen mehr als die Hälfte der Songs, die hochgeladen werden, sind KI generiert.

00:20:52: also von zwei Songs, welche jede Sekunde auf die Plattform neu dazukommen ist.

00:20:56: mehr als einer KI generieren weil es sich so einfach auf Knopfdruck produzieren lässt.

00:21:01: und wir haben momentan das bei den Generatoren eigentlich nur ein Anbieter Suno das im großen Maßstab und in der Qualität liefert, dass es eben beim ersten Hinhörn radio tauglich klingt.

00:21:15: Und die Plattformen können das vor allen Dingen nutzen für ihre Playlisten mit Gebrauchsmusik also die zum Arbeiten, zum Schlafen, zum Workout, zum Beispiel wenn sie nicht ist quasi angelegt werden und jetzt nicht die Band XY für ihre Fans dann sozusagen.

00:21:34: Dafür brauchen die Plattformen das, weil sie mit diesem billigen Content eben halt dann auch letztlich weniger Tantie denn auszahlen müssen.

00:21:42: Deswegen ist das für die ganz reizvoll wenn es da Musik gibt wo eben nicht ein Text an Komponist und noch die ganzen Musiker dann entlohnen werden müssen.

00:21:57: Es führt aber dazu, sie müssen gleichzeitig ihren Nutzern.

00:22:01: Also die Leute von den Musikplattformen, die Musik hören, die müssen das Gefühl geben oh hier ist aber nicht nur Slop sozusagen drin.

00:22:08: Das heißt Sie machen einen Marketing dass sie gegen diesen Slop anarbeiten, aber eigentlich gehört er zu ihrer wirtschaftlichen, zu ihrem Geschäftsmodell mit dazu Und das widerspricht sich eben halt so ein bisschen.

00:22:20: Die neue EU-Gesetzgebung verpflichtet die Anbieter auch nicht, alle Songs darauf zu prüfen ob denn die von KI generiert wurden oder nicht sondern es wird ihnen nur angeraten und einige kleinere Anbiter sehen das jetzt als Chance dass sie sagen ober uns ist alles handgemacht wir haben gar keine Slopmusik.

00:22:39: oder wie demonitarisieren das damit sie gegen die großen wie Spotify Amazon und YouTube dann eben halt Marktanteile gewinnen können.

00:22:52: Aber diese Demonitarisierung führt dazu, dass ich als Uploader ja erstmal kein finanzielles Interesse habe die Musik jetzt als KI generiert zu kennzeichnen weil dann kriege ich keine Kohle damit.

00:23:04: und es läuft so das ist eben halt.

00:23:05: im großen Maßstab werden irgendwelche Genres oder für speziellen Playlisten dann die Musikstücke angelegt und dann wird genau der Typ von Musikstück, der dann performt.

00:23:18: Der wird dann maschinell mehrfach produziert und das Ganze geht in so einer algorithmischen Schleife immer optimiert und da können normale Musiker also gar nicht gegen anspielen um mit so einer Feedback-Schleife dann so viel Musik zu produzieren Wenn sie dann unerkannt durchkommen oder die Plattformen versuchen, diesen Slop zu erkennen.

00:23:41: Aber ich sage mal, die Erkennung läuft zu ... ... und die machen Geld.

00:23:49: Und dadurch läuft das Geschäftssystem.

00:23:52: Eigentlich müsste Suno jetzt alle generierten Songs mit einem Wasserzeichen versehen... ...und auch die Detektoren zur Verfügung stellen.

00:24:02: Das machen sie aber bisher nicht.

00:24:03: Ab Dezember müssten Sie es tun, ob Sie es dann machen werden?

00:24:05: Aber Sie sind ja schon mit der GEMA und den Musikverlagen im rechtlichen Streit.

00:24:12: Ob Sie überhaupt das ganze Trainingsmaterial hätten nutzen dürfen, sie berufen sich da auf Fair Use.

00:24:17: Das ist so ein US-amerikanisches Konstrukt.

00:24:20: aber letztendlich haben sie alle Musik eben halt geklaut und ihren Generator damit gefüttert und bauen jetzt ihr Geschäftsmodell dann drauf und sitzen das vor Gericht einfach aus.

00:24:34: Dass ich so absurd finde, dass halt die Streamingplattformen bisher gesetzlich nicht dazu verpflichtet sind diese Wasserzeichen auszuleden.

00:24:41: Wenn man ein Wasser Zeichen hat dann bringt das ja nur was wenn es den Nutzenden irgendwie angezeigt wird

00:24:46: und Man kann bei Suno ja nicht nur den kompletten Song herunterladen Sondern Ich Kann Dann auch Den Gesang Die Gitarre Den Buster Schlachtzeug Einzel.

00:24:55: Wenn ich das runterlade, dann ist vielleicht jede einzelne Spur könnte am Ende ein Wasserzeichen haben.

00:24:59: wenn ich das dann aber mit einer Software wieder zusammenmische und dann noch ein bisschen verändere dann werden sämtliche Wasserzeichen übertüncht oder wieder rausgerechnet.

00:25:10: Also es gibt verschiedene Methoden für solche Wasserzeiche, da ist aber die Wasserzeichende robust sind also die ich nicht durch einen Umkupieren und leichtes Verschieben der Tonhöhe überschreiben kann.

00:25:26: Die wären auch mit dem normalen Ohr hörbar und das was nicht mit den normalen Ohr hörbar ist.

00:25:32: Das lässt sich auch mit relativ einfachen Mitteln dann eben halt wieder übertünchen, sodass es später nicht detektiert werden kann.

00:25:40: also Wer da so ein bisschen mehr Aufwand betreibt kann eben halt auch automatisiert solche KI generierten Songs kann die Wasserzeichen relativ einfach entfernen.

00:25:51: Da hat's auch Studien schon zugegeben.

00:25:53: Das ist wahrscheinlich auch Das spielt sich so im Hochfrequenz-Bereich abwahrscheinlich.

00:26:02: Nee,

00:26:02: das könnte ich ja dann abschneiden einfach mit dem Filter sondern dass muss im selben Audiospektrum stattfinden in dem auch die Musik spielt.

00:26:09: also ich sag mal dreißig bis bis sechzehntausend Hertz oder so.

00:26:14: da drüber hört kaum noch jemand was und Man kann dann natürlich, wenn man nur einen Generator hat auf bestimmte Spektren gehen.

00:26:22: Also wenn eine Haltfahne nicht ausgeht auch so was kann man dann eingehen?

00:26:28: aber es muss... wirtschaftliches Interesse da sein, das auch tatsächlich zu tun.

00:26:34: Also wenn die Nutzer sonst sagen ne bei euch ist nur KI-Slop ich schließe kein Abo mehr ab.

00:26:39: oder eben halt ein gesetzlicher Zwang.

00:26:40: und der gesetzliche Zwang zur Prüfung ist nicht da sondern er ist nur da.

00:26:45: Die Generatoren müssen Wasserzeichen implementieren und Detektoren... ...zu verfügen stellen.

00:26:51: also die Anbieter von den Generaturen und die Nutzern die es hochladen müssen ihre Songs als KI generiert kennzeichnen.

00:26:58: Da gibt es dann auch wieder Unterschiede, ob jetzt der Text von der KI kommt.

00:27:04: Ob die Komposition von einer KI kommt?

00:27:06: Ob das von Menschen eingespielt werden?

00:27:10: Gibt's also unterschiedliche Kennzeichnungsmöglichkeiten.

00:27:13: und aber diese Pflicht zum Wasserzeichen oder zur Detektion ist keine Pflicht dass dann auch dem Nutzer ein KI-Symbol angezeigt werden muss wenn er das dann abspielt.

00:27:25: sind auch nochmal wieder zwei unterschiedliche Paar Schuhe.

00:27:28: Das klingt so ein bisschen unvollständig in der Gesellschaft.

00:27:30: Also

00:27:30: es ist nicht dazu geeignet, um den KI-Slop einzudämmen?

00:27:36: Ja und der Anreiz ist ja vor allem nicht da, wenn die Tantiven nicht ausgeschüttet werden, dann fleige ich mich nie selbst als KI-Content.

00:27:43: Da ist das ähnlich wie mit Bildern, wenn man manipulieren möchte, dann werde ich da natürlich nicht AI... auf Labeln.

00:27:49: Und die Plattformen sind nur in so weit daran interessiert, KI-Slop rauszufiltern oder zu kennzeichnen, wie weit es ihr eigenes Geschäftsmodell eben halt dann stört?

00:27:59: Ja, die Leute sagen ich kündige mein Abo weil hier ist nur noch Sport.

00:28:03: Ich bin nur noch slopvoll klein.

00:28:04: aber wenn ich eben halt ein Workout Playlist haben will so das stört mich vielleicht nicht wenn das von der KI kommt und dann spart die Plattform damit eben halt massiv Geld.

00:28:13: Ja ich stelle mir so Fahrstuhlmusik vor die also dieses...

00:28:17: Muzak nannte man das früher ja.

00:28:18: Muzack!

00:28:19: Das war ein Hersteller von solcher Supermarkt- und Fahrstühlen Musik.

00:28:24: Das wird eben auch verkauft.

00:28:25: es ist auch ein Geschäftsmodell ist ein großer Bereich der Musikproduktion.

00:28:28: Und ja, das kann dann eben halt auf Knopfdruck oder auf Prompt mit einer KI generiert werden.

00:28:37: Ja spannend!

00:28:39: Was ich mir vorstelle was wahrscheinlich ganz gut mit KI generierbar wäre, wäre so... Also es gibt ja so dieses ganz chillige... Ich weiß nicht so diese Lofi Sachen irgendwie ne?

00:28:51: So eine langsam dahin Platsch-Hande mit so einem leichten Trip-Up Beat oder sowas drauf.

00:28:57: Das stelle ich mir fort dass da das ja auch ... nicht sehr variabel ist in seinem Grundcharakter, dass das auch mit KI...

00:29:05: Jede Pop-Songs und je mehr Material es dazu gibt.

00:29:09: Ja?

00:29:09: Also wenn ich jetzt irgendwelche Stars wie weiß ich nicht Drake oder sonstwie irgendwie habe.

00:29:13: den kann ich natürlich mit KI super kopieren.

00:29:16: Wenn ich jetzt aber eine Band habe die irgendwie mikrotronale Jazzmusik macht ja Da habe ich nicht viel Trainingsmaterial, das kann ich dann vielleicht auch in der nicht so tollen Kopie an mit einer KI.

00:29:28: Und vor allen Dingen je mehr Akkorde vorkommen desto kleiner ist das Publikum und es soll ja kommerziell an möglichst viele ausgespielt werden.

00:29:40: Das heißt Jazz- und Klassik die eben halt generell sehr kleine und sehr kritische Zuhörerschaften haben sind davon nicht betroffen sondern es ist eben halt die massenhaft produzierte Popmusik ... skaliert dann auch mit den Zugriffen.

00:29:57: Ja, spannend!

00:30:00: Dynamisch vor allem verändert

00:30:02: immer vieles.

00:30:02: Es ist also ein bisschen so'n Wettrennen zwischen neun KI-Modellen und dann immer wieder irgendwie neuen Detektionsmechanismen, Erkennungsmustern usw.

00:30:15: Dann danke ich euch für die Infos, die Antworten.

00:30:19: Habt ihr noch was, was ihr dazu sagen wollt?

00:30:22: Haben

00:30:23: wir noch was...

00:30:24: Ich finde es jetzt spannend, also was ich mich jetzt frage gerade mit den neuen EU-Richtlinien wie die ganze Sanktionierung aussehen wird.

00:30:31: Ob da wirklich etwas passieren wird?

00:30:32: Ob da auch dann wirklich die Zahlungsaufforderungen kommen werden, Sanktsionierungsmaßnahmen oder ob die am Ende eben wieder irgendwie weggebügelt werden von irgendwelchen Politikern und das hat man ja auch schon mal gehabt letztens mit Google.

00:30:44: Also mal sehen!

00:30:47: Ja und ich würde mir bei der Diskussion um KI generierte Texte eben halt mehr wünschen, dass wieder mehr auf die Inhalte geschaut wird.

00:30:55: Und nicht wenn ein Herr Döpfer da einen KI-generierten Kommentar absondert das nicht darüber diskutiert wird oh hat er den jetzt selber geschrieben oder mit einem Modell generiert?

00:31:04: sondern was steht denn eigentlich drin so im Kommentar?

00:31:07: Was für Interessen vertritt er da und dass sich damit mehr auseinandergesetzt wird?

00:31:13: Und vielleicht einfach so, das hatte eben unser Chefredaktor letztes Jahr auch in einem Kommentar geschrieben.

00:31:17: Dass man nicht Wahrscheinlichkeit mit Wahrheit verwechseln darf.

00:31:20: also die Detektoren geben nie Wahrheiten aus sondern letztendlich auch nur Wahrscheinlichkeiten wie dass die KI-Modelle selbst eben auch machen.

00:31:29: Ja cool!

00:31:30: Dann danke ich euch für den Besuch.

00:31:33: und

00:31:35: ja wie ist bei euch?

00:31:36: Schreibt gerne mal in die Kommentare habt ihr nutzt ihr KI-Detektoren?

00:31:41: Also es ist ja auch schon recht spezielle Art von Software.

00:31:44: letztlich Ja, wie steht ihr dazu?

00:31:48: Legt ihr auf jeden Fall Wert auf Menschengeschriebenes oder ist euch dann unter dem Strich doch die Qualität des Inhalts wichtiger?

00:31:54: Schreibt es gerne in die Kommentare.

00:31:55: Wenn euch die Folge gefallen hat, dann liked sie gerne.

00:31:59: Ansonsten danke und bis zum nächsten!