Wenn die Politik Kreative niederschwellig in den Bundestag einlädt, geht man hin. Das gilt ganz besonders, wenn das Gespräch hybrid mit zugeschalteter Onlinefunktion stattfindet. Am 22. Juni 2023 lud die Fraktion Bündnis 90/DIE GRÜNEN zum Politikgespräch ein: „Auf Knopfdruck kreativ. Chancen und Herausforderungen von KI in der Kunst.“ Zwei Stunden lang waren Politiker und Politikerinnen, die sich mit dem Querschnittthema Digitale Medien, Kultur und Urheberrecht befassen, mit Kreativen ins Gespräch.
Ich nahm als selbstständige Literaturübersetzerin im virtuellen Publikum teil und habe mich für diesen Part zu Wort gemeldet (Punkt 4). Die anderen angesprochenen Punkte habe ich ohne individuelle Zitate und Namensnennung inhaltlich zusammengefasst. Lyam Bittar war als DVÜD-Präsident dabei. Sein Beitrag “Künstliche Intelligenz, oder: Aneignungsmaschinen und die rohe Macht des Rechners” (3.7.23) geht in diesem Kontext auch auf Vorstellungen der großen Player in der Übersetzungsbranche ein. [Hinweis ergänzt nach Erscheinen von Lyams Artikel] Neben den angekündigten Panel-Teilnehmer:innen aus verschiedenen Kultursparten, die teilweise digital zugeschaltet waren, meldeten sich auch Angehörige weiterer Verbände sowie Juristen und Juristinnen mit Expertise im Urheberrecht zu Wort.
Als Anmerkung vorab: Wenn in diesem Text von „KI“ die Rede ist, sind KI-gestützte Tools zur Generierung und Bearbeitung von Text, Bild oder Musik gemeint, nicht etwa sonstige KI-Modelle für Verkehrslenkung, Wirtschaft, Wissenschaft usw.
Was Kreative kritisch hinterfragen
1. Datenschutz und Persönlichkeitsrechte
Beim Hochladen und Verändern hochauflösender Bilder von uns selbst (zum Beispiel für einen möglichst realistischen Internet-Avatar) speisen wir hochauflösende Bilder in KI-Modelle ein. Hier besteht immer die Gefahr missbräuchlicher Verwendung und hohes Fälschungspotenzial.
Stimmen können nach der Bereitstellung von Stimmproben für unterschiedlichste Zwecke genutzt werden. Stimmkopien gefährden das Geschäftsmodell professioneller Sprecher und Sprecherinnen, die mit gut ausgebildeten Stimmen tätig sind, und greifen in Urheberrecht und Persönlichkeitsrechte ein. Die großen Player müssen in die Pflicht genommen werden, Missbrauch und Desinformation in Wort, Bild und Text aktiv entgegenzuwirken (Stichwort Digital Services Act).
2. Der falsche Vergleich mit den Droschkenkutschern
Dass manche Berufsgruppen bestimmte KI-Angebote mit Argwohn betrachten, wird gern als Technikfeindlichkeit und ewig gestrig belächelt. Der entscheidende Unterschied besteht allerdings darin, dass neuartige Sprach-, Musik- und Bildgenerierungstools erst durch das Auslesen, Zerlegen und Umnutzen von urheberrechtlich geschützten Werke ermöglicht wurden.
Zum Hintergrund: 2019 gab die EU mit dem Data Mining Act die entgeltfreie Nutzung öffentlich verfügbarer Daten „für Forschungszwecke“ frei. Ins deutsche Urheberrechtsgesetz wurde dieser Passus 2021 als § 60d eingefügt. Allerdings wurde Data Mining schon Jahre zuvor intensiv betrieben und erst nachträglich in gewissen Grenzen legalisiert.
Da unzählige Inhalte bereits abgegriffen wurden und die KI einmal vorhandene Inhalte nicht „entlernen“ kann, sind Kreative mit einer Entrechtung konfrontiert, einer Enteignung derer, die eigene Werke hervorbringen. Urheberverbände im Bereich Musik, Text und Bild vertreten daher die Ansicht, dass im Nachhinein eine erhebliche Entschädigung fällig ist, die von den Konzernen und ambitionierten Start-Ups, die ihre Modelle jetzt gewinnbringend vermarkten, zu zahlen wäre (Stichwort „KI Tax“).
3. Welche Daten dürfen KI-Modelle nutzen?
Dass Werke in digitaler Form vorliegen, kann kein Freischein für die unvergütete Nutzung durch Machine Learning sein, denn ohne die Denkarbeit von Kreativen gäbe es weder Kunst noch verwertbare Inhalte, aus denen die Modelle lernen können. Sind die AGB von Kreativen und Verlagen gegen ungenehmigte Verwendung nicht mindestens ebenso gültig wie die der großen KI-Anbieter?
Das deutsche Urheberrechtsgesetz (§ 44b) empfiehlt eine maschinenlesbare Kennzeichnung bei Nutzungsvorbehalt – aber wie funktioniert das bitte konkret für diesen Blogartikel (oder eine gut getextete Website oder ein geniales Foto oder einen neuen Song), wenn ich als Urheberin und der DVÜD als Verband zugleich möchten, dass der Artikel von Suchmaschinen gefunden und verbreitet wird? Im Grunde stellt sich die umgekehrte Frage: Sollten für kommerzielle Zwecke nicht nur solche Werke verwendet werden dürfen, für die vorab eine Einigung zu Rechten und Vergütung erzielt wurde?
4. Literaturübersetzen als kreative Miturheberschaft
Literaturübersetzungen sind hochwertige Ausgangsdaten für Sprachgebrauch und neuronales maschinelles Übersetzen: Sowohl das ursprüngliche Werk als auch jede Übersetzung wurde mit Sorgfalt erstellt, und vor der Veröffentlichung in aller Regel extern lektoriert und redigiert. In meinen Augen sollte der Gesetzgeber Konzern-Abgaben durchsetzen, ob an Verwertungsgesellschaften wie die VG Wort oder in Form von Beiträgen zur sozialen Absicherung von Kreativen (z. B. für Kreative aller Sparten in der Künstlersozialkasse).
Ein zweiter Punkt ist, dass moderne Übersetzungstools unrealistische Erwartungen bezüglich Honorarhöhe und Tempo wecken. Manche Verlage erhoffen sich Einsparungen durch posteditierte Maschinenübersetzungen. Leser und Leserinnen erhoffen sich schnelleren Zugang zu neuen Werken, vielleicht auch solchen aus weniger erschlossenen Sprachräumen. Übersetzer, Lektorinnen und Redakteure träumen von mehr Umsatz oder mehr Zeit für Recherchen und zum Feilen am Text.
Im Literaturübersetzen wird seit Jahren mit den jeweils aktuellen Sprachmodellen experimentiert. Wir können beurteilen, wann (und warum!) eine täuschend glatte Passage inhaltlich oder stilistisch danebenliegt. Wir haben die nötige Expertise, technisch und fachlich, und wir wissen, dass (und warum!) beim Posteditieren andere Texte entstehen, als wenn ein Mensch die Übersetzung durchdenkt und gestaltet. Also sprecht mit uns, denn wir können erklären, wann und zu welchem Zweck welche KI-Tools geeignet sind. Und wann nicht. (Mehr dazu demnächst im Rahmen der Themenwoche KI des DVÜD.)
Praxisorientierte Fragen
5. Was brauchen Kreative, die KI-Tools verwenden?
Millionen Menschen spielen mit KI-Tools herum, schreiben Prompts, testen und verfeinern Ideen und Anwendungsszenarien und prüfen, was sie so alles mit diesem neuen Angebot anstellen können. Viele nutzen solche Tools längst beruflich. Der rechtliche Rahmen hinkt dieser Entwicklung hinterher.
Ein KI-Tool kann kein Urheberrecht beanspruchen – aber was ist mit denen, die die Prompts erstellen und aus den Datenmengen das Gewünschte herauskitzeln? Wie sollen Uploadfilter erkennen, dass etwas wirklich ein neues Original ist oder ein krudes Gemisch aus vorhandenen Textstücken? Hinterlässt KI-Einsatz unverwischbare Spuren in den Daten? Wem gehört ein Bild, wenn die KI irgendwo anders auf der Welt für eine andere Anfrage mit anderer Intention ein vergleichbares Bild erstellt? Und darf die KI dieses neue Bild in ihren Fundus aufnehmen, einfach weil es jetzt existiert und diese Regelung vielleicht in den AGB des KI-Anbieters steht?
Kreative Solo-Selbstständige aller Sparten wünschen sich für die Verwertung ihrer Werke Rechtssicherheit, aber zugleich eine Regulierung mit Augenmaß, die Kleinstunternehmen nicht Zeit und Energie für unser eigentliches Schaffen raubt. Urheber:innen dürfen bei Dokumentationspflichten nicht mit Global Playern gleichgesetzt werden, die dafür eigene IT- und Rechtsabteilungen betreiben. Es kann nicht sein, dass Kreative in individuelle Abmahnfallen gelotst werden, während die Anbieter der Tools nicht zur Rechenschaft gezogen werden können.
6. Wer trägt wofür die Verantwortung?
Neben künstlerischen Tätigkeiten verändert KI auch den Zugang zu Informationen. Bisher wurden diejenigen, die in Wissenschaft, Bildungswesen und Journalismus Ideen entwickeln und Informationen beschaffen, sie auswerten, aufarbeiten und als Druckerzeugnis oder digital presserechtlich verantwortlich bereitstellen, über bezahlte Verkäufe und/oder Werbeeinnahmen honoriert. Wenn bestimmte KI-Modelle Inhalte hinter den Bezahlschranken auslesen und dann eine KI-generierte Zusammenfassung weitergeben, gehen die eigentlichen Urheber:innen leer aus. Wer trägt die Verantwortung für den Zusammenschnitt und für die neue (oder kopierte) Schlagzeile?
Wie wichtig die Frage der Verantwortung ist, zeigt sich vor allem im Umgang mit manipulativen Aussagen und mit dem in den Modellen enthaltenen Bias – in der Gesellschaft bestehende Vorurteile und Machtverhältnisse werden gespiegelt und verstärkt: Was in den eingespeisten Daten am häufigsten vorkommt, wird als passendstes Ergebnis präsentiert. Wünschenswert ist daher eine Risikoabschätzung durch die Anbieter und Maßnahmen gegen Diskriminierung und Desinformation, aber auch Transparenz und Kennzeichnungspflicht für KI-generierte Inhalte. Inwiefern die Anbieter von KI-Modellen im Sinne der Produktsicherheit für Missbrauch und Fehler haftbar gemacht werden können, ist auf EU-Ebene zu regeln.
Ob der Ressourcenverbrauch (Rechenkapazität, Energie) dem potenziellen Nutzen entspricht, ist bisher ebenso unklar wie die Frage, wie man Menschen davor bewahren kann, ein zu großes Vertrauen in menschenähnlich agierende Chatbots zu entwickeln. Darüber hinaus müssen wir uns klarmachen, wer unter welchen Arbeitsbedingungen Daten sichtet und bewertet – und wer davon profitiert. Und ob wir das so wollen.
7. Wollen wir das so? Ist es uns das wert?
Die internationale Human Artistry CampAIgn formuliert Kernprinzipien für den Einsatz Künstlicher Intelligenz und betont: „Artificial intelligence is exciting and could move things forward – or set us back further than ever. But AI can never replace human creativity and accomplishment.”
Nur der Mensch kann zu seinem Werk (ob künstlerisch oder informativ) Auskunft geben und Verantwortung tragen. Darum müssen wir dringend darüber sprechen, wer eigentlich wem dienen sollte: die Kreativen als „Datenerbringer“ der Maschine oder die Maschine dem denkenden, fühlenden, gut ausgebildeten, verantwortlich handelnden Menschen, der damit seine persönlichen Ziele leichter und besser umsetzen kann?
„Artificial intelligence is exciting and could move things forward – or set us back further than ever. But AI can never replace human creativity and accomplishment.”
Kernsatz der Human ARTISTRY CAMPAIGN
—
Dieser Bericht ist eine rein inhaltliche, nach Themenschwerpunkten geordnete Zusammenfassung. Für manche Veranstaltungen dieses Formats werden anschließend Berichte erstellt. Sofern das hier auch geschieht, findet ihr den offiziellen Bericht später bei der Veranstaltung.