Generative KI und Recht

Ihre Haut schimmert warm im kalten Licht des U-Bahn-Tunnels, einige dunkle Locken fallen ihr ins Gesicht, selbstbewusst fragend blickt sie auf ihrem Selbstfindungstrip durch immer neue Welten nach vorn: Zarya ist die non-binäre Heldin des nach ihr benannten Comics „Zarya of the Dawn“. Verfasst hat das Werk Kristina Kashtanova, auch im Gedenken an ihre verstorbene Großmutter. Story und Texte hat sich die Autorin selbst ausgedacht, die Bilder aber mit Hilfe der KI-gestützten Software Midjourney generiert. Damit sorgte sie für Aufmerksamkeit: Im Februar 2023 verkündete jedenfalls das U.S. Copyright Office, dass Kashtanova nicht die Urheberrechte an den Bildern ihres Comics habe. Weshalb der Comic nun mit einem Hinweis versehen ist, der Midjourney als Schöpfer der Bilder angibt.

Was auf den ersten Blick wie eine juristische Randnotiz wirkt, liefert eine der ersten Antworten auf eine zentrale Frage, die sich im Zusammenhang mit dem Einsatz von Systemen generativer Künstlicher Intelligenz stellt: Mensch oder Maschine, Publizisten oder Kreativen, Produzierenden oder Bearbeitenden – wem gehören eigentlich die Rechte an Inhalten wie Bildern, Grafiken oder Texten, die mithilfe KI-gestützter Systeme entstehen? 

Kostenloses Training mit Milliarden von Bildern und Wörtern  

Generative Text-zu-Bild-Modelle wie Midjourney und DALL·E werden mit Milliarden von Bildern aus dem Internet trainiert, meist ohne Wissen oder Zustimmung der Urheber:innen. Sprachmodelle wie GPT-3, auf dem ChatGPT basiert, arbeiten mit einer Datengrundlage von 45 Terrabyte, also rund einer Billion Wörter – aus Quellen wie Wikipedia, digitalisierten Büchern und Webseitenscans. Was sind die rechtlichen Konsequenzen? 

Wie so oft zu Beginn einer neuen Ära – und als solche lässt sich die Arbeit mit KI-gestützten Systemen zweifellos beschreiben – bewegen wir uns noch in einer juristischen Grauzone. Dennoch wollen wir versuchen, für die wichtigsten rechtlichen Fragestellungen im Umgang mit KI eine erste juristische Orientierung zu geben: 

• Wer hat die Rechte an KI-generierten Bildern und Texten?
• Was darf ich mit den KI-Ergebnissen machen?
• Wann verletzt die KI meine Urheberrechte?
• Wie kann ich meine Urheberrechte schützen?
• Worauf sollte ich achten, wenn ich KI-Tools verwende?

1. Wer hat die Rechte an KI-generierten Bildern und Texten?

Nach dem Urheberrecht ist für eine Antwort auf diese Frage entscheidend, ob und inwieweit die zu schützenden Werke auf die gestalterische Tätigkeit einer menschlichen Person zurückzuführen sind (§ 2 Abs.2 UrhG).

KI-Algorithmen kreieren zwar neue Werke aus vorhandenen Informationen, sind aber keine eigenständigen Persönlichkeiten. Sie können deshalb keine Verträge schließen oder Straftaten begehen und haben daher auch keine Rechte an den von ihnen geschaffenen Ergebnissen.

Auch die Programmierer:innen einer KI-Anwendung erwerben keine Rechte an den damit generierten Ergebnissen – genauso wenig wie Microsoft-Entwickler:innen an den mit MS Word erstellten Texten. Denn sie sind nicht Schöpfer:innen der mit KI-Unterstützung entstandenen Bilder oder Texte.

Reine, durch KI entstandene Werke sind also nicht urheberrechtsfähig. Das ändert sich, sobald der KI-Output von einem Menschen schöpferisch bearbeitet und über diesen Schritt ein sogenanntes Mindestmaß an Originalität oder individueller kreativer Leistung erreicht wurde. Ob das zutrifft, liegt derzeit im Ermessen der Justiz – jüngste Entscheidungen bieten eine erste Orientierung:

Überarbeitet etwa ein:e Redakteur:in einen von einer KI generierten Text umfangreich stilistisch und sprachlich, besitzt sie oder er ein Urheberrecht an der editierten Fassung des Textes. Ein einfaches Lektorat dagegen, bei dem nur einzelne Sätze gekürzt oder ergänzt werden, reicht dafür nicht aus.

Künstler:innen erwerben kein Urheberrecht an einem von einer KI generierten Bild, indem sie einfach zwischen verschiedenen Ergebnissen auswählen. Sie müssen dafür die Bilder umfassend bearbeiten, wie etwa beim sogenannten Outpainting. 

Wenn Bilder mittels KI-Tools entstehen, ist das dem Fotografieren ähnlich: Fotos, Videos und Filme lassen sich auch einfach mit einer Kamera erstellen. Und für sie gelten Leistungsschutzrechte wie das Lichtbildrecht, ein schöpferischer Akt ist dafür nicht ausschlaggebend.

Das Lichtbildrecht wiederum wird nach herrschender Meinung in der Rechtsliteratur sowie aktueller Rechtsprechung ausschließlich für menschliche Leistungen gewährt. Dieser Schutz erstreckt sich also nicht auf Bilder, die eine KI generiert hat.

Auch das Patentrecht gilt, wie das Urheberrecht, nur für Personen: Nach geltender Rechtslage sind Erfindungen nur dann geschützt, wenn sie von einem Menschen stammen. So könnte gegebenenfalls die Erfinder:in einer KI oder KI-Anwendung Rechte daran anmelden – allerdings nicht an den von der KI generierten Werken.
 

2. Was darf ich mit den KI-generierten Bildern und Texten machen? 

An den unbearbeiteten KI-Ergebnissen kann aktuell niemand Rechte geltend machen. Sie lassen sich völlig legal übernehmen und weiterverwenden. So kann man mit ChatGPT erstellte Bücher zwar verkaufen, es steht aber auch jedem frei, sie kostenlos zu kopieren. Schließlich soll das Recht die kreative Leistung von Personen schützen, nicht von Maschinen. Aber wie gelingt das?

Dieses von Midjourney generierte Bild mit einer lächelnden Frau am Computer imitiert den Stil von Rembrandt. Rechte verletzt das nicht: Ahmt eine KI den Stil eines Künstlers nach, weil der Prompt dazu auffordert, ist das Ergebnis laut Urheberrecht generell nicht geschützt. Selbst wenn die KI dabei auch konkrete Bestandteile eines Bildes von Rembrandt aufgegriffen hätte: Weil seit seinem Tod mehr als 70 Jahre vergangen sind, greift das Urheberrechtsgesetz nicht mehr.

3. Wann verletzt die KI meine Urheberrechte?

Aber wie ist die Rechtslage, wenn die KI sich zum Beispiel aus Werken noch lebender Künstler:innen oder Autor:innen bedient? Urheberrechte sind nur dann betroffen, wenn die KI geschützte Werke kopiert. Angesichts der Datenmassen, mit denen ChatGPT und Midjourney gefüttert werden, ist aber unwahrscheinlich, dass solche KI-gestützten Systeme Kopien speichern. KI-Anbieter ­argumentieren, dass die KI lediglich existierende Daten verarbeitet, zum Beispiel in Form von mathematisch dargestellten Mustern, die aus Bildern gesammelt werden. So lässt sich ein Schwarzweißbild in ein Zahlen-Raster von Pixeln mit Grauwerten übertragen, wie in diesem Beispiel für den Schulunterricht dargestellt.

Doch obwohl die Software weder Bilder speichert noch Bildschnipsel als Collage zusammenfügt, sondern aufgrund der mathematischen Darstellungen völlig neue Bilder erstellt, nutzt sie dafür zum Teil urheberrechtlich geschützte Ausgangsdaten. Daher laufen verschiedene Klagen gegen die Entwickler von Deep-Learning-Modellen. In den USA haben Künstlerinnen unter anderem gegen die Schöpfer von Stability AI and Midjourney  geklagt. Im Mittelpunkt steht die Frage: Können die von der KI generierten Bilder als rechtlich eigenständige Werke gelten oder ähneln sie zu stark den Ursprungswerken und verletzen damit Urheberrechte?

Till Kreutzer sieht das kritisch. Er ist Rechtsanwalt und Herausgeber von iRights.info, einem Internetportal für Verbraucher und Kreative zum Urheberrecht in der digitalen Welt. Dass ein Werk der KI genau wie ein urheberrechtlich geschütztes Werk aussieht, hält er für extrem unwahrscheinlich. „Das ist eher ein Bug,“ sagt er. „Die Tools sollen ja gerade ganz neue Ergebnisse generieren, die von unzähligen Quellen inspiriert sind.“ Auf das Urheberrecht können sich Kreative daher nicht berufen. „Wenn nur aus den Originalquellen gecrawlt wird, ist das urheberrechtlich nicht relevant“, sagt Kreutzer.

4. Wie kann ich meine Urheberrechte an Content schützen, den KI-gestützte Tools für ihre Arbeit auswerten?  

Text- und Data Mining – so nennt sich die Art der Datenanalyse, die unerlässliche Basis für jedes KI-Training ist. Ohne diese Art Mining sind heute viele Innovationen undenkbar. Daher hat der Gesetzgeber in den letzten Jahren einige Ausnahmen vom Urheberrechtsschutz definiert, die Data Mining leichter machen, unter anderem in § 44b Urheberrechtsgesetz. Der neue Paragraph beschreibt Text und Data Mining als automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen insbesondere über Muster, Trends und Korrelationen zu gewinnen. Für Künstler:innen und Autor:innen interessant ist § 44b Absatz 2: Die fürs Mining verwendeten Werke müssen rechtmäßig zugänglich sein, etwa über öffentliche Websites oder per Nutzungslizenz. Wann ihre Nutzung zulässig ist, regelt Absatz 3:

„Nutzungen nach Absatz 2 Satz 1 sind nur zulässig, wenn der Rechtsinhaber sich diese nicht vorbehalten hat. Ein Nutzungsvorbehalt bei online zugänglichen Werken ist nur dann wirksam, wenn er in maschinenlesbarer Form erfolgt.“

Künstler:innen, die ein Mining ihrer Daten verhindern wollen, sollten also einen entsprechenden Vorbehalt auf den eigenen Internetpräsenzen vermerken. Und der Crawler, der das Material fürs KI-Training sucht und analysiert, muss diesen Vorbehalt lesen können. Zum Beispiel über eine Einbindung des Copyrights in Bilder oder den Schutz bestimmter Webseiten über robots.txt-Dateien. Mittelfristig gilt es hier, technologische Standards zu entwickeln, die den Umgang mit dem Urheberrecht für beide Seiten zuverlässig lösen.

Die Krux mit dem Text 

Eine weitere Folge des KI-Tool-Booms: Auch klassische Suchmaschinen werden ihre Antworten künftig immer mehr im Stil von ChatGPT ausformulieren. Weshalb immer weniger Nutzer:innen die Quellen selbst aufrufen, von denen die Informationen stammen, auf deren Basis Suchmaschinen ihre Antworten generieren. Weniger Aufrufe heißt weniger Aufmerksamkeit respektive Reichweite und damit eine geringere ökonomische Attraktivität des originären Angebots. Aus Sicht des Urheberrechts gibt es allerdings keine Möglichkeit, sich gegen das Absaugen der Daten zu wehren. „Urheberrechtlich geschützt sind nur die Wortfolgen, die Sätze“, sagt Jurist Kreutzer. „Ein literarisches Werk ist die Komposition von Wörtern in einem Text – nicht die Information, die darüber transportiert wird.“ Anders als herkömmliche Suchmaschinen arbeitet generative KI nur mit den Informationen. „Und auch wenn diese oft mit hohem Aufwand beschafft werden müssen, reine Fakten sind nicht rechtlich geschützt“, sagt Kreutzer.
„Sie sollen ja gerade allen zur Verfügung stehen, sodass kein Informationsmonopol entsteht.“
 

5. Worauf sollte ich noch achten, wenn ich KI-Tools verwende? 

„Unsere Aufgabe ist es, dafür zu sorgen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugute kommt“: Diesen hehren Anspruch kommuniziert OpenAI auf ihrer Website. Kurz nach Freischaltung des Dienstes ChatGPT wiederum macht eine Meldung die Runde, wonach OpenAI kenianische Arbeiter für weniger als 2 Dollar pro Stunde eingesetzt hat, um ChatGPT weniger toxisch zu machen.
Heißt: Auch die Arbeitsbedingungen von Dienstleistern und Subunternehmen sollten beim Training „ethischer KI“ eine relevante Rolle spielen.

Grundrechte im Blick behalten 

Um die Rechte der EU-Bürger:innen zu schützen, leitete die Europäische Kommission aus den bereits gewonnenen Erkenntnissen verbindliche Maßgaben für die Entwicklung von KI-Systemen ab und veröffentlichte 2019 die “Ethik-Leitlinien für eine vertrauenswürdige KI“. Nun folgt der nächste Schritt: Ein von der EU-Kommission entworfener KI-Rechtsrahmen soll dafür sorgen, dass die in Europa verwendete Künstliche Intelligenz sicher, transparent, ethisch, unparteiisch und unter menschlicher Kontrolle ist. Dafür teilt die EU KI-Systeme in Risikoklassen ein:

1. Verbotene KI, zum Beispiel für die Bewertung sozialen Verhaltens durch Behörden wie beim Social Scoring in China.
2. KI mit hohem Risiko, etwa für die Gesichtserkennung im öffentlichen Raum zur Strafverfolgung.
3. Einfache KI mit geringem Risiko, wie bei der Manipulationsgefahr durch Chatbots, die Nutzer:innen nicht als Maschine erkennen.
4. KI mit minimalem Risiko – was für die Mehrheit der KI-Systeme gilt, die derzeit in der EU verwendet werden.

Der neue Rechtsrahmen gilt für Anbieter:innen, aber auch Nutzer:innen von KI-Systemen mit hohem Risiko, zum Beispiel Banken. Er gilt nicht für die rein private Verwendung. Klare Anforderungen und entsprechende Möglichkeiten sie durchzusetzen, sollen sicherstellen, dass die Rechtsvorschriften schon bei der Entwicklung der KI eingehalten werden. So sollen auch unfaire Verzerrungen bei KI-Systemen mit hohem Risiko vermindert werden. Zudem müssen die Daten, mit denen der Algorithmus trainiert wurde, nach der neuen Regelung rückverfolgbar und überprüfbar sein. 

Selbst Grenzen setzen 

Das KI-Gesetz könnte schon 2024 in Kraft treten, ist aber nur für die risikoreichsten KI-Anwendungen relevant – nach Schätzungen der Europäischen Kommission sind das 5 bis 15 Prozent. Anbieter von KI-Anwendungen, die kein hohes Risiko darstellen, können aber eigene freiwillige Verhaltensregeln aufstellen oder sich den Selbstverpflichtungen repräsentativer Verbände anschließen. Einen ersten Schritt in diese Richtung machte die Deutsche Telekom im Februar 2023. Zusammen mit dem Konzernbetriebsrat verabschiedete sie ein Manifest zur
Nutzung von Künstlicher Intelligenz. Demnach darf der Einsatz von KI-Systemen keine negativen Auswirkungen auf die Sicherheit, Gesundheit und Grundrechte von Beschäftigten haben. So kann die KI zum Beispiel Vorschläge für Personalentscheidungen machen, sie trifft aber nie die Entscheidung. 

Persönliche Daten schützen 

Unabhängig davon sind Anbieter:innen und Nutzer:innen von
KI-Systemen aller Risikogruppen schon jetzt dem Schutz persönlicher Daten verpflichtet. Die 2018 von der EU eingeführte Datenschutz-Grundverordnung (DSGVO) soll sicherstellen, dass Bürger:innen die Kontrolle über ihre personenbezogenen Daten behalten und Unternehmen von gleichen Wettbewerbsbedingungen in der EU profitieren.
Auch wenn es aufwändig ist, die Vorgaben einzuhalten, sehen viele Expert:innen darin eine echte Chance: KI-Modelle, die unter Maßgabe europäischer Datenschutzrichtlinien und europäischer Regulierung entwickelt wurden, bieten auch Nutzer:innen rechtliche Sicherheit.

Chancen ausloten

Es ist wichtig, über die Rechtssicherheit neuer KI-Anwendungen nachzudenken und neue Regelungen zu suchen. Das bestätigt auch Jurist Till Kreutzer: „Die disruptiven Effekte solcher „emerging technologies“ sollte man im Blick behalten,“ sagt er. „Aber ich würde mich freuen, wenn nicht nur über juristische Grenzen, sondern auch über die kreativen Potenziale Künstlicher Intelligenz geredet würde. Es eröffnen sich viele Optionen, auch für Künstler:innen und Verlage. Es wäre doch schön, dieses Gesamtbild im Blick zu behalten, ohne sich sofort von den Nachteilen, den Schwierigkeiten und der Angst, die damit einhergeht, aufhalten zu lassen.“