Für Künstliche Intelligenz gilt das Gebot maximaler Transparenz - Kulturrat NRW zum AI-Act im Trilog der Europäischen Union

Seit einiger Zeit arbeitet die Europäische Union an einem Gesetzesvorhaben zur Regulierung von Künstlicher Intelligenz. Über den sogenannten AI Act wird in Brüssel im Laufe des Oktobers 2023 weiter verhandelt. Bis zum Jahresende soll eine Einigung erzielt werden. Der Kulturrat NRW nimmt dies zum Anlass, darauf hinzuweisen, welche Rahmenbedingungen für Künstler:innen dringend Berücksichtigung finden müssen.

Der Kulturrat NRW steht für eine demokratische Gesellschaft ein, die von Vielfalt, Toleranz, Meinungs- und Kunstfreiheit sowie Partizipation am poli­tischen Geschehen geprägt ist. Grundlegend hierfür sind das Recht auf Transparenz und Information. Doch mit fortschreitender technologischer Entwicklung, insbesondere im Bereich der sogenannten Künstlichen Intel­ligenz (KI), werden diese Werte immer mehr aufs Spiel gesetzt.

Die von generativer KI erzeugten Inhalte sind oft undurchsichtig in Bezug auf ihren Informationsgehalt, was zu Intransparenz führt und eine fundierte, auf Fakten gründende Meinungsbildung verhindert.

Der Kulturrat NRW schlägt deshalb der Europäischen Union vor, den Entwurf eines AI Acts, der sich derzeit im Trilog befindet, auszuweiten um

• eine Pflicht zur Kennzeichnung von KI generierten Inhalten
• Verhaltenspflichten für Entwickler:innen von KI-Systemen
• einen Schutz der Urheber:innen vor Plagiaten durch KI und eine Haftungsregelung
• eine klare Regelung des urheberrechtlichen Status‘ des Promptings
• das Setzen von Zielen und das Formulieren von Regeln für eine nachhaltige Bildung.

Die Stellungnahme im Einzelnen:

1. Transparenz und Kennzeichnung
   Eine maximale Transparenz durch die Einführung von Kennzeichnungspflichten für KI-Inhalte ist unerlässlich, um unsere Gesellschaft vor Manipulation und Fehlinformationen zu schützen. KI-Inhalte sind fehleranfällig und können manipulativ angelegt sein, ohne dass dies auf den ersten Blick erkennbar ist. Die Bewertung des Wahrheitsgehalts von Inhalten wird durch diese Entwicklung erheblich erschwert. Falschinformationen und Verschwörungs­theorien können intransparent reproduziert, und Propaganda kann strategisch erstellt werden. Diese Risiken wachsen stetig mit der Größe der Modelle.
   
   Um diese absehbaren Schäden für die Gesellschaft und Kultur zu begrenzen, fordert der Kulturrat NRW eine generelle Kennzeichnungspflicht für die Ergeb­nisse von Programmen generativer Künstlicher Intelligenz. Sie muss für Anwender:innen sowohl im öffentlichen als auch im privaten Gebrauch gelten. Die Kennzeichnung kann aus einer Dauereinblendung wie bei Werbung, aus einem einfachen Bilder-Lizenzverzeichnis mit einer Sitemap aller Bildnamen oder auch aus einer Verbindung zur gekauften Lizenz (wie bei Stock-Photos) bestehen. Durch die Kennzeichnung soll offengelegt werden, ob Inhalte wesentlich auf dem Einsatz von KI beruhen. Der Kulturrat NRW begrüßt die Initiative des Bundesdigital­ministers Volker Wissing, der neben einer Kennzeichnung von Bild- und Ton­inhalten auch die Einführung eines KI-Siegels für Texte fordert. Die Kennzeich­nungspflicht muss umfassend formuliert und für alle Kultursparten zu einem Kern­bestandteil der KI-Verordnung der Europäischen Union (AI-Act) werden.
    
2. Verhaltenspflichten für Entwickler:innen von KI-Systemen
   Der Kulturrat NRW fordert klare Verhaltens- und Transparenzpflichten für die Entwickler:innen von generativen KI-Systemen. Bislang haben die Unternehmen, die KI entwickeln, ihre Programme mit massenhaft urheberrechtlich geschützten Werken und Daten unklarer Provenienz „gefüttert“. Dazu gehören Texte, Bilder, Videos, Musikaufnahmen und andere Materialien von Urheber:innen, ausübenden Künstler:innen und weiteren Rechteinhaber:innen. Ihr digital verfügbares Repertoire wird oft ohne Genehmigung und angemessene Entschädigung genutzt, um KI zu trainieren.
   
   Als Rechtsgrundlage werden die Ausnahmeregelungen der europäischen Urheberrechtsrichtlinie für das sogenannte Text and Data Mining, also die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, benannt. Die Analyse soll Informationen über Muster, Trends und Korrelationen gewinnen. Vervielfältigungen von rechtmäßig zugänglichen Werken sind nach der europäischen Richtlinie für das Text und Data Mining auch ohne Einwilligung des jeweiligen Urhebers zulässig. Das Training einer KI unter Verwendung von urheberrechtlich geschützten Werken ist grundsätzlich lizenzfrei zulässig, sollte die Text- and Data-Mining-Schranke für das KI-Training einschlägig sein.
   
   Abgesehen davon, dass der Kulturrat NRW diese Ausnahmeregelung für schädlich hält und ihre Änderung in der Urheberrechtsrichtlinie und den nationalen Umsetzungen fordert, weist der Dachverband auch daraufhin, dass dieser Rechtszusammenhang äußerst fraglich ist. Die KI-Verarbeitung von massenhaft urheberrechtlich geschützten Werken führt zu Ergebnissen, die in jeder Hinsicht – auch und besonders kommerziell – genutzt werden, weitab von den Zwecken eines vorgeblichen Text and Data Minings. Der AI Act sollte klar regulieren, dass die KI-Verwendung von urheberrechtlich geschützten Werken von den Urhebern genehmigt und ggf. lizenziert werden muss. Zumindest muss eine Opt-Out-Regelung implementiert werden. (Opt-Out: Die Möglichkeit für die Urheber:innen, sich gegen die Verwendung durch die KI zu entscheiden.)
    
3. Plagiatsschutz und Haftung
   In vielen Fällen erschafft die KI-Anwendung keine neuen Inhalte, sondern sie wandelt vorher ausgewertete Dokumente ab. Tatsächlich wird ein Großteil der KI-Ergebnisse lediglich aus vorhandenen Werkstrukturen und -auszügen bestehen. Rechtlich gesehen, handelt es sich bei diesen KI-Ergebnissen um eine Vervielfältigung eines urheberrechtlich geschützten Inhalts nach § 16 UrhG. Wer diese Ergebnisse verwertet und öffentlich zugänglich macht, verletzt damit § 19 UrhG. Die Europäische Union sollte im AI Act Rechtssicherheit schaffen. Die KI sollte ihre Ergebnisausgabe mit Angaben zum urheberrechtlichen Rechtsstatus verbinden.
   
   Der AI Act sollte klare Regelungen zur Haftung bei Rechtsverletzungen festlegen und zuweisen. Es ist möglich, dass ein KI-Produkt ein bestehendes Urheberrecht verletzt, da nicht ausreichend Abstand zu einem verwendeten Werk eingehalten wird. In vielen Fällen bleibt unklar, ob die Haftung beim KI-Entwickler oder beim Nutzer liegt. Dies zeigt den großen Mangel an Rechtssicherheit, der auch dadurch entstanden ist, dass man bislang vor allem den urheberrechtlichen Aspekten kaum Beachtung geschenkt hat.
    
4. Prompting und Rechteverlust
   Der AI Act sollte die verschiedenen Formen des Promptings definieren. Als Prompts werden bestimmte Vorgaben bezeichnet, die ein Mensch der KI für die Erstellung eines Erzeugnisses macht. Diese Vorgaben können ab einer bestimmten Schöpfungshöhe vermutlich eigene Urheberrechte begründen.
   
   Der Kulturrat NRW ist der Meinung, dass Prompting nur dann zu eigenen Rechten führen kann, wenn im Prompt in keiner Weise auf urheberrechtlich geschützte Inhalte Bezug genommen wird. Sie bleiben geistiges Eigentum ihrer Schöpfer:innen und dürfen von der KI nicht zur beliebigen öffentlichen Verwertung weitergegeben werden.
    
5. KI und nachhaltige Bildung
   Wer KI und andere freie Angebote im Netz nutzt, bezahlt dies oft mit Daten zum eigenen Privatleben und zur Persönlichkeit. KI und Algorithmen vernetzen und nutzen diese Daten, analysieren Verhalten und versuchen nicht selten, es zu beeinflussen. Sie steuern auch die Informationen, die Menschen im Internet beziehen. Für das Miteinander in unserer Gesellschaft hat dies negative, oft polarisierende Folgen. Notwendig ist eine nachhaltige Bildung der Bürger:innen in Bezug auf Digitalität und auf Künstliche Intelligenz. Der AI Act sollte Ziele setzen und Regeln formulieren, mit denen KI diese nachhaltige Bildung unterstützt und die Vermittlung von Gestaltungs-, Handlungs- und Medien­kompetenz fördert.

Lorenz Deutsch, Vorstandsvorsitzender Kulturrat NRW, 25.09.2023