Leitplanken für KI

Die Kleinstadtanwälte, die in Südstaaten-Gerichtssälen gegen das Unrecht der Welt ankämpfen – wer liebt nicht die Helden, die US-Autor John Grisham in seinen Büchern erschaffen hat. Doch der Autor kämpft nun selbst gegen Unrecht, das ihm als Urheber so vieler geliebter Werke erfährt. Mit anderen Größen wie George R.R. Martin hat er eine Klage gegen den KI-Anbieter Open AI angestrengt, wegen der Verletzung von Urheberrechten. Künstliche Intelligenz soll mit dem Stoff der Bestsellerautoren gefüttert werden und so unter anderem lernen, selbst Texte in diesem Stil zu schreiben. „Trainingsdaten“ werden diese Texte genannt, die KI wird so trainiert, soll besser werden.

Künstliche Intelligenz (KI) kann ein gutes Werkzeug sein. Wie jedes neues Werkzeug bietet die Technologie Chancen, aber auch Risiken. Der DJV hatte sich dazu bereits früh positioniert und Leitplanken formuliert, die aufgestellt werden sollten. In Paris wurde zudem mit weiteren Partnern der nächste Schritt gemacht – denn bei einem solchen Thema ist klar, dass nationalstaatliche Lösungen alleine nicht zielführend sind. 

Die Frage des Urheberrechts ist dabei von zentraler Bedeutung. Denn wenn die KI durch das Text-Training der Autoren besser wird, haben diese einen Anteil an deren Erfolg. Während sie für jedes verkaufte Buch Geld erhalten, ist das bei der Verwendung von KI bislang völlig offen. Die großen, meist in den USA sitzenden Unternehmen jedenfalls würden sich gerne einen schlanken Fuß machen und die Urheber außen vor lassen.

Deshalb muss eine Transparenzpflicht für KI her. Denn ohne die Pflicht, dass Unternehmen offenlegen, womit sie ihre KI trainieren, kann es auch keine Vergütung der Urheberinnen und Urheber geben. Das wäre fatal. Nicht nur für den Buchmarkt. Auch die Presselandschaft geriete ins Wanken. Hier ist der Gesetzgeber gefordert, dass Autoren auf eine Vergütung ihrer Leistung bauen dürfen.

Für Journalistinnen und Journalisten ergibt sich daraus ein weiteres Problem. Denn Transparenz ist die conditio sine qua non für Glaubwürdigkeit journalistischer Produkte. Leserinnen und Leser, Nutzerinnen und Nutzer müssen jederzeit wissen, ob ein Artikel, ein Radiobeitrag, Foto oder Video von Menschen gemacht und verifiziert wurde oder ob es synthetisch, mit Hilfe oder ganz alleine von KI hergestellt wurde. Eine Kennzeichnungspflicht ist deshalb zwingend.

Der DJV hat deswegen die Bundesregierung aufgefordert, nicht weiter auf die Bremse zu treten, wenn es um die Regulierung von KI in der Europäischen Union geht. Der derzeit im komplizierten europäischen Gesetzgebungsverfahren befindliche „AI-Act“ (AI ist die englische Abkürzung für KI) muss am Ende verpflichtende Regeln enthalten.

Wenn KI nicht reguliert wird, drohen unethischer Einsatz, Sicherheitsrisiken, Arbeitsplatzverlust – es ist eine fehlende Verantwortlichkeit für die Folgen zu befürchten, die Systeme können intransparent sein. Wer diese Bewertung trifft? Das ist die Antwort des beliebten „ChatGPT“ auf die Frage, was geschieht, wenn KI nicht reguliert wird.