Journalismus und KI

Medienhäuser dürfen Künstliche Intelligenz nicht mit dem Ziel einsetzen, Arbeitsplätze von Journalist:innen einzusparen. Selbst wenn sich Aufgaben durch den Einsatz Künstlicher Intelligenz verändern oder sie gänzlich entfallen, werden Menschen in der Redaktion nicht überflüssig. Denn ein verantwortungsvoller Einsatz von Künstlicher Intelligenz im Journalismus erfordert als Korrektiv stets den unersetzbaren redaktionellen Blick von Journalist:innen auf die generierten Inhalte, um deren Qualität zu gewährleisten und die journalistischen Sorgfaltspflichten einzuhalten.

Auch bei der Recherche und der Zusammenstellung des zugrunde liegenden Datenmaterials sowie bei der Programmierung, beim Training und bei der Konfiguration der KI-Anwendung sind Menschen unersetzlich. Somit nimmt das Zusammenspiel zwischen Menschen und KI-Anwendungen selbst dann noch einen hohen Stellenwert ein, wenn der Automatisierungsgrad der Künstlichen Intelligenz hoch ist. Eine vollständig automatisierte Erstellung und Distribution von Nachrichten muss vermieden werden. Glaubwürdigkeit ist und bleibt die wichtigste Voraussetzung für Journalismus, sie kann nur erhalten bleiben, wenn Menschen für Auswahl und Präsentation der Inhalte die letzte Verantwortung tagen.

Eine Veröffentlichung von automatisiert bzw. mit KI erzeugten Beiträgen ohne die Beteiligung oder die effektive Eingriffsmöglichkeit von menschlichen Journalist:innen darf nicht stattfinden. Redaktionen sollen klar geregelte Abnahme- und Freigabeprozesse für journalistische Inhalte etablieren. Ungeachtet der automatisierten Erstellung und/oder Distribution von journalistischen Inhalten durch Künstliche Intelligenz bleibt stets diejenige Redaktion für die Inhalte publizistisch verantwortlich, die die Künstliche Intelligenz zum Einsatz bringt. Entsprechend bleibt auch das jeweilige Medienhaus, welchem die Redaktion angehört, in der Verantwortung.

Medienhäuser sollen Beauftragte benennen, die die Praxis des Einsatzes von KI im Haus abgleichen mit den jeweils gültigen Regeln, etwa einem künftigen Code of Conduct zu KI, und die auch als Ansprechpersonen im Beschwerdefall dienen.

Die Redaktion, die journalistische Inhalte mithilfe von Künstlicher Intelligenz unter Nutzung von Daten erstellen lässt, trägt die Verantwortung für das Datenmaterial, welches den automatisiert generierten Inhalten zugrunde liegt. Die jeweilige Redaktion zeichnet sich dafür verantwortlich, dass das verwendete Datenmaterial inhaltlich richtig und vollständig ist. Die Datenerhebung, -aufbereitung und -verarbeitung muss hohen qualitativen Maßstäben genügen. Unvollständigkeiten, Verzerrungen und sonstige Fehler im Datenmaterial müssen unverzüglich behoben werden. Bei der Verarbeitung personenbezogener Daten müssen die einschlägigen Datenschutzgesetze beachtet werden.

Der DJV ruft Medienhäuser dazu auf, eigene und wertebasierte Datenbanken aufzubauen und unterstützt Open-Data-Projekte von Behörden und staatlichen Einrichtungen. Eine größere Unabhängigkeit von kommerziellen Big-Tech-Anbietern ist erstrebenswert.

Journalistische Inhalte, die mithilfe Künstlicher Intelligenz ganz oder teilweise erstellt werden, sind im Veröffentlichungsmedium entsprechend zu kennzeichnen. Die Kennzeichnung muss in unmittelbarer Nähe zum Inhalt erfolgen und hinsichtlich Größe und Gestaltung klar erkennbar sein.

Nutzer:innen soll in angemessener Weise und an geeigneter Stelle mitgeteilt werden, welche Technologien bei der automatisierten Generierung und Distribution von journalistischen Inhalten zum Einsatz kommen und in welchem Umfang. Zudem sollen Nutzer:innen die Möglichkeit haben zu erfahren, welche Daten für die Generierung und/oder Distribution mittels Künstlicher Intelligenz erhoben und verwendet wurden. Die Quelle der zugrunde liegenden Daten und Inhalte muss angegeben werden, zuletzt auch, um eine angemessene Vergütung der Urheberinnen und Urheber zu ermöglichen (vgl. Ziffer 8).

Der DJV ruft den Gesetzgeber dazu auf, derartige Kennzeichnungspflichten gesetzlich zu verankern.

Eine Personalisierung von Inhalten mittels Künstlicher Intelligenz dahingehend, dass Nutzer:innen auf Interessen und Nutzungsverhalten zugeschnittene Inhalte angezeigt werden, muss stets verantwortungsbewusst und ausgewogen erfolgen. Filterblasen sollten vermieden werden.

Trotz Personalisierung muss sichergestellt sein, dass den Nutzer:innen auch weiterhin von Redaktionen kurierte Inhalte angezeigt werden. Bei der Gesamtauswahl der Inhalte soll auf gesellschaftliche Vielfalt geachtet werden.

Den Nutzer:innen soll transparent offengelegt werden, nach welchen Kriterien der eingesetzte Algorithmus die angezeigten Inhalte auf die jeweiligen Nutzer:innen zuschneidet. Für Nutzer:innen soll die Möglichkeit bestehen, die Auswahlkriterien zu ändern und/oder die personalisierte Distribution vollständig zu deaktivieren.

Der DJV befürwortet und unterstützt die Entwicklung von Zertifizierungen von KI-Systemen, die im journalistischen Bereich eingesetzt werden. Ziel muss es sein, dass nur noch spezielle, zertifizierte KI-Systeme im journalistischen Bereich zum Einsatz kommen, die gewisse Standards hinsichtlich Qualität, Ausgewogenheit, Diskriminierungsfreiheit, Daten- und Quellenschutz sowie Sicherheit erfüllen. Die Zertifizierungen sollten eng mit der Politik und den relevanten Nicht-Regierungsorganisationen aus dem Medienbereich entwickelt werden.

Der DJV erklärt sich bereit, an derartigen Entwicklungen von Zertifizierungen mitzuwirken.

Medienhäuser müssen den Einsatz und die Wirkung von Künstlicher Intelligenz im Bereich des Journalismus fortlaufend auf die vorstehenden Aspekte hin überprüfen.

Der Umgang mit Künstlicher Intelligenz muss fester Bestandteil von Aus- und Weiterbildungen von Journalist:innen werden. Medienhäuser werden aufgerufen, entsprechende Angebote zu schaffen. Inhalt dieser Bildungsangebote muss neben der Nutzung und die daraus resultierenden Möglichkeiten (etwa beim Einsatz zur Recherche) vor allem auch sein, für Missbrauch von Künstlicher Intelligenz (zum Beispiel zur Erstellung von Deepfakes) zu sensibilisieren und Möglichkeiten ihrer Entdeckung im journalistischen Alltag zu schaffen.

KI-Anwendungen sind auf vorhandene Daten und Inhalte angewiesen, von denen sie lernen und mithilfe derer sie sich weiterentwickeln können. KI-Anwendungen durchforsten mittels Text- und Data-Mining-Technologien Unmengen an vorhandenen Inhalten, in aller Regel ohne zuvor die Einwilligung der Urheberinnen oder Urheber eingeholt oder hierfür eine angemessene Vergütung bezahlt zu haben. Im Anschluss nutzt und vermarktet die Künstliche Intelligenz die fremden Inhalte oder Teile hiervon in eigenem Namen. Im Ergebnis werden Journalist:innen, die die Inhalte ursprünglich angefertigt haben, zu unbezahlten Lieferant:innen von Rohdaten für die KI-Systeme. Das darf nicht sein. Der DJV fordert den Gesetzgeber daher auf, für Text- und Data-Mining eine Vergütungspflicht einzuführen, damit Journalist:innen an der Entwicklung und Nutzung von KI-Systemen partizipieren können.