Künstliche Intelligenz im Journalismus
Publizistische und ethische KI-Guidelines des MDR
Künstliche Intelligenz und jede Art von intelligenten Automatisierungen sind Technologien, die Journalismus, Kommunikation und die Organisation von Arbeit verändern werden. Wir gestalten diese Veränderungen und bleiben damit entscheidungs- und handlungsfähig, den öffentlich-rechtlichen Programmauftrag zu erfüllen. Unsere Richtlinien verstehen sich als im Prozess befindlich. Sie geben die Haltung des MDR bezogen auf den Programmauftrag im Umgang mit KI und intelligenten Automatisierungen wieder.
Wir verstehen KI als die maschinelle Möglichkeit, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren, die normalerweise dem menschlichen Bewusstsein zugeschrieben werden. Uns ist bewusst, dass es aktuell keine einheitliche Definition von intelligenten Automatisierungen gibt, da Begriffe und Bezüge sich in Veränderung befinden.
Wir sind offen für Innovation und lernen, entwickeln und gestalten diese gemeinsam mit unseren Partnern in der ARD. Dazu gehört, dass wir das Ausprobieren und Experimentieren ermöglichen. Gleichzeitig haben wir als Journalistinnen und Journalisten und als öffentlich-rechtliches Medienhaus eine besondere, dem Programmauftrag entsprechende Verantwortung der Gesellschaft gegenüber. Der Einsatz von KI ist kein Selbstzweck, sondern soll den Mitarbeitenden des MDR und den Nutzerinnen und Nutzern unserer Produkte einen Mehrwert bieten. Wir stehen für einen verantwortungsbewussten und menschenzentrierten Einsatz von KI. Der MDR nimmt seine soziale Verantwortung gegenüber den Mitarbeiteten ernst. Die rechtlichen, ethischen, sozialen und weiteren Fragen, die sich durch Entwicklung und Verwendung von KI stellen, behalten wir im Blick und begleiten wir aktiv.
Verantwortung und Ethik
Die journalistischen Grundsätze und Leitlinien unseres Medienhauses gelten. Wir wahren die journalistische Sorgfaltspflicht und nehmen automatisiert erstellte Inhalte immer in den Redaktionen ab. Die redaktionelle Entscheidung für einen Inhalt in den Angeboten des MDR liegt bei den Redaktionsverantwortlichen. Wir evaluieren und überwachen kontinuierlich den Einsatz unserer Systeme und Methoden.
Wir müssen lernen und verstehen, wie KI und automatisierte Prozesse den Journalismus in Arbeitsorganisation, Recherche, Produktion, Distribution und Dialog beeinflussen. Uns ist bewusst, dass durch die den Modellen zugrundeliegenden Daten Verzerrungen, sogenannte Biases, entstehen können. Deswegen begegnen wir aktiv Vorurteilen und Stereotypisierungen, welche KI-Anwendungen regelmäßig verstärkt hervorbringen. Diversität ist uns wichtig. Wir erkennen und reagieren auf Gefahren für die öffentliche Meinungsbildung und eine objektive, unabhängige Berichterstattung betreffend. Wir verfolgen die ethische Diskussion zum Thema und passen unsere Richtlinien regelmäßig dementsprechend an.
Wir übernehmen und veröffentlichen nicht ungeprüft Entscheidungen und Ergebnisse von KI-Systemen. Gleiches gilt für Recherche und Umsetzung von Themen, die eine besonderen Sorgfaltspflicht benötigen, wie beispielsweise identifizierende oder Verdachtsberichtserstattung.
Wenn es nicht möglich ist, die Datensätze und Quellen von KI-Systemen einzusehen, nutzen wir KI-generierte Inhalte analog zum Konzept des "off the record" oder "unter 3". Das heißt, wir können die Informationen für Ideen und Hinweise nutzen, bestätigen aber alle Fakten und Details aus unabhängiger Quelle.
Transparenz
Wir halten Transparenz beim Einsatz von KI für unbedingt notwendig. Wir legen offen, mit welchen KI-Anwendungen wir arbeiten. Wir klären deutlich und kontinuierlich darüber auf, welche Inhalte in welchem Umfang durch KI und intelligente Automatisierungen angepasst und erstellt werden. Dazu verwenden wir unterschiedliche Mittel wie u. a. deutlich wahrnehmbare Hinweise für die Nutzerinnen und Nutzer an unseren Produkten. Denkbar sind auch Werkstatt- und Transparenzberichte zu einzelnen größeren Projekten, in denen wir unsere Methode und Quellen offenlegen und erklären. Gleichzeitig geben wir, wenn inhaltlich und technisch umsetzbar, die Möglichkeit, Fehler unmittelbar zu melden und mit den Redaktionen in Kontakt zu treten.
Wir halten vom MDR beauftragte Dienstleister an, Informationen über die Trainingsdaten offenzulegen und bei den für den MDR erstellten Produktionen die Maßstäbe besonders in den Punkten Verantwortung, Transparenz und Datenkultur zu beachten. Die Nutzung und der Einsatz von KI-Systemen ist vorab mit der verantwortlichen Redaktion zu besprechen.
Entwickelt der MDR eigene KI-Systeme, verpflichtet sich der MDR die Trainingsdaten, sofern rechtlich möglich, zu benennen und / oder offenzulegen.
Datenkultur
Im Sinne des Datenschutzes setzen wir auf das Prinzip der Datensparsamkeit. Das heißt, wir nutzen und verwenden so viele Daten wie nötig und so wenig Daten wie möglich. Daten werden nur in dem Umfang erhoben, gespeichert und verarbeitet werden, wie dies nötig für die Erfüllung der Aufgaben ist.
Wir stellen sicher, dass Persönlichkeitsrechte nicht verletzt werden. Wir stellen einen verantwortungsvollen Umgang mit Daten sicher. Das heißt, wir beachten die geltenden Datenschutz-, Datensicherheits- und Urheberrechtsbestimmungen und verfolgen die Diskussionen zu diesen Themenfeldern und leiten Erkenntnisse daraus ab.
Mehrwert
Wir setzen KI ein, um für unser Publikum, Nutzerinnen und Nutzer und Mitarbeitenden einen Mehrwert im Sinne des Programmauftrages zu bieten. Der Einsatz von KI erleichtert Arbeit, hilft Aufgaben effizient und ressourcenschonend zu erfüllen, Recherchen und Angebotsentwicklung und die Produktentwicklung zu unterstützen.
Entwicklung und Experiment
Innovation ist Teil unseres Auftrages und unserer Strategie. Deswegen sorgen wir dafür, zu diesem Thema handlungs- und entscheidungsfähig zu sein. Dazu gehört, unter anderem gemeinsam mit den Partnern in der ARD einen Raum für Entwicklung, Experimente und Lernen zu schaffen. Wir arbeiten mit Institutionen und Hochschulen zusammen und bleiben untereinander im kontinuierlichen Austausch. Wir unterstützen Mitarbeiterinnen und Mitarbeiter beim Lernen, Wissenserwerb und Weitergabe und setzen auf möglichst diverse, interdisziplinäre Teams aus unterschiedlichen Bereichen und Redaktionen.
Wir stellen sicher, dass sowohl Mitarbeitende als auch Nutzerinnen und Nutzer über die aktuellen Entwicklungen, über Funktionsweise, den Einsatz und die Folgen von KI-Systemen kontinuierlich informiert und aufgeklärt werden.
Uns ist bewusst, dass diese Richtlinien nicht abschließend sein können. Wir verfolgen die Entwicklungen und Diskussionen aufmerksam und aktualisieren unsere Arbeitsweisen und Richtlinien kontinuierlich.
