Nach einigen ‚KI-Wintern‘ und zwischenzeitlichen Hypes erfuhr die breite öffentliche Wahrnehmung Ende 2022 eine Art ‚iPhone-Moment‘ in der KI-Entwicklung: Plötzlich war mit ChatGPT eine einfach benutz- und vielfältig einsetzbare KI verfügbar. Die Zeit war reif für diesen soziotechnischen Durchbruch in der digitalen Transformation. Ermöglicht wurde er durch massenhaft verfügbare Trainingsdaten, effiziente Algorithmen und exponentiell gestiegene Prozessorleistungen sowie durch den massiven Ressourceneinsatz von IT-Konzernen, der soziale, ökonomische wie ökologische Nachhaltigkeitsfragen aufwirft. KI bereichert als ‚revolutionäre Technologie‘ in ihren unterschiedlichen Ausprägungen viele wissenschaftliche Anwendungsfelder und weckt große Hoffnungen, aber auch große Sorgen, wie Tom Schimmeck in seinem Artikel in diesem Heft ausführt. Immer neue KI-Werkzeuge finden Einzug in den Alltag; sie kommunizieren mit uns, bearbeiten, transformieren oder generieren eindrucksvoll mediale Formen in beliebiger Kombinatorik: von Text zu Text (Dialoge, Übersetzungen, Quellcode-Erzeugung), von Text zu Bild oder von Text zu Video – oder umgekehrt, wenn KI aus Videos Inhaltsbeschreibungen erzeugt. Die digitale Medienwelt wird fluider, synthetischer und multimodaler. Alle diese Funktionen eröffnen fantastische neue Gestaltungsmöglichkeiten und verschieben Machbarkeitsgrenzen.

Im März 2024 ging ein Post der Fantasy- und SciFi-Autorin Joanna Maciejewska viral: „Ich möchte, dass die KI meine Wäsche und meinen Abwasch erledigt, damit ich Kunst machen und schreiben kann, und nicht, dass die KI meine Kunst und mein Schreiben erledigt, damit ich meine Wäsche und meinen Abwasch machen kann“ (übersetzt von DeepL aus dem Englischen). Diese Klage der Autorin über die „falsche Richtung“, welche die Entwicklung der KI nehme, verweist auf das neue Verhältnis von Mensch und Maschine als ein ‚kreatives Werkzeug‘: „Für die Kreativen geht es um die Antwort auf die Frage, ob, wo und inwieweit KI nützliches Werkzeug ist und ab wann sie beginnt, das Schöpferische zu entmenschlichen“, schreibt Karl-Nikolaus Peifer in diesem Heft. Die Beantwortung dieser Frage hat praktische wie rechtliche, politische, kulturelle, ökonomische, ja gesamtgesellschaftliche Folgen. Sich dieser Folgen bewusst zu werden, gehört zum Ziel einer digitalen Aufklärung, welche nicht bei Abwägungen von Chancen und Risiken einzelner KI-Werkzeuge oder individuellen Nutzungskompetenzen stehen bleiben darf. Darüber hinaus geht es um einen größeren Interpretationsrahmen zur Orientierung in der KI-Welt.

Von besonderer Bedeutung scheint hierbei ein grundlegendes Verständnis von Schleifen (loops) zu sein: Grob gesprochen, beginnt die Datenverarbeitungskette mit einer Aktion, die Daten (Texte, Bilder, Videos, aber auch Metadaten) produziert, die dann mittels Algorithmen und maschinellem Lernen verarbeitet werden und schließlich zu Entscheidungen, Wahrscheinlichkeitsaussagen oder neuen synthetischen Daten führen. Dieser Output kann wiederum zu neuen Aktionen führen und die Schleife schließt sich. Ist der Mensch in diese Schleife aktiv steuernd und korrigierend eingebunden, spricht man von „human in the loop“. Sarah Brasack und Kendra Stenzel halten diesen Faktor zum „verantwortungsvollen KI-Einsatz im journalistischen Bereich“ auch unter Akzeptanzgründen in der Redaktion für einen der wichtigsten.

Schleifen treten auch hervor, wenn es um die Beantwortung der Frage geht, warum eine generative KI so gute Ergebnisse liefert, wenn sie beispielsweise Texte oder Bilder im Stil einer bekannten Künstlerin erzeugt. Die Antwort liegt natürlich in den Trainingsdaten, die von den großen KI-Unternehmen eher stillschweigend gesammelt und genutzt werden, und deren Herkunft kaum offen kommuniziert wird. Denn mit der Nutzung dieser Trainingsdaten sind Urheberrechts- und ungelöste Vergütungsfragen verbunden. Überdies könnte das selbstbezügliche Training von KI mit KI-erzeugten Inhalten technisch zu einem Kollaps für KI-Modelle führen.

In der Kreativwirtschaft hat sich eine parasitäre Verwertungsschleife herausgebildet: Die KI kann das, was sie kann, aufgrund der digitalisierten und zum Training herangezogenen Kreativleistungen menschlicher Urheber, die nun selbst in Konkurrenz zum Output generativer KI stehen. So kann die generative KI medialen Mainstream besonders gut erzeugen, eben weil hierzu ausreichend Trainingsmaterial meist auch ohne Wissen und Einverständnis der Urheber vorliegt. Diese Verwertungsschleifen liegen in den Händen von IT-Konzernen, die den kulturellen Bestand bis zum Greifen regulatorischer Maßnahmen extrahieren und kulturelle Entwicklungen über KI mitprägen und ökonomisieren. In der Folge stellen sich Fragen zum zukünftigen Zuschnitt von Arbeitsplätzen und Vergütungen wie auch zur Verfasstheit einer algorithmischen Kultur: Begünstigen diese Schleifen eine Homogenisierung kultureller Artefakte oder steigern sie ihre Vielfältigkeit? Bleibt zukünftig menschliche Kreativität nur in einer Nische jenseits automatisierbarer Kreativität wirkmächtig und ökonomisch lebensfähig oder bilden sich neue kooperative Mischformen? Wie wandeln sich unter diesen Bedingungen ästhetische Wahrnehmungsmuster und Werturteile?

Im Hinblick auf sich ‚ein-schleifende‘ Nutzungsmuster sieht Martin Andree in seinem Artikel die Gefahr eines „Kurzschlusses“, wenn statt Trefferlisten von Suchmaschinen nur noch die Antworten einer KI ohne Quellenangaben und -kritik herangezogen werden: „Das evidenzlose Wissen wird so sehr in sich selbst zurückgespiegelt, dass es zusammenbricht …“.

Der in Schleifen eingebundene Mensch muss auch heute Mut haben, sich des eigenen Verstandes und der eigenen Kreativität zu bedienen. Kritische Medienbildung, angereichert um neuverfugtes, interdisziplinäres, informatisch-kybernetisches Orientierungswissen, einschließlich des Wissens um Schleifen mit ihren ökonomischen, politischen, kulturellen, psychologischen und sonstigen Folgewirkungen, bleibt von großer Bedeutung.

Lesen Sie mehr dazu in der „grimme“ Broschüre zum Grimme Online Award 2024. Diese kann kostenlos beim Grimme-Institut per E-Mail (online-award@grimme-institut.de) bestellt oder als PDF heruntergeladen werden.