Fehlende Konsequenzen und fehlende Anreize

Lauer eröffnete mit dem Problem der Einheiten. Für ein Sprachmodell mache es keinen Unterschied, ob ein Text aus einer Zeitschrift, einem Buch oder einer Reihe stamme, sagte er. Alles werde zerlegt und in die Maschine gespeist. Bibliotheken und Verlage müssten sich deshalb fragen, welche stabile Einheit übrig bleibe, an der sich Herkunft, Urheberschaft und Verantwortung noch nachverfolgen lassen.

Balke ergänzte, dass die Verantwortung im Zentrum der Vertrauensfrage stehe. Das Peer Review breche angesichts der Menge KI-generierter Paper und Preprints „offensichtlich zusammen", sagte er. Als einzigen Ausweg sehe er derzeit, Autoren und Gruppen zu vertrauen, die man persönlich kennt. Das widerspreche dem, was Wissenschaft sein solle, betonte er, und genau das müsse bewahrt werden.

Carpenter beschrieb einen grundlegenderen Wandel. Zum ersten Mal in der Geschichte seien die wichtigsten Konsumenten wissenschaftlicher Sprache keine Menschen. Zugangskontrolle, Provenienz, Zitation und Peer Review müssten für maschinelle Leser neu gedacht werden, und er rechne damit, dass die Standardisierungs-Community damit Jahre beschäftigt sein werde.

Crossick widersprach der düsteren Stimmung. Kuratierte, überprüfbare Informationen seien genau das, was Verlage von „AI Slop" unterscheide, argumentierte sie, und Ärzte, Juristen und Wissenschaftler könnten nicht mit Antworten arbeiten, die lediglich wahrscheinlich seien. Das Peer Review sei herausgefordert, aber nicht am Ende, und auch das Internet habe das Verlagswesen nicht abgeschafft. Ihr Rezept lautet, verantwortungsvolle KI zur Aufgabe aller zu machen, branchenübergreifend zusammenzuarbeiten und in den Standardisierungsgremien präsent zu sein, denn Standards schreiben diejenigen, die im Raum sind.

Auf Voeglers Bitte skizzierte Crossick das Gesetz. Es sei im Kern ein Marktzugangs- und Produktsicherheitsgesetz, sagte sie. Wer im EU-Markt tätig sein wolle, müsse sich daran halten, und je höher das Risiko eines Systems, desto strenger seien die Regeln. Manche Praktiken wie Social Scoring seien schlicht verboten. Alltägliche Werkzeuge wie Rechtschreib- und Grammatikprüfungen fielen nicht darunter.

Warum sollten sich Verlage dafür interessieren, wenn sie keine KI-Produkte bauen? Crossick verwies auf die Entstehungsgeschichte. Das Gesetz sei vor der generativen KI entworfen worden, und die Gesetzgeber hätten Regeln für Allzweckmodelle ergänzt, als ChatGPT erschien. Aus ihrer Sicht geben diese Regeln Rechteinhabern neuen Hebel.

Anbieter müssten transparent machen, womit sie trainieren und was ihre Systeme in RAG-Anwendungen abrufen, denn über Inhalte, die man nicht sehen kann, lasse sich kaum verhandeln oder prozessieren. Sie müssten außerdem eine Copyright-Policy haben, die erklärt, wie sie Rechtevorbehalte nach Artikel 4 der Urheberrechtsrichtlinie respektieren. Eine dritte Regel betrifft die Kennzeichnung. Nutzer müssten wissen, wann sie mit einem Chatbot sprechen und wann sie KI-generierte Inhalte lesen, mit einer Ausnahme dort, wo redaktionelle Kontrolle besteht. Verlage, die KI-Werkzeuge für eigene Produkte bauen, müssten diese Regel anwenden.

Auf die Frage, ob die Regulierung zu weit oder nicht weit genug gehe, tendierte das Panel zu „zu schwach und zu langsam".

Carpenter sagte, er sei nicht gegen Regulierung, sorge sich aber um Regeln, die mit einer Technologie nicht Schritt halten können, die niemand absehen kann. Ein Teil der Antwort sei technisch. NISO habe gemeinsam mit STM, Ithaka und COUNTER am Vortag ein Projekt namens Trace gestartet. Es untersucht, wie sich die Herkunft von Inhalten in KI-Systemen nachverfolgen lässt und wie Metadaten die Inferenz überstehen. Außerdem äußerte er Bedenken zu kryptografischen Fingerabdrücken, die ein großer KI-Entwickler nach seiner Darstellung als Reaktion auf das Gesetz in seine Ausgaben einbettet. Solche Markierungen könnten den Anteil der Maschine an einem Text falsch darstellen, warnte er, und Nutzer der Werkzeuge nachverfolgbar machen.

Lauer kritisierte, dass das Gesetz Modelle und Daten trennt, obwohl beides heute fast dasselbe sei. Urheberrecht sei nur ein Teil des Bildes. Wie Daten und Metadaten strukturiert seien, entscheide darüber, wie leistungsfähig ein Modell werde. Er stellte auch infrage, was Transparenz in der Praxis heißen kann. Wenn ein Forscher spätabends einen Chatbot als Sparringspartner nutzt, um einen Einstieg zu finden, gehört das dann in die Arbeit? Jeden Schritt eines Forschungsprozesses festzuhalten, erfordere eine Infrastruktur, die niemand gebaut habe.

Balke zeichnete die Linie von der Schreibmaschine über Textverarbeitung und Rechtschreibprüfung bis zum Foundation Model nach. Werkzeuge, die einen Text glätten, seien nie ein großes Problem gewesen. Der Unterschied entstehe, wenn ein Modell Inhalte erzeugt, die der Autor nicht geschrieben hat. Die Autoren blieben dafür verantwortlich, dass nur das im Text stehe, was sie sagen wollen. Er hoffe auf eine Selbstregulierung der Community nach dem Vorbild der Wikipedia, da das Peer Review nicht mehr skaliere.

Crossick zählte 39 Durchführungsrechtsakte, Leitlinien, Verhaltenskodizes und weitere Instrumente rund um das Gesetz und nannte das Ergebnis ein „vielköpfiges Monster". Die Transparenzanforderungen seien dünn, und ohne Konsequenzen hätten KI-Unternehmen wenig Grund, sich daran zu halten. Lauer machte den spiegelbildlichen Punkt für Forschende. Wenn das Ausfüllen von Formularen nach der Veröffentlichung drei Tage dauere, werde das niemand tun, und am Ende bleibe offen, wie viel KI in ein Paper oder Buch eingeflossen ist.

Voegler fasste zusammen. Die Branche stecke fest zwischen fehlenden Konsequenzen für die Unternehmen und fehlenden Anreizen für die Wissenschaftler. Lauer stimmte zu.

Balke erklärte, warum sich Wissenschaft schwer sanktionieren lasse. Das Gesetz spreche von Produkten, und ein schlechtes Paper richte kaum Schaden an, bis es in ein solches Produkt eingebaut wird. Verlage, deren Produkt die Wissenschaft ist, trügen deshalb eine besondere Pflicht zur Kuratierung. Er sieht außerdem einen demokratisierenden Effekt in Open Scholarship, vor allem für Länder mit niedrigem und mittlerem Einkommen. Zugleich merkte er an, dass noch niemand wisse, was man zitieren soll, wenn ein Modell riesige Mengen veröffentlichter Texte aufgenommen hat.

Crossick argumentierte, die Antwort müsse kein Allzweck-Chatbot sein. Verlage könnten spezialisierte Werkzeuge bauen, die auf geprüften Inhalten beruhen und zeigen, woher jede Quellenangabe stammt. Sie nannte Elsevier LeapSpace als Beispiel und räumte ein, dass das Eigenwerbung sei. Europa fehle die Rechenleistung und das Kapital der USA, sagte sie, aber es habe Fachwissen und eine starke wissenschaftliche Verlagslandschaft.

Carpenter führte das wirtschaftliche Argument für regulatorische Zurückhaltung an. Kunden, die Flugzeuge oder Gebäude bauen, akzeptierten keine probabilistischen Antworten, sagte er, deshalb würden Quellenverankerung und Zitation zu Marktanforderungen. Er nannte Ingenieure, die Geld verloren hatten, weil sie mit einer veralteten Norm gearbeitet hatten. In den USA, fügte er hinzu, gingen die Interessen von Medienunternehmen und Softwarebranche beim Urheberrecht auseinander, weil KI-Unternehmen nicht für Inhalte zahlen wollten.

Lauer zeichnete für Europa ein ernüchterndes Bild. Eine Handvoll großer Modellanbieter, überwiegend amerikanische mit einigen chinesischen, beherrsche das Feld. Spezialisierte europäische Dienste wie die Datenbanken juristischer Verlage stünden im Spannungsverhältnis zu ihnen, weil ein großer Anbieter sie einfach scrapen und nachbauen könne. Den Hochschulen wiederum fehle Grundinfrastruktur wie Sandboxes, in denen Fachbereiche Modelle sicher testen und trainieren könnten. Sein Urteil lautete „Wildwest".

Crossick verwies auf den Frankfurt Appeal, der in dieser Woche veröffentlicht wurde. Darin fordern Verlage die Politik auf, mit neuer KI-Gesetzgebung zu warten, bis bestehende Regeln wirksam sind. Der Appell verlangt wirksame Transparenzpflichten, Lizenzanreize und konsequente Durchsetzung. Sie wünscht sich zudem ein Haftungsregime. Die Haftungsfreistellung von Intermediären habe bei Social Media viele Probleme verursacht, sagte sie, und die Haftungsrichtlinie, für die sich der Europaabgeordnete Axel Voss einst eingesetzt habe, könnte zurückkehren.

Carpenter hielt dagegen, neue Regeln seien nicht nötig, wo bestehendes Recht, etwa das Cyberstrafrecht, nicht durchgesetzt werde. Crossick erwiderte, Gerichtsverfahren kämen zu spät. Entnommene Inhalte ließen sich nicht zurückholen, deshalb wolle sie strengere Regeln im Vorfeld und sofortige Konsequenzen.