Bei meiner Beschäftigung mit der Literatur über maschinelles Lernen (ML), vor allem im Zusammenhang mit der Sicherheit von Maschinen und den letzten Änderungen der EU-Maschinen-Verordnung, bin ich auf eine umfangreiche Veröffentlichung [1] von 37 Forschern von ungefähr 20 Universitäten und Technologie-Unternehmen gestoßen.
In dieser wird angeregt, dass Wissenschaftler:innen die Veröffentlichungen ihrer Forschungsergebnisse nicht länger als Texte (meistens pdf-Dateien) für andere (menschliche) Wissenschaftler:innen verfassen sollen, sondern geeignet für die Weiterverarbeitung durch so genannte KI-Agenten (en: AI-Agents) [2].
Dies bedeutet, so die Hauptautorin Jiachen Liu (University of Michigan) in einem Interview mit der Zeitschrift IEEE Spectrum [3] zu diesem Thema, dass künstliche Intelligenz nicht nur als Assistenten (KI-Assistent) von Forscher:innen wirken sollen, sondern selbst als Forscher (als KI-Agent).
Ganz im Sinne einer Kraft, der man ohnehin nicht ausweichen kann und die in der Lage ist, globale Herausforderungen zu lösen (alle?). Und auch in dem Sinne, dass dies gleichsam die nächste Stufe der (wohl nicht mehr menschlichen) Evolution sei. Ähnliches habe ich schon - ich war schon damals äußerst skeptisch - in einem Werk von Ray Kurzweil [4] gelesen, einem Futuristen.
Es gibt nicht nur einen Weg
Ich las dies mit Erstaunen, weil ich einerseits die Einseitigkeit der Argumentationen erkannte. KI wird in diesem Interview und implizit auch in der oben zitierten Publikation - ganz im Sinne eines Heilsversprechens - als utopische Kraft dargestellt.
Andererseits aus meiner Skepsis, dass es für uns Menschen nur einen einzigen Weg in die Zukunft gäbe. Liu bezeichnet in einem andern ihrer Artikel mit dem Titel „The End of Human in the Loop“ [5] sich selbst weiterentwickelnde KI als „den ultimativen und einzigen Weg in die Zukunft“.
Wie weit Überlegungen schon gehen (können), zeigen die Schlussfolgerungen die Liu in ihrem Aufsatz [5] zieht: „Loslassen und der KI erlauben, die Gesetze des Universums zu erforschen als letzten großen Beitrag, den wir als Menschen als frühere Ratgeber leisten können“ [6].
Anregung zum Nachdenken
Das was mich jedoch in diesem Interview sehr wohl zum Nachdenken anregte, sind einige Feststellungen bezüglich der derzeit verbreiteten Darstellung von Inhalten und Ergebnisse von Forschungsarbeiten in Veröffentlichungen. Ich erinnere mich an meine eigene Zeit im Wissenschaftsbetrieb und auch an meine heutige Arbeit beim Studium von Fachveröffentlichungen.
Wir müssen als menschliche Forscher:innen und Entwickler:innen zweifelsohne neue Wege (siehe unten) einschlagen. Wege, die jedoch nicht ausschließlich darauf gerichtet sind, künftig KI-Agenten als Forscher einzusetzen und Veröffentlichungen schreiben zu lassen, von denen die KI-Agenten dann als „Abfallprodukt“ für uns Menschen lesbare Texte (pdf-Dateien) herstellen können.
Es wird nicht veröffentlicht, was nicht gelungen ist!
Beim Aufschreiben, d.h. dem „Zusammenschreiben“ der Ergebnisse von Forschungs- und Entwicklungsergebnissen gehen Informationen verloren. Liu beziffert diesen Anteil im Gespräch mit dem IEEE Spectrum [3] mit 80 % (!!).
Autor:innen versuchen dabei, ihr Projekt als eine (vom Ergebnis her) für den menschlichen Leser gut aufgebaute Geschichte darzustellen. Beginnend mit einer Hypothese, den nachfolgenden Schritten bis hin zur Angabe der Ergebnisse.
Unabhängig davon, wie hoch der Prozentsatz verlorener Informationen in einer konkreten Veröffentlichung ist: Alle Irrtümer im Projekt, die nicht erfolgreichen Denkwege der Forscher:innen, misslungene Experimente und ihr Aufbau werden in Fachveröffentlichungen, Master-Arbeiten, Diplomarbeiten, Dissertationen usw. praktisch nicht erfasst.
Diese Informationen stehen anderen Wissenschaftler:innen und Experimentator:innen in der Regel nicht zur Verfügung. Überlegungen und auch Irrwege werden dann (weltweit) möglicherweise immer wieder mühevoll wiederholt. Das kostet unnötig Zeit und auch Geld.
Diese Informationen existieren - sind aber nicht zugänglich; sie verschwinden in den - oft nur handschriftlichen - Aufzeichnungen der Autor:innen. Und sind nach einiger Zeit, auch für diese nicht mehr in vollem Umfang verfügbar; einfach vergessen.
Es wird nicht alles veröffentlicht, wie es gelungen ist!
Außerdem erinnere ich mich an Veröffentlichungen, in denen ich für mein Verständnis und meine Untersuchungen der dargestellten Ergebnisse wichtige Details nur nach zeitintensiven Rückfragen bei den Autoren erhalten konnte.
Details, die in der Veröffentlichung nicht ausführlich dargestellt wurden, das Ergebnis aber erst möglich gemacht hatten. Implizite Annahmen, Hypothesen, Begründung für die Auswahl statistischer Verfahren, Ausschluss von Ergebnissen, die als „Artefakte“ eingestuft wurden usw. Dies alles wurde in die „gut aufgebaute Geschichte“ der Veröffentlichung von Autor:innen nicht aufgenommen.
In manchen Fällen scheiterte ich einfach daran, dass selbst die Autor:innen - auch mit großer Mühe - ihre, in der Vergangenheit angestellten, Überlegungen nicht mehr mit der notwendigen Genauigkeit nachvollziehen konnten.
Ein detailreiches Verstehen von Ergebnissen war mir dann nicht oder nur unvollständig möglich.
Umfangreicher Entwicklungsbedarf
Diese beiden von mir beobachteten Hindernisse wurden in den letzten Jahren mit den zunehmenden Möglichkeiten der elektronischen Publikation von wissenschaftlichen Ergebnissen schon etwas abgemildert.
Es entstand die Idee der Offenen Wissenschaft (Open Science) verbunden mit der Zugänglichkeit der für Publikationen verwendeten Forschungsdaten (Open Research Data) [7]. Dies heißt natürlich nicht, dass alle Veröffentlichungen mit allen Forschungsdaten frei zugänglich sind. Ich fürchte hier liegt noch ein weiter Weg für unsere menschliche Gesellschaft vor uns.
Ausblick
Ziel kann nach meiner Ansicht nur sein, dass alle veröffentlichten Unterlagen, z.B. pdf-Dokumente und zugehörige Sammlungen von Forschungsdaten von Menschen ausgewertet und die Inhalte von Menschen nachvollzogen werden können.
Hier also mein deutliches Bekenntnis, dass es nur vorrangiges Ziel sein kann, den Menschen weiterhin in die Entscheidungsfindung im Bereich Forschung, Entwicklung, Experimente usw. einzubeziehen [8].
Jedenfalls kein Ende von Human-in-the-Loop! [9]
Quellen, Verweise und Literaturhinweise
[1] … Liu, Jiachen et.al., The Last Human-Written Paper: Agent-Native Research Artifacts; http://arxiv.org/abs/2604.24658; abgerufen am: 29.8.2026
[2] … In einer vereinfachten Definition versteht man unter einem KI-Agenten ein Computerprogramm, das in der Lage ist, komplexe Aufgaben selbstständig zu erledigen. Eine etwas ausführlichere Darstellung (in englischer Sprache) findet man in Rina Diane Caballar; What Are AI Agents? Here's how AI agents work, why people are jazzed about them, and what risks they hold; abgerufen am: 29.8.2026
[3] … Berreby, David; Should Researchers Write Papers for AI Instead of People? Jiachen Liu wants to replace the PDF with an “AI native” format; abgerufen am: 29.8.2026
[4] … Kurzweil, Ray; Menschheit 2.0. Die Singularität naht; Lola Books, 2014
[5] … Liu, Jiachen; The End of Human in the Loop; 2026; abgerufen am: 29.8.2026
[6] … Übersetzung von A. Mörx
[7] … Als österreichisches Beispiel für viele - auch internationale - Aktivitäten in diesem Bereich: Open Science abgerufen am: 30.8.2026
[8] … Natürlich ergeben sich aus dieser Forderung weitere wichtige Aufgabenstellungen über die intensiv nachgedacht werden muss. Zum Beispiel: Wie können Menschen Ergebnisse, die unter Mitwirkung (KI-Assistenten) von künstlicher Intelligenz entstanden sind nachvollziehen? Da kommt dem relative jungen Forschungszweig der „erklärbaren künstlichen Intelligenz“ (Abkürzung XAI) große Bedeutung zu. Dieser hat schon heute im Bereich der Maschinensicherheit große Bedeutung, vor allem bei der Entwicklung von sicherheitsrelevanten Steuerungen.
[9] … Human-in-the-Loop bedeutet, dass Menschen in den Ablauf von Prozessen der künstlichen Intelligenz eingreifen können, um Genauigkeit, Sicherheit, Verantwortlichkeit oder eine ethisch fundierte Entscheidungsfindung sicherzustellen. (Text in Anlehnung an: Stryker, Cole; Was versteht man unter Human-in-the-Loop?); abgerufen am: 30.8.2026
Autor: Alfred Mörx; E-Mail:
Bildquelle: Bild von TheDigitalArtist über Pixabay
Kontakt