Quo vadis Universität? Mit dem Aufkommen nützlicher künstlicher Intelligenz (KI) stellt sich erstmals die Frage nach der Rolle des Menschen in der Produktion und Interpretation von Wissen. Was an Universitäten künftig gelehrt werden soll und wie das vonstatten gehen wird, hängt von Antworten auf diese Frage ab.

Kinder, Chatbots und Erwachsene

Das Fragen muss man Kindern nicht eigens beibringen. Sie entdecken es irgendwann lustvoll von selbst. In diesem Spiel folgt aus jeder Antwort eine neue Frage, bis das superschlaue erwachsene Gegenüber die Waffen strecken muss.

Mit einem KI-Chatbot kann man so nicht spielen. Er wird immer eine Antwort geben, bis das menschliche Gegenüber die Waffen streckt. Das kann der Chatbot deshalb tun, weil er nicht wie ein verantwortungsvoller Erwachsener daran gebunden ist, nur dann zu antworten, wenn er eine Antwort weiß. Ein großes Sprachmodel (large language model, LLM) generiert immer weiteren Text. Ab einem gewissen Punkt ist dieser Text in Teilen oder vollständig halluziniert. Diese Eigenschaft findet man analog auch bei anderen KI-Formen. Zwischen einem Modell, das auf Maschinenlernen basiert (ML), und menschlicher Intelligenz gibt es einen grundlegenden Unterschied: Das ML-Modell weiß nicht, dass es nichts weiß, auch wenn das einmal der Fall ist. Das gilt zumindest gegenwärtig für alle praktischen Zwecke.

Der Mensch muss deshalb im Umgang mit KI die Verantwortung übernehmen. Dem ist so, obwohl der Chatbot oder ein ML-Modell an sich über einen größeren Wissensfundus verfügt und die Informationen aus diesem Fundus emotionslos und rational kombiniert. Das fehlende Einschätzungsvermögen der KI für die Grenzen des eigenen Wissens führt dazu, dass sie dem Menschen unterlegen ist.

Ich sehe nicht, warum die Menschheit daran etwas ändern sollte, wiewohl ich nicht ausschließen kann, dass es zu dieser Änderung kommt. Hier gehe ich jedenfalls vom Istzustand aus, in dem die Antwort eines jeden ML-Modells nur dann sinnvoll ist, wenn ihm eine Frage gestellt wurde, für die es auch kompetent ist. Im Gegensatz zum kindlichen Fragen muss diese Art des verständnisvollen Fragens erlernt werden.

Voraussetzungen des Fragens

Eine sinnvolle Frage kann nur jemand stellen, der bereits etwas weiß. Zum Thema muss er etwas wissen, um die Frage überhaupt formulieren zu können. Über sein Gegenüber muss er etwas wissen, um einschätzen zu können, ob sich die Mühe überhaupt lohnt. Zuletzt muss er auch noch wissen, wieviel er selbst im Umfeld der Frage weiß. Das entscheidet darüber, wie er mit der Antwort umgehen kann. Weiß er fast nichts, dann sollte er nur ein Gegenüber fragen, dem er nahezu blind vertrauen kann. Eine KI wird nur sehr selten ein solches Gegenüber sein.

Gehen wir also davon aus, dass der Fragesteller genug weiß, um die Antwort der KI wenigstens im Prinzip kritisieren zu können, aber doch so wenig, dass der aus dieser Antwort noch etwas lernen kann. Wieso ist das angesichts der riesigen Trainingsdatensätze der KI überhaupt möglich? Das hat mehrere Gründe. Zunächst ist der Trainingsdatensatz nicht konsistent. Mit solcher Inkonsistenz können ML-Modelle schlecht umgehen, weil ihnen sozusagen der «gesunde Menschenverstand» fehlt. Der Hauptgrund ist jedoch ökonomischer Art. Die KI is angehalten, die Frage mit einer begrenzten Rechenkapazität zu beantworten und wird daher nicht ihr gesamtes Wissen in Betracht ziehen. Genau wie das menschliche Gegenüber muss sie Prioritäten setzen, wenn sie Informationen kombiniert.

Wäre ihr Wissen genauso gut strukturiert wie das Wissen des menschlichen Gegenübers, wäre sie aufgrund ihrer Verarbeitungsgeschwindigkeit und breiten Wissensbasis fast völlig immun gegen Kritik. Da scheint mir jedoch gegenwärtig nicht einmal ansatzweise der Fall zu sein. KI-Chatbots fehlt in sehr vielen Fällen der nötige Überblick. Sie sehen den Wald vor lauter Bäumen nicht und von den Bäumen sehen sie nur die nahestehenden.

Deshalb ist es selten nützlich, einem Chatbot nur eine Frage zu stellen und die Antwort darauf zu akzeptieren. Der Mensch muss sich stattdessen auf einen längeren Dialog einlassen, in dem er den Chatbot immer wieder darauf hinweist, in welchen Winkeln seines Wissensfundus er sich auch noch umschauen sollte. Die Kunst besteht also nicht darin, eine gut formulierte Frage zu stellen. Sie besteht darin, die Frage anhand der Antworten geeignet zu erweitern und sie gleichzeitig zu präzisieren. Um das tun zu können, benötigt der Mensch seinerseits einen hinreichend großen Wissensschatz.

Fragen ist eine Haltung

Diesen Wissensschatz benötigt der Mensch auch, um die Antworten der KI überhaupt kritisieren zu können. Hauptsächlich braucht er dafür jedoch die Haltung des De omnibus dubitandum (An allem ist zu zweifeln), die René Descartes als Grundlage zuverlässiger Erkenntnis betrachtet hat.

Diese Haltung ständigen Zweifels ist unbequem. Zweifel macht mehr Arbeit als Akzeptanz. Eine konsequente Haltung des Zweifelns ist nicht zu haben, ohne dass man auch die eigenen Urteile immer wieder auf den Prüfstand stellt, damit sie keine Vorurteile bleiben. Wer sich diese Haltung des methodischen Zweifels leistet, wird sich seiner eigenen Einschätzungen oft weniger sicher sein als andere. Er wird öfter einmal zugeben, dass er eine Antwort nicht weiß. Gerade Letzteres unterscheidet, wie wir bereits gesehen haben, echte Intelligenz von künstlicher.

Gegenwärtig erziehen wir die nachfolgende Generation nicht nach dieser Erkenntnis und auch die Prüfungen an Universitäten sind nur selten darauf ausgerichtet. Studenten fahren in der Regel besser, wenn sie irgendeine Antwort geben, als wenn sie zugeben, dass sie keine haben.

Das ist falsch.

Politiker scheinen am Besten zu fahren, wenn sie auf alles eine Antwort haben und diese im Brustton der Überzeugung vortragen. Deshalb sind sie bisweilen nur schwer von einem KI-Chatbot zu unterscheiden. Wenn an Universitäten Führungspersonen auch so reden, bleibt nicht viel akademischer Anspruch übrig. Die sachgerechte Lösung eines Problems deckt sich nicht immer mit dem politisch Opportunen. Wir sollten deshalb nicht verlernen, das politisch Opportune in Frage zu stellen und wir sollten der nachfolgenden Generation diese Haltung nahebringen.

Die Lehre in den Zeiten der KI

Universitäten bilden Menschen mit dem Ziel aus, dass diese danach in irgendeiner Weise etwas Nützliches für die Gesellschaft leisten. Solange der Mensch ein Monopol auf intellektuelle Tätigkeiten hatte, genügte es dazu, Wissen und Fertigkeiten zu vermitteln, die auf dem modernsten Stand waren. Dieses Monopol ist gebrochen. Es wird sich nicht wiederherstellen lassen. Unsere Absolventen müssen in Zukunft etwas können, was KI-Agenten nicht können.

Auf dem gegenwärtigen Stand können KI-Agenten Informationen oft nur ungenügend priorisieren, lassen den Überblick über große Zusammenhänge vermissen und haben vor allem kein Einschätzungsvermögen für die eigenen Grenzen. Möglicherweise werden sich diese Probleme lösen lassen, möglicherweise auch nicht. Wenn sie sich lösen lassen, werden die Uinversitäten ein weiteres Mal ihr Rollenverständnis ändern müssen. Zunächst müssen sie jedoch «nur» einen Weg finden, Absolventen zum kritikfähigen Umgang mit KI zu befähigen.

Um zu verstehen, was das bedeutet, versetzt man sich am Besten in einen KI-Agenten und tut so, als ob dieser Bewusstsein hätte und auf einer Metaebene reflektieren könnte. Wozu braucht dieser KI-Agent Menschen anstelle nur anderer KI-Agenten? Angesichts unserer zunehmenden Abhängigkeit von KI- und ML-Lösungen tun wir gut daran, uns diese(r) Frage zu stellen und dafür zu sorgen, dass wir in Zukunft gebraucht werden. Ein objektiver gegenwärtiger KI-Agent würde erkennen, dass er uns deshalb braucht, weil wir wissen, was wir wissen – und was nicht.

Eine Revolution der universitären Bildung?

Mir scheint, dass es nicht nötig ist, in der Bildung wieder einmal alles von den Füßen auf den Kopf zu stellen. Das strukturierte Wissen und die Kritikfähigkeit auch am eigenen Wissen, das wir gegenwärtig der KI voraus haben, beruhen nur zum Teil darauf, wie das menschliche Lernen genetisch programmiert ist. Zum Teil beruhen diese Eigenschaften auch darauf, wie bisher gelehrt wurde.

Diese beiden Dinge sind nicht zu trennen. Die Art und Weise der menschlichen Bildung hat sich über Jahrhunderte an die dem Menschen eigene Struktur des Lernens angepasst. Dieser experimentelle Prozess von Versuch und Irrtum scheint mir erfolgreicher gewesen zu sein als alles, was die Bildungswissenschaften dem in den letzten Jahrzehnten auf der Basis lediglich plausibler Geschichten hinzugefügt haben.

Wir verfolgen von der frühkindlichen bis zur universitären Bildung ein Konzept, das breite Allgemeinbildung mit tiefer Spezialisierung auf ausgewählten Gebieten verbindet. Eben das generiert den Überblick und das strukturierte Wissen, das wir der KI voraus haben. Die tiefe Spezialisierung auf einem Fachgebiet bleibt unverzichtbar, weil der Mensch nur so erkennt, wie komplex die Welt eigentlich ist. Zudem hat der Mensch Lust, etwas Neues und ihm Eigenes zu schaffen. Das kann man ausschließlich an der gegenwärtigen Front des Wissens tun. Dorthin gelangt man nur durch Spezialisierung. Der KI-Agent als Spezialist ist kein Ersatz, weil er – böse gesagt – nicht weiß, was er tut.

Wer nichts als Chemie versteht, versteht auch die nicht recht.

Georg Christoph Lichtenberg

Umgekehrt bleibt aber auch das Überblickswissen unverzichtbar. Die teilweise erstaunlichen Fehlleistungen von KI rühren zumeist daher, dass sich die Modelle zu einem gegebenen Zeitpunkt in einem zu engen Bereich ihres Wissens bewegen. Das wiederum tun sie, weil ihrer Wissensstruktur die großen Linien fehlen, die Assoziationen und methodischen Verbindungen zwischen völlig verschiedenen Spezialgebieten.

Wie man so etwas in einem LLM implementieren könnte, weiß ich nicht. Das menschliche Hirn bildet diese Verbindungen und Assoziationen, wenn der Mensch sich im gleichen Zeitraum mit verschiedenen Wissensgebieten beschäftigt. Die Unlust der Studenten an der Nebenfachausbildung ist psychologisch verständlich. Gut tut sie ihrer Entwicklung nicht.

Müssen wir den Studenten (oder Schülern) speziell beibringen, mit LLM umzugehen? Ich denke nicht. Am Ende handelt es sich um Gesprächssituationen. Intelligente Menschen sind oft recht gut darin, zu erkennen, ob ihr Gegenüber etwas vom Pferd erzählt. Das ist – ich bemühe den Jargon der Bildungswissenschaften – eine Kernkompetenz. Wir sollten sie pflegen, weil es das Wesen von ML-Modellen ist, etwas vom Pferd zu erzählen, sobald ein Problem auftritt, für das sie nicht trainiert wurden.

Ich möchte diesen Beitrag mit einer Geschichte eines charismatischen Biologielehrers beenden, der mich an der Erweiterten Oberschule «Johannes R. Becher» in Lauchhammer unterrichtet hat. In einer Unterrichtsstunde entschloss sich Herr Getschmann, uns Sätze zu diktieren. Seltsamerweise ging es nicht direkt um die Biologie. Er sprach über Steinzeitmenschen. Wir sollten aufschreiben, was sie alles hatten, Feuersteine, Steinfaustkeile, Steinschüsseln, Steinschlossgewehre… Währenddessen schaute er leicht amüsiert in die Klasse, um festzustellen, wer an welchem Punkt das Schreibgerät weglegte, sich zurücklehnte und ihn frech ansah. Ich habe nie einen besseren Intelligenztest erlebt.

Dieser Beitrag kann zwei Wochen lang kommentiert werden.