Verdachtsfall an Regensburgs Uni: Schrieb ChatGPT eine Bachelorarbeit?
Regensburg. An der Uni beginnt eine Vortragsreihe zu Künstlicher Intelligenz. Dabei offenbaren sich die Probleme der Hochschulen, wie ein Regensburger Medieninformatik-Professor einräumt. Und sagt, wie Professoren KI-Texte aufspüren wollen.
Der Regensburger Professor Christian Wolff ist ein Mann der ersten Stunde. Der Medieninformatiker war dabei, als in den 90er Jahren der „Wortschatz Leipzig“ aufgebaut wurde: Eine Datenbank von 30 Millionen Sätzen, die in deutschsprachigem Zeitungstext verfasst wurden. Seit die Firma OpenAI mit der Künstlichen Intelligenz ChatGPT auf den Markt gegangen ist, kann jeder sehen, was der Chatbot kann – man vermutet, dass für die aktuelle Version ChatGPT 4 insgesamt 500 Milliarden Wörter verwendet wurden, um die Maschine zu trainieren. Die Texte sind einwandfrei, auch wenn sie oft noch falsche Informationen enthalten.
Wolff eröffnete vergangene Woche eine hochkarätig besetzte Vorlesungsreihe an der Uni Regensburg, die der derzeit rasantesten Entwicklung auf die Spur kommen will. Die Reihe ist auf Initiative des Instituts für Information und Medien, Sprache und Kultur entstanden. Nach Wolff referieren beispielsweise Xavier Laurent und Dominic Lukes von der University of Oxford, aber auch der Datenjournalist Nicolas Kayser-Bril.
Am Ende muss nach wie vor der Mensch entscheiden
Wolff formulierte am Ende seines Vortrags ein Fazit: „Die Beurteilungskompetenz muss nach wie vor beim Menschen liegen.“ Einsetzen könne man die KI nur dann, wenn klar sei, „ob das Ergebnis auch verlässlich ist“. Denn: „Eigentlich weiß das System nichts, es versteht auch nichts und es hat auch keinen Wahrheitsbegriff.“ Dennoch sei es in der Lage, „gute Ergebnisse in Form von Texten auszuspielen“.
Mit mehreren Beispielen dokumentierte Wolff, was ChatGPT kann – und was nicht. Ein Gedicht über den Irakkrieg, das die KI im Stile von Bertolt Brecht schreiben soll, reimt sich zwar irgendwie – aber wie Brecht klingt das nicht. Eine Liste empfehlenswerter Konditoreien in Regensburg forderte Wolff von der KI ein, fünf nennt ChatGPT – bis auf das Cafe Prinzess und das Cafe am Peterstor, das eher keine Konditorei ist, nennt die Maschine drei Konditoreien, die zwar berühmt, aber nicht in Regensburg sind.
Den Text der KI erkennen
Doch im Laufe des Vortrags wurde deutlich, vor welche Herausforderungen die KI gerade Hochschulen stellt. Denn Wolff erwähnte auch, dass ihm eine Bachelorarbeit vorliege, bei der er vermute, sie sei von einer KI formuliert worden. „Das, was dort geschrieben wurde, wird typischerweise nicht von einem Bachelor-Studenten geschrieben“, sagte Wolff.
Auf Nachfrage bestätigt der Professor: „Tatsächlich stellen die neuen Möglichkeiten, KI-basiert Text, Code und Bilder erzeugen zu können, sowohl eine große Chance als auch eine Herausforderung dar, wobei ich vor allem die neuen Möglichkeiten, komplexe Inhalte erzeugen zu können, betonen möchte.“ Für das Problem der Erkennung missbräuchlicher Verwendung von Textgeneratoren sei die Situation im Fluss: „Erste Rechtsgutachten liegen bereits vor“, sagt Wolff.
Explizite Standards für die Behandlung nicht gekennzeichneten KI-Textes gebe es allerdings noch nicht, „die bestehenden Prüfungsordnungen geben aber Handhabe auch für solche Fälle“, sagt der Wissenschaftler. Das Zentrum für Hochschul- und Wissenschaftsdidaktik der Universität Regensburg sammelt dazu Material und plant weitere Veranstaltungen zum Thema.
Wolff erläutert auch, wie der Umgang mit KI und deren Ergebnissen definiert werden müsse. Auf der einen Seite stehe das „Prompt Engineering“, also das Problem, „mit welchen Fragen man die besten Texte, Bilder, Filme oder Codes aus der Maschine herausholt“. Und in der Tat merkt jeder, der derzeit eine Künstliche Intelligenz nutzt, dass die Ergebnisse stark von der Frage abhängen. Das Ungewöhnliche ist, dass man etwa von ChatGPT auf die selbe Frage unterschiedliche Antworten bekommen kann.
KI-Modelle werden sich rasant weiterentwickeln
Und das führt Wolff auch zum zweiten Problem: „Das Vorgehen bei der Überprüfung der Ergebnisse.“ Das, was die veröffentlichten Künstlichen Intelligenzen jetzt schon können, sei auch erst der Anfang. „Zu erwarten ist allerdings auch, dass die Leistungen noch deutlich besser werden, wenn KI-Modelle mit Suchmaschinen mit aktuellen Informationen oder Fachdatenbanken gekoppelt werden.“ Genau das gab Wolff auch in seinem Vortrag zu bedenken. Er legte die Quellen offen, die laut OpenAI zum Training für ChatGPT verwendet wurden. Dabei gerät man auch schnell zu juristischen Fragen. Der Rechtswissenschaftler Peter Georg Picht von der Uni Zürich formulierte es in der NZZ kürzlich so: „Beim Verarbeiten von Daten von Dritten durch eine KI gelten Regeln: Man müsse prüfen, um was für Daten es sich handelt, wer welche Rechte hält und ob man sie allenfalls nutzen darf.“ Denn auch wer Texte dafür nutzt, eine Künstliche Intelligenz zu trainieren, muss erst die Verwertungsrechte für die Texte haben.
Noch gar nicht erfasst davon ist aber die Frage der Gefahren für die Gesellschaft. Das Bild von Papst Franziskus in einer modischen Daunenjacke wurde schon fast ikonographisch für die Möglichkeiten einer KI. Die „Bild-Zeitung“ veröffentlichte eine ganze Seite mit KI-generierten Bildern, die Donald Trump während seiner Verhaftung zeigen, die er zwar selbst prophezeite – die aber nie stattgefunden hat.
Die EU will es regeln
Wolff verwies in seinem Vortrag auf das, was derzeit in Brüssel geschieht und was aufgrund einer fehlenden europäischen Öffentlichkeit derzeit in Deutschland kaum diskutiert wird: „Die Kommission schlägt neue Vorschriften vor, um sicherzustellen, dass KI-Systeme, die in der EU verwendet werden, sicher, transparent, ethisch, unparteiisch und unter menschlicher Kontrolle sind“, heißt es auf einer Seite der Kommission zum Thema KI. Als gefährlich stuft die Kommission dies ein: „Alles, was als eindeutige Bedrohung für EU-Bürger angesehen wird, wird verboten: von der behördlichen Bewertung des sozialen Verhaltens (Social Scoring) bis hin zu Spielzeug mit Sprachassistent, das Kinder zu riskantem Verhalten verleitet.“
Klar ist aber auch: Die Entwicklung wird derart rasant vonstatten gehen, dass das politische System hinterherzulaufen droht.