Wie ChatGPT - nur vertrauenswürdiger  [24.05.24]

Generative KI verändert schon heute Lernen, Lehren und Forschen: Man ahnt, was hier noch alles möglich ist. Doch bisher bremsen Probleme wie Datenschutz, Fehlinformationen und mangelhafte Quellennachweise etc. Was wäre, wenn es einen wirklich vertrauenswürdigen Chat Bot gäbe: Von der Uni-Community für die Community? In Hohenheim wird genau daran gearbeitet!

   
Digitalisierung entlang Lehren, Lernen und Forschen integrieren: Dafür steht das Kürzel DeLLFi. 3 Jahre lang erhielt die Uni Hohenheim für dieses Groß-Projekt insgesamt rund 4,2 Mio. € von der Stiftung "Innovation in der Hochschullehre". 8 Maßnahmenpakete und zahlreiche Unterprojekte nahmen dabei ganz unterschiedliche Aspekte in den Fokus.

Save the date: Wie DeLLFi die Uni verändert hat und was davon auch in Zukunft nachwirkt, ist Thema einer großen Abschlussveranstaltung am 19. Juni (13:00 - 14:45 Uhr) via Zoom (Infos & Zoom-Link via ILIAS). Alle Beschäftigten und Studierenden sind dazu herzlich eingeladen. In einem wöchentlichen Artikel-Countdown geben wir einen Vorgeschmack im Online-Kurier!


ChatBot made in Hohenheim

Heute ist ChatGPT in aller Munde. Doch als Andreas Reich vor drei Jahren mit seiner Doktorarbeit am Institut für Kommunikationswissenschaft bei Prof. Dr. Jens Vogelgesang begann, konnte davon noch keine Rede sein.

"Für Fachleute zeichnete sich natürlich auch damals schon ab, dass sich hier eine große Revolution anbahnt. Doch wie genau sie aussehen würde und wie schnell das Ganze geht, konnten wir nicht absehen", erinnert sich der Medieninformatiker.

Und so klang sein Promotionsprojekt für viele damals noch wie pure Science-Fiction: Ein intelligenter Chat Bot soll Studierenden beim Lernen helfen. Gefüttert wird der Bot ganz einfach mit Vorlesungsunterlagen, Video-Aufzeichnungen, Power-Points und Co. Und fertig ist ein maßgeschneiderter Lern-Tutor!

An der Uni Hohenheim glaubte man damals schon die wegweisende Vision - und integrierte sie als eines von 8 Maßnahmenpaketen in das große Digitalisierungsprojekt DeLLFi. Hier erhielt der Chat Bot auch seinen Namen: "Pedagocial conversational Tutor" - kurz PET.

Betreut wird sein Projekt von Prof. Dr. Matthias Wölfel von der Hochschule Karlsruhe, der mit der Uni Hohenheim assoziiert ist. Auf dessen Idee und Vorarbeiten baut auch Reichs Tutor auf.


Großes Interesse am praktischen Einsatz

Die Faszination, die von Reichs Projekt ausgeht, ist bis heute ungebrochen - doch die ungläubigen Gesichter sind inzwischen gewichen. Auch die Fragen, die der Doktorand beantworten muss, haben sich gewandelt:

"Anfangs wollten die Leute vor allem wissen, wie so etwas überhaupt funktionieren kann. Heute sind die Nachfragen viel konkreter: Wie genau kann der Chat Bot für Studium, Lehre oder Forschung eingesetzt werden? Welche Datenschutzstandards erfüllt er? Kann er möglicherweise Dinge, die ChatGPT nicht kann?"

Und kann er? Klar.


Transparenz statt Black-Box

PET ist ähnlich sprachgewandt wie sein prominenter Bruder ChatGPT, denn er basiert auf der selben Technik ("GPT - Generative Pre-Trained Transformer), deren Basis als Open Source-Quellcode zur Verfügung steht.

Anders als ChatGPT ist PET dem Transparenz-Gedanken allerdings bis zuletzt treu geblieben. Alle, die sich mit der Technologie auskennen, können nachvollziehen, wie PET tickt. Ein Datenabfluss in unbekannte Kanäle ist ausgeschlossen.

"Wenn PET einmal fertig ist, kann er Studierenden daher mit bestem Gewissen empfohlen werden", erläutert Reich. "Auch aktuelle Forschungsdaten können dann ohne Bedenken eingespeist werden. Denn wir stellen sicher, dass private Materialien auch privat bleiben und nicht etwa ungefragt für Trainingszwecke o.ä. herangezogen werden."


Schluss mit dem Quatsch!

Auch in Sachen Verlässlichkeit kann der Prototyp von PET punkten: "Bei ChatGPT kann man sich letztlich nie wirklich sicher sein, worauf die Antworten eigentlich genau basieren. Oder ob sie am Ende womöglich nichts Anderes als Erfindungen der KI sind. Sprich: Quatsch", erläutert Reich.

Auch PET ist vor dieser Problematik nicht grundsätzlich gefeit. Doch es gibt eine hilfreiche Funktionalität, die ihn eine entscheidende Stufe zuverlässiger macht: Denn der Hohenheimer Chat Bot kennzeichnet genau, welche Aussagen durch selbst eingespeiste Forschungspaper bzw. Vorlesungsunterlagen etc. fundiert sind, und welche Aussagen auf allgemeinen Trainingsdaten basieren.

"Und es wird noch besser!" Reichs Augen leuchten auf.

"Auf Wunsch springt PET in den eingespeisten Dokumenten genau zu den Textstellen, welche die Grundlage einer KI-generierten Antwort darstellen. Die Aussagen von PET lassen sich somit problemlos im Kontext überprüfen. Außerdem wird das Zitieren von wissenschaftlichen Quellen enorm erleichtert. Ein Segen für alle, die mit einer Vielzahl wissenschaftlicher Texte parallel arbeiten!"


Prototyp im Finetuning

Bleibt uns am Ende noch eine entscheidende Frage: Wann bekommen wir endlich dieses geniale Wunderding?

Ursprünglich war geplant, dass der fertigen PET spätestens zum Projektende von DeLLFi präsentiert werden kann. Und eine Weile schien dieses Ziel tatsächlich auch gut erreichbar. Doch dann wurde PET 1.0 sozusagen mit einem Schlag von der rasanten Technologie-Entwicklung überholt.

"Mit dem Durchbruch von ChatGPT wurde deutlich, dass es ein überlegenes Sprach-System gibt, das komplett neue Maßstäbe setzt", erläutert Reich. "Uns war klar: PET muss hier mithalten können, sonst wird unser KI-Tutor nicht angenommen. Deshalb mussten wir das Projekt nach rund zwei Dritteln der Laufzeit technisch noch einmal komplett neu aufsetzen."

Tatsächlich ist inzwischen auch der Prototyp von PET 2.0 schon weit gediehen und erledigt zumindest in einem Test zu Demonstrationszwecken die ihm gestellten Aufgaben sprachgewandt und kompetent. Doch bis zur endgültigen Freigabe bleibt trotzdem noch eine Menge an Feinschliffarbeit zu erledigen.

"Die Entwicklungsarbeit dauert schätzungsweise noch ein Jahr. Natürlich hoffen wir nach dem Auslaufen von DeLLFi nun auf eine alternative Finanzierung. Denn im Hochschulbereich gibt es bisher kein vergleichbares Projekt - und das Interesse an unserem Prototyp ist deutschlandweit sehr hoch. Daher bin ich auch guter Dinge, dass wir irgendeinen Weg finden werden, weiter am PET zu arbeiten. Am allerliebsten natürlich hier an der Uni Hohenheim, wo alles begonnen hat!", so Reich.

Text: Leonhardmair