Einsatz von generativer KI in der Lehre – Handlungsempfehlungen für Lehrende

Hinweis: Diese Handreichung ist Teil eines umfassenderen Unterstützungsangebotes zum Thema generative KI in Lehre und Studium. Für allgemeine Empfehlungen, Hinweise und weitere Handreichungen besuchen Sie Empfehlungen im Umgang mit generativer KI in Studium und Lehre.

Wie kann KI die Lehre verändern?

Hochschullehre muss sich entsprechend veränderten gesellschaftlichen und technischen Rahmenbedingungen beständig weiterentwickeln, um Studierende adäquat auf ihre zukünftige Tätigkeit in Beruf und Forschung vorzubereiten. Da KI künftig in allen Lebensbereichen starke Veränderungen mit sich bringt und selbstverständlicher Teil des Alltags wird, ist es zum einen Aufgabe der Hochschulen, Studierende bei der Aneignung von KI-Kompetenz zu unterstützen. Zum anderen bietet KI Möglichkeiten, Lehren und Lernen ebenso wie Forschungstätigkeiten weiterzuentwickeln, zu entlasten und zu optimieren. 

Welche konkreten Aufgaben im Bereich Lehre künftig durch KI unterstützt werden sollen, hängt stark vom Fachkontext sowie den Lehr/Lernzielen ab. Tendenziell kann es sinnvoll sein, Aufgaben, die eine KI zuverlässiger, schneller oder auf andere Weise besser lösen kann als ein Mensch, künftig von dieser erledigen zu lassen oder KI zumindest unterstützend dabei einzusetzen. Dennoch wird es auch Fälle geben, in denen es zunächst wichtiger ist, Basiskompetenzen Studierender auszubilden und daher bewusst auf KI-Nutzung zu verzichten.

Wo kann ich KI in der Lehre einsetzen?

Für die Lehre ergeben sich zahlreiche Potenziale in allen Phasen der Lehrtätigkeit, von der Planung über die Durchführung bis zur Evaluation. Dabei spielen die Lernziele der Lehrveranstaltung eine zentrale Rolle. Da diese je nach Studienrichtung und Fachgebiet stark variieren, ergeben sich eine Vielzahl von Einsatzszenarien und Anwendungen. Betrachten Sie insofern die nachfolgend aufgelisteten Beispiele lediglich als Inspiration und Startpunkt.

Konkrete Beispiele für den Einsatz generativer KI in der Lehre:

Bei der Kategorisierung von Anwendungsbeispielen hilft die Einteilung in lernendenorientiert, lehrendenorientiert und systemorientiert (nach Baker & Smith, 2019). Im Folgenden werden nur die ersten beiden Ansätze diskutiert, da sie für die Zielgruppe der Lehrenden und Lernenden relevant sind. 

• Lernendenorientierte Anwendungsbeispiele
  • Individualisiertes Lernmaterial: Generative KI kann bei der Erstellung maßgeschneiderter Lehrmaterialien unterstützen, die auf die individuellen Bedürfnisse und Fähigkeiten der Studierenden zugeschnitten sind. Damit wird binnendifferenzierte Lehre einfacher und kann effizienter umgesetzt werden. 
  • Bewertung Studierender: Generative KI kann bei der Bewertung von Übungsaufgaben oder auch von Hausarbeiten Studierender unterstützen. Wichtig ist aber, dass hier eigene Bewertungskriterien angelegt und die Ergebnisse der KI besonders kritisch hinterfragt werden, um eine systematische Ungleichbehandlung Studierender zu vermeiden. 
  • Automatisiertes Feedback: Studierende lernen durch individualisiertes Feedback zu Aufgaben besonders gut. KI kann dabei helfen, dieses automatisiert zur Verfügung zu stellen.
  • Zusammenarbeit der Lernenden: Die Organisation von Lerngruppen und die Kollaboration unter Studierenden ist häufig aufwändig. Hier kann KI unterstützen, sowohl Studierende als auch Lehrende.
  • Tutoring: Generative KI kann als persönlicher Tutor fungieren, der Studierenden hilft, schwierige Konzepte zu verstehen, indem er maßgeschneiderte Erklärungen und Beispiele liefert.

• Lehrendenorientierte Anwendungsbeispiele:
  • Automatisierung von Aufgaben: Unterstützung bei der Bewertung von Aufgaben, bei Plagiatserkennung, Verwaltung der Teilnehmer*innen oder Feedback.
  • Fortschrittsanalysen: KI kann dabei helfen, den Fortschritt einer Klasse oder einer*s Lernenden zu analysieren und im Blick zu behalten. 
  • Assistent bei der Lehrveranstaltungsplanung: Eine Unterstützung bei der Formulierung von Lernzielen oder Veranstaltungsbeschreibungen ist möglich.
  • Forschungsassistenten: Generative KI-Systeme können genutzt werden, um akademische Artikel zu lesen, zusammenzufassen und neue Einsichten zu generieren. Sie können auch dabei helfen, Forschungsarbeiten zu schreiben oder Literaturüberblicksartikel zu erstellen.

Quelle: Educ-AI-tion Rebooted? Exploring the future of artificial intelligence in schools and colleges, Toby Baker and Laurie Smith with Nandra Anissa, February 2019

Gute wissenschaftliche Praxis

Zu den Regeln guter wissenschaftlicher Praxis gehört, dass Wissenschaftler*innen nachvollziehbar für Dritte angeben, welche Quellen sie bei der Erstellung ihrer Texte verwendet haben. Die Uni Basel hat u.a. für das Zitieren von KI-Programmen eine Handreichung erarbeitet, die auf den aufgestellten Regeln der Modern Language Association of America basiert und die hier als Empfehlung an die Prüfungsämter übernommen werden kann.

Handlungsempfehlung:

Es sollten entsprechende Zitationsregeln und Formulierungshilfen je nach den Anforderungen der Fachbereiche entwickelt und als Handreichung zur Verfügung gestellt werden. Als Beispiel kann die folgende Handreichung dienen:

1. Eine grundsätzliche Zitierempfehlung gilt immer dann, wenn die Inhalte (z.B. Texte, Bilder, Daten etc.), die mit einem generativen KI-Tool erstellt wurden, direkt angewendet oder paraphrasiert werden. Auch die Art der Verwendung soll erwähnt werden, etwa in Form einer Notiz. 
2. Es besteht keine Zitierpflicht bei nicht-generativen digitalen Tools wie Rechtschreib- oder Grammatikkorrekturhilfen, Online-Wörterbüchern, Bibliothekskatalogen usw.
3. Der gesamte Chatverlauf samt Prompts und Antworten sollte auch außerhalb der KI-Anwendung gespeichert werden. Ggf. können fachspezifische Richtlinien vorsehen, dass der Verlauf im Anhang einer Arbeit mitgeliefert wird. 
4. Es empfiehlt sich, zusätzlich zur Zitierung im Text, die Erstellung eines Verzeichnisses, gegliedert nach Abschnitten mit den jeweils verwendeten Tools, sowie eine Beschreibung der Art der Verwendung. 

Abb.1: Beispiel einer Dokumentationstabelle (Quelle: Leitfaden «Aus KI zitieren» der Universität Basel (PDF))

5. Bei der Verwendung von KI-basierten Tools sollten die folgenden Elemente erwähnt werden:
   1. Titel: Bei Text-, Bild- und Multimediagenerierungs-Tools gilt der Prompt (Benutzer*inneneingaben) als Titel. Bei sehr langen Prompts kann auch nur der Anfang angegeben werden.
   2. Name und Version des Tools • Anbieter (Firma, Organisation oder Person, die das Tool anbietet oder programmiert hat) 
   3. Datum der Generierung der Inhalte 
   4. Adresse (URL des Tools): Je nach Fach muss der Verlauf im Anhang einer Arbeit komplett mitgeliefert werden. Während des Erarbeitens und Schreibens kann ein Verzeichnis erstellt werden, in dem fortlaufend notiert wird, welche Tools für welche Abschnitte eingesetzt wurden. 
6. Am Ende der Arbeit sollten die verwendeten KI-Tools in der Liste über die verwendeten Hilfsmittel aufgeführt werden.

Abb. 2: Beispiel für ein Hilfsmittel- & Literaturverzeichnis (Quelle: Leitfaden «Aus KI zitieren» der Universität Basel (PDF))

Kennzeichnungspflichten und Eigenständigkeitserklärung 

Eine Kennzeichnungspflicht für KI-generierte Texte im akademischen Kontext kann sich aus den Nutzungsbedingungen einer Software sowie aus den jeweils geltenden Prüfungsordnungen und Rahmenvorschriften einer Hochschule ergeben (beispielsweise dann, wenn die Angabe jeglicher Hilfsmittel vorgeschrieben ist). Die Kennzeichnungspflicht ergibt sich in der Regel aus der Eigenständigkeitserklärung, wonach die Studierenden erklären müssen, alle verwendeten Hilfsmittel angegeben zu haben. Eine unmarkierte Verwendung von KI-Tools als Hilfsmittel kann folglich einen Täuschungsversuch darstellen. 

Ferner kann ein Täuschungsversuch angenommen werden, wenn über die Eigenständigkeit der Prüfungsleistung oder die Autorenschaft getäuscht wird, da auch dies der Eigenständigkeitserklärung zuwiderlaufen würde. 

Eine eigenständige Prüfungsleistung liegt dann nicht mehr vor, wenn die Ergebnisse nicht auf eigener Grundlage fußen, also das für die Lösung der Prüfungsleistung erforderliche Wissen nicht von den Studierenden stammt (vgl. Hoeren/Salden, Didaktische und rechtliche Perspektiven auf KI-gestütztes Schreiben in der Hochschulbildung, 2023, S. 33). Eine eigenständige Leistung ist hingegen anzunehmen, wenn der Output des KI-Tools lediglich aus ergänzenden Formulierungsvorschlägen besteht, ohne den Studierenden die Lösung für die Prüfungsaufgabe abzunehmen, oder wenn der Output lediglich als Gedankenanstoß genutzt wird (zu den entsprechenden Kennzeichnungsmöglichkeiten siehe Ausführungen zu Ziff. 3). 

Allerdings ist der Begriff der Eigenständigkeit nicht unproblematisch. So ist fraglich, ob bei einem präzisierten Arbeitsbefehl, der vorhandenes, für die Prüfung relevantes Wissen erfordert, nicht bereits eine eigenständige Leistung angenommen werden kann. Dies hänge ausweislich des Rechtsgutachtens womöglich auch von den Anforderungen der einzelnen Fachbereiche ab. 

Handlungsempfehlung:

• Nach der aktuellen Rahmenordnung der Goethe-Universität müssen die Studierenden eine Eigenständigkeitserklärung abgeben (§ 17 Absatz 8). Die oder der Studierende hat bei der Abgabe der Arbeit schriftlich zu versichern, dass sie oder er diese selbständig verfasst und alle von ihr oder ihm benutzten Quellen und Hilfsmittel in der Arbeit angegeben hat.
• Es wird empfohlen, in Anpassung an die Verwendung von KI-Tools als Hilfsmittel folgende Eigenständigkeitserklärung als gesamtuniversitäre Formulierung zu verwenden:
  
  “Ich bin mir bewusst, dass die Nutzung maschinell generierter Texte keine Garantie für die Qualität von Inhalten und Text gewährleistet. Ich versichere daher, dass ich mich textgenerierender KI-Tools lediglich als Hilfsmittel bedient habe und in der vorliegenden Arbeit mein gestalterischer Einfluss überwiegt. Des Weiteren versichere ich, sämtliche Textpassagen, die unter Zuhilfenahme KI-gestützter Programme verfasst wurden, entsprechend gekennzeichnet sowie mit einem Hinweis auf das verwendete KI-gestützte Programm versehen zu haben. Ich versichere, dass ich keine KI-Schreibwerkzeuge verwendet habe, deren Nutzung der Prüfer / die Prüferin explizit schriftlich ausgeschlossen hat.”

Was sollte ich meinen Studierenden bzgl. der Nutzung von KI mitteilen?

Die Art und Weise, wie an der Hochschule gelehrt wird, sollte sich an die technologischen Entwicklungen und deren Möglichkeiten anpassen. In diesem Sinne sehen wir generative KI eher als Unterstützung denn als Bedrohung. Ermutigen (nicht verpflichten) Sie deshalb Ihre Studierende, Tools wie ChatGPT kreativ und kritisch zu nutzen, um ihre eigenen Texte zu verbessern, zu erweitern oder zu variieren, aber nicht, um sie zu ersetzen oder zu plagiieren.

Hinweise zum Umgang mit Verdachtsfällen zum unzulässigen Einsatz von KI-Tools in schriftlichen Arbeiten

An der Goethe-Universität ist eine Arbeitsgruppe eingerichtet worden, die sich mit den aktuellen Regelungsbedarfen rund um den Einsatz von KI-Tools im Hochschulkontext befasst. Die AG erarbeitet derzeit eine Handreichung, die sich an Lehrende, Studierende und die Institution als solche richtet. Bis zur Bereitstellung der Handreichung dient das vorliegende Papier zur Orientierung beim Umgang mit Verdachtsfällen mit Blick auf den unzulässigen Einsatz von KI-Tools in schriftlichen Arbeiten bei Studien- und Prüfungsleistungen.

Die Herausforderung für den Umgang mit Verdachtsfällen zum unzulässigen Einsatz von KI-Tools besteht darin, dass es aufgrund der Aktualität dieser Thematik bisher noch keine Rechtsprechung gibt. Zu diesem Zeitpunkt sind daher die bestehenden allgemeinen Grundsätze zur Beurteilung von Verdachtsfällen anzuwenden.

1. Umgang mit Verdachtsfällen einer unzulässigen KI-Nutzung

a) Feststellung einer Täuschungshandlung

• Der allgemeine Umgang mit Täuschungsfällen ist in § 29 Rahmenordnung geregelt.
• Die studiengangspezifischen Ordnungen enthalten entsprechende Regelungen.
• Studierende haben wegen des Gebots der Chancengleichheit eine eigene Leistung zu erbringen.
• Hierzu ist ausschließlich der Rückgriff auf die von der Prüfungsordnung bzw. von den Prüfenden gestatteten Hilfsmittel erlaubt.
• Eine Täuschungshandlung liegt vor, wenn der*die zu Prüfende eine selbständige und reguläre Prüfungsleistung vorspiegelt, obwohl er*sie sich bei deren Erbringung in Wahrheit unerlaubter bzw. nicht offen gelegter Hilfe bedient hat. Mit Blick auf die Verwendung von KI-Tools bedeutet dies, dass eine Täuschungshandlung vorliegen kann, wenn der*die Studierende von der KI generierte Texte übernimmt, ohne diese als Hilfsmittel zu markieren. Eine Täuschungshandlung liegt ebenfalls vor, wenn die gesamte Prüfung oder bedeutende Teile durch KI-Tools generiert werden, da dann eine eigenständige Leistung nicht mehr vorliegt. Es handelt sich zwar nicht um ein Plagiat, da der Text nicht von einer Person, sondern von einer Software erstellt wurde, jedoch wird über die Selbstständigkeit der Leistungserbringung getäuscht.
• Die Kennzeichnungspflicht ergibt sich in der Regel aus der Eigenständigkeitserklärung, mit der die Studierenden versichern, alle verwendeten Hilfsmittel angegeben zu haben.

b) Nachweis der Täuschung bzw. des Täuschungsversuchs

• Für die Sanktionierung einer Täuschung ist der Prüfungsausschuss zuständig.
• Besteht der Verdacht einer Täuschung durch eine unzulässige Verwendung von KI, müssen Lehrende ihren Verdacht mit entsprechender Begründung beim Prüfungsausschuss melden.
• Die Prüfungsverwaltung muss die Voraussetzungen für den Täuschungsversuch nachweisen. Der Vollbeweis der Täuschung bei der Verwendung von generativen KI-Tools ist derzeit noch überaus schwierig, da bis dato keine zuverlässige Erkennungssoftware erhältlich und eine KI-Nutzung damit nicht ohne weiteres überprüfbar ist. Zwar gibt es auf dem Markt bereits Programme wie AI Text Classifier oder ChatGPT Zero. Diese sind jedoch sehr fehlerbehaftet und dürften allein noch keinen ausreichenden Beleg der Täuschung darstellen.
• Die Rechtsprechung lässt allerdings bei Täuschungsversuchen den sog. Anscheinsbeweis zu. Der Beweis für eine Täuschung wird als erbracht angesehen, wenn einzelne Tatsachen bei verständiger Würdigung auf einen typischen Sachverhalt hindeuten, der aufgrund des allgemeinen Erfahrungswissens den Schluss zulässt, dass die behauptete Tatsache wahr ist. Es dürfen jedoch keine tatsächlichen Umstände gegeben sein, die ein atypisches Geschehen im Einzelfall ernsthaft möglich erscheinen lassen. Daher kann der*die zu Prüfende den Anscheinsbeweis für einen Täuschungsversuch entkräften, indem er*sie darlegt, dass ein anderer Geschehensablauf ernsthaft in Betracht kommt. Er*sie muss nicht das Gegenteil beweisen.
• Wenn die Beweismittel für die Feststellung der Umstände nicht ausreichen, die mit hinreichender Gewissheit eine Täuschung oder deren Versuch ergeben, darf keine Täuschung angenommen werden, d.h. die Prüfungsarbeit wird in der üblichen Form bewertet.
• Nach Jeremias und Fischer dürften Brüche in der Formulierung oder Argumentation für einen Anscheinsbeweis regelmäßig nicht allein ausreichen, da dies insbesondere bei längeren Arbeiten auch mit der gleichen Wahrscheinlichkeit aus anderen Umständen herrühren könne (vgl. Tagungsbericht von Karoline Haake, S. 6 abrufbar unter:https://www.verein-wissenschaftsrecht.de/data/file/tagungsbericht12.5.23_final.pdf).
• Hingegen kann von einem Anscheinsbeweis dann ausgegangen werden, wenn erfundene Quellen angegeben werden. Hierbei handelt es sich um ein typisches Phänomen von generativen KI-Tools. Ein Anscheinsbeweis dürfte auch dann anzunehmen sein, wenn beispielsweise neben den Brüchen in der Argumentation und Formulierung nach dem Ergebnis einer Detektionssoftware von einer Verwendung von KI-Tools auszugehen ist, also mehrere Umstände für die Verwendung von KI-Tools sprechen.
• Neben diesen objektiven Voraussetzungen ist zum einen erforderlich, dass der*die zu Prüfende die für die Täuschungshandlung maßgeblichen Umstände kennt, d.h. weiß, dass er*sie nicht zugelassene Hilfsmittel verwendet. Zum anderen muss der Täuschungserfolg für möglich gehalten und billigend in Kauf genommen werden. Dies bedeutet, dass die Person, die eine Täuschung versucht, glaubt oder für möglich hält, dass seine*ihre unzulässige Handlung tatsächlich dazu führen könnte, dass er*sie einen Vorteil in der Prüfung erhält, der das Prüfungsergebnis beeinflussen kann. Hierauf kann regelmäßig aus den Gesamtumständen des Falles, insbesondere dem Zustand der Arbeit und dem Verhalten des*der zu Prüfenden, geschlossen werden.
• Besteht angesichts der Umstände des Einzelfalls ein begründeter Verdacht der unzulässigen Verwendung von KI in einer Prüfung, können und müssen die betroffenen Studierenden mit den Vorwürfen konfrontiert werden. In diesem Zusammenhang wäre es denkbar, ein Gespräch mit dem*der betroffenen zu Prüfenden zu vereinbaren, in dem dieser den Anscheinsbeweis entkräften könnte. Eine Änderung der in der studiengangspezifischen Ordnung festgelegten Prüfungsform in eine nachträgliche mündliche Prüfung zwecks Überprüfung der Eigenleistung bei einem Täuschungsverdacht darf allerdings nicht erfolgen.
• Gelingt es den zu Prüfenden (auch auf andere Weise) nicht, den Anscheinsbeweis zu entkräften, gilt der Täuschungsversuch als nachgewiesen.

2. Sanktionsmöglichkeiten

Hier gelten die allgemeinen Regeln zum Umgang mit Täuschungsfällen.

3. Fazit

Damit ergeben sich folgende Handlungsschritte:

• Lehrende müssen Verdacht einer Täuschungshandlung beim Prüfungsausschuss anzeigen.
• Prüfung durch den Prüfungsausschuss, ob ein Anscheinsverdacht gegeben ist:
  • Sprechen die Einzelumstände (s.o.) für den Anschein, dass getäuscht wurde?
  • Wenn ja, dann zwecks Anhörung ggf. um Gespräch bitten.
    • Wenn der*die zu Prüfende den Täuschungsvorwurf entkräften kann, dann Bewertung der Arbeit wie üblich.
    • Wenn der Prüfungsausschuss zu dem Ergebnis kommt, dass aus seiner Sicht der Sachverhalt geklärt ist und der Anscheinsbeweis nicht entkräftet werden konnte, dann Bewertung der Arbeit als Täuschungsversuch.

Für weitergehende Fragen steht Ihnen das Team des Studien- und Prüfungsrechts zur Verfügung:

studienrecht@uni-frankfurt.de