FAQ zum KI-Einsatz im Studium

Künstliche Intelligenz (KI):
Künstliche Intelligenz bezeichnet die Fähigkeit von Computern oder Maschinen, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern. Dazu gehören Mustererkennung, Problemlösung, Entscheidungsfindung und das Lernen aus Daten. KI-Systeme nutzen Algorithmen und Modelle, um Informationen zu analysieren, Vorhersagen zu treffen oder Aktionen durchzuführen, die auf den verfügbaren Daten basieren.
 

Generative KI:
Generative KI ist eine spezielle Kategorie von KI-Systemen, die darauf ausgelegt sind, neue Inhalte zu erzeugen. Diese Inhalte können Texte, Bilder, Musik, Videos oder andere Datenformate sein. Generative KI-Modelle basieren häufig auf tiefen neuronalen Netzwerken, die aus umfangreichen Datenmengen trainiert werden. Ein bekanntes Beispiel für generative KI ist die Fähigkeit, realistische Bilder oder flüssige Texte zu erstellen, die von menschlicher Arbeit kaum zu unterscheiden sind.

Wichtig bei der Verwendung generativer KI ist die Qualität der Eingabe, des sogenannten „Prompts“. Dieser entscheidet über die Qualität, Umfang und Ausrichtung der Antwort.

Large Language Models (LLMs):
Large Language Models sind eine Unterkategorie der generativen KI, die speziell für die Verarbeitung und Erzeugung natürlicher Sprache entwickelt wurden. Sie basieren auf riesigen neuronalen Netzen, die auf umfangreichen Textdatensätzen trainiert werden. LLMs, wie beispielsweise GPT (Generative Pre-trained Transformer), können komplexe sprachliche Aufgaben wie das Verfassen von Texten, Beantworten von Fragen, Übersetzen von Sprachen oder Zusammenfassen von Inhalten ausführen. Ihre Stärke liegt in ihrer Fähigkeit, kontextbezogene und kohärente Antworten auf Eingaben zu generieren.

Grundsätzlich steht die htw saar der Verwendung von KI-Werkzeugen in Studium und Lehre positiv gegenüber. Studierende sollten im Rahmen ihres Studiums die (KI-)Kompetenzen erwerben, die sie ihn ihrem zukünftigen beruflichen Umfeld benötigen.

Jedoch ist ein sinnvoller Einsatz kontextabhängig (insbesondere im Hinblick auf die Lernziele) und sollte situativ zwischen Lehrenden und Studierenden abgestimmt und klar definiert werden, insbesondere wenn es um die Erstellung der Prüfungsleistung geht. Es ist darauf zu achten, dass alle Studierenden Zugang zu benötigten KI-Tools haben (Chancengleichheit) und dass sie über rechtliche Aspekte (Datenschutz, Urheberrecht) sowie Nutzungsbedingungen informiert wurden. Dies betreffen auch die Konsequenzen bei einem Verstoß gegen derart getroffene Vereinbarungen.

Allen Studierenden muss bewusst sein, dass sie selbst für die Qualität ihrer (wissenschaftlichen) Arbeit verantwortlich sind. Die Erstellung einer solchen Arbeit stellt eine signifikante geistige Eigenleistung dar. Daher müssen Studierende den kompletten Schreibprozess selbst steuern und verantworten.

Es kann auch sein, dass bei Lehrveranstaltungen, wo es beispielsweise um das Erlernen von Schreibkompetenzen geht, KI-Schreibwerkzeuge explizit verboten werden. Dies sollte dann jedoch vom Lehrenden begründet und klar kommuniziert werden.

Grundsätzlich ist zu beachten, dass eine KI das sogenannte „deep reading“ nicht ersetzen kann. Es gibt klare neurowissenschaftliche Hinweise, dass das von der KI Produzierte sich nicht im Langzeitgedächtnis verankern kann und daher nach einiger Zeit nicht mehr abrufbar ist. Das heißt, das eigene konzentrierte Lesen, dem Nachgehen einer Begründung und das eigene reflektierte Einordnen kann nicht über KI ersetzt werden.

Die folgende Tabelle [1] gibt einen Überblick darüber, für welche Einsatzzwecke KI-Tools bei schriftlichen Ausarbeitungen verwendet werden dürfen. Außerdem wird dort aufgeführt, in welchen Fällen die Verwendung kenntlich gemacht werden soll.

[1] In Anlehnung an: Staubach, Juliane; Dick, Thorsten: Zulässigkeit und Kenntlichmachung von KI in schriftlichen Prüfungen. In: Die Neue Hochschule, 2024-4, S. 30–31.

Lehrende können in Anlehnung an die Tabelle selbst entscheiden, für welche Zwecke diese Tools innerhalb der schriftlichen Ausarbeitung ihres Moduls bzw. innerhalb von Abschlussarbeiten verwendet werden dürfen. Dozierende kommunizieren ihren Studierenden die Zulässigkeit schriftlich und direkt zum Start der Lehrveranstaltung bei der Vorstellung der Anforderungen an die Prüfungsleistung (z.B. im zugehörigen Moodle-Kurs).

Der Einsatz von KI-Tools muss bei der Ausarbeitung einer wissenschaftlichen Arbeit oder Prüfungsleistung gemäß den Grundsätzen guter wissenschaftlicher Praxis und des Prüfungsrechts transparent dokumentiert und reflektiert werden.

Statt einer reinen Auflistung von Prompts empfiehlt es sich, ein Reflexionsprotokoll oder eine Dokumentation der KI-Nutzung zu führen und der Arbeit beizufügen. Diese Dokumente dienen dazu, die Auseinandersetzung mit den KI-Tools sowie die eigene intellektuelle Leistung nachvollziehbar zu machen.

Typische Inhalte einer solchen Dokumentation sind die Beschreibung des Einsatzzweckes der verwendeten KI-Tools, die Nennung der Tools, Reflexion und Bewertung der KI-Nutzung (was war hilfreich, was nicht), Reflexion und Bewertung des eigenen Denk- und Arbeitsprozesses. Es sollte ebenfalls die eigene Leistung herausgestellt werden und die eigenständige intellektuelle Auseinandersetzung mit dem jeweiligen Thema, welche über eine reine Nutzung der Tools hinausgeht.

Es gibt eine Vorlage für ein Reflexionsprotokoll für wisschenschaftliche Ausarbeitungen, welches in den Moodlekursen „KI für Lehrende/Mitarbeitende“ und „KI für Studierende“ zielgruppenspezifisch hinterlegt ist.

Der Umfang und die Detaillierung des Protokolls können dabei von den Dozierenden an Art und Umfang des KI-Einsatzes angepasst werden. Lehrende stellen ihren Studierenden die (abgeänderte) Vorlage zur Verfügung und teilen ggf. weitere Vorgaben zur Dokumentation der KI-Nutzung mit.

Spezifische Vorlagen für andere Prüfungsformen (z.B. Projektarbeiten mit Code-Erstellung oder Entwurfsarbeiten) werden von den Fakultäten/Fachbereichen erarbeitet.

Generative Künstliche Intelligenz (KI) wie ChatGPT oder andere Sprachmodelle können vielseitige Unterstützung, von der Erstellung von Texten bis hin zur Beantwortung komplexer Fragen bieten. Gleichzeitig stellt sich dabei jedoch die Frage, wie zuverlässig die von solchen Systemen bereitgestellten Informationen sind.

Generative KI wurde auf riesige Mengen von Textdaten trainiert, die aus unterschiedlichsten Quellen stammen. Dadurch kann sie große Wissensmengen auf Abruf bereitstellen, was bei der Recherche oder Ideenfindung nützlich sein kann. Oft stellt sie Informationen in einem breiten Kontext dar, um ein Thema zu beleuchten. KI erzeugt dabei oft grammatikalisch und stilistisch korrekte Texte, die einen professionellen Eindruck machen. Trotz dieser Vorteile gibt es gravierende Einschränkungen im Hinblick auf fehlende Gewährleistung der Richtigkeit. Generative KI kann faktisch falsche oder ungenaue Informationen liefern. Diese entstehen, wenn die zugrunde liegenden Trainingsdaten Fehler enthalten oder wenn das Modell Informationen in einen falschen Zusammenhang bringt. Dabei ist das sogenannte Halluzinationen ein bekanntes Problem von Sprachmodellen, bei dem die KI scheinbar plausible, aber inhaltlich falsche Fakten oder Quellen erfindet. Auch ist die Aktualität nicht immer gewährleistet, da die Trainingsdaten von generativer KI oft zu einem bestimmten Zeitpunkt enden. Informationen, die danach veröffentlicht wurden, sind ihr unbekannt. Zudem kann KI keine Quellen bewerten oder die Vertrauenswürdigkeit von Informationen eigenständig einschätzen.

Um die Faktentreue zu überprüfen und potenzielle Fehler zu minimieren, sollten Studierende und Lehrende folgende Strategien anwenden:

1. Informationen validieren: Antworten der KI sollten stets durch weitere, vertrauenswürdige Quellen überprüft werden. Das gilt insbesondere für wissenschaftliche Fakten oder spezifische Daten.
2. Kritisches Denken anwenden: Nutzer*innen sollten sich fragen, ob die bereitgestellten Informationen logisch erscheinen und zu ihrem Vorwissen passen.
3. Quellen verlangen: Wenn die KI Quellen angibt, sollten diese überprüft und auf ihre Seriosität hin bewertet werden. Fehlen Quellen, sollte dies als ein Zeichen für potenzielle Unsicherheit gewertet werden.
4. KI gezielt einsetzen: Generative KI eignet sich gut zur Inspiration, Ideensammlung oder für allgemein gehaltene Informationen. Sie sollte jedoch nicht als einzige Quelle verwendet werden, insbesondere bei wissenschaftlichen Arbeiten.

Wichtig: Sie als Anwender*innen der KI-Werkzeuge verantworten vollständig die Ergebnisse!

Datenschutz

Fast alle KI-Tools sind NICHT datenschutzkonform. Sie dürfen daher dort keine personenbezogenen oder sensiblen Daten (z.B. Namen, Matrikelnummer, vertrauliche Daten) eingeben – weder von sich selbst oder anderen.

Eine Einteilung verschiedener Arten von Daten nach Schutzklassen an der htw saar finden Sie hier.:
https://moodle.htwsaar.de/pluginfile.php/320505/mod_resource/content/0/Datenschutzklassen.pdf

Sie sind verpflichtet, bei jedem KI-Tool, welches Sie verwenden, sich über die Nutzungsbedingungen und Datenschutzhinweise zu informieren und gemäß diesen die Werkzeuge zu nutzen.
 

Urheberrecht

Es ist strikt zu beachten:

• Urheberrechtliche Prüfpflicht und Upload-Verbot: Es ist untersagt, urheberrechtlich geschützte Werke Dritter – oder Prüfungsleistungen und deren Teile – ohne ausdrückliche Genehmigung des jeweiligen Rechteinhabers in öffentliche oder nicht datenschutzkonforme KI-Tools hochzuladen, zu verarbeiten oder als Input zu verwenden. Dies gilt insbesondere für Texte, Bilder, Grafiken, Daten oder andere Medien, die nicht gemeinfrei sind oder für deren Nutzung keine entsprechende Lizenz vorliegt.
• Verantwortung für Urheberrechtsverletzungen: Nutzer*innen sind verantwortlich und haftbar für alle Urheberrechtsverletzungen, die durch ihre Nutzung von KI-Tools entstehen, sei es durch das Hochladen von geschütztem Material oder durch die Weiterverwendung von KI-generierten Outputs, die ihrerseits Urheberrechte Dritter verletzen könnten. Letzteres kann auftreten, da möglicherweise beim Training der Large Language Models urheberrechtlich geschützte Daten verwendet wurden. 
• Konsequenz bei Verstößen: Eine Missachtung dieser Vorgaben kann neben prüfungsrechtlichen Konsequenzen auch zivilrechtliche Ansprüche der Rechteinhaber nach sich ziehen.

Die Nutzung des HAWKI-Systems der htw saar wird empfohlen, da hier die Nutzerdaten anonymisiert werden und keine Weitergabe der eingegebenen Daten zu Trainingszwecken stattfindet. Daher dürfen Studierende Vorlesungsskripte ihrer Lehrenden, Musterklausuren und eigene Ausarbeitungen in HAWKI hochladen und durch das System verarbeiten lassen, um diese für individuelle, selbstgesteuerte Lernprozesse aufzubereiten. Dies ist gestattet, da das Nutzungsrecht der von Lehrenden bereitgestellten Materialien den Zweck des Lernens einschließt und durch HAWKI die Werke in einer Weise verarbeitet werden, die eine Weitergabe an Dritte zur Bearbeitung oder Verwertung ausschließt.

Informationen hierzu finden Sie in folgenden Moodlekursen:

• Für Studierende: KI für Studierende
• Für Lehrende: KI für Lehrende