© Adobe Stock Datei NR.: 275810514 Bildungseinrichtungslizenz von Feodora

Die fortschreitende Entwicklung von KI-Technologien eröffnet vielfältige Chancen im Bereich des Lehrens und Lernens, bringt jedoch auch ethische, soziale und rechtliche Herausforderungen mit sich. Diese Seite beleuchtet die gute Praxis im Umgang mit generativer KI an der TU Wien im Bereich Studium und Lehre unter Berücksichtigung eines hochschuldidaktischen Ansatzes. Die Entscheidung, ob Lehrkräfte KI-Systeme verwenden obliegt ihnen selbst. Sollten diese verwendet werden, dann müssen die Vorgaben klar definiert sein und der Umgang mit diesen entsprechend in den Fokus gestellt werden.

Die Verantwortung für verwendete Ergebnisse von solch generativen Systemen liegt immer beim Menschen und diese müssen daher kritisch hinterfragt werden.

© Adobe Stock Datei NR.: 618444229 Bildungseinrichtungslizenz von Feodora

Interdisziplinäre Integration: Nach Möglichkeit sollen KI-Themen in Lehrveranstaltungen integriert werden, damit Studierende den Umgang damit lernen. KI durchdringt viele Disziplinen und eröffnet unterschiedliche Möglichkeiten um bspw. als Lernpartnerin zu agieren. 

Praxisnähe in Ausbildung: Bei der Integration generativer KI sollte auf ein projektorientiertes Lernen gesetzt werden, bei dem Studierende aktiv KI nutzen. Dies fördert praktisches Wissen und kreative Problemlösung.

Ethik und Gesellschaft: Beim Einsatz von KI in der Lehre muss auch auf ethische und gesellschaftliche Aspekte von KI geachtet werden. Die Sensibilisierung von Studierenden für Verantwortung und die Auswirkungen von KI auf Gesellschaft ist ein zentraler Punkt.

Bias: Generative KI-Systeme sind niemals frei von Bias, weil sie den Bias der Materialien, mit denen sie trainiert werden, wiedergeben; dieser Bias kann Individuen, Gruppen von Menschen oder die Gesellschaft als Ganzes schädigen. Im Umgang mit synthetischen Medien ist daher entsprechende Vorsicht geboten; Studierende müssen daher auch in diesem Kontext zu kritischem Denken angeregt werden.

Kollaboratives Lernen: Kollaboratives Lernen und der Austausch von Ideen und Erfahrungen zwischen Studierenden kann gefördert werden. KI’s wie ChatGPT et al. können als Lernpartnerin nützlich sein um kritisches Denken zu fördern, da die Ergebnisse oft fehlerhaft sind.

Datenschutz: Im Zusammenhang mit KI-Systemen (wie auch bei anderen digitalen Systemen) kann Datenschutz ein Thema sein, wenn personenbezogene Daten für das Training der KI herangezogen werden oder die KI zur Auswertung von personenbezogenen Daten verwendet wird. Auch für KI Systeme gilt, dass Datenschutzstandards einzuhalten sind wie Zweckbindung der personenbezogene Daten oder datenschutzkonforme Datenübermittlung in ein „Drittland“. Studierenden müssen darauf hingewiesen werden, dass alles, was eingegeben wird auch entsprechend öffentlich zugänglich gemacht wird.

Transparenz und Erklärbarkeit: Die verwendeten KI-Modelle und -Algorithmen sollten möglichst transparent und erklärbar sein. Hierzu kann auch auf aktuelle Forschungsergebnisse zu unterschiedlichen Systemen hingewiesen werden. Das ist wichtig, um Vertrauen in die Entscheidungen der KI-Systeme zu schaffen und Diskriminierung zu verhindern.

Verantwortungsvolle Forschung: KI-Forschung soll ethisch und verantwortungsbewusst durchgeführt werden. Potenzielle Risiken und Auswirkungen auf die Gesellschaft und Umwelt müssen dabei beachtet werden.

Rechte am geistigen Eigentum respektieren: geistige Eigentumsrechte muss bei der Entwicklung und Verwendung von KI-Systemen respektiert werden. Hierzu kann es hilfreich sein, die Rechte an Daten, Modellen und Software im Vorfeld abzuklären.

Barriereärmerer Zugang zu Lehr- und Lernunterlagen unterstützen: Geläufige generative KI Anwendungen können auch dafür verwendet werden, um Bild- bzw. Videobeschreibungen zu erzeugen bzw. auch die automatisierte Untertitelung von Ton- und Videomaterial zu ermöglichen. Dies kann einen barrierearmen Zugang fördern und die Chancengleichheit unterstützen. Siehe auch: Barrierefreiheit in der Lehre

Verantwortungsvolle Forschung: Führen Sie KI-Forschung ethisch und verantwortungsbewusst durch. Berücksichtigen Sie potenzielle Risiken und Auswirkungen auf die Gesellschaft und Umwelt.

Rechte am geistigen Eigentum respektieren: Achten Sie darauf, dass bei der Entwicklung von KI-Systemen geistige Eigentumsrechte respektiert werden. Klären Sie die Rechte an Daten, Modellen und Software im Vorfeld.

Umgang mit KI bei schriftlichen Arbeiten: Da Large Language Models wie ChatGPT ganze schriftliche Arbeiten (Bspw. Bachelorarbeiten, Seminararbeiten, etc.), aber auch Präsentationen erstellen können, ist es wichtig den Prozess der Erstellung solcher Arbeiten in den Fokus zu rücken. ChatGPT et al. muss als Hilfsmittel dokumentiert werden und auch die Stellen, bei denen KI’s eingesetzt wurden, entsprechend markiert werden. Da die Antworten oft fehlerhaft sind, ist es wichtig, dass Studierende die Anwendung lernen.

Insbesondere ist zu dokumentieren, wozu generative KI-Systeme in der Erstellung der Arbeit verwendet wurden und wie sichergestellt wurde, dass die so erzeugten Medien inhaltlich korrekt sind. Als Anhang ist es auch sinnvoll zu dokumentieren, was daraus gelernt wurde. Für wesentliche Beiträge sind die verwendeten generativen KI-System sowie die Prompts und das Datum der Abfrage anzugeben, mit denen die Medien erzeugt wurden.

Generative Systeme müssen als Hilfsmittel dokumentiert werden und auch die Stellen, bei denen KI’s eingesetzt wurden, sind entsprechend zu markieren.

Hier sei auf den Leitfaden zum Umgang mit Plagiaten in studentischen Arbeiten an der TU Wien, öffnet eine Datei in einem neuen Fenster hinzuweisen.

Wenn generative KI-Texte ohne substanzielle Änderungen in eigenen Arbeiten verwendet werden, sollten sie ähnlich wie Zitate aus anderen Quellen behandelt werden. Dies bedeutet, dass eindeutig zu kennzeichnen ist, welche Textpassagen von einem generativen KI-System erstellt wurden.

Zusätzlich zur Kennzeichnung des synthetischen Materials ist eine Quellenangabe erforderlich, die den »Prompt« beinhalten, mit dem das Medium generiert wurde, ein Datum sowie das verwendete System. („Promptbeispiel, 12.09.2023, ChatGPT, Version“)

Erfahrungswerte sammeln und teilen: Um auch als TU Wien unseren Lernpfad zielorientiert weiter fortschreiten zu können, sind die von Ihnen gesammelten Erfahrungen für uns sehr wichtig und werden gerne gelesen. Erfahrungen können gerne an anna.fuessl@tuwien.ac.at gesendet werden.

Akadem. Integrität: Studierende müssen lernen, dass jeder Einsatz von generativer KI deutlich und transparent gekennzeichnet sein muss, die verwendeten Prompts offengelegt werden müssen und Links zu den Ergebnissen angegeben werden müssen. Es ist wichtig zu verstehen, dass die nicht offengelegte Verwendung von generativer KI in einer studentischer Arbeit einem Plagiat gleichkommt.

„Cognitive Bias“: Die sprachliche Flüssigkeit von Systemen wie ChatGPT wirkt Intelligent und Überzeugend und beeinflusst so die Wahrnehmung. Dies gilt auch, wenn die geschriebene Information fehlerhaft ist.

KI und Umwelt: Auf Ebene der Nachhaltigkeit sind Trainings der KI-Systeme sehr energieintensiv und entsprechend belastend. Dies gilt sowohl für etablierte Systeme wie ChatGPT als auch für selbst zu trainierende Modelle.

Diskriminierende Algorithmen: Die Verwendung von Algorithmen, die aufgrund von Geschlecht, Hautfarbe oder anderen geschützten Merkmalen diskriminierende Ergebnisse liefern könnten, sollen vermieden werden. Vor allem kleine Minderheiten und vulnerable Menschen können diskriminiert, stigmatisiert bzw. marginalisiert werden.

Unkontrollierte Autonomie: Vermeiden Sie den Einsatz von KI-Systemen mit hoher Autonomie, insbesondere wenn menschliche Aufsicht notwendig ist. Die Verantwortung sollte stets beim Menschen liegen. Jedes mögliche Risiko für den Einzelnen, die Gesellschaft und die Umwelt muss vermieden werden. KI-Systeme, die Menschen sozial oder politisch benachteiligen, ihre Macht über ihr Leben einschränken oder zu Diskriminierung führen, entweder durch das System oder durch die Art und Weise, wie es eingesetzt wird, sind von Natur aus problematisch.

Fehlende Datenschutzmaßnahmen: Stellen Sie sicher, dass angemessene Maßnahmen zum Schutz pers onenbezogener Daten ergriffen werden. Eine unzureichende Absicherung kann zu Datenschutzverletzungen führen.

Zunehmende Ungleichheit zwischen Studierende: Es besteht die Gefahr, dass sich finanziell besser gestellte Studierende bessere, kostenpflichtige Versionen der Tools leisten können, während diejenigen, die sich diese nicht leisten können, weniger von den verfügbaren kostenlosen Versionen profitieren.