KI in der Lehre: Rechtliche Empfehlungen

Rechtskonforme Verwendung von Quellen: Stellen Sie sicher, dass Sie die entsprechenden Rechte oder Lizenzen zur Nutzung des betreffenden Inhalts haben, bevor sie diesen als Input in den KI-Dienst eingeben.

Einhaltung von Nutzungsbedingungen: Stellen Sie sicher, dass Sie die Nutzungsbedingungen des Anbieters des jeweiligen KI-Dienstes verstehen und einhalten. Bei GPT sind dies insbesondere die Nutzungsbedingungen für den Dienst.

Beachtung der Grundsätze guter Wissenschaftlicher Praxis: Bevor Sie Inhalte, die von einem generativen KI-Dienst erstellt wurden, veröffentlichen oder in großem Umfang verwenden, stellen Sie sicher, dass Sie die Grundsätze guter Wissenschaftlicher Praxis der Hochschule beachtet haben.

Das Gesetz über Urheberrecht (UrhG) gilt,

• Output eines KI-Dienstes muss ein Werk sein,
• Werke sind im Sinne des § 2 Abs. 2 UrhG persönliche geistige Schöpfungen
• Entstehen durch menschliches Schaffen - KI-Dienste sind keine Menschen
• deutsche Urheberrecht greift für durch KI-Dienste generierte Outputs zunächst nicht.

ACHTUNG! Sorgfalt bei

• Eingabe von urheberrechtlich geschütztem Material (Prompts)
• Direkte Kopien bestehender Werke
• Zufälligen Ähnlichkeiten
• Urheberschaft durch die Nutzenden selbst

• Prüfungsleistungen müssen grundsätzlich selbständig und ohne unzulässige fremde Hilfe erbracht werden
• eigenständige Leistung ist wesentliches Merkmal einer Prüfungsleistung

• Schriftliche Prüfungsleistungen ohne Aufsicht bedürfen der Eigenständigkeitserklärung
• Überwachte Klausurleistungen
• Mündliche Prüfungen

• unter Aufsicht in den Räumen der Hochschule sehr gut kontrollierbar
• Prüfungsdurchführung und Täuschungskontrolle
• bei Prüfungen ohne Aufsicht ist eine Täuschungskontrolle schwierig bis hin zu unmöglich.

• Technische Systeme zur automatisierten Erkennung KI-generierter Texte werden als „KI-Detektoren“ bezeichnet.
• Nach aktuellem Stand der Forschung existieren aktuell keine hinreichend zuverlässigen technischen Werkzeuge zur Erkennung KI-generierter Texte
• empirische Untersuchung zur Leistungsfähigkeit von KI-Detektoren: Weber-Wulff et al. 2023 „Testing of detection tools for AI-generated text“ https://doi.org/10.1007/s40979-023-00146-z

• Derzeit fehlen sowohl Sachverhalte als auch geltende Rechtsprechung 
• Generell: unzulässiger Einsatz von KI-Diensten ist ein Täuschungsversuch
• Wenn nicht beobachtet, dann Täuschungsverdacht
• Eine Kombination mehrerer Aspekte kann den Täuschungsverdacht untermauern

Für das Führen des Nachweises einer Täuschungshandlung wird auf den Prozess Täuschungsversuch verwiesen.

Mögliche Verdachtsmomente:

• Nicht-existente Quellenangaben oder erfundene Zitate.
• Klare Bezüge in der Arbeit, die einen KI-Dienst als Ersteller ausweisen und offensichtlich per copy-paste in die Arbeit aufgenommen wurden.
• Stilbrüche, Stilwechsel oder erhebliche Unterschiede bei der sprachlichen oder inhaltlichen Qualität innerhalb einer Arbeit.
• Erhebliche Unterschiede bei der sprachlichen oder inhaltlichen Qualität im Vergleich zu anderen Arbeiten derselben Studierenden.
• Ungewöhnlich umfangreiche Textproduktion innerhalb kurzer Zeit.

• Aktuell gibt es keine einheitlichen Vorgaben dazu, wie die Nutzung von KI-Diensten als zulässige Hilfsmittel in Prüfungen konkret zu kennzeichnen ist
• Prüfende können, wie bei anderen Hilfsmitteln auch, hierzu Vorgaben machen
• Für schriftliche Prüfungen mit Ausnahme von Klausuren unter Aufsicht ist zusätzlich eine Eidesstattliche Versicherung abzugeben.

• Die prüfungsrechtliche Bewertung von KI-Diensten für den Entwurf von Prüfungsfragen oder -aufgaben hängt maßgeblich von der Rolle der menschlichen Prüfenden und dem Beitrag der KI-Dienste ab
• Verantwortung für die inhaltliche, fachliche und prüfungsdidaktische Gestaltung von Prüfungsaufgaben liegt bei Prüfenden und kann nicht an KI-Dienste übertragen werden.
• KI-Dienste gelten nach aktueller Einschätzung nicht als „Augenpaar“ oder „Prüfer“
• „Zwei-Prüfer-Prinzip“ zur Erstellung von Multiple Choice-Aufgaben wird durch das Hinzuziehen eines KI-Dienstes nicht erfüllt.

Derzeit ist die Korrektur von Prüfungen mithilfe von KI-Diensten nur mit Einschränkungen zulässig, da Rechtsvorschriften auf mehreren Gebieten tangiert sind.

• Klausuraufgaben im offenen Format (z.B. Texte) - Lösungen der Studierenden sind Werke (§ 2 Abs. 2 UrhG)
• Verwendung der Lösung als Input für einen KI-Dienst ist eine Vervielfältigung (§ 16 UrhG), der die betroffene Person zustimmen muss
• aktuell nicht Teil der prüfungsrechtlichen Bestimmungen = nicht zulässig.
• Ausnahme: vorübergehende oder flüchtige Vervielfältigung, die als wesentlicher Teil eines technischen Verfahrens geschehen muss, um eine Übertragung eines Werkes oder sonstigen Schutzgegenstands überhaupt zu ermöglichen (§ 44a DSGVO). Wird also die hochgeladene Prüfungslösung anschließend wieder gelöscht, ist eine solche Verwendung rechtskonform. Die Löschung kann bei extern bereitgestellten KI-Diensten regelmäßig nicht gewährleistet werden. Im Gegenteil behalten sich viele Anbieter solcher Dienste vor, hochgeladene Daten für ein späteres Training weiterzuverwenden.

• Personenbezogene Daten bei der KI-unterstützten Korrektur dürfen nicht Teil des Prompts sein, unbedingt anonymisieren (Verletzung von Persönlichkeitsrechten)

• Eine auf ausschließlich automatisierter Verarbeitung beruhende Entscheidung ist unzulässig, wenn sie gegenüber der betroffenen Person rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt (Art. 22 Abs. 1 DSGVO)
• Die Letztentscheidungskompetenz muss bei den Prüfenden als natürliche Personen liegen.
• Auch die Übertragung einer Vorkorrektur an einen KI-Dienst ist kritisch zu bewerten.
• Ein KI-Dienst ersetzt zudem nicht das in vielen Prüfungsordnungen an Hochschulen referenzierte „Zwei-Prüfer-Prinzip“ bei der Bewertung von Prüfungsleistungen.

• Das Hochladen von Personenfotos, Videos, Audioaufzeichnungen oder die Eingabe von Informationen über Personen, ist ohne Einwilligung der betroffenen Personen unzulässig.
• Keine personenbezogenen Daten (Art. 4 Abs. 1 und Art. 9 DS-GVO)

Erläuterungen: Was sind „Personenbezogene Daten“?

Alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen (Art. 4 Nr. 1 DSGVO). Unterfall: „Besondere Kategorien personenbezogener Daten“(Art. 9 Abs. 1 DSGVO): besonders sensible Angaben, d.h. z.B. Angaben aus denen die ethnische Herkunft oder politische Meinungen hervorgehen sowie genetische Daten, Gesundheitsdaten etc.

„Personenbezogene Daten“ sind alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen (Art. 4 Nr. 1 DSGVO).

Was heißt in diesem Zusammenhang identifizierbar? => Verfügen Dritte über eine Zuordnungsmöglichkeit der Daten zu der betroffenen Person?

Das ist immer gegeben bei Klardaten wie:

• Klarname
• Personalisierter E-Mail-Adresse
• Vollständige postalische Anschrift
• Foto- oder Videoaufnahmen

Aber auch Personenbezug bei Informationen mit anderen Daten möglich:

=> Wenn bei einer Gesamtbetrachtung durch die Informationen eine Person so konkret umschrieben wird, dass Dritten eine Identifizierung der Person möglich ist.

• Die Hochschule hat bei der Bereitstellung des KI-Dienstes streng auf den Datenschutz ihrer Angehörigen im Rahmen der Nutzung geachtet.
• Eine Minimierung der bei Registrierung und Login übertragenen personenbezogenen Daten ist angestrebt. Die konkret übertragenen personenbezogenen Daten sind der Datenschutzerklärung für den Dienst zu entnehmen.

• Im Verlaufe einer Prüfung mit KI-Diensten als zugelassene Hilfsmittel übertragen Studierende notwendigerweise Daten an den Dienst, z.B. Prompts, Aktivitätsdaten, ggf. auch personenbezogene Daten, für die eine datenschutzkonforme Verarbeitung zu gewährleisten ist. Die Übertragung ist für die Studierenden verbindlich und kann durch diese nicht vermieden werden. Es gelten deshalb besondere Schutzbedingungen für den rechtskonformen Einsatz.
• Aus diesem Grund stellt die Hochschule generative KI-Dienste bereit, die von den Mitgliedern der Hochschule genutzt werden können. Eine genaue Aufstellung der übertragenen Daten liefert etwa die Datenschutzerklärung für den Dienst.

• Sollen für den Prüfungskontext externe KI-Dienste eingesetzt oder beschafft werden, erfordert dies eine Datenschutzklärung mit besonderer Beachtung
  • Transparenzgebot, der Zweckbindung und der Datenminimierung nach Art. 5 DSGVO
  • eine Datenschutzfolgeabschätzung
  • weitere Rechtsklärungen, u.a. Vorliegen einer Auftragsdatenverarbeitung, Transparenz der Betroffeneninformation u. Speicher- und Löschfristen.
  • Kontakt zu Rechtsstelle und Projekt GenKI Universität Bremen (genkiprotect me ?!uni-bremenprotect me ?!.de) sinnvoll