Einsatz von KI-Anwendungen für die Leistungsbewertung an Schulen

Bei KI-Systemen existieren bereits spezialisierte Angebote, die gezielt auf den Bildungssektor zugeschnitten sind. Viele Lehrkräfte fühlen sich angesichts fehlender rechtlicher Grundlagen und ihres Unwissens zum Thema verunsichert. Das Fachpapier gibt Lehrkräften, Schulaufsichten und Entscheider:innen im Bildungswesen erstmals eine rechtliche Orientierung im Bereich generative künstliche Intelligenz bei der schulischen Leistungsbewertung.

KI-Anwendungen im Bildungsbereich: Rechtliche Grauzone

Kommerzielle edTech-Anbieter:innen profitieren von der einfachen Adaptierbarkeit großer generativer KI-Datenmodelle wie ChatGPT, Llama, Claude und Co. Ohne tiefen Programmieraufwand ist es nun möglich, KI-Services für Schulen anzubieten, die auf die unterschiedlichen Bedarfe im Bildungswesen anwendbar sind. Häufig jedoch geschieht der Einsatz von generativer künstlicher Intelligenz jedoch in rechtlich wenig ausbuchstabierten Umfeldern.

Die Deutsche Kinder- und Jugendstiftung möchte diese Lücke mit dem vorliegenden Papier, das in Kooperation mit der Kanzlei Spirit Legal entstanden ist, wenigstens für die Frage von Leistungsbewertung mit generativer künstlicher Intelligenz schließen.

KI in der schulischen Leistungsbewertung: Erstmals juristische Einordnung

Für das zunehmend populäre Feld von Leistungsbewertungen mit generativer künstlicher Intelligenz haben Manja Hauschild, Peter Hense, Tea Mustać und David Wagner erstmalig ausformuliert, was rechtlich geht und was nicht.

Die Jurist:innen stellen unter anderem fest: Die Anforderungen des Datenschutzrechts und der KI-Verordnung können meist nicht erfüllt werden. Deshalb ist der Einsatz von KI-Systemen zur Bewertung schulischer Leistungen in der Regel rechtswidrig. Schulen sind in der Pflicht, ihre Lehrkräfte über die rechtlichen Risiken aufzuklären. Ohne Sensibilisierung droht die Entstehung einer „Schatten-KI“ – nicht dokumentierter Systeme – an deutschen Schulen. Darüber hinaus basieren KI-Systeme auf Wahrscheinlichkeitsrechnungen und stellen deshalb keine echte Leistungsmessung oder Korrektur dar.

Empfehlungen und Take-aways

Die Autor:innen des Papiers kommen zu dem Schluss: KI-Systeme dürfen die Arbeit qualifizierter Lehrer:innen nicht ersetzen – sie können jedoch zu ihrer Entlastung beitragen und bessere Lernprozesse ermöglichen. Dieses Anwendungsspektrum stellt einen wichtigen Schritt in Richtung Integration digitaler Dienste im Bildungswesen dar.

Die DKJS formuliert dazu fünf Take-aways. Dazu gehört die Forderung klarer Richtlinien der Arbeitgeber:innen und Schulungen der Lehrkräfte zur Bekämpfung von „Schatten-KI“ sowie eine entsprechende Anpassung der Landesgesetze. Der KI-Einsatz darf außerdem nicht die mangelnde Ausstattung von Schulen an Personal und Sachmitteln ausgleichen.